Розвиток невеликих моделей ШІ для ПК загрожує OpenAI та Anthropic — часто вони не гірші за великі

Американські дослідники з'ясували, що компактні ІІ-моделі (SLM), які запускаються на локальних комп'ютерах, здатні ефективно виконувати більшість завдань, які наразі покладаються на великі центри обробки даних. Однак, як пише Reuters, намічений перехід до менш ресурсозатратних технологій ставить під загрозу бізнес-моделі та високі ринкові оцінки таких гігантів індустрії, як OpenAI та Anthropic.

Джерело зображення: AI

Під час тестування вчені порівнювали роботу малих мовних моделей на пристроях Mac та ПК з серверними платформами, які надають доступ до великих мовних моделей (LLM). Загалом було використано 500 тисяч звичайних запитів та аналогічну кількість завдань на логічне мислення. Виявилося, що в більш ніж 80 % випадків локальні SLM не поступаються і навіть перевершують великі LLM, а в сферах продажів, менеджменту та розваг їх показник успішності наблизився до 100 %. При цьому в найскладніших обчисленнях SLM справляються не гірше великих у 50 % ситуацій, хоча ще два роки тому цей рівень становив всього 8 %.

SLM проти LLM у різних областях:

Ключовим показником розвитку SLM став різкий зріст характеристики «інтелект на ватт» (intelligence per watt), який за останні два роки покращився більш ніж у п'ять разів, дозволяючи локальним платформам споживати на 50–80 % менше енергії при збереженні високої точності. На фоні цих тенденцій компанія Nvidia ще 1 червня представила нову ІІ-платформу для операційної системи Windows, продемонструвавши, що індустрія вже починає адаптуватися до десктопних обчислень за межами масштабних центрів обробки даних.

Reuters зазначає, що зміщення фокусу в бік невеликих моделей, які базуються переважно на відкритому вихідному коді та доступні безкоштовно, здатне суттєво знизити розмір прибутку комерційних провайдерів і знецінити ту ж SpaceX разом із її проектом xAI, загальна капіталізація яких оцінюється інвесторами в $2,85 трлн на хвилі очікувань від ІІ. Оскільки локальні обчислення не вимагають використання дорогих чіпів GPU, TPU та Trainium, необхідність у будівництві масштабної інфраструктури зменшується, що, в свою чергу, може спровокувати скорочення капітальних витрат і сповільнення темпів зростання виробників напівпровідників.

На думку інвестиційного стратега компанії Panmure Liberum Йоахима Клемента (Joachim Klement), головними вигодонабувачами від подібної трансформації ринку стануть виробники настільних комп'ютерів, такі як Apple та інші компанії. Експерт вважає, що нещодавня ініціатива Nvidia щодо виходу на ринок десктопних ІІ-систем є не стільки класичною стратегією диверсифікації, скільки спробою застрахувати свої ризики та зберегти позиції в галузі незалежно від того, яким шляхом піде подальша технологічна еволюція.

Хочеш дізнатися більше — читай відгуки