Глава Anthropic запропонував уповільнити розвиток ШІ - цю ідею підтримали Сем Альтман і Ілон Маск

Ідея своєрідної «модерації» розвитку штучного інтелекту почала висловлюватися різними представниками галузі майже одночасно після низки інцидентів у сфері інформаційної безпеки. Глава Anthropic Дарио Амодеї закликав ШІ-стартапи зменшити темпи, і ця ініціатива попередньо отримала схвалення конкурентів у особі OpenAI та SpaceX (xAI).

Джерело зображення: Anthropic

Принаймні, ідею Амодеї в соціальних мережах надзвичайно швидко підтримали Сем Альтман та Ілон Маск, що не зовсім характерно для нинішнього стану ШІ-індустрії, що характеризується гострою конкуренцією. Альтман, у свою чергу, пояснив необхідність упорядкування ситуації з безпекою ШІ рішенням цього стартапу не проводити IPO у 2026 році, а відкласти його на більш пізній термін.

У своїй публікації на сторінках блогу Anthropic Дарио Амодеї запропонував трьохетапний план стримування темпів розвитку ШІ без шкоди для комерційних інтересів стартапів або жертвування лідируючими позиціями США в цій сфері. Деякі з запропонованих ним заходів будуть більш складними для реалізації, інші виявляться простішими, але зайнятися саморегулюванням галузь буде просто змушена.

По-перше, глава Anthropic запропонував надати незалежним експертам доступ до внутрішніх процедур у сфері безпеки та звітів про інциденти. Другий етап пропонує провідним компаніям країн, які вважають себе демократичними, координувати свою роботу між собою та розробити спільні стандарти безпеки. Третій пункт плану пропонує державам з різними політичними режимами домовлятися між собою щодо розвитку ШІ. Частково подібні пропозиції керівництвом Anthropic були оприлюднені також з метою зниження градусу суспільного напруження, яке було піднято одкровеннями, що покинули Anthropic та OpenAI, спеціалістів, які звинуватили керівництво стартапів у нехтуванні людськими життями.

Амо́деї пояснив, що ідеї модерації розвитку ШІ витали в повітрі ще з 2023 року, але тоді вони не були настільки актуальними для реалізації, оскільки в той час ШІ-моделі не були достатньо потужними, щоб становити серйозну загрозу людству з практичної точки зору. «Я продовжую вірити, що ШІ здатний неймовірно покращити якість людського життя. Моє прагнення досягти цього не зменшилося, але ці блага будуть досягнуті лише в тому випадку, якщо ми будемо розвивати технологію в правильному напрямку, і з огляду на використання часу для досягнення прогресу, слід особливо ретельно подбати про те, щоб зробити все правильно», — зізнався Амодеї у своєму есе на сайті Anthropic.

При всьому цьому глава компанії наполягає на необхідності вибору оптимального темпу розвитку, адже якщо США будуть занадто повільно розвивати ШІ, то геополітичні конкуренти можуть опинитися попереду. Сара Хек, яка в Anthropic відповідає за зв'язки з громадськістю, закликала уряд США підключитися до процесу регулювання галузі, заборонивши експорт передових чіпів до Китаю, і прийняти закон, який вимагав би відбору ШІ-моделей за критерієм безпеки з обов'язковим попереднім тестуванням.

Сем Альтман висловив свою солідарність з думкою Амодеї, пояснивши, що і всередині OpenAI подібні дискусії ведуться вже кілька тижнів поспіль. Він підтримав ідею конкурента про надання стороннім експертам доступу до роботи над передовими ШІ-моделями, висловивши готовність реалізувати таку міру з боку OpenAI. Ведучий науковий співробітник компанії Якуб Пачоцкі нещодавно також закликав гравців ринку до добровільного уповільнення темпів розвитку ШІ до появи загальноприйнятих стандартів безпеки. Ілон Маск, який очолює увійшовший до складу SpaceX стартап xAI, зі сторінок своєї соціальної мережі X лаконічно підтримав главу Anthropic, визнавши його правоту.

«Я вірю, що навіть якщо уповільнення дозволить нам виграти рік або два, перш ніж моделі досягнуть критичного рівня можливостей, і ми використаємо цей час для наведення порядку, ми зможемо значно знизити ризик того, що щось піде серйозно не так», — зазначив глава Anthropic.

Хочеш дізнатися більше — читай відгуки