Американські ШІ-гіганти в присутності Трампа домовилися про саморегулювання в галузі безпеки

Подія в Білому домі вчора об'єднала представників більш ніж десятка великих американських компаній, так чи інакше пов'язаних зі сферою штучного інтелекту. У присутності президента США Дональда Трампа представники галузі підписали меморандум, згідно з яким вони беруть на себе зобов'язання щодо саморегулювання розвитку штучного інтелекту.

Джерело зображення: Unsplash, Tomasz Zielonka

При цьому сам Дональд Трамп паралельно просував іншу ініціативу щодо перейменування «штучного інтелекту» на «суперінтелект» (superintelligence) в надії дистанціювати це поняття від тих негативних асоціацій, які закріпилися за ним в останні місяці через скандали з безпекою ШІ-моделей. Своїм указом Трамп вимагав використовувати термін «суперінтелект» усім державним відомствам США. По всій видимості, цей крок в якійсь мірі спрямований на завоювання довіри американських виборців перед проміжними виборами, які відбудуться в листопаді. Указ отримав назву «Проголошуючи еру суперінтелекту», його положення вимагають від офіційних осіб виключити використання терміна «штучний інтелект» або скорочення «AI».

За словами Трампа, це рішення підтримали «найрозумніші та найчудовіші люди з усього світу». Тим часом основним документом, що з'явився за підсумками зустрічі американського президента з широкою групою керівників американських компаній технологічного сектора, стало «Угода про суперінтелект», яка була забезпечена підзаголовком «Спільна угода щодо передових зобов'язань». Хоча формально цей документ не має суворої юридичної сили, він слугує підтвердженням добровільної згоди учасників американського ринку ШІ-систем дотримуватися деяких принципів саморегулювання. Трамп порівняв підписаний документ «з якоюсь конституцією» за значущістю для ШІ-індустрії. Він також зізнався, що адміністрація президента розглядає можливість створення спеціального урядового комітету з десяти осіб, який курируватиме розвиток ШІ. Склад цього органу влади Трамп розкривати не став, але заявив, що буквально через три або чотири дні назве ім'я чиновника («ШІ-царя»), який в уряді США буде курирувати розвиток цих технологій.

Окрім іншого, ця угода передбачає проходження регулярного незалежного аудиту розробниками ШІ-моделей. Учасники ініціативи також зобов'язуються регулярно зустрічатися для розробки стандартів безпеки. З часом, як підкреслюється, формульовані принципи можуть бути закріплені на законодавчому рівні. З боку широкої делегації учасників зустрічі в Білому домі документ підписали керівники Google, Tesla (SpaceX), Anthropic, Meta Platforms, OpenAI та Nvidia. За словами самого Трампа, цей документ накладає на підписавші його компанШІ «моральні зобов'язання» і стає своєрідною гарантією захисту.

З боку учасників ініціативи, окрім зобов'язань проведення регулярного незалежного аудиту безпеки розроблюваних ШІ-систем, документ передбачає створення спеціального комітету в складі ради директорів, який і буде розглядати результати цього аудиту. Від розробників також вимагається посилення заходів контролю за діями ШІ-моделей на етапі навчання та розгортання, щоб вони не вторгалися в сторонні технічні системи «небажаним чином». Відповідати за збереження контролю за моделями всередині кожної компанШІ повинна окрема структура.

Одночасно учасники зустрічі в Білому домі підтвердили свої наміри розширювати обчислювальну інфраструктуру ШІ ударними темпами, оскільки діючий президент США є запеклим прихильником прогресу в цій сфері. Прийнято вважати, що стрімка експансія ЦОД на територШІ США шкодить рейтингам Республіканської партії, представником якої є Трамп. Місцеві жителі протестують проти будівництва ЦОД, які займають великі земельні ділянки, споживають багато водних ресурсів і електроенергії, а також стають джерелом постійного шуму. Трамп цього тижня підкреслив, що поширення ЦОД по територШІ США є дуже хорошою тенденцією, і представники компаній, що їх будують, зацікавлені в тому, щоб місцеві жителі залишалися задоволеними. В іншому випадку їм доведеться будувати ЦОД за межами США. Президент поклав на компанії обов'язки щодо проведення роз'яснювальної роботи серед населення, щоб воно не так сильно опиралося будівництву нових ЦОД.

Генеральний директор Anthropic Дарио Амодеї, якого не запросили на офіційну вечерю з участю Сі Цзіньпіна під час візиту китайського лідера у Вашингтон, був присутній на заході разом зі своїми колегами з інших компаній і за підсумками зустрічі висловив готовність підтримувати спільну роботу з президентом щодо забезпечення безпеки випущених ШІ-технологій. Повідомляється, що Амодеї в минулу неділю відвідав Білий дім для персональної зустрічі з американським президентом. Після групової зустрічі з представниками галузі Трамп відгукнувся про голову Anthropic, як про «фантастичну людину» і відправив його спілкуватися з пресою.

Трамп підкреслив, що контроль за розвитком ШІ будуть здійснювати й звичні федеральні відомства, включаючи ФБР та Міністерство юстицШІ США, але одночасно потрібно й саморегулювання з боку представників галузі. В той же день уряд США оголосив про запуск нового чат-бота, який працюватиме на урядових сайтах. Ресурс America.gov, призначений для взаємодії з громадянами з питань послуг уряду, функціонуватиме за підтримки профільних ШІ-моделей. Послуги можна буде отримувати за принципом «єдиного вікна». Усі федеральні агентства повинні будуть інтегрувати свої сервіси з цим ресурсом. Отримається щось на кшталт американської версії «Госпослуг».

Хочеш дізнатися більше — читай відгуки