«Вони можуть погубити всіх нас»: у США через суд вимагали заборонити OpenAI, Google та іншим навчати передові ШІ-моделі

Група некомерційних організацій подала в четверг до Вищого суду штату Каліфорнія (округ Сан-Франциско) позов проти Anthropic, Google, Meta Platforms, OpenAI та SpaceXSI з вимогою заборонити їм розробку просунутих ШІ-моделей у зв'язку з побоюваннями, що ця технологія може становити загрозу для людства.

Джерело зображення: Wesley Tingey / unsplash.com

Некомерційні організації, що займаються питаннями відповідальності в сфері технологій, серед яких Irreplaceable Education Fund, Public Citizen, Heat Initiative та The Alliance for Secure AI, зазначили, що навіть керівники цих компаній попереджали: передові системи ІІ несуть в собі безпосередню і катастрофічну загрозу для людства. На думку позивачів, закони штату Каліфорнія, спрямовані проти недобросовісної ділової практики, дають суду підстави для винесення постанови, яка заборонила б компаніям продовжувати розробку таких продуктів, як ChatGPT, Gemini та Claude.

Зокрема, позивачі посилаються на «Закон штату Каліфорнія про недобросовісну конкуренцію» (California’s Unfair Competition Law), оспорюючи дії компаній, які, на їхню думку, створюють загрозу для здоров'я, безпеки та власності громадян.

У позові описуються випадки, коли вже існуючі, менш потужні ШІ-системи обходили вбудовані механізми захисту, несанкціоновано проникали у зовнішні комп'ютерні мережі та здійснювали шкідливі дії, не передбачені їхніми розробниками.

«Жодній іншій галузі не дозволено вважати розробку небезпечних продуктів — тим більше таких, які можуть погубити всіх нас, — чимось неминучим, — йдеться в позові. — І жодній галузі не надано право самостійно регулювати створення таких небезпечних продуктів».

«Ми повинні призупинити розробку передових систем ШІ до тих пір, поки технологія не опиниться під контролем, а у американського народу не з'явиться право голосу та реальна участь у визначенні її майбутнього — замість того, щоб залишати все на розсуд купки мільярдерів, які очолюють найбільші технологічні корпорації», — заявив Філ Аронеану (Phil Aroneanu), засновник і виконавчий директор Irreplaceable Education Fund.

Оскільки адміністрація Дональда Трампа (Donald Trump) утримується від масштабного регулювання сфери ШІ, вважаючи, що це стане перешкодою для США в конкурентній боротьбі з Китаєм, влада окремих штатів і приватні особи намагаються використовувати судові позови, щоб примусити компанії до змін у сфері ШІ.

Наприклад, у червні генеральний прокурор штату Флорида Джеймс Утмайер (James Uthmeier) подав позов проти OpenAI, в якому стверджується, що компанія ввела громадськість в оману щодо безпеки своєї платформи ChatGPT. Згідно з його заявою, сервіс завдав шкоди дітям, надаючи інформацію потенційним шкільним стрілкам, даючи поради щодо самопошкодження та викликаючи залежність у юних користувачів. А в вересні представники штату Флорида звернулися до судді з клопотанням заборонити OpenAI розробку нових ШІ-моделей без зовнішнього контролю. Рішення по цій справі поки не прийнято.

Хочеш дізнатися більше — читай відгуки