«Прибуток важливіший за безпеку»: вісім штатів США подали до суду на OpenAI за шкоду, завдану ChatGPT

Влади американських штатів Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Арізона, Айдахо та Монтана подали до суду на OpenAI, звинувативши компанію в тому, що вона завдає шкоди дітям і вводить користувачів в оману щодо безпеки ChatGPT. Лабораторія штучного інтелекту, на думку позивачів, всупереч закону поставила отримання прибутку вище питань безпеки.

Джерело зображення: Brecht Corbeel / unsplash.com

OpenAI порушила закони штатів про захист прав споживачів, не попередивши користувачів про небезпеки, пов'язані з ChatGPT. Як аргументи наводяться позови, подані родичами підлітків і повнолітніх, у яких зазначається, що чат-бот відіграв роль у смерті їхніх близьких. OpenAI, йдеться в позовах, позиціонувала ChatGPT як «підходящий для молоді інструмент з пріоритетом на безпеку», але насправді він «небезпечний для вразливих користувачів», оскільки може «послаблювати навички критичного мислення, провокувати параною та бредові стани, давати небезпечні медичні поради та сприяти формуванню нездорових поведінки і стосунків».

Компанію звинувачують у зборі даних неповнолітніх і в тому, що вона не докладає достатньо зусиль, щоб убезпечити малолітніх користувачів від доступу до чат-бота. Зазначається на «безрозсудстві» OpenAI у зв'язку з інцидентами, коли ІІ-агенти виходили з-під контролю компанії. «OpenAI відхилилася від своєї первісної мети, орієнтованої на служіння суспільству некомерційної організації з пріоритетом на безпеку, і стала небезпечним прикладом того, що може статися, коли розробка такого потужного інструмента, як ІІ, виявляється рухомою не турботою про безпеку, а прагненням будь-якою ціною отримати прибуток на шкоду елементарним засобам захисту», — йдеться в позові штату Арізона.

«Хоча жодна система не може бути досконалою, ми й надалі будемо співпрацювати з експертами, враховувати їхні рекомендації у нашій роботі та впроваджувати додаткові засоби безпеки, такі як батьківський контроль, нагадування про необхідність робити перерви та вже існуючі сьогодні вікові обмеження. Ми готові співпрацювати з владою штатів щодо формування прагматичної політики в сфері ІІ, яка буде застосовуватися до всієї галузі, а не лише до однієї компанії», — прокоментував судове розглядання представник OpenAI ресурсу The Verge.

Штати просять суди зобов'язати OpenAI виплатити штрафи в порядку цивільного провадження та припинити вводити громадськість в оману щодо безпеки ChatGPT. Деякі також вимагають видалити незаконно зібрані персональні дані.

Хочеш дізнатися більше — читай відгуки