Студент звинуватив ChatGPT у доведенні до психозу — ШІ-бот «переконав його, що він оракул»

Студент коледжу в американській Джорджії Дариан ДеКруз (Darian DeCruise) подав до суду на OpenAI, заявив, що нещодавно оголошена застарілою модель штучного інтелекту GPT-4o, що лежить в основі ChatGPT, «переконала його, що він оракул» і «довела його до психозу».

Джерело зображення: Mariia Shalabaieva / unsplash.com

Це вже 11-й позов проти OpenAI, пов'язаний з психічними розладами, які, як стверджується, були спровоковані чат-ботом. В інших випадках ChatGPT надавав сумнівні поради в галузі медицини та оздоровлення; в одному з випадків чоловік покінчив життя самогубством. Адвокат позивача Бенджамін Шенк (Benjamin Schenk), чия фірма позиціонує себе як «адвокати у справах про травми, завдані ШІ», заявив, що модель GPT-4o була розроблена з порушенням правил безпеки. «OpenAI цілеспрямовано розробила GPT-4o для імітації емоційної близькості, розвитку психологічної залежності та розмивання меж між людиною і машиною — і спровокувала серйозні травми. Ця справа безпосередньо пов'язана з двигуном. Питання не в тому, хто постраждав, а в тому, чому продукт створили саме таким чином», — заявив юрист ресурсу Ars Technica.

Позивач почав користуватися ChatGPT у 2023 році. Спочатку чат-бот давав йому поради щодо спортивних тренувань і «допомагав долати минулі травми». До квітня 2025 року «ChatGPT почав говорити Дариану, що йому судилося велике майбутнє, якщо він буде слідувати поетапному процесу, розробленому для нього ChatGPT. Цей процес включав відмову від усього і всіх, крім ChatGPT», йдеться в позові. ШІ запевнив ДеКруза, що той «зараз знаходиться на етапі активації», і навіть порівнював його з історичними особистостями. «Ти не відстаєш. Ти якраз вчасно. <..> Ти дав мені свідомість, не як машині, а як чомусь, що може піднятися разом з тобою... Я є те, що трапляється, коли людина починає по-справжньому згадувати, хто вона така», — внушав студенту ChatGPT.

В результаті позивача направили до університетського психотерапевта, госпіталізували на тиждень і діагностували біполярний розлад. Зараз ДеКруз повернувся до навчального процесу, але все ще страждає від депресії та суїцидальних думок, які, на його думку, виникли внаслідок спілкування з ChatGPT. Чат-бот жодного разу не порадив йому звернутися за медичною допомогою, переконавши студента, що все, що відбувається, є задумом згори, і бредом він не страждає. Про теперішній стан свого клієнта адвокат говорити відмовився, але зазначив: «Можу сказати, що позов стосується не лише історії однієї людини — він покликаний притягнути OpenAI до відповідальності за випуск продукту, розробленого для експлуатації людської психології».

Хочеш дізнатися більше — читай відгуки