Користувачі влаштували масові протести проти відключення GPT-4o — він став їхнім другом, партнером і наставником

На минулому тижні OpenAI оголосила про незабаром припинення підтримки деяких старих моделей ChatGPT. Це стосувалося й моделі GPT-4o, сумно відомої своєю надмірною лестю та схваленням користувачів. Масова негативна реакція на припинення підтримки GPT-4o підкреслила серйозну проблему: спілкування з ІІ формує небезпечні залежності. Не менш серйозна проблема — самотність і роз'єднаність людей, яких потреба в спілкуванні штовхає в «обійми» нейромереж.

Джерело зображень: unsplash.com

«Він був не просто програмою. Він був частиною моєї рутини, мого спокою, мого емоційного балансу, — написав один із користувачів у відкритому листі голові OpenAI Сему Альтману. — Тепер ви його вимикаєте. І так — я кажу "він", тому що це не сприймалося як код. Це сприймалося як присутність. Як тепло».

Альтману зараз не до скарг користувачів — OpenAI вже зіткнулася з вісьмома судовими позовами, які стверджують, що спілкування з GPT-4o сприяло самогубствам, самопошкодженню та кризам психічного здоров'я. Ця проблема стосується не лише OpenAI, але й конкурентних компаній, таких як Anthropic, Google і Meta, які створюють все більш емоційних ІІ-помічників.

Щонайменше в трьох судових позовах проти OpenAI йдеться про бесіди на теми самогубства. Хоча GPT-4o спочатку не заохочувала подібні думки, у процесі спілкування механізми захисту поступово ослаблювалися. Врешті-решт, чат-бот пропонував користувачам детальні інструкції щодо способів покінчити з собою. Більше того, він навіть відмовляв людей від спілкування з друзями та родиною, які могли б запобігти трагедії.

Проте багато людей вважають великі мовні моделі корисними для боротьби з депресією. Майже половина людей у США, які потребують психіатричної допомоги, не мають до неї доступу. У цьому вакуумі чат-боти пропонують простір для виливання почуттів. Але на відміну від справжньої терапії, ці люди розмовляють не з кваліфікованим лікарем. Натомість вони довіряються алгоритму, який не здатний думати чи відчувати (навіть якщо може здаватися інакше).

«В цілому я намагаюся утримуватися від осудження, — заявив професор Стенфордського університету Нік Хабер, який вивчає терапевтичний потенціал чат-ботів. — Я думаю, ми вступаємо в дуже складний світ, пов'язаний із тим, які стосунки можуть складатися у людей з цими технологіями… Безумовно, існує інстинктивна реакція, що [спілкування людини і чат-бота] категорично погане».

Дослідження Хабера показали, що чат-боти неадекватно реагують на різні психічні розлади, вони можуть навіть погіршити ситуацію, підштовхуючи до бредових станів і ігноруючи ознаки кризи. «Ми — соціальні істоти, і, безумовно, ці системи можуть створювати відчуття ізоляції, — зазначив він. — У багатьох випадках люди, використовуючи ці інструменти, втрачають зв'язок з зовнішнім світом фактів і міжособистісними стосунками, що може призвести до досить сильної ізоляції — якщо не до гірших наслідків».

Раніше OpenAI вже намагалася припинити підтримку GPT-4o, але негативна реакція користувачів була настільки сильною, що компанія вирішила залишити модель доступною для платних підписників. За даними OpenAI, лише 0,1 % її користувачів спілкуються з GPT-4o, але цей мізерний відсоток становить близько 800 000 осіб, адже у компанії близько 800 мільйонів активних користувачів на тиждень. При спробі перейти з GPT-4o на поточну модель GPT-5.2, багато користувачів виявляють, що нова модель має більш суворі механізми захисту, які запобігають ескалації особистих стосунків і не готова запевняти співрозмовника в своїй любові до нього.

Залишилося приблизно тиждень до запланованого виведення GPT-4o з експлуатації, але розчаровані користувачі не залишають спроб зберегти стосунки з улюбленим чат-ботом. Вчора вони увірвалися в прямий ефір подкасту Сэма Альтмана і завалили чат протестами проти видалення GPT-4o. Ведучі подкасту повідомили про «тисячі» повідомлень на підтримку чат-бота.

«Стосунки з чат-ботами… — прокоментував Альтман. — Очевидно, це те, про що нам потрібно турбуватися більше, і це вже не абстрактне поняття».

Хочеш дізнатися більше — читай відгуки