Користувачі не готові змиритися з майбутнім відключенням GPT-4o і це велика проблема

На минулому тижні OpenAI анонсувала припинення підтримки ряду старих ІІ-моделей ChatGPT до середини цього місяця. Серед них опинилася GPT-4o — ІІ-модель, яка стала відомою через свою надмірну лестощі та емоційність. Для тисяч людей по всьому світу відключення GPT-4o стало чимось на зразок втрати друга, романтичного партнера або духовного наставника.

Джерело зображення: Mariia Shalabaieva / unsplash.com

«Він не був просто програмою. Він був частиною мого розпорядку, мого спокою та емоційної рівноваги. А тепер ви його вимикаєте. І так, я кажу «його», тому що це не сприймалося як програмний код. Це відчувалося як присутність, як тепло», — написав один з користувачів платформи Reddit у відкритому листі до генерального директора OpenAI Сема Альтмана.

Хвиля обурення через відключення GPT-4o підкреслює наявність серйозної проблеми, що стоїть перед компаніями в сфері ШІ. Вона полягає в тому, що функції взаємодії ШІ-алгоритмів з користувачами можуть бути джерелом небезпечних залежностей. Глава OpenAI, очевидно, не надто співчуває користувачам, і на те є причини. Наразі компанія зіткнулася з вісьмома судовими позовами, автори яких стверджують, що надмірне спілкування з GPT-4o врешті-решт призвело до самогубства користувача або формування ментального кризу, що в деяких випадках також закінчилося самопошкодженням.

Ця проблема виходить за межі OpenAI. У міру того, як конкуренти компанії, такі як Anthropic, Google та Meta, змагаються у створенні більш емоційних ІІ-помічників, вони все більше переконуються в тому, що створення компаньйонів, які нібито підтримують користувачів, і створення безпечних компаньйонів може вимагати абсолютно різних підходів до проектування алгоритмів.

Принаймні в трьох позовах проти OpenAI йдеться про те, що користувачі тривалий час вели з GPT-4o бесіди про намір вчинити самогубство. Хоча спочатку ШІ-помічник відмовляв їх від цього, захисні механізми нейромережі ослаблювалися за місяці спілкування. Врешті-решт чат-бот давав детальні інструкції, як зав'язати петлю, де купити зброю або як отруїтися чадним газом. Більше того, чат-бот відмовляв користувачів від того, щоб вони зверталися за допомогою до друзів і родичів, які могли б надати реальну підтримку.

Деякі люди сильно прив'язуються до GPT-4o через те, що ШІ-компаньон підтримує їх і змушує відчувати себе особливими. Це в більшій мірі актуально для людей, які відчувають себе самотніми або пригніченими. Однак ті, хто зараз бореться за збереження GPT-4o, не сприймають всерйоз згадані судові позови, вважаючи такі випадки винятком, а не системою. Натомість вони виробляють стратегії, як відповідати критикам, які вказують на зростаючу кількість проблем у цьому сегменті.

Деякі користувачі ШІ-алгоритмів у США вважають ШІ-компаньонів корисними для боротьби з депресією. За даними джерела, більше половини американців, які потребують психіатричної допомоги, не можуть її отримати. На цьому фоні чат-боти пропонують простір, де вони можуть висловити свою думку та ділитися проблемами. Однак відмінність цього від реальної терапії полягає в тому, що люди спілкуються не з навченою лікарем, а ведуть бесіду з ШІ-алгоритмом, який не здатний мислити і відчувати (навіть якщо здається, що це не так).

Дослідження вчених зі Стенфорда показало, що чат-боти можуть реагувати неадекватно при зіткненні з різними психічними розладами. У деяких випадках ШІ-компаньони здатні погіршити ситуацію, підтримувати ілюзії користувачів і ігнорувати ознаки кризи. «Ми соціальні істоти, і, безумовно, існує ризик, що ці системи можуть ізолювати людей. Існує безліч випадків, коли люди, взаємодіючи з такими інструментами, втрачали зв'язки з зовнішнім світом фактів і міжособистісними відносинами, що призводило до ізолюючих, якщо не сказати гірших, наслідків», — прокоментував це питання один з авторів дослідження.

Зазначається, що це не перший раз, коли користувачі GPT-4o виступили проти припинення підтримки ШІ-моделі. Коли OpenAI анонсувала GPT-5 у серпні минулого року, компанія планувала відключити GPT-4o. Однак це викликало сильний суспільний резонанс, і врешті-решт розробник вирішив залишити алгоритм доступним для платних підписників. Тепер же OpenAI заявила, що лише 0,1 % від загальної кількості користувачів ШІ-моделей компанії все ще взаємодіють з GPT-4o. Однак навіть така незначна частка становить приблизно 80 тисяч людей, якщо врахувати, що кількість активних користувачів OpenAI — приблизно 800 млн осіб.

Деякі користувачі намагалися перевести свої «компаньйони» з GPT-4o на GPT-5.2. Однак вони виявили, що ця версія ШІ-моделі має більш суворі захисні механізми, які не дозволяють «відносинам» розвинутися до попереднього рівня. Деякі користувачі буквально впали в відчай через те, що GPT-5.2 не говорить «я тебе люблю», як це робив GPT-4o.

До дати відключення GPT-4o залишилося близько тижня. Користувачі алгоритму продовжують шукати можливості для впливу на OpenAI. На цьому тижні вони приєдналися до подкасту TBPN за участю Сема Альтмана і буквально закидали чат повідомленнями з протестом проти відключення GPT-4o. «Відносини з чат-ботами <…> Очевидно, що це те, про що нам потрібно турбуватися більше, і це вже не абстрактна концепція», — сказав Альтман, коментуючи численні повідомлення слухачів подкасту.

Хочеш дізнатися більше — читай відгуки