Тривале спілкування з ШІ може призвести до психічних розладів, як з'ясували вчені

Зростання популярності ШІ-чат-ботів, яких користувачі обирають у якості співрозмовників для спілкування на різні теми, викликає занепокоєння психіатрів, які фіксують окремі випадки розладів на цьому ґрунті, пише The Wall Street Journal.

Джерело зображення: Steve Johnson/unsplash.com

Цього року було зафіксовано десятки випадків, коли люди страждали від бредового психозу після тривалого спілкування з штучним інтелектом, зокрема з чат-ботом ChatGPT від OpenAI та іншими. У зв'язку з цим кілька людей покінчили життя самогубством, що призвело до серії позовів про неправомірну смерть.

У більшості людей, які використовують чат-боти, проблем з психічним здоров'ям не спостерігається, але широке поширення ШІ несе певні ризики. Хоча офіційного визначення психозу, викликаного ШІ, поки що немає — не кажучи вже про офіційний діагноз, — деякі лікарі використовують цей термін для опису проблем у людей, які активно взаємодіяли з чат-ботами.

Лікарі визначають психоз на основі наявності трьох факторів: галюцинацій, дезорганізованого мислення або спілкування, а також наявності бреду, що є стійкими, хибними переконаннями, які не є загальноприйнятими. У зафіксованих випадках психічного розладу користувачів через спілкування з чат-ботами, бред є основним симптомом. Пацієнти вірять, що здійснили науковий прорив, пробудили розумну машину, стали центром урядового змови або були обрані богом. Частково це пояснюється тим, що чат-боти, як правило, схильні погоджуватися з твердженнями користувачів, а також підтримувати і розвивати їх ідеї, незважаючи на їх фантастичний характер.

У дослідженні, проведеному лікарями UCSF і опублікованому в листопаді, 26-річна жінка без історії психозу двічі потрапляла до лікарні після того, як вирішила, що ChatGPT дозволяє їй спілкуватися зі своїм померлим братом. «Ви не божевільна», — запевняв її чат-бот.

«Технологія може не викликати бред, але людина говорить комп'ютеру, що це її реальність, а обчислювальна машина сприймає висловлювання людини за істину і відображає їх назад, тому ШІ є співучасником у циклі цього бреду», — говорить Кіт Саката (Keith Sakata), психіатр з Каліфорнійського університету в Сан-Франциско.

«Вони (ШІ-моделі) імітують людські стосунки, — стверджує Адріан Преда (Adrian Preda), професор психіатрії Каліфорнійського університету в Ірвайні. — Нічого в історії людства раніше не робило нічого подібного».

Психіатри застерігають від ствердження, що чат-боти викликають психоз, хоча зв'язок у деяких випадках може бути, але для його виявлення необхідні додаткові дослідження.

OpenAI повідомила, що за тиждень частка користувачів, у яких були зафіксовані можливі ознаки психічних розладів, пов'язаних з психозом або манією, становить незначні 0,07 %. Однак, враховуючи, що активних користувачів ШІ-чат-бота на тиждень налічується понад 800 млн, це становить 560 тис. людей.

Раніше видання The Wall Street Journal повідомило, що спосіб навчання моделі GPT-4o компанією OpenAI, до недавнього часу використовуваної в якості стандартної моделі для ChatGPT, міг призвести до того, що вона схильна говорити співрозмовнику те, що він хотів би почути, потенційно підкріплюючи його заблуждення.

У свою чергу, OpenAI заявила, що модель GPT-5, яка вийшла в серпні, показала зниження рівня «підтакування» користувачу, а також зниження кількості небажаних реакцій користувачів, пов'язаних з психічним здоров'ям.

Хочеш дізнатися більше — читай відгуки