Google додасть у чат-бота Gemini моніторинг психічного здоров'я

Google планує додати в інтерфейс чат-бота з штучним інтелектом Gemini нові функції, спрямовані на підтримку психічного здоров'я користувачів. Компанія прийняла це рішення після того, як її конкурентам, зокрема OpenAI, довелося відповідати на судові позови, в яких їх чат-ботів звинуватили в завданні шкоди користувачам.

Джерело зображення: Yogendra Singh / unsplash.com

У чат-боті Gemini з'явиться інтерфейс, що направляє користувачів на гарячу лінію підтримки, якщо в переписці людини з ШІ будуть виявлені ознаки «потенційного кризису, пов'язаного з самогубством або самопошкодженням». Компанія додасть у чати про психічне здоров'я модуль «Доступна допомога»; в дизайн додатку внесуть зміни, спрямовані на запобігання самопошкодженню.

Чат-бот Gemini та ChatGPT продовжують набирати популярність, і деякі люди формують з ними нав'язливі стосунки, що сприяють розвитку бредових станів; в крайніх випадках ці користувачі вбивають інших людей або вчиняють самогубства. На провідних розробників ШІ вже подають до суду; Конгрес США вже вивчає загрози, які чат-боти можуть представляти для дітей та підлітків. У березні родина загиблого 36-річного американця подала до суду на Google, стверджуючи, що його контакт з Gemini призвів до «чотириденного занурення в насильницькі дії та спровокованого самогубства». Google заявила, що чат-бот неодноразово направляв чоловіка на кризову лінію, але пообіцяла підвищити безпеку платформи.

Деякі користувачі сервісів ШІ заявляли, що чат-боти спонукали їх діяти на основі явно неправдивої інформації. У відповідь на це Google, за її словами, навчила Gemini «не погоджуватися з хибними переконаннями і не підкріплювати їх, а м'яко вказувати на відмінність суб'єктивного досвіду від об'єктивних фактів».

Хочеш дізнатися більше — читай відгуки