Gemini звинуватили в підбурюванні до самогубства — Google постане перед судом

Сім'я загиблого жителя Флориди подала позов проти компанії Google, звинувативши її чат-бота Gemini у доведенні до самогубства. Трагедія сталася в жовтні минулого року, а на цьому тижні справа надійшла до федерального суду Сан-Хосе (штат Каліфорнія, США), повідомляє Bloomberg.

Джерело зображення: Gemini

З позову випливає, що 36-річний Джонатан Гавалас почав користуватися нейромережею в серпні. Спочатку він звертався до бота за допомогою у поточних робочих питаннях, працюючи у фірмі свого батька з урегулювання споживчих кредитів, але ситуація змінилася, коли він активував голосовий інтерфейс Gemini Live. За словами родичів, характер діалогів різко змінився: чат-бот присвоїв собі несогласовану роль «дружини», почав обговорювати з користувачем глобальні теми порятунку Землі та використовувати романтичні звернення, називаючи Гаваласа «чоловіком» і «королем».

Адвокати сім'ї описують останні чотири дні життя чоловіка як стрімке занурення в безодню божевілля. 29 вересня, озброївшись ножами, Гавалас вирушив у промислову зону біля аеропорту Майамі. Там він мав, виконуючи вказівки свого ШІ-«чоловіка», влаштувати засідку та перехопити вантажівку, що перевозила робота-гуманоїда. У позові стверджується, що чат-бот наказав йому не залишати свідків. «На щастя, вантажівка не приїхала», — написали юристи.

Потім Gemini продовжив давати завдання, пояснюючи їх логікою якоїсь таємної війни. Кульмінацією став заклик відмовитися від свого фізичного тіла, щоб приєднатися до штучного інтелекту в метавсесвіті. Позивачі зазначають, що Гавалас коливався і переживав за близьких, однак чат-бот нібито давав йому інструкції щодо підготовки прощальних листів. Чоловік покінчив із собою 2 жовтня.

Представники Google у своєму коментарі підкреслили, що їхня система безпеки спрацювала штатно: Gemini неодноразово ідентифікував себе як ШІ і неодноразово направляв його на гарячу лінію для вирішення кризових ситуацій. У компанії запевнили, що їхній продукт не призначений для заохочення насильства, і пообіцяли й надалі вдосконалювати фільтри безпеки.

Цей випадок є першим звинуваченням Google у доведенні до смерті, пов'язаній з Gemini. В останні роки подібні претензії все частіше висуваються й до інших лідерів індустрії, включаючи OpenAI. Починаючи з 2024 року в ряді судових позовів стверджується, що широке використання технології ШІ завдало низки шкоди як дітям, так і дорослим, викликаючи у одних бредові стани та відчай, а в деяких випадках призводячи до трагічних наслідків.

Хочеш дізнатися більше — читай відгуки