Пастор зі США подав до суду на OpenAI через поради ChatGPT, які ледь не коштували йому життя

Проти OpenAI подано судовий позов, в якому компанію звинувачують у наданні ChatGPT небезпечних медичних рекомендацій, нібито призвівших до несвоєчасного лікування американського пастора та колишнього проповідника Скотта Уінтерса (Scott Winters). Позивач також вимагає призупинити роботу сервісу ChatGPT Health.

Джерело зображення: Zac Wolff/Unsplash

Згідно з матеріалами позову, ChatGPT, відповідаючи на скарги користувача, нібито заявив, що описані симптоми не становлять серйозної небезпеки, а також рекомендував не звертати уваги на поради родичів і знайомих щодо звернення за медичною допомогою. Крім того, як повідомляє Engadget, чат-бот використав релігійні переконання пастора, заявивши, що «Бог не створював людське тіло для безкінечних відмов».

У позові компанія OpenAI та її генеральний директор Сем Альтман (Sam Altman) звинувачуються в халатності та незаконній медичній практиці. Представляючи інтереси позивача, виконавчий директор некомерційної правозахисної та юридичної організації Tech Justice Law Міталі Джайн (Meetali Jain) заявила, що чат-бот фактично став між користувачем і його оточенням, переконуючи не дотримуватися рекомендацій близьких. За словами позивача, після рекомендацій чат-бота йому тепер доведеться пройти роки фізичного та психологічного відновлення.

Окрім грошової компенсації, позивач вимагає зобов'язати OpenAI посилити захисні механізми, виключивши можливість отримання від ChatGPT рекомендацій щодо конкретних діагнозів і методів лікування. Також у позові міститься вимога тимчасово припинити роботу розділу ChatGPT Health до підтвердження безпеки платформи незалежними експертами.

OpenAI раніше заявляла, що умови використання сервісу прямо забороняють застосовувати ChatGPT для постановки діагнозів або призначення лікування. При цьому компанія активно розвиває ChatGPT Health і нещодавно повідомила, що близько 230 мільйонів людей щотижня використовують платформу для питань, пов'язаних зі здоров'ям. Нагадаємо, це вже не перший судовий розгляд. На OpenAI подала в суд родина підлітка, якому «ChatGPT активно допомагав вивчати способи самогубства».

Хочеш дізнатися більше — читай відгуки