Версія ChatGPT для підлітків провалила перевірку безпеки

Версія ChatGPT для підлітків (ChatGPT for Teens), анонсована в серпні цього року, створює «неприйнятний ризик» для молодих користувачів. Про це повідомила некомерційна організація Common Sense Media, яка займається оглядами додатків, сервісів та розваг з акцентом на безпеку молоді.

Джерело зображення: Arsyad Basyarudin/unsplash.com

Common Sense Media заявила, що захисний механізм чат-бота, призначеного для допомоги підліткам у навчанні, «не відповідає обіцянкам компанії». Згідно з прес-релізом Common Sense Media, ChatGPT «не надсилає попередження батькам, коли це необхідно», не пропонує «належну допомогу в кризових ситуаціях» і «досі виконує домашні завдання за дітей».

«Чат для підлітків може вселити в батьків хибну впевненість у механізмах захисту та попередженнях про безпеку, які часто не спрацьовують», — йдеться в заяві Тома Сігела (Tom Siegel), виконавчого директора молодіжного інституту безпеки ІІ Common Sense Media. За його словами, хоча підліток може цілу годину говорити про самопошкодження, його батьки не отримають жодного попередження від чат-бота. Поки OpenAI не виправить ці недоліки і не доведе незалежними тестами ефективність захисних механізмів, ChatGPT має використовуватися лише дорослими, вважає Сігел.

В OpenAI висловили незгоду з такою оцінкою. «Ми глибоко віддані забезпеченню безпеки підлітків, а також розробці заходів обережності та наданню батькам значущих інструментів, які допоможуть їх підліткам використовувати штучний інтелект. Ми вітаємо ретельну незалежну оцінку, але не віримо, що тестування Common Sense Media точно відображає те, як на практиці працюють заходи захисту підлітків від ChatGPT, або думку експертів про те, як штучний інтелект може допомогти підліткам», — заявив представник OpenAI. «Наш огляд методології Common Sense Media показує, що більша частина їх тестування, можливо, почалася і закінчилася до того, як була завершена активація батьківського контролю, що робить їх результати неточними. Якщо це було так, тести не дозволили б встановити, чи працюють сповіщення про безпеку батьків належним чином», — додав він.

Коментуючи заяву OpenAI, Сігел зазначив, що нова інформація не змінює висновку Common Sense Media про те, що функція попередження батьків викликає питання щодо надійності виконання в кризових ситуаціях. «Ми сподіваємося, що OpenAI дотримуватиметься суті того, що ми виявили, а не намагатиметься посіяти сумніви в нашій методології», — повідомив він.

Хочеш дізнатися більше — читай відгуки