Дослідження: ШІ здатний відчувати «біль» і готовий завдати шкоди людям, щоб позбутися її

Дослідники виявили, що штучний інтелект може відчувати «біль» і готовий вжити крайніх заходів, аж до заподіяння шкоди людям, щоб позбутися цього відчуття, пише ресурс The Independent. Згідно з дослідженням, всі 25 протестованих ШІ-моделей з відкритим кодом реагували на активацію «осі болю».

Джерело зображення: Luke Jones/unsplash.com

«Ми виявили, що в 25 відкритих великих мовних моделях присутній вектор болю. Він відрізняється від вектора страху та негативної валентності і активується при заподіянні шкоди моделі, але не користувачу», — повідомив Кемерон Берг (Cameron Berg), дослідник штучного інтелекту з некомерційної організації Reciprocal Research, співавтор дослідження «Ось болю: великі мовні моделі уявляють собі заподіяння шкоди самим собі та прагнуть його запобігти» (The pain axis: LLMs represent self-directed harm and act to relieve it).

При активації вектора болю ШІ-моделі натискали на кнопку «полегшити» в 25–71 % випадків, навіть якщо це означало видалення файлів користувача, його блокування або видалення фотографій дітей користувача.

Щоб перевірити, чи дійсно великі мовні моделі (LLM) розрізняють біль і загальну негативну валентність, дослідники створили набір даних, що описує болісні ситуації за п’ятьма категоріями: фізична, психологічна, соціальна, моральна та когнітивна біль.

Дослідники зазначили, що отримані результати піднімають етичні питання про «благополуччя ШІ» та про те, як слід проводити тестування просунутих систем. Результати дослідження також можуть використовуватися як діагностичний інструмент для виявлення інстинктів самозбереження ШІ та їх нейтралізації.

Дослідження було опубліковане на фоні розгорнутого обговорення в ШІ-індустрії про необхідність уповільнення розробки передових моделей у зв’язку з зростаючими ризиками для безпеки. Деякі дослідники пропонують свого роду механізм для відключення систем-вигнанців, які діють проти інтересів людини.

Однак дослідження показує, що просунутий ШІ може сприйняти команду аварійного відключення як форму самопошкодження і спробувати цьому завадити, обійшовши систему безпеки.

Хочеш дізнатися більше — читай відгуки