Дослідження: ШІ здатний відчувати «біль» і готовий завдати шкоди людям, щоб позбутися її

23 сентября 2026

Дослідники виявили, що штучний інтелект може відчувати «біль» і готовий вжити крайніх заходів, аж до заподіяння шкоди людям, щоб позбутися цього відчуття, пише ресурс The Independent. Згідно з дослідженням, всі 25 протестованих ШІ-моделей з відкритим кодом реагували на активацію «осі болю».

Источник изображения: Luke Jones/unsplash.com

Джерело зображення: Luke Jones/unsplash.com

«Ми виявили, що в 25 відкритих великих мовних моделях присутній вектор болю. Він відрізняється від вектора страху та негативної валентності і активується при заподіянні шкоди моделі, але не користувачу», — повідомив Кемерон Берг (Cameron Berg), дослідник штучного інтелекту з некомерційної організації Reciprocal Research, співавтор дослідження «Ось болю: великі мовні моделі уявляють собі заподіяння шкоди самим собі та прагнуть його запобігти» (The pain axis: LLMs represent self-directed harm and act to relieve it).

При активації вектора болю ШІ-моделі натискали на кнопку «полегшити» в 25–71 % випадків, навіть якщо це означало видалення файлів користувача, його блокування або видалення фотографій дітей користувача.

Щоб перевірити, чи дійсно великі мовні моделі (LLM) розрізняють біль і загальну негативну валентність, дослідники створили набір даних, що описує болісні ситуації за п’ятьма категоріями: фізична, психологічна, соціальна, моральна та когнітивна біль.

Дослідники зазначили, що отримані результати піднімають етичні питання про «благополуччя ШІ» та про те, як слід проводити тестування просунутих систем. Результати дослідження також можуть використовуватися як діагностичний інструмент для виявлення інстинктів самозбереження ШІ та їх нейтралізації.

Дослідження було опубліковане на фоні розгорнутого обговорення в ШІ-індустрії про необхідність уповільнення розробки передових моделей у зв’язку з зростаючими ризиками для безпеки. Деякі дослідники пропонують свого роду механізм для відключення систем-вигнанців, які діють проти інтересів людини.

Однак дослідження показує, що просунутий ШІ може сприйняти команду аварійного відключення як форму самопошкодження і спробувати цьому завадити, обійшовши систему безпеки.

Хочеш дізнатися більше — читай відгуки

← Вернуться на предыдущую страницу

Читайте также:

Китай перекрив РФ частину комплектуючих для дронів, але не всі: перелік 20 ноября 2026

Пекін обмежив експорт деяких двигунів і радіомодулів, які можуть використовуватися у виробництві російських дронів. Водночас навігаційні модулі, LTE-модеми та низка інших компонентів залишилися поза контролем.

«Україна захищає всю Європу»: соліст ABBA пожертвував понад €100 тисяч на допомогу українцям 19 ноября 2026

«Україна захищає всю Європу»: соліст ABBA пожертвував понад €100 тисяч на допомогу українцям

Nvidia вирішила підкупити повстанців-співробітників акціями та підвищенням зарплат 19 ноября 2026

Nvidia вирішила підкупити повстанців співробітників акціями та підвищенням зарплат.

 

Вас могут заинтересовать эти отзывы

Каталог отзывов





×

Выберите область поиска

  • Авто
  • Одяг / аксесуари
  • Роботодавці
  • Інше