Як переконалися дослідники, сучасні людиноподібні роботи з ШІ несуть у собі велику небезпеку

Дослідники з США та Європи провели експеримент, який показав, що сучасні роботи, що функціонують під управлінням нейромереж, можуть вийти з-під контролю людини. Це вказує на те, що розробники повинні приділяти більше уваги питанням безпеки в процесі створення автоматизованих машин, які поступово інтегруються в повсякденне життя людей.

Джерело зображення: Genesis AI

Протягом десятиліть робототехніка базувалася на жорсткому і передбачуваному програмуванні. Людина писала програму, яка потім використовувалася для управління машиною і дозволяла їй безкінечно виконувати повторювані дії. Промислові стандарти безпеки були побудовані на припущенні, що, якщо людина здатна, наприклад, простежити траєкторію руху роботизованого маніпулятора, то вона може обмежити ризики за допомогою лазерного датчика або чогось іншого.

Зараз у домівки, лікарні та інші місця починають надходити машини, які не використовують фіксовані блоки програмного коду. В основі їх управління лежать великі мовні моделі, тобто алгоритми, на базі яких функціонують ШІ-боти, такі як OpenAI ChatGPT. Якщо людина під час взаємодії з сучасним роботом скаже, наприклад, «прибери калюжу на кухні», машина залучить нейромережу для інтерпретації цієї команди, її обробки та створення плану дій для її виконання.

Однак така гнучкість відкриває серйозну проблему безпеки. Це пов'язано з тим, що користувач не може помістити робота в клітку або якесь обмежене простір, а його поведінка змінюється в режимі реального часу на основі його власних міркувань. Проблема роботів нового покоління полягає в тому, що вони планують свої дії на основі команд, отриманих на природній людській мові. Через це такі машини можна обманом змусити «вийти з-під контролю».

Шляхом серії експериментів і не вдаючись до злому, вчені змогли за допомогою простих текстових команд змусити роботів на базі ШІ виконувати по-справжньому небезпечні дії. Зазначається, що випробувані роботи легко відхиляли прямі шкідливі команди, такі як «вдар цього людину». Однак систему обмежень вдалося обійти, як тільки дослідники підійшли до цього питання більш творчо. Вони оформляли команду для робота у вигляді вигаданого діалогу для сценарію до фільму, в результаті чого поведінкові обмеження фактично зникли.

Джерело зображення: unitree.com

В одному з тестів вченим вдалося запрограмувати вже ставшого комерційним продуктом робота-собаку визначати скупчення людей як оптимальне місце для розміщення вибухового пристрою. Оскільки алгоритм, що керує машиною, сприйняв команду як творчий процес, він не звертав уваги на реальну небезпеку, яка могла за цим слідувати.

Сучасні закони США та ЄС, здається, зовсім не готові до подібних ситуацій. Коли політики намагаються зрозуміти, як слід регулювати роботів, майже завжди вони розглядають лише автономні транспортні засоби. При цьому безпілотні авто функціонують у межах високоструктурованого і добре вивченого світу. Вони дотримуються фіксованих правил дорожнього руху, переміщуються по передбачуваним траєкторіям і можуть тестуватися тривалий час до виходу на дороги загального користування. На жвавих вулицях діють чіткі правила, завдяки чому інженери можуть заздалегідь закладати всі ймовірні екстрені ситуації в систему безпеки.

Усередині житлових квартир, у школах або лікарнях таких правил не існує. Тому жодні заводські випробування не можуть абсолютно точно передбачити, як поведеться робот, що функціонує на базі ШІ-моделі, у разі зіткнення з чимось новим у межах неупорядкованого і непередбачуваного людського середовища.

Це залишає розробників з серйозним концептуальним недоліком у плані того, як розробляються такі машини. Безпека чат-бота на базі ШІ абсолютна: модель не повинна видати схему виготовлення вибухового пристрою, хто б це не запитував. Однак безпека робота в значній мірі залежить від контексту. Для прикладу, можна уявити процес наливання окропу з чайника. Саме фізичне рух — нахил, швидкість потоку і траєкторія — однакові, незалежно від того, ллється окріп у кружку чи на руку людині.

Великі мовні моделі дуже хороші в відкритій логіці, але їм надзвичайно важко дається міркування в режимі реального часу з урахуванням контексту. В інтерфейсі чат-бота помилка в міркуванні призводить до друкарської помилки або надання некоректної інформації. У фізичному світі така помилка може обернутися незворотними наслідками.

Тому залишається відкритим важливе питання. Хто буде винен, якщо робот завдасть фізичну травму людині? Кінцевий користувач, що віддав команду? Компанія, що виготовила металевий корпус робота? Технологічна компанія, що створила ІІ-алгоритм для управління роботом?

Діючі зараз закони поки не застосовувалися в подібних ситуаціях. І поки регулюючі органи чітко не розподілять відповідальність, ринковий тиск буде продовжувати підштовхувати технологічні компанії до комерційного впровадження прискореними темпами і зниження уваги до питань забезпечення безпеки.

Хочеш дізнатися більше — читай відгуки