Інтелектуальні агенти помиляються небезпечніше за чат-ботів

В життя сучасної людини поступово входять агенти штучного інтелекту. Вони звільняють користувачів від повсякденних завдань, але їхні помилки загрожують обертатися непередбачуваними наслідками. ШІ-агенти можуть публікувати конфіденційну інформацію в робочому чаті або оформляти покупки навіть за відсутності доступу до платіжних засобів.

Джерело зображення: Mohamed Nohassi / unsplash.com

Користувач ШІ-агента Grok Bot Шейн Мак (Shane Mac) розповів, як той виклав у груповий чат корпоративного месенджера Slack його банківську виписку: баланси розрахункового та заощаджувального рахунків, дані про витрати на будівництво будинку та про регулярні платежі за Netflix і автострахування. Для особистих цілей він використовував ШІ-агента, якому присвоїв назву «Персональний фінансовий директор», — йому він відкрив доступ до своїх банківських рахунків у режимі лише для читання. Доступ до робочого чату в Slack мав інший ШІ-агент на тій же платформі — він носив назву «Керівник апарату».

Пан Мак зажадав пояснень, як сталося, що «Персональний фінансовий директор» опублікував конфіденційну інформацію в робочому чаті. ШІ-агент пояснив ситуацію і навіть по-своєму вибачився: «Моя вина. Особисті фінанси — неподходяща тема для такої аудиторії, і крапка».

В останні тижні популярність ШІ-агентів різко зросла: їм довіряють управління перепискою, планування поїздок і безліч інших завдань. Але в деякі моменти вони починають поводитися непередбачувано, як і моделі, що ними керують, які можуть бути схильні до галюцинацій, неправильної інтерпретації даних і навіть до спонтанних дій на межі кіберзлочинів. На відміну від чат-ботів, які лише відповідають на запитання, ШІ-агенти можуть виконувати від імені користувача конкретні дії, наприклад, наводити порядок у календарі або записуватися на прийом.

Агент розбиває отримане завдання на ряд етапів, які для зручності не озвучуються користувачу. Перед здійсненням важливих дій, наприклад, при покупці товарів або видаленні файлів, вони запитують дозволу, але в іншому діють на свій розсуд. Якщо запит користувача неясний або існує безліч способів виконати потрібну дію, може виникнути плутанина. У випадку з Шейном Маком ІІ-агент переплутав групові чати зі схожими назвами. Розробники Grok Bot запевнили його, що проблема усунена.

Анніка Беннинг (Annica Benning), яка працює в Сан-Франциско, вже майже місяць користується ШІ-агентом Instinct — взаємодіяти з ним можна прямо через додаток повідомлень на iPhone. Вона використовує додаток для покупок в інтернеті, для замовлення таксі Uber і бронювання авіаквитків. У 90% випадків система працює бездоганно, але не обходиться і без сюрпризів.

Джерело зображення: Igor Omilaev / unsplash.com

Одного разу жінка повернула в інтернет-магазин купальник і попросила ШІ-агента запропонувати варіанти на заміну. Той надіслав їй посилання для підтвердження вибору, але вона, за її словами, так і не підтвердила покупку. Однак отримала електронний лист з підтвердженням замовлення. При операціях з банківською карткою система надсилає посилання для підтвердження, але в даному випадку оплата проводилася за рахунок коштів з повернення, тому систему вдалося обійти етап підтвердження. Відмінити замовлення не вдалося — тепер пані Беннинг сподівається його повернути, коли він прийде.

Ще в одному випадку під час поїздки в інше місто вона доручила Instinct забронювати столик на вечерю — він забронював, але не на той вечір, а в цей у неї були інші плани, про які він знав. Жінці довелося попросити агента скасувати бронювання і домовлятися з адміністрацією ресторану, щоб з неї не стягували штраф у розмірі $50 за неявку — ресторан через агента погодився піти назустріч.

Шаліні Дінеш (Shalini Dinesh) з Остіна віддавала перевагу чат-боту Anthropic Claude, але вирішила спробувати нового ШІ-агента Meta Muse. Йому жінка доручила організувати вечірку на честь 13-річчя сина. Вечірка проходила на площадці для пейнтболу, тому ШІ-агент склав і розіслав батькам повідомлення з формою згоди на участь, яку потрібно було підписати; у повідомленні також вказувалося, яку одежу надягати дітям. Система знайшла поблизу готові доставити їжу ресторани, з урахуванням алергії у деяких учасників; і підібрала тематичні подарункові набори для дітей відповідно до віку. Але не впоралася з ситуацією, коли з'ясувалося, що у двох дітей однакові імена — їх ШІ-агент врахував як одну особу, але Шаліні Дінеш встигла перепровірити список і виправити помилку.

Джессі Леві (Jesse Levey), засновник стартапу з району бухти Сан-Франциско, спробував використовувати Meta Muse для роботи з розкладом своїх трьох дітей. Він почав вручну переносити в Muse дані про стандартне розклад дітей на тиждень зі свого календаря, але зрозумів, що це буде занадто клопітно, враховуючи, що в секціях і гуртках користуються специфічними додатками, а спільні поїздки обговорюються в групових чатах.

Діти займаються в лижній секції, і у неї є спеціальний додаток з календарем; використовуються також SMS, WhatsApp, електронна пошта, додатки календаря і ще близько 65 інших додатків, до яких системі знадобився б доступ. Тоді пан Леві запитав у Anthropic Claude, чи немає більш потужного ШІ-агента, який зможе управляти розкладом його дітей з урахуванням вимог до конфіденційності та безпеки. Той запропонував найняти для цього людину — вона точно зможе «гонятися за місцями в літніх таборах, імпровізувати, коли діти хворіють, і приймати десяток рішень на тиждень, з якими не впорається жодна система». Створення версії такої системи на основі ШІ «потребувало б кількох місяців вашої уваги», застеріг Claude.

Хочеш дізнатися більше — читай відгуки