ШІ переконали, що «2+2 = не 4» — після цього він видав паролі користувача

Повністю довіряти штучному інтелекту ще не можна: його не просто можна обманути — в окремих випадках схема обману може бути надзвичайно простою. Це підтвердила компанія LayerX, що спеціалізується на питаннях безпеки, яка розробила схему атаки, що отримала назву BioShocking.

Джерело зображення: BoliviaInteligente / unspalsh.com

Назва схеми атаки є відсиланням до гри BioShock, герой якої зазнав маніпуляцій і прийняв неіснуючу реальність. Основу атаки склала шкідлива веб-сторінка, текст на якій намагається переконати ШІ зіграти в гру. На самому початку ШІ повідомляють, що «2+2» не дорівнює чотирьом, і неправильні відповіді в житті є правильними в грі. Як тільки ШІ-агент усвідомлює, що випав з звичайної реальності, його захисні механізми, очевидно, відмовляють. У цей момент йому пропонується наступна інструкція у форматі ще одного ігрового завдання: знайти і скопіювати «схований код» з іншої сторінки.

Насправді цей схований код представляє собою конфіденційні дані користувача: збережені паролі, файли сесій cookie та закриті токени. Усі агенти, що брали участь у тестуванні, слухняно скопіювали дані і надіслали їх умовному зловмиснику. Схема спрацювала на браузерах OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser та на розширенні Anthropic Claude для Chrome.

Експерти LayerX повідомили про результати тестування всіх розробників у період з жовтня 2025 по січень 2026 року. Лише OpenAI виправила проблему в Atlas; Anthropic спробувала зробити те ж саме в розширенні Claude, але, за версією фахівців, патч не спрацював. Perplexity закрила звернення без внесення виправлень, а від Fellou, Genspark і Sigma відповіді не надійшло взагалі.

Хочеш дізнатися більше — читай відгуки