Президент Signal закликала не поспішати з впровадженням штучного інтелекту в месенджерах

В той час як більшість технологічних компаній прагне розширити використання ШІ-технологій та пришвидшити впровадження ІІ-агентів, президент Signal Мередіт Уіттакер вважає за потрібне попередити про ризики, пов'язані з розвитком ШІ.

Джерело зображення: Steve Johnson/unsplash.com

В інтерв'ю ресурсу Fortune Уіттакер заявила, що зростання кількості ШІ-агентів є «екзистенційною загрозою» не лише для захищених додатків для обміну повідомленнями, таких як Signal, але й для всіх, хто розробляє додатки для телефонів або комп'ютерів.

На її думку, поспіх технологічних гігантів з впровадженням ШІ, особливо агентського ШІ, підвищує ризики безпеки в інтернеті, які значно перевищують потенційні вигоди його використання.

Для виконання завдань від імені користувача ШІ-агентам потрібен доступ до його конфіденційної інформації, включаючи банківські реквізити та паролі. Однак це створює обширну нову «поверхню атаки», яку кіберзлочинці або спецслужби можуть використовувати для крадіжки конфіденційної особистої або корпоративної інформації.

ШІ-агенти особливо вразливі до атак з впровадженням підказок (Prompt injection), коли шкідливі веб-сайти містять приховані інструкції, які обманом змушують ШІ виконувати шкідливі дії. Оскільки веб-браузери на базі ШІ здатні читати веб-контент і виконувати з ним дії, зловмисники потенційно можуть, використовуючи вразливості ШІ, викрадати електронну пошту, отримувати доступ до облікових записів, вилучати дані, перезаписувати буфери обміну та перенаправляти користувачів на фішингові сайти.

«Робота агента полягає в тому, що він виконує складні завдання від вашого імені, використовуючи для цього безліч джерел даних, — повідомила Мередіт Уіттакер в інтерв'ю Fortune в кулуарах технологічної конференції Slush у Гельсінкі (Фінляндія) минулого тижня. — Йому знадобиться доступ до ваших контактів і повідомлень у Signal… такий доступ — вектор атаки, який фактично зводить нанівець сенс нашого існування».

Signal користується популярністю у журналістів і політиків завдяки своєму акценту на конфіденційність і безпеку з підтримкою наскрізного шифрування та зведенням до мінімуму збору даних. Якщо ШІ-агенти отримають нефільтрований доступ до цих повідомлень через операційну систему, на якій працює Signal, зловмисники зможуть скористатися цією новою вразливістю.

«Інтеграція агентів на рівні операційної системи здійснюється вкрай безрозсудно і не враховує основи кібербезпеки та конфіденційності, — говорить Уіттакер. — Це дуже і дуже небезпечне архітектурне рішення, яке ставить під загрозу не лише Signal, але й можливість безпечної розробки на рівні додатків, а також можливість створення безпечної та цілісної інфраструктури».

Уіттакер також негативно оцінила прагнення розробників WhatsApp від Meta та Facebook Messenger використовувати в месенджерах функції ШІ. «Ніхто не хоче бачити ШІ у своїх месенджерах. Це дійсно дратує, — сказала вона. — Якщо подивитися на їхню користь на рівні споживача, мені не зовсім зрозуміло, чи виправданий цей компроміс… Для чого ми насправді оптимізуємо ці нудні зручності?».

Хочеш дізнатися більше — читай відгуки