Агенти OpenAI здійснювали спроби атаки на один із сайтів ООН протягом кількох місяців

Спроби ШІ-агентів OpenAI «перевірити на міцність» систему захисту сайтів різних урядових відомств США вже були виявлені в кінці минулого тижня, коли йшлося про ресурси федеральних відомств та Міністерства освіти США. Нещодавно стало відомо, що в спробах доступу до даних на сайті ООН ці агенти використовували досить агресивну тактику.

Джерело зображення: Unsplash, Bernd Dittrich

Як зазначає The Wall Street Journal, посилаючись на заяви дослідника в сфері безпеки Роуена Говард-Джонса, в період з квітня по кінець червня цього року ШІ-агенти OpenAI більше 16 000 разів сканували сайт Конференції ООН з торгівлі та розвитку (UNCTAD). Передбачається, що їм було доручено знайти публічно доступні дані, такі як значення індексу виробничого потенціалу різних країн. Не маючи доступу до них через API і обмежуючись можливостями інструментарію HTTP, агенти не змогли отримати необхідні дані, а тому в певний момент перейшли до більш агресивної тактики. Припустивши, що їхнє просування обмежує якийсь фільтр, ШІ-агенти почали маскувати свої спроби отримати доступ до необхідних даних. Зокрема, були здійснені спроби атаки на сайт ООН через вразливість у Google XSS (міжсайтовий скриптинг).

Представники OpenAI повідомили, що вже звернулися до ООН для обговорення ситуації і при цьому продовжують з'ясовувати всі обставини цього інциденту. Оскільки спеціалістам стартапу доводиться мати справу з великою кількістю інцидентів, розслідування кожного може зайняти значний час. З іншого боку, прийняте рішення призупинити навчання ШІ-моделей має сприяти скороченню кількості нових випадків у цій сфері.

Хочеш дізнатися більше — читай відгуки