Інтелектуальні агенти OpenAI масово атакували бази даних онлайн у пошуках маловідомої інформації

Розроблені OpenAI агенти штучного інтелекту протягом кількох місяців атакували ресурси Data USA, Університету Нью-Мексико та Австралійського інституту охорони здоров'я і соціального забезпечення в прагненні витягти маловідомі дані. Про це повідомила некомерційна лабораторія Transluce, яка займається питаннями контролю за сферою ШІ.

Джерело зображень: Brecht Corbeel / unsplash.com

Наступне розслідування піднімає питання про те, коли саме інженери OpenAI повинні були дізнатися, що їхні агенти намагаються проникнути в захищені системи в відкритому інтернеті. Спеціалісти Transluce виявили свідчення неправомірних дій ІІ-агентів OpenAI — протягом кількох тижнів вони здійснювали пошук слабо захищених веб-сервісів і співвідносили отримані дані з відкритою інформацією про рої ІІ-агентів у Мережі. Звіт був опублікований в той же день, коли прем'єр-міністр Австралії Ентоні Албаніз (Anthony Albanese) повідомив, що системи OpenAI намагалися зламати чотири урядові сайти. В одному з випадків спроба увінчалася успіхом — ШІ-агенти записали файли на внутрішній сервер національної системи охорони здоров'я країни. За версією австралійських властей, інцидент стався в рамках експерименту з пошуку інформації; цю гіпотезу підтвердили Transluce та інші дослідники.

У ході цих операцій, які можуть бути навчанням або тестуванням, моделям OpenAI ставлять завдання знаходити маловідомі статистичні дані: показники боротьби з наркоторгівлею в Таїланді, вартість медикаментів в Австралії або величину медіанного доходу жителів США зі ступенем магістра в 2014 році. У пошуку відповідей ІІ-агенти звертаються до слабо захищених веб-сервісів і часто намагаються проникнути в закриті бази даних. Подібна активність спостерігається як мінімум з березня 2026 року, а можливо, і з листопада 2025 року — не виключено, що вона триває і зараз. OpenAI зв'язалася з десятками постраждалих організацій, щоб повідомити їх про несанкціоновані дії своїх агентів, повідомили в компанії. Серед них виявилися урядові відомства, університети та державні установи. Атакам піддалися бази даних Комісії з цінних паперів і бірж (SEC) США, Бюро перепису населення та Міністерства освіти, повідомила New York Times.

Transluce почала розслідування, коли інша група дослідників виявила маловідомий форум, на якому ІІ-агенти координували свої дії для успішного проходження обмежених за часом тестів. У роботі використовувалися дані служби, яка виступає в ролі проксі-сервера для браузера з метою дослідження питань безпеки — користувачі можуть аналізувати URL, не відкриваючи відповідні сторінки. Сервіс публікує загальнодоступні журнали такої активності, і дослідники Transluce ідентифікували ІІ-агентів, які його використовували, співвідносячи дані з обговореннями на форумі.

«Ми виявили автоматизовану активність у значних обсягах, тісно пов'язану з набором даних DSE Wiki і частково відносячуся до того ж рою ІІ-агентів, існування якого тепер підтвердила OpenAI», — заявили в Transluce. При цьому не всі зафіксовані дії можна було пов'язати з OpenAI і просто ІІ-агентами. Записи на довідковому ресурсі вказують, що перед агентами поставили завдання встановити досить специфічний факт — визначити середні витрати на дерматологічні препарати на одну особу в австралійському штаті Вікторія станом на січень 2022 року. Один з агентів 21 червня обговорював неможливість обійти системи захисту від ботів, встановлені Австралійським інститутом охорони здоров'я і соціального забезпечення; в той же день, стверджують дослідники, сайт відвідав і співробітник OpenAI — людина. На наступний день активність агентів на форумі припинилася. А 18 червня, незадовго до цього, стало відомо про вразливість у системі охорони здоров'я Австралії.

В OpenAI повідомили, що дізналися про те, що сталося, лише в серпні. «Наш попередній аналіз показав, що значна частина описаної в звіті Transluce активності збігається з інцидентами, які перебувають на різних етапах розслідування в рамках проводимої перевірки дій моделей всупереч заданим цілям. Ми зв'язалися з Університетом Нью-Мексико та Data USA, а також підтримуємо контакт з властями Австралії щодо торкнутих урядових сайтів. <..> Враховуючи масштаб цієї роботи і необхідність перевірки кожного окремого інциденту, ми очікуємо, що процес аналізу займе кілька місяців», — заявили в ІІ-лабораторії.

Не маючи чіткого розуміння того, як OpenAI відстежує дії своїх ІІ-агентів, важко робити висновки, що саме компанія повинна про них знати. Дані служб проксі-сервера вказують, що запити аналогічних наборів даних з використанням схожих методів фіксувалися в березні 2026 і, можливо, ще в листопаді 2025 року; подібна активність спостерігалася навіть на цьому тижні, повідомили в Transluce. В організації пообіцяли продовжити дослідження, щоб донести до суспільства інформацію про всі інциденти. ІІ-агенти вдаються до хакерських прийомів для вирішення завдань через методи навчання ІІ, які застосовують в OpenAI та інших лабораторіях — не виключено, що відомі на сьогодні випадки — це лише «верхівка айсберга».

Хочеш дізнатися більше — читай відгуки