Іранські хакери перетворили ChatGPT та Gemini на зброю для кібервійни

В той час, як політики різних країн намагаються врегулювати ситуацію на Близькому Сході, кіберпідрозділ армії Ірану активно використовує розроблені західними країнами великі мовні моделі (LLM) для створення шкідливого програмного забезпечення та проведення кібератак. Про це пише Financial Times, посилаючись на джерела в сфері кібербезпеки та технологічних компаніях.

Джерело зображення: xAi

У повідомленні зазначається, що ChatGPT, Gemini та інші західні ШІ-алгоритми прискорили кібероперації Ірану, допомагаючи розробляти шкідливе ПЗ, генерувати фішингові листи на бездоганному івриті та арабській мовах. Нейромережі також дозволяють запускати кібератаки з безпрецедентним масштабом і швидкістю. «Ми бачимо ознаки того, що вони користуються підказками ШІ на всьому протязі. Це, безумовно, допомогло їм підвищити свій рівень», — повідомив аналітик великої компанШІ, що працює в сфері кібербезпеки.

Такий підхід дозволив Ірану, що перебуває в крихкому перемир'ї з Ізраїлем та США, продовжувати тиснути в цифровій сфері на своїх більш розвинених противників. Це досягається за рахунок сканування інтернету на наявність вразливостей у ворожих ІТ-системах та формування захисту для власних вразливих місць.

ОАЕ, які постраждали від ракетних ударів і атак безпілотників під час ведення бойових дій, заявили, що щодня стикалися з більш ніж півмільйоном кібератак, які здійснювалися з використанням ChatGPT компанШІ OpenAI. Ізраїль зазнав хвиль фішингових електронних листів і текстових повідомлень, у деяких з яких, як повідомляється, людям пропонувалося співпрацювати з розвідкою Ірану.

Зазначається, що іранські хакери вже давно експериментують з ШІ, але поява продуктивних мовних моделей зробила їх особливо небезпечними. «Все це робиться автоматично. Вони використовують кожен доступний інструмент, щоб прискорити свої зусилля за допомогою ШІ», — вважає Гіл Мессинг (Gil Messing), фахівець ізраїльської компанії з кібербезпеки.

Іранські атаки часто залежать від того, наскільки швидко зловмисникам вдається переконати жертву перейти за підозрілим посиланням. Щоб завоювати довіру та змусити жертву втратити пильність, можуть знадобитися тижні спілкування під чужим ім'ям. «Якщо ви з Тегерана і намагаєтеся вдавати з себе співробітника відділу кадрів оборонного підрядника, це важке завдання — спілкуватися з кимось місяць і виглядати як людина, що живе в Каліфорнії», — розповів співробітник компанШІ, що працює в сфері інформаційної безпеки.

Джерело зображення: Philipp Katzenberger / unsplash.com

Незадовго до початку конфлікту в лютому цього року Google виявила, що пов'язана з іранськими властями хакерська група APT42 використовує нейромережу Gemini саме в таких цілях. Західні компанії докладали масу зусиль для виявлення іранських акаунтів, але виявлення таких облікових записів перетворилося на гру «вбий крота».

«Там, де ми виявляємо шкідливу активність, ми вживаємо заходів, зокрема відключаємо облікові записи, блокуємо доступ або обмежуємо доступ до функцій, якими зловмисники зловживають», — йдеться в заяві OpenAI. Там також зазначено, що у компанії є захисні механізми на всій платформі, а найбільш просунуті ШІ-моделі «недоступні для широкого використання».

OpenAI заявила, що регулярно повідомляла про спроби, пов'язані з Іраном, зловживати сервісами компанії та припиняла такі спроби. Там додали, що зазвичай зловмисники використовували ШІ-алгоритми для різних видів діяльності, включаючи проведення досліджень, переклад, написання сценаріїв і налагодження програмного коду. Офіційні представники Google відмовилися від коментарів з цього питання.

У минулому році Google виявила, що іранські хакери використовують ШІ-бота компанії активніше, ніж їх більш просунуті північнокорейські, російські або китайські колеги. Зазначалося, що члени групи APT42 залучали Gemini для отримання інформації про те, як глушити американські винищувачі F-35.

Зусилля Ірану щодо інтеграції ШІ у військову сферу не обмежуються проведенням кібероперацій. За даними Financial Times, близько 300 статей в іранських військових журналах за останні п'ять років були присвячені дослідженням щодо посилення радіоелектронних засобів за допомогою ШІ та прискорення прийняття рішень у командних центрах на полі бою. Крім того, проводилися дослідження щодо покращення систем наведення дронів і систем наведення на підводні цілі.

Джерело зображення: Sasun Bughdaryan / unsplash.com

Досягнення західних технологічних компаній допомагали Ірану надолужити втрачене і раніше. Оскільки в іранському істеблішменті мало людей, які вільно говорять англійською мовою, сервіс «Google Перекладач» допомагав швидше вивчати західні дослідження в військовій сфері. Про це розповів фахівець з іранських збройних сил з Вашингтонського інституту близькосхідної політики Фарзін Надімі (Farzin Nadimi).

За словами експертів, використання ШІ Вашингтоном у кампанії проти Ірану дозволило досягти потрібного результату значно швидше. США покладаються на систему Maven Smart System від Palantir для управління силами на полі бою та генеративну модель Claude від Anthropic для швидкої інтерпретації розвідданих, пошуку потенційних цілей для атак, а також надання зворотного зв'язку в режимі реального часу прямо в процесі бою.

Іран, чия економіка та дослідницькі інститути були ослаблені санкціями, все ще сильно відстає в сфері ШІ. Однак іранські військові проявляли креативність. Деякі експерти повідомили, що Іран більш успішний у сфері поширення пропаганди в інтернеті: державні акаунти регулярно публікують вірусні відео, створені за допомогою нейромереж і висміюють американського президента.

Іран заявляв про інтеграцію ШІ у свої ракети та безпілотники. Раніше з'являлися заяви про наявність у військових крилатих ракет з системами наведення на базі ШІ, а також навігаційних систем і систем ухилення від засобів радіолокаційного подавлення. Наскільки успішно ці розробки застосовувалися в реальних бойових умовах, не уточнюється.

У повідомленні зазначається, що є ознаки використання Іраном примітивних ШІ-алгоритмів для нанесення ударів по всьому Персидському затоку. Також не виключається, що Іран залучав ШІ для прогнозного аналізу, визначення місцезнаходження американських військових перед нанесенням по ним ударів.

Аналітики вважають, що Іран з великою ймовірністю використовує ШІ способами, які важко виявити з боку. Країна побудувала більшу частину своєї ШІ-інфраструктури на моделях з відкритим кодом і місцевих розробках, які в основному застосовуються в закритих мережах, недоступних для широкого кола користувачів. «Те, що можна помітити, — лише вершина айсберга», — вважає одне з джерел.

У минулому році Іран почав експериментувати з національною ШІ-платформою, яка повинна зберегти працездатність навіть у разі, якщо країна втратить доступ до глобальної мережі. Платформа розроблялася Тегеранським університетом Шаріфа, який знаходиться під жорсткими санкціями західних країн через тісні зв'язки з військовими. Ізраїльські та американські авіаудари на початку квітня завдали серйозного збитку центру обробки даних, в якому розміщується основна інфраструктура ШІ-платформи, а також лабораторіям, що займаються дослідженнями в сфері ШІ. Однак малоймовірно, що Ізраїль і США зможуть повністю знищити досягнення Ірану в цій сфері.

Хочеш дізнатися більше — читай відгуки