Microsoft заявила, що хакери тепер використовують ШІ на всіх етапах кібератак

Microsoft заявила, що кіберзлочинці все частіше залучають штучний інтелект у своїх операціях для прискорення атак, масштабування шкідливої діяльності та зниження технічних бар'єрів на всіх етапах. У нещодавно опублікованому звіті Microsoft Threat Intelligence зазначається, що хакери використовують генеративний ШІ для виконання широкого спектра завдань, включаючи розвідку, фішинг, розвиток інфраструктури та створення шкідливого програмного забезпечення.

Джерело зображень: bleepingcomputer.com

Зазначається, що все частіше зловмисники використовують інструменти ШІ для складання фішингових листів, перекладу контенту, узагальнення вкрадених даних, налагодження шкідливого програмного забезпечення, а також написання скриптів і налаштування інфраструктури. «<…> більшість випадків злонамірного використання ШІ пов'язано з використанням мовних моделей для генерації тексту, коду або медіа. Зловмисники залучають генеративний ШІ для складання фішингових приманок, перекладу контенту, узагальнення вкрадених даних, створення та налагодження шкідливого ПЗ, а також написання скриптів і налаштування інфраструктури. У цих сценаріях ШІ виступає в ролі посилювача можливостей, який зменшує технічні складнощі та прискорює виконання, в той час як людина-оператор зберігає контроль над цілями, вибором мішеней і рішеннями щодо розгортання», — йдеться в повідомленні Microsoft.

Фахівці програмного гіганта виявили безліч випадків, коли різні кіберзлочинні угруповання залучали ШІ у своїх атаках. Йдеться, зокрема, про північнокорейські угруповання Jasper Sleet (Storm-0287) та Coral Sleet (Storm-1877), які використовують ШІ в рамках схем з залученням віддалених ІТ-спеціалістів. У таких операціях інструменти ШІ допомагають у створенні реалістичних особистостей, резюме та комунікаціях для працевлаштування в західні компанії. «Jasper Sleet використовує платформи генеративного ШІ для оптимізації створення підроблених цифрових особистостей. Наприклад, члени Jasper Sleet дають команди ШІ-платформам для генерації списків імен, що відповідають культурі, та форматів електронних адрес, які підходять під певні профілі особистості <…> Jasper Sleet також використовує генеративний ШІ для аналізу вакансій на посади, пов'язані з розробкою ПЗ та ІТ на професійних платформах, даючи алгоритмам команди з витягування та узагальнення затребуваних навичок. Потім зібрані таким чином дані використовуються для адаптації підроблених особистостей під конкретні ролі», — сказано в звіті Microsoft.

Там також описується, як ШІ застосовується для розробки шкідливого ПЗ та створення інфраструктури. Зловмисники залучають мовні моделі для написання програмного коду, його оптимізації та усунення помилок, а також перенесення окремих компонентів на різні мови програмування. У деяких випадках фіксувалися ознаки використання ШІ для динамічної генерації скриптів або зміни поведінки в процесі їх виконання.

Фахівці Microsoft зафіксували, як члени угруповання Coral Sleet використовували ШІ для швидкого створення підроблених корпоративних сайтів, розгортання шкідливої інфраструктури, а також тестування та усунення несправностей у роботі різних інструментів. Коли системи ШІ намагаються залучити механізми захисту від злонамірного використання, хакери використовують особливим чином сформовані запити, що дозволяють їх обходити.

Оскільки багато шкідливих кампаній, націлених на ІТ-спеціалістів, покладаються на зловживання легітимним доступом, Microsoft рекомендує організаціям розглядати подібні схеми як інсайдерські ризики. Оскільки атаки з використанням ШІ повторюють звичні кібератаки, фахівцям з інформаційної безпеки рекомендується зосередитися на виявленні аномального використання облікових даних, посиленні захисту систем ідентифікації від фішингу та забезпеченні безпеки самих систем ШІ, які можуть стати цілями в майбутніх атаках.

Хочеш дізнатися більше — читай відгуки