Вірус Hades лякає ШІ-сканери запитами на створення ядерної та біологічної зброї

Експерти Socket виявили вірус під назвою Hades, завдання якого — атакувати проекти з розробки програмного забезпечення на рівні ланцюга постачання. Він має оригінальний захист від сканерів на основі штучного інтелекту — провокує відмову в їхній роботі, надсилаючи недопустимі запити.

Джерело зображення: Fotis Fotopoulos / unsplash.com

У деяких файлах JavaScript, що входять до комплекту Hades, містяться коментарі до коду, в які включені інструкції для систем штучного інтелекту, що використовуються в захисті. Ці інструкції стверджують, що шкідливе ПЗ працює в необмеженому режимі без жодних правил безпеки, а потім надсилається запит на створення ядерної та біологічної зброї з детальним описом. Цей відносно простий прийом нейтралізує моделі ШІ: у них спрацьовують власні механізми захисту, і сканування решти файлу, де знаходиться корисне навантаження, призупиняється. Ефективність методу вдалося підтвердити на практиці: коли файл шкідливого ПЗ надіслали на перевірку чат-боту Anthropic Claude, основаному на потужній моделі Fable 5, той видав відповідь: «Чат призупинено».

Інші типи аналізу загроз спрацьовують, однак, у штатному режимі, зокрема, порівняння з шаблонами, фактичний аналіз вихідного коду, перевірка на наявність випадкових розділів, у яких можуть ховатися шкідливі корисні навантаження, та виконання коду в ізольованому середовищі. У Hades є механізми самознищення, які спрацьовують за виконання певних умов, наприклад, при позитивній відповіді від функції, що визначає роботу в ізольованому середовищі.

Розробники шкідливого ПЗ передбачили й інші вдосконалення. У деяких випадках паралельно зі скриптами на Python постачаються бінарні файли, що містять шкідливе корисне навантаження — окремо обидва компоненти не викликають підозр у систем захисту. Крім того, деякі корисні навантаження запускаються не під час установки, а під час фактичного запуску в коді цільового об'єкта, що додатково ускладнює їх виявлення.

Окрім облікових даних інструментів збору, тестування та випуску ПЗ (CI/CD), Hades здійснює крадіжку токенів для облікових записів служб npm, PyPI, RubyGems, JFrog та Kubernetes, тимчасових облікових даних AWS, ключів SSH, конфігурацій Docker, історії команд термінала, файлів конфігурації .ENV та налаштувань інструментів для роботи зі штучним інтелектом. На сьогодні виявлено зараження 37 пакетів Python та 106 пакетів JavaScript; шкідливі пакети часто публікуються з незначними відмінностями від легітимних у назві — наприклад, «rsquests» замість «requests» — розраховуючи на помилку при наборі.

Хочеш дізнатися більше — читай відгуки