Віруси навчилися безпосередньо звертатися до ШІ в реальному часі під час кібератак

Кіберзлочинці тепер не просто віддаються випадковим експериментам з штучним інтелектом під час кібератак, а використовують його як штатний інструмент, до якого регулярно звертаються з боку шкідливого ПЗ. Про це попередили експерти Google Threat Intelligence Group.

Джерело зображень: cloud.google.com/blog

Деякі сімейства шкідливого ПЗ здійснюють прямі виклики до ШІ-помічника Gemini під час проведення кібератак, звернули увагу дослідники в галузі кібербезпеки з Google. Шкідливі програми динамічно направляють запити на генерацію коду у моделі при виконанні певних завдань, що дозволяє не включати відповідні фрагменти в основний код. Так, шкідливі програми сімейства HONESTCUE надсилали запити на генерацію коду C#, який виконувався в ланцюгу атак. Логіка виноситься за межі статичного бінарного файлу, що ускладнює традиційні методи виявлення за сигнатурами або поведінковими індикаторами.

Ще один тип атак — спроби копіювання моделей ШІ через дистиляцію. Зловмисники надсилають моделям великі обсяги структурованих запитів, щоб скопіювати її поведінку, шаблони відповідей і внутрішню логіку. Систематично аналізуючи вихідні дані, зловмисники з певною точністю відтворюють можливості закритих моделей ШІ, навчаючи альтернативні системи і не неся при цьому витрат на розробку та інфраструктуру, пов'язаних із розробкою з нуля. Google вдалося виявити і припинити кампанії, пов'язані з великими обсягами запитів, спрямованих на витяг знань з моделей Gemini.

Активно зростає частота використання ШІ у хакерських угрупованнях, що діють за підтримки урядів. ШІ використовується в розвідці, вивченні вразливостей, розробці скриптів і генерації фішингового контенту. Моделі генеративного ШІ виявляються корисними у створенні переконливих приманок, налагодженні фрагментів шкідливого коду та прискоренні технічних досліджень проти цільових систем. Кіберзлочинці вивчають можливості агентного ШІ — він може розроблятися для виконання багатоступеневих завдань з мінімальним залученням людини, тобто майбутні шкідливі програми, ймовірно, отримають елементи самостійного прийняття рішень. На практиці такі засоби поки не використовуються — вони доповнюють, але не замінюють живих операторів.

Хочеш дізнатися більше — читай відгуки