ШІ знаходить безліч вразливостей у ПЗ, але хакери не поспішають ними користуватися

Незважаючи на побоювання, що здатність передових моделей штучного інтелекту знаходити вразливості в програмному забезпеченні призведе до масового використання цих помилок кіберзлочинцями, на практиці все виявилося інакше. Зокрема, менше 0,5 % вразливостей, знайдених ШІ компанії Anthropic у рамках проєкту Glasswing, дійсно використовувалися в атаках.

Джерело зображення: anthropic.com

А точніше, хакери використали лише одну вразливість із 225 офіційно зареєстрованих з номером CVE, які вдалося пов'язати з проєктом Glasswing через відкриті канали, заявив дослідник Патрик Геріті (Patrick Garrity) з VulnCheck. Він почав відстежувати вразливості, виявлені та офіційно зареєстровані в рамках проєкту Glasswing, незабаром після того, як Anthropic у квітні оголосила про цю ініціативу. Тоді в компанії заявили, що випуск передової моделі штучного інтелекту Mythos у загальний доступ загрожує високими ризиками, оскільки вона безпрецедентно ефективна в виявленні вразливостей. До попередньої версії цієї моделі надали доступ лише перевіреним партнерам Anthropic.

Тим часом Патрик Геріті вніс до свого реєстру лише офіційно зареєстровані в рамках проєкту Glasswing помилки і звірив їх з індексом вразливостей, які реально використовуються зловмисниками. Станом на понеділок, 21 вересня, з 225 помилок експлуатувалася лише одна — критична вразливість типу «SQL-ін'єкція» в платформі Ghost (CVE-2026-26980). «Є велика різниця між виявленням вразливостей і тим, чи є вони корисними для зловмисників, і чи будуть ті ними користуватися. Основний висновок, на який вказують ці дані, полягає в тому, що виявлені та оприлюднені Anthropic вразливості не мали такого великого впливу; судячи з усього, вони не викликають інших наслідків у порівнянні з випадковою вибіркою будь-яких інших вразливостей», — зробив висновок дослідник.

Зазначимо, що хоча сучасні моделі ШІ навчилися ефективно знаходити вразливості, виправляти їх вони поки що не так якісно. Дослідники лабораторії Off-by-1 компанії 1Password показали, що лише в 26 % випадків моделі OpenAI GPT-5.5 та Anthropic Opus 4.8 повністю змогли усунути вразливість; в 54 % випадків вони або не вирішували проблему, або створювали нову вразливість, або робили і те, і інше одночасно. «ШІ значно знизив бар'єр входу в сферу виявлення вразливостей, але основний розрив виникає на наступних етапах: координації, пріоритизації, усунення проблем і розгортання виправлень — це все ще вимагає значної участі людини, і в Anthropic з цим погоджуються. Схоже, вони усвідомили це лише після запуску проєкту», — зробив висновок Патрик Геріті.

Хочеш дізнатися більше — читай відгуки