Штучний інтелект завалив Google фальшивими вразливостями — компанія призупинила прийом повідомлень про помилки

Google призупинила прийом повідомлень щодо вразливостей у своєму програмному забезпеченні з відкритим кодом, оскільки через активність ШІ в цій сфері такі повідомлення часто містять технічні галюцинації та викликають хибні тривоги.

Джерело зображення: Unsplash, Andrew

Фірмова ініціатива має назву Програма винагород за вразливості програмного забезпечення з відкритим кодом, вона передбачає виплату винагород стороннім фахівцям, які виявлять у програмному забезпеченні Google з відкритим вихідним кодом вразливості. У міру розвитку ШІ-моделей, здатних шукати слабкі місця в програмному коді, Google опинилася буквально завалена автоматично генерованими зверненнями в рамках цієї програми.

За словами представників компанії, ці звернення часто містять хибну інформацію або відверті «галюцинації» ШІ-моделей, тому потік цих даних було вирішено тимчасово зупинити. Розгляд нових звернень призупинено з 1 жовтня, а нові відомості про терміни перезапуску програми з'являться не раніше першого кварталу наступного року. При цьому аналогічні ініціативи Google в сегментах, що стосуються інших видів ПЗ, продовжують працювати.

Хочеш дізнатися більше — читай відгуки