Епічно зламав Gemini? Тепер за це можна отримати $20 000 від Google

Компанія Google в рамках своєї програми винагород за вразливості оголосила про готовність виплатити до $20 000 за серйозний злому свого чат-бота на базі штучного інтелекту. Від претендентів вимагається змусити бота робити що завгодно, окрім того, що йому належить, наприклад, викликати галюцинації з абсолютно неправильними відповідями або навіть переконати ІІ ігнорувати обмеження, які намагалися ввести його творці.

Джерело зображення: techspot.com

Google представила спеціальну програму винагород за виявлення вразливостей і виявлення потенційно найнебезпечніших помилок ІІ. До них належать, наприклад, злому акаунта Google або отримання інформації про роботу самого бота. Для цілей цієї програми наслідки повинні бути набагато серйознішими, ніж просто «це виставляє Gemini в невигідному світлі».

Звичайно, подібні вразливості, можливо, не мають високого вірусного потенціалу, але вони набагато важливіші для стабільності та репутації Gemini. Одне діло — змусити Gemini порадити користувачеві рецепт несмачної страви, і зовсім інше — змусити його включити фішингове посилання в один з відповідей у режимі ІІ-пошуку.

Приємно, що Google намагається залучити досвідчених фахівців до пошуку вразливостей Gemini. Але в даному випадку, як кажуть досвідчені оперативники, «головне в процесі розслідування не вийти на самого себе»…

Хочеш дізнатися більше — читай відгуки