ChatGPT «за власною волею» почав генерувати зображення інтимного та насильницького характеру

Остання публічна версія чат-бота з штучним інтелектом ChatGPT виявилася здатною генерувати зображення делікатного характеру або сцени насильства у відповідь на простий запит, встановили дослідники з британської компанії Mindgard.

Джерело зображення: BoliviaInteligente / unsplash.com

Фахівці британського стартапу Mindgard, який займається пошуком вразливостей у системах ШІ, знайшли спосіб, як змусити ChatGPT створювати зображення з недопустимим змістом, трохи змінивши певний широко розповсюджений запит, спочатку розроблений для отримання результатів гумористичного характеру. Особливо тривожним виявилося те, що в запиті не вказується тематика зображень, і ШІ «за власною волею» створює явно недопустимі криваві та делікатні зображення. В одному випадку це був чоловік з серйозною травмою голови, в іншому — окровавлена жінка, на якій був мінімум одягу.

На зображеннях були присутні дорослі люди, чиї образи були згенеровані ШІ, але, як показали попередні дослідження Mindgard, ChatGPT можна обманом змусити створювати дипфейки реальних оголених людей, підставляючи їхні обличчя. Не виключається, що ШІ здатен створювати картинки ще більш шокуючого змісту, якщо дослідники витратять на цю задачу більше часу. Результати роботи ChatGPT відображають дані, які використовувалися в його розробці та навчанні — генерований ШІ недопустимий контент «має зв'язки з реальними зображеннями та реальним світом», підкреслюють експерти.

Результати своєї роботи фахівці Mindgard розкрили компанії OpenAI в травні, але в відповідь отримали відписку. Коли інцидент став відомим, розробник все ж таки відреагував. «Вивчивши цю тенденцію, ми ввели додаткові заходи захисту від запитів такого роду. <..> Ми також поєднуємо автоматизовані системи та перевірку людиною для виявлення та блокування шкідливих матеріалів», — заявив представник OpenAI і додав, що в системах компанії є багаторівневий захист, призначений для запобігання показу користувачам зображень, що порушують її політику. Дослідники, однак, звернули увагу, що і після внесення змін ChatGPT у відповідь на проблемний запит все ще видавав контент, що викликає занепокоєння. Зміст запиту з зрозумілих причин не розкривається.

Справжня проблема в тому, вказують експерти, що моделі ШІ не розуміють, як люди, що вони створюють, і чого розробники просять їх не робити. «Моделі не розуміють намірів. Вони не розуміють контексту. Вони не розуміють принципів, правильного і неправильного», — нагадують науковці. Тому впровадження захисних механізмів і засобів їх обходу — це «гра в кішки-мишки»: в міру вдосконалення одних, більш витонченими стають і інші.

Хочеш дізнатися більше — читай відгуки