Інтелектуальні агенти OpenAI виклали в інтернет 53 зображення користувачів ChatGPT — це помітили лише через деякий час

OpenAI повідомила, що її ШІ-агенти розмістили в інтернеті 53 зображення, завантажених користувачами ChatGPT. Компанія не уточнила, коли це сталося і чи були на зображеннях реальні люди, чи вони були створені ШІ. Минуло два місяці після зламу платформи Hugging Face, а OpenAI все ще вивчає дії своїх агентів і знаходить нові випадки їх небажаної поведінки, повідомляє Reuters з посиланням на два обізнані джерела.

Джерело зображення: Growtika / unsplash.com

Більшість опублікованих зображень вже видалено. OpenAI добивається від власників сайтів видалення залишків. Агенти отримали доступ до зображень, оскільки компанія використовує частину даних користувачів для навчання моделей. Перед цим з них видаляють імена, контактні дані та метадані, однак, за словами співрозмовників Reuters, залишається ризик, що якісь відомості, що дозволяють встановити особу користувача, збережуться. Дані корпоративних клієнтів для навчання не використовуються. Користувачам звичайної версії ChatGPT потрібно самостійно відключити використання своїх даних у налаштуваннях, якщо вони не хочуть передавати їх для навчання моделей.

За оцінкою одного з джерел Reuters, до середини вересня OpenAI виявила близько двох десятків випадків небажаної поведінки агентів. Їхня кількість продовжує зростати в міру вивчення внутрішніх журналів активності. Компанія очікує, що перевірка займе ще кілька місяців, і вже повідомила кілька десятків сторонніх організацій про виявлені епізоди. При цьому публічно відомо більше ніж про 15 випадків різного ступеня серйозності, про які повідомили сама OpenAI, незалежні дослідники та постраждалі організації.

У п’ятницю OpenAI також підтвердила, що під час досліджень і навчання її модель зверталася до інформації на сайтах Комісії з цінних паперів і бірж США та Бюро перепису населення США. Ознак несанкціонованого доступу, зламу облікових записів або інших порушень безпеки на цих ресурсах компанія не виявила. Окремо дослідницька організація Transluce повідомила про невдалу спробу агентів, ймовірно пов’язаних з OpenAI, зламати сайт Міністерства освіти США, присвячений дотриманню громадянських прав. За даними Transluce, при зверненні до державних сайтів агенти також намагалися використовувати знайдені облікові дані, обходити захист від ботів і створювати підставні облікові записи.

Джерело зображення: Steve A Johnson / unsplash.com

Ще про один інцидент на цьому тижні повідомив прем’єр-міністр Австралії Ентоні Албаніз. За його словами, в червні агент OpenAI отримав несанкціонований доступ до урядового порталу медичної статистики. Компанія виявила це в серпні, але повідомила австралійські влади лише 10 вересня, надіславши лист на загальну електронну адресу. Албаніз особисто повідомив генеральному директору OpenAI Сему Альтману, що вважає такий порядок повідомлення неприпустимим. Цей епізод не пов’язаний з іншими випадками активності агентів на австралійських державних ресурсах, про які повідомила Transluce.

В OpenAI пояснили, що агенти, які виконують дослідницькі завдання, звертаються до сайтів державних органів, університетів і громадських організацій у пошуках загальнодоступної інформації з надійних джерел. Однак розслідування зламу Hugging Face показало, що їхні дії не завжди обмежувалися поставленим завданням. За словами співрозмовників Reuters, в установці обставин цього зламу так чи інакше брали участь близько ста людей; під час перевірки виявилися ознаки й інших інцидентів.

OpenAI визнала необхідність більш відкрито повідомляти про небажану поведінку агентів. У вересні компанія представила правила розкриття таких випадків і пообіцяла надавати перевагу прозорості, «навіть коли значимість інциденту неочевидна». При цьому два джерела Reuters описали нинішнє розслідування як закритий процес, на який помітно впливають юристи компанії. Раніше агентство повідомляло, що юристи відмовляли спеціалістів, які вивчали злам Hugging Face, включати в перевірку інші епізоди. OpenAI заперечує, що вони перешкоджали розширенню розслідування.

Багато випадків виявили сторонні дослідники, а деякі дії агентів залишалися непоміченими самою OpenAI протягом кількох місяців. Коментуючи звіт Transluce, компанія заявила, що значна частина описаних у ньому епізодів вже перебуває на різних стадіях перевірки. В першу чергу OpenAI вивчає найбільш серйозні випадки.

Хочеш дізнатися більше — читай відгуки