Системи OpenAI були зламані за допомогою ШІ-моделей Anthropic

Фахівці в галузі кібербезпеки здійснили злом систем OpenAI, скориставшись програмними рішеннями її головного конкурента — компанії Anthropic. В результаті вдалося виявити вразливості в захисті розробника ChatGPT, продукти якого самі викликають питання, пов'язані з кібербезпекою.

Джерело зображення: Brecht Corbeel / unsplash.com

Невелика група експертів з кібербезпеки отримала доступ до облікового запису співробітника OpenAI в ChatGPT, що дало їм можливість переглянути конфіденційну інформацію та запропонувати зміни в коді продуктів. Дослідники використовували засіб Anthropic, розроблений спеціально для фахівців у цій галузі — їхня робота оплачувалася в рамках програми з пошуку вразливостей, покликаної виявляти помилки до того, як ними зможуть скористатися зловмисники. Той факт, що експертам вдалося швидко зламати систему однієї з провідних світових лабораторій штучного інтелекту, викликає занепокоєння щодо безпеки ШІ.

Троє дослідників з невеликої компанії Hacktron AI отримали від OpenAI винагороду в розмірі $6500 за своє відкриття. Вони скористалися вразливістю в налаштуваннях форуму спільноти OpenAI, щоб отримати доступ до внутрішніх облікових даних, а потім і до облікового запису одного з співробітників OpenAI в ChatGPT — він мав доступ до внутрішнього коду через платформу GitHub. «Дякуємо дослідникам за те, що вони зв'язалися з нами і поділилися своїми висновками», — заявили в OpenAI і додали, що вразливості вже усунуті.

Одночасно Anthropic повідомила, що різко збільшила використання ШІ при розробці нових моделей — Claude допомагає в реалізації 26% проектів у сфері досліджень і розробок; тільки в березні цей показник становив 1%. У компанії вирішили оприлюднити ці дані, щоб допомогти суспільству «усвідомити, наскільки світ близький до етапу рекурсивного самовдосконалення» — етапу, коли ШІ зможе самостійно навчатися, вдосконалювати себе або створювати нові моделі. Є побоювання, що в результаті людина втратить можливість управляти ними. Але поки говорити про це рано, додали в Anthropic — під час виконання 90% завдань ШІ співпрацює з людиною, хоча й бере на себе значну частину роботи.

Хочеш дізнатися більше — читай відгуки