ChatGPT та Codex почнуть позначати відповіді невидимими «водяними знаками», але не у всіх

OpenAI впровадить у свої ШІ-сервіси ChatGPT та Codex систему невидимих «водяних знаків» textGrain для текстового виводу. На першому етапі технологія буде доступна лише користувачам з Європейського Союзу. Це, на думку компанії, має підвищити прозорість та якість взаємодії з кінцевими користувачами.

Джерело зображення: Growtika / unsplash.com

За словами OpenAI, технологія нанесення «водяних знаків» textGrain показала результати, «порівнянні або перевищуючі» показники інших методів, наприклад, SynthID для тексту від Google DeepMind. Останній, у свою чергу, також став основою системи маркування, анонсованої компанією Anthropic в серпні. Як і OpenAI, компанія Anthropic впровадила цю функцію, щоб відповідати вимогам Закону ЄС про штучний інтелект.

OpenAI також представила результати тестування на ШІ-бенчмарках, які демонструють схожу ефективність роботи моделей з «водяними знаками» та без них. Разом з цим OpenAI заявляє, що textGrain «не гарантує надійного виявлення», а самі текстові «водяні знаки» не підтверджують фактичну точність інформації, не визначають власника тексту, не вимірюють частку участі людини і не слугують доказом авторства людини.

Впровадження текстових «водяних знаків» в ЄС для ChatGPT та Codex розпочнеться найближчими тижнями. Нововведення буде використовуватися на всіх тарифних планах цих сервісів. Перед глобальним запуском компанія хоче отримати досвід реального використання системи та врахувати відгуки користувачів. Тому початковий запуск буде регіональним.

OpenAI повідомила, що з сьогоднішнього дня користувачі її API по всьому світу можуть на свій вибір активувати функцію нанесення «водяних знаків» на текстовий вивід для ряду моделей. Компанія також співпрацює з рядом хмарних партнерів, щоб найближчими тижнями зробити функцію «водяних знаків» доступною для результатів роботи моделей OpenAI, отриманих через їхні сервіси.

Схвалені дослідники та профільні організації можуть подати заявку на доступ вже сьогодні. Відповідно до Кодексу практичних правил, доступ на початковому етапі буде надаватися в індивідуальному порядку для підтримки оцінки та вдосконалення методів відстеження походження тексту. Інструмент буде повідомляти про наявність або відсутність «водяного знака» OpenAI, не ідентифікуючи користувача і не розкриваючи зміст його запитів або діалогів.

Хочеш дізнатися більше — читай відгуки