Anthropic пояснила, як Claude буде непомітно позначати тексти, написані ШІ

Цього тижня компанія Anthropic оголосила, що майбутні моделі Claude будуть непомітно додавати до згенерованих текстів спеціальні «водяні знаки». Вони збережуться при копіюванні та вставці тексту, а в деяких випадках можуть пережити навіть його редагування. Тепер розробники детальніше розповіли, як працює ця технологія і чи вплине вона на відповіді ШІ-помічника.

Джерело зображення: anthropic.com

В Anthropic пояснили, що «водяні знаки» дозволять визначити ймовірність того, що Claude брав участь у написанні тексту. Компанія також зазначила, що разом з іншими великими розробниками ШІ впроваджує цю технологію для дотримання вимог Закону про штучний інтелект Європейського Союзу.

За словами Anthropic, технологія не матиме помітного впливу на якість і зміст відповідей Claude. Текст з «водяним знаком» не відрізнятиметься від звичайного візуально, при цьому в нього не додаються приховані символи або інші додаткові дані. Водяні знаки також не вимагатимуть додаткових токенів, тому їх використання не призведе до зростання вартості запитів.

Anthropic описує технологію як зміну малозначних рішень при виборі слів. Мовна модель і без того вибирає між кількома близькими за змістом варіантами, а система водяних знаків змінює джерело випадковості таким чином, щоб у тексті формувався статистично перевіряємий патерн. Його неможливо виявити візуально, але спеціальний інструмент з відповідним ключем зможе оцінити ймовірність того, що текст був згенерований Claude.

Ефективність технології залежить від обсягу тексту. На довгих фрагментах водяний знак виявити простіше, тоді як у коротких текстах і фактичних уривках можливостей для статистичного аналізу менше. Якщо Claude лише редагує написаний людиною текст, мітка може практично зникнути. У програмному коді вона також працює гірше, оскільки там вибір формулювань сильніше обмежений вимогами до синтаксису і результату.

При цьому «водяні знаки» не містять ідентифікуючої інформації і не дозволяють встановити, хто саме користувався Claude, яка організація це робила або в якому чаті був створений текст. Вони будуть характерні для моделей Claude і призначені, перш за все, для того, щоб сторонні інструменти могли оцінювати ймовірність участі ІІ у створенні тексту. Для звичайного користувача практично нічого не зміниться: Claude продовжить генерувати і редагувати текст так само, як раніше. Відрізнити текст з водяним знаком від звичайного на око буде неможливо, а для його виявлення знадобиться спеціальний інструмент.

Хочеш дізнатися більше — читай відгуки