Microsoft вбудувала в ШІ-картинки прихований ідентифікатор — за ним можна встановити, хто їх створив

Microsoft обрала для маркування створених за допомогою штучного інтелекту зображень власний формат: «водяні знаки», які накладаються на картинки з Paint та програми «Фотографії», містять відомості, що можуть вказати на користувача, який надіслав запит до ШІ.

Джерело зображення: BoliviaInteligente / unsplash.com

Маркування введено відповідно до вимог нових норм ЄС щодо прозорості. Вони передбачають, щоб створений за допомогою ШІ контент мав позначку в машиночитаному форматі, а пов'язані з ним метадані повинні вказувати, як мінімум, чи піддавався контент обробці за допомогою ШІ або був повністю згенерований ним. Конкретні методи не визначаються, і в Microsoft вирішили розширити цей обсяг інформації — будучи одним із засновників Коаліції за походження та автентичність контенту (C2PA), компанія вирішила впровадити в Paint та програму «Фотографії» маркування з вказівкою глобального унікального ідентифікатора (GUID), пов'язаного з запитом, за яким було створено зображення.

Невидимий водяний знак GUID є 16-байтовим цілим числом, що відрізняється від видимого водяного знака, який Microsoft надає користувачам Paint та функцій ШІ Microsoft 365. Знаючи пов'язаний із зображенням GUID запит, компанія має технічну можливість ідентифікувати і того, хто надіслав цей запит. Примітно, що при запиті на генерацію Paint також надсилає значення попереднього promptGenerationId, тобто Microsoft може пов'язувати і послідовності запитів.

Маркування ШІ-контенту у відповідь на вимоги ШІ вже впровадили Anthropic, OpenAI та Google. Без маркування працюють лише моделі з відкритими вагами, зокрема Stable Diffusion; а найнадійнішим способом зберегти конфіденційність залишаються моделі, які запускаються локально на пристроях користувачів, а не в хмарі.

Хочеш дізнатися більше — читай відгуки