Дипфейки захоплюють інтернет — Microsoft запропонувала план порятунку від підробок

Microsoft розробила набір стандартів, покликаних допомогти оцінити реальність матеріалів, розміщених в інтернеті. Спеціалісти компанії вирішили оцінити, наскільки ефективні методи документування цифрових маніпуляцій з контентом, таких як дипфейки та створені ШІ гіперреалістичні зображення — так з'явилися технічні стандарти, які зможуть використовувати розробники ШІ та платформи соціальних мереж.

Джерело зображення: Aidin Geranrekab / unsplash.com

Схему верифікації матеріалів у Microsoft роз'яснили на прикладі картини Рембрандта, автентичність якої необхідно підтвердити документально. Можна відстежити її походження, склавши детальний список місць, звідки вона приходила, і всіх випадків, коли вона змінювала власника. Можна відсканувати картину, представити її в цифровому вигляді і на основі мазків пензля згенерувати математичний підпис, подібний до відбитка пальця. Коли картина виставляється в музеї, скептично налаштований відвідувач зможе вивчити ці матеріали і переконатися, що це оригінал.

Усі ці методи в тій чи іншій мірі вже використовуються для перевірки контенту в інтернеті — у Microsoft провели оцінку 60 різних комбінацій цих методів і змоделювали, як кожне з поєднань буде працювати при різних сценаріях — від простого видалення метаданих до незначного зміни або навмисної маніпуляції контентом. Дослідники компанії встановили, які комбінації дають достатньо надійні результати, щоб їх можна було демонструвати широкій аудиторії, і які настільки ненадійні, що можуть ще більше все заплутати, а не внести ясність.

Потреба в проекті виникла через численні законодавчі ініціативи, зокрема «Закон про прозорість ШІ», який набуде чинності в серпні в американській Каліфорнії. Але в Microsoft відмовилися дати відповідь, чи буде сама компанія застосовувати ці рекомендації на власних платформах. У її розпорядженні є група ШІ-сервісів Copilot, здатних генерувати текст і зображення; хмарна платформа Azure, на якій запускаються моделі ШІ; частка в ШІ-розробнику OpenAI; а також професійна соціальна мережа LinkedIn.

Джерело зображення: Steve Johnson / unsplash.com

Зазначається, що запропоновані Microsoft засоби не призначені для визначення істинності чи хибності самих матеріалів — вони лише показують, чи піддавалися ці матеріали маніпуляціям, тобто дають уявлення про походження інформації. Якби галузь взяла ці інструменти на озброєння, обманювати громадськість за допомогою сфабрикованого контенту стало б набагато складніше, вважають експерти.

У 2021 році Microsoft запропонувала стандарт C2PA, призначений для відстеження походження контенту; з 2023 року Google почала додавати водяний знак до створених ШІ матеріалів; але повний набір засобів, які тепер пропонує Microsoft, ризикує залишитися лише пропозицією, якщо учасники ринку побачать у ньому загрозу для своїх бізнес-моделей.

Існуючі засоби не завжди надійні: лише 30% тестових публікацій в Instagram, LinkedIn, Pinterest, TikTok і YouTube отримали правильну позначку як створені ШІ, показало дослідження. Тому прискорене розгортання тих чи інших засобів перевірки контенту ризиковане — якщо вони почнуть давати збої, то люди просто перестануть їм довіряти. Комплексні механізми перевірки виглядають більш надійними. Так, якщо піддати достовірне зображення лише незначному редагуванню за допомогою ШІ, платформи можуть почати реагувати на нього як на згенероване ШІ з нуля — комплексна перевірка з меншою ймовірністю дасть хибнопозитивний результат.

Хочеш дізнатися більше — читай відгуки