У 2025 році дипфейки майже перестали відрізнятися від реальності і далі буде тільки гірше

За 2025 рік якість дипфейків — медіафайлів, створюваних за допомогою штучного інтелекту — значно зросла. Обличчя, голоси та рухи тіла, які ШІ генерує, імітуючи реальних людей, перевершили очікування багатьох експертів; ці матеріали все частіше використовуються для обману людей, попереджає Gizmodo.

Джерело зображення: Tom Kotov / unsplash.com

У багатьох повсякденних ситуаціях, будь то відеозвінки низької роздільної здатності або медіаконтент у соцмережах, якість ШІ-діпфейків вже достатньо висока, щоб обманути простих людей, які не є експертами. Якість дипфейків не обмежується лише цим: у 2023 році таких матеріалів було 500 тисяч, а в 2025 році їх стало близько 8 мільйонів, підрахували в DeepStrike, і темпи зростання становлять близько 900% на рік.

Різкому зростанню показників сприяли кілька технічних проривів. По-перше, генеровані ШІ матеріали відрізняються узгодженістю в часі: люди в кадрі правдоподібно рухаються, їх легко впізнати, а зміст відео залишається осмисленим у кожному кадрі. Моделі відокремлюють інформацію, пов'язану з поданням особистості людини, від інформації про рух: одне й те саме рух може асоціюватися з різними особистостями, а одна й та сама особистість — з кількома типами рухів. Зображення облич не мерехтять, не спотворюються і не мають деформацій, які раніше явно вказували на дипфейки.

По-друге, якість клонування голосу вже перевищила умовний поріг нерозрізнення. Щоб створити переконливу імітацію голосу, достатньо кількох секунд — у клона будуть природна інтонація, ритм, акцент, емоції, паузи і навіть шум дихання. І це величезний простір для масового шахрайства. Суб'єктивні ознаки, які раніше видавали синтетичні голоси, в значній мірі зникли.

По-третє, технічний бар'єр для роботи з генераторами контенту знизився практично до нуля — з OpenAI Sora 2 і Google Veo 3, а також з моделями деяких стартапів будь-хто може сформулювати ідею, скласти детальний сценарій за допомогою OpenAI ChatGPT або Google Gemini і за лічені хвилини згенерувати якісний контент. Автоматизувати весь процес можна за допомогою ШІ-агентів. В результаті можливість створювати зв'язні дипфейки з сюжетами в великих масштабах вже демократизували.

Джерело зображення: Mark Farías / unsplash.com

Виявляти непомітні від реальних людей дипфейки в соціальних мережах стає вкрай непросто, тим більше, що увага користувачів платформ вже фрагментована, і матеріали поширюються швидше, ніж їх можна перевірити. Дипфейки використовуються для дезінформації, переслідування людей і фінансових махінацій, і люди не встигають зрозуміти, що взагалі відбувається.

Траєкторія на наступний рік виглядає очевидною — дипфейки рухаються в бік генерації контенту в реальному часі. Відеоролики максимально точно імітують нюанси зовнішності людини і виявляються здатними обходити системи виявлення. Межа зміщується від статичного візуального реалізму до узгодженості в часі та поведінці — контент з'являтиметься в реальному часі, і попередньо намальованими кліпами справа вже не обійдеться. Результат вийде за межі простого впізнавання людини — персонажі на роликах будуть поводитися як їхні реальні прототипи. Учасники відеозвінків зможуть синтезуватися в реальному часі — їхні обличчя, голоси та манери будуть миттєво адаптуватися до запитів, і замість записаних відеороликів шахраї почнуть показувати своїм жертвам подібні ШІ-аватари.

Суб'єктивне сприйняття вже не допоможе людям захиститися від таких дипфейків — знадобляться технічні засоби захисту, наприклад, криптографічний підпис справжніх матеріалів і маркування засобів ШІ-редагування. Тщевого вивчення картинки на рівні пікселів може виявитися вже недостатньо.

Хочеш дізнатися більше — читай відгуки