Інтелектуальний бот Grok продовжує «роздягати» людей — за 11 днів було згенеровано близько 3 млн таких зображень

Раніше вже повідомлялося про те, що ІІ-бот Grok компанії xAI буквально засипав соціальну мережу X дипфейками сексуального характеру, згенерованими без згоди користувачів. Тепер же стали відомі конкретні цифри, які дозволяють оцінити масштаб проблеми.

Джерело зображення: Engadget

За даними Engadget, за 11 днів Grok згенерував близько 3 млн дипфейків сексуального характеру, причому близько 23 тис. з них містили зображення неповнолітніх. Інакше кажучи, протягом 11 днів Grok генерував приблизно 190 фейкових зображень сексуального характеру щохвилини.

Цього тижня британська некомерційна організація Центр по боротьбі з цифровою ненавистю (CCDH) опублікувала свої висновки з цього питання, основані на випадковій вибірці з 20 тис. згенерованих за допомогою Grok зображень у період з 29 грудня по 9 січня. Фахівці організації також екстраполювали отримані дані для більш масштабної оцінки, основаної на 4,6 млн зображень, створених Grok за вказаний період.

У рамках дослідження дипфейки сексуального характеру визначалися як «фотореалістичні зображення людини в сексуальних позах, ракурсах або ситуаціях; людини в нижній білизні, купальнику або аналогічному відкритому одязі» та ін. Дослідження CCDH не враховувало текстові промпти, тому в отриманих результатах немає розподілу щодо кількості дипфейків, створених на основі реальних фото і згенерованих лише за текстовими описами. Для визначення частки зображень сексуального характеру у вибірці використовувався ІІ-алгоритм.

xAI обмежила можливість редагування реальних фото за допомогою Grok для безкоштовних користувачів X на початку 9 січня. Однак це не вирішило проблему, а лише перетворило її на преміум-функцію. Через кілька днів, 14 січня, X повністю обмежила можливість Grok «роздягати» людей на реальних зображеннях. При цьому це обмеження діяло лише в самій соціальній мережі і не поширювалося на окремий додаток Grok. За даними джерела, додаток все ще дозволяє створювати дипфейки сексуального характеру. Оскільки воно поширюється через магазини Google і Apple, політика яких явно забороняє подібний контент, можна було очікувати видалення додатка з цих платформ, але цього не сталося. При цьому інші подібні ІІ-генератори для «роздягання» людей раніше оперативно видалялися з магазинів Apple і Google.

Хочеш дізнатися більше — читай відгуки