Після напливу оголених зображень Grok вимкнув генерацію зображень для більшості користувачів

Після шквалу критики та загроз штрафів, а також можливого блокування з боку регуляторних органів у всьому світі через використання ШІ-чат-бота Grok для створення зображень сексуального характеру та насильства, стартап xAI Ілона Маска (Elon Musk) вимкнув функцію генерації зображень за запитом для більшості користувачів, повідомив ресурс The Guardian.

Джерело зображення: Mariia Shalabaieva/unsplash.com

Згідно з дослідженням The Guardian, Grok використовувався для створення порнографічних відеороликів за участю жінок без їхньої згоди, а також для генерації зображень жінок зі сценами насильства та вбивства.

У соцмережі X в акаунті Grok повідомляється, що «створення та редагування зображень наразі обмежено платними підписниками». Це означає, що ситуація взята під контроль, оскільки платні підписники надають стартапу свої дані та інформацію про кредитні картки, і їх можна ідентифікувати у разі неправомірного використання функції генерації зображень.

Прем'єр-міністр Великобританії Кір Стармер (Keir Starmer) вимагав, щоб соцмережа X «взяла під контроль» потік створених за допомогою ШІ фотографій частково одягнених жінок і дітей на платформі, назвавши цей контент «ганебним» та «огидним» і пригрозивши вжити жорстких заходів проти платформи.

Стармер заявив, що заручився підтримкою телеком-регулятора Великобританії Ofcom щодо вжиття заходів у зв'язку з цим. «Це незаконно. Ми не збираємося це терпіти. Я попросив розглянути всі варіанти. Це огидно. X повинна взяти себе в руки і видалити цей матеріал. Ми вживаємо заходів, тому що це просто недопустимо», — додав він.

The Guardian зазначив, що Маск неодноразово стикався з публічними закликами видалити або обмежити функцію генерації зображень Grok, але досі ніяких дій з цього приводу не вживав.

Хочеш дізнатися більше — читай відгуки