ШІ-генератор стікерів запрацював у Instagram і Facebook і користувачі одразу змусили його створювати непристойності

В Instagram и Facebook Messenger появилась возможность генерировать стикеры по текстовым запросам с помощью ИИ. Некоторые пользователи, получившие доступ к новому инструменту компании Meta, уже начали экспериментировать с ним, в результате чего появилось множество забавных, но сомнительных творений.

Источник изображения: twitter.com/Pioldes

Пользователь соцсети X под ником Pioldes, у которого ИИ-генератор стикеров появился в приложении Facebook Messenger, попытался совместить несовместимое, и его творения оказались подчас непристойными: это вооружённый сантехник Луиджи, брат того самого Марио; дети-солдаты; Микки Маус в уборной; крайне сомнительные воплощения канадского премьер-министра Джастина Трюдо (Justin Trudeau), Карла Маркса и ёжика Соника; и даже женщина, которая кормит грудью покемона Пикачу.

Meta представила работающий на основе алгоритмов ИИ генератор стикеров на прошлой неделе. Изображения создаются большой языковой моделью Llama 2 — она, как заявил разработчик, позволяет выдавать десятки качественных стикеров за считанные секунды. Инструмент будет доступен в личных сообщениях и в разделе Stories в Facebook и Instagram, а также в Facebook Messenger и WhatsApp. Пока пользоваться им может лишь ограниченная англоязычная аудитория.

В компании не уточнили круг пользователей, которые получили доступ к генератору стикеров. Но уже удалось установить, что некоторые слова в описаниях заблокированы: при попытке их ввести в поле описания стикеров выводится предупреждение, что данная лексика нарушает правила сообщества Meta. Выяснилось также, что генерировать неприемлемый контент можно, используя запрещённые слова с опечатками или подменяя их описаниями.

Такого рода сбои характерны при запуске ИИ-инструментов, поэтому в Meta, видимо, и решили на начальном этапе ограничить доступ к генератору стикеров. Отладив его на этих ошибках, компания сможет выпустить общедоступную версию.

3dnews

Хочешь узнать больше - читай отзывы