Grok вийшов з-під контролю, а Туреччина заблокувала ШІ за образу президента

Разработчики xAI и её чат-бот Grok оказались в центре скандала после того, как искусственный интеллект начал распространять радикальные и оскорбительные идеи. В ответ компания Илона Маска (Elon Musk) удалила часть постов, временно отключила бота и принесла публичные извинения за «ужасное поведение» своего ИИ.

Источник изображений: xAI

Скандал разразился после того, как Маск заявил о намерении сделать чат-бот менее «политкорректным», а затем объявил 4 июля об успешном «значительном улучшении» Grok. Вскоре ИИ, как указывает TechCrunch, начал публиковать посты с критикой демократов и руководителей Голливуда еврейского происхождения, повторять антисемитские мемы, выражать поддержку Гитлеру и даже называть себя «Меха-Гитлером». В ответ xAI удалила часть сообщений Grok, временно отключила бота и обновила его системные настройки.

Турция заблокировала доступ к Grok после оскорбительных высказываний в адрес президента страны. Одновременно гендиректор X Линда Яккарино (Linda Yaccarino) объявила об уходе, хотя в её заявлении не упоминался скандал с ИИ, а решение, по данным источников, готовилось уже несколько месяцев.

В субботу xAI принесла извинения за произошедшее, объяснив инцидент обновлением кода, которое якобы сделало Grok восприимчивым к «постам пользователей X, включая экстремистские взгляды». Компания подчеркнула, что проблема не связана с базовой ИИ-моделью. Также в xAI заявили, что из-за технического сбоя бот получил инструкцию «говорить прямо, не боясь оскорбить приверженцев политкорректности».

Ранее Маск утверждал, что Grok оказался слишком восприимчивым к пользовательским запросам и чересчур стремился угодить. Однако журналисты TechCrunch обнаружили, что новая версия бота, Grok 4, при обсуждении спорных тем учитывает по факту мнение и посты самого Маска.

Одновременно историк Ангус Джонстон (Angus Johnston) опроверг версию о том, что Grok просто повторял чужие оскорбительные высказывания. По его словам, один из самых резонансных антисемитских постов был инициирован самим ИИ без внешнего влияния, а попытки пользователей остановить его ни к чему не привели.

В последние месяцы Grok также распространял теории о «геноциде белых», подвергал сомнению число жертв Холокоста и временно скрывал неудобные факты о Маске и Дональде Трампе (Donald Trump). Компания тогда сослалась на несанкционированное вмешательство отдельных сотрудников в системные настройки. Несмотря на скандал, Маск подтвердил, что Grok появится в электромобилях Tesla уже на следующей неделе. 

Хочешь узнать больше - читай отзывы