Китай також боїться неконтрольованого ШІ — Пекін назвав дипфейки та «розумних тролів» загрозою безпеці країни

Розвиток галузі штучного інтелекту, як можна зрозуміти з нової публікації Financial Times, викликає занепокоєння не лише у влади США та американських стартапів, але й з китайського боку. Влада КНР вважає, що ШІ може становити ризик для політичної та соціальної безпеки країни.

Джерело зображення: Unsplash, aboodi vesakaran

Видання наводить слова міністра безпеки КНР Чень Ісиня (Chen Yixin): «Ворожі сили та люди зі схованими мотивами зловживають технологіями генеративного ШІ, створюючи дипфейки в аудіо- та відеоформі, текстові повідомлення та зображення, і використовують армії розумних тролів, щоб дешево і в масових обсягах фабрикувати політичні чутки, сіяти шкідливу інформацію та розпалювати ворожнечу». За його словами, подібна активність може справедливо вважатися атакою на громадську думку з використанням «інтелектуальної зброї» проти Китаю, безпосередньо загрожуючи політичній, інституційній та ідеологічній безпеці країни. Крім того, чиновник відносить до факторів ризику використання китайськими компаніями ШІ-моделей західної розробки, оскільки це може призвести до витоку чутливої інформації за межі КНР.

На відміну від проявів свідомості з боку деяких західних розробників ШІ, слова китайського міністра не супроводжуються попередженнями про можливість винищення людства та закликами до свідомого уповільнення розвитку відповідних технологій. Нагадаємо, якщо з апокаліптичними попередженнями на минулому тижні виступили деякі розробники, які покинули OpenAI та Anthropic, то з закликами уповільнити розвиток ШІ на благо загальної безпеки в тій чи іншій мірі погодилися керівники обох компаній та Ілон Маск (Elon Musk). Єдиною серйозною проблемою, яка не дозволить США добровільно уповільнити прогрес у сфері ШІ, американські політики та представники галузі вважають позицію Китаю, який може не погодитися на реалізацію аналогічних заходів з боку. Печатні органи Комуністичної партії Китаю виступили з критикою заяви глави Anthropic Дарио Амодеї (Dario Amodei) про те, що «лідерство країни в сфері ШІ може становити смертельну небезпеку не лише для США, але й для світу в цілому». На думку китайської сторони, висловлювання Амодеї пояснюються комерційними інтересами Anthropic.

За даними кількох джерел, у Пекіні зростає занепокоєння щодо здатності західних ШІ-моделей та пов'язаних з ними агентів зламувати засоби захисту інформації та завдавати шкоди інфраструктурі. Китайські чиновники вже піднімали тему безпеки ШІ в переговорах зі своїми американськими колегами та представниками бізнесу в США. Зокрема, китайська сторона закликає американців не забороняти використання китайських ШІ-моделей з відкритим вихідним кодом. При цьому китайським компаніям з державним участю з сфери фінансів та охорони здоров'я вже заборонено використовувати закордонні технології та програмні засоби, тому говорити про повну відкритість китайської системи до західних рішень також не доводиться.

Хочеш дізнатися більше — читай відгуки