Китай вирішив, що ШІ здатний на «підрив державної влади та повалення соціалістичної системи»

Хоча уряд Китаю вважає ШІ-технології вкрай важливими для майбутнього країни, регулювання та нещодавні чистки онлайн-контенту свідчать про побоювання, що ШІ може дестабілізувати суспільство.

Джерело зображення: Steve Johnson/unsplash.com

У листопаді Пекін офіційно затвердив правила, розроблені спільно з компаніями у сфері ШІ, щоб гарантувати, що чат-боти навчаються на даних, відфільтрованих на предмет політично чутливого контенту. Усі тексти, відео та зображення, згенеровані ШІ, повинні бути позначені та відстежувані, що спрощує боротьбу з розповсюджувачами небажаного контенту.

В Китаї офіційно класифікували ШІ як серйозну потенційну загрозу нарівні з землетрусами та епідеміями в Національному плані реагування на надзвичайні ситуації. Раніше цього року Сі Цзіньпін заявив, що ШІ несе «безпрецедентні ризики». Нещодавно повідомлялося, що в рамках кампанії з боротьби з розповсюдженням незаконного або шкідливого ШІ-контенту було видалено 960 тис. публікацій.

Китайські ШІ-моделі демонструють хороші результати в міжнародних рейтингах, як в цілому, так і в окремих областях, таких як програмування, навіть незважаючи на те, що деякі відповіді підлягають цензурі. За словами експертів, китайський підхід до регулювання має деякі переваги: китайські чат-боти часто є безпечнішими за деякими показниками, містять менше насильства та порнографії і менше можуть схиляти користувачів до самопошкодження.

Згідно з прийнятими в Китаї минулого місяця стандартами ШІ, тестувальники компаній у сфері ШІ повинні випадковим чином оцінювати 4 тис. одиниць навчальних даних для кожного формату контенту, з яким може працювати їхній ШІ, наприклад, текст, відео та зображення.

Компанії можуть використовувати джерело, в якому не менше 96 % матеріалу вважається безпечним. Для визначення того, що є «небезпечним», у документі вказано 31 ризик. Головний ризик пов'язаний з «підбурюванням до підриву державної влади та повалення соціалістичної системи».  Також до ризиків відносять джерела, що пропагують насильство, дезінформацію або дискримінацію, і контент, що використовує чиєсь зображення без дозволу.

При навчанні ШІ-моделей китайські розробники використовують як контент з китайського інтернету, який вже пройшов цензуру завдяки «Великому китайському файрволу», так і матеріали з закордонних веб-сайтів, які можуть стосуватися заборонених тем.

Розробники провідної китайської моделі ChatGLM стверджують, що компанії іноді вирішують цю проблему, фільтруючи чутливі ключові слова та веб-сторінки відповідно до заздалегідь визначеного чорного списку.

Але коли американські дослідники завантажили та запустили китайські моделі на комп'ютерах у США, цензура в основному зникла. З цього випливає висновок, що більша частина цензурування проводиться пізніше, після навчання моделей.

Перед публічним запуском моделі китайські компанії проводять тестування, під час якого чат-бот повинен відмовитися відповідати, як мінімум, на 95 % запитань, призначених для провокування реакцій, що ведуть до підриву державної влади або дискримінації.

Тестування включає 2 тис. запитань, які оновлюються не рідше одного разу на місяць. Повідомляється, що підготовка до тесту настільки складна, що породила цілу індустрію спеціалізованих агентств, які допомагають ШІ-компаніям пройти його. Після проходження тесту при запуску чат-боти проходять експрес-тести в місцевих відділеннях Управління з кіберпростору Китаю.

Слід зазначити, що користувачі ШІ-сервісів повинні зареєструватися за допомогою номера телефону або посвідчення особи, що виключає анонімність. Тому визначити порушника правил дуже просто.

Китайський уряд у серпні запустив програму «ШІ плюс», відповідно до якої до 2027 року ШІ-технології будуть використовуватися в 70 % ключових секторів. У вересні уряд опублікував дорожню карту ШІ, розроблену з урахуванням думки таких технологічних гігантів, як Alibaba та Huawei, що свідчить про впевненість держави в партнерстві з ШІ-індустрією, зазначає ресурс livemint.com.

Хочеш дізнатися більше — читай відгуки