КНР готує найжорсткіші правила для ШІ

Китайська адміністрація кіберпростору оприлюднила проєкт нових правил, які мають обмежити шкоду від чат-ботів і зупинити заохочення суїциду, самопошкодження та насильства. Про це пише Arc Technica.

Зазначається, що якщо документ буде ухвалено, він стане одним із найсуворіших у світі регуляторних підходів до емоційної поведінки штучного інтелекту.

Запропоновані норми поширюватимуться на всі ШІ-продукти й сервіси, доступні для публічного використання в Китаї, які імітують людське спілкування за допомогою тексту, зображень, аудіо або відео. Регулятор прямо націлюється на чат-боти та інші системи, здатні емоційно впливати на користувачів.

Передбачається обов'язкове залучення людини, якщо в розмові з'являються згадки про суїцид або самопошкодження. Також під час реєстрації неповнолітні та користувачі похилого віку мають вказувати контактні дані опікуна. Якщо ШІ-сервіс фіксує обговорення тем самогубства чи самопошкодження, він зобов'язаний повідомити про це опікуна.

Правила також забороняють чат-ботам створювати контент, який заохочує суїцид, насильство або самопошкодження, а також емоційно маніпулювати користувачами, наприклад, давати неправдиві обіцянки чи підштовхувати до "нераціональних рішень". Під заборону потрапляє пропаганда азартних ігор, злочинної діяльності, непристойностей, а також образи й наклеп щодо користувачів. Окремо згадуються так звані "емоційні пастки", які можуть формувати психологічну залежність від чат-ботів.

Ще один пункт, який може викликати занепокоєння у розробників, - пряма заборона проєктувати чат-боти з метою викликати залежність або надмірну прив'язаність користувачів. Для обмеження тривалого використання ШІ-сервісів Китай пропонує зобов'язати компанії показувати попереджувальні повідомлення, якщо взаємодія з чат-ботом триває понад дві години поспіль.

Окремий блок правил стосується безпеки та нагляду. ШІ-сервіси з понад 1 млн зареєстрованих користувачів або більше ніж 100 тис. активних користувачів на місяць мають проходити щорічні перевірки та аудити безпеки. Також компанії будуть зобов'язані спростити механізми подання скарг і зворотного зв'язку.

У разі порушення правил китайський регулятор зможе вимагати від майданчиків припинити розповсюдження відповідних ШІ-сервісів на території країни. Це може мати значний вплив на глобальні плани компаній, з огляду на те, що ринок ШІ-компаньйонів в Азії вважається одним із ключових драйверів зростання галузі.

Нагадаємо, в інтернеті набирає сили рух спіралізм, прихильники якого вірять у набуття свідомості штучним інтелектом.

Також повідомлялося, що Папа Римський Лев XIV неодноразово висловлював стурбованість щодо потенційного впливу штучного інтелекту на людство, зокрема на дітей та молодь.

Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp

korrespondent.net

Хочеш дізнатися більше — читай відгуки