Китай представив жорсткі правила для ШІ, який «веде себе як людина»

Управління з питань кіберпростору Китаю (CAC) опублікувало для громадського обговорення проект заходів щодо регулювання діяльності ШІ-сервісів у країні, повідомило агентство Reuters.

Джерело зображення: julien Tromeur/unsplash.com

Запропоновані управлінням правила будуть застосовуватися до продуктів і сервісів, які використовують технології ШІ для імітації рис людської особистості, моделей мислення та стилів спілкування, а також забезпечують емоційне взаємодію з користувачами в Китаї через текст, зображення, аудіо або відео, повідомляється на сторінці CAC у соціальній мережі WeChat.

Регулятор зазначив, що проект базується на всебічному, зваженому та багаторівневому підході до регулювання з диференційованим контролем залежно від рівня ризику, що забезпечує як підтримку інновацій, так і захист від зловживань.

Проектом забороняється створення та розповсюдження контенту, який загрожує національній безпеці, завдає шкоди національній честі або інтересам, підриває етнічну єдність, пропагує незаконну релігійну діяльність, поширює чутки, що порушують економічний або соціальний порядок, а також містить порнографію, включає азартні ігри, насильство або підбурювання до вчинення злочину.

Також забороняється випуск контенту, який заохочує або романтизує самогубство чи самопошкодження, а також такі дії, як словесні образи чи емоційні маніпуляції, які можуть завдати шкоди фізичному або психічному здоров'ю користувачів або призвести до підриву їхньої гідності.

Відповідно до документа, провайдери ШІ-сервісів повинні брати на себе відповідальність за питання безпеки протягом усього життєвого циклу продукту та створювати системи для перевірки алгоритмів, захисту даних і охорони особистої інформації.

Провайдери повинні інформувати користувачів про те, що вони взаємодіють з ШІ, а не з людиною, і попереджати їх про шкоду від надмірного використання. Також їм потрібно буде оцінювати емоції та рівень залежності користувача від сервісу. У документі зазначається, що якщо у користувачів виявляються сильні емоції або аддиктивна поведінка, провайдери сервісів повинні будуть вжити необхідних заходів.

Лінь Вей (Lin Wei), президент Південно-Західного університету політичних наук і права, у пояснювальній записці до проекту заявив, що прориви в ШІ-технологіях виводять взаємодію людини і машини за межі простої функціональної допомоги в бік емоційного та персоналізованого взаємодії. Ця еволюція, змінюючи парадигми соціальної взаємодії, також породжує ряд нових ризиків і викликів.

Вчений зазначив, що проект заходів щодо регулювання спрямований на управління ризиками, що виникають конкретно через антропоморфізм (перенесення людських властивостей на неживі предмети) та емоційне взаємодію, приділяючи особливу увагу розмиванню меж між людиною і машиною.

Хочеш дізнатися більше — читай відгуки