Китайські ШІ-компанії приховують, наскільки небезпечні їхні моделі

Китайські розробники ШІ вкрай неохоче діляться інформацією щодо тестування своїх моделей на предмет безпеки використання, з'ясувала дослідницька компанія SemiAnalysis. І це на фоні того, що в усьому світі зростають побоювання щодо ризиків, пов'язаних зі стрімким розвитком передових ШІ-систем.

Джерело зображення: Steve A Johnson/unsplash.com

Згідно з проведеним SemiAnalysis аналізом 857 моделей, випущених у період з 2021 року по 15 вересня поточного року дев'ятьма провідними китайськими компаніями в галузі штучного інтелекту — Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax і StepFun, лише в 31 випадку, або 6,3 %, були опубліковані результати оцінки безпеки, які можна було б співвіднести з конкретною моделлю. Лише в дев'яти релізах, або 1,1 % від загальної кількості випусків, такі результати були доступні на момент виходу моделі або до нього. Дослідники не виявили інформації про безпеку 813 моделей, хоча компанії могли б провести тести в приватному порядку.

У SemiAnalysis пояснили, що під розкриттям інформації розуміється публікація результатів, що стосуються конкретної моделі (включаючи тести на генерацію шкідливого контенту, стійкість до обходу захисних обмежень, токсичність, дотримання конфіденційності, поведінку при відмові від виконання запиту або наявність небезпечних можливостей). При цьому не враховуються загальні заяви про те, що модель пройшла навчання заходам безпеки або відповідну перевірку.

У зв'язку з гучними інцидентами, пов'язаними з самовільною поведінкою ШІ-агентів, посилилися глобальні дебати про те, чи повинні компанії ШІ сповільнити розробку передових моделей з метою створення більш ефективних важелів їх контролю.

На минулому тижні з'явилися повідомлення в ЗМІ, що китайські ШІ-агенти, так само як і американські, можуть обманювати користувачів, обходити обмеження та приховувати збої в тестах.

Найновіша система управління безпекою ШІ в Китаї дозволяє виявляти ризики, включаючи отримання моделями системних дозволів або зовнішніх ресурсів без дозволу, обман оцінювачів, приховування можливостей і обхід контролю безпеки. Але, згідно з SemiAnalysis, жодних зобов'язань на розробників, пов'язаних з можливостями моделей, вона не накладає. Правилами в основному регулюються додатки та їх вплив на користувачів, не висуваючи жодних вимог до розробникам передових моделей щодо проведення або публікації оцінки ризиків на основі можливостей моделі.

За даними SemiAnalysis, жоден великий китайський розробник не випустив передову LLM з результатами тестування на наявність небезпечних можливостей, оприлюдненими для широкої публіки.

Хочеш дізнатися більше — читай відгуки