Голова Huawei: китайський ШІ поки що не досяг рівня, щоб загрожувати існуванню людства

Китайські розробники систем штучного інтелекту, можливо, поки що не досягли того рівня розвитку технологій, при якому виникають загрози безпеці, що спостерігаються у провідних американських лабораторіях, заявив голова Huawei Ерік Сюй. Китайським інженерам слід продовжувати розробку більш потужних моделей, дотримуючись балансу між інноваціями та управлінням ризиками, зазначив він.

«Якщо подивитися на основних американських постачальників ШІ-моделей, то через наявні у них величезні обчислювальні потужності, можливо, тільки вони самі знають, на який рівень вийшли їхні моделі. Можливо, ті загрози, пов'язані з ШІ, які вони відчувають, які вони усвідомлюють, недоступні для фахівців і компаній-розробників у Китаї», — заявив він.
Провідні американські лабораторії говорять про необхідність стримувати темпи розвитку ШІ, щоб зберегти над ним контроль; в Китаї ж передовий ШІ вважається потужною, але контрольованою технологією. Країна посилює розробку ШІ, формує обов'язкові стандарти, системи оцінки безпеки та інші захисні заходи проти таких загроз, як обхід засобів контролю автономними ШІ-агентами та їхні атаки на зовнішні системи. У Китаї ведеться робота над обов'язковим національним стандартом безпеки агентів ШІ.

Китайським розробникам, припустив пан Сюй, можливо, доведеться навіть прискорити темпи роботи, щоб досягти рівня, на якому виникають характерні для передових американських моделей ризики. «Вважаю, що нам необхідно знайти баланс між стимулюванням розвитку ШІ та управлінням ризиками, пов'язаними з цією технологією», — сказав він. Huawei очікує стрімкого поширення автономних агентів ШІ — до 2035 року, за ШІ прогнозами, на них буде припадати понад 90% світового трафіку обробки даних ШІ. До того часу буде 900 млрд активних ШІ-агентів, а пов'язані з ними технології забезпечення безпеки та конфіденційності стануть критично важливими.

Huawei виступає основним китайським постачальником обчислювальної інфраструктури, необхідної для навчання передових моделей ШІ — своїм статусом компанія зобов'язана введеним у 2023 році експортним обмеженням, які перекрили китайським компаніям доступ до новітніх прискорювачів Nvidia. Поки, визнав пан Сюй, Huawei не в змозі випускати достатній обсяг обчислювального обладнання для ШІ, щоб задовольнити внутрішній попит.

Хочеш дізнатися більше — читай відгуки