Перші атаки ШІ-агентів лише «попереджувальні постріли», застеріг колишній голова Google DeepMind

Недавні інциденти з хакерськими атаками на ресурси, здійсненими агентами штучного інтелекту, — це «попереджувальні постріли», і якщо системи не стануть більш захищеними, світ незабаром може зіткнутися з більш серйозними подіями. Про це заявив співзасновник і колишній голова Google DeepMind Деміс Хассабіс.

Джерело зображення: Numan Ali / unsplash.com

Вихід ШІ-агентів з-під контролю, зокрема випадки зламу корпоративних мереж і нещодавній інцидент, коли модель ШІ надіслала в поліцію неправдиве повідомлення про вбивство, — посилили побоювання щодо стрімкого розвитку технологій. Галузі належить «величезна робота» з впровадження передових методів захисту критично важливих систем, подібних до тих, що застосовуються в біології або атомній енергетиці; також потрібно створити міжнародний орган зі стандартизації, вважає пан Хассабіс.

«Думаю, ці [інциденти зі зломом] служать для нас першими попереджувальними пострілами; системи поки не настільки потужні, тому й наслідки інцидентів не такі масштабні. Але в наступному році або в найближчі пару років ситуація може змінитися, якщо ми як галузь, окремі компанії чи уряди не приділимо більше уваги безпеці цих систем», — заявив засновник Google DeepMind.

Створення міжнародного органу, на його думку, є очевидним кроком — такий орган має діяти гнучко і зважено, щоб не стримувати інновації. «Нам необхідно вибудувати таку систему сертифікації, яка була б пропорційна виявленим нами ризикам і могла б швидко адаптуватися до змін у розвитку технологій», — додав Деміс Хассабіс.

Хочеш дізнатися більше — читай відгуки