Глава Microsoft закликав вбудувати в штучний інтелект ручне гальмо — моделі потрібно контролювати з першої секунди

Генеральний директор Microsoft Сатья Наделла закликав до «екстреного гальмування» розвитку штучного інтелекту. Він запропонував змінити підхід до розробки, спочатку розглядаючи ШІ-моделі як «скомпрометовані» та вживаючи необхідні заходи обережності з самого початку.

Джерело зображення: Roman Budnikov/unsplash.com

У своєму пості на платформі X генеральний директор Microsoft виклав свої погляди на ризики, пов’язані з просунутими ШІ-моделями, і на те, як їм протистояти.

Наделла заявив, що більше не можна миритися з тим, що ШІ, який він називає «суперрозумом», розглядається як «набір вкладених чорних ящиків», чиї поради та дії ми просто приймаємо або відкидаємо. Він закликав створити більш прозору систему, в рамках якої моделі можна контролювати і за необхідності обмежувати, а їхня робота залишатиме після себе «захищені від несанкціонованого зміни свідчення, зрозумілі людині».

Як зазначив ресурс The Verge, багато з пропозицій глави Microsoft перегукуються з думками інших представників ШІ-індустрії: своєчасне розкриття інформації про інциденти, незалежні аудити, перевіряємi дані та механізми стримування.

Причому в останньому пункті він пішов трохи далі, ніж його колеги, заявивши: «Ми повинні виходити з того, що модель може бути скомпрометована, і тримати її під контролем з самого початку. Уявіть собі це як аварійний гальмо: уповноважена особа завжди повинна мати можливість призупинити роботу моделі або повністю її зупинити в процесі виконання завдання. Для більш досконалих моделей знадобляться і більш просунуті технології стримування — нам необхідно виробити для них єдині стандарти».

Хочеш дізнатися більше — читай відгуки