Більше 100 експертів попередили: незалежна перевірка безпеки ШІ зараз майже неможлива

Більше 100 експертів і спеціалістів з оцінки ризиків у сфері штучного інтелекту опублікували відкритий лист, у якому попереджають, що у них немає необхідних ресурсів для перевірки безпеки технологій ШІ.

Джерело зображення: Steve A Johnson/unsplash.com

Мета цього звернення — змусити постачальників базових моделей забезпечити стороннім оцінювачам ШІ необхідну «наукову об'єктивність, прозорість, незалежність і надійний захист» для ефективного і достовірного виконання своєї роботи.

«Ми просто намагаємося продемонструвати загальну позицію щодо основних принципів і забезпечити умови, за яких незалежний нагляд міг би стати ефективним інструментом для управління ризиками в сфері ШІ в цілому», — заявив в інтерв'ю CNBC Конрад Стош (Conrad Stosz), президент консорціуму AI Assessment Forum, який виступив організатором публікації цього листа.

Серед підписантів листа — такі відомі діячі в сфері ШІ, як британо-канадський вчений Джеффрі Хінтон (Geoffrey Hinton), а також співробітники таких організацій, як Університет Джонса Хопкінса, Стенфордський університет і некомерційна організація METR, що займається оцінкою.

Нішеве співтовариство експертів з оцінки опинилося в центрі уваги після того, як генеральний директор Anthropic Дарио Амодеї (Dario Amodei) в минулі вихідні запропонував надати незалежним експертам доступ до внутрішніх процедур у сфері безпеки та звітів про інциденти для перевірки та аудиту передових базових моделей і процесів їх розробки.

За словами Стоша, коаліція не «виступає за якийсь конкретний спосіб» забезпечення безпечної розробки моделей ШІ, але хоче, щоб для оцінювачів і інших спеціалістів, які працюють незалежно від великих лабораторій, були, принаймні, встановлені «базові принципи» і «вищий рівень стандартизації».

Стош зазначив, що пропозиція Амодеї передбачає надання значно більшого доступу, ніж той, яким експерти-оцінювачі користувалися раніше. Як один із сценаріїв можна було б запропонувати, щоб творці базових моделей надавали стороннім експертам доступ до комп'ютерів компанії, дозволяли спілкування з працівниками та надавали можливість доступу до «конфіденційних внутрішніх даних і невипущених систем».

Також експерти хотіли б мати захист від можливих відповідних дій компаній ШІ, рішення яких вони будуть оцінювати.

Крім того, Стош заявив, що сторонні експерти не призначені для заміни внутрішніх програм компаній з оцінки безпеки моделей. «В даний час існує дуже небагато груп, які мають достатню технічну компетентність, масштаб і можливості для виконання роботи такого роду», — додав він.

Хочеш дізнатися більше — читай відгуки