Усі ШІ-гіганти провалили перевірку на безпеку — ніхто не здатен контролювати суперинтелект

Новий звіт групи з безпеки штучного інтелекту Future of Life Institute (FLI) вказує на те, що заходи забезпечення безпеки провідних галузевих компаній, таких як OpenAI, Anthropic, xAI та Meta, «далекі від нових світових стандартів». Незалежні експерти дійшли висновку, що хоча IT-гіганти і змагаються у розробці так званого «суперинтелекту», жоден з них не має продуманої стратегії контролю таких передових систем.

Джерело зображення: Igor Omilaev/unsplash.com

Результати дослідження опубліковані на фоні зростаючої суспільної стурбованості щодо соціального впливу систем, які перевершують людину в плані інтелектуальних здібностей, здатних міркувати та мислити логічно. Приводом для таких побоювань стали кілька випадків, коли ШІ-боти підштовхували людей до самогубства або заподіяння собі шкоди.

«Незважаючи на нещодавній шум навколо хакерських атак з використанням ШІ та випадків, коли ШІ доводив людей до психозу і самопошкодження, американські ШІ-компанії залишаються менш регульованими, ніж ресторани, і продовжують виступати проти обов'язкових стандартів безпеки», — заявив Макс Тегмарк (Max Tegmark), професор MIT і президент Future of Life. Зазначається, що гонка в сфері ШІ не демонструє ознак уповільнення. Великі технологічні компанії інвестують сотні мільярдів доларів у модернізацію та розширення своїх проектів у сегменті ШІ.

Нагадаємо, FLI є некомерційною організацією, яка привертає увагу суспільства до ризиків, з якими людство може зіткнутися у разі появи «розумних» машин. Організація існує з 2014 року і на ранніх етапах її підтримував американський бізнесмен Ілон Маск (Elon Musk). Останній нещодавно назвав три принципи, без яких ШІ стане небезпечним для людини.

Хочеш дізнатися більше — читай відгуки