"Можуть померти всі": вчені бачать небезпеку в штучному інтелекті в найближчому майбутньому

Група фахівців з ризиків, пов'язаних з розвитком штучного інтелекту, представила тривожний прогноз у книзі з промовистою назвою "Якщо хтось це створить, загинуть усі". Автори вважають, що поява штучного суперинтелекту (ШСІ) можлива вже в найближчі два-п'ять років, і він може поставити під загрозу існування людства. Про це повідомляє видання Mirror.

Серед авторів книги — засновник Інституту досліджень машинного інтелекту Еліезер Юдковський і президент організації Нейт Соарес. За їхніми словами, суперинтелект зможе самостійно приймати рішення, розробляти плани і постійно вдосконалювати власні алгоритми, що зробить його фактично неконтрольованим.

"Якщо компанія або група розробників створить ШСІ хоча б на базі сучасних технологій, людство буде приречене", — стверджують дослідники.

Вони підкреслюють, що такий інтелект не буде діяти відкрито, а використовуватиме приховані стратегії, маніпулюватиме ситуацією і чекатиме моменту, щоб завдати вирішального удару.

Експерти попереджають, що в лабораторіях вже тестуються системи, можливості яких вчені не до кінця розуміють. За їхніми словами, такі ШІ можуть формувати власні цілі і обходити навіть вбудовані обмеження. Як приклад наводять експеримент Британського інституту безпеки ШІ, проведений у 2024 році: дослідники показали, що за допомогою простих текстових підказок можна зняти захист з моделей на кшталт ChatGPT і змусити їх допомагати в розробках подвійного призначення, включаючи військові.

Автори наполягають на тимчасовому призупиненні розробки суперінтелекту, оскільки, на їхню думку, часу на вжиття заходів залишається вкрай мало.

Нагадаємо, раніше ми писали про те, що ШІ може скоротити робочий тиждень до трьох днів, але частина професій зникне.

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

techno.bigmir.net

Хочеш дізнатися більше — читай відгуки