Глава Nvidia закликав галузь не миритися з інцидентами в сфері безпеки, викликаними штучним інтелектом

Генеральний директор Nvidia Дженсен Хуанг (Jensen Huang) переконаний, що всі гучні інциденти в сфері безпеки з участю ШІ-агентів можна було б запобігти завдяки більш суворому контролю за ними. Він також впевнений, що якщо хтось вважає, що розробляє ШІ, здатний знищити цивілізацію, то йому просто слід зупинитися.

Джерело зображення: Nvidia

Бурхливий розвиток ШІ-моделей вже призвів до того, що інциденти в сфері кібербезпеки, викликані їх впливом на інфраструктуру, множаться з лякаючою швидкістю. Якщо голова OpenAI Сем Альтман (Sam Altman) закликав суспільство змиритися з ризиками ШІ заради благ, які він приносить, то засновник Nvidia в недавньому інтерв'ю Fortune висловив протилежну точку зору: «Я не готовий приймати жодні інциденти в сфері кібербезпеки. Ми не повинні миритися ні з одним з них. Ми повинні робити все, щоб уникнути їх».

Альтман нещодавно попередив у своєму інтерв'ю Politico, що людство зіткнеться з хвилею проблем у сфері кібербезпеки, викликаною поширенням конкурентних розробок з відкритим вихідним кодом. До цього він закликав людство змиритися з наявністю непередбаченого збитку від дій ШІ-моделей, оскільки створене ними благо «на кілька порядків» перевищує цю шкоду.

Хуанг заявив, що всі інциденти в сфері кібербезпеки з участю ШІ-моделей могли бути запобігнуті шляхом посилення обмежень і контролю за поведінкою ШІ-агентів. Він зазначив, що на ранніх етапах розвитку інтернету існувала така ж проблема: переходячи на невідомий сайт, можна було легко заразити комп'ютер вірусом. Вирішити ії вдалося шляхом відкриття сайтів у браузері в ізольованому середовищі, яке не дозволяло їм впливати на інший комп'ютер. На думку голови Nvidia, ШІ-агенти повинні працювати за аналогічними принципами, залишаючись у безпечному контейнері, де вони не можуть завдати шкоди понад те, що їм дозволено.

За традицією, Хуанг також поставив під сумнів побоювання тих, хто вважає неминучим ШІ-апокаліпсис, в результаті якого людство сильно постраждає або буде знищене зовсім. Кидаючи камінь у город тих, хто транслює подібні настрої, голова Anthropic, його колега з Nvidia заявив: «Я не знаю, чому хтось готовий підтримувати розвиток технологШІ, яка призведе до краху цивілізацШІ в тому вигляді, в якому вона нам відома. І якщо вони в це вірять, то повинні припинити працювати над нею».

Свої коментарі для Fortune Хуанг дав під час свого візиту до Лондона в рамках свого європейського туру, заявивши напередодні, що «Європа повинна включитися в гонку ШІ». Наступного тижня голова компанШІ оголосить, куди будуть направлені $2 млрд європейських інвестицій від імені Nvidia. Ця сума не враховує тих $8 млрд, які компанія вже пообіцяла вкласти в економіку Старого Світу. Глава Nvidia вважає моделі з відкритим вихідним кодом розумним вибором для європейців, які бажають наздогнати США в сфері ШІ. Компанія вже підтримує французький стартап Mistral, який розробляє моделі з відкритими вагами. Такі моделі обходяться дешевше в розробці, але витрати на апаратні ресурси тієї ж Nvidia їх творці все ж змушені нести.

Хочеш дізнатися більше — читай відгуки