Сем Альтман закликав змиритися з ризиками ШІ заради його переваг

Генеральний директор OpenAI Сем Альтман вважає, що переваги технології ШІ виправдовують пов'язані з її впровадженням ризики, і що ШІ має залишатися широко доступним для суспільства. Він підкреслив, що в цьому полягає фундаментальна відмінність OpenAI від конкурента Anthropic, який дотримується більш жорсткого підходу до регулювання розробки систем ШІ.

Джерело зображення: Growtika/unsplash.com

Компанія Anthropic довгий час вважалася найрішучішим у галузі прихильником регулювання ШІ, але в останні місяці розбіжності між двома провідними компаніями трохи згладилися, оскільки OpenAI підтримала більш жорсткі обмеження у зв'язку з гучними хакерськими інцидентами та шахрайською поведінкою своїх моделей.

Зокрема, Альтман погодився з закликом голови Anthropic Дарио Амодеї сповільнити розробку найбільш просунутих моделей ШІ. Його компанія наслідувала приклад Anthropic, схваливши нові закони Каліфорнії, які встановлюють більш суворі вимоги до безпеки використання ШІ. Лобісти OpenAI нещодавно підтримали пропозицію Палати представників США, відповідно до якої провідні компанії ШІ повинні залучати зовнішніх фахівців для оцінки безпеки.

Разом з тим Альтман підкреслив в інтерв'ю виданню Politico, що позиція OpenAI все ж відрізняється від Anthropic. Альтман сказав: «Ми вважаємо, що світ має змиритися з тим, що деякі погані речі будуть відбуватися, заради розвитку цієї технології та забезпечення людям можливості самостійно приймати рішення». Він назвав абсолютно «неприйнятним компромісом» погодитися з пропозицією, щоб тільки одна компанія займалася ШІ та контролювала її впровадження, а також стежила за тим, хто отримає від неї вигоду. Такий підхід суперечить «більш м'якій позиції щодо регулювання», якої дотримується OpenAI.

«Я б не став говорити: “Ми подбаємо про те, щоб не було серйозних зломів, не було зловживань цією технологією, не було шахрайства, не було інших проблем, які можуть через це виникнути», — сказав Альтман, пояснивши, що, на його думку, ця технологія дозволяє здійснити на порядок більше проривів у порівнянні з кількістю проблем, пов'язаних з її використанням. Він додав, що не погоджується з твердженнями про існування «дійсно катастрофічних ризиків», включаючи потенційну «серйозну втрату контролю над ШІ».

У свою чергу, представник Anthropic зазначив, що пропозиції компанії щодо регулювання застосовні лише до передових моделей. Він також послався на заяву Амодеї, який стверджував, що пропозиції компанії приносять користь більш дрібним підприємствам, стримуючи експансію великих компаній.

Хочеш дізнатися більше — читай відгуки