Глава Anthropic назвав Китай головним перешкодою для уповільнення розвитку передового штучного інтелекту

Глава Anthropic Дарио Амодеи визнав, що його ініціатива щодо стримування прогресу в сфері штучного інтелекту стикається з серйозним геополітичним бар'єром. За його словами, найскладніша дилема полягає в тому, що конкуруючі держави, в першу чергу Китай, можуть відмовитися дотримуватися таких обмежень заради отримання військової переваги.

Джерело зображення: Anthropic

Амодеи озвучив свою позицію в ефірі програми Sunday Morning на каналі CBS News. Він зазначив, що довгостроковою метою має стати спільне встановлення «обмеження швидкості» для розвитку ШІ-технологій. Однак керівник Anthropic висловив скептицизм щодо здійсненності цієї ідеї, оскільки стимули до випередження суперників і отримання стратегічної переваги занадто великі. Незважаючи на сумніви в успіху, він підкреслив, що спроби домовитися необхідно здійснювати.

Публічна заява стала наслідком публікацій, в яких Амодеи закликав компанії сповільнити темпи покращення найбільш просунутих моделей. Цей крок став реакцією на зростаючу стурбованість всередині галузі: раніше дослідники попереджали про потенціал технології завдати катастрофічної шкоди. Ситуацію також ускладнив вихід з Anthropic співробітника Джейкоба Коксона, який пояснив своє рішення страхом перед тим, що компанія і її головний конкурент OpenAI «грають у рулетку з нашими життями».

На фоні внутрішніх дискусій у США китайські стартапи активно нарощують можливості своїх нейромереж, складаючи конкуренцію таким лідерам ринку, як OpenAI та Anthropic. Водночас китайський лідер Сі Цзіньпін на саміті БРІКС в Індії закликав створити засновану на консенсусі глобальну систему управління ІІ. Влада Китаю також оголосила про плани допомогти в формуванні відкритого співтовариства розробників штучного інтелекту в рамках блоку, який наразі об'єднує 11 країн, включаючи Росію.

Anthropic та OpenAI одночасно готуються до можливих первинних публічних розміщень акцій, хоча жодна з компаній поки не назвала офіційну дату IPO. Глава OpenAI Сем Альтман заявив, що компанія, ймовірно, не вийде на біржу цього року, зокрема через питання безпеки. При цьому, незважаючи на напружені стосунки з Амодеи, який наприкінці 2020 року покинув OpenAI і заснував Anthropic, Альтман підтримав його пропозицію, заявивши про необхідність «стримувати темп розвитку передових систем».

Ініціативу глави Anthropic також підтримали інші відомі представники галузі. Голова ради директорів Google DeepMind Деміс Хассабіс заявив, що есе Амодеи вказує на правильний напрямок, хоча конкретні деталі ще потрібно опрацювати. Ілон Маск, який очолює Tesla та SpaceX, також позитивно віднісся до пропозиції сповільнити розвиток передових ІІ-систем.

Хочеш дізнатися більше — читай відгуки