Anthropic відмовила Пентагону в необмеженому військовому застосуванні штучного інтелекту, незважаючи на загрози

Компанія Anthropic відмовилася виконати вимогу Міністерства оборони США надати необмежений доступ до своїх ІІ-технологій, незважаючи на те, що це ставить під загрозу її контракт з військовим відомством на 200 млн доларів. На зустрічі в Білому домі міністр оборони Піт Хегсет (Pete Hegseth) дав компанії час на роздуми щодо пропозиції до кінця робочого дня в п’ятницю, але компанія вже в четвер заявила про відмову.

Джерело зображення: Anthropic

За словами представника Міністерства оборони США, інші провідні компанії в сфері ШІ підтримали вимогу відомства, щоб військові мали повну свободу використовувати потужні ШІ-інструменти на свій розсуд. OpenAI, розробник ChatGPT, Google та xAI Ілона Маска (Elon Musk) погодилися дозволити Пентагону використовувати їх ШІ-системи для «всіх законних цілей» в незасекречених мережах і працюють над угодами для засекречених мереж.

У опублікованій в четвер заяві генеральний директор Anthropic Дарио Амодеї (Dario Amodei) написав: «Я глибоко вірю в екзистенційну важливість використання ШІ для захисту Сполучених Штатів та інших демократичних країн. Тому Anthropic активно працювала над впровадженням своїх моделей у Міністерство оборони та розвідувальне співтовариство». Він підкреслив, що компанія «ніколи не висловлювала заперечень проти конкретних військових операцій і не намагалася обмежувати використання технології довільно», і додав, що в «вузькому колі випадків ми вважаємо, що ШІ може підривати, а не захищати демократичні цінності».

За словами Амодеї, у компанії є дві «червоні лінії», які вона не буде перетинати: жодного масового спостереження за американцями і жодної летальної автономної зброї (або зброї, що має ліцензію на знищення цілей без будь-якого людського контролю). Можливо, в майбутньому Anthropic погодиться на використання повністю автономної зброї військовими, але зараз вона до цього не готова, додав він.

Повідомляється, що Пентагон вже звернувся до великих оборонних підрядників з проханням оцінити їхню залежність від ШІ-моделі Claude компанії Anthropic. Через позицію Anthropic військове відомство цілком може оголосити її «ризиком для ланцюга постачань», що торкнеться не лише Anthropic, але й будь-якої фірми, що використовує ШІ компанії. Зазвичай ця класифікація застосовується до загроз національній безпеці, зокрема, до китайських і російських компаній.

«Ми можемо вимагати від усіх наших постачальників і підрядників підтвердження того, що вони не використовують жодні антропогенні моделі», — повідомив газеті The Washington Post представник Пентагону.

Також повідомляється, що Пентагон розглядає можливість застосування «Закону про оборонне виробництво» 1950 року, який дозволяє федеральній владі втручатися в діяльність приватних компаній, щоб змусити Anthropic виконати вимогу.

Амодеї вказав у своєму заявленні, що «загрози Пентагону не змінюють нашої позиції: ми не можемо з чистою совістю задовольнити їхнє прохання». Він додав, що «якщо міністерство вирішить відмовитися від послуг Anthropic, ми будемо працювати над забезпеченням плавного переходу до іншого постачальника, уникаючи будь-яких збоїв у поточному військовому плануванні, операціях або інших важливих місіях. Наші моделі будуть доступні на запропонованих нами розширених умовах стільки, скільки буде потрібно».

Хочеш дізнатися більше — читай відгуки