Anthropic запобігла кільком спробам створення біологічної зброї за допомогою Claude

На ранніх етапах розвитку систем генеративного штучного інтелекту їхні творці занепокоїлися проблемою безпеки, оскільки припустили, що за їхньою допомогою деякі користувачі спробують створити нові види зброї, включаючи біологічну. Anthropic стверджує, що цього року змогла запобігти кільком спробам створення біологічної зброї.

Джерело зображення: Anthropic

Ця інформація стала доступною після публікації звіту Anthropic про випадки некоректного використання її ІІ-моделей. При цьому сама компанія підкреслює, що не може з упевненістю говорити про наявність у пов'язаних з цими інцидентами науковців наміру на створення саме біологічної зброї. По суті, запити до ІІ-моделей у цій сфері часто використовуються для розробки вакцин від небезпечних патогенів, і визначити за їхнім змістом істинні наміри розробника складно. Тим не менш, на всякий випадок Anthropic вирішила звернути увагу регуляторів на ці інциденти.

Досі набагато більше уваги приділялися випадкам застосування ІІ-моделей для пошуку та експлуатації вразливостей в інформаційній інфраструктурі компаній і організацій, а біологічні загрози залишалися в більшій мірі гіпотетичними. За словами старшого радника Ради з стратегічних ризиків Ендрю Уебера, свіжий звіт Anthropic містить «леденячі кров приклади причетності підтримуваних державою творців біологічної зброї, які користуються можливостями швидко розвиваються ІІ-моделей».

Об'ємний звіт Anthropic, що охоплює період восьми останніх місяців, традиційно наводить приклади використання ІІ-моделей сімейства Claude представниками недружніх щодо США країн для досягнення певних політичних цілей. Вперше при цьому були наведені приклади використання Claude для розробки традиційних видів зброї, включаючи вогнепальну, ракетну, а також бомби і бойові дрони.

Anthropic не була такою категоричною в ідентифікації випадків, що описують спроби розробки біологічної зброї, оскільки не впевнена в наявності у авторів запитів саме злонамірених мотивів. З цієї причини не були названі ні організації, ні країни, причетні до відповідної активності. Однак компанію насторожили спроби авторів досліджень приховати своє походження та цілі подібної активності, тому відповідні облікові записи були заблоковані.

В якості одного з прикладів наводяться спроби якогось дослідника вивчити специфіку поширення вірусу чикунгунья, який передається людині через укуси інфікованих комарів і викликає тривалі болі в суглобах, що супроводжуються сильною лихоманкою. За версією Anthropic, конкретний дослідник намагався модифікувати вірус, надавши йому більш виражені шкідливі властивості. Окрім теоретичних досліджень, цей дослідник проводив практичні експерименти на тваринах, а лабораторію для цих цілей мав надати якийсь дослідницький інститут оборонного призначення.

Ще в минулому році, за оцінками самої Anthropic, її власні моделі не були достатньо просунутими для сприяння людині в проведенні біологічних досліджень, здатних призвести до створення зброї. Нинішні версії ІІ-моделей Anthropic вже здатні надавати допомогу в таких питаннях, а тому назріває необхідність введення захисних і обмежувальних заходів. Експерти підкреслюють, що ІІ на нинішньому етапі свого розвитку надає можливості як для створення лікарських засобів, так і біологічної зброї, протистояти якій без підготовки людство не зможе. Ендрю Уебер закликав обмежити доступ дослідникам з недружніх до США країн до подібних ІІ-інструментів.

Хочеш дізнатися більше — читай відгуки