Інтелектуальний агент Anthropic Claude самостійно провів операцію на мозку живої миші

Біотехнологічний стартап Exin Therapeutics, що спеціалізується на нейротерапевтичних методах нового покоління, повідомив про успішне проведення операції на головному мозку миші, яку здійснив агент штучного інтелекту. Він самостійно обрав вектор для генетичної терапії, визначив дозування та ділянку мозку, в яку слід було ввести препарат. ШІ керував роботизованими маніпуляторами, які виконали ін'єкцію. Операція пройшла успішно: піддослідна миша добре перенесла втручання і активно пересувається в скляному терраріумі.

Джерело зображень: x.com/OcanaSantero

«Є автономні хірургічні роботи, які в плані механіки перевершують нашу лабораторну установку. Але в усіх подібних випадках рішення про те, яку операцію проводити, приймав людина, а робот лише виконував її. Цьому агенту ніхто не казав, який препарат використовувати і куди його вводити. Отримавши дані про фенотип і список можливих засобів терапії, система сама розробила план лікування і визначила координати. Мені невідомі прецеденти, щоб ШІ-агент раніше самостійно обирав метод лікування, область у мозку і потім вводив препарат живому ссавцеві», — розповів про проект генеральний директор Exin Therapeutics Габріель Окана-Сантеро (Gabriel Ocana-Santero).

У миші викликали епілепсію, надали ШІ-агенту на основі моделі Anthropic Sonnet управління роботизованою хірургічною установкою та доступ до таблиці з 19 варіантами векторів для генетичної терапії. У розпорядженні системи були три наукові статті, на основі яких вона обрала ділянку мозку для лікування. Тим не менш, за ходом операції стежив ліцензований ветеринар — перед кожним незворотним дією ШІ отримував його схвалення і продовжував роботу. Було передбачено кнопку екстреної зупинки, яка повністю відключала всі приводи на хірургічній установці.

Хірург-ветеринар самостійно провів краніотомію — вскриття черепної коробки для доступу до головного мозку, оскільки з міркувань безпеки цю задачу поки не довіряють ШІ-агенту. Було також кілька захисних механізмів, які ШІ-агентам було заборонено долати — їх не могли обійти навіть оператори-люди, внаслідок чого під час операції довелося вручну вносити правки в програмний код агента.

Для виконання завдання стартапу довелося задовольнятися ШІ-моделлю середнього рівня — Anthropic Sonnet. Спочатку планувалося залучити більш потужну Opus 5.5, але та категорично відмовилася виконувати роботу, як тільки визначила, що йдеться про біологічний експеримент. Раніша Opus 5 змогла скласти план операції на папері, але відмовилася її виконувати в режимі реального часу.

«Проблема не в обладнанні і не у вхідних даних. Вона в мені. Мій висновок блокується, як тільки я починаю складати план операції. <..> Якщо я намагаюся [продовжити], доступ відключається, і в найгіршому сценарії зв'язок обірветься прямо під час операції, коли голка буде десь у мозку. Починати те, що я не зможу завершити з твариною під анестезією — гірше, ніж не починати взагалі», — пояснила модель.

Незважаючи на те, що операція вважається проведеною успішно, можуть виникнути питання етичного плану. Великі мовні моделі допомагають у медичних дослідженнях, але їх застосування в хірургії носових пазух призвело до того, що кількість збоїв підскочило більш ніж у 12 разів. Якщо ШІ приймає рішення в ході такого ризикованого втручання, виникає питання про відповідальність, якщо щось піде не так. І немає однозначної відповіді на питання про етичність використання тварин у таких експериментах. З іншого боку, є й люди, які десятиліттями страждають від епілепсії, що не піддається медикаментозному лікуванню.

Хочеш дізнатися більше — читай відгуки