Перше відкриття ШІ-біолабораторії Anthropic поставили під сумнів — вчений побачив у ньому свою неопубліковану роботу

На минулому тижні компанія Anthropic представила результати досліджень своєї біологічної лабораторії. Компанія використала ШІ-агентів для відкриття нових перспективних ферментів. Деякі науковці поспішили засумніватися в цьому досягненні. Експерт з Копенгагенського університету заявив, що його команда ділилася результатами своїх досліджень з ШІ-моделлю Anthropic, а розрекламоване «відкриття» нейросетями нових ферментів збігається з їхньою багаторічною роботою.

Джерело зображень: Anthropic

Спеціаліст з обчислювальної біології Мартіо Родрігес Местре (Mario Rodríguez Mestre) заявив, що він і його колеги вивчали ці ферменти та пов'язані з ними молекули (які Anthropic називає ART — Array-associated Reverse Transcriptases) протягом останніх чотирьох років. Результати їхніх досліджень ще не опубліковані. Протягом останніх трьох років вони регулярно використовували моделі ШІ Anthropic при написанні коду, підготовці рукописів та виконанні інших завдань. Таким чином, вважає Местре, вони надали Anthropic доступ до ключових результатів своїх досліджень ферментів.

Anthropic заперечує звинувачення: «Нам невідомо про які-небудь раніше опубліковані роботи, що описують нещодавно виявлену нами ART-систему. Claude також не навчався на жодних користувацьких транскриптах, і у нашої команди молекулярної біології немає до них доступу». В Anthropic заявили, що ключовий внесок Claude полягав в ідентифікації набору молекул РНК і білка, пов'язаних з зворотною транскриптазою в системі.

Але Местре стверджує, що він і його колеги зробили це відкриття більше року тому. На думку Местре, проблема полягає в тому, чи дійсно ШІ Anthropic прийшов до цих результатів логічним шляхом, чи ж він був частково спрямований до них на основі його власної роботи. «Мене турбує те, що ця інформація використовувалася для навчання майбутніх версій моделей, — заявив Местре. — Я вважаю, що важливо підняти це питання».

Anthropic позиціонує біологічні дослідження як центральну частину своєї місії. «Ми вважаємо, що цей тип застосування швидко розвиватиметься в найближчі роки, і що ми зможемо досягти значного прогресу в найближчому майбутньому в боротьбі з хворобами, які мучили людство протягом тисячоліть», — заявив голова Anthropic Дарио Амодей (Dario Amodei) у своєму зверненні до ООН.

Дослідники Anthropic заявили, що вони дали вказівки ШІ-агентам шукати в базах даних, що містять мільярди послідовностей генів, але не надали точних підказок, які використовували. Бази даних містять ДНК, зібрану з океану, ґрунту та інших місць проживання. Вчені доручили ШІ знайти гени, які керують виробництвом ферментів, званих зворотними транскриптазами. Ці ферменти зчитують послідовність молекули РНК і створюють відповідну молекулу ДНК з такою ж послідовністю.

Бактерії використовують деякі зворотні транскриптази для виявлення вторгнених вірусів. Деякі віруси використовують зворотні транскриптази як зброю проти інших вірусів. Дослідники Anthropic надали ШІ п’ять прикладів зворотних транскриптаз. ШІ-агенти написали власне програмне забезпечення для дослідження баз даних на предмет схожих генів і для ретельного вивчення перспективних кандидатів.

Агенти ідентифікували гени можливих зворотних транскриптаз у бактерій, що вражають віруси, відомі як гігантські фаги. Кожна з цих послідовностей розташовувалася поблизу набору генів, що кодують молекули РНК, що може допомогти ферментам виконувати свої функції. Дослідники Anthropic назвали ці ферменти асоційованими з мікрочипами зворотними транскриптазами, або ART. Вони стверджують, що ШІ самостійно зробив «перші кроки біологічного відкриття».

Местре спростовує це твердження. «Це ті ж самі системи, які ми вивчаємо роками», — сказав він. І це ті ж самі ферменти, за його словами, які він описав ШІ компанії Anthropic. Він заявив, що вперше виявив ці ферменти в гігантських фагах у 2022 році під час пошуку нових зворотних транскриптаз. Він недовго працював консультантом у компанії ReNegade Therapeutics, яка в 2023 році подала патентну заявку на ряд зворотних транскриптаз, включаючи ті, які виявив доктор Местре. Він вказаний як співавтор патентної заявки.

Anthropic випустила Claude у 2023 році, через рік після того, як доктор Местре розпочав свої дослідження. Як і багато інших науковців, він знайшов його корисним для вирішення найрізноманітніших завдань. Местре визнає, що використання штучного інтелекту «повністю змінило його підхід до науки». ШІ був активно залучений у його дослідження, він ділився з нейросетю чернеткою своєї дисертації та рукописами. Він і його колеги також завантажували додаткову інформацію, використовуючи Claude для виконання різних адміністративних завдань.

Слова Местре підтверджують і інші науковці. Биоінженер Сет Шипман (Seth Shipman) заявив, що знайомий з цими дослідженнями Местре. «Ми обговорюємо це з ним вже багато років, — сказав він. — Багато з нас знають про ці системи». Повідомлення Anthropic про відкриття ферментів викликало серйозні побоювання серед науковців. «Багато з наших колег запитували: “Ой-ой, а вони що, навчаються на моїх підказках?“, — додав Шипман. — Ми не можемо про це не думати».

Местре визнав, що неможливо з упевненістю сказати, що відкриття ШІ Anthropic повністю базуються на його дослідженнях. «Я маю на увазі, збіги трапляються, — сказав він. — Усі в цій області роблять більш-менш одне й те саме. Але ми знали про ці повтори більше року тому». Він нагадав, що компанії, що займаються ШІ, також звинувачувалися в навчанні моделей на роботах художників і письменників без дозволу на використання авторських прав. Местре також заявив, що завершує всі свої проекти з використанням Claude.

Заяви Местре перегукуються з іншим науковим конфліктом. Компанія OpenAI повідомила про вирішення важливої раніше недоказаної задачі в математиці за допомогою свого ШІ. Але математик Трістан Бакмастер (Tristan Buckmaster), який активно використовував у своїй діяльності ШІ-агентів OpenAI, запідозрив, що ШІ потім запозичив ідеї з його роботи. «Етично чи використовувати дані клієнтів, щоб спробувати перехопити їхніх клієнтів?», — запитав він у соціальних мережах. OpenAI заперечує факт навчання своєї моделі на розробках Бакмастера.

Хочеш дізнатися більше — читай відгуки