Apple розробила ШІ-модель SimpleDesign для проєктування білків

Дослідники Apple розповіли про модель штучного інтелекту SimpleDesign, яка вміє одночасно генерувати послідовності амінокислот і просторові структури білків. Вона влаштована більш прямолінійно, ніж знамените DeepMind AlphaFold.

Джерело зображення: National Institute of Allergy and Infectious Diseases / unsplash.com

Основу проєкту в минулому році заклала модель Apple SimpleFold, основана на методі співвідношення потоків (flow matching) — вона генерувала тривимірну структуру білка на основі відомої послідовності амінокислот. Суть методу полягає в тому, що процес починається з випадкового зашумленого стану, і модель вчиться знаходити відносно прямий шлях до кінцевого результату. Це ріднить його з використаними генераторами зображень дифузійними моделями, які в кілька ітерацій усувають шум до отримання остаточного результату. Дослідники Apple об'єднали метод співвідношення потоків з універсальними блоками архітектури трансформера, що застосовується в генерації тексту.

Випробуваний у проєкті SimpleFold принцип інженери застосували до більш широкого завдання про проєктування білків, а не просто до прогнозування їх тривимірної структури — так з'явилася модель SimpleDesign. Багато сучасних систем проєктування білків включають два етапи: спочатку навчається ІІ-модель для перетворення білкових структур у дискретні представлення — токени. Потім навчається генеративна модель, яка використовує ці представлення для створення нових послідовностей і структур білків. У SimpleDesign схему спростили, навчивши модель безпосередньо на парах «послідовність амінокислот — тривимірні координати», опустивши розкладення білкових структур на токени.

Джерело зображення: Apple

За основу взяли понад 2 млрд пар «послідовність — структура» білка, отриманих переважно з набору даних AFESM, в якому об'єднані структури з бази AlphaFold та додаткові зразки. У процесі навчання дослідники вносили спотворення в обидві частини кожної пари: амінокислоти в послідовності випадковим чином заміняли маскуючими токенами, а в відповідну тривимірну структуру додавали шум. Ступені спотворення варіювалися. Якщо послідовність амінокислот залишалася майже неушкодженою, а структура білка сильно спотворювалася, це була задача на відновлення тривимірної структури. І навпаки, якщо структура зберігалася, а послідовність в значній мірі виявлялася прихованою масками, задача мала зворотний характер. У випадках, коли спотворенням піддавалися обидва компоненти одночасно, модель навчалася вирішувати дві задачі одночасно, тобто готувалася до паралельного проєктування білків.

У тестах SimpleDesign продемонструвала конкурентоспроможні результати при вирішенні задач на проєктування білків, відновлення їх структур і послідовностей амінокислот. Модель генерує правдоподібні структури, а послідовності амінокислот часто не поступаються, а то й перевершують результати більшості конкурентних мультимодальних моделей. Підкреслюється, що результати роботи SimpleDesign поки обмежені лише комп'ютерним аналізом — згенеровані білки не проходили експериментальної перевірки, яка підтвердила б їх здатність згортатися, функціонувати і поводитися, як було передбачено. Але вчені вважають результати багатообіцяючими.

Хочеш дізнатися більше — читай відгуки