Microsoft передбачила біологічні загрози «нульового дня» через ШІ

Експертам Microsoft за допомогою штучного інтелекту вдалося виявити вразливості «нульового дня» в системах біологічної безпеки, які використовуються для запобігання несанкціонованому використанню ДНК.

Джерело зображення: Braňo / unsplash.com

Такі системи блокують продаж і купівлю генетичних послідовностей, які можуть використовуватися для створення смертельно небезпечних токсинів і патогенів. Групі дослідників під керівництвом старшого наукового співробітника Microsoft Еріка Хорвіца (Eric Horvitz) вдалося обійти цю захисту способом, раніше невідомим фахівцям у сфері безпеки. Хорвіц і його співробітники підключили алгоритми генеративного ШІ, призначені для отримання нових форм білків — подібні програми вже допомагають у відкритті нових препаратів. Проблема в тому, що вони можуть мати подвійне призначення, генеруючи структури не лише корисних, але й небезпечних молекул. У Microsoft з 2023 року почали вивчати потенціал систем ШІ подвійного призначення, щоб встановити, чи здатні такі системи допомогти біотерористам у виробництві шкідливих білків.

Експерти компанії намагалися подолати захист програмного забезпечення для забезпечення біологічної безпеки. При виробництві білків дослідники зазвичай замовляють у комерційних постачальників послідовності ДНК, які потім можна ввести в клітину. За допомогою програмного забезпечення надходять замовлення порівнюються з відомими токсинами і патогенами — при близьких збігах спрацьовують сповіщення. У розробці схеми атаки Microsoft застосовувала кілька моделей для генерації білків, зокрема свою власну EvoDiff; дослідники поставили мету перепроектувати токсини таким чином, щоб вони могли пройти контроль програмного забезпечення, але зберегти свої смертоносні властивості.

Джерело зображення: digitale / unsplash.com

Експеримент проводився повністю в цифровому середовищі: в реальності вони не створювали жодного токсичного білка, щоб уникнути підозр, що компанія розробляє біологічну зброю. Microsoft також заявила, що перед публікацією матеріалів дослідження сповістила про нього влади США та виробників програмного забезпечення, хоча деякі розроблені ШІ-молекули все ж обходять цю захисту. У компанії Integrated DNA Technologies, великому виробнику ДНК-матеріалів, заявили, що закриття цих вразливостей — це не разова робота, а «початок подальших випробувань», і порівняли склалася ситуацію з «гонкою озброєнь». Щоб гарантувати, що результати дослідження не будуть використані не за призначенням, дослідники з Microsoft не стали розкривати подробиць своєї роботи і не повідомили, які білки вони просили ШІ переробити.

Проте, є думка, що подібні точкові акції не допоможуть вирішити загальну проблему, і кращою захистом від злонамірених дій було б вбудувати засоби захисту в сам ШІ — або безпосередньо, або шляхом контролю над інформацією, яку він видає. Ще більш надійним способом захисту є моніторинг самого синтезу генів на рівні виробника, оскільки технології ШІ стають все більш поширеними, і контролювати їх важче. «Цього джина назад у пляшку не заженеш. Якщо у тебе є ресурси, щоб обманом спробувати змусити нас створити послідовність ДНК, ти, напевно, зможеш і навчити велику мовну модель», — визнають вчені.

Хочеш дізнатися більше — читай відгуки