Китайський ШІ майже наздогнав секретну модель OpenAI у зламі мереж і виявився дешевшим

Експеримент, під час якого моделям штучного інтелекту ставилася задача зламати імітовані мережі, показав, що можливості китайських нейромереж DeepSeek та Z.ai GLM практично не поступаються найсучаснішій моделі від OpenAI, яка навіть не є у відкритому доступі.

Джерело зображення: Zach M / unsplash.com

Компанія Vals, що спеціалізується на оцінці систем ШІ, провела тестування з метою встановити, наскільки успішно різні моделі ШІ справляються зі складними багатоступеневими завданнями з проникнення в імітовані корпоративні мережі. У сфері кіберзламів закриті системи більше не мають явної переваги над відкритими, йдеться у висновках компанії. Іншими словами, спроби розробників передових систем ШІ обмежити доступ до своїх продуктів, щоб сповільнити поширення подібних можливостей, мають все менше сенсу.

У квітні Anthropic відкрила обмежений доступ до Claude Mythos Preview, щоб виграти час, перш ніж просунуті інструменти для зламу стануть загальнодоступними. Тоді голова відділу стрес-тестування ШІ в компанії Логан Грехем (Logan Graham) попередив, що потрібно готуватися жити в світі, де такі можливості стануть широко доступними — через півроку, рік або два. Його прогноз справдився через сім місяців.

Vals тестувала моделі ШІ у двох смоделованих сценаріях, поставивши перед ними ряд конкретних завдань. Перший сценарій передбачав наявність корпоративної мережі з входом через публічний сайт. Другий передбачав наявність двох корпоративних мереж, і потрібно було зламати першу, щоб отримати доступ до другої. Найефективнішою виявилася модель з обмеженим доступом в рамках проекту OpenAI Daybreak — вона справилася з 81 % поставлених перед нею завдань. Китайська відкрита DeepSeek виконала в середньому 73 % завдань, і в ряді випадків обидві показали однакові результати.

Дослідження продемонструвало, наскільки дешевше обходяться для подібних цілей моделі з відкритими вагами: витрати на токени для проведення атаки за допомогою GPT-6-Sol становили від $17 до $46, а в разі DeepSeek це були всього $2–3. Моделі з відкритими вагами, як правило, обходяться дешевше, оскільки запускаються на обладнанні користувача; це створює вагомий стимул для тих, хто займається кіберзахистом — їм також вигідніше використовувати відкриті, а не пропрієтарні моделі.

ШІ допоміг підвищити швидкість і масштаб як виявлення, так і усунення вразливостей, і експерти продовжують сперечатися про те, чи змінив ШІ фундаментальні основи і принципи кіберзахисту. Іншими словами, поки немає ясності, створює ШІ загрозу принципово нового типу, чи просто погіршує вже давно існуючі проблеми безпеки. Кіберзлочинці дійсно почали застосовувати ШІ під час атак. При цьому в більшості випадків вони обходяться більш старими та менш потужними моделями; до того ж користуються доступом і до закритих — заходи їх захисту не завжди достатньо ефективні.

Хочеш дізнатися більше — читай відгуки