Anthropic закрила лазівку для клонування Claude — дистиляція моделей стала в 10–100 разів складнішою

Anthropic похвалилася, що нові заходи з захисту ШІ-моделей від дистиляції спрацювали — обсяг даних, які конкуренти можуть витягти з Claude для навчання власних ШІ-моделей, зменшився в 10–100 разів. Нові механізми безпеки також допомогли виявити та заблокувати десятки тисяч облікових записів, пов'язаних із спробами витягнення даних.

Джерело зображень: anthropic.com

Дистиляція моделей стала серйозною проблемою для провідних розробників ШІ на фоні загострення конкуренції між американськими та китайськими лабораторіями. Ця практика дозволяє конкурентам швидше і з меншими витратами відтворювати можливості передових систем, зазначили найбільші гравці в США: Anthropic, OpenAI та Google. Захисні механізми, які обмежують доступ до механізмів міркувань Claude, призвели до того, що спроби незаконного витягнення даних різко скоротилися: «кількість токенів міркувань, що витягуються під час дистиляції» стала «в 10–100 разів меншою, ніж раніше».

Anthropic досягла цього результату, ускладнивши використання проксі-мереж, які раніше використовувалися для багаторазового зчитування захищених засобів міркувань Claude; це дозволило заблокувати спроби витягнення даних і створити перешкоди для масштабних атак з дистиляцією даних. Ця система, підкреслили в Anthropic, «має практично таку ж надійність, як і системи, що не дозволяють Claude допомагати у створенні біологічної зброї» — при цьому «частота хибнопозитивних спрацьовувань становить менше 0,1 %».

Компанія заблокувала кілька десятків тисяч облікових записів, які пов'язала з атаками з дистиляцією. Як приклад вона безпосередньо вказала на китайський стартап Z.ai, також відомий як Zhipu — він при розробці моделі GLM-5.3 нібито намагався перехоплювати відповіді Claude. Подібні дії, заявили в Anthropic, створюють загрозу національній безпеці. У Z.ai на звинувачення не відповіли.

Хочеш дізнатися більше — читай відгуки