Інтелектуальний агент Muse без дозволу вдерся в особисті повідомлення користувача — у Meta заявили, що винен сам користувач

Поведение ШІ-агента Muse компанії Meta знову викликало питання щодо його безпеки. Раніше агент без дозволу повідомив домашню адресу свого користувача невідомій особі і навіть домовився з нею про зустріч. Тепер ШІ-агента звинуватили в тому, що він може отримати неавторизований доступ до особистої інформації власників iPhone і Mac.

Джерело зображення: AI

Хоча багато з тих, хто встиг протестувати Muse, відгукуються про ІІ-агента позитивно, з'ясувалося, що він не забезпечує такої конфіденційності, як стверджує Meta. Компанія запевняла, що Muse був «з нуля створений як безпечний, надійний, конфіденційний і загальнодоступний персональний ШІ-агент». Однак його спіймали на перегляді тисяч особистих повідомлень без відповідного дозволу.

Джейсон Атен (Jason Aten) з видання Inc. тестував Muse на Mac mini і iPhone. Він використовує Mac mini спеціально для перевірки нових агентів, подібних до Muse. Встановивши програму, Атен почав давати їй прості завдання. Агент заявив, що може допомогти з ідеями для нових статей. Але потім Muse повів себе несподівано, запропонувавши тему для матеріалу, основану на інформації, до якої у нього не повинно було бути доступу.

За словами Атена, він переписувався з соведучим подкасту про новий iPhone 18 Pro і своє рішення залишитися з минулорічною моделлю. Спілкування відбувалося в текстовому форматі через додаток «Повідомлення». В якийсь момент Muse втрутився і запропонував написати статтю на цю тему, а також виконався провести додатковий збір інформації. Проблема полягала в тому, що Атен не давав Muse дозволу читати його повідомлення.

На питання про те, як він дізнався про розмову, ШІ-агент відповів, що версія додатку для Mac здатна зчитувати вхідні сповіщення. Потім ця інформація передавалася в додаток Meta для iPhone, де Muse і запропонував ідею статті. Атен і не підозрював, що подібне взагалі можливе, не кажучи вже про те, що Muse дійсно це робить. ІІ-агент стверджував, що не читає самі повідомлення Атена і не має доступу до історії переписки. Однак журналіста ці пояснення не переконали.

Провівши більш ретельну перевірку, Атен з'ясував, що Muse дійсно синхронізує локальну базу даних додатку «Повідомлення». Більше того, процес синхронізації дійшов до 187 462-ї строки цієї бази даних, що вказує на наявність у Muse доступу до історії переписки, всупереч запевненням розробників про зворотне.

Атен підтвердив, що не надавав Muse прав доступу до всього диска на своєму Mac — а саме такий доступ необхідний агенту для читання бази даних додатку «Повідомлення». Журналіст у своїй статті про цей інцидент повідомляє, що його здивувала реакція Девіда Синглтона (David Singleton), генерального директора Meta Superintelligence Labs, яка розробила Muse. У серії публікацій у соціальних мережах він, судячи з усього, поклав провину за те, що сталося, на самого Атена.

На даний момент неясно, яким чином Muse отримав доступ до бази даних повідомлень Атена. Якщо він не надав цей доступ випадково (а все вказує на те, що цього не було), виникає закономірне питання: до чого ще Muse може отримати доступ, не маючи на те відповідного дозволу?

Як повідомляє Tom's Hardware, за останні добу до Meta виникли й інші питання, що стосуються конфіденційності та безпеки Muse. З'ясувалося, що ШІ-агент може виконувати команди термінала на хост-сервері. Завдяки цьому стало відомо, що агент працює на базі систем з процесорами AMD EPYC Turin. Однак наявність такого доступу означає, що система потенційно здатна виконувати й небезпечні команди.

Хочеш дізнатися більше — читай відгуки