Вразливість у додатку ChatGPT для macOS дозволяла хакерам отримувати доступ до конфіденційних даних

Нещодавно усунена вразливість у версії ChatGPT для macOS компанії OpenAI наочно демонструє, наскільки цінним для зловмисників може бути злам самого програмного забезпечення на базі ШІ. Особливо, коли такі додатки отримують все більш широке поширення.

Джерело зображення: Unsplash, Mariia Shalabaieva

Цю вразливість можна було використовувати для фактичного захоплення контролю над ChatGPT на комп'ютері жертви. У такому випадку зловмисник міг отримати доступ до всієї історії переписки та інших даних, що зберігаються в додатку, а також до пов'язаних ресурсів, таких як сеанси роботи в браузері. Вразливість, виявлена дослідниками з фонду Objective-See Foundation, ілюструє глибокий рівень доступу до системи та високий рівень довіри, якими наділяються ШІ-платформи для виконання своїх функцій. Цей випадок одночасно показує, якою привабливою мішенню стають такі платформи через це.

«Для виконання своїх завдань таким агентам потрібен обширний доступ. Вони подібні до управляючого будівлею, у якого є ключі від усіх приміщень. Тому, якщо їхню роботу вдається скомпрометувати або перехопити контроль над ними, це створює серйозні проблеми. Це може означати, що код з низькими привілеями потенційно отримає доступ до всіх захищених ресурсів», — розповів у розмові з Wired Патрік Уордл (Patrick Wardle), аналітик програмного забезпечення фонду Objective-See Foundation та експерт, який давно займається дослідженнями безпеки macOS.

Компанія OpenAI публічно визнала наявність вразливості та факт її усунення в журналі змін системи 25 вересня. «Ми продовжуємо вдосконалювати наші методи забезпечення безпеки, але усвідомлюємо необхідність діяти швидше», — заявив виданню Wired представник OpenAI Шейн Бауер (Shane Bauer).

Додаток ChatGPT для macOS складається з безлічі компонентів, які взаємодіють один з одним через захищені канали, перевіряючи цифрові підписи. Мета таких перевірок — підтвердити, що обидва взаємодіючі процеси є компонентами OpenAI, а не стороннім і, можливо, шкідливим програмним забезпеченням, що надсилає запит. Архітектура системи передбачає перевірку підписів на трьох рівнях вкладеності стосовно самого запиту. Це гарантує, що шкідлива програма не зможе жодним чином змусити компонент OpenAI виступити в ролі посередника та виконати запит, який виглядатиме як довірений.

Дослідники з Objective-See Foundation виявили наявність довіреного компонента — інтерпретатора скриптів, — який приймав недовірений скрипт (список команд для виконання). Цим компонентом можна було маніпулювати, щоб впровадити такий скрипт у основний процес ChatGPT. «Система також перевіряє батьківський і "прародительський" процеси, але шкідливий скрипт просто запускає інтерпретатор тричі, а потім надсилає запит, тим самим задовольняючи всі вимоги перевірки», — пояснює Уордл.

Джерело зображення: Unsplash, Flipsnack

За його словами, експлуатація цієї вразливості була «до смішного простою», а для створення прототипу, що демонструє проблему, знадобилося всього близько дюжини рядків коду. Окрім доступу до історії переписки в ChatGPT, вразливість дозволяла змусити чат-бота виконувати команди зловмисника, наприклад, запускати браузер або звертатися до інших критично важливих додатків. При цьому запити виглядали як легітимні інструкції, що виходять від самого програмного забезпечення OpenAI.

У листопаді на конференції Objective by the Sea, присвяченій питанням безпеки екосистеми Apple, Уордл представить результати аналізу ряду вразливостей у додатках для macOS, що використовують технології штучного інтелекту. Нещодавно він виявив і повідомив про виправлення вразливості в функції диктування нового ІІ-помічника Muse від компанії Meta. Нею міг скористатися локальний зловмисник (який має прямий доступ до обладнання жертви), щоб перехопити некоректно оброблений токен аутентифікації та отримати доступ до даних користувача. Також Уордл повідомив, що вже передав в OpenAI інформацію про нову вразливість, пов'язану з інтеграцією ChatGPT і нового ІІ-помічника Dots, який працює у фоновому режимі постійно. Наразі OpenAI вивчає його звіт.

«Зараз компанії, що займаються штучним інтелектом, одержимі впровадженням нових функцій. Але, як це завжди буває, чим більше функцій, тим ширша поверхня атаки. Тому всім цим компаніям необхідно приділяти первинну увагу безпеці, однак, судячи з усього, цей аспект часто відходить на другий план», — зазначив Уордл.

Хочеш дізнатися більше — читай відгуки