OpenAI додала режим блокування для ChatGPT, щоб захистити від промпт-ін'єкцій

Компанія OpenAI представила нову функцію ІІ-чат-бота ChatGPT — режим блокування (Lockdown Mode), який забезпечить додатковий захист від атак з використанням промпт-ін'єкцій (Prompt Injection), коли на веб-сторінках та в інших джерелах контенту містяться приховані шкідливі інструкції, які обманним шляхом змушують ІІ виконувати несанкціоновані дії.

Джерело зображення: Mariia Shalabaieva/unsplash.com

Режим блокування призначений для зниження ризику витоку даних внаслідок атак з використанням промпт-ін'єкцій шляхом обмеження вихідних мережевих запитів за рахунок відключення або обмеження деяких функцій. Зокрема, в режимі блокування відключаються перегляд веб-сторінок в реальному часі (доступ буде лише до кешованого контенту), отримання та відображення зображень з мережі, поглиблений пошук та режим агента.

Компанія попередила, що, хоча режим блокування розроблений для суттєвого зниження ризику витоку даних внаслідок атак з використанням промпт-ін'єкцій у ChatGPT та підтримуваних продуктах OpenAI, він не гарантує повної захисту від компрометації даних. Ризик може зберігатися через увімкнені додатки. Крім того, промпт-ін'єкції можуть з'являтися в кешованому веб-контенті або в завантажених файлах і все ще впливати на поведінку моделі або точність відповідей.

OpenAI також уточнила, що режим блокування призначений не для всіх: «Він розроблений для людей та організацій, які працюють з конфіденційними даними і хочуть більш суворого захисту від ризиків витоку даних, пов'язаних із впровадженням запитів».

Наразі режим блокування додано для облікових записів ChatGPT Business з самообслуговуванням, а також для відповідних особистих акаунтів, включаючи Free, Go, Plus та Pro.

Хочеш дізнатися більше — читай відгуки