Нові правила ChatGPT: як будуть відокремлювати підлітків від дорослих

OpenAI впроваджує в ChatGPT нову систему оцінки віку для користувачів споживчих підписок. Її завдання полягає в більш точному виявленні акаунтів, що належать особам віком до 18 років, з подальшим застосуванням відповідних обмежень. Про це повідомляє видання Interesting Engineering.

Компанія відмовляється від підходу, при якому вік визначався виключно на основі даних, зазначених самим користувачем. Замість цього вводяться автоматичні захисні механізми, що спираються на поведінкові характеристики облікового запису. В OpenAI пояснюють, що така схема дозволяє посилити захист підлітків і одночасно скоротити кількість обмежень для повнолітніх користувачів.

Впровадження системи відбувається в умовах посиленого тиску з боку регуляторів і законодавців, які наполягають на більш надійних заходах щодо захисту неповнолітніх при використанні ШІ-сервісів.

Модель прогнозування віку обробляє кілька сигналів на рівні облікового запису. Аналізуються термін існування облікового запису, динаміка активності, типовий час використання сервісу, а також раніше надана користувачем інформація, пов'язана з віком. У компанії підкреслюють, що подібний метод дозволяє орієнтовно визначати вік без постійних перевірок особи або регулярних підтверджень.

При нестачі даних ChatGPT автоматично переходить в посилений безпечний режим. Якщо алгоритм приходить до висновку, що акаунт з високою ймовірністю належить неповнолітньому, платформа активує додаткові обмеження.

Ці заходи скорочують доступ до категорій контенту, які вважаються потенційно небезпечними для підлітків. Обмеження стосуються сцен жорстокого насильства, зображень крові, матеріалів про самоушкодження, а також сексуальних і насильницьких рольових сценаріїв. Крім того, фільтрується контент з вірусними челенджами, здатними стимулювати ризиковану поведінку, і матеріали, що просувають нереалістичні стандарти зовнішності, шкідливі дієти або приниження зовнішнього вигляду.

В OpenAI зазначають, що рішення розроблялися за участю фахівців з дитячого розвитку. Компанія посилається на наукові дані, згідно з якими підлітки інакше сприймають ризики і мають менший рівень імпульсивного самоконтролю в порівнянні з дорослими.

При цьому OpenAI визнає можливість помилок у роботі автоматичних алгоритмів. У випадках, коли користувача помилково відносять до категорії неповнолітніх, він може відновити повний доступ, пройшовши процедуру підтвердження віку. Для цього застосовується селфі-перевірка через сервіс Persona, який вже використовується на інших платформах, включаючи Roblox. В налаштуваннях ChatGPT можна побачити, чи активні обмеження, і запустити процес верифікації. У компанії підкреслюють, що перевірка проходить швидко і не передбачає тривалого зберігання документів, що важливо з точки зору захисту приватності.

Нова система доповнює раніше впроваджені функції, орієнтовані на підлітків. За останні місяці OpenAI представила інструменти батьківського контролю, що дозволяють задавати часові рамки використання, керувати окремими можливостями сервісу і отримувати повідомлення при ознаках гострого емоційного стану. Також була сформована зовнішня експертна рада, яка вивчає вплив ШІ на психічне здоров'я та емоційне благополуччя і дає рекомендації щодо роботи з вразливими групами користувачів.

Запуск рішення збігається з посиленням регуляторної уваги в США та інших країнах. Федеральна торгова комісія США аналізує потенційний вплив ШІ-чатботів на дітей і підлітків, а проти OpenAI подані судові позови, пов'язані з питаннями безпеки користувачів.

У компанії заявляють, що продовжать доопрацювання моделі прогнозування віку, відстежуватимуть її точність і способи обходу обмежень. Протягом найближчих тижнів систему планують розгорнути в країнах ЄС з урахуванням регіональних вимог. В OpenAI підкреслюють, що розглядають оновлення як важливий етап, але зазначають, що розвиток віково-чутливого підходу до проектування ШІ залишається тривалим процесом, про подальші зміни повідомлятимуть окремо.

Нагадаємо, раніше ми писали про те, що вчені помітили дивну закономірність у реакціях ChatGPT.

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

techno.bigmir.net

Хочеш дізнатися більше — читай відгуки