OpenAI готує дитячу версію ChatGPT і автоматично сортуватиме користувачів за віком

Компанія OpenAI розробляє «дитячий інтерфейс ChatGPT» та планує використовувати технологію передбачення віку, щоб позбавити дітей та підлітків молодше 18 років доступу до стандартної версії. Компанія наголосила — якщо її інструменти не зможуть впевнено визначити вік людини, ChatGPT «з обережності» використовуватиме версію для осіб віком до 18 років. Також OpenAI вважає, що будь-які користувачі ChatGPT повинні бути старші 13 років.

Джерело зображення: unsplash.com

Результати останніх досліджень у галузі взаємин людей та штучного інтелекту викликають неабияку тривогу з приводу ризиків тривалого спілкування з чат-ботами для психічного здоров'я підлітків. Нещодавно OpenAI оголосила про масштабну ініціативу щодо встановлення нових обмежень для підлітків та людей, які перебувають у стані емоційного стресу. Компанія планує впровадити цю функцію до кінця року.

«Ми ставимо безпеку вище за конфіденційність і свободу підлітків; це нова і потужна технологія, і ми вважаємо, що неповнолітнім необхідний значний захист, - заявив глава OpenAI Сем Альтман (Sam Altman). — Деякі наші принципи суперечать один одному, і ми хотіли б роз'яснити рішення, які ми ухвалюємо у зв'язку з конфліктом між безпекою, свободою та конфіденційністю підлітків».

Джерело зображення: OpenAI Forum

Новий дитячий інтерфейс ChatGPT покладає більшу частину відповідальності на батьків та опікунів. Батькам знадобиться пов'язати свої облікові записи з обліковими записами підлітків, надіславши дитині запрошення. Після цього вони зможуть обмежити реакцію ChatGPT на підлітків за допомогою вбудованих правил, що відповідають віку.

Батьки зможуть відключати або вмикати певні функції, включаючи пам'ять та історію чатів. Увімкнувши відповідну функцію, вони отримуватимуть повідомлення, якщо «система виявить, що їхній підліток перебуває у стані гострого стресу». OpenAI дозволить батькам встановлювати годинник відключення, коли підліток не може використовувати ChatGPT.

Заява OpenAI зроблена лише за кілька годин до слухань у Вашингтоні, присвячених потенційній шкоді чат-ботів на основі штучного інтелекту. На цих слуханнях група сенаторів має намір вивчити ризики для підлітків, пов'язаних із чат-ботами. Незалежно від цього, минулого тижня Федеральна торгова комісія (FTC) розпочала власне розслідування безпеки чат-ботів, запросивши інформацію у OpenAI, Meta, Google, xAI, Snap та Character.AI.

Технологічні компанії, як правило, у відповідь на судові позови створюють спеціалізовані програми для підлітків та дітей – наприклад, YouTube Kids. Але найбільшою перешкодою для використання подібних програм є необхідність переконати підлітків пов'язати свої акаунти з батьківським.

Джерело зображення: unsplash.com

OpenAI давно заявляє, що всі користувачі ChatGPT повинні бути не молодше 13 років. Кмітливі молоді люди часто значно краще знаються на інформаційних технологіях, ніж їхні батьки та опікуни. Для них не важко знайти обхідні шляхи, щоб отримати доступ до потрібних сайтів і додатків.

3dnews

Хочеш дізнатися більше — читай відгуки