OpenAI відклала запуск еротичних чатів у ChatGPT через побоювання щодо їхньої безпеки

Багато галузей свого часу отримали розвиток, в тому числі й завдяки природному інтересу людини до матеріалів еротичного змісту, тому сфера штучного інтелекту не є винятком. Компанії борються з спокусою використовувати еротику для просування своїх платформ, намагаючись при цьому залишитися в якихось законодавчих і етичних рамках. OpenAI поки не готова запустити еротичні чати.

Джерело зображення: Unsplash, Alexander Krivitskiy

Про можливість появи такого напрямку в роботі ChatGPT ще в середині минулого року заявив генеральний директор OpenAI Сем Альтман. Спочатку він виношував ідею запуску функції еротичних чатів до грудня минулого року, потім терміни перенесли на поточний квартал, але тепер стає зрозуміло, що й цей графік не буде витримано. Як мінімум, затримка з дебютом функції еротичних чатів буде вимірюватися одним місяцем, повідомляє The Wall Street Journal.

Експерименти в використанні ШІ для створення текстового контенту еротичного змісту OpenAI проводила задовго до запуску ChatGPT. Ще в 2021 році клієнтам OpenAI пропонувалася гра AI Dungeon з нелінійним сюжетом, напрямок розвитку якого могли задавати користувачі. Тоді спеціалісти OpenAI встановили, що ШІ-платформа іноді пропонує гравцям обговорити теми сексуальних взаємин, навіть якщо вони ніяк не провокували подібний поворот сюжету. Якщо ж користувач сам пропонував помірну ступінь еротизму, ШІ буквально «перегинав палку» в проявленнях відвертості відповідних бесід. OpenAI вже тоді задумалася про привабливість подібного застосування чат-ботів, але при цьому усвідомила й необхідність введення етичних обмежень.

Керівництво OpenAI в останній час все більше благосклонно висловлювалося щодо ідеї запуску еротичних чатів, підкреслюючи, що все обмежиться тільки текстовою інформацією, без створення зображень і відео відвертого змісту. Конкуренти також не стоять на місці. Минулого четверга Ілон Маск заявив, що його чат-бот Grok у частині генерування відео скоро зможе створювати контент, що належить до категорії «18+». Meta дозволяє користувачам свого чат-бота вести романтичні рольові ігри, але тільки за умови впевненості в їхньому повнолітті.

У самої OpenAI з механізмами підтвердження віку поки є проблеми. Зараз профільна система в 12% випадків помилково приймає підлітків за повнолітніх. З урахуванням наявності приблизно 100-мільйонної аудиторії неповнолітніх користувачів ChatGPT, такий рівень похибки дозволив би мільйонам підлітків на регулярній основі отримувати доступ до еротичних чатів. Скликана OpenAI в січні експертна комісія також висловила занепокоєння загрозою появи забороненого з точки зору суспільної моралі та законодавства контенту, який передбачає насильницькі дії сексуального характеру, згадування неповнолітніх та інші специфічні сценарії. Крім того, захоплення подібним контентом може викликати у людей психологічну залежність і знижувати їхню мотивацію підтримувати взаємини з реальними партнерами в офлайні. OpenAI хоче примусово нагадувати таким захопленим натурам, що їм слід будувати стосунки з реальними людьми.

Це особливо важливо з урахуванням наявності не зовсім приємних інцидентів, що виникли в процесі поширення чат-ботів. Існують приклади доведення людей до самогубства внаслідок тривалого спілкування з вигаданими персонажами в чат-боті, включаючи й підліткові самогубства. Експерти побоюються, що еротичний ухил подібних бесід тільки спровокує зростання кількості таких випадків. Щодо механізмів перевірки віку користувачів у представників OpenAI особливих ілюзій немає — вони, за їхніми словами, ніколи не зможуть бути ідеальними і в 100% випадків працездатними. З 2021 року частина співробітників OpenAI висловлює опір ідеї запуску еротичних чатів на платформі з побоюванням остаточного сповзання в цю сферу: «Ми не хотіли бути просто компанією, що поширює еротику».

На даний момент керівництво OpenAI вважає доцільним запуск еротичних чатів, керуючись наступними принципами: «Ми все ще віримо, що з дорослими треба звертатися як з дорослими, але формування правильного досвіду вимагатиме більше часу».

Хочеш дізнатися більше — читай відгуки