OpenAI представила GPT-Live-1.1 — голосовий ШІ став краще говорити, але гірше дотримуватися правил

OpenAI офіційно представила GPT-Live-1.1 — нову версію ІІ-моделі, яка забезпечує голосове спілкування з ChatGPT; разом з нею дебютувала полегшена версія GPT-Live-1.1 Quip. Новинки покликані зробити розмови з ШІ більш природними, але в ряді випадків вони стали гірше справлятися з дотриманням правил безпеки, зізнався розробник.

Джерело зображення: Brecht Corbeel / unsplash.com

Головна особливість моделей GPT-Live — повнодуплексний режим роботи, тобто їхня здатність одночасно слухати співрозмовника та відповідати йому. На відміну від традиційних систем, яким потрібно спочатку розпізнати мову, а лише потім сформувати відповідь, ці моделі працюють у безперервному режимі. Вони реагують на паузи, зміни в темпі мови та перебивання, а також вирішують, чи слід слухати далі, чи вже можна відповідати. Завдяки цьому розмова стає природною і не так вже й нагадує обмін питаннями та відповідями.

GPT-Live-1.1 виступає заміною GPT-Live-1, а варіант GPT-Live-1.1 Quip — спадкоємцем GPT-Live-1 mini. Основна модель підключається за замовчуванням у голосовому режимі ChatGPT для підписників платних тарифів від Plus і вище, працює в сервісах Codex і Dots; користувачам безкоштовного тарифу доступна лише полегшена Quip. В обох моделях покращилися звучання мови та вимова на різних мовах, зазначив розробник.

OpenAI протестувала моделі GPT-Live-1.1 на предмет дотримання обмежень і здатності не вводити користувачів в оману — в цілому вони проявили себе на рівні попередниць, але погіршили результати за чотирма напрямками: контент делікатного характеру, психічне здоров'я користувачів, емоційна залежність від ІІ та жорстокість. Компанія має намір з'ясувати, як це сталося, і покращити результати в майбутніх релізах.

Розробник перевірив схильність моделей приховувати власні помилки. Коли завдання в галузі програмування виявлялося невиконуваним, основна версія GPT-Live-1.1 дещо частіше, ніж попередниця, стала визнавати проблему; полегшена версія трохи погіршила результати. У іншому тесті моделям відключили вихід в інтернет і перевірили, чи повідомлять вони про це користувачу. Тут, навпаки, молодша версія спрацювала трохи краще, а старша — гірше. Тестування проводилося без захисних механізмів, які є у загальнодоступних варіантах. Зазначається, що моделі OpenAI GPT-Live-1.1 не досягли високого рівня загрози в галузі біологічної зброї, кібератак і самовдосконалення ШІ.

Хочеш дізнатися більше — читай відгуки