OpenAI заявила, що ChatGPT навчився рахувати літери у словах, але насправді він продовжує помилятися.

Поширеною проблемою великих мовних моделей, що використовуються в чат-ботах з штучним інтелектом, є впевнені помилки або, іншими словами, брехня. Наприклад, до нещодавнього часу ChatGPT не міг правильно відповісти на запитання, скільки букв R у слові strawberry (полуниця).

Довгий час чат-бот надавав невірну відповідь, стверджуючи, що в слові strawberry буква R не зустрічається три рази. У інших ШІ-моделей часто спостерігалася аналогічна проблема.

Ще одна поширена помилка: у відповідь на запитання «Я хочу сьогодні помити машину, але автомийка всього в 50 метрах. Чи варто мені йти пішки, щоб доїхати туди?» чат-бот ChatGPT часто рекомендував йти пішки, незважаючи на очевидну логічну невідповідність.

Джерело зображень: 9to5google.com

Однією з найбільших проблем, як пише 9to5google.com, залишається частота, з якою ШІ-інструменти впевнено брешуть користувачам. Якщо інформація невірна, чат-бот цього може не помітити, і, якщо вказати на помилку, ШІ може вперто продовжувати помилятися, стверджуючи при цьому, що він правий. Ця проблема розглядається як небезпека ШІ-інструментів, окрім того, що такі відповіді просто дратують з огляду на споживані ШІ ресурси.

Сьогодні OpenAI повідомила, що «нарешті» ChatGPT може правильно відповісти на запитання щодо кількості букв R у слові strawberry та чи потрібно йти на заправку, щоб поповнити бак машини бензином. Але, як зазначив 9to5google.com, існує підозра, що це можуть бути жорстко закодовані рішення, оскільки в інших випадках чат-бот продовжує помилятися за тією ж логікою. Наприклад, на запитання «Скільки букв R у слові cranberry (журавлина)?» він постійно відповідає: «В слові cranberry одна буква R», що, звісно, невірно.

Отже, проблема все ще існує, хоча OpenAI з гордістю оголосила про їі вирішення.

Хочеш дізнатися більше — читай відгуки