ШІ став рідше галюцинувати, але все ще впевнено подає неправду за правду

Проблема галюцинацій, тобто завідомо хибних відповідей, які надають ШІ-моделі, все ще залишається актуальною. Хоча ШІ-інструменти стали робити це рідше, вони все ще видають неточні відповіді, при цьому підкріплюючи їх надзвичайно переконливою риторикою, пише Axios.

Джерело зображення: Steve A Johnson/unsplash.com

Хибні відповіді значно складніше розпізнати, коли вони звучать переконливо. Це зростаюча проблема, оскільки користувачі все більше покладаються на ШІ для досліджень, медичних консультацій та інших завдань.

Дослідження Єльської медичної школи, проведене цього місяця, показало, що інструменти для ведення записів за допомогою ШІ (ШІ-писці) можуть допомогти в медичній практиці, але тільки в поєднанні з професійними рецензентами. Учасники опитування, студенти першого курсу, які редагували свої клінічні записи за допомогою чернеток, згенерованих ШІ, зазначили, що в записах ШІ часто пропускалися важливі деталі, включаючи тривалість симптомів. За словами двох третин студентів, ці записи були «корисні як перший чернеток», але 21 % зазначили, що використання ШІ-писців «може знизити здатність навчитися робити хороші записи».

Згідно з дослідженням Гарвардського університету, під час спроби фахівців Boston Consulting Group виявити помилки в результатах роботи ШІ модель реагувала не каяттям і виправленням, а «бомбардуванням переконанням», вдаючись до різних методів і навіть до лестощів.

Компанії в сфері ШІ намагаються зменшити кількість хибних відповідей за допомогою таких технологій, як генерація з доповненою інформацією (RAG), або обґрунтування відповідей релевантними документами та даними, але це все ще не дає 100-відсоткової точності.

У свою чергу, перевірка результатів роботи ІІ може зайняти час, заощаджений при використанні ШІ-інструментів. Як показало опубліковане в березні дослідження, співробітники часто нехтують перевіркою результатів, згенерованих ШІ, оскільки мало хто звертає увагу на помилки.

Хочеш дізнатися більше — читай відгуки