Популярні чат-боти в більшості випадків дають шкідливі поради в сфері фінансів

Схильність довіряти відповідям ШІ може дорого обійтися користувачам популярних чат-ботів, як показує нове дослідження, якщо йдеться про рекомендації у фінансовій сфері. За його даними, ChatGPT, Claude, Copilot, Grok і Gemini дають помилкові відповіді на фінансові запити в середньому в 57 % випадків. Якщо слідувати їхнім рекомендаціям, врешті-решт можна втратити гроші.

Джерело зображення: Anthropic

Принаймні, так стверджують автори дослідження Saturn, на яких посилається Financial Times. Більше того, якщо йдеться про більш складні питання, які передбачають більше одного арифметичного діяння, популярні моделі ШІ в середньому допускають помилки в 88 % випадків, а в деяких ситуаціях цей показник досягає 99 %.

Автори дослідження ставили 18 різним популярним моделям ШІ — як у безкоштовній версії, так і за підпискою, більше 100 різних питань, пов'язаних з управлінням грошима. Питання повторювалися до п'яти разів, в цілому моделями ШІ ChatGPT, Gemini, Claude і Copilot було оброблено понад 10 000 запитів. Представники Saturn виявили не лише банальні помилки в арифметичних обчисленнях, але й «галюцинації» в області фінансових правил і законів, а також відсутність належного врахування майбутніх змін у податковому законодавстві. Як вважають експерти, покладаючись на помилкові рекомендації моделей ШІ в податковій сфері, користувачі ризикують втратити значні суми грошей.

Наприклад, безкоштовна модель Claude Haiku 4.5 створила ситуацію, при якій, слідуючи її рекомендаціям у сфері пенсійного забезпечення, громадянину Великобританії загрожував би штраф у розмірі 17 500 фунтів стерлінгів. У іншому випадку модель ШІ сама «винайшла» правило, згідно з яким випускник вишу, що переїхав за кордон, нібито отримує право припинити виплати за студентським кредитом на освіту. При цьому слід зазначити, що платні моделі ШІ давали більш точні відповіді у фінансовій сфері, а нові версії виявлялися точнішими за попередні. Найкращі показники продемонструвала Claude Opus 5, яка в режимі міркувань допускала 39 % помилок.

Фінансовим консультантам, як зазначають представники платформи AJ Bell, доводиться втручатися в дії клієнтів, які керуються рекомендаціями ШІ і здійснюють необдумані операції. Проте експерти паралельно зазначають, що штучний інтелект непогано справляється з аналізом витрат і доходів користувачів та складанням рекомендацій щодо оптимізації бюджету. Опитування громадської думки у Великобританії показали, що один з п'яти дорослих громадян країни схиляється до ідеї передачі ШІ повноважень щодо прийняття серйозних фінансових рішень, що стосуються питань пенсійного забезпечення, запозичень і інвестицій.

Молоді британці також більш схильні довіряти рекомендаціям ШІ у фінансовій сфері, ніж профільним блогерам і телевізійним передачам. Дві третини з них мають намір упродовж наступного року скористатися ШІ для прийняття відповідних рішень. На відміну від послуг живих фінансових консультантів, використання ШІ для подібних цілей не дозволить тим, хто втратив гроші, претендувати на матеріальну компенсацію. Ця сфера потребує законодавчого регулювання, як зазначають автори дослідження.

Хочеш дізнатися більше — читай відгуки