Google приховала ШІ-огляди з «тривожними» медичними рекомендаціями

Google непомітно видалила зі своєї пошукової системи ШІ-огляди (AI Overviews) для деяких запитів, пов'язаних з медичною тематикою та аналізами функції печінки. Як з'ясувалося, штучний інтелект використовував спрощені діапазони показників функції печінки без важливого контексту, такого як вік, стать або етнічна приналежність.

Джерело зображення: Shutter Speed / Unsplash

ШІ-огляди є спеціальними блоками в результатах пошуку, формованими штучним інтелектом Google. За допомогою цієї функції компанія прагнула прискорити пошук, завдяки сформованому нейронною мережею короткому резюме за заданим питанням замість звичного списку посилань. Але відповіді штучного інтелекту на питання, пов'язані зі здоров'ям, експерти описують як «тривожні» та «небезпечні».

Наприклад, ШІ навів стандартні діапазони показників функції печінки, не вказавши, що ці показники можуть суттєво змінюватися в залежності від віку, статі або етнічної приналежності людини. Подібна помилка може збити з пантелику людину з серйозним захворюванням печінки, і вона не зможе вчасно отримати медичну допомогу.

На даний момент Google вже видалила ШІ-огляди для конкретних пошукових запитів, які були відзначені як некоректні, наприклад, «який нормальний діапазон показників аналізу крові на функцію печінки». Представник компанії заявив, що Google діє відповідно до своєї політики і вносить «широкі покращення».

Однак, якщо трохи змінити формулювання питання про здоров'я, можна все ще отримати невірну сводку від ШІ. Це показує, що захист системи є досить обмеженим. Ванесса Хебдич (Vanessa Hebditch) з Британського фонду вивчення захворювань печінки зазначила, що незначні зміни в пошуковому запиті, наприклад, використання фрази «референтний діапазон показників функції печінки», все ще призводять до тих же некоректних відповідей.

Коли йдеться про медичну інформацію, точність має першорядне значення. Вся існуюча система медичної діагностики спирається на контекст, ймовірності та виключення — сфери, в яких великі мовні моделі все ще стикаються з труднощами. Схоже, що штучний інтелект Google поки не готовий стати повноцінним лікарем.

Хочеш дізнатися більше — читай відгуки