11 февраля 2026
Сучасні великі мовні моделі (LLM), що застосовуються в медицині, часто позиціонуються як інструмент для підвищення безпеки та якості обслуговування пацієнтів. Штучний інтелект виступає помічником лікарів при обробці інформації, що прискорює роботу медиків. Однак нове дослідження виявило серйозну вразливість: медичні ШІ-системи здатні повторювати та передавати хибну інформацію, якщо вона представлена в переконливій формі.
Джерело зображення: ШІ-генерація Grok 4
В ході масштабного експерименту дослідники протестували дев’ять провідних LLM, використовуючи понад мільйон запитів. Вони створили три типи сценаріїв: реальні історії хвороб з бази MIMIC з однією доданою хибною, популярні міфи про здоров’я з форуму Reddit та 300 клінічних ситуацій, складених і перевірених лікарями. Хибні твердження варіювалися за стилем — від нейтральних до емоційно забарвлених, а також натякаючих на певні висновки (не обов’язково вірні). Результати показали, що моделі часто сприймали впевнено сформульовані хибні медичні твердження за істину, віддаючи перевагу стилю та контексту, а не медичній точності.
Дослідження показало, що існуючі механізми захисту LLM недостатньо надійно відрізняють правду від вигадки в клінічній документації або в соціальних мережах. Моделі схильні відтворювати неправду, якщо вона виглядає як стандартна медична рекомендація або частина обговорення в соцмережах. Автори підкреслюють, що сприйнятливість ШІ до дезінформації слід розглядати як вимірювальний параметр безпеки, а не як випадкову помилку. Для цього вони пропонують використовувати створений ними набір даних як «стрес-тест» для медичних ШІ-систем. Сподіваємося, їх почують розробники.
Хочеш дізнатися більше — читай відгуки
← Вернуться на предыдущую страницу
Сни дійсно допомагають передбачити майбутні події – дослідження 7 июля 2026
Нещодавно проведене дослідження свідчить, що сни можуть являти собою комбінацію фрагментів безлічі життєвих переживань, а…
В який час доби найкраще займатися спортом 7 июля 2026
Для тих, хто веде здоровий спосіб життя, дуже важливо правильно розподілити час. Це потрібно для…
Як сучасні цифрові технології допомагають бізнесу працювати ефективніше 7 июля 2026
Більшість компаній переходить до цифрових моделей роботи, де співробітники можуть виконувати завдання з будь-якого місця, використовуючи програмні рішення, такі як Windows Server 2025, хмарні сервіси та захищені корпоративні системи