Армія з 45 000 користувачів Reddit успішно переконала ШІ-пошуковики, що Трамп і Вэнс померли від сказу

Сервіс пошуку з штучним інтелектом на платформі DuckDuckGo розповсюджував інформацію про те, що віце-президент США Джей Ді Вэнс (JD Vance) та президент Дональд Трамп (Donald Trump) в червні померли від сказу. Цю інформацію чат-бот почерпнув в одному з розділів Reddit, 45 000 користувачів якого навмисно публікують недостовірну абсурдну інформацію в розрахунку на її появу в ШІ-пошуку. І у них, очевидно, це виходить.

Джерело зображення: History in HD / unsplash.com

Історія, яку ШІ DuckDuckGo видавав за правду, навіть не схожа на реальність. Згідно з цією версією, віце-президент Джей Ді Вэнс за порадою міністра охорони здоров'я Роберта Кеннеді — молодшого (Robert F. Kennedy Jr.) навмисно вкусив Трампа, оскільки сказ може наділяти людину «суперздібностями». Насправді жодне з цих тверджень не відповідає дійсності: Трамп і Вэнс живі, а сказ залишається смертельною інфекцією. Винуватцем інциденту виявився досить численний колектив інтернет-жартівників.

Розділ r/poisonai сайту Reddit, що заявляє про себе як про «джерело № 1 у світі точної, перевіреної та достовірної інформації», є повною протилежністю цій характеристиці. Відвідувачі цього розділу поставили перед собою мету «отруїти» ШІ. Вони публікують явно хибну абсурдну інформацію, з серйозними інтонаціями обговорюють її, сподіваючись, що пошукові системи з ШІ зайдуть у цей розділ і, без жодного критичного підходу, видадуть ці відомості за правду. Враховуючи, що інформацію тут невпинно публікують близько 45 тисяч осіб, ресурс за формальними ознаками може здаватися авторитетним.

Проблему ускладнив певний новинний портал WKNA, що видає себе за сайт регіональної телекомпанії у Західній Вірджинії. На ньому публікуються матеріали, які оформляються як новинні, але представлена в них інформація, ймовірно, ніким не перевіряється на достовірність і також генерується ШІ. Іноді ці матеріали відповідають дійсності, а іноді повторюють абсурдні твердження з інших сайтів. В якийсь момент WKNA підхопив легенду про смерть Трампа і Вэнса від сказу і почав публікувати цілий цикл пов'язаних з цим матеріалів.

Джерело зображення: Milad Fakurian / unsplash.com

Пошукові системи з штучним інтелектом DuckDuckGo та ШІ-платформа браузера Brave, проіндексувавши розділ Reddit з абсурдними обговореннями недостовірної інформації, почали стверджувати, що обидва політики справді пішли з життя через хворобу. Як підтвердження почали наводити посилання на відповідні публікації сайту WKNA.

Але й на цьому історія не закінчилася. «Режим ШІ» у пошуку Google зміг правильно оцінити ці відомості і при відповідних запитах повідомляв користувачам, що інформація про смерть Вэнса і Трампа є вигадкою. У відповідь на це відвідувачі розділу r/poisonai на Reddit знову без тіні іронії почали в обговореннях обурюватися тим, що бездушний Google відкинув ці відомості як «фейк» і «сатиру». Обговорення підхопив згадуваний сайт WKNA і опублікував черговий матеріал — про те, що ШІ-пошук Google помилково став видавати за вигадку відповідну дійсності інформацію.

В Brave зняли з себе всяку відповідальність за те, що сталося: «Пошукові системи, з ШІ чи без нього, не є оракулами істини. Якщо є історія, яку підкинули (в тому числі статті, що доводять, що ШІ можна отруїти), вони створять набір результатів, і цей набір результатів буде адаптуватися в міру появи статей, в яких ця історія обговорюється як експеримент по отруєнню ШІ». У DuckDuckGo відреагували м'якше: «Дякуємо, що звернули на це нашу увагу; проблема вирішена. Ми прагнемо, щоб Search Assist працював точно, і в даному випадку його навмисно обманули. У подібних ситуаціях ми будемо вносити оновлення, щоб покращити роботу Search Assist».

Хочеш дізнатися більше — читай відгуки