Штучний інтелект у пошуку Google переконав людей, що дорожні камери наповнені золотом — розпочалася хвиля вандалізму

Штучний інтелект Google перетворив фейк про камери спостереження Flock Safety на «технічний факт»: алгоритм AI Overview у пошуку стверджував, що в кожній такій автономній камері розпізнавання автомобільних номерів міститься 1–5 г золота, а також 0,9–10,4 кг міді. Таким чином, тільки вартість золота в одній камері оцінювалася приблизно в $650. Штучний інтелект елементарно не перевірив, що маса самої камери становить 1,36 кг, і продовжив поширювати недостовірну інформацію, провокуючи випадки вандалізму щодо цих пристроїв.

Джерело зображення: Flock

Історія почалася зі скандалів, пов'язаних із системою спостереження Flock Safety. Повідомлялося про зловживання, коли окремі поліцейські використовували систему для стеження в особистих цілях. Врешті-решт, мало кому подобається відчувати себе під постійним контролем. На цьому фоні виник фейк, що заохочує знищення камер компанії — твердження про високий вміст у них дорогоцінних металів і навіть міді. Це не перший і не останній фейк в інтернеті. Але цього разу у нас був штучний інтелект, який без перевірки підхопив недостовірну інформацію і почав самостійно її поширювати.

Насправді золото в такій електроніці дійсно присутнє, але лише в слідових кількостях — головним чином у покриттях контактів, роз'ємів і окремих елементів друкованих плат. Те ж саме стосується і міді: вона використовується в провідниках і доріжках друкованих плат, однак її кількість незначна. Після публікації цієї історії Google змінив AI Overview: тепер пошук попереджає, що розповіді про грами вилученого золота і кілограми міді — це чиєсь жарт і результат галюцинацій штучного інтелекту, а реальний вміст дорогоцінних металів порівнянний з тим, що характерно для звичайної компактної електроніки — мікрограми або близько того.

Історія з «золотими камерами» стала черговим характерним прикладом повторення і поширення генеративним штучним інтелектом недостовірних фактів. Що особливо засмучує, платформа не виконала елементарну перевірку їх правдоподібності — заявлена маса лише міді багаторазово перевищувала масу всього пристрою. Скільки камер постраждало внаслідок цього, історія замовчує. Проте люди добре справляються з поширенням фейків і без штучного інтелекту. У 2020 році вежі стільникового зв'язку палили без жодних підказок з його боку. Але ж когось потрібно призначити винним? Не себе ж!

Хочеш дізнатися більше — читай відгуки