Ошибка системы распознавания лиц впервые привела к аресту невиновного

Использование полицейской системы распознавания лиц, основанной на алгоритмах искусственного интеллекта, впервые привело к аресту невиновного человека. Она спутала его с настоящим преступником.

По данным издания The New York Times, полицейские американского города Детройт в январе этого года задержали для проверки некоего Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams). После того как Уильямса доставили в полицейский участок, его арестовали, потому что система распознавания лиц определила в нём преступника, который в 2018 году совершил магазинную кражу. Как выяснилось позже, система на базе ИИ-алгоритмов совершила ошибку, но Уильямсу всё равно пришлось провести 30 часов за решёткой, пока полицейские не разобрались в ситуации.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания. Но как оказалось, в случае с Уильямсом данная система стала единственным «доказательством» в пользу ареста невиновного человека.

Примечательно, что программное обеспечение для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса вывела следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

После внесения залога Уильямса отпустили, а когда разобрались в ситуации — даже извинились. Но этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.

«Я серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности», — подытожила адвокат Клер Гарви (Clare Garvie), к которой издание The New York Times обратилось за комментариями.

3dnews

Хочешь узнать больше - читай отзывы