Розробники систем автономного водіння стверджують, що їхнє програмне забезпечення однаково добре розпізнає дорослих світлошкірих людей, дітей та темношкірих пішоходів. Проте дослідження вчених із Королівського коледжу в Лондоні показало, що це не зовсім так.
Джерело зображення: metamorworks / Shutterstock
Дослідники перевірили вісім систем виявлення пішоходів, збудованих на базі нейромереж. У ході тестування використовувалось понад 8 тис. зображень пішоходів. Виявилось, що системи виявлення пішоходів на 20% краще розпізнають дорослих людей, ніж дітей. Крім того, програмне забезпечення на 7,5% точніше визначає світлошкірих людей, ніж темношкірих пішоходів. На думку дослідників, проблема розпізнавання темношкірих людей полягає в тому, що системи автономного водіння переважно навчаються на зображеннях людей зі світлою шкірою.
«Хоча вплив несправедливих систем штучного інтелекту добре задокументований, починаючи з того, що ІІ-алгоритми при прийомі на роботу віддають перевагу кандидатам-чоловікам і закінчуючи тим, що алгоритми розпізнавання осіб менш точно визначають темношкірих жінок, ніж білих чоловіків, небезпека, яку можуть становити безпілотні. автомобілі, дуже велика. Раніше представникам меншин могли відмовити у життєво важливих послугах, а тепер вони можуть зіткнутися із серйозними травмами», — вважає доктор Цзе Чжан (Jie Zhang), один із авторів дослідження.
Вчені також встановили, що точність розпізнавання темношкірих людей сильно знижується в умовах недостатньої освітленості та низької контрастності. Це може призвести до виникнення небезпечних ситуацій під час використання систем виявлення пішоходів на основі ІІ у темний час доби. Автовиробники не розкривають подробиць про програмне забезпечення, яке використовується для розпізнавання пішоходів. Однак дослідники стверджують, що ці алгоритми, як правило, побудовані на основі тих самих систем з відкритим вихідним кодом, які були перевірені в ході дослідження.
Джерело зображення: metamorworks / Shutterstock
Дослідники перевірили вісім систем виявлення пішоходів, збудованих на базі нейромереж. У ході тестування використовувалось понад 8 тис. зображень пішоходів. Виявилось, що системи виявлення пішоходів на 20% краще розпізнають дорослих людей, ніж дітей. Крім того, програмне забезпечення на 7,5% точніше визначає світлошкірих людей, ніж темношкірих пішоходів. На думку дослідників, проблема розпізнавання темношкірих людей полягає в тому, що системи автономного водіння переважно навчаються на зображеннях людей зі світлою шкірою.
«Хоча вплив несправедливих систем штучного інтелекту добре задокументований, починаючи з того, що ІІ-алгоритми при прийомі на роботу віддають перевагу кандидатам-чоловікам і закінчуючи тим, що алгоритми розпізнавання осіб менш точно визначають темношкірих жінок, ніж білих чоловіків, небезпека, яку можуть становити безпілотні. автомобілі, дуже велика. Раніше представникам меншин могли відмовити у життєво важливих послугах, а тепер вони можуть зіткнутися із серйозними травмами», — вважає доктор Цзе Чжан (Jie Zhang), один із авторів дослідження.
Вчені також встановили, що точність розпізнавання темношкірих людей сильно знижується в умовах недостатньої освітленості та низької контрастності. Це може призвести до виникнення небезпечних ситуацій під час використання систем виявлення пішоходів на основі ІІ у темний час доби. Автовиробники не розкривають подробиць про програмне забезпечення, яке використовується для розпізнавання пішоходів. Однак дослідники стверджують, що ці алгоритми, як правило, побудовані на основі тих самих систем з відкритим вихідним кодом, які були перевірені в ході дослідження.
0.4
5.0