Штучний інтелект звинуватили в расизмі під час найму на роботу

Інструменти штучного інтелекту, які використовуються великими роботодавцями для найму співробітників, неодноразово відсікали одних і тих же кандидатів — при цьому темношкірі та азіати страждали від цього несоразмірно частіше, показало дослідження Стенфордського університету.

Джерело зображення: Oluwatobi Fasipe / unsplash.com

Автори дослідження вивчили 4 млн заявок у 156 роботодавців, які використовують платформу Pymetrics, що оцінює кандидатів на основі онлайн-ігор, і виявили докази «системних відмов», пов'язаних з її алгоритмами. Щоб майже напевно отримати хоча б одну рекомендацію для переходу на наступний етап подачі заявки, кандидатам необхідно відгукнутися як мінімум на 25 вакансій. Ігрові тести стали особливо популярними серед великих роботодавців — вони звертаються до компаній Pymetrics або HireVue, які перевіряють надіслані заявки у великих обсягах. Кандидати, однак, скаржаться, що витрачають години на проходження тестів, маючи мінімальні шанси на те, що їх заявку взагалі розгляне людина.

Вчені Стенфорда проаналізували 4 млн заявок на робочі місця, поданих через Pymetrics у період з грудня 2018 по грудень 2022 року. У вибірку були включені 156 роботодавців, більшість з яких мали річний дохід у розмірі від $5 млрд. Результати дослідження показали «явні расові відмінності» — кожна десята посада в наборі даних піддавалася «негативному впливу» щодо темношкірих кандидатів; в кожному двадцятому випадку таке ж вплив малося на кандидатів азіатського походження. Було також встановлено, що різні роботодавці для деяких посад використовували одні й ті ж моделі алгоритмів — всього було виявлено 42 такі моделі. Це означає, що кандидати, яким було відмовлено в одній компанії, з великою ймовірністю стикалися з відмовою в інших. З іншого боку, це вплинуло лише на невелику частку кандидатів: 4 % кандидатів, які подали заявки на 10 вакансій, отримували рекомендації про відмову за всіма з них — це більше, ніж можна було б очікувати від випадкової вибірки.

Алгоритми, що використовуються Pymetrics, враховують такі якості, як схильність до ризику, швидкість реакції, довіра та турбота про інших людей. Кандидатам, чиї показники виявилися найбільш близькими до найкращих співробітників, рекомендували проходити далі, а іншим виписували відмову. Висновки дослідження можуть не поширюватися на всі алгоритмічні системи відбору, попередили вчені — ігровий підхід Pymetrics може відрізнятися від схем аналізу резюме.

Хочеш дізнатися більше — читай відгуки