Meta навчає ШІ на відео з окулярами Ray-Ban, зокрема на інтимних, але спочатку їх переглядають люди

Розумні окуляри Ray-Ban Meta з штучним інтелектом виявилися справжнім кошмаром з точки зору конфіденційності: відеозаписи з оголеними людьми, сценами сексу та іншим делікатним контентом зберігаються не лише на пристрої, але й у хмарі Meta, після чого їх аналізують як алгоритми, так і живі люди для навчання ШІ.

Джерело зображення: ray-ban.com

До таких висновків прийшли журналісти шведської газети Svenska Dagbladet, які вивчили партнерський проект Meta і Ray-Ban. Як з'ясувалося, відеозаписи, створені пристроєм, збираються та переглядаються великою кількістю людей, зокрема підрядниками, які готують дані для навчання ШІ. Анонімні джерела з кенійської компанії зізналися, що переглядали відеозаписи людей у інтимні та вразливі моменти — коли користувачі розумних окулярів Meta, напевно, хотіли б, щоб за ними не спостерігали.

Кенійська компанія Sama виступає субпідрядником Meta — її співробітники розпізнають об'єкти на фото та відео, і ці дані використовуються для навчання ШІ. Тисячі людей виділяють об'єкти в кадрах, підписують їх і передають дані в систему Meta. Один із співробітників зізнався, що бачив, як люди ходили до туалету або роздягалися, і він не знає, чи усвідомлювали вони, що їх знімають. В одному з випадків чоловік зняв окуляри, поставив їх на прикроватну тумбочку і вийшов з кімнати, після чого туди увійшла жінка і переодяглася. Деякі кадри знімалися навмисно, а в інших випадках користувачі або люди в кадрі не усвідомлювали, що ведеться зйомка.

Люди часто беруть участь у підготовці даних для навчання ШІ — великі компанії наймають велику кількість співробітників у країнах з низькою оплатою праці. Однак Meta та інші гравці технологічної галузі запевняють, що їхні системи забезпечують конфіденційність. Принаймні, співробітники, які працюють з відеоматеріалами, повинні підписувати угоду про нерозголошення, щоб отримати доступ до цієї роботи. Правда, сцени, які бачать ці співробітники, іноді не підходять для навчання ШІ.

Існують системи анонімізації, які приховують обличчя людей у кадрі, але ці системи не завжди надійні — іноді через складні умови освітлення обличчя виявляються розпізнаваними. Коли журналісти поставили Meta запитання щодо ситуації, відповідь довелося чекати два місяці — врешті-решт представник компанії пояснив, як дані з окулярів передаються в мобільний додаток, і послався на політику конфіденційності Meta для систем ШІ.

Хочеш дізнатися більше — читай відгуки