Meta змінила алгоритм свого чат-бота після скарг на бестактні особисті питання

Компанія Meta була змушена внести корективи в алгоритми підказок свого чат-бота, оскільки штучний інтелект став надто цікавитися приватним життям користувачів. Нещодавно в мережі з'явилося відео, яке демонструє, як чат-бот намагається з'ясувати особисту інформацію про маленьких дітей. Компанія визнала, що «допустила помилку» і «ця функція не повинна була пропонувати користувачу подібні питання».

Джерело зображень: unsplash.com

На минулому тижні користувач Instagram Кейлі Робінс (Kalie Robins) розповіла, як ШІ-помічник Meta почав безтактно вивідувати інформацію про її дітей. Вона розмістила у Facebook відео, де разом з дитиною співає в машині, після чого під відео з'явився запит від ШІ: «Хто цей дитина-пасажир?». За словами Робінс, чат-бот Meta зіставив інформацію про її дочок з її власних минулих публікацій та постів її родичів. Система почала ставити додаткові питання, що стосуються віку дітей та місця проживання її родини. Крім того, як стверджує Робінс, Meta AI показав фотографії її дочок, раніше розміщені на платформі, включаючи знімок, який вона видалила багато років тому.

Представник Meta Діна Ель-Кассабі (Dina El-Kassaby) заявила, що проблема, через яку чат-бот Meta ставив питання на занадто особисті теми, вже усунена: «Ми створили цю функцію, щоб допомогти людям отримувати більше інформації про теми або публікації, які їх цікавлять. Коли користувач натискає на підказку і використовує цю функцію, згенерована відповідь базується на інформації, до якої у користувача вже є доступ».

Meta інтегрувала свого ШІ-помічника у Facebook, Instagram, WhatsApp та Messenger. Він здатний відповідати на питання, писати пости та генерувати зображення. У липні компанія відмовилася від функції, що дозволяла створювати ШІ-діпфейки інших користувачів Instagram, після того як зіткнулася з різкою критикою.

Хочеш дізнатися більше — читай відгуки