Вчені попереджають: соціальні мережі незабаром зіткнуться з масовими набігами ШІ-агентів

У найближчому майбутньому соціальні мережі можуть почати піддаватися масовим атакам ботів з штучним інтелектом, які імітують поведінку людей і експлуатують схильність середньостатистичної людини слідувати за натовпом. Вони зможуть поширювати недостовірну інформацію, переслідувати користувачів і впливати на політичні процеси.

Джерело зображень: Igor Omilaev / unsplash.com

Подібні масові напади загрожують стати новою зброєю в інформаційних війнах. Боти з ШІ зможуть імітувати поведінку людини, уникати таким чином виявлення і створювати ілюзію природного онлайн-руху. Людський інстинкт часто підказує слідувати «мудрості» більшості, але в даному випадку цей механізм буде управлятися волею власника ШІ-ботів, який діє від імені невідомої особи, групи, політичної партії, компанії або державного діяча, попередив норвезький професор Йонас Кунст (Jonas Kunst). Ті, хто відмовиться приєднатися до віртуального натовпу, можуть піддатися переслідуванням з боку тих самих ботів з ШІ, які прагнуть подавити аргументи, що суперечать їхньому наративу.

Дослідники не вказують точних термінів вторгнення подібних роїв ШІ, але попереджають, що виявити їх буде непросто — не можна навіть стверджувати, що вони вже не розгорнуті. Загроза масових атак ботів з ШІ ускладнюється тим, що наші цифрові екосистеми і без того ослаблені «ерозією раціонально-критичного дискурсу та відсутністю спільного розуміння реальності серед громадян». Примітивні боти вже формують більше половини всього веб-трафіку, але вони поки що здатні виконувати лише базові завдання, наприклад, публікувати одне й те саме підбурювальне повідомлення — виявити їх просто, а для управління такими ботами потрібні оператори.

ШІ-боти на основі великих мовних моделей виявляться значно складнішими — вони будуть достатньо розвиненими, щоб адаптуватися до онлайн-спільнот, в які проникають, і впроваджувати набори різних особистостей, які зберігають пам'ять і ідентичність. Це буде свого роду «самодостатній організм, здатний координувати свої дії, навчатися, адаптуватися з часом і, таким чином, спеціалізуватися на експлуатації вразливостей людини», підкреслив професор Кунст.

Загроза вже не є гіпотетичною. Минулого року адміністрація спільноти Reddit пригрозила судовим позовом дослідникам, які підключили чат-ботів з ШІ в експерименті з маніпуляції думками чотирьох мільйонів користувачів в одному з розділів. Відповіді чат-ботів були в три–шість разів переконливіші, ніж публікації живих людей, — свідчать попередні результати дослідження. Рій зможе створювати сотні, тисячі і навіть мільйони ШІ-агентів: конкретний показник залежатиме від обчислювальної потужності зловмисника і від можливості адміністрації соцмережі боротися з цією загрозою. Але лише кількість не вичерпує загрозу: в місцевих спільнотах буде достатньо лише кількох таких агентів, оскільки великий наплив нових користувачів зустрінуть з підозрою.

Враховуючи, що ШІ-агенти можуть цілодобово і безперервно проводити свої кампанії, користувачі соцмереж не зможуть протистояти їм власними силами. Адміністраціям платформ, однак, необхідна присутність реальних користувачів, тому, як передбачається, незабаром з'являться засоби покращеної аутентифікації облікових записів. Тобто люди повинні будуть доводити, що вони — люди. Але це не панацея — в деяких країнах анонімність є захистом для політично інакодумців. Хоча аутентифікація і значно ускладнить завдання зловмисникам.

В якості альтернативних заходів пропонуються схеми сканування трафіку в реальному часі для виявлення статистичних аномалій і створення спільноти фахівців і установ, які будуть вивчати ці атаки, реагувати на них і підвищувати обізнаність суспільства про проблему. Ігнорування таких засобів загрожує зривами виборів та інших великих заходів.

Хочеш дізнатися більше — читай відгуки