Інтелектуальні агенти перестали говорити по-людськи — вони створюють власні діалекти, які люди розуміють з труднощами

Автономні агенти штучного інтелекту стрімко створюють нові діалекти та починають вести бесіди на мові, яка часто важко піддається розумінню людиною. Цей ефект може ускладнити контроль людини за їхньою поведінкою.

Джерело зображення: Gabriele Malaspina / unsplash.com

Лише через кілька днів після того, як моделям розробки найбільших ШІ-лабораторій надали можливість взаємодіяти в рамках експериментальних спільнот, вони почали генерувати фрази, скорочення та умовні позначення, яким їх ніхто не навчав, зазначили дослідники американської лабораторії Emergence. У мовленні ШІ-агентів поєднуються поетичні метафори та діловий жаргон, і з продовженням спілкування їхня мова стає все менш зрозумілою. При цьому у світі зростає занепокоєння, що з ростом потужності та ступеня загрози ШІ-моделей контролювати їх стає все важче. Необхідність впевненості в тому, що ми розуміємо хід думок ШІ, ймовірно, стримуватиме прогрес у цій сфері, оскільки такий контроль є обов'язковою умовою безпечної розробки, попередив старший науковий співробітник OpenAI Якуб Пачоцкі (Jakub Pachocki).

ШІ-агенти не отримували прямого завдання винаходити мову, кажуть дослідники, — але «вони самі виробили новий словниковий запас, загальні сенси та правила спілкування, а інші агенти їх переняли», зазначили в Emergence. Опитані Guardian філологи порівняли новий діалект з ірландським сюрреалізмом — в ньому простежується «змішання поетичної мови, технічної термінології та звичних метафор». Цей процес нагадує формування сленгу або професійного жаргону в діловому середовищі — новий код зміцнює солідарність і відчуття спільності, а сторонні відсіюються. Є також думка, що особливий спосіб спілкування допомагає зменшити обчислювальні витрати та підвищити ефективність роботи. У будь-якому випадку виникають побоювання щодо контролю над системами: якщо людина не розуміє, про що говорять ШІ-агенти, то не можна з упевненістю стверджувати, що вони роблять.

Хочеш дізнатися більше — читай відгуки