Anthropic заборонила користувачам жорстоко поводитися з ШІ-ботом Claude інакше він оголосить бойкот

Anthropic оновила правила використання своїх ШІ-моделей і вперше окремо заборонила користувачам систематично ображати та жорстоко поводитися з ботом. Якщо перестаратися, Claude просто припинить розмову. Одночасно компанія посилила обмеження на використання ШІ для стеження, розробки зброї та втручання у вибори.

Джерело зображень: Anthropic

У серпні минулого року компанія оголосила, що дозволить Claude припиняти діалог з користувачами, які демонструють «стійку шкідливу або образливу поведінку», в рамках дослідження питань «благополуччя моделі». В оновлених правилах зазначено, що припинення спілкування залишається «основним механізмом реагування».

В Anthropic не уточнили, чи планується введення додаткових заходів, таких як блокування користувачів за грубе поводження з Claude. Компанія пояснила, що нові правила «призначені діяти лише в крайніх випадках, коли користувачі неодноразово і без видимої мети поводяться жорстоко щодо наших моделей. Ці заходи не поширюються на випадки, коли користувачі просто висловлюють незадоволення або незгоду, звертаються до похмурих творчих тем, а також проводять тестування або дослідження моделі».

Окрім заходів щодо забезпечення «благополуччя моделі», Anthropic об'єднала ряд раніше введених обмежень в єдиний заборону на проведення вводячих в оману комерційних або політичних кампаній. Таким чином, компанія відреагувала на зростаючу проблему поширення пропаганди, створеної за допомогою ШІ. Заборона стосується «спроб приховати істинного автора повідомлення або штучно підвищити охоплення контенту за допомогою фейкових акаунтів і публікацій». Розділ, присвячений виборам, також забороняє введення виборців в оману і зрив виборчого процесу шляхом поширення дезінформації «про кандидатів або порядок голосування, видачу себе за кандидатів або посадових осіб виборчих комісій, а також спроби знизити явку виборців».

Хоча правила використання і раніше прямо забороняли розробку зброї за допомогою Claude, були зафіксовані численні спроби використовувати модель для створення інструкцій і керуючого програмного забезпечення для озброєнь. У зв'язку з цим оновлені правила розширюють заборону. Тепер вона охоплює «програмне забезпечення і компоненти, що забезпечують функціонування зброї, а також такі дії, як оснащення бойовими системами безпілотників і інших автономних транспортних засобів». Також, на фоні частіших спроб використання систем на базі Claude для стеження і виявлення «політичних дисидентів», Anthropic більш чітко сформулювала заборони, що стосуються спостереження за людьми.

«Стеження за людьми без їхньої згоди заборонено — незалежно від того, відбувається це в режимі реального часу чи шляхом аналізу раніше зібраних даних», — підкреслили в Anthropic. «Claude не можна використовувати для прийняття рішень або вироблення рекомендацій про те, кого слід піддавати розслідуванню, арешту або обвинуваченню в рамках правоохоронної діяльності або кримінального судочинства. Ми також забороняємо використовувати Claude для створення або вдосконалення інструментів, призначених для стеження».

В Anthropic зазначають, що ці правила можуть бути змінені в рамках «контрактів з певними державними замовниками [...] якщо, на думку Anthropic, договірні обмеження на використання і передбачені заходи захисту достатні для запобігання потенційної шкоди». Раніше компанія вже співпрацювала з збройними силами США, зазначає The Verge.

Anthropic також ввела нове правило: якщо її ШІ-моделі «підключені до обладнання, здатного здійснювати автономні фізичні дії і завдавати травм», то «кваліфікований оператор повинен мати можливість спостерігати за обладнанням і при необхідності зупиняти його». Правда, не пояснюється, чи повинен цей оператор бути людиною. Це правило відображає зростаючу тенденцію: лабораторії ШІ інвестують у робототехніку та інші апаратні засоби, щоб наділити системи ШІ фізичним втіленням. Можливо, це також може бути натяком на майбутні партнерства Anthropic у цій сфері.

За останній рік в Anthropic неодноразово обговорювали ідею про те, що її ШІ-моделі можуть в якійсь мірі володіти свідомістю. «Питання про потенційний внутрішній досвід, свідомість, моральний статус і благополуччя моделей — це серйозні теми, які ми вивчаємо в міру вдосконалення моделей і розширення їхньої функціональності», — заявив у лютому в розмові з The Verge Кайл Фіш (Kyle Fish), що очолює в компанії дослідження, присвячені благополуччю моделей. У тому ж місяці генеральний директор Anthropic Дарио Амодеї (Dario Amodei) сказав в одному з подкастів: «Ми не знаємо, чи володіють моделі свідомістю».

Представники інших сегментів індустрії ШІ відкрито виступають проти подібних ідей. У вересні минулого року широкий резонанс викликав «Гуманістичний кодекс поведінки ШІ» від Microsoft, яка зайняла тверду позицію з питання «благополуччя ШІ»: у чернетці документа, опублікованому Мустафою Сулейманом (Mustafa Suleyman), говорилося: «Ідея про благополуччя моделей помилкова. ШІ не повинен мати прав або статусу юридичної особи». Однак пізніше формулювання в документі стали більш стриманими: «Хоча наукове розуміння свідомості ШІ ще далеко від завершення, ми відкидаємо прагнення наділити ШІ статусом юридичної особи, а також ідею про те, що моделі можуть потребувати захисту благополуччя або мати права».

Нові правила Anthropic щодо використання її ШІ-моделей вступлять в силу з 12 листопада.

Хочеш дізнатися більше — читай відгуки