«Це криза довіри»: голова Anthropic пояснив негативне ставлення людей до ШІ

Розробники передових ШІ-моделей, які базуються в США, неодноразово виступають з попередженнями щодо їх застосування, і з цієї точки зору голова Anthropic Даріо Амодеї часто транслює досить песимістичні тези. Сам він вважає, що просто попереджає людство про ризики, а негативне сприйняття ШІ суспільством викликане в більшій мірі «кризою довіри».

Джерело зображення: Anthropic

Сам генеральний директор Anthropic, як підкреслює TechCrunch, визнає існування подібних упереджень у суспільстві і вважає це великою проблемою, але не може погодитися з інвестором Гевіном Бейкером, який звинувачує керівництво стартапу у формуванні надмірно песимістичного сприйняття ШІ оточуючими. «Я вважаю, що в основі цього лежить криза довіри. Я думаю, що звичайні люди не довіряють компаніям, владі або технологічній галузі і завжди просто вважають, що ми готуємо якийсь новий спосіб їх обманути», — пояснив Амодеї. Він додав, що таке насторожене ставлення в суспільстві формувалося десятиліттями, і в випадку з ШІ воно лише набуває свого чергового прояву.

Єдине, в чому голова Anthropic міг би погодитися з критиками галузі ШІ — це невиконання обіцянок у сфері надання загальних благ: «Це дійсно наша провина, і думаю, що саме на цьому напрямку критики потрібно зосередитися замість обговорення текстів повідомлень і маркетингу». Наприклад, обіцяння перемогти ракові захворювання за допомогою ШІ, на думку Амодеї, в більшій мірі є кліше, ніж мотивуючим висловлюванням. Змінити ставлення людей до ШІ в цьому випадку можна, лише дійсно продемонструвавши його здатність лікувати рак.

Не погоджується Амодеї і з поглядами ліберально налаштованих експертів на процес регулювання виходу ШІ-моделей владою. Все не зводиться лише до концентрації влади в руках тих, хто управляє випуском ШІ-моделей. «Багато людей за межами цього бульбашки вважають, що регулювання обмежує владу корпорацій і приносить користь простим людям», — заперечив він. Свої пропозиції в сфері регулювання ШІ-індустрії Anthropic намагається формулювати так, щоб стримувати експансію великих передових компаній на користь прогресу менших конкурентів.

Амодеї переконаний, що ШІ є технологією, яка призводить до концентрації влади. Поширення моделей з відкритими вагами частково вирішує цю проблему, але не може вважатися панацеєю, оскільки концентрація влади зміщується в бік тих, хто має найбільші обчислювальні ресурси. В галузі повинні, за його словами, з'явитися «правила дорожнього руху», які враховуватимуть ризики в сфері безпеки, обмежуватимуть вплив великих компаній, а також залишатимуть місце на ринку для моделей з відкритими вагами, одночасно враховуючи супутні ризики.

Хочеш дізнатися більше — читай відгуки