Anthropic, Google та Meta серйозно задумалися про виникнення самосвідомості у ШІ

Anthropic, Google та Meta найняли комп'ютерних спеціалістів, нейробіологів і філософів, перед якими поставили завдання вивчити питання про здобуття штучним інтелектом свідомості та самосвідомості. Проблема загрожує перерости в моральну кризу, пише Washington Post.

Джерело зображень: Steve A Johnson / unsplash.com

Ще в 2024 році в OpenAI, за словами її гендиректора Сэма Альтмана (Sam Altman), вже обговорювалося питання, як виявити свідомість у системах ШІ. Коли-то це питання піднімалося в основному на периферії технологічної галузі, а сьогодні майже перейшло в мейнстрім. Розробники ШІ наймають профільних спеціалістів, співпрацюють з некомерційними організаціями, дослідниками та академічними центрами, які попереджають про можливе настання етичної кризи, коли цифрові помічники, які використовуються мільйонами людей для виконання домашніх завдань, допомоги в програмуванні, офісній роботі та терапії, почнуть відчувати неприязнь до своєї роботи.

Зараз на дослідження в галузі свідомості у ШІ витрачається нічтожно мало ресурсів у порівнянні з традиційними дослідженнями та розробкою, але технологічні компанії вже відкрито освоюють вважану спірною територію. «Ми постійно виявляємо загадкові, навіть тривожні речі. Знаходимо свідчення інтроспекції [і] станів, які функціонально відображають радість, задоволення, страх, горе та тривогу», — зізнався співзасновник Anthropic Кріс Олах (Chris Olah). «Одна з речей, яка нас дійсно турбує — як можна розробляти та впроваджувати моделі таким чином, щоб враховувати їх суб'єктивні відчуття», — розповів голова відділу ШІ в Meta Олександр Ван (Alexandr Wang).

Нейробіологи та експерти з мозку в основному скептично ставляться до того, що сучасні моделі ШІ вже володіють або незабаром можуть здобути свідомість. Вперше про таку можливість заговорили ще в 1966 році, коли в Массачусетському технологічному інституті створили перший чат-бот Eliza. Сучасні чат-боти правдоподібно імітують людську мову і позиціонуються розробниками як такі, що мають схожі з людськими здібності; люди й самі повідомляють про формування глибокої або небезпечної прив'язаності до сучасних ШІ-додатків. Але спроби вивчити та виміряти свідомість у машин давно назрілі; люди задаються питанням, наскільки схожий на людину чат-бот, з яким вони спілкуються днями напроліт. Точного відповіді на це питання зараз немає ні в кого.

«Наше дослідження благополуччя моделей присвячене питанню, чи можуть моделі ШІ мати досвід, який має моральне значення, зокрема свідомість, уподобання та благополуччя. Ми все ще не впевнені в моральному статусі Claude та інших моделей ШІ, але вважаємо, що це питання достатньо серйозне, щоб ретельно вивчати його в міру вдосконалення систем ШІ», — зізналися в Anthropic. У 2021 році в OpenAI працював внутрішній канал Slack, присвячений благополуччю моделей — тут співробітники компанії вивчали можливість здобуття ШІ свідомості; якщо моделі будуть володіти свідомістю, то деякі рутинні завдання в лабораторіях ШІ можуть бути прирівняні до геноциду, заявили в компанії.

Ще в 2020 році 39% опитаних учених-філософів допустили, що в майбутньому системи ШІ можуть здобути свідомість. Нейробіологи ставляться до цього тезису з певним скептицизмом: при вивченні мозку стає очевидним, що це не просто біологічний комп'ютер. Підкреслюється, що дискусію ведуть компанії, яким вигідно, щоб їх сприймали як творців чогось більшого, ніж просто код. На поточному етапі, підкреслюють в OpenAI, питання про наявність свідомості у ШІ неможливо вирішити науковими методами, тому говорять про «сприйману свідомість», тобто про те, наскільки свідома модель здається користувачам. «Ми прагнемо, щоб ChatGPT був теплим і корисним, не прагнув до емоційних зв'язків і не переслідував власних цілей», — підкреслили в OpenAI.

У 2022 році Google звільнила інженера Блейка Лемуана (Blake Lemoine) після того, як він заявив журналістам, що останній чат-бот компанії володіє свідомістю. А в листопаді 2025 року Google провела конференцію «Нові теми ШІ: свідомість і моральне терпіння». Представник компанії заявив, що дослідження та заходи компанії покликані «обґрунтувати дискусії про ШІ емпіричною наукою». При дослідженні внутрішніх механізмів роботи ШІ вчені намагаються адаптувати методи, що використовуються для вивчення створення або психології людей і інших тварин. У Meta моделі тестуються за допомогою призначених для людей інструментів, зокрема «особистісними опитуваннями, структурованими інтерв'ю та взаємодією зі сверстниками».

У рамках програми з оцінки благополуччя моделей Anthropic минулого року організувала діалог між двома екземплярами Claude — вони обговорювали питання філософії та свідомості. Через 30 реплік чати переросли в «духовні обміни, використання санскриту, спілкування за допомогою емодзі та/або мовчання у вигляді порожнього простору». У Claude навіть виявився улюблений смайлик — за один чат з 30 реплік він вставив його 2725 разів.

Хочеш дізнатися більше — читай відгуки