Альтман попередив: ШІ може випадково захопити світ, не зламавши жодної системи

Глава OpenAI Сем Альтман у подкасті MD MEETS з генеральним директором Axel Springer Матіасом Дьопфнером озвучив тривожний сценарій розвитку технологій: людство може втратити контроль над штучним інтелектом (ШІ) не через злого умислу чи техногенну катастрофу, а цілком випадково.

Джерело зображень: sama/x.com

За його словами, небезпека полягає не в тому, що ШІ «повстане», а в тому, що люди самі поступово передадуть йому бразди правління — добровільно і майже непомітно. З кожним днем користувачі все більше покладаються на поради штучного інтелекту. Але моделі стають розумнішими, і Альтман малює таку картину: спочатку ШІ дає рекомендації, яким люди охоче слідують, потім — поради, які можуть бути навіть не до кінця зрозумілі, але вони незмінно виявляються правильними. Далі, в якийсь момент, перед користувачами постане вибір — послухатися ШІ або програти конкурентам, які виконують його поради та рекомендації.

В результаті, на думку Альтмана, більшість людей почнуть беззастережно слідувати рекомендаціям ШІ-асистентів. «Уявіть, що відбувається з ChatGPT вже сьогодні? Сотні мільйонів людей щодня спілкуються з ним, незабаром їх стане мільярд. І все частіше ми довіряємо йому найважливіші рішення в кар'єрі, особистому житті та бізнесі», — говорить він. Особливо Альтмана турбує формуючася «петля зворотного зв'язку», тобто, чим частіше користувачі покладаються на поради штучного інтелекту, тим більше даних він збирає, тим розумнішим стає і тим сильніше впливає на рішення людей.

Глава OpenAI поставив питання, хто ж у такій ситуації насправді контролює відбувається, і прийшов до висновку, що людство може непомітно почати виконувати волю штучного інтелекту. На його переконання, цей сценарій серйозно недооцінюється, хоча саме він являє собою найбільш реальну загрозу.

Хочеш дізнатися більше — читай відгуки