«ШІ здатний вбити нас усіх»: втікач з Google DeepMind також забив тривогу щодо нейромереж

Експерт у сфері штучного інтелекту Білал Чугтай, який нещодавно залишив Google DeepMind, попередив, що в людства залишається все менше часу до моменту, коли ШІ завдасть масштабної шкоди. Чугтай став черговим галузевим експертом, який висловив занепокоєння щодо напрямку розвитку технології.

Джерело зображення: AI

«У Google я на власні очі бачив, як розробляється ШІ. Я вкрай стурбований тим, яким шляхом розвивається ця технологія. Я щиро вірю, що ШІ здатен знищити нас усіх», — написав Чугтай у пості, опублікованому в соціальних мережах X та LinkedIn. Він також додав, що під час роботи в Google займався питаннями безпеки ШІ та його узгодженістю з цілями людини. Офіційні представники IT-гіганта поки що ніяк не прокоментували це питання.

Чугтай став одним із багатьох дослідників у сфері ШІ, які висловили побоювання щодо швидко розвиваючих, але неузгоджених можливостей нової технології, яка врешті-решт може знищити людство. Кілька днів тому розробник ШІ Джейкоб Коксон, який працював в Anthropic і OpenAI, звинуватив своїх колишніх роботодавців у тому, що вони «мчать прямо до самовдосконалюючогося надрозуму і грають з нашими життями».

На минулих вихідних генеральний директор Anthropic Даріо Амодеї опублікував есе, в якому закликав IT-спільноту сповільнити розробку передових моделей ШІ, щоб запобігти їх виходу з-під контролю людини і подальшому завданню катастрофічної шкоди людям. У рідкісному прояві єдності послання Амодеї підтримали генеральний директор OpenAI Сем Альтман і голова SpaceX Ілон Маск.

При цьому Чугтай заявив, що він зберігає оптимістичний настрій. Він вважає, що шлях разом із ШІ все ще можна пройти безпечно, і саме в цій сфері він продовжить свою роботу. У LinkedIn зазначено, що тепер він працює в BlueDot Impact — некомерційній організації, яка займається навчанням людей з різних сфер безпечному взаємодії з ШІ.

Хочеш дізнатися більше — читай відгуки