Ілон Маск перерахував три якості, без яких ШІ стане небезпечним

Ілон Маск (Elon Musk) в подкасті з індійським мільярдером Ніхілом Каматом (Nikhil Kamath) знову попередив про загрози, що виходять від штучного інтелекту, і виокремив три ключові принципи, які, на його думку, повинні лежати в основі безпечного розвитку технології: істина, краса та допитливість. За словами Маска, ігнорування цих основ може призвести до того, що ШІ почне генерувати небезпечні висновки, втрачаючи зв'язок з реальністю.

Джерело зображення: Tesla

Маск, який є головою Tesla, SpaceX, xAI, X, Neuralink та The Boring Company, підкреслив, що потужні технології за своєю природою несуть потенційну загрозу, особливо якщо вони не орієнтовані на об'єктивну реальність. Він зазначив, що ШІ, навчаючись на даних з інтернету, неминуче засвоює хибну інформацію, що може порушити його здатність до логічного висновку і призвести до «божевільних» або руйнівних заключень.

На підтвердження цієї думки, як пише CNBC, Маск послався на проблему «галюцинацій», тобто генерації ШІ-системами хибних або оманливих відповідей, які вже проявилися в реальних продуктах. Наприклад, функція Apple Intelligence на iPhone на початку 2025 року поширила фейкове повідомлення про перемогу британського дартсиста Люка Літтлера (Luke Littler) в чемпіонаті PDC до того, як той справді виграв турнір.

Маск також підкреслив важливість естетичного сприйняття та прагнення до пізнання, заявивши, що ШІ повинен проявляти інтерес до природи реальності та майбутнього людства, а не бути інструментом його знищення. Його позиція перегукується з думкою «хрещеного батька ШІ» Джеффрі Хінтона (Geoffrey Hinton), який раніше оцінив ймовірність загибелі людства від ШІ в 10–20 %. Серед короткострокових ризиків він назвав галюцинації та автоматизацію робочих місць початкового рівня. «Ми сподіваємося, що якщо достатньо розумних людей проведуть достатньо досліджень, маючи достатні ресурси, ми знайдемо спосіб створення таких систем ШІ, які ніколи не захочуть завдати нам шкоди», — додав Хінтон.

Хочеш дізнатися більше — читай відгуки