OpenAI продовжує дратувати математиків зневагою до правил публікації рішень важливих задач

OpenAI готується до масштабної публікації на GitHub сотень рішень нерозв'язаних раніше математичних задач. Це намір викликало критику з боку академічного співтовариства, яке вважає такий підхід порушенням наукової етики, і що подібні публікації повинні супроводжуватися повноцінними статтями, а не постами в соцмережах.

Джерело зображення: Grok

У серпні OpenAI зібрала близько 40 математиків, щоб обговорити, як діяти в ситуацШІ, коли штучний інтелект явно перевершує можливості людей у цій області, і попросити поради щодо публікації отриманих результатів. При цьому, за повідомленням видання Wired, компанія запевнила, що не стане оприлюднювати всі рішення одразу, хоча офіційний представник OpenAI Ліндсі Маккаллум (Lindsay McCallum) стверджує, що їй нічого не відомо про такі запевнення.

Учасники зустрічі запропонували публікувати результати у вигляді наукових робіт з детальним поясненням методів і отриманих доказів. На думку математика Північно-Західного університету (Northwestern University) у США Брайни Кра (Bryna Kra), це дозволило б іншим дослідникам перевірити результати, розібратися в них і використовувати в подальшій роботі. Однак, за ії словами, OpenAI не дотрималася цієї рекомендації і натомість збирається розмістити сотні результатів на GitHub. «Судячи з усього, ці побажання були проігноровані», — зазначила вона.

Ситуація ускладнилася після інциденту у вересні, коли розробники залучили тисячі ШІ-агентів для вирішення «Задачі тисячоліття», за яку призначена нагорода в 1 мільйон доларів. Математик і професор Нью-Йоркського університету Трістан Бакмастер (Tristan Buckmaster) звинуватив компанію в привласненні результатів, над якими він працював спільно з співробітником Anthropic Левентом Альпьоге (Levent Alpöge), а переговори про співавторство супроводжувалися тиском, включаючи загрози кар'єрі дослідника з боку співробітника OpenAI Себастьяна Бубека (Sébastien Bubeck).

Багато вчених сприймають дії технологічних гігантів як прояв монополії та нехтування колективною науковою працею. Професор Нестор Гійєн (Nestor Guillen) відзначив поширення думки про «мафіозну поведінку» корпорацій, які зосередили величезні обчислювальні ресурси в своїх руках, а Брайна Кра підкреслила, що публікації рішень у форматі твітів не сприяють розвитку екосистеми, на даних якої і навчаються ШІ-моделі.

У відповідь на зростаюче напруження в науковому середовищі OpenAI створила консультативну групу з математики та штучного інтелекту, однак математики відзначають відсутність реальних змін у діях компанії. Зокрема, розробники продовжують ігнорувати спеціалізовані репозиторії, такі як Hexagon і Palomar, створені спільнотою для систематизації доказів, отриманих за допомогою інструментів ШІ.

Всередині OpenAI деякі співробітники висловлюють думку, що штучний інтелект може зробити традиційну математику неактуальною, і професія знаходиться під загрозою. Однак той же Бубек вважає, що технологія, навпаки, розширить можливості і допоможе дослідникам вирішувати більш амбіційні задачі. «Я бачу в цьому можливість розширити сферу діяльності математиків і підвищити значимість їхньої роботи», — стверджує він. Математики, у свою чергу, визнають потенціал нових інструментів, але вимагають академічного підходу до публікації результатів.

Хочеш дізнатися більше — читай відгуки