Конфлікт OpenAI з математиками продовжує загострюватись

Двадцять п’ять провідних математиків підписали відкритий лист, в якому йдеться про те, що компанії, які займаються розробкою технологій штучного інтелекту, ставлять під загрозу інтелектуальну працю вчених, намагаючись обійти одне одного у вирішенні відомих математичних задач. Усі початкові підписанти листа є володарями медалі Філдса — найпрестижнішої нагороди в галузі математики.

Джерело зображення: Brecht Corbeel / unsplash.com

Цього тижня професор Нью-Йоркського університету Трістан Бакмастер (Tristan Buckmaster) звинуватив OpenAI в тому, що компанія чинила на нього тиск, вимагаючи не вказувати серед авторів однієї з робіт колегу з Anthropic, з яким він займався вирішенням важливої математичної задачі. Бакмастер також поставив питання, чи могла OpenAI використати матеріали, які вчені завантажували в Codex, щоб потім отримати власне проривне доказательство під час тривалих обчислень.

У четвер OpenAI відмовилася від спонсорства математичного заходу в Каліфорнійському технологічному інституті. Це сталося після того, як робота компанії зазнала критики з боку дослідників цього інституту.

Здатність ШІ-моделей вирішувати найважливіші нерозв’язані математичні задачі може принести людству величезну користь. Однак автори листа впевнені, що це відбудеться лише в тому випадку, якщо знайдені рішення зможуть зрозуміти та пояснити представники математичного співтовариства, а в кінцевому підсумку — і весь інший світ.

«Часто про такі рішення оголошують у поспіху. На те, щоб належним чином оформити результат роботи, виділити основні методи та ідеї, а також послатися на відповідні роботи інших вчених, просто не залишається часу. Як і в будь-якій творчій професії, це породжує серйозні питання про авторство та плагіат. Більше того, без участі математиків, які повинні займатися розвитком і включенням нових ідей у математичний канон, ідеї, що виникли за допомогою ІІ, ніколи не отримають повноцінного життя, а найважливіша ланка передачі знань між математиками буде втрачена», — йдеться в листі. Автори TechCrunch зазначають, що доказ OpenAI поки що не пройшов незалежну перевірку.

На цьому фоні інші математики почали проявляти більшу обережність. Вони все частіше ставлять питання, чи могла OpenAI використати відомості про їхню взаємодію з Codex при створенні нових ШІ-моделей. Існують реальні побоювання, що культура відкритих досліджень опиниться під загрозою. Якщо провідна ІІ-лабораторія виявить перспективний шлях до відкриття, вона може витратити десятки мільйонів доларів на роботу мовних моделей, щоб випередити початкових дослідників і першою представити доказ. Така динаміка буде підштовхувати наукове співтовариство до більшої секретності.

Лист математиків став наслідком Лейденської декларації, яку робоча група вчених опублікувала в червні. У цьому документі також розглядалося, як отримані за допомогою великих мовних моделей докази можуть змінити роботу математиків, і наводилися рекомендації для вчених, наукових установ і влади.

Цінність математики полягає не лише в самих доказах і визнанні авторства. Важлива й оточуюча їх інтелектуальна середа, в якій навчаються студенти, з’являються нові питання та ідеї, а результати досліджень стають частиною загальної системи людських знань.

«Проблеми, з якими зараз стикається математичне співтовариство, схожі на проблеми інших наукових і творчих професій. Вони вказують на питання, яке може постати перед усім людством: як зробити так, щоб, поки ІІ змінює способи виконання роботи, ми не втратили первісну мету цієї роботи», — йдеться в листі математиків.

Хочеш дізнатися більше — читай відгуки