Альтман запропонував три способи врятувати світ від небезпечного ШІ — один з них позбавить конкурентів відеокарт

Сем Альтман запропонував три варіанти забезпечення безпеки ШІ в світових масштабах. Потрібно або брати приклад з МАГАТЕ у сфері атомної енергетики, або консолідувати контроль за розробками за прикладом CERN, або користуватися принципом «хто перший встала, того й GPU».

Джерело зображення: X, Sam Altman

З виходу чат-бота ChatGPT компанії OpenAI восени 2022 року прийнято відраховувати історію буму ШІ, тому один з її засновників і генеральний директор Сем Альтман постійно бере на себе сміливість пропонувати глобальні ініціативи, здатні тим чи іншим чином вплинути на траєкторію розвитку всієї галузі. У своєму недавньому зверненні до співробітників стартапу Альтман запропонував три варіанти забезпечення безпеки ШІ, причому всі вони в тій чи іншій мірі здаються дивними.

За даними The Information, Альтман свої ідеї в цій сфері виклав персоналу OpenAI ще на минулому тижні. За його словами, стартап повинен до кінця наступного року визначитися, яку з запропонованих главою компанії стратегій у сфері забезпечення безпеки ШІ потрібно прийняти на озброєння.

Перший з сценаріїв передбачає створення якоїсь міжнародної контролюючої організації на зразок МАГАТЕ. У рамках подібної структури уряди країн і ШІ-компанії зможуть спільно встановлювати стандарти в сфері безпеки, а високопродуктивні ШІ-моделі будуть підлягати незалежній перевірці та аудиту перед випуском. За даними джерела, сам Альтман до цієї ідеї схилявся більше, ніж до двох інших. Ще в 2023 році він разом з двома колегами виступив співавтором статті, яка пропонувала створити подібний наглядовий орган у сфері ШІ.

Другий сценарій частково запозичує ідею, висловлену близько десяти років тому співзасновником Google DeepMind Демісом Хассабісом, а тому в описі Альтмана отримав позначення «план Деміса». Ведучі розробники ШІ, за цим задумом, повинні заснувати дослідницьку організацію, спільно керовану різними країнами — як у випадку з Європейською організацією з ядерних досліджень (CERN). Під крилом такої організації розробники ШІ могли б ділитися результатами своїх досліджень і оцінками нових моделей з точки зору безпеки, а не витрачати сили на конкуренцію один з одним. Проте така структура вимагала б активного залучення урядів різних країн, а тому виявилася б важкоздійсненною на практиці.

Третій, найбільш спірний сценарій, передбачає використання технологічної та економічної переваги компанії, яка першою досягне «сильного ШІ», для блокування розробок її конкурентів. За задумом, перша компанія, що досягне рекурсивного самовдосконалення ШІ, повинна буде позбавити доступу до GPU своїх конкурентів. Альтман назвав цей план жахливим і підкреслив, що навів його лише для повноти варіантів обговорення. Деякі з співробітників OpenAI припустили, що такий план спрямований проти конкурентної Anthropic.

Як відомо, остання нещодавно направила владі США власний законопроект, який передбачає проходження передовими розробниками ШІ не менше двох процедур незалежного аудиту щорічно. Крім того, у влади США з’являється право призупинити навчання ШІ-моделі, якщо з’являються підстави вважати, що в своєму поточному вигляді вона здатна завдати шкоди в розмірі понад $1 млрд або призвести до смерті чи серйозних травм 50 і більше людей.

Альтман у своєму зверненні до персоналу OpenAI визнав, що не існує достатньої кількості практичних способів «обмежити швидкість» розробки ШІ. Важко знайти баланс між забезпеченням безпеки розробки та необхідністю не відставати в гострій технологічній конкуренції.

OpenAI бере участь у переговорах з Anthropic і Google щодо створення єдиного наглядового органу з контролю за дотриманням стандартів при розробці передових ШІ-моделей. Відповідні процедури планується реалізувати до кінця поточного року або на початку наступного, розмістивши незалежних перевіряючих всередині кожної з вказаних компаній. Необхідно буде встановити й єдиний стандарт надання звітів про інциденти в сфері безпеки ШІ. Суперечності між учасниками переговорів поки зводяться до того, чи буде новий орган безпосередньо займатися аудитом, чи делегуватиме ці повноваження стороннім організаціям.

Хочеш дізнатися більше — читай відгуки