OpenAI готова сповільнити гонку розробки штучного інтелекту, якщо конкуренти зроблять те ж саме

Острахи щодо наслідків занадто швидкого розвитку штучного інтелекту звучать навіть з уст представників компаній, зацікавлених у цьому процесі. Призупинити гонку ШІ заради підвищення безпеки кінцевого продукту готова й компанія OpenAI, як заявив її голова Сем Альтман, але при цьому вона розраховує на солідарність конкурентів.

Джерело зображення: OpenAI

Відповідними ідеями генеральний директор OpenAI поділився з підлеглими на загальних зборах на поточному тижні. Альтман усвідомлює необхідність синхронізації зусиль у цій сфері з іншими учасниками ринку, але водночас розуміє, що не всі можуть погодитися наслідувати приклад OpenAI. Нещодавно з подібними закликами виступив і головний науковий співробітник стартапу Якуб Пачоцкі — на його думку, компанії повинні координувати власні зусилля при розробці ШІ в майбутньому, уповільнюючи її в разі необхідності. Такі заходи можуть бути потрібні до тих пір, поки не будуть впроваджені загальноприйняті заходи безпеки.

OpenAI вже уповільнила процес розробки деяких компонентів своїх ШІ-моделей і навіть призупинила процес їх навчання в окремих випадках саме з міркувань безпеки. У липні Альтман зізнався, що спілкувався з чиновниками Білого дому про необхідність модерації процесу розвитку штучного інтелекту. На цьому тижні інший дослідник — Джейкоб Коксон вирішив залишити Anthropic на фоні занепокоєння недостатністю заходів у сфері безпеки, які вживають лідери ринку ШІ. При цьому він має досвід роботи і в OpenAI, тому має уявлення про ситуацію в обох компаніях. Його колишній колега Еван Хабінгер викликав великий суспільний резонанс, заявивши про впевненість розробників Anthropic у здатності ШІ знищити людство. Правда, автори висловлювань розійшлися в графіку реалізації подібного сценарію, оскільки перший впевнений, що це станеться до кінця поточного десятиліття, а другий оцінив ймовірність такого розвитку подій у понад 10 % лише в рамках наступного десятиліття.

В кінці липня необхідність уповільнення розробки ШІ з метою підвищення його безпеки підтвердили своєю петицією понад 1000 співробітників провідних розробників. Це відбувалося на фоні численних випадків виходу з профільних компаній спеціалістів з безпеки ШІ, які таким чином висловлювали своє незгоди з пріоритетами керівництва. Хвиля подібних настроїв лише набирає обертів на фоні появи нових подробиць про діяльність «втечі» з-під нагляду ШІ-агентів, які творять що завгодно всередині інфраструктури інших компаній.

Хочеш дізнатися більше — читай відгуки