Microsoft закликала інженерів не зловживати використанням ШІ, бо це дорого

Робота з штучним інтелектом стрімко дорожчає, тому Microsoft вирішила обмежити власних інженерів у використанні ШІ. Компанія відкрила для внутрішнього використання одну з доступних моделей OpenAI GPT-5.6, щоб «отримати віддачу від наших інвестицій у токени», але незабаром для співробітників буде встановлено «цільовий бюджет ШІ-токенів», який вони зможуть відстежувати індивідуально.

Джерело зображення: BoliviaInteligente / unsplash.com

Споживання токенів пропорційне обсягам запитів до ШІ та відповідей моделей. Раніше працівників технологічних компаній заохочували активно користуватися ШІ, але перехід до оплати за обсягами споживання призвів до різкого зростання рахунків за це.

«Хочу, щоб усі ми зосередилися на максимізації результатів, які принесуть нашим клієнтам і бізнесу користь. Тому ми оновимо наші внутрішні рекомендації та введемо управління витратами токенів з тією ж дисципліною, яку застосовуємо до всіх інших критично важливих ресурсів», — заявив виконавчий віце-президент Microsoft Джей Паріх (Jay Parikh) у внутрішньому електронному листі. У документі міститься посилання на внутрішні рекомендації щодо роботи з Copilot, відповідно до яких у Microsoft з'явиться «цільовий бюджет токенів ІІ», але подробиці не наводяться.

Наприкінці травня Microsoft перевела сервіс GitHub Copilot на оплату за токени, і деякі користувачі швидко вичерпали свої ліміти. Компанія також намагається скоротити витрати на ШІ, підключаючи додатки Microsoft 365 до власних моделей MAI замість дорожчих у використанні Anthropic і OpenAI. Контроль за витратами своїх співробітників на ІІ-токени посилили Amazon, Adobe, Atlassian і Citi.

Хочеш дізнатися більше — читай відгуки