Microsoft встановила обмеження для майбутніх ШІ-моделей, поки галузь готується до уповільнення

Microsoft опублікувала попередню версію кодексу, що встановлює ряд обмежень для майбутніх ШІ-моделей компанії. Це сталося через кілька днів після того, як OpenAI та Anthropic визнали необхідність уповільнити розробку передових алгоритмів. Софтверний гігант прагне, щоб його сприймали як відповідального гравця у сфері ШІ, де Microsoft є одним з великих постачальників хмарних послуг.

«Ми отримали відгуки від людей, які хотіли бачити ще більш явне зобов'язання того, що ШІ завжди працює на благо людей і не намагається їх замінити. Ми побачили багато відгуків про те, що ШІ не повинен створювати залежність, не повинен лестити, що він завжди повинен сприяти судженням людини, автономії людини і свободі волі», — заявив голова ШІ-підрозділу Microsoft Мустафа Сулейман (Mustafa Suleyman). Він також додав, що Microsoft вирішила опублікувати попередню версію кодексу саме зараз через загострення дискусії щодо безпеки ШІ, але насправді ці рекомендації готувалися близько п'яти місяців.

Галузеві фахівці та представники громадськості стали більш відкрито висловлювати побоювання в міру того, як ШІ-алгоритми стають все більш просунутими. Так, на минулому тижні дослідник з Anthropic Джейкоб Коксон (Jacob Coxon) подав у відставку, заявивши, що його компанія разом з OpenAI «мчиться прямо до самовдосконалювального надрозуму і грає з нашими життями».

Лідери галузі відреагували на це. На вихідних гендиректор Anthropic Дарио Амодеи (Dario Amodei) заявив, що нещодавній інцидент з хакерською атакою на платформу Hugging Face, здійсненою вийшовшими з-під контролю ШІ-агентами OpenAI, частково переконав його в необхідності уповільнення темпів вдосконалення нейромереж. Гендиректор OpenAI Сэм Альтман (Sam Altman) висловив підтримку в цьому питанні, а гендиректор SpaceX Ілон Маск (Elon Musk) написав у соцмережі X «Дарио прав». Пізніше гендиректор Microsoft Сатья Наделла (Satya Nadella) заявив, що його компанія підтримує зосередженість і продуманий темп досліджень. Американські законодавці також закликали до створення більш серйозних гарантій безпеки у сфері ШІ.

Джерело зображення: BoliviaInteligente/unsplash.com

Згідно з опублікованим Microsoft кодексом, ШІ-моделі не повинні відповідати на запитання, пов'язані з виробництвом зброї, допомагати в придбанні небезпечних речовин, заохочувати нездорове харчування, а також генерувати контент насильницького або відверто сексуального характеру. ШІ-моделі Microsoft повинні слідувати цілям людей і уникати створення власних цілей. Вони також не повинні намагатися приховувати власне неподобаюче поводження.

«Моделі Microsoft не будуть втручатися в ланцюги міркувань або код, а також спотворювати або приховувати свої міркування чи сліди дій. Вони не спілкуються на мові нейромереж або за допомогою якихось інших форм, що виходять за межі простого людського розуміння, ні в ланцюзі своїх міркувань, ні з іншими агентами або ШІ-системами», — йдеться в документі Microsoft.

На додаток до цього софтверний гігант планує розробити правила, які могли б запобігти кібератакам, подібним до тієї, що здійснили ШІ-агенти OpenAI щодо платформи Hugging Face. При складанні кодексу поведінки Microsoft збирала фокус-групи, консультувалася з експертами в галузі права, етики, лінгвістики та філософії. Публікуючи попередню версію документа, Microsoft прагне отримати зворотний зв'язок перед затвердженням остаточної версії кодексу, який регламентуватиме розробку ШІ-систем починаючи з 2027 року.

Хочеш дізнатися більше — читай відгуки