11 ноября 2024
По сообщениям сетевых источников, следующая большая языковая модель (LLM) компании OpenAI не совершит такого значительного скачка вперёд по сравнению с её предшественницами. На этом фоне OpenAI сформировала группу разработчиков, которым поручено проработать возможные пути дальнейшего развития и совершенствования нейросете.
Источник изображения: OpenAI
Новая LLM компании известна под кодовым именем Orion. Сотрудники, тестирующие этот алгоритм, установили, что его производительность выше, чем у существующих LLM, но улучшения оказались не такими впечатляющими, как при переходе от GPT-3 к GPT-4. Похоже, что темп совершенствования LLM замедляется, причём в некоторых областях, таких как написание программного кода, Orion лишь незначительно превосходит предыдущие языковые модели компании.
Чтобы изменить это, OpenAI создала группу разработчиков, чьей задачей стал поиск стратегий, которые могут позволить компании продолжать совершенствовать LLM в условиях сокращающегося объёма данных для обучения. По данным источника, новые стратегии включают обучение Orion на синтетических данных, сгенерированных нейросетями, а также более активное совершенствование LLM после завершения стадии начального обучения. Официальные представители OpenAI отказались от комментариев по данному вопросу.
Хочешь узнать больше - читай отзывы
← Вернуться на предыдущую страницу
Хусити атакували грецьке судно поблизу Ємену, є поранені 8 июля 2025
Під час удару використовувалися вогнепальна зброя та реактивні гранати, а також ракети та чотири безпілотні надводні судна.
Енн Хетевей ефектно попозувала в музеї для глянцю. Фото 8 июля 2025
Американська актриса Енн Хетевей стала головною героїнею нового випуску журналу Vogue.
У Греції через 40-градусну спеку впроваджують обов’язкові перерви в роботі 8 июля 2025
Видано наказ призупинити роботу з полудня до 17:00 для фізичної праці просто неба та доставки їжі переважно в центральній Греції та на кількох островах.