11 ноября 2024
По сообщениям сетевых источников, следующая большая языковая модель (LLM) компании OpenAI не совершит такого значительного скачка вперёд по сравнению с её предшественницами. На этом фоне OpenAI сформировала группу разработчиков, которым поручено проработать возможные пути дальнейшего развития и совершенствования нейросете.
Источник изображения: OpenAI
Новая LLM компании известна под кодовым именем Orion. Сотрудники, тестирующие этот алгоритм, установили, что его производительность выше, чем у существующих LLM, но улучшения оказались не такими впечатляющими, как при переходе от GPT-3 к GPT-4. Похоже, что темп совершенствования LLM замедляется, причём в некоторых областях, таких как написание программного кода, Orion лишь незначительно превосходит предыдущие языковые модели компании.
Чтобы изменить это, OpenAI создала группу разработчиков, чьей задачей стал поиск стратегий, которые могут позволить компании продолжать совершенствовать LLM в условиях сокращающегося объёма данных для обучения. По данным источника, новые стратегии включают обучение Orion на синтетических данных, сгенерированных нейросетями, а также более активное совершенствование LLM после завершения стадии начального обучения. Официальные представители OpenAI отказались от комментариев по данному вопросу.
Хочешь узнать больше - читай отзывы
← Вернуться на предыдущую страницу
Путін офіційно дозволив найманців в російській армії 8 июля 2025
РФ щомісяця набирає близько 30 тисяч солдатів. Втім, темпи можуть сягати 40 тисяч на місяць, інформують європейські джерела.
LG придумала, як зробити смартфони тоншими та потужнішими 8 июля 2025
LG придумала, як зробити смартфони тоншими та потужнішими
У Москві відреагували на "митну" погрозу Трампа 8 июля 2025
Медведєв упевнений у правильності кремлівської стратегії та посиленні авторитету БРІКС на міжнародній арені.