11 ноября 2024
По сообщениям сетевых источников, следующая большая языковая модель (LLM) компании OpenAI не совершит такого значительного скачка вперёд по сравнению с её предшественницами. На этом фоне OpenAI сформировала группу разработчиков, которым поручено проработать возможные пути дальнейшего развития и совершенствования нейросете.
Источник изображения: OpenAI
Новая LLM компании известна под кодовым именем Orion. Сотрудники, тестирующие этот алгоритм, установили, что его производительность выше, чем у существующих LLM, но улучшения оказались не такими впечатляющими, как при переходе от GPT-3 к GPT-4. Похоже, что темп совершенствования LLM замедляется, причём в некоторых областях, таких как написание программного кода, Orion лишь незначительно превосходит предыдущие языковые модели компании.
Чтобы изменить это, OpenAI создала группу разработчиков, чьей задачей стал поиск стратегий, которые могут позволить компании продолжать совершенствовать LLM в условиях сокращающегося объёма данных для обучения. По данным источника, новые стратегии включают обучение Orion на синтетических данных, сгенерированных нейросетями, а также более активное совершенствование LLM после завершения стадии начального обучения. Официальные представители OpenAI отказались от комментариев по данному вопросу.
Хочешь узнать больше - читай отзывы
← Вернуться на предыдущую страницу
People назвав найсексуальнішого чоловіка у світі: хто такий Джон Кразінські, який підкорив серце Емілі Блант 14 ноября 2024
People назвав найсексуальнішого чоловіка у світі: хто такий Джон Кразінські, який підкорив серце Емілі Блант. Фото Його найбільше знають за культовим серіалом "Офіс"
Миколу Тищенка зловили на порушенні домашнього арешту ареста 14 ноября 2024
Тищенка зловили на порушенні домашнього арешту
Погрожували насильством над матір’ю та вимагали неіснуючий борг: на Київщині затримали двох "правоохоронців" 14 ноября 2024
Погрожували насильством над матір’ю та вимагали неіснуючий борг: на Київщині затримали двох "правоохоронців". Фото Підозрюваним загрожує до 12 років позбавлення волі