11 ноября 2024
По сообщениям сетевых источников, следующая большая языковая модель (LLM) компании OpenAI не совершит такого значительного скачка вперёд по сравнению с её предшественницами. На этом фоне OpenAI сформировала группу разработчиков, которым поручено проработать возможные пути дальнейшего развития и совершенствования нейросете.
Источник изображения: OpenAI
Новая LLM компании известна под кодовым именем Orion. Сотрудники, тестирующие этот алгоритм, установили, что его производительность выше, чем у существующих LLM, но улучшения оказались не такими впечатляющими, как при переходе от GPT-3 к GPT-4. Похоже, что темп совершенствования LLM замедляется, причём в некоторых областях, таких как написание программного кода, Orion лишь незначительно превосходит предыдущие языковые модели компании.
Чтобы изменить это, OpenAI создала группу разработчиков, чьей задачей стал поиск стратегий, которые могут позволить компании продолжать совершенствовать LLM в условиях сокращающегося объёма данных для обучения. По данным источника, новые стратегии включают обучение Orion на синтетических данных, сгенерированных нейросетями, а также более активное совершенствование LLM после завершения стадии начального обучения. Официальные представители OpenAI отказались от комментариев по данному вопросу.
Хочешь узнать больше - читай отзывы
← Вернуться на предыдущую страницу
Мама Галини Гатчінс відмовилася приїхати на прем'єру фільму "Іржа" через Алека Болдвіна 21 ноября 2024
Мама Галини Гатчінс відмовилася приїхати на прем'єру фільму "Іржа" через Алека Болдвіна: що відомо Жінка вимагає вибачень
Симптоми невиліковного раку жінки лікарі сплутали з менопаузою 21 ноября 2024
Вона назвала свої симптоми.
За $58 тис. обіцяли ухилянтам "роботу" в друкарні та відрядження за кордон: у Києві затримали двох зловмисників 21 ноября 2024
За $58 тис. обіцяли ухилянтам "роботу" в друкарні та відрядження за кордон: у Києві затримали двох зловмисників. Фото Підозрюваним загрожує до дев'яти років позбавлення волі