26 июня 2022
Компания Meta рассказала о работе над технологиями реалистичного звука для виртуальных миров — проект реализуется при содействии учёных Техасского университета в Остине. В рамках проекта были разработаны три модели искусственного интеллекта, доступные для сторонних разработчиков.
Источник изображения: Rodger Shija / pixabay.com
Как пояснила Кристен Гаруман (Kristen Garuman), профессор информатики Техасского университета и директор по исследованиям Meta AI, дополненную и виртуальную реальность нельзя сводить только к визуальной составляющей — важную роль в оживлении мира играет звук. На его качество влияют различные факторы: геометрия помещения, размещённые в нём объекты, а также расстояние до источника. Поэтому родилась идея использовать для обработки звука алгоритмы искусственного интеллекта.
Первый алгоритм получил название AviTAR — это «модель визуально-акустического согласования», которая обеспечивает преобразование звука в соответствии со средой. Чтобы объяснить работу алгоритма, авторы проекта привели пример. Мать посетила выступление своего ребёнка и при помощи очков дополненной реальности записала его прямо из зрительного зала. Алгоритм приводится в действие, когда женщина хочет воспроизвести запись дома. Система сканирует помещение, учитывая расположенные в нём предметы интерьера, и воспроизводит запись таким образом, как будто юный артист выступает в том же зале.
Второй алгоритм получил название Visually-Informed Dereverberation. Он предназначается для удаления из записи эффекта реверберации — множественных эхо, возникающих при отражении звука от стен и других объектов. Возвращаясь к примеру с детским концертом, мать при воспроизведении записи дома не услышит ничего, кроме музыки.
Наконец, третья модель ИИ получила название VisualVoice — она отделяет голос человека от остальных источников звука. Например, если записать видео, на котором спорят два человека, алгоритм выделит один из голосов, заглушив все остальные. Как пояснили в Meta, для этого искусственному интеллекту необходимы визуальные подсказки — он должен «видеть», кто говорит, и на основе этой информации различать в общем потоке необходимые нюансы.
Хочешь узнать больше - читай отзывы
← Вернуться на предыдущую страницу
Набори повітряних кульок в Україні: вибір, комплектація та монтаж 27 октября 2025
У сегменті «все для свята» в Україні зручність і швидкість підготовки часто вирішує успіх події. Готові комплектації охоплюють базові латексні кулі, фольговані акценти, прозорі елементи для персоналізації та необхідні аксесуари
Как выбирать ювелирный подарок? 27 октября 2025
При выборе украшения целесообразно придерживаться некоторых правил, особенно если вы не уверены в том, что точно знаете, чего хочет тот или та, которым вы хотите сделать подарок
Порівняння бюджетних та преміум відеокамер спостереження 27 октября 2025
Камери відеонагляду встановлюють у квартирах, офісах, магазинах, кафе, школах, та навіть у дворах приватних будинків. Одним з найчастіших факторів, що впливають на вибір залишається ціна. Яку модель обрати – дешевшу чи преміум?