26 июня 2022
Компания Meta рассказала о работе над технологиями реалистичного звука для виртуальных миров — проект реализуется при содействии учёных Техасского университета в Остине. В рамках проекта были разработаны три модели искусственного интеллекта, доступные для сторонних разработчиков.
Источник изображения: Rodger Shija / pixabay.com
Как пояснила Кристен Гаруман (Kristen Garuman), профессор информатики Техасского университета и директор по исследованиям Meta AI, дополненную и виртуальную реальность нельзя сводить только к визуальной составляющей — важную роль в оживлении мира играет звук. На его качество влияют различные факторы: геометрия помещения, размещённые в нём объекты, а также расстояние до источника. Поэтому родилась идея использовать для обработки звука алгоритмы искусственного интеллекта.
Первый алгоритм получил название AviTAR — это «модель визуально-акустического согласования», которая обеспечивает преобразование звука в соответствии со средой. Чтобы объяснить работу алгоритма, авторы проекта привели пример. Мать посетила выступление своего ребёнка и при помощи очков дополненной реальности записала его прямо из зрительного зала. Алгоритм приводится в действие, когда женщина хочет воспроизвести запись дома. Система сканирует помещение, учитывая расположенные в нём предметы интерьера, и воспроизводит запись таким образом, как будто юный артист выступает в том же зале.
Второй алгоритм получил название Visually-Informed Dereverberation. Он предназначается для удаления из записи эффекта реверберации — множественных эхо, возникающих при отражении звука от стен и других объектов. Возвращаясь к примеру с детским концертом, мать при воспроизведении записи дома не услышит ничего, кроме музыки.
Наконец, третья модель ИИ получила название VisualVoice — она отделяет голос человека от остальных источников звука. Например, если записать видео, на котором спорят два человека, алгоритм выделит один из голосов, заглушив все остальные. Как пояснили в Meta, для этого искусственному интеллекту необходимы визуальные подсказки — он должен «видеть», кто говорит, и на основе этой информации различать в общем потоке необходимые нюансы.
Хочешь узнать больше - читай отзывы
← Вернуться на предыдущую страницу
Борис Джонсон -Трампу: Треба термінові санкції для поплічників Путіна 16 июля 2025
На думку Джонсона, дуже добре, що вторинні санкції можуть бути запроваджені, але чекати ще 50 днів - надто довго.
Поки Tesla намагається налагодити випуск роботів Optimus, китайські конкуренти захопили увагу всього світу 16 июля 2025
Поки Tesla намагається налагодити випуск роботів Optimus, китайські конкуренти захопили увагу всього світу
Таємні стосунки і відкладене весілля: лавсторі Джейсона Стейтема і його нареченої Розі 16 июля 2025
57-річна зірка боєвиків Джейсон Стейтем і 38-річна модель Розі Хантінгтон-Вайтлі разом вже понад 15 років і є одним з прикладів міцного союзу. Пара старанно тримає подробиці своїх стосунків у таємниці і демонструє лише яскраву сторону свого буття. Але з чого починалася їхня історія та чому вони й досі не зіграли весілля?