Facebook тренирует ботов искать нарушителей

facebook.com

Facebook утверждает, что его исследователи разрабатывают новые технологии, которые, как они надеются, помогут в постоянных усилиях, направленных на то, чтобы ИИ на этой платформе смогла подавить преследования. В Web-Enabled Simulation (WES) армия ботов, запрограммированных на имитацию плохого человеческого поведения, выпускается в тестовой среде, и инженеры Facebook затем находят лучшие контрмеры.

У WES есть три ключевых аспекта, сказал в своем заявлении исследователь Facebook Марк Харман. Во-первых, он использует машинное обучение для обучения ботов, чтобы имитировать реальное поведение людей в Facebook. Во-вторых, WES может автоматизировать взаимодействие ботов в больших масштабах, от тысяч до миллионов. Наконец, WES разворачивает ботов на базе фактического производственного кода Facebook, что позволяет ботам взаимодействовать друг с другом и с реальным контентом на Facebook, но он отделен от реальных пользователей.

В среде тестирования, известной как WW, боты предпринимают такие действия, как попытка купить и продать запрещенные предметы, такие как оружие и наркотики. Бот может использовать Facebook как обычный человек, проводя поиск и посещая страницы. Инженеры могут затем проверить, может ли бот обойти меры предосторожности и нарушить стандарты сообщества. План состоит в том, чтобы инженеры могли найти шаблоны в результатах этих тестов и использовать эти данные для тестирования способов, которые затруднят пользователям нарушение стандартов сообщества.

Facebook давно заявляет, что разрабатывает методы для предотвращения преследования, преступной деятельности, дезинформации и других видов правонарушений на платформе. На конференции Facebook F8 в 2018 году главный технолог Майк Шропфер сказал, что компания вкладывает большие средства в исследования в области искусственного интеллекта и находит способы заставить его работать в больших масштабах практически без человеческого контроля. 

Напомним, ранее сообщалось, что Facebook будет платить пользователям за образцы их голоса.

techno.bigmir.net

Хочешь узнать больше - читай отзывы