Unity представила технологию борьбы с токсичностью Safe Voice

Главных токсиков в голосовых чатах теперь будет проще находить и банить в рамках всего игрового проекта.

Компания объявила о запуске Safe Voice, усовершенствованного решения для обнаружения токсичности от Unity Gaming Services, которое использует передовые акустические и семантические данные для определения девиантного поведения внутри игры. Даже если админ удалил ваш дом.

Safe Voice анализирует уникальные характеристики голоса, такие как тон, громкость, частотность, интонация, эмоции и контекст взаимодействия с игроком, чтобы быстро получать подробные сведения о диалоге или конфликте. Несмотря на то, что технология создана с полной интеграцией Unity Voice Chat (Vivox), она не зависит от игрового движка и может интегрироваться в абсолютно разные проекты. Внутри технологии используется машинное обучение, которое постоянно будет улучшать шаблоны обнаружения токсичности в чатах, позволяя разработчикам и модераторам не только тоньше настраивать меры воздействия при нарушении, но и чувствовать своё сообщество.

Первыми, кто успел опробовать Safe Voice в своём проекте, стали разработчики из студии Hi-Rez. Они внедрили Safe Voice в свой тактический шутер Rogue Company.

«Safe Voice — это революционный инструмент, который помог нам лучше понять наше сообщество, — сказал Тони Джонс, ведущий продюсер Rogue Company. «Этот инструмент дает нам представление о том, что происходит в игре, не только с точки зрения доверия и безопасности, но и с точки зрения общего игрового процесса. Дополнительные данных на панели управления Safe Voice имеют решающее значение для того, чтобы помочь модераторам быстро выявлять пользователей и инциденты с более высоким риском, что позволяет нам смягчать ситуации, прежде чем они получат эскалацию, гораздо более эффективным и действенным способом».

Пока технология находится в стадии закрытого бета-теста, но любой разработчик может подать заявку на доступ, чтобы в качестве пилотного проекта внедрить инструмент в свою игру.