Блог

Jun 21, 2023

Activision сотрудничает с Modulate для борьбы в

ОБНОВЛЕНО 12:40 ПО ВОСТОЧНОМУ ВРЕМЕНИ / 31 АВГУСТА 2023 ГОДА, автор: Кит Дотсон Activision Blizzard Inc. играет более активную роль в борьбе с токсичностью голосового чата в своих играх в партнерстве с Modulate, разработчиком

ОБНОВЛЕНО 12:40 ПО ВОСТОЧНОМУ ВРЕМЕНИ / 31 АВГУСТА 2023 ГОДА

Кит Дотсон

Activision Blizzard Inc. играет более активную роль в борьбе с токсичностью голосового чата в своих играх благодаря партнерству с Modulate, разработчиком голосовой технологии машинного обучения, которая может оценивать безопасность онлайн-чатов.

Новая технология, о которой было объявлено в среду, будет развернута по всей Северной Америке в шутерах от первого лица Activision «Call of Duty: Modern Warfare II» и «Call of Duty: Warzone». «Call of Duty» — одна из самых популярных игр Activision, а «Modern Warfare II» стала самым продаваемым релизом компании за первые выходные. Всего за три дня во время запуска в ноябре 2022 года он принес более 800 миллионов долларов дохода, достигнув пикового количества одновременных игроков в 169 000 игроков только на платформе Steam корпорации Valve.

Платформы онлайн-игр часто сталкиваются с тем, что можно назвать «токсичным поведением» в онлайн-игровом чате как в текстовом, так и в голосовом виде, когда игроки оскорбляют друг друга. Это может произойти в результате киберзапугивания, разжигания ненависти, дискриминационных высказываний и притеснений. Особенно это может возникнуть на фоне высокой интенсивности и адреналина соревнований.

Новая система модерации голосового чата будет использовать ToxMod, систему от Modulate, основанную на искусственном интеллекте, которая может выявлять токсичное поведение в режиме реального времени и помогать применять его. Эта технология поможет команде Activision по борьбе с токсичностью, которая уже отслеживает как текстовый, так и голосовой чат, фильтруя внутриигровой чат по 14 различным языкам.

По данным Modulate, ToxMod применяет передовое машинное обучение для обнаружения голосовых чатов, анализируя нюансы разговора, чтобы определить разницу между «черт возьми!» и «черт возьми!» а также эмоции пользователя, глядя на контекст разговора и реакции других игроков.

Помимо помощи в обнаружении токсичных высказываний и издевательств, компания также недавно добавила «категории риска», которые позволяют алгоритму машинного обучения с течением времени обнаруживать тенденции поведения, которые предполагают значительный риск насильственной радикализации или ухода за детьми.

Новые категории риска требуют более масштабных временных масштабов, чем модерация в реальном времени, которая использует простые высказывания и пытается использовать шаблоны намерений для обозначения поведения. Таким образом, модераторы получают целостное представление о поведении игроков на временной шкале, чтобы увидеть, есть ли что-то, с чем им, возможно, придется столкнуться в своем сообществе.

«В играх нет места деструктивному поведению или притеснениям», — сказал Майкл Вэнс, технический директор Activision. «Борьба с разрушительным голосовым чатом уже давно является чрезвычайно сложной задачей в играх. Это важный шаг вперед к созданию и поддержанию веселой, честной и гостеприимной игры для всех игроков».

Разработчики игр, такие как Riot Games Inc., издатель высококонкурентной киберспортивной игры League of Legends и другие, уже давно сталкиваются с токсичностью в своих играх и изо всех сил пытаются обуздать такое поведение в чате. Чтобы помочь в борьбе с подобным поведением, Riot и Ubisoft Entertainment SA, французский издатель видеоигр с большим количеством игр, объединились для создания базы данных для модерации с помощью искусственного интеллекта, которая поможет справиться с токсичными выражениями и поведением.

«Это большой шаг вперед в поддержке сообщества игроков такого размера и масштаба, как «Call of Duty», и он еще больше укрепляет постоянную приверженность Activision лидерству в этих усилиях», — сказал генеральный директор Modulate Майк Паппас.

Activision похвасталась, что с момента запуска Modern Warfare II существующая команда модераторов Call of Duty запретила голосовой или текстовый чат для более чем 1 миллиона учетных записей, использующих их текущую технологию. По данным собственного исследования компании, когда фильтрация сочетается с отчетами, 20% токсичных игроков не совершают повторных правонарушений после получения первого предупреждения. Те, кто это делает, подвергаются дальнейшим наказаниям, таким как ограничение доступа к текстовому и голосовому чату или временная потеря привилегий учетной записи.