Для борьбы с токсичностью Blizzard будут использовать ИИ

Несмотря на определенные успехи в борьбе с токсичностью в Overwatch, Blizzard пока не удается искоренить ее полностью. По словам Джефа Каплана, следующим шагом в этой бесконечной битве должны стать попытки научить ИИ определять и наказывать игроков за недостойное поведение. Кроме этого, Джеф заявил, что разработчики раздумывают над введением некоего поощрения за позитивные действия.

Экспериментируя с машинным обучением, мы пытаемся "научить" наши игры тому, что такое токсичное поведение, и это оказалось достаточно интересной задачей. Идея в том, что нам не нужно ждать отправки репорта, чтобы определить токсичных игрока. Наша цель в том, чтобы наказание происходило как можно быстрее.

Последние попытки разработчиков усилить борьбу с токсичностью принесли определенные результаты: количество репортов увеличилось, а количество нарушителей уменьшилось. Можно сказать, что текущая система работает. Однако проблемой остается то, что система репортов действует достаточно медлительно и не всегда надежно. Так что следующим шагом для Blizzard стало наказание за токсичность еще до появления репортов.

Сейчас новая система может определять токсичные сообщения в чате на английском и наказывает пока лишь самых отъявленных нарушителей. В будущем возможно появление поддержки других языков, а также определение геймплейного БМ'a. К тому же сейчас разработчики раздумывают над введением системы поощрения за "хорошее поведение".

У нас возник вопрос: "если мы наказываем плохих людей, то как мы можем заставить игроков быть лучше в рамках нашей игры?" Из-за этого сейчас мы начали раздумывать над тем, как могут выглядеть "позитивные репорты".