Как команда League of Legends борется с расизмом и делает интернет лучше

Издание The Verge опубликовало материал о том, как создатели League of Legends борются с нецензурной лексикой, и как опыт Riot Games может в целом изменить интернет к лучшему.

Любой, кто когда-либо играл в онлайн-игру с незнакомыми людьми, знает, насколько «ядовитыми» они могут быть. Кажется, людям нравится оскорблять других больше, чем играть в саму игру. Расистские, сексистские и гомофобные высказывания — норма во внутриигровых чатах.

Однако, как утверждает ведущий дизайнер социальных систем Riot Games Джеффри Лин, подобная слабость к оскорблениям наблюдается лишь у небольшого процента игроков. По его словам, более 90% таких высказываний делают игроки, которые приходят в League of Legends, чтобы поиграть, а не поругаться, и обычно ведут себя дружелюбно, поэтому одной из своих основных задач Лин считает искоренение подобной практики.

Как сделать так, чтобы человек, у которого был плохой день, не разбушевался посередине игры и не послал всех к черту? Это большая проблема для нас.

Свою карьеру Джеффри Лин начал в качестве аспиранта в Вашингтонском университете. Лин разрабатывал систему модерации для онлайн-форумов и сообществ, которая была основана на принципах машинного обучения и нейробиологии, и должна была отслеживать и предотвращать появление неподобающих комментариев.

По мнению Лина, онлайн-игры, такие, как League of Legends — это идеальные системы для изучения моделей поведения игроков и того, что ими движет. Дизайнер считает, что собрать такое количество информации, чтобы научиться определять поведение того или иного пользователя, и предотвращать появление оскорблений вполне реально. Конечно, когда команда в 2012 году только начинала работу в этом направлении, объем данных казался неподъемным, но некоторые успехи есть уже сейчас.

На самом деле, подавляющее число игроков настроено позитивно по отношению к другим пользователям.

Первой идеей, которая пришла в голову разработчикам League of Legends, стало забанить наиболее "ядовитых" игроков, которые приходят в игру только чтобы поругаться с другими. Однако после проведения компанией ряда внутренних исследований выяснилось, что это не поможет.

66008_qQF9.jpg

По словам Лина, открывают игру для того, чтобы сыпать оскорблениями во все стороны, лишь не более 1% игроков. Если запретить им доступ в игру, из чатов, по подсчетам команды, исчезнет не более 5% неприемлемых высказываний. Проблема, как отмечает Джеффри Лин, чаще всего заключается в том, что у игрока был плохой день: в школе или на работе, и в конкретной игре он начинает оскорблять всех подряд. В остальные же дни он настроен крайне позитивно. Банить таких пользователей не за что.

Команда League of Legends нашла решение — разработчики ввели специальную систему "Очков доблести". После каждой игры пользователь может выбрать из всех принимавших в ней участие одного или нескольких игроков, и "одобрить" его. Всего существует четыре параметра, по которым можно оценить того или иного игрока: его дружелюбие, качество командной игры, способен ли он к взаимопомощи и можно ли его назвать достойным оппонентом.

Когда игрок набирает необходимое количество очков, ему выдаются "Ленточка доблести". Ленточки также бывают разных цветов — в зависимости от того, по какому из перечисленных параметров она выдается. Никаких призов за получение ленточек, правда, не полагается, но система успешно стимулирует игроков воздерживаться от оскорбительных высказываний и зарабатывать "Очки доблести". Иногда особенно отличившиеся пользователи получают призы в виде бесплатных скинов к персонажам. 

Репутация много значит.

Кроме того, игроки могут отправлять отчеты о других, если им не понравилась, как себя вел тот или иной пользователь. Riot Games также использует систему, которая определяет и фильтрует нецензурные или оскорбительные комментарии на нескольких языках — она умеет отличать в том числе и жаргонные оскорбления.

66010_iuue.jpg

Однако, как отмечает Джеффри Лин, обнаружение игрока, который ведет себя неприемлемо — это не главное. Гораздо важнее показать ему, что Riot Games не приветствует такое поведение, и предотвратить проявления агрессии в дальнейшем. "Для этого нам нужно быть открытыми и честными со всеми игроками", - подытоживает Джеффри Лин.

Пользователи получают отчеты и предупреждения о том, сколько раз на них пожаловались. С теми, кто продолжает оскорблять других, лично связываются модераторы League of Legends.

Исследования, проводимые внутри компании, показывают, что 50% из тех, с кем побеседовали члены команды Riot Games, меняют линию поведения. Этот показатель увеличивается до 70%, если модератор в качестве доказательства своей правоты приводит скриншоты сообщений в чатах. Остальные 30% отказываются от оскорблений в среднем после третьего наказания.

Кроме того, разработчики Riot Games представили систему "Трибунала". В "Трибунал" выбираются случайные члены сообщества League of Legends. Вместе они решают, стоит ли подвергать наказанию и банить игрока, которые постоянно получает предупреждения, основываясь на данных о его активности, причем не только отрицательных показателях, но и положительных.

Джеффри Лин считает, что подобные системы можно разработать и для других онлайн-игр, интернет сообществ и мест, где модераторы часто сталкиваются с оскорбительными, или нецензурными высказываниями или комментариями. Только выйдя за пределы League of Legends, можно искоренить неприемлемое поведение в самой игре, а заодно и в остальных сегментах интернета.

66011_42LD.jpg

Riot Games проводит множество встреч с другими разработчиками, игровыми студиями и даже руководителями школ, делясь своим опытом в борьбе с оскорблениями в сети. Лин верит, что уже через пять лет в любой многопользовательской игре будет действовать схожая с League of Legends система, и расовые оскорбления в онлайн-играх станут скорее исключением, чем правилом.