Авторы Overwatch заявили, что экспериментируют с машинным обучением для борьбы с токсичностью

Blizzard продолжает вводить меры для защиты игры от неподобающего поведения пользователей.

Геймдиректор Overwatch Джефф Каплан рассказал, что его команда в последнее время тестирует возможности машинного обучения, которое потенциально может помочь избавиться от токсичных сообщений.

По словам Каплана, разработчики пытаются «научить» собственную игру отличать неподобающее поведение пользователей от обычного, чтобы другим участникам матчей не нужно было даже отправлять жалобу и ждать дальнейшей реакции сотрудников студии.

Руководитель разработки также сообщил, что команда уже пытается обучить ИИ читать сообщения не только на английском, но и на других языках, например, корейском. Разработчики при этом надеются, что в долгосрочной перспективе искусственный интеллект сможет сам понимать, что такое токсичность в Overwatch.

Каплан заявил, что это уже следующий шаг и отметил, что когда игрок за Мэй ставит ледяную стену на точке возрождения, то это тоже считается «идиотским» поведением.

На текущей стадии развития у машинного обучения есть и минусы. Например, ИИ плохо понимает контекст сообщений, поэтому некоторые фразы, с помощью которых игроки «троллят» друг друга (в том числе и без злого умысла, например, друзья) могут стать проблемой.

Пока, по словам Каплана, разработчики настроили систему на поиск самых грубых примеров токсичного общения, которые точно заслуживают наказания. Кроме того, геймдиректор отметил, что проверка не распространяется на личные сообщения и может быть настроена на блокировку лишь при повторных нарушениях.

Также руководитель разработки рассказал, что команда думает и над другой стороной вопроса, например, как сделать позитивную версию жалобы, с помощью которой можно хвалить других. Потенциально это поможет изменить мышление игроков, чтобы те старались вести себя лучше.

Ранее Blizzard уже сообщала об успешной борьбе с токсичными игроками без использования машинного обучения . В январе Каплан заявил, что благодаря изменениям системы жалоб и наказаний, количество неподобающих сообщений в игре уменьшилось на 17%, а пользователи стали на 20% чаще отправлять «репорты».

Однако существующая система не идеальна — на рассмотрение жалоб уходит много времени, к тому же некоторые игроки просто не доверяют ей или, наоборот, ею злоупотребляют.

#overwatch #blizzard #игры #технологии