ИИ-модератор забанил в CS:GO 20 тысяч игроков за полтора месяца
Система блокирует пользователей и выдаёт им предупреждения, анализируя текстовый чат.
В конце октября киберспортивная компания FACEIT представила искусственный интеллект под названием Minerva, созданный для борьбы с токсичностью и спамом.
ИИ-модератора разработали совместно с Google Cloud и Jigsaw. Его несколько месяцев тренировали при помощи машинного обучения, и запустили в тестовом режиме в конце августа 2019-го, уже не проверяя большую часть решений, которые выносит система.
Minerva фиксирует нарушения через несколько секунд после окончания матча. Если в сообщениях замечены оскорбления или спам, игрока блокируют или выдают ему соответствующее предупреждение. За повторные нарушения наказания постепенно становятся всё жёстче.
По данным FACEIT, система проанализировала 200 миллионов сообщений за несколько месяцев — из них в 7 миллионах зафиксировали неподобающее поведение и оскорбления.
За первые шесть недель работы ИИ выдал 90 тысяч предупреждений и заблокировал 20 тысяч пользователей. При этом общая частота нарушений упала больше чем на 20% — с 2,3 миллиона в августе до 1,8 миллиона в сентябре.
Число игроков, нарушивших правила поведения хотя бы раз, тоже удалось понизить. Оно упало на 8% — с 247 тысяч в августе до 227 тысяч в сентябре.
По словам сотрудников FACEIT, они собираются развивать Minerva и улучшать алгоритмы по обнаружению токсичности. Компания хочет, чтобы система могла распознавать спам и оскорбления в реальном времени.
Так вам! Мешки с мясом.
Следующая ступень: не написал GLHF в начале матча - получил бан. Колличество доброжелательных игроков возрастёт на 100500%!
просто эти дураки до сих пор не знают что wp в конце матча это white power, многих ли вы черных кибер спортсменов видели? вот тото и оно
Комментарий недоступен
Если кто-то в моей команде желает удачи соперникам, то я балансирую, желая неудачи. Ну а хули.
hi 2 all gl hf let it be gg wp ty 4 game
Мне не очень понятно, почему опционально нельзя в этом участвовать?
Например. Было в КСочке славное время, когда между матчами и в конце включали войсчат между командами. И все одновременно орали в микрофон стараясь за эти несколько секунд максимально емко оскорбить вражескую команду. И знаете, это была часть игры. И это было здорово. Но, отлично понимаю всех, кому это не нравится. Но, почему не сделать это выбором? Не телек же, можно настроить. НЕ ВКЛЮЧАЙ это у себя. И живи спокойно. Ты не токсишь, тебя не токсят - прекрасный мир. Захотел - включил.
Так и здесь. По дефолту - ты живешь в мире дружбомагии с пони и радугой, как любит Гейб, но хочешь - зайди в настройки (тебя три раза предупредят) и нажми "я хочу читать токсичные комментарии и сам их писать", "осознаю", "мне 18, да", "мама в курсе", "шапку надел" и пр.
Если не прав - напишите. Спасибо.