Microsoft представила систему фильтрации сообщений Xbox Live для борьбы с токсичностью

В будущем компания собирается ввести её аналог и для голосовых чатов.

Тестировать обновлённую систему среди участников программы Xbox Insider начали 14 октября. Она добавляет в раздел настроек несколько опций, которые можно применить, скрывая нежелательный или оскорбительный контент из личных сообщений.

Пользователям предлагают выбрать один из четырёх уровней фильтрации текста.

«Дружелюбный» — скрывает как можно больше потенциально оскорбительных фраз, но не обычную речь и обсуждения игр. Это настройка по умолчанию для всех детских аккаунтов.
«Средний» — оставляет грубые выражения, которые могут использовать в дружеской переписке, скрывает прямые оскорбления.
«Для взрослых» — скрывает только «контент, цель которого в большинстве случаев — навредить адресату».
«Без фильтра» — отключает систему, ничего не изменяя в мессенджере Xbox Live.

На всех сообщениях, попавших под фильтрацию, будет специальная заглушка. Игрок может нажать на любое из них и при желании отобразить их по одному.

Microsoft представила систему фильтрации сообщений Xbox Live для борьбы с токсичностью

Различные уровни «автомодерации» позволят применить для разных сообщений — например, включить её только для пользователей, которых нет в списке друзей.

В Microsoft заявили, что в фильтрах работает не только стандартная система по поиску нецензурных выражений, но и специальный ИИ, который помогает определять контекст.

Контекст — это очень тонкая вещь, особенно когда дело касается видеоигр.
Готовиться к «серии убийств» перед онлайн-миссией в Halo — это одно. Но совсем другое — когда такие фразы произносят при совершенно иных обстоятельствах.
Так что для нас попытки понять контекст и различные нюансы речи — это вечная борьба.
Дэйв Маккарти, корпоративный вице-президент Xbox

Сотрудники компании также рассказали, что планируют ввести подобные системы фильтров для голосовых чатов. Они хотят создать алгоритмы, которые будут анализировать аудио в реальном времени и, например, автоматически «запикивать» мат в речи.

В Microsoft подчеркнули, что будут подробно объяснять пользователям, как работают подобные системы, и внимательно отнесутся к вопросу сохранности личных данных.

Опции текстовой фильтрации собираются активировать для всех игроков в течение осени 2019-го, а «автомодерация» аудио всё ещё находится в разработке.

О своих планах по борьбе с токсичностью в Microsoft рассказывали уже неоднократно. Ранее Фил Спенсер уже говорил об опциональных фильтрах, отмечая, что «Xbox — не платформа со свободой слова».