Отчет о прозрачности искусственного интеллекта Xbox показывает, что заблокировано 19 миллионов токсичных сообщений и повышена безопасность игроков в Minecraft и Call of Duty: Black Ops 6.

Что вам нужно знать

• Xbox опубликовала свой последний отчет о прозрачности искусственного интеллекта, охватывающий данные с января по июнь 2024 года.
• Безопасность игроков была повышена за счет сочетания искусственного интеллекта и человеческой модерации, что позволило заблокировать более 19 миллионов фрагментов вредоносного контента, нарушающего стандарты сообщества Xbox.
• Minecraft и Call of Duty внедряют передовые инструменты модерации и стандарты сообщества для снижения токсичного поведения.

Как опытный исследователь, который провел бесчисленные часы, путешествуя по цифровым полям онлайн-игр, я могу искренне сказать, что последний отчет Xbox о прозрачности искусственного интеллекта меняет правила игры. Цифры говорят сами за себя — заблокировано 19 миллионов единиц вредоносного контента и значительное снижение уровня токсичности, особенно в Call of Duty! Это как играть в игру в простом режиме, даже не осознавая этого.

Microsoft недавно выпустила свой новейший отчет о прозрачности искусственного интеллекта вместе с обновлением Xbox Wire. В этом отчете, охватывающем период с января по июнь этого года, объясняется, как Xbox использует искусственный интеллект для определения приоритета безопасности игроков, оптимизации процедур модерации и создания приятной игровой среды для пользователей. Технология искусственного интеллекта эффективно используется для блокировки многочисленных неуместных сообщений, как устных, так и письменных.

19 миллионов единиц контента, нарушающего стандарты сообщества Xbox, были заблокированы для доступа к игрокам.

Если подчеркнуть некоторые интересные статистические данные, взятые из отчета, то выдающаяся цифра — 19 миллионов единиц контента, отфильтрованных за 6 месяцев, — весьма впечатляет. Использование двусторонней стратегии ИИ для модерации сыграло важную роль в этом подвиге, позволив людям сосредоточиться на более сложном контенте. Технология, которую использует Xbox, автономно идентифицирует и классифицирует вредоносные сообщения до того, как они достигнут геймеров, быстро определяя, нарушают ли сообщения правила сообщества. Эта система заметно увеличила скорость и продуктивность модерации контента на Xbox (и лично я заметил уменьшение неприятных сообщений во время сеансов Call of Duty от возбужденных подростков!).

Другая интересная статистика из отчета показывает:

• По сравнению с предыдущим отчетным периодом количество отчетов игроков увеличилось вдвое до 2 миллионов для сообщений «Ищу группу» (LFG) и увеличилось на 8% до 30 миллионов для всех типов контента.
• В апреле 2024 года Xbox приняла меры в отношении 1,7 миллиона недостоверных учетных записей, что значительно больше по сравнению с 320 000 в январе.
• Система Xbox AutoMod обработала 1,2 миллиона случаев и позволила команде модераторов удалять вредоносный контент на 88% быстрее.
• 99,8% превентивных мер были приняты в таких областях, как фишинг, а 100% — в таких областях, как подделка учетных записей и пиратство.

Инструменты сообщества для Minecraft и Call of Duty: Black Ops 6

Начиная с конца 2023 года Xbox заблокировала множество оскорбительных сообщений на разных языках и заметила существенное снижение токсичности в голосовых чатах Call of Duty. Недавно они расширили свою систему голосовой модерации, включив в Black Ops 6 дополнительные языки. Этот стратегический шаг особенно примечателен, учитывая включение в Black Ops 6 функции, которая позволяет вам тайно передавать нежные слова вашему противнику, используя их в качестве защитный щит.

В Bedrock Edition Minecraft была реализована новая функция, которая уведомляет игроков о правилах сообщества игры, когда они используют недопустимые слова или действия в чате. Это дает игрокам возможность пересмотреть свое решение и исправить ситуацию, прежде чем будут применены более серьезные последствия, такие как дисквалификация. Кроме того, сотрудничество Minecraft с GamerSafer позволяет администраторам серверов создавать более безопасные игровые пространства, предлагая игрокам и родителям улучшенный выбор для поиска безопасных серверов Minecraft.

Что на самом деле происходит, когда игрок оскорбляет Xbox?

В отчете описывается недавно введенная Xbox «дисциплинарная система», направленная на информирование игроков о нарушениях правил. Каждый раз, когда игрок нарушает правило, он получает «уведомление о нарушении» на свою учетную запись, которое сохраняется в его учетной записи в течение шести месяцев. Игроки могут накопить до восьми уведомлений, а система настроена на предотвращение повторения, демонстрируя последствия своих действий.

Система работает по принципу постепенной эскалации, подразумевая, что по мере того, как игрок накапливает больше штрафов, последствия становятся все более серьезными. Например, первоначальное правонарушение может привести к кратковременному отстранению от работы, но повторяющиеся нарушения могут привести к более длительному отстранению или даже к постоянному исключению из социальных функций.

В случае серьезных нарушений, таких как угрозы или вопросы, касающиеся безопасности детей, Xbox оперативно проводит расследование. Подобные нарушения могут привести к постоянной блокировке аккаунта или даже блокировке устройства, независимо от количества предыдущих предупреждений, полученных игроком.

ИИ в играх — это не все плохие новости

Хотя роль ИИ в играх может быть спорной темой, особенно когда речь идет о таких вопросах, как алгоритмическая предвзятость, генеративный ИИ или потенциал ИИ заменить человеческие рабочие места, у него есть и свои положительные стороны, и это было модное словечко на этом этапе. лет GDC.

В последнем отчете Xbox показано, как искусственный интеллект может стать эффективным инструментом обеспечения безопасности игроков. В таких областях, как модерация контента, ИИ способен быстро обрабатывать миллионы решений, блокируя вредоносные сообщения и выявляя токсичное поведение в режиме реального времени. Использование искусственного интеллекта для облегчения работы модераторов и создания более уважительной среды для игроков может быть только хорошим делом.

Смотрите также

• Магазин Fortnite на 21.11.2024
• Прогнозы цен на ApeCoin: анализ криптовалюты APE
• Примечания к раннему патчу Fortnite 32.11: Juice WRLD Chug Cannon, Kit’s Mythics и многое другое
• Трэвис Скотт возвращается в Fortnite? Все, что мы знаем
• Боевой пропуск Fortnite OG появится в предстоящем обновлении Crew
• Дисторсия. Как откорректировать дисторсию.
• Прогноз курса доллара к южнокорейской воне
• Режиссер Alan Wake 2 выразил заинтересованность в культовой коллаборации по Fortnite
• Градиентный фильтр.
• Лучшие смартфоны. Что купить в ноябре 2024.

2024-11-14 17:12