A medida que continuamos nuestra misión en Xbox de llevar la alegría y la comunidad de los juegos a aún más personas, seguimos comprometidos a proteger a los jugadores del comportamiento disruptivo en línea, crear experiencias que sean más seguras e inclusivas y seguir siendo transparentes sobre nuestros esfuerzos para mantener la comunidad Xbox segura.
Nuestro quinto Informe de Transparencia destaca algunas de las formas en que estamos combinando soluciones centradas en el jugador con la aplicación responsable de IA para continuar amplificando nuestra experiencia humana en la detección y prevención de comportamientos no deseados en la plataforma y, en última instancia, garantizar que sigamos equilibrando y satisfaciendo las necesidades de nuestra creciente comunidad de jugadores.
Durante el período comprendido entre enero de 2024 y junio de 2024, centramos nuestros esfuerzos en bloquear contenido de mensajes disruptivos de personas que no son amigos y en la detección de spam y publicidad con el lanzamiento de dos herramientas habilitadas para IA que reflejan nuestro enfoque multifacético para proteger a los jugadores.
Entre las conclusiones clave del informe:
- Equilibrando seguridad y autenticidad en la mensajería: Introdujimos un nuevo enfoque para detectar e interceptar mensajes dañinos entre personas que no son amigos, lo que contribuyó a un aumento significativo en el contenido disruptivo evitado. De enero a junio, un complete de 19 millones de piezas de Estándares de la comunidad Xbox-Se evitó el contenido violatorio. llegar a los jugadores a través de texto, imágenes y movies. Este nuevo enfoque equilibra dos objetivos: proteger a los jugadores del contenido dañino enviado por personas que no son amigos, y al mismo tiempo preservar las auténticas experiencias de juego en línea que disfruta nuestra comunidad. Animamos a los jugadores a utilizar el Nueva experiencia de amigos y seguidores de Xboxlo que brinda más management y flexibilidad al conectarse con otros.
- Seguridad impulsada por los informes de los jugadores: Los informes de los jugadores siguen siendo un componente crítico en nuestro enfoque de seguridad. Durante este período, los jugadores nos ayudaron a identificar un aumento en el spam y la publicidad en la plataforma. Estamos evolucionando constantemente nuestra estrategia para evitar la creación de cuentas no auténticas en el origen, limitando su impacto tanto en los jugadores como en el equipo de moderación. En abril, tomamos medidas ante un aumento de cuentas no auténticas (1,7 millones de casos, frente a 320.000 en enero) que afectaban a los jugadores en forma de spam y publicidad.. Los jugadores nos ayudaron a identificar este aumento y patrón brindándonos informes en mensajes de Búsqueda de Grupo (LFG). Los informes de jugadores se duplicaron a 2 millones para mensajes de LFG y aumentaron un 8 % a 30 millones. en todos los tipos de contenido en comparación con el último período del informe de transparencia.
- Nuestro enfoque twin de IA: Lanzamos dos nuevas herramientas de inteligencia synthetic diseñadas para respaldar a nuestros equipos de moderación. Estas innovaciones no solo evitan la exposición de materials disruptivo a los jugadores, sino que también permiten a nuestros moderadores humanos priorizar sus esfuerzos en cuestiones más complejas y matizadas. La primera de estas nuevas soluciones es Xbox AutoMod, un sistema que se lanzó en febrero y ayuda con la moderación del contenido reportado. Hasta ahora, ha manejado 1,2 millones de casos y permitió al equipo eliminar contenido que afecta a los jugadores un 88% más rápido. La segunda solución de IA que presentamos se lanzó en julio y funciona de manera proactiva para evitar comunicaciones no deseadas. Hemos dirigido estas soluciones a detectar spam y publicidad y las ampliaremos para prevenir más tipos de daños en el futuro.
La base de todos estos nuevos avances es un sistema de seguridad que depende tanto de los jugadores como de la experiencia de los moderadores humanos para garantizar la aplicación consistente y justa de nuestros Estándares comunitariosal tiempo que mejoramos nuestro enfoque normal a través de un ciclo de retroalimentación continua.
En Microsoft Gaming, nuestros esfuerzos para impulsar la innovación en seguridad y mejorar la experiencia de nuestros jugadores también se extienden más allá del Informe de Transparencia:
Priorizar la seguridad del jugador con Minecraft: Mojang Studios cree que cada jugador puede contribuir a que Minecraft sea un lugar seguro y acogedor para todos. Para ayudar con eso, Mojang tiene lanzó una nueva característica en Minecraft: Bedrock Version que envía a los jugadores recordatorios sobre los Estándares de la comunidad del juego cuando se detecta un comportamiento potencialmente inapropiado o dañino en el chat de texto. Esta característica tiene como objetivo recordar a los jugadores en los servidores la conducta esperada y crear una oportunidad para que reflexionen y cambien la forma en que se comunican con los demás antes de que se requiera la suspensión o prohibición de una cuenta. En otros lugares, desde el Lista oficial de servidores de Minecraft Lanzado hace un año, Mojang, en asociación con GamerSafer, ha ayudado a cientos de propietarios de servidores a mejorar la gestión de su comunidad y las medidas de seguridad. Esto ha ayudado a los jugadores, padres y adultos de confianza a encontrar servidores de Minecraft comprometidos con las prácticas de seguridad que les interesan.
Actualizaciones de las herramientas antitoxicidad de Name of Obligation: Name of Obligation está comprometido a luchar contra la toxicidad y el juego desleal. Para frenar conductas disruptivas que violen la Código de conducta de la franquiciael equipo implementa tecnología avanzada, incluida IA, para empoderar a los equipos de moderación y combatir el comportamiento tóxico. Estas herramientas están diseñadas específicamente para ayudar a fomentar una comunidad más inclusiva donde los jugadores sean tratados con respeto y compitan con integridad. Desde noviembre de 2023se bloquearon más de 45 millones de mensajes de texto en 20 idiomas y la exposición a la toxicidad de la voz se redujo en un 43%. Con el lanzamiento de Name of Obligation: Black Ops 6, El equipo implementó soporte para moderación de voz en francés y alemán, además del soporte existente para inglés, español y portugués. Como parte de este trabajo continuo, el equipo también lleva a cabo investigaciones sobre el comportamiento prosocial en los juegos.
A medida que la industria evoluciona, continuamos construyendo una comunidad de jugadores apasionados, con concepts afines y reflexivos que vienen a nuestra plataforma para disfrutar de experiencias inmersivas, divertirse y conectarse con otros. Seguimos comprometidos con la seguridad de la plataforma y con la creación de una IA responsable desde el diseño, guiada por la estrategia de Microsoft. Estándar de IA responsable y a través de nuestra colaboración y asociación con organizaciones como Tech Coalition. Gracias, como siempre, por contribuir a nuestra vibrante comunidad y por estar presente con nosotros en nuestro viaje.
Algunos recursos adicionales:
