El videojuego mundialmente conocido “Call of Duty” utilizará “ToxMod”, una herramienta de Inteligencia Artificial, para moderar los chats. Esta será capaz de detectar el lenguaje ofensivo informando a los moderadores para que estos tomen medidas contra los jugadores que lo pronuncien. Esta función se incorporó el 30 de agosto en Norteamérica, pero próximamente se expandirá al resto del mundo.
La herramienta funcionará en 3 partes. Primero es hacer monitoreo a los chats para detectar si hay posibles insultos; después analizará los factores, como su tono y el contexto de los diálogos; para finalmente decidir si avisar o no a los moderadores humanos, quienes tendrán la capacidad de aplicar sanciones.
“ToxMod” entiende el inglés, así como otros 17 idiomas, entre ellos el español. Además, es capaz de diferenciar entre categorías, pudiendo monitorizar la conducta de sus jugadores a lo largo del tiempo, ya que es capaz de comprobar si el lenguaje se mantiene o se radicaliza a través de las semanas.
De momento se ha incluido en dos juegos: “Call of Duty: Modern Warfare II” (la versión de 2022) y “Call of Duty: Warzone”. Por el momento se está probando con los jugadores norteamericanos, pero como se indica en el blog oficial de la franquicia, el próximo juego, “Call of Duty: Modern Warfare III” (la versión de 2023), lo incorporará desde su lanzamiento, aunque no se ha confirmado si la beta de octubre lo tiene contemplado.
Esta IA ha sido desarrollada por una empresa llamada Modulate, especializada en reducir el ambiente hostil de comunidades online, especialmente aquellas que pertenezcan a videojuegos. La compañía se centra en insultos racistas, machistas o sexistas, muy habituales durante las partidas de Call of Duty.
No es la primera vez que los juegos de versión multijugador emplean tecnología para filtrar el lenguaje de odio en sus chats. Sin embargo, se trata de un gran paso, porque la IA comprenderá el contexto y tono de la conversación.
