14 / 09 / 2015

Lenguaje natural para filtrar el mal comportamiento de jugadores en línea

Comparte este artículo

La empresa Riot Games, creadora del juego en línea League of Legends, ha diseñado un sistema que procesa lenguaje natural para filtrar el mal comportamiento de sus jugadores.

El sistema, informa MIT Technology Review, controla la comunicación entre los jugadores, sanciona el comportamiento negativo, y recompensa el positivo. Los resultados han sido sorprendentes, dice Jeffrey Lin, jefe de diseño de los sistemas sociales de Riot Games. El software ha vigilado varios millones de casos de comportamiento sospechoso, y el 92% de los jugadores que han sido atrapados usando lenguaje abusivo contra los demás no ha reincidido.

Lin, que es neurocientífico cognitivo, cree que las técnicas se pueden aplicar fuera del contexto de los videojuegos, para combatir los comportamientos tóxicos en Internet.

El sistema nació creando un órgano de gobierno dentro del juego, llamado "el Tribunal", que identificaba casos potenciales de abuso y los sometía a revisión de los 67 millones de usuarios. A partir de sus decisiones, se identificaron patrones de comportamiento tóxico, y se aplicaron técnicas de aprendizaje automático a las 15 lenguas en las que funciona el juego. Finalmente se creó una nueva versión, solo vigilada por máquinas, que toma decisiones en cinco minutos (antes se tardaba hasta una semana).

Uno de los retos del sistema es el "exigente" contexto. Como en cualquier deporte de equipo, los jugadores a menudo crean camaradería a través de sarcasmos, que pueden ser considerados descorteses o agresivos. Lin y su equipo tratan de resolver el problema revisando el historial del jugador cuestionado, por ejemplo.

Sin embargo, "una de las ideas fundamentales de la investigación es que el comportamiento tóxico no necesariamente proviene de gente terrible; se trata de personas normales que tienen un mal día", dice Justin Reich, investigador de Harvard.

Comparte este artículo
Suscríbete a nuestra Newsletter
Suscríbete