Informe TDL: Toxicidad en línea

Por: John Suler, "The Online Disinhibition Effect" en CyberPsychology & Behavior, julio de 2004.

Si alguna vez te has topado con un caso de toxicidad online, lo cual, teniendo en cuenta su omnipresencia, es increíblemente probable, es posible que te hayas preguntado: "¿Cómo puede alguien decir algo así?". Lo cierto es que la mayoría de la gente no podría decir algo así, al menos no en persona.

El comportamiento de las personas en Internet no siempre coincide con el de las interacciones cara a cara. Con el auge de las redes sociales, esta discrepancia ha despertado el interés de los científicos del comportamiento. Una explicación de este fenómeno se ha bautizado como "efecto de desinhibición online".

La idea que subyace a este efecto es que el anonimato y la desconexión física del ciberespacio, al igual que el alcohol, merman nuestras inhibiciones, haciéndonos sentir menos contenidos y capaces de expresarnos con mayor libertad. En muchos casos, esta desinhibición es "benigna", lo que significa que la gente simplemente se siente más inclinada a compartir aspectos de su vida personal, ya sean secretos, esperanzas, sueños o miedos. Estas personas pueden incluso ser más amables y generosas en Internet que en la vida real. Sin embargo, el efecto de desinhibición online no siempre es positivo. También puede conducir a una desinhibición "tóxica", que desemboque en toxicidad online. Esta respuesta tóxica se ve favorecida por el hecho de que el mal comportamiento en Internet suele quedar impune. Las personas que muestran desinhibición tóxica pueden ser más groseras, críticas y abiertamente odiosas en Internet de lo que serían en otras circunstancias.

Esto plantea la cuestión de si la desinhibición experimentada en línea refleja quiénes somos realmente. Sin embargo, las cuestiones de autodefinición nunca son tan sencillas. La personalidad está en constante interacción con el entorno: diferentes situaciones o interacciones interpersonales suscitan diferentes respuestas en nosotros. Aunque todos debemos rendir cuentas de nuestros actos en Internet, es probable que la desinhibición que experimentamos en la red no sea una revelación de nuestro verdadero yo, sino más bien un producto del contexto ambiental de Internet.

Por: Cuihua Shen y otros, "Viral vitriol: Predictors and contagion of online toxicity in World of Tanks" en Computers in Human Behavior, julio de 2020.

El contagio conductual o social es una forma de influencia social que describe cómo se propagan los comportamientos, las normas y la información a través de las redes sociales. Un ejemplo de ello es el contagio emocional, fenómeno por el cual nuestro propio estado de ánimo puede verse influido por los estados de ánimo de las personas que nos rodean. Otro ejemplo es el de las normas de grupo, que se refiere a los comportamientos que se consideran normales o aceptables dentro de un grupo determinado. Tanto el contagio emocional como las normas de grupo contribuyen en gran medida a la toxicidad en línea.

Las normas de grupo pueden impulsar la toxicidad en Internet a través de un modelo de comportamiento llamado Teoría Cognitiva Social, desarrollado por Albert Bandura, una figura famosa en el campo de la psicología. La Teoría Cognitiva Social postula que, de niños, aprendemos qué comportamientos son o no deseables observando la conducta de los demás. Por ejemplo, ver a tu hermano mayor tratar mal a alguien y sentirse mal o sufrir una consecuencia a cambio te enseñaría a no mostrar esas acciones en tu propia vida.

Esta teoría resulta problemática en los entornos en línea, donde a menudo se permite a la gente exhibir comportamientos tóxicos sin consecuencias negativas reales. De hecho, algunos contextos recompensan este comportamiento, haciéndolo parecer deseable y animando así a más gente a participar en él. Esto puede verse en las comunidades de jugadores en línea, donde la toxicidad se considera la norma.

El contagio emocional también subyace a la toxicidad online. Las emociones de las personas con las que interactuamos en Internet pueden influir en nuestro propio estado de ánimo. A partir de ahí, nuestro estado de ánimo positivo o negativo puede influir en nuestros pensamientos, actitudes y posteriores comportamientos en Internet. En muchos sentidos, se trata de un círculo vicioso.

Un estudio realizado a partir de datos de un juego multijugador en línea demostró que la exposición a la toxicidad en línea por parte de otros está asociada a la exhibición de ese comportamiento por parte de uno mismo. Esto demuestra la hipótesis de que la toxicidad en línea puede ser el resultado del contagio de comportamientos en el contexto de los juegos en línea. Es probable que el mismo efecto esté impulsando la toxicidad en línea en otras áreas de Internet.

Por: Kalev Leetaru, "¿Es realmente posible resolver la toxicidad en línea?", Forbes, junio de 2019.

Puede que tenga lugar en Internet, pero la toxicidad en línea tiene graves consecuencias en el mundo real. En los últimos años se han dedicado importantes esfuerzos a detenerla, pero sigue propagándose.

La solución más común al problema de la toxicidad en línea es la aplicación de algoritmos que detectan y marcan los contenidos explícitamente odiosos o violentos, como el racismo, el sexismo, la homofobia, la islamofobia y similares. Sin embargo, lo que estos algoritmos no detectan es la llamada "toxicidad casual": la intimidación, la crítica y el acoso que no hacen referencia a la demografía de la víctima en cuestión. Por supuesto, que no se utilicen términos explícitos no significa que este acoso no siga siendo el resultado de prejuicios contra determinados grupos. De hecho, a menudo, la demografía puede mencionarse de forma lo suficientemente indirecta como para pasar desapercibida.

Aunque la "toxicidad casual" no está clasificada como incitación abierta al odio, puede ser increíblemente dañina y traumática para sus receptores. Las normas de contenido y los algoritmos de filtrado que se han puesto en marcha para prevenir la toxicidad en línea son un paso en la dirección correcta, pero no bastan, por el momento, para proteger suficientemente a los usuarios de Internet.

Por: Daisy Soderberg-Rivkin, "How Riot Games Used Behavioral Science to Curb League of Legends Toxicity", Spectrum Labs, marzo de 2020.

Aunque la toxicidad en línea prevalece en todo Internet, es particularmente común en el ámbito de los juegos en línea. Por ello, no es sorprendente ver que muchas de las investigaciones realizadas sobre la toxicidad en línea y muchas de las intervenciones desarrolladas para combatirla están relacionadas con las comunidades de juegos en línea.

Al reconocer que la toxicidad en línea es un problema importante en su popular juego online, League of Legends, los ejecutivos de Riot Games pusieron en marcha tres intervenciones basadas en la ciencia del comportamiento con el objetivo de reducirla.

La primera intervención consistió en dar a los jugadores la opción de desactivar el chat con el equipo contra el que juegan. Al cabo de una semana, los directivos vieron que el chat negativo disminuía casi un 33% y el positivo aumentaba un 35%. El número total de conversaciones no disminuyó, lo que significa que los jugadores seguían interactuando, pero sin tanta negatividad.

La segunda intervención que probaron se llamó "El Tribunal". Cuando se denunciaba a un jugador por comportamiento negativo, se hacían públicos sus registros de chat y la comunidad podía votar si consideraba que el comportamiento era realmente tóxico. A los jugadores denunciados se les enviaban "tarjetas de reforma", que indicaban explícitamente lo que habían hecho mal. Se comprobó que, por lo general, los votos de la comunidad llegaban a la misma conclusión que los de los ejecutivos de Riot, lo que consideraron una señal de que los jugadores estaban aprendiendo a identificar con precisión los comportamientos tóxicos. Además, cuando los jugadores volvían de su expulsión, mostraban un comportamiento menos negativo y muchos de ellos incluso se disculpaban por sus acciones pasadas.

La tercera y última intervención de Riot Games se conoce como "Experimento Optimus". Utilizaron el concepto psicológico de "priming" (la idea de que la exposición a un estímulo puede influir en nuestra respuesta a un segundo estímulo) mostrando a los jugadores estadísticas positivas o negativas y variando los colores y lugares en los que se presentaban. Dependiendo del tipo de estímulo al que estuvieran expuestos, los jugadores mostraban cambios en sus niveles de abuso verbal, lenguaje ofensivo y actitudes negativas.

Aunque estos resultados son específicos de League of Legends, son un ejemplo del tipo de medidas que pueden tomarse para reducir con éxito la toxicidad en línea.