TDL Brief : Toxicité en ligne

Par : John Suler, "The Online Disinhibition Effect" dans CyberPsychology & Behavior, juillet 2004

Si vous avez déjà été confronté à un cas de toxicité en ligne, ce qui, compte tenu de son omniprésence, est très probable, vous vous êtes peut-être demandé : "Comment quelqu'un peut-il dire quelque chose comme ça ?". Le fait est que la plupart des gens ne pourraient pas dire une chose pareille - du moins, pas en personne.

Le comportement des internautes ne correspond pas toujours à celui qu'ils adoptent lors d'interactions en face à face. Avec l'essor des médias sociaux, ce décalage a suscité l'intérêt des spécialistes du comportement. L'une des explications de ce phénomène a été baptisée "effet de désinhibition en ligne".

L'idée qui sous-tend cet effet est que l'anonymat et la déconnexion physique du cyberespace, tout comme l'alcool, diminuent nos inhibitions, ce qui nous permet de nous sentir moins contraints et de nous exprimer plus librement. Dans de nombreux cas, cette désinhibition est "bénigne", c'est-à-dire que les gens se sentent simplement plus enclins à partager des aspects de leur vie personnelle, qu'il s'agisse de secrets, d'espoirs, de rêves ou de craintes. Ces personnes peuvent même être plus gentilles et plus généreuses en ligne que dans la vie réelle. Cependant, l'effet de désinhibition en ligne n'est pas toujours positif. Il peut également conduire à une désinhibition "toxique", et donc à une toxicité en ligne. Cette réaction toxique est encouragée par le fait que les mauvais comportements en ligne restent souvent impunis. Les personnes qui font preuve de désinhibition toxique peuvent être plus rudes, plus critiques et plus ouvertement haineuses en ligne qu'elles ne le seraient dans d'autres circonstances.

On peut donc se demander si la désinhibition ressentie en ligne reflète ce que nous sommes vraiment. Cependant, les questions de définition de soi ne sont jamais aussi simples. La personnalité est en interaction constante avec l'environnement : différentes situations ou interactions interpersonnelles suscitent des réponses différentes de notre part. Bien que nous devions tous être tenus responsables de nos actions en ligne, il est probable que la désinhibition dont nous faisons l'expérience en ligne n'est pas une révélation de notre véritable personnalité, mais plutôt un produit du contexte environnemental de l'internet.

Par : Cuihua Shen et al, "Viral vitriol : Predictors and contagion of online toxicity in World of Tanks" dans Computers in Human Behavior, juillet 2020

La contagion comportementale, ou sociale, est une forme d'influence sociale qui décrit comment les comportements, les normes et les informations se propagent à travers les réseaux sociaux. La contagion émotionnelle en est un exemple. Il s'agit d'un phénomène par lequel notre humeur peut être influencée par celle des personnes qui nous entourent. Un autre exemple est celui des normes de groupe, qui font référence aux comportements considérés comme normaux ou acceptables au sein d'un groupe donné. La contagion émotionnelle et les normes de groupe contribuent fortement à la toxicité en ligne.

Les normes de groupe peuvent être à l'origine de la toxicité en ligne par le biais d'un modèle comportemental appelé théorie sociale cognitive, qui a été développé par Albert Bandura, une figure célèbre dans le domaine de la psychologie. La théorie sociale cognitive postule qu'en tant qu'enfants, nous apprenons quels comportements sont ou ne sont pas souhaitables en observant le comportement des autres. Par exemple, si vous voyez votre frère aîné maltraiter quelqu'un et se sentir mal ou subir une conséquence en retour, vous apprendrez à ne pas reproduire ces actions dans votre propre vie.

Cette théorie s'avère problématique dans les environnements en ligne, où les gens sont souvent autorisés à adopter un comportement toxique sans aucune conséquence négative réelle. En fait, certains contextes récompensent ce comportement, le faisant paraître désirable et encourageant ainsi un plus grand nombre de personnes à y prendre part. C'est le cas des communautés de joueurs en ligne, où la toxicité en ligne est considérée comme la norme.

La contagion émotionnelle est également à l'origine de la toxicité en ligne. Les émotions des personnes avec lesquelles nous interagissons en ligne peuvent influencer notre propre humeur. De là, notre humeur positive ou négative peut influencer nos pensées, nos attitudes et nos comportements ultérieurs sur l'internet. À bien des égards, il s'agit d'un cercle vicieux.

Une étude portant sur les données d'un jeu en ligne multijoueurs a démontré que l'exposition à la toxicité en ligne de la part d'autres personnes est associée à l'adoption d'un tel comportement par soi-même. Cela confirme l'hypothèse selon laquelle la toxicité en ligne peut être le résultat d'une contagion comportementale dans le contexte des jeux en ligne. Il est probable que le même effet soit à l'origine de la toxicité en ligne dans d'autres domaines de l'internet.

Par : Kalev Leetaru, "Is it Actually Possible to Solve Online Toxicity ?", Forbes, juin 2019

Même si elle a lieu sur l'internet, la toxicité en ligne a de graves conséquences dans le monde réel. Ces dernières années, des efforts considérables ont été déployés pour l'enrayer, mais elle continue de se propager.

La solution la plus courante au problème de la toxicité en ligne est la mise en œuvre d'algorithmes qui détectent et signalent les contenus explicitement haineux ou violents, tels que le racisme, le sexisme, l'homophobie, l'islamophobie et autres. Toutefois, ces algorithmes ne détectent pas ce que l'on appelle la "toxicité occasionnelle" : les brimades, les critiques et le harcèlement qui ne font aucune référence aux caractéristiques démographiques de la victime en question. Bien entendu, ce n'est pas parce que les termes explicites ne sont pas utilisés que ce harcèlement n'est pas le résultat de préjugés à l'encontre de certains groupes. En fait, il arrive souvent que les caractéristiques démographiques soient évoquées de manière suffisamment indirecte pour passer inaperçues.

Même si la "toxicité occasionnelle" n'est pas classée comme un discours de haine manifeste, elle peut néanmoins être incroyablement préjudiciable et traumatisante pour ceux qui la reçoivent. Les règles de contenu et les algorithmes de filtrage qui ont été mis en place pour prévenir la toxicité en ligne sont un pas dans la bonne direction, mais ils ne suffisent pas, à l'heure actuelle, à protéger suffisamment les utilisateurs ciblés de l'internet.

Par : Daisy Soderberg-Rivkin, "How Riot Games Used Behavioral Science to Curb League of Legends Toxicity", Spectrum Labs, mars 2020

Bien que la toxicité en ligne soit répandue sur l'ensemble de l'Internet, elle est particulièrement fréquente dans le domaine des jeux en ligne. Il n'est donc pas surprenant de constater qu'une grande partie des recherches menées sur la toxicité en ligne et des interventions développées pour la combattre concernent les communautés de jeux en ligne.

Reconnaissant que la toxicité en ligne est un problème majeur dans leur jeu en ligne populaire, League of Legends, les dirigeants de Riot Games ont mis en œuvre trois interventions basées sur la science du comportement dans le but de la réduire.

La première intervention a consisté à donner aux joueurs la possibilité de désactiver le chat avec l'équipe contre laquelle ils jouent. Au bout d'une semaine, les dirigeants ont constaté que les discussions négatives avaient diminué de près de 33 % et que les discussions positives avaient augmenté de 35 %. Le nombre total de conversations n'a pas diminué, ce qui signifie que les joueurs continuaient d'interagir, mais sans autant de négativité.

La deuxième intervention qu'ils ont tentée s'appelait "Le Tribunal". Lorsqu'un joueur était signalé pour un comportement négatif, ses journaux de discussion étaient rendus publics et la communauté pouvait voter pour déterminer si le comportement était effectivement toxique. Les joueurs signalés recevaient des "cartes de réforme", qui indiquaient explicitement ce qu'ils avaient fait de mal. Il s'est avéré que les votes de la communauté aboutissaient généralement à la même conclusion que les dirigeants de Riot, ce que ces derniers ont considéré comme un signe que les joueurs apprenaient à identifier avec précision les comportements toxiques. En outre, lorsque les joueurs revenaient de leur bannissement, ils avaient un comportement moins négatif et beaucoup d'entre eux s'excusaient même pour leurs actions passées.

La troisième et dernière intervention mise en œuvre par Riot Games est appelée "Optimus Experiment". Ils ont utilisé le concept psychologique de l'amorçage - c'est-à-dire l'idée que l'exposition à un stimulus peut influencer notre réponse à un second stimulus - en montrant aux joueurs des statistiques positives ou négatives et en variant les couleurs et les emplacements dans lesquels elles étaient présentées. En fonction du type d'amorçage auquel ils étaient exposés, les joueurs ont montré des changements dans leurs niveaux de violence verbale, de langage offensant et d'attitudes négatives.

Bien que ces résultats soient spécifiques à League of Legends, ils illustrent le type de mesures qui peuvent être prises pour réduire la toxicité en ligne.