Le "dilemme social
Je me souviens de ce qui s'est passé. Je me suis réveillé un matin et j'ai vu un déluge de contenu sur mes fils de médias sociaux, tous sur la manipulation des médias sociaux. Les canaux Slack du bureau de la startup technologique où je travaille étaient en ébullition avec des discussions sur l'industrie technologique maléfique. Quelques mots à la mode ont été lancés dans les conversations : dopamine, collecte de données, algorithmes, schémas sombres. Apparemment, Netflix avait sorti un documentaire intitulé The Social Dilemma (Le dilemme social), qui explorait les impacts dangereux des réseaux sociaux et l'utilisation abusive de données et de concepts trompeurs pour manipuler les gens.
Il fallait que j'en sache plus. Mais comment faire ?
Vous pouvez partir quand vous le souhaitez, mais vous ne pouvez jamais...
Quelques semaines auparavant, j'avais décidé de désinstaller Netflix de mon téléphone. Je ne voulais pas que l'application reste là, comme un moyen facile d'accéder à des divertissements sans fin. À ma grande surprise, j'ai appris que Netflix était une application stockée sur mon téléphone, ce qui signifie que le fabricant et Netflix avaient décidé que l'application serait un élément permanent de mon appareil.
En d'autres termes, vous pouvez le désactiver à tout moment, mais vous ne pouvez jamais le quitter : Vous pouvez le désactiver à tout moment, mais vous ne pouvez jamais le quitter !
L'ironie de tout cela était trop forte pour moi. Apprendre l'existence d'un documentaire sur les effets néfastes des médias sociaux, via les médias sociaux. Regarder un documentaire sur la conception éthique sur un service de streaming qui ne me donne pas la possibilité de supprimer son application. Finir le documentaire et se voir recommander immédiatement 10 autres émissions similaires que j'aimerais, par les algorithmes mêmes que le documentaire vient de condamner.
En tant que spécialiste des sciences du comportement, j'aurais dû savoir qu'il ne fallait pas s'étonner.
Le problème, c'est que si Robinson Crusoé avait repéré un bateau en état de marche, il l'aurait pris et aurait quitté l'île. Pour ceux qui ne connaissent pas, Robinson Crusoé est le protagoniste d'un roman du même nom, publié pour la première fois en 1917, qui raconte l'histoire d'un naufragé qui a passé 28 ans sur une île déserte avant d'être secouru.1
Les entreprises sont comme Robinson Crusoé sur l'île : bloquées. Avec des finances qui doivent paraître saines, des entonnoirs de clients qui fuient et qui doivent être réparés, des investisseurs qui attendent des rendements et des clients qui veulent ce qu'il y a de mieux, les entreprises sont désespérément à la recherche de n'importe quelle solution qui les aidera à rester à flot.
Pour de nombreuses entreprises, un bateau est apparu sous la forme d'un design comportemental. Tous ces raccourcis qui semblent aider à résoudre certains de leurs problèmes, en augmentant l'engagement des clients, en augmentant le nombre de clients qui reviennent, et en résolvant tous les paramètres qui leur importent. Pourquoi ne pas en profiter ?
Je ne justifie pas le recours à la manipulation, mais j'affirme simplement que les connaissances en sciences du comportement qui existent déjà sont, pour utiliser un cliché, comme du dentifrice sorti d'un tube. Il est impossible de les reprendre, et tant qu'elles seront disponibles sans garde-fou, elles seront utilisées à mauvais escient.
Ce qui m'amène au point suivant : Qui est responsable de l'éthique dans le secteur privé ?
Les sciences du comportement, démocratisées
Nous prenons 35 000 décisions par jour, souvent dans des environnements qui ne sont pas propices à des choix judicieux.
Chez TDL, nous travaillons avec des organisations des secteurs public et privé, qu'il s'agisse de nouvelles start-ups, de gouvernements ou d'acteurs établis comme la Fondation Gates, pour débrider la prise de décision et créer de meilleurs résultats pour tout le monde.
Les gardiens de l'éthique
En avril 2019, aux États-Unis, les Sens. Mark Warner et Deb Fischer ont introduit la loi DETOUR (Deceptive Experiences To Online Users Reduction). L'objectif de cette loi est "d'interdire l'utilisation de pratiques d'exploitation et de tromperie par les grands opérateurs en ligne et de promouvoir le bien-être des consommateurs dans l'utilisation de la recherche comportementale par ces fournisseurs "2.
Le texte principal des projets de loi est le suivant :
"(1) EN GÉNÉRAL - Il est illégal pour tout grand opérateur en ligne...
(A) concevoir, modifier ou manipuler une interface utilisateur dans le but ou avec l'effet substantiel d'obscurcir, de subvertir ou d'altérer l'autonomie, la prise de décision ou le choix de l'utilisateur afin d'obtenir son consentement ou ses données ;
(B) de subdiviser ou de segmenter les consommateurs de services en ligne en groupes à des fins d'expériences ou d'études comportementales ou psychologiques, sauf avec le consentement éclairé de chaque utilisateur concerné ; ou
(C) concevoir, modifier ou manipuler une interface utilisateur sur un site web ou un service en ligne, ou une partie de ceux-ci, qui s'adresse à une personne âgée de moins de 13 ans, dans le but d'obtenir un effet substantiel ou de cultiver une utilisation compulsive, y compris des fonctions de lecture automatique de vidéos lancées sans le consentement de l'utilisateur".
En d'autres termes, s'il est approuvé, ce projet de loi interdirait aux plateformes de concevoir des interfaces utilisateur visant à manipuler le processus décisionnel de l'utilisateur. Il interdirait également les tests A/B (une sorte de test aléatoire dans lequel les développeurs présentent des versions distinctes d'une fonctionnalité à différents utilisateurs et comparent leurs réponses) et rendrait illégales plusieurs tactiques utilisées par les entreprises technologiques, telles que la lecture automatique des publicités vidéo.3
Pour ce faire, la loi propose la création d'un organisme de normalisation professionnelle, composé de représentants de l'industrie technologique et d'autres secteurs, qui serait chargé d'établir des règles et des lignes directrices claires. En outre, un comité d'examen indépendant serait créé, qui serait l'autorité de référence pour l'approbation de toute recherche comportementale basée sur l'activité ou les données des utilisateurs. La violation des lignes directrices constituerait une infraction à la loi sur la Commission fédérale du commerce (Federal Trade Commission Act).
Cette loi, si elle est approuvée, marquera la première tentative d'un gouvernement de réglementer le monde de la technologie au niveau de la conception ou du produit.
Il s'agit d'un premier pas important qui, espérons-le, en appellera beaucoup d'autres. Mais il reste encore de nombreuses lacunes à combler. Où et comment tracer la ligne entre ce qui est manipulation et ce qui ne l'est pas ? Cela signifie-t-il que même le marketing et la publicité sont manipulateurs ? Autant de questions qui n'ont pas de réponses claires.
Une autre approche pour encourager la conception éthique est d'aligner d'une manière ou d'une autre la conception éthique sur les intérêts des entreprises. J'ai récemment entendu l'étonnant David Evans, Senior Research Manager chez Microsoft, s'exprimer lors d'une conférence, au cours de laquelle il a fait une déclaration importante : "Toute éthique de la conception comportementale doit avoir, intégrée, une motivation commerciale : "Toute éthique de la conception comportementale doit comporter une incitation commerciale. Sinon, il s'agit simplement d'une moralisation "4.
C'est le son d'un marteau qui frappe le clou sur la tête. Comment inciter les entreprises à adopter une conception éthique ? On pourrait dire que si suffisamment de clients sont conscients de ces manipulations, les forces du marché agiront et les clients cesseront d'utiliser l'application. Mais dans une bataille entre la commodité et l'éthique, la balance pourrait pencher légèrement en faveur de la commodité. Des recherches antérieures montrent que même pour les "consommateurs conscients", plusieurs facteurs économiques et sociaux (tels que la famille, la commodité et le prix) pèsent lourdement sur leur choix de produits, les conduisant souvent à se détourner d'options plus éthiques.5
L'une des solutions consisterait à rendre les évaluations des applications sur les magasins d'applications plus granulaires et plus axées sur l'éthique : Cette application est-elle utile ? Cette application convient-elle à tous les groupes d'âge ? La conception de cette application utilise-t-elle des "motifs sombres" pour tromper l'utilisateur ?
Comme vous pouvez le constater, les questions sont nombreuses et je ne prétends pas avoir les réponses. Toutefois, en tant que spécialiste des sciences du comportement, je pense qu'il y a de l'espoir.
Ce que les spécialistes du comportement peuvent faire
Alors que nous essayons toujours de répondre à ces questions difficiles sur la législation et les incitations commerciales en faveur de la conception éthique, voici quelques mesures que vous pouvez prendre au sein de votre propre organisation. Au cours des quelques années que j'ai passées en tant que spécialiste des sciences du comportement, j'ai établi quelques règles pour moi-même et pour tous ceux qui suivent mes conseils. Ces règles sont les suivantes :
Il n'y aura pas d'autre gardien que vous-même. La personne la plus bouleversée par l'utilisation abusive de la dynamite en temps de guerre a été son inventeur, Alfred Nobel lui-même, parce qu'en tant que créateur, il savait à quel point elle était nocive. De même, personne ne connaît mieux que les spécialistes des sciences du comportement les effets secondaires d'une mauvaise utilisation de ces dernières. Nous n'avions pas besoin d'un documentaire de Netflix pour comprendre les risques.
Au lieu d'attendre qu'on vous le demande, soyez le gardien de l'éthique dans votre organisation. Créez une charte éthique. Socialisez-la. Faites savoir à tout le monde que c'est important. Je n'ai jamais terminé un seul atelier que j'ai animé sans une diapositive sur l'éthique. Dans le jargon des produits technologiques, il ne s'agit pas d'un "nice-to-have", mais d'un "must-have".
Établissez une liste de contrôle éthique simple. De nombreuses lignes directrices en matière d'éthique sont disponibles sur l'internet. Adoptez l'une d'entre elles. Au début de ma carrière, je suis tombé sur une liste de contrôle de quatre questions qui, moyennant quelques modifications mineures, répondait à tous mes besoins. Je m'en suis tenu à cette liste depuis lors. (Je dois m'excuser ici : J'ai adopté cette liste de contrôle il y a si longtemps que je ne parviens pas à en trouver la référence. Mais si quelqu'un connaît les origines de ce cadre, n'hésitez pas à me contacter et je serai plus qu'heureux de rendre à César ce qui appartient à César).
Posez ces quatre questions pour chaque élément de conception que vous créez.
L'éthique doit faire partie du processus. Le processus d'élaboration d'un produit est long : recherche, conception, ingénierie, marketing. Mais il n'est jamais assez long pour qu'il soit impossible d'y intégrer l'éthique. Veillez à ce que l'approbation de la liste de contrôle éthique fasse partie du processus de production. Faites en sorte qu'elle soit facile à utiliser, de sorte qu'il n'y ait pas de friction dans son adoption. Voici une version modélisée de la liste de contrôle ci-dessus :
Lorsqu'un produit n'est pas conforme à la liste de contrôle, entamez une discussion avec l'équipe. Quels sont les compromis que l'entreprise est prête à faire ? L'impact négatif sur les clients en vaut-il la peine ? Si ce n'est pas le cas, quels sont les changements à apporter ?
Dans un monde idéal, le respect de l'éthique ne devrait pas seulement être le devoir des spécialistes du comportement, mais celui de l'ensemble du monde des produits : chefs de produit, concepteurs, responsables commerciaux. Mais il faut bien commencer quelque part, et où mieux commencer qu'en faisant le ménage chez soi ? Espérons qu'au fil des ans, à l'instar du "Design Thinking", le "Ethical Behavioral Design" deviendra un processus établi.
En attendant, nous nous battons pour l'éthique, une notification rouge à la fois !
References
1. Wikipédia. (n.d.). Robinson Crusoé. Wikipédia, l'encyclopédie libre. Consulté le 30 octobre 2020, à l'adresse suivante : https://en.wikipedia.org/wiki/Robinson_Crusoe
2. Congrès américain. (2019, 9 avril). Texte - S.1084 - 116e Congrès (2019-2020) : Loi sur la réduction des expériences trompeuses pour les utilisateurs en ligne. Bibliothèque du Congrès. https://www.congress.gov/bill/116th-congress/senate-bill/1084/text
3. Kelly, M. (2019, 9 avril). Les "schémas sombres" des grandes entreprises technologiques pourraient être interdits en vertu d'un nouveau projet de loi du Sénat. The Verge. https://www.theverge.com/2019/4/9/18302199/big-tech-dark-patterns-senate-bill-detour-act-facebook-google-amazon-twitter
4. David Evans. (2019, 11 mars). Evans DC Ethics of Behavioral Design [Vidéo]. YouTube. https://youtu.be/KvHRokv63-0
5. Szmigin, I., Carrigan, M. et McEachern, M. G. (2009). The conscious consumer : taking a flexible approach to ethical behaviour. International Journal of Consumer Studies, 33(2), 224-231.
About the Author
Preeti Kotamarthi
Preeti Kotamarthi est responsable des sciences comportementales chez Grab, la principale application de covoiturage et de paiement mobile en Asie du Sud-Est. Elle a mis en place la pratique comportementale au sein de l'entreprise, aidant les équipes de produits et de conception à comprendre le comportement des clients et à construire de meilleurs produits. Elle a obtenu une maîtrise en sciences du comportement à la London School of Economics et un MBA en marketing à FMS Delhi. Avec plus de six ans d'expérience dans le domaine des produits de consommation, elle a occupé diverses fonctions, allant de la stratégie et du marketing au conseil aux startups, y compris la cofondation d'une startup dans l'espace rural en Inde. Elle s'intéresse principalement à la popularisation du design comportemental et à son intégration dans le processus de conceptualisation des produits.
