Le "dilemme social
Je me souviens de ce qui s'est passé. Je me suis réveillé un matin et j'ai vu un déluge de contenu sur mes fils de médias sociaux, tous sur la manipulation des médias sociaux. Les canaux Slack du bureau de la startup technologique où je travaille étaient en ébullition avec des discussions sur l'industrie technologique maléfique. Quelques mots à la mode ont été lancés dans les conversations : dopamine, collecte de données, algorithmes, schémas sombres. Apparemment, Netflix avait sorti un documentaire intitulé The Social Dilemma (Le dilemme social), qui explorait les impacts dangereux des réseaux sociaux et l'utilisation abusive de données et de concepts trompeurs pour manipuler les gens.
Il fallait que j'en sache plus. Mais comment faire ?
Vous pouvez partir quand vous le souhaitez, mais vous ne pouvez jamais...
Quelques semaines auparavant, j'avais décidé de désinstaller Netflix de mon téléphone. Je ne voulais pas que l'application reste là, comme un moyen facile d'accéder à des divertissements sans fin. À ma grande surprise, j'ai appris que Netflix était une application stockée sur mon téléphone, ce qui signifie que le fabricant et Netflix avaient décidé que l'application serait un élément permanent de mon appareil.
En d'autres termes, vous pouvez le désactiver à tout moment, mais vous ne pouvez jamais le quitter : Vous pouvez le désactiver à tout moment, mais vous ne pouvez jamais le quitter !
L'ironie de tout cela était trop forte pour moi. Apprendre l'existence d'un documentaire sur les effets néfastes des médias sociaux, via les médias sociaux. Regarder un documentaire sur la conception éthique sur un service de streaming qui ne me donne pas la possibilité de supprimer son application. Finir le documentaire et se voir recommander immédiatement 10 autres émissions similaires que j'aimerais, par les algorithmes mêmes que le documentaire vient de condamner.
En tant que spécialiste des sciences du comportement, j'aurais dû savoir qu'il ne fallait pas s'étonner.
Le problème, c'est que si Robinson Crusoé avait repéré un bateau en état de marche, il l'aurait pris et aurait quitté l'île. Pour ceux qui ne connaissent pas, Robinson Crusoé est le protagoniste d'un roman du même nom, publié pour la première fois en 1917, qui raconte l'histoire d'un naufragé qui a passé 28 ans sur une île déserte avant d'être secouru.1
Les entreprises sont comme Robinson Crusoé sur l'île : bloquées. Avec des finances qui doivent paraître saines, des entonnoirs de clients qui fuient et qui doivent être réparés, des investisseurs qui attendent des rendements et des clients qui veulent ce qu'il y a de mieux, les entreprises sont désespérément à la recherche de n'importe quelle solution qui les aidera à rester à flot.
Pour de nombreuses entreprises, un bateau est apparu sous la forme d'un design comportemental. Tous ces raccourcis qui semblent aider à résoudre certains de leurs problèmes, en augmentant l'engagement des clients, en augmentant le nombre de clients qui reviennent, et en résolvant tous les paramètres qui leur importent. Pourquoi ne pas en profiter ?
Je ne justifie pas le recours à la manipulation, mais j'affirme simplement que les connaissances en sciences du comportement qui existent déjà sont, pour utiliser un cliché, comme du dentifrice sorti d'un tube. Il est impossible de les reprendre, et tant qu'elles seront disponibles sans garde-fou, elles seront utilisées à mauvais escient.
Ce qui m'amène au point suivant : Qui est responsable de l'éthique dans le secteur privé ?
References
1. Wikipédia. (n.d.). Robinson Crusoé. Wikipédia, l'encyclopédie libre. Consulté le 30 octobre 2020, à l'adresse suivante : https://en.wikipedia.org/wiki/Robinson_Crusoe
2. Congrès américain. (2019, 9 avril). Texte - S.1084 - 116e Congrès (2019-2020) : Loi sur la réduction des expériences trompeuses pour les utilisateurs en ligne. Bibliothèque du Congrès. https://www.congress.gov/bill/116th-congress/senate-bill/1084/text
3. Kelly, M. (2019, 9 avril). Les "schémas sombres" des grandes entreprises technologiques pourraient être interdits en vertu d'un nouveau projet de loi du Sénat. The Verge. https://www.theverge.com/2019/4/9/18302199/big-tech-dark-patterns-senate-bill-detour-act-facebook-google-amazon-twitter
4. David Evans. (2019, 11 mars). Evans DC Ethics of Behavioral Design [Vidéo]. YouTube. https://youtu.be/KvHRokv63-0
5. Szmigin, I., Carrigan, M. et McEachern, M. G. (2009). The conscious consumer : taking a flexible approach to ethical behaviour. International Journal of Consumer Studies, 33(2), 224-231.
About the Author
Preeti Kotamarthi
Preeti Kotamarthi est responsable des sciences comportementales chez Grab, la principale application de covoiturage et de paiement mobile en Asie du Sud-Est. Elle a mis en place la pratique comportementale au sein de l'entreprise, aidant les équipes de produits et de conception à comprendre le comportement des clients et à construire de meilleurs produits. Elle a obtenu une maîtrise en sciences du comportement à la London School of Economics et un MBA en marketing à FMS Delhi. Avec plus de six ans d'expérience dans le domaine des produits de consommation, elle a occupé diverses fonctions, allant de la stratégie et du marketing au conseil aux startups, y compris la cofondation d'une startup dans l'espace rural en Inde. Elle s'intéresse principalement à la popularisation du design comportemental et à son intégration dans le processus de conceptualisation des produits.
