Le paradoxe de la personnalisation : concilier commodité et protection de la vie privée

Comme son nom l'indique, la personnalisation est l'expérience personnelle ou sur mesure créée par une entreprise pour un client, sur la base de sa connaissance de ce dernier. À l'ère du big data, nous connaissons tous bien la personnalisation : ouvrez n'importe quelle plateforme de médias sociaux et votre fil d'actualité a été créé spécifiquement pour vous, en fonction de vos centres d'intérêt et peut-être même de votre humeur du moment.

TikTok, en particulier, est connu pour son utilisation de puissants algorithmes de personnalisation afin de générer ses pages "pour vous" (familièrement appelées FYP), où les utilisateurs reçoivent un flux de contenu sélectionné spécifiquement pour eux. Ce niveau de personnalisation est à l'origine de la capacité de la plateforme à aspirer les utilisateurs (comme moi) dans une transe TikTok, souvent pendant des heures.

Sur Netflix, vous pouvez également trouver un pourcentage de correspondance pour chaque film en fonction de ce que vous avez regardé dans le passé, ce qui permet d'estimer la probabilité que vous aimiez un film ou une série en particulier. De même, sur Spotify, vous pouvez trouver une section "Basé sur vos écoutes récentes" qui vous recommande des chansons susceptibles de vous plaire. Cela améliore l'expérience du consommateur et lui fait gagner un temps considérable qu'il pourrait perdre à parcourir les milliers d'options de films ou de musique disponibles sur ces services de diffusion en continu.

En tant que personne souffrant d'indécision, je me réjouis de ces caractéristiques. Je suis ce que l'on appelle un maximisateur, c'est-à-dire quelqu'un qui cherche à prendre la meilleure décision possible, par opposition aux satisfaits, qui se cont^entent d'un choix "suffisant".1 Le fait de disposer d'une sélection restreinte me fait gagner du temps et m'épargne l'angoisse d'une surcharge de choix.

Dans un monde où la richesse en temps est la nouvelle richesse en argent, la technologie de la personnalisation est en plein essor. Mais comment cela fonctionne-t-il ? En un mot, la réponse est l'exploitation des données. Chaque clic sur un bouton en ligne peut être suivi, et ces informations sont extrêmement précieuses pour les organisations qui gagnent de l'argent en vendant (ou en faisant de la publicité) des produits ou des services aux consommateurs. Je suis sûr que vous connaissez ces fenêtres pop-up gênantes qui vous demandent votre accord pour les cookies, ces petits éléments d'informatⁱon que les sites web stockent sur votre ordinateur. Les sites web utilisent les cookies pour se souvenir de vous et vous identifier, mémoriser vos préférences et créer un contenu personnalisé.2

Les plateformes de médias sociaux stockent également des informations sur nous, comme le contenu avec lequel nous interagissons le plus, ce que nous aimons et où nous passons notre temps en ligne. Elles s'en servent pour proposer un contenu sur mesure dans notre fil d'actualité. Ouvrez mon Instagram et vous trouverez de magnifiques photos de plages balinaises ou de cabanes sur l'eau aux Maldives - oui, vous l'avez deviné, j'adore voyager. Faites défiler mon TikTok et vous trouverez des clips de chats hilarants à n'en plus finir, les dernières expositions à Londres et du latte art - c'est comme si TikTok savait que je viens d'acheter une machine à café.

Malgré toute la commodité et la rapidité que la personnalisation peut apporter, la technologie qui la sous-tend a également attiré sa part d'attention négative. À mesure que les capacités du big data se développent, il devient de plus en plus facile pour les produits technologiques de franchir la ligne qui sépare l'utile de l'effrayant.

Vous êtes-vous déjà demandé si votre téléphone vous écoutait pour vous envoyer des publicités personnalisées ? Mark Zuckerberg, PDG de Facebook, a assuré aux sénateurs américains, lors d'une audition de cinq heures au Congrès, que Facebook ne surveillait pas les conversations. Des allégations similaires ont été démenties par Instagram. Le fait que ces soupçons soient devenus suffisamment répandus pour susciter un tel niveau de réaction suggère que de nombreux utilisateurs sont au moins légèrement perturbés par la façon dont leurs appareils semblent les connaître.

Des inquiétudes similaires ont été exprimées au sujet du texte prédictif de Google, qui semble souvent savoir ce que vous voulez dire avant même que vous ne l'ayez tapé. La technologie de reconnaissance des émotions par l'IA (ERT) a le pouvoir de savoir quelle émotion vous ressentez, même si vous n'avez pas les mots pour l'exprimer. Bien que ces outils présentent de nombreux avantages - par exemple, dans le domaine médical, ils peuvent être utilisés pour détecter les patients les plus mal à l'aise - ils peuvent également porter atteinte à ^la vie privée de la population en général s'ils nous surveillent en permanence.3

Les produits qui utilisent des technologies de ce type à des fins d'hyperpersonnalisation peuvent souvent tomber dans le "fossé de la peur", lorsqu'un algorithme sait ce dont vous avez besoin, au moment précis où vous en avez besoin. Si vous utilisez la technologie assez souvent, votre profil numérique en ligne peut même vous connaître mieux que vous ne vous connaissez vous-même. Il connaît vos goûts, vos aversions et tout ce que vous avez jamais cherché. Cela soulève une question : Où se situe exactement la limite entre l'utile et l'invasif ?

Il est vrai que la technologie de personnalisation a le pouvoir de nous faire gagner du temps, mais elle a aussi le pouvoir de le consommer - et les entreprises en tirent souvent un bénéfice financier. Loin d'améliorer notre capacité à prendre les meilleures décisions pour nous-mêmes, les logiciels puissants et addictifs peuvent éroder notre libre arbitre en nous enfermant dans des boucles de gratification instantanée. Dans le pire des cas, les entreprises peuvent avoir l'impression d'utiliser nos profils numériques comme des poupées vaudou, nous incitant à acheter, à cliquer, à aimer ou à consommer du contenu sans jamais savoir qu'elles tirent sur nos leviers comportementaux pour nous influencer.

Il est extrêmement difficile de choisir de quitter ces plateformes, et même lorsque j'y parviens, je me retrouve régulièrement à lutter contre l'envie d'y retourner. En 2022, 47 % des Américains se considèrent comme "accros" à leur téléphone, et 74 % d'entre eux se sen^tent mal à l'aise lorsqu'ils laissent leur téléphone à la maison.4 Les secondes gagnées grâce à la technologie de personnalisation compensent-elles vraiment les heures potentielles passées à faire défiler des contenus personnalisés qui créent une forte dépendance ?

Tout cela est encore compliqué par les questions relatives à la sécurité des grandes quantités de données personnelles collectées auprès des consommateurs. Une enquête américaine sur la protection de la vie privée dans le commerce de détail, menée par Deloitte, a révélé que seul un cadre du commerce de détail interrogé sur cinq estime avoir fait un travail adéquat pour intégrer sa stratégie de protection de la vie privée dans sa stratégie globale d'entreprise ou d'unité commerciale.5 Ce n'est certainement pas très rassurant. Dans la même enquête, les dirigeants ont cité le manque de financement, la gestion inadéquate des données au sein de leur organisation et l'absence de réglementation gouvernementale claire comme autant de défis à relever dans la mise en œuvre d'une stratégie de protection de la vie privée des consommateurs.

En Europe, la réglementation GDPR protège les données des consommateurs. En revanche, aux États-Unis, il n'existe pas de mandat fédéral clair et il appartient à chaque État d'adopter des réglementations en matière de confidentialité des données, ce qui est source de confusion et d'inefficacité. Les enjeux sont importants lorsque notre profil numérique comprend des informations telles que nos adresses, nos données de géolocalisation, nos dossiers médicaux et juridiques, nos identifiants de connexion et l'historique de nos scores de crédit. La sécurité des données doit être un élément central des organisations, et pas seulement une réglementation qu'elles doivent suivre ou une "bonne chose à avoir".

Heureusement, les consommateurs peuvent exercer une certaine influence en favorisant les entreprises qui accordent la priorité à la sécurité des données et en forçant le marché à s'aligner sur nos valeurs en matière de protection de la vie privée. Ce type d'entreprises axées sur les consommateurs et la confiance leur permet de gérer facilement leurs paramètres de confidentialité, de personnalisation et de données ; elles sont transparentes quant à l'utilisation de leurs données ; elles donnent à leurs employés les moyens de défendre la protection des données de leurs clients ; et elles mettent en œuvre de solides mesures de cybersécurité dans leur infrastructure. Ces entreprises peuvent servir de modèle pour une gestion plus éthique des données.

La plupart des entreprises adoptent la technologie de personnalisation de manière opt-out, c'est-à-dire que les fonctionnalités personnalisées sont proposées par défaut. Un élément clé du comportement humain est notre tendance à nous en tenir à la valeur par défaut ou à suivre le courant, un exemple de biais cognitif connu sous le nom de biais de statu quo. Bien que le choix de se désengager nous appartienne, la difficulté de trouver où se trouvent les paramètres, associée à la tendance au statu quo, fait que la grande majorité des gens activent la personnalisation par défaut. Le passage à une configuration "opt-in" offre une approche plus éthique, car il oblige les gens à prendre une décision consciente sur les paramètres personnalisés qui leur conviennent le mieux.

Un autre ajustement simple que les organisations peuvent faire pour améliorer l'éthique des fonctions de personnalisation et renforcer la confiance des consommateurs est le consentement éclairé. Le consentement éclairé en ce qui concerne la collecte de données donne à l'utilisateur un aperçu des données qui sont collectées auprès de lui, de l'utilisation qui en est faite et des risques qui y sont associés, afin qu'il puisse prendre des décisions éclairées concernant ses propres données. Ces informations doivent être présentées en termes simples et concis, en évitant le jargon de la science des données et les pages et les pages de petits caractères. Le consentement éclairé concernant les fonctions de personnalisation devrait figurer dans les fenêtres contextuelles de gestion des données existantes.

En fin de compte, les données personnelles doivent être traitées comme la propriété de leur propriétaire et doivent être protégées avec la même vigilance que n'importe quel autre actif. Les entreprises devraient donc toujours nous permettre d'accéder à nos propres données et nous informer de l'utilisation qui en est faite. Malheureusement, ce n'est souvent pas le cas et lorsque c'est le cas, comme le droit d'accès dans le cadre des règlements GDPR, cela peut souvent impliquer un processus long et dissuasif pour obtenir l'information.

En résumé, la technologie de personnalisation est extrêmement utile pour gagner du temps - et après tout, le temps est notre bien le plus précieux. Elle peut alléger le fardeau des choix associés à la vie moderne. Elle peut contribuer à établir une relation entre l'entreprise et le client, en nous donnant l'impression d'être un client précieux et en renforçant notre sentiment de satisfaction. D'un autre côté, la technologie de personnalisation peut être utilisée pour la publicité ciblée prédatrice et peut rendre les plateformes très addictives.

Comme pour de nombreux algorithmes modernes, le fonctionnement interne de la technologie de personnalisation est souvent ambigu et peut être intrusif. Si nous acceptons la personnalisation pour des raisons de commodité dans certains aspects de notre vie, nous devons également être conscients des fins plus sinistres auxquelles nos données pourraient être utilisées à l'avenir, telles que l'augmentation de nos primes d'assurance et le refus potentiel de nous accorder des prêts ou des hypothèques.

Peut-être que ces fenêtres pop-up gênantes qui nous demandent notre consentement ne sont pas si mauvaises après tout, puisqu'elles servent à protéger la confidentialité de nos données. Vous arrêterez-vous une seconde avant de cliquer sur "Accepter tout" la prochaine fois que vous verrez l'une d'entre elles ? Accepterez-vous ou refuserez-vous les fonctions personnalisées ?