L'IA et l'avenir de la détection de mensonges

Imaginez que quelqu'un puisse collecter non seulement des données sur un vêtement indiquant le rythme cardiaque d'une personne (ou le sien), mais aussi des données continues sur les expressions faciales à partir de séquences vidéo. Imaginez que vous puissiez utiliser ces données, avec un peu d'entraînement, pour analyser les conversations et les interactions de votre vie quotidienne - en rejouant celles qui vous paraissent suspectes avec un regard plus attentif. De plus, votre entourage pourrait faire de même : imaginez qu'un ami, ou une entreprise, puisse utiliser vos données passées pour différencier de manière fiable vos vérités et vos contrevérités, les questions importantes et les choses dont vous vous souciez le plus.

Cela signifie une toute nouvelle boîte à outils pour les enquêteurs, les publicitaires, les prudents, les paranoïaques, les justiciers et tous ceux qui ont accès à l'internet. Chacun d'entre nous devra savoir et comprendre comment gérer et naviguer dans ce nouvel enregistrement public de nos réponses, basé sur des données.

La question qui se pose pour les années à venir n'est pas de savoir si le mensonge sera effacé - bien sûr que non - mais plutôt de savoir comment ces nouveaux outils doivent être utilisés dans la recherche de la vérité. En outre, compte tenu des nombreuses possibilités de mauvaise interprétation et d'utilisation abusive de ces technologies, dans quels contextes faut-il les mettre à disposition ou en faire la promotion ?

Les films se moquent souvent du désir d'avoir une fenêtre dans le cerveau de quelqu'un d'autre, de se sentir assuré que ce qu'il dit décrit ce qu'il ressent, que ce qu'il ressent décrit ce qu'il va faire, et que ce qu'il va faire démontre ce que tout cela signifie pour lui. Bien sûr, nous savons tous que le monde n'est pas si simple et que l'on peut tomber dans le piège de la recherche de conseils en ligne. Que se passe-t-il lorsque ces conseils sont ancrés dans une vague de données nouvellement disponibles, mais mal comprises ?

Que se passera-t-il, par exemple, lorsque ces nouvelles données seront utilisées dans le cadre du processus d'embauche, les candidats étant éliminés par un logiciel destiné à évaluer s'ils ont menti au cours d'un entretien et sur quoi ? Que se passera-t-il lorsque le même processus sera utilisé pour la sélection des écoles, la sélection des jurés et d'autres types d'entretiens, ou lorsque les résultats seront transmis à des employeurs potentiels ? À mesure que le nombre de ces scénarios potentiels augmente, la question que nous devons nous poser est la suivante : quand notre rythme cardiaque devient-il une information privée ?

La connaissance de nos réactions internes est-elle elle-même privée, simplement parce que, jusqu'à présent, seul un petit segment de personnes perspicaces pouvait savoir ce qui se passait ? Les communautés s'organisent souvent autour des chemins de moindre résistance, créant ainsi un nouveau fossé entre ceux qui comprennent et peuvent naviguer dans ce nouveau registre numérique, et ceux qui ne le peuvent pas.

Imaginez des thérapeutes enregistrant activement la dissonance cognitive, des émissions d'information identifiant en temps réel si un invité croit ou non ce qu'il dit, des entreprises recadrant les entretiens avec une analyse faciale active, des interrogatoires rapides des services de sécurité aux frontières. La portée croissante des capteurs nous éloigne de la post-vérité pour nous faire entrer dans l'ère du post-mensonge, ou plutôt pour mettre fin à notre confort avec les façons dont nous mentons actuellement. Comme pour toute chose, les avantages ne seront pas ressentis de la même manière.

Nous pourrions même imaginer l'évolution de la détection du mensonge vers des interfaces cerveau-ordinateur - où le droit à la vie privée doit alors être discuté à la lumière du moment où nous pouvons considérer nos pensées comme privées.

Dans les salles d'audience, si l'on peut distinguer de manière fiable la différence entre les réactions lors d'un mensonge et lors de la vérité, les témoins ont-ils le droit de garder cette information privée ? Tous les témoignages doivent-ils se faire dans l'anonymat le plus total ? Des chercheurs de l'université du Maryland ont mis au point DARE, le moteur d'analyse et de raisonnement de la tromperie, qui, selon eux, n'est qu'à quelques années d'une identification quasi parfaite de la tromperie.

Comment devrions-nous alors penser au 5e amendement de la constitution américaine, comment devrions-nous aborder le droit de ne pas s'incriminer soi-même ? Avec l'avènement de ces technologies, c'est peut-être la nature même de la salle d'audience qui devrait changer. Les témoins ne sont pas soumis au détecteur de mensonges à la barre pour une bonne raison : il n'est pas fiable - mais rien ne pourrait empêcher une personne équipée d'un système d'analyse portable de donner ses signes vitaux ou d'analyser un flux vidéo à distance, et de publier les résultats pour le tribunal de l'opinion publique. Comment notre comportement passé devrait-il être enregistré et compris ?

La façon dont nous concevons les nudges, les espaces publics, les situations sociales, les offres d'emploi, les relations personnelles, tout cela dépend d'un équilibre de conventions sociales par lesquelles nous nous permettons - et nous permettons aux autres - de cacher des informations. Or, que faire d'une technologie qui promet d'exposer ces informations cachées ? Un monde fondé sur des vérités complètes est-il préférable à celui que nous connaissons aujourd'hui ? Aurons-nous la possibilité de décider ?

Les progrès de l'IA et la démocratisation de la science des données font de l'hypothétique problème du type de monde que nous préférons une discussion bien trop réelle, une discussion que nous devons avoir rapidement. Sinon, nous n'aurons pas notre mot à dire pour déterminer ce qui nous attend.