Les algorithmes d'IA au travail : Comment utiliser l'IA pour surmonter les préjugés historiques ?

Compte tenu de ses avantages, il est impossible de ralentir le rythme de la révolution de l'IA. Toutefois, nous devons nous assurer que les algorithmes d'IA génèrent des résultats équitables et être transparents sur la manière dont ils obtiennent ces résultats. Il existe deux façons d'exploiter les avantages des algorithmes d'IA dans les processus de sélection tout en promouvant l'équité :

• L'anonymat et l'efficacité des algorithmes d'IA peuvent réduire l'influence des stéréotypes qui prévalent dans la prise de décision humaine.
• Nos connaissances sur les stéréotypes peuvent améliorer les algorithmes d'IA, qu'il s'agisse de la manière dont ils exploitent les données ou de la prévention de la perpétuation des résultats historiques.

Il n'est pas étonnant que le grand public se sente précaire à l'idée que des algorithmes d'IA puissent lui dicter son destin. Les titres sur les algorithmes sélectifs basés sur l'IA vont de l'optimisme forcené au désarroi :

• Le mal : Plusieurs journaux ont publié des articles sur un algorithme d'IA utilisé par le système de justice pénale de Floride qui identifiait à tort des accusés afro-américains comme étant "à haut risque" à un taux presque deux fois plus éle^vé que celui des accusés blancs mal étiquetés.3
• Le bon côté des choses : Les experts ont prédit que les algorithmes d'IA pourraient potentiellement éradiquer les biais cognitifs qui ont désavantagé les dem^andeurs d'emploi historiquement marginalisés.4

Ces représentations contradictoires envoient des signaux contradictoires sur la fiabilité des algorithmes d'IA, ce qui suscite un malaise quant à leur utilisation à grande échelle.

Même lorsque les algorithmes d'IA sont performants, nous sommes plus susceptibles de perdre confiance dans les prévisionnistes algorithmiques que dans les prévisionnistes humains, même s'ils commettent des erreurs au même rythme.5 Accroître la confiance du public dans les algorithmes d'IA nous permet de tirer parti de leurs nombreux avantages (par exemple, l'efficacité, la rentabilité). Néanmoins, l'instauration de la confiance reste un défi complexe, surtout si l'on considère l'utilisation hasardeuse des algorithmes d'IA par les organisations dans le passé.

Lorsqu'on parle d'algorithmes, un "biais" fait référence à une pondération disproportionnée en faveur d'un résultat particulier sur la base de certaines variables. Les algorithmes présentent des biais indésirables lorsqu'ils sont formés à partir de données antérieures influencées par des préjugés historiques.

Par exemple : En 2018, Amazon a découvert que son outil de recrutement basé sur l'IA déclassait involontairement les CV comprenant le mot "femmes" et, par conséquent, négligeait toutes les candidates issues de c^ollèges exclusivement féminins.6 L'algorithme a été conçu pour sélectionner les candidats en fonction de ceux qui ont historiquement réussi. L'algorithme a été conçu pour sélectionner les candidats sur la base de ceux qui ont réussi dans le passé. Par conséquent, l'algorithme a été réglé pour identifier les candidats masculins comme préférables, même si leur expérience professionnelle et leur niveau d'éducation étaient identiques à ceux de leurs concurrentes.

En fin de compte, les algorithmes d'IA sont à la fois un moyen de perpétuer les préjugés historiques et un outil utile pour les surmonter. Pour éviter le premier résultat, il est impératif que les organisations évaluent les préjugés historiques intégrés dans leurs ensembles de données depuis des décennies. Kirsten Martin de la Mendoza School of Business de l'Université de Notre Dame, "les données ne ^sont pas exemptes des péchés du passé "7.

Les algorithmes d'IA peuvent être responsables de résultats injustes, mais les humains ne sont pas meilleurs. Nous sommes enclins aux stéréotypes parce que nos mécanismes cognitifs se sont adaptés pour s'appuyer sur des heuristiques afin de synthétiser rapidement les informations.

Les stéréotypes sont préjudiciables aux processus de sélection parce qu'ils favorisent les groupes démographiques historiquement privilégiés. Les évaluateurs humains favorisent les candidats masculins par rapport aux candidates ^féminines, bien qu'ils aient la même expérience professionnelle.8

Les biais algorithmiques ne créent pas de résultats inédits et néfastes, ils ne font qu'amplifier les tendances observées chez les décideurs humains.

Au cours des étapes des processus de sélection où les stéréotypes sont les plus répandus, telles que les étapes de présélection, les algorithmes d'IA peuvent être mis en œuvre de manière stratégique. Les algorithmes d'IA peuvent rendre anonymes les informations démographiques des candidats et traiter les données de manière plus efficace qu'un être humain.

La prise de décision humaine multivariable est inefficace et nous sommes enclins aux stéréotypes lorsque le temps nous est compté. Nous sommes également susceptibles d'être submergés par l'ampleur des informations à traiter. Sous cette pression, les recruteurs limitent souvent leur examen du vivier de candidats aux 10 à 20 % de candidats les plus prometteurs, c'est-à-dire ceux qui viennent des campus de l'Ivy League ou des prog^rammes de recommandation des employés.9

Dans le passé, le filtrage des candidats sur la base de ces attributs stéréotypés a eu tendance à favoriser les candidats les moins diversifiés. En revanche, les algorithmes de sélection de l'IA permettent d'évaluer les candidats sur la base de variables pertinentes (c'est-à-dire la qualité de leur travail, les références pertinentes) à chaque étape du processus. Dans ce cas, les algorithmes d'IA offrent une alternative plus équitable aux évaluateurs humains soumis à des contraintes de temps et contraints de réduire le nombre de candidatures sur la base de caractéristiques stéréotypées.

La recherche en sciences du comportement peut aider à identifier les caractéristiques superficielles que nous avons tendance à privilégier et à garantir que les algorithmes sélectionnent les candidats à l'aide de variables pertinentes. Bien que les algorithmes d'IA soient puissants et efficaces, ils ne peuvent pas nous dire ce qui constitue une mesure ou un résultat "équitable". C'est là que la discussion interdisciplinaire entre en jeu.

Outre l'optimisation de l'efficacité et l'anonymat, les algorithmes d'IA peuvent mettre en lumière les préjugés indésirables qui se perpétuent systématiquement au sein des organisations. Les biais cognitifs sont difficiles à identifier car la façon dont une personne arrive à un résultat particulier ne peut pas être systématiquement analysée et mesurée quantitativement.

Par ailleurs, les résultats produits par les algorithmes d'IA peuvent être examinés avec un haut degré de précision grâce à l'analyse des données. Par exemple, si le résultat d'un candidat est influencé par sa race - alors que tous les autres éléments sont considérés comme égaux - ⁱl y a des preuves de partialité algorithmique.10

Il existe déjà des outils accessibles qui peuvent aider les organisations à analyser leurs données d'entraînement avant la création d'algorithmes d'IA : Know Your Data de Google permet aux chercheurs et aux développeurs de produits d'identifier les biais indésirables latents dans leurs ensembles de données à l'aide de critères de base (par exemple, la "diversité des images"). Les connaissances en sciences du comportement peuvent aider les organisations à analyser le type de résultats biaisés qu'elles sont susceptibles d'observer, puisque les biais de la prise de décision humaine ont déjà été codifiés dans les données historiques.

La capacité d'analyse rigoureuse des résultats algorithmiques offre un avantage significatif par rapport à la prise de décision humaine.

Nous sommes souvent réticents à admettre que nos décisions sont influencées par des biais cognitifs. Selon une enquête, 97 % des comités d'admission d'universités prestigieuses reconnaissent l'importance d'une admission équitable, mais moins de la moitié d'entre eux pensent que les préjugés peuv^ent être un facteur dans leur propre processus d'admission.11

Les algorithmes d'IA sont avantageux parce qu'ils peuvent révéler le biais systémique par des preuves quantitatives, de sorte que nous n'avons pas à compter sur les gens pour réaliser les conséquences de leur prise de décision biaisée des dizaines d'années plus tard. Les algorithmes d'IA peuvent y parvenir en fournissant un retour d'information aux développeurs en temps réel.

Lors de la mise en œuvre d'algorithmes d'IA dans les processus de sélection, il est impératif d'atténuer à tout prix les préjugés systématiques, qu'ils soient "cognitifs" ou "algorithmiques". Nous pouvons accroître la confiance du public dans les algorithmes d'IA en rendant anonymes les informations biographiques des candidats afin d'éviter l'influence des stéréotypes, et en nous attaquant aux biais algorithmiques en mesurant quantitativement la manière dont les préjugés historiques affectent les données d'entraînement.

Le Decision Lab est un cabinet de conseil comportemental qui étudie comment la recherche en sciences comportementales peut promouvoir le bien social. Si vous souhaitez savoir comment promouvoir l'équité par l'adoption d'algorithmes d'IA, veuillez nous contacter pour en savoir plus sur nos services.