Les algorithmes d'IA au travail : Comment utiliser l'IA pour surmonter les préjugés historiques ?
Les algorithmes d'IA deviennent la norme sans la confiance du public
Seuls 35 % des consommateurs sont à l'aise avec les entreprises qui utilisent des algorithmes d'IA pour interagir avec eux - et seuls 25 % ont déclaré qu'ils feraient confiance à une décision prise par un algorithme d'IA plutôt qu'à une personne en ce qui concerne leur qualification pour un prêt bancaire1.
Bien que le grand public garde une certaine appréhension, les algorithmes d'IA deviendront inévitablement le statu quo pour les entreprises : 25 % des entreprises ont déjà des processus sélectifs entièrement activés par des algorithmes d'IA.2 Et pour cause : ils sont privilégiés dans tous les secteurs grâce à leur vitesse de traitement efficace, leurs performances constantes et leur capacité à réduire le coût de la main-d'œuvre humaine.
References
- Cannon, J. (2019) "Un rapport montre que les consommateurs ne font pas confiance à l'intelligence artificielle". Fintech News,https://www.fintechnews.org/report-shows-consumers-dont-trust-artificial-intelligence/ ; "Ce que les consommateurs pensent vraiment de l'IA : une étude mondiale : Insights into the minds of consumers to help businesses reshape their customer engagement strategies," Pega PowerPoint.
- Best, B., Rao A., (2022). "Understanding algorithmic bias and how to build trust in AI," PWC https://www.pwc.com/us/en/tech-effect/ai-analytics/algorithmic-bias-and-trust-in-ai.html
- Angwin, J., Larson, J., Mattu S., Kircnur, L. (2016) Machine Bias : There's software used across the country to predict future criminals. Et il est biaisé contre les Noirs, ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
- Polli, F (2019) "Using AI to Eliminate Bias from Hiring", Harvard Business Review, https://hbr.org/2019/10/using-ai-to-eliminate-bias-from-hiring (en anglais).
- Dietvorst, B., Simmons, J. P. et Massey, C. (2015). Algorithm Aversion : Les gens évitent par erreur les algorithmes après les avoir vus se tromper. Journal of Experimental Psychology : General, 144 (1), 114-126.
- Dastin, J. (2018) Amazon Scraps Secret AI Recruiting Tool that Showed Bias Against Women, Reuters. https://www.diverseeducation.com/students/article/15114427/ai-in-admissions-can-reduce-or-reinforce-biases#:~:text=Admissions%20offices%20have%20been%20rolling,these%20emerging%20tools%20are%20used.
- Notre Dame Technology Ethics Center (2022), "New Anthology by ND TEC Director Kirsten Martin Explores 'Ethics of Data and Analytics'" Université de Notre Dame, https://techethics.nd.edu/news-and-events/news/new-anthology-by-nd-tec-director-kirsten-martin-explores-ethics-of-data-and-analytics/
- J. González, C. Cortina, J. Rodríguez (2019). Le rôle des stéréotypes de genre dans l'embauche : A Field Experiment, European Sociological Review, Volume 35, Issue 2, 187-204, https://doi.org/10.1093/esr/jcy055.
- Polli, F (2019) "Using AI to Eliminate Bias from Hiring", Harvard Business Review, https://hbr.org/2019/10/using-ai-to-eliminate-bias-from-hiring (en anglais).
- Chiappa, S. (2019). Path-Specific Counterfactual Fairness (Équité contrefactuelle spécifique au chemin). Actes de la conférence de l'AAAI sur l'intelligence artificielle, 7801-7808.
- McCracken, M (2020). Breaking Down Bias in Admissions, Kira Talent, https://blog.kiratalent.com/nine-forms-of-bias-in-admissions/
About the Authors
Ariel LaFayette
Ariel est une étudiante en doctorat de philosophie à l'Université de Toronto (UofT) et se spécialise dans l'herméneutique, la phénoménologie, la philosophie de la religion et l'histoire de la psychologie. Plus généralement, elle s'intéresse à la manière dont les questions posées par des érudits majeurs (Augustin, Kierkegaard, Gadamer, etc.) continuent d'influencer nos recherches sur la connaissance de soi, les limites de la raison et l'épanouissement personnel.
Turney McKee
Turney McKee est chef de projet au Decision Lab. Il est titulaire d'une maîtrise en biologie cellulaire et d'une licence en pharmacologie, toutes deux obtenues à l'Université McGill. Il s'intéresse aux systèmes de santé internationaux et aux politiques publiques. Avant de rejoindre The Decision Lab, Turney a travaillé en tant qu'analyste de la concurrence et de l'intelligence économique dans les secteurs de la santé et de la technologie.
