Apprentissage profond

L'idée de base

Grâce aux progrès réalisés dans les domaines de la technologie, de l'ingénierie et de la science, nous commençons à construire des machines capables d'imiter avec plus de précision et de succès l'intelligence humaine. L'intelligence artificielle continue d'évoluer et suscite à la fois de l'enthousiasme et des craintes.

L'intelligence artificielle est le domaine général dans lequel on apprend aux ordinateurs à imiter les schémas de pensée humains, qui peuvent être décomposés en différentes techniques. Les sous-groupes de l'intelligence artificielle sont l'apprentissage automatique et l'apprentissage profond.

L'apprentissage en profondeur est une technique dans laquelle les machines sont programmées de la même manière que le cerveau humain. Tout comme le cerveau humain apprend par l'expérience, lorsque les machines utilisent la technique de l'apprentissage en profondeur, elles utilisent de grandes quantités de données pour développer un algorithme. Par exemple, les assistants personnels à commande vocale, comme Siri sur votre téléphone, développent un algorithme en apprenant à partir d'exemples. Afin de répondre de manière appropriée aux demandes humaines, les algorithmes sont alimentés par des exemples de voix humaines formulant des demandes.1

L'intégration de l'intelligence générale, de l'intelligence corporelle, de l'intelligence émotionnelle, de l'intelligence spirituelle, de l'intelligence politique et de l'intelligence sociale dans les systèmes d'IA fait partie des futures recherches sur l'apprentissage profond.


- Amit Ray, auteur indien et pionnier du mouvement de l'intelligence artificielle compassionnelle, dans son livre "Compassionate Artificial Intelligence "2.

Termes clés

Intelligence artificielle : technique permettant à une machine de reproduire le comportement humain. Il s'agit de la science et de l'ingénierie des machines qui imitent la résolution de problèmes et la prise de décision chez l'homme.3

Apprentissage automatique : technique permettant d'obtenir une intelligence artificielle à l'aide d'algorithmes et de données. Il a permis de jeter les bases de l'apprentissage profond.

Deep Learning : un type d'intelligence artificielle dans lequel les machines sont basées sur la structure et le fonctionnement du cerveau humain.

Connectionnisme : théorie de l'intelligence artificielle qui tente de comprendre comment les gens apprennent et comment la mémoire fonctionne en examinant et en cartographiant le cerveau au niveau neuronal.4

Intrants inhibiteurs : Une entrée qui a un effet maximal sur la décision prise. Indépendamment des autres entrées, si celle-ci est présente, un résultat particulier se produira. Par exemple, une entrée comme le chatouillement peut avoir la priorité sur toutes les autres entrées et vous faire automatiquement rire. Elles sont dites inhibitrices parce qu'elles empêchent les autres entrées d'avoir de l'importance.5

Les entrées excitatrices : Ces entrées ne provoquent pas nécessairement en elles-mêmes le déclenchement d'une sortie, mais lorsqu'elles sont combinées à d'autres, elles peuvent provoquer l'apparition d'une sortie.5

Fonction d'activation : les canaux de formule, qui se trouvent entre l'entrée et la sortie d'une machine, utilisés pour déterminer la sortie.5

Machine de Turing : un modèle mathématique qui réduit un dispositif informatique à ses éléments essentiels.6 Lorsqu'il s'agit d'apprentissage profond, cela signifie qu'il réduit le cerveau à sa structure logique essentielle, à savoir l'allumage des neurones.

Perceptrons : un type de réseau neuronal artificiel étudié par Frank Rosenblatt.

Rétro-propagation d'erreur : un algorithme développé par Rosenblatt qui a compris que les modèles d'apprentissage profond devaient incorporer à la fois une rétroaction et un feedforward. Lorsqu'un ordinateur apprend, les entrées qui n'aboutissent pas à la sortie souhaitée sont toujours utiles car elles constituent une forme de retour d'erreur.7

L'histoire

Les machines dotées de capacités semblables à celles de l'homme sont un sujet d'intérêt et de discussion depuis que la science-fiction leur a donné vie au milieu du 20e siècle. Sur le plan académique, l'apprentissage profond a d'abord été lié aux recherches menées par Walter Pitts et Warren McCulloch. Walter Pitts était un logicien qui travaillait dans le domaine des neurosciences et Warren McCulloch était un neurophysiologiste et un cybernéticien (spécialiste de la science des communications dans les machines).8

En 1943, Pitts et McCulloch ont créé un modèle informatique basé sur les réseaux neuronaux du cerveau. Ils quittent l'université de Chicago pour s'installer au Massachusetts Institute of Technology, où ils travaillent dans ce que l'on considère aujourd'hui comme le premier département de sciences cognitives. Ils ont conçu une machine qui imite la fonction d'un neurone biologique. Un neurone reçoit un signal par sa dendrite, le traite par le soma, puis le transmet en sortie par une structure en forme de câble appelée axone. L'axone est connecté à d'autres neurones pour créer une sorte de réponse. Nos organes sensoriels, tels que nos yeux, interagissent avec l'environnement et reçoivent un signal d'entrée, le traitent et émettent un signal de sortie.5

Par exemple, lorsque nous regardons un humoriste, notre cerveau reçoit l'information - la blague - la traite - détermine si elle est drôle - et développe ensuite une réponse - le rire. Pitts et McCulloch ont développé une machine basée sur ce processus cérébral dans leur article "A Logical Calculus of Ideas Immanent in Nervous Activity", et leur modèle est devenu connu sous le nom de neurone M-P.5

Le neurone M-P a été révolutionnaire en tant qu'un des premiers exemples d'apprentissage profond. Il s'agissait d'un modèle simple car il utilisait une fonction d'entrée binaire, où seules deux entrées pouvaient se produire simultanément. En 1958, Frank Rosenblatt, un psychologue américain, a proposé un nouveau modèle : le modèle classique du perceptron qui utilisait le neurone artificiel. Son modèle introduisait davantage de poids, certaines entrées pouvant avoir un impact plus important que d'autres sur le résultat. Les entrées peuvent être soit inhibitrices, et supplanter toutes les autres entrées, soit excitatrices. 5

Au fil des ans, des logiciens, des neuropsychologues et des psychologues ont continué à affiner le modèle et à améliorer les systèmes d'apprentissage profond, ce qui a permis aux algorithmes des machines et des ordinateurs de se rapprocher de plus en plus de l'esprit humain. Selon Terrence Sejnowski, un neuroscientifique qui a joué un rôle important dans la création de l'apprentissage profond, c'est en 2012, lors d'une conférence sur l'intelligence artificielle, que l'apprentissage profond est devenu populaire. Lors de cette conférence, l'informaticien Geoffrey Hinton a montré qu'il était possible de prendre un grand ensemble de données, appelé ImageNet, comprenant 10 000 catégories et 10 millions d'images, et que l'apprentissage profond était capable de classer ces images 20 % plus efficacement que l'apprentissage automatique.9

Les personnes

Walter Pitts

Logicien qui a commencé à travailler dans le domaine des neurosciences à l'adolescence. Pionnier de la théorie cybernétique, il a cherché à utiliser la logique pour schématiser la fonctionnalité du cerveau humain. En comprenant les opérations fondamentales de la logique, telles que les conjonctions (et), les disjonctions (ou) et la négation (pas), il pensait pouvoir comprendre la manière dont le cerveau humain prenait des décisions. Il pensait que la configuration des neurones dans notre cerveau était binaire : soit les cellules se déclenchent et produisent une réponse, soit elles ne le font pas. Grâce à cette théorie, Pitts a travaillé avec McCulloch pour développer le neurone M-P, le premier modèle d'apprentissage profond.10

Warren McCulloch

Neurophysiologiste qui a abordé le domaine par le biais du connexionnisme. Avec Pitts, Mculloch a développé le premier modèle d'apprentissage profond en considérant le cerveau comme une machine à calculer. McCulloch a décrit son processus comme la transformation du cerveau humain en une machine de Turing.4

Frank Rosenblatt

Informaticien américain travaillant au Cornell Aeronautical Laboratory, il a fait des percées majeures dans le domaine de l'intelligence artificielle. Grâce à des simulations informatiques et à une analyse mathématique détaillée, il a étudié les perceptrons et s'est rendu compte que le cerveau était un réseau multicouche, et non un réseau binaire à deux couches. Il a également mis au point l'algorithme de rétropropagation de l'apprentissage profond.11

Terrence Sejnowski

Neuroscientifique informatique américain et pionnier de l'étude des algorithmes d'apprentissage. Dans les années 1980, il a remis en question la logique et le type de symbole de l'apprentissage automatique que l'intelligence artificielle utilisait alors. Son livre, The Deep Learning Revolution, montre comment l'apprentissage profond est passé d'un intérêt académique limité à une technologie perturbatrice intégrée dans tous les aspects de notre vie.12

Geoffrey Hinton

Psychologue cognitif et informaticien britanno-canadien, surtout connu pour ses travaux sur les réseaux de neurones artificiels utilisés dans l'apprentissage profond. Dans le monde de l'informatique, un concours a été lancé en 2009 sous le nom d'ImageNet, qui mettait au défi les équipes de construire un ordinateur capable de reconnaître 1 000 objets. Pendant trois ans, aucune équipe n'a réussi, mais en 2012, Hinton et son équipe ont finalement mis au point un ordinateur fonctionnant selon le principe de l'apprentissage profond et capable de reconnaître avec précision plus de 10 millions d'objets.13

Conséquences

L'apprentissage en profondeur consiste à comprendre le cerveau comme un réseau neuronal, ce qui nous permet de créer des machines qui imitent les mêmes algorithmes que notre cerveau.

Avant l'apprentissage profond, les informaticiens ont tenté de parvenir à l'intelligence artificielle grâce à l'apprentissage automatique. Avec l'apprentissage automatique, les humains doivent programmer des systèmes avec des algorithmes pour vérifier des éléments spécifiques lors de l'analyse des données et déterminer le résultat approprié. Par exemple, si vous voulez qu'une machine fasse la différence entre des pommes et des oranges, vous devez saisir les différentes caractéristiques des pommes et des oranges. Vous développeriez un algorithme pour le système d'apprentissage automatique, tel que "si rouge et/ou avec une tige et/ou une surface brillante, alors pomme". Cela signifie que l'apprentissage automatique ne peut être utilisé que pour trouver des caractéristiques préprogrammées et qu'il n'aide à analyser les données qu'avec un objectif spécifique et étroit.14

Dans le cas de l'apprentissage profond, il n'est pas nécessaire de programmer les caractéristiques dans un algorithme, car il développe son propre algorithme après avoir analysé de grandes quantités de données. La machine apprend en traitant les données par l'intermédiaire de son réseau neuronal, sans intervention humaine.14

Si un ordinateur était programmé selon l'apprentissage automatique et qu'il rencontrait une pomme à l'aspect inhabituel, il pourrait ne pas la reconnaître comme telle, car il a été programmé pour ne regarder et ne trier que sur la base de trois caractéristiques : la couleur, le pédoncule et la surface brillante. L'apprentissage en profondeur, qui a créé son propre système après avoir rencontré des centaines de pommes, est plus susceptible dtre en mesure d'identifier une pomme qui présente des caractéristiques variables ou atypiques.14 L'apprentissage en profondeur est d'autant plus performant qu'il rencontre davantage de données, alors que l'apprentissage automatique est moins performant parce qu'il n'est pas aussi attentif aux variables des données.15

L'apprentissage profond a révolutionné les capacités des ordinateurs. La reconnaissance faciale et la détection d'objets à partir de photographies ou de vidéos sont possibles grâce à l'apprentissage profond. Les véhicules automatiques - sans conducteur - sont également possibles grâce à l'apprentissage profond. Siri, Alexa ou Hey Google sont également possibles grâce à l'apprentissage profond ! Les possibilités sont infinies.15

Controverses

L'apprentissage en profondeur permet aux machines de traiter davantage de données et de décider d'une réponse appropriée même en présence de variables, ce qui est censé les rendre plus "intelligentes" qu'un algorithme préprogrammé. Cependant, comme l'apprentissage profond signifie que les machines apprennent d'elles-mêmes sans intervention humaine, l'apprentissage du résultat approprié pour chaque donnée nécessite beaucoup de pratique. Pour que l'apprentissage profond soit réellement plus performant que l'apprentissage automatique, les ordinateurs doivent rencontrer un grand nombre de données pour former des chemins neuronaux entre une entrée et un résultat souhaité.15

Étant donné que l'apprentissage en profondeur nécessite de grandes quantités de données, il peut également s'avérer très coûteux. Le modèle de données complexe nécessite des machines à la pointe de la technologie qui coûtent très cher.15 Cependant, avec les progrès technologiques, les ordinateurs et autres machines d'intelligence artificielle deviennent de moins en moins chers, alors que la main-d'œuvre humaine devient de plus en plus coûteuse. Étant donné que l'apprentissage profond ne nécessite pas de programmation ou d'intervention humaine, on peut affirmer qu'à long terme, il est en fait moins cher.9

Analyse de l'imagerie médicale

Pour déterminer si quelque chose ne va pas grâce à l'imagerie médicale, les ordinateurs doivent être capables d'analyser les images et d'identifier s'il y a quelque chose d'anormal dans l'image. Cependant, avant l'apprentissage profond, ces ordinateurs devaient être programmés pour savoir ce qu'ils devaient rechercher, ce qui leur donnait une tâche très limitée. Ils pouvaient être programmés pour trouver des traces d'une maladie spécifique, mais s'il y avait une anomalie extérieure à cette maladie, ils classeraient l'image médicale comme normale. Les radiologues devraient savoir exactement ce qu'ils recherchent pour savoir quel algorithme programmer.16

C'est là qu'intervient l'apprentissage profond, qui peut s'avérer particulièrement utile pour l'analyse des radiographies du thorax. Il existe une myriade d'anomalies dans les radiographies du thorax, ce qui, selon les chercheurs en intelligence artificielle de Google, "rend impossible la détection de toutes les conditions possibles en construisant plusieurs systèmes distincts, chacun d'entre eux détectant une ou plusieurs conditions préétablies". 16

C'est pourquoi les chercheurs en intelligence artificielle de Google ont mis au point un système d'apprentissage profond capable de détecter si une radiographie pulmonaire est anormale ou non.16 Même si ce système ne nous informe pas exactement de ce qui ne va pas, il permet aux radiologues de savoir quels cas nécessitent leur attention et quels cas peuvent être exclus, ce qui accélère le processus clinique. Il n'est plus nécessaire d'effectuer des tests, les uns après les autres, les uns après les autres. Un seul test suffit pour détecter un signal d'alarme et enquêter en conséquence.

Alors, comment les chercheurs ont-ils construit un système d'apprentissage profond fiable, capable de détecter des anomalies dangereuses, mais qui n'a pas décelé d'anomalies bénignes ? Les ingénieurs spécialisés dans l'apprentissage profond sont souvent confrontés au problème de la sensibilité de leurs machines à des facteurs non pertinents. Par exemple, un système d'apprentissage profond conçu à des fins médicales pour la détection du cancer de la peau a commencé à repérer des marques de règle sur la peau et à classer ces images comme cancéreuses16.

La réponse se trouve dans le big data : plus il y a de données, meilleur est le système d'apprentissage en profondeur. Les chercheurs ont construit le système en utilisant 250 000 radiographies provenant de cinq hôpitaux en Inde, puis ils ont évalué sa précision pour les scanners provenant d'autres pays en procédant à des recoupements avec des radiographies provenant de Chine et des États-Unis16.

Si les recherches de Google ne rendent pas encore les radiologues obsolètes, leur système est assurément un outil utile en termes d'efficacité et de précision.

Contenu connexe de TDL

Apprentissage automatique et interventions personnalisées : David Halpern

Si vous êtes curieux d'en savoir plus sur l'apprentissage automatique, le système d'intelligence artificielle à l'origine de l'apprentissage profond, cet épisode du podcast est fait pour vous. David Halpern, PDG de l'équipe Behavioral Insights, évoque l'avenir des sciences du comportement, la manière dont l'apprentissage automatique est lié aux sciences du comportement et la manière dont il permet des interventions personnalisées, ce qui, selon lui, constitue l'avenir des sciences du comportement.

Algorithmes pour une prise de décision plus simple (1/2) : Le cas des prothèses cognitives

L'apprentissage profond externalise les fonctions cognitives humaines vers les ordinateurs et les machines. Il imite et renforce nos propres capacités de prise de décision en facilitant l'analyse des données. La prise de décision algorithmique, c'est-à-dire l'analyse déployée pour prendre de meilleures décisions fondées sur des données, est apparemment omniprésente. Dans cet article en deux parties, notre collaborateur Jason Burton explore la manière dont l'apprentissage profond et la prise de décision algorithmique pourraient être utilisés comme des outils qui aident ou étendent nos capacités cognitives.

Sources d'information

  1. Marr, B. (2018, 1er octobre). Qu'est-ce que l'apprentissage profond de l'IA ? Un guide simple avec 8 exemples pratiques. Forbes. https://www.forbes.com/sites/bernardmarr/2018/10/01/what-is-deep-learning-ai-a-simple-guide-with-8-practical-examples/?sh=1e1073888d4b
  2. Citations sur l'apprentissage profond. (n.d.). Goodreads. Consulté le 22 septembre 2021 à l'adresse suivante : https://www.goodreads.com/quotes/tag/deep-learning
  3. Qu'est-ce que l'apprentissage profond ? (2020, 1er mai). IBM. https://www.ibm.com/cloud/learn/deep-learning
  4. Copeland, B. J. (2020, 9 janvier). Connectionism. Encyclopedia Britannica. https://www.britannica.com/technology/connectionism-artificial-intelligence
  5. Chandra, A. L. (2018, 7 novembre). Histoire du perceptron. Moyen. Consulté le 22 septembre 2021 sur https://towardsdatascience.com/mcculloch-pitts-model-5fdf65ac5dd1
  6. Machine de Turing. (2020, 3 avril). Encyclopédie Britannica. https://www.britannica.com/technology/Turing-machine
  7. Whittington, J. C. et Bogacz, R. (2019). Théories de la rétropropagation des erreurs dans le cerveau. Trends in Cognitive Sciences, 23(3), 235-250. https://doi.org/10.1016/j.tics.2018.12.005
  8. Foote, K. D. (2017, 31 janvier). Une brève histoire de l'apprentissage profond. DATAVERSITY. https://www.dataversity.net/brief-history-deep-learning/
  9. Chen, A. (2018, 16 octobre). Un scientifique pionnier explique le "deep learning". The Verge. https://www.theverge.com/2018/10/16/17985168/deep-learning-revolution-terrence-sejnowski-artificial-intelligence-technology
  10. Gefter, A. (2015, 5 février), L'homme qui a tenté de racheter le monde par la logique. Nautilus. https://nautil.us/issue/21/information/the-man-who-tried-to-redeem-the-world-with-logic
  11. Copeland, B. J. (2015, 8 novembre). Perceptrons. Encyclopedia Britannica. https://www.britannica.com/technology/perceptrons
  12. La révolution de l'apprentissage profond. (n.d.). The MIT Press. Consulté le 22 septembre 2021, à l'adresse https://mitpress.mit.edu/books/deep-learning-revolution
  13. Hao, K. (2020, 3 novembre). Geoff Hinton, pionnier de l'IA : "L'apprentissage profond va être capable de tout faire". MIT Technology Review. https://www.technologyreview.com/2020/11/03/1011616/ai-godfather-geoffrey-hinton-deep-learning-will-do-everything/
  14. Simplilearn. (2019, 3 juin). L'apprentissage profond en 5 minutes | Qu'est-ce que l'apprentissage profond ? | L'apprentissage profond expliqué simplement | Simplilearn [Vidéo]. YouTube. https://www.youtube.com/watch?v=6M5VXKLf4D4
  15. Avantages de l'apprentissage profond | inconvénients de l'apprentissage profond. (n.d.). RF Wireless World. Consulté le 22 septembre 2021 à l'adresse suivante : https://www.rfwireless-world.com/Terminology/Advantages-and-Disadvantages-of-Deep-Learning.html
  16. Dickson, B. (2021, 15 septembre). Le nouveau système d'apprentissage profond de Google peut donner un coup de pouce aux radiologues. VentureBeat. https://venturebeat.com/2021/09/16/googles-new-deep-learning-system-can-give-a-boost-to-radiologists/
Notes illustration

Vous souhaitez savoir comment les sciences du comportement peuvent aider votre organisation ?