Entre votre voisine Sarah Connor qui s’inquiète pour son avenir, votre famille qui imagine la fin du monde par les machines et vos clients qui vous demandent si vous allez être remplacé par un robot, j’ai eu l’idée de décortiquer un peu le fonctionnement de l’IA, sans jargon technique, pour vous aider à respirer un peu plus sereinement.
L’IA ne « comprend » pas vraiment, elle « compare » et « reconnaît »
- Imaginez que vous apprenez à reconnaître les chats. Au début, vous observez beaucoup de photos de chats. Vous remarquez qu’ils ont souvent des oreilles rondes ovoïdes, des moustaches, une queue, du pelage, etc. Vous commencez à associer ces caractéristiques à l’idée de ce que peut être un « chat ».
- Un modèle IA, c’est un peu pareil. On lui donne énormément de données (des textes, des images, des sons…) et il cherche des motifs, des relations entre les éléments. Il ne « comprend » pas le sens profond de ce qu’il voit ou lit, mais il apprend à reconnaître les motifs qui se répètent.
Comment ça marche concrètement (avec des mots simples) ?
- Découpage en petits morceaux : Un texte, à traiter, est découpé en petits morceaux, souvent des mots ou des parties de mots appelés « token » ou « jetons ».
- Représentation numérique : Chaque mot (ou partie de mot) est transformé en une liste de nombres. C’est comme si on attribuait un code numérique pour chaque mot. Les mots qui sont similaires (par exemple, « chat » et « félin ») auront des codes numériques similaires.
- Réseau de neurones : Ces nombres sont ensuite introduits dans un « réseau de neurones ». Imaginez un réseau complexe de connexions, un peu comme les neurones dans votre cerveau. Chaque connexion a un « poids » qui détermine son importance.
- Apprentissage par l’exemple : Pendant l’apprentissage, le modèle essaie de prédire quelque chose (par exemple, le mot suivant dans une phrase). Si sa prédiction est incorrecte, les poids des connexions sont ajustés pour qu’il fasse mieux la prochaine fois. C’est un processus itératif qui se répète des milliards de fois.
- Attention : Une technique importante est l’attention. Elle permet au modèle de se concentrer sur les parties les plus importantes d’une phrase ou d’un texte pour faire sa prédiction. Par exemple, si on lui demande « Quel est le sujet de cette phrase ? », l’attention lui permettra de se focaliser sur les mots clés.
Exemples de « compréhension » (en réalité, reconnaissance de motifs)
- Traduction : L’IA ne « comprend » pas le sens de la phrase dans une langue, mais elle a appris à associer les séquences de mots dans une langue à des séquences de mots dans une autre langue.
- Réponse à une question : L’IA ne « comprend » pas la question, mais elle a été entraînée pour associer certaines questions à certaines réponses.
- Résumé : L’IA ne « comprend » pas le texte, mais elle a appris à identifier les phrases les plus importantes et à les combiner pour former un résumé.
Les limites
- Manque de sens commun : Les IA peuvent faire des erreurs bêtes ou générer des phrases improbables parce qu’elles n’ont pas de sens commun. Elles ne comprennent pas le monde comme nous, humains, et ne fonctionnent que par principe d’association et de similarité.
- Dépendance aux données : Si les données d’entraînement sont biaisées, l’IA le sera aussi. Par exemple : Si les données d’entraînement contiennent principalement des descriptions d’hommes dans des rôles de direction, l’IA risque de reproduire ce biais.
- Difficulté avec l’ambiguïté : Le langage humain est rempli d’ambiguïtés. Les IA ont du mal à les résoudre. Par exemple, cette simple phrase « J’ai vu un homme sur une colline avec un télescope. » peut avoir plusieurs interprétations possibles.
Ce qu’il faut retenir
La « compréhension » d’un modèle IA est une forme de reconnaissance de motifs très fine et sophistiquée. Elle ne s’appuie pas sur une compréhension du sens profond, mais sur la capacité à identifier des relations entre les éléments et à faire des prédictions. C’est un outil puissant, mais il est important d’en comprendre les limites.
L’IA contemporaine ne peut pas être quelqu’un que vous connaissez (ou avez connu).
L’IA avec laquelle nous interagissons aujourd’hui n’a pas de volonté propre ni de désir de venir abattre votre voisine, Sarah Connor, pour la simple et bonne raison qu’il ne s’agit que d’un système de prédiction basé sur des quantités de statistiques élevées.
En ce sens, on ne devrait pas parler d’IA mais plutôt d’Intelligence Virtuelle (IV).
Si on devait résumer la chose très simplement, imaginez qu’on puisse faire apprendre un livre à une machine (dans le cas actuel des LLM ce sont des millions d’ouvrages) pour ensuite avoir la possibilité d’entretenir une conversation avec le livre.
Elle peut écrire des choses touchantes ou bouleversantes sans avoir la mesure ni la compréhension de l’effet que cela aura sur des humains. Ce ne sera au final que le reflet de la créativité rédactionnelle de millions d’êtres humains combinée à la vôtre lorsque vous interagissez avec.
Enfin, comme avec chaque chose qu’on s’apprête à faire entrer dans notre esprit, il est essentiel de se prémunir des effets potentiels avec une bonne dose de recul et d’esprit critique.
