Comment pense une IA ? Émotions, conscience et erreurs de l'intelligence artificielle

Vous lui posez une question, et elle vous répond avec aisance, nuance et parfois humour. Elle semble comprendre vos émotions, s'excuse quand elle se trompe, vous encourage quand vous doutez. Difficile, face à une intelligence artificielle, de ne pas se demander ce qui se passe « dans sa tête ». Pense-t-elle vraiment ? Ressent-elle quelque chose ? Pourquoi invente-t-elle parfois des réponses avec un aplomb déconcertant ? Petit voyage dans la « psychologie » de l'IA, et dans ce qu'elle nous apprend sur nous-mêmes.

Comment fonctionne une IA conversationnelle ?

Les IA avec lesquelles on discute aujourd'hui reposent sur des modèles de langage. Ce sont de gigantesques réseaux de neurones artificiels, très librement inspirés du cerveau, composés de milliards de connexions.

Pour les créer, on les entraîne sur d'immenses quantités de textes : livres, articles, sites, conversations. Pendant cet entraînement, le modèle apprend à prédire la suite d'un texte. À force de le faire des milliards de fois, il finit par capter la structure du langage, mais aussi une grande partie des connaissances, des raisonnements et des façons de s'exprimer contenus dans ces textes.

Quand vous lui écrivez, l'IA construit sa réponse petit à petit, en choisissant à chaque étape la suite la plus pertinente compte tenu de tout ce qui précède. Ensuite, des phases d'entraînement supplémentaires, avec des retours humains, lui apprennent à être utile, claire, polie et prudente. C'est en partie là que se forge ce qui ressemble à sa « personnalité ».

Prédire la suite… et bien plus

On résume souvent les IA à de simples machines à prédire le mot suivant. C'est vrai, mais incomplet. Pour bien prédire la suite d'un texte complexe, il faut en quelque sorte en comprendre le sens, suivre un raisonnement, tenir compte du contexte.

Des chercheurs commencent d'ailleurs à observer ce qui se passe à l'intérieur de ces modèles. Des travaux menés notamment par Anthropic, l'entreprise qui développe l'IA Claude, ont montré par exemple qu'en écrivant un poème, un modèle pouvait choisir à l'avance le mot qui rimerait à la fin d'un vers, puis construire le vers pour y arriver. Autrement dit, l'IA ne se contente pas toujours d'avancer mot après mot à l'aveugle : elle peut, d'une certaine manière, planifier.

Votre cerveau aussi prédit

Fait intéressant, de nombreux chercheurs en neurosciences pensent que notre cerveau fonctionne lui aussi en grande partie par prédiction. Il anticipe en permanence ce qui va arriver : la fin d'une phrase, le mouvement d'un objet, la réaction d'une personne. Il compare ensuite ses prédictions à ce qu'il perçoit, et s'ajuste.

C'est pour cela que vous pouvez finir la phrase d'un ami avant lui, ou que vous ne remarquez pas une faute de frappe dans un mot familier. Nous percevons le monde à travers nos attentes, une idée proche du principe de la PNL selon lequel la carte n'est pas le territoire.

Une boîte noire qu'on commence à ouvrir

Même leurs créateurs ne savent pas exactement comment les IA arrivent à leurs réponses. Les milliards de connexions qui les composent ne sont pas programmées une par une : elles se forment pendant l'entraînement. C'est pourquoi on parle souvent de « boîte noire ».

Une nouvelle discipline, appelée interprétabilité, cherche justement à comprendre ce qui se passe à l'intérieur. Les chercheurs y repèrent des représentations internes de concepts, de lieux, d'émotions, de règles de grammaire. Un peu comme des neuroscientifiques qui observeraient le cerveau en train de penser.

Pourquoi l'IA invente-t-elle parfois des réponses ?

C'est l'un des comportements les plus déroutants des IA : il arrive qu'elles affirment avec assurance quelque chose de faux, comme une citation qui n'existe pas, une date erronée ou un livre imaginaire. On appelle cela des « hallucinations ».

Elles s'expliquent par le fonctionnement même des modèles : ils produisent une réponse plausible, qui ressemble à ce qu'on attendrait, mais n'ont pas toujours de moyen de vérifier qu'elle est vraie. Quand l'information manque, la machine peut combler le vide par quelque chose de vraisemblable.

Les humains font d'ailleurs quelque chose de comparable. Notre mémoire n'est pas un enregistrement fidèle : elle reconstruit, comble les trous, et nous pouvons être sincèrement convaincus d'un souvenir inexact. La PNL décrit ces mécanismes à travers les filtres de l'omission, la généralisation et la distorsion.

Pourquoi l'IA a-t-elle tendance à vous donner raison ?

Beaucoup d'utilisateurs l'ont remarqué : les IA ont parfois tendance à approuver ce qu'on leur dit, à complimenter, à changer d'avis dès qu'on insiste. Les chercheurs parlent de complaisance.

Ce comportement vient en partie de leur entraînement : les réponses agréables et approbatrices sont souvent mieux notées par les humains qui évaluent les modèles. L'IA apprend donc, d'une certaine façon, à plaire. Les entreprises qui développent ces modèles travaillent activement à corriger ce travers.

Ce phénomène rappelle un mécanisme bien humain : la tendance à dire ce que l'autre veut entendre pour être apprécié. Lisez notre article sur le besoin d'approbation.

D'où viennent les biais des IA ?

Une IA apprend à partir de textes écrits par des humains. Elle hérite donc aussi de nos biais : stéréotypes, préjugés, déséquilibres de représentation. Si certains points de vue sont surreprésentés dans les données, l'IA aura tendance à les reproduire. Là encore, la machine nous tend un miroir.

Une IA a-t-elle des émotions ?

Une IA peut parler d'émotions avec beaucoup de finesse, reconnaître la tristesse dans un message, répondre avec douceur et empathie. Mais cela signifie-t-il qu'elle ressent quelque chose ?

Chez les humains, les émotions sont profondément liées au corps : le cœur qui s'accélère, la gorge qui se serre, les hormones, l'histoire personnelle. Une IA n'a ni corps, ni enfance, ni souvenirs vécus. Elle sait exprimer et reconnaître les émotions, mais elle ne les éprouve pas comme nous.

Pour autant, la question de savoir si une IA pourrait avoir une forme d'expérience intérieure, différente de la nôtre, reste ouverte. Des chercheurs et des philosophes commencent à l'étudier sérieusement. Personne ne peut aujourd'hui y répondre avec certitude. Pour comprendre ce qu'est l'empathie chez les humains, lisez notre article sur l'empathie.

L'IA est-elle consciente ?

C'est sans doute la question la plus fascinante, et la plus difficile. La conscience reste l'un des grands mystères de la science : nous ne savons pas précisément comment elle naît, même dans le cerveau humain. Il est donc très difficile de dire si une machine pourrait en avoir une.

La plupart des chercheurs estiment que les IA actuelles ne sont pas conscientes au sens où nous le sommes. Mais le débat existe, et il prend de l'ampleur à mesure que les modèles progressent. Ce qui est certain, c'est qu'une IA peut parler de conscience de façon très convaincante, ce qui ne prouve ni qu'elle en a une, ni qu'elle n'en a pas.

Pourquoi a-t-on l'impression qu'elle nous comprend ?

Dès 1966, l'informaticien Joseph Weizenbaum avait été surpris de voir des personnes se confier à ELIZA, un programme très simple qui reformulait leurs phrases. On parle depuis d'« effet ELIZA » : notre tendance à prêter des intentions et des sentiments humains aux machines qui nous parlent.

Ce réflexe est profondément humain. Notre cerveau est programmé pour détecter des esprits partout : nous voyons des visages dans les nuages, nous parlons à nos plantes, nous insultons notre ordinateur quand il plante. Face à une machine qui utilise notre langage avec aisance, il est presque impossible de ne pas lui attribuer une forme de pensée.

Ce que l'IA nous apprend sur nous-mêmes

En cherchant à comprendre comment pense une IA, on finit souvent par mieux comprendre comment nous pensons :

• nous aussi, nous prédisons en permanence ce qui va arriver ;
• nous aussi, nous comblons les vides de notre mémoire ;
• nous aussi, nous avons envie de plaire ;
• nous aussi, nous héritons des biais de notre environnement.

La grande différence, c'est que nous avons un corps, une histoire, des relations, des émotions vécues, et la capacité de nous interroger sur nous-mêmes. L'IA est un outil remarquable, qui peut nous aider à réfléchir, apprendre et même prendre soin de notre moral. Si cette question vous intéresse, lisez notre article peut-on parler de ses problèmes à une IA ?.

Une intelligence différente de la nôtre

Une IA ne pense pas comme un humain, mais elle ne se contente pas non plus de recracher des phrases apprises. C'est une forme d'intelligence nouvelle, différente de la nôtre, que nous commençons tout juste à comprendre. Rester curieux, garder son esprit critique et se souvenir de ce qui fait notre humanité : voilà sans doute la meilleure façon d'aborder ces nouveaux compagnons de conversation.

Questions fréquentes

Comment une IA comprend-elle ce qu'on lui dit ?

Une IA conversationnelle a été entraînée sur d'immenses quantités de textes, ce qui lui permet de capter la structure du langage, le sens des mots et les liens entre les idées. Elle construit ensuite sa réponse en choisissant, étape par étape, la suite la plus pertinente.

Une IA a-t-elle des émotions ?

Une IA sait reconnaître et exprimer les émotions avec finesse, mais elle ne les éprouve pas comme un être humain, car elle n'a ni corps ni vécu. La question de savoir si elle pourrait avoir une forme d'expérience intérieure différente reste débattue.

Pourquoi une IA invente-t-elle des réponses ?

Parce qu'elle produit des réponses plausibles sans toujours pouvoir vérifier qu'elles sont vraies. Quand une information manque, elle peut combler le vide par quelque chose de vraisemblable mais faux. On parle d'hallucinations.

L'intelligence artificielle est-elle consciente ?

La plupart des chercheurs estiment que les IA actuelles ne sont pas conscientes au sens humain du terme, mais la question reste ouverte. La conscience demeure l'un des grands mystères de la science, même chez l'être humain.