Est-ce que les LLM raisonnent vraiment ?

Dans mon premier article, j'ai tenté de montrer que les agents IA traitent tout ce qui se trouve dans leur contexte comme une vérité établie: même une clause de contrat erronée, transmise d'agent en agent, devient un "fait" en quelques secondes. (si vous ne l'avez pas lu: c'est ici)

Cette article pose une question différente, et plus fondamentale: même avec des prémisses parfaitement vraies, un LLM raisonne-t-il correctement à partir d'elles ? Vérifier une information et raisonner à partir de cette information sont deux facultés distinctes, on peut raisonner rigoureusement à partir d'hypothèses fausses ("tous les dragons volent, Smaug est un dragon, donc Smaug vole" est une déduction parfaitement valide). La question n'est donc pas de refaire le procès de mon premier article, mais d'aller voir ce qui se passe après que le contexte soit posé.

Un débat déjà très animé, et pas tranché

La question divise certaines des voix les plus suivies du secteur. Yann LeCun répète depuis des mois que les LLM autoregressifs sont "une voie sans issue" pour toute forme d'intelligence réelle, faute de mémoire, de planification et d'ancrage dans le monde. Cassie Kozyrkov, ex-Chief Decision Scientist chez Google, met en garde contre la confusion entre intelligence et imitation: "ce sont des générateurs de contenu, pas des décideurs." À l'inverse, une partie de la communauté pointe les progrès mesurés des modèles de raisonnement, depuis les premiers o1/DeepSeek-R1 jusqu'aux versions actuelles, comme la preuve d'une évolution réelle, pas d'un simple effet de mode. Le raisonnement explicite ('thinking', 'extended thinking') est d'ailleurs passé, en un peu plus d'un an, d'une fonctionnalité expérimentale à un standard proposé par tous les grands fournisseurs.

Le chercheur le plus rigoureux sur cette question reste sans doute Subbarao Kambhampati (Arizona State University), qui décrit les LLM comme des "giant non-veridical memories" — des mémoires géantes, mais non fiables. Sa position n'est pas une opinion en l'air: elle repose sur des tests systématiques de planification, où la performance s'effondre nettement dès qu'on empêche le modèle de s'appuyer sur des patterns mémorisés.

Ma position: ni le camp "pure imitation" ni le camp "raisonnement émergent" ne survit entièrement aux faits. La réponse tient en une phrase: non, pas au sens formel — mais oui, dans une mesure réelle et mesurable, jusqu'à un point de rupture précis et documenté.

Ce qui marche: un vrai gain, pas une illusion pure

Laisser un modèle dérouler des étapes avant de répondre (le "chain-of-thought") n'est pas un artifice cosmétique. C'est un mécanisme qui étend réellement la capacité de calcul du modèle, documenté depuis le papier fondateur de Google sur le sujet. Des architectures entraînées spécifiquement à "réfléchir" plus longtemps, comme DeepSeek-R1, développent des comportements réels de vérification et de retour en arrière sur des problèmes de mathématiques et de code — des tâches où la réponse est vérifiable. C'est un gain de capacité mesurable, pas un artefact marketing.

Ce qui casse: trois failles documentées, indépendamment les unes des autres

1. Il ne résiste pas au nouveau. C'est le test le plus dur qui existe aujourd'hui: ARC-AGI, conçu spécifiquement pour empêcher toute mémorisation, ne fournit que quelques exemples et demande au modèle d'inférer une règle jamais vue. Sur la version la plus récente de ce test, les meilleurs modèles du marché plafonnent a 10% (Claude Opus 5 à 30%), contre 100% pour un humain moyen. Ce n'est pas un détail: c'est l'écart le plus brutal jamais documenté entre performance humaine et performance IA sur un test conçu pour la généralisation pure.

2. Il ne résiste pas au bruit hors sujet. Ajoutez à un problème de maths, déjà bien résolu par un modèle, une seule phrase vraie mais totalement hors-sujet. La performance s'effondre, alors qu'un humain l'ignorerait sans effort. Le raisonnement suit la forme de la question, pas seulement sa logique interne.

3. Le raisonnement affiché n'est pas toujours le raisonnement réel. Même quand un modèle produit une suite d'étapes qui aboutit à la bonne réponse, des chercheurs ayant formellement analysé ces chaînes montrent qu'elles ne respectent souvent pas de structure causale valide: le modèle trouve une corrélation qui ressemble à un raisonnement, pas une inférence causale. C'est précisément ce qui explique pourquoi une chaîne de raisonnement peut sembler parfaitement convaincante à la lecture, tout en s'effondrant dès que la question change légèrement de forme, le lien entre les étapes n'était jamais aussi solide qu'il le paraissait.

La nuance qu'on doit à l'honnêteté scientifique

Le papier le plus médiatisé sur ce sujet, "The Illusion of Thinking" d'Apple, a documenté un phénomène troublant: les modèles de raisonnement réduisent leur effort à l'approche d'un seuil de complexité, plutôt que de l'augmenter. Mais cette interprétation a été publiquement contestée: plusieurs chercheurs, dont Sean Goedecke, font remarquer qu'un modèle peut légitimement abandonner une énumération qu'il juge trop longue à produire, sans que cela prouve l'absence de raisonnement. Le débat reste ouvert et c'est précisément la marque d'un sujet scientifiquement honnête plutôt que tranché d'avance.

La différence avec mon premier article et pourquoi les deux problèmes s'additionnent

Le problème du contexte-comme-vérité et la fragilité du raisonnement sont distincts, mais cumulatifs. Un agent peut recevoir une prémisse fausse et mal raisonner même à partir d'une prémisse vraie ; et dans une architecture multi-agents, ces deux défauts se combinent plutôt que de s'annuler.

Ce que ça veut dire concrètement

Un agent IA n'est pas fiable ou peu fiable dans l'absolu. Il est fiable dans une zone: tant que le problème ressemble à ce qu'il a déjà vu. Et cette zone se rétrécit brutalement dès qu'un imprévu ou un détail non pertinent apparaît, sans qu'aucun signal ne le laisse deviner. La question pour une organisation qui déploie ces systèmes n'est pas "est-ce que mon agent raisonne", mais: puis-je détecter, avant qu'une décision soit prise, que mon agent vient de sortir de sa zone de fiabilité ?

C'est le problème que l'humanité a déjà affronté une fois, pas avec des machines, mais avec elle-même. Le raisonnement humain spontané a aussi ses zones aveugles. La réponse n'a pas été d'attendre des cerveaux plus intelligents, mais d'imposer une méthode capable de détecter l'erreur avant qu'elle ne devienne coûteuse. C'est le sujet de notre prochain article: comment la méthode de Karl Popper et la réfutabilité scientifique peuvent s'appliquer au raisonnement des machines.