Où était ChatGPT le 11.09 ?Where was ChatGPT on 9.11?

L'IA Générative bouscule nos certitudes. Elle fascine, effraie, mais surtout, nous renvoie à notre propre image. Ni gourou techno-béat, ni prophète de malheur, je collectionne ces traits communs surprenants, ces instants où la frontière entre la machine et nous s'efface.

Ils sont forts, ces gars de la Silicon Valley

Il faut bien appeler un chat un chat, car comme le rappelait justement Camus "mal nommer les choses c'est ajouter au malheur du monde" : le terme d'hallucination que l'on utilise pour décrire les nombreuses erreurs factuelles des modèles d'IA Générative est quand même une vaste escroquerie intellectuelle. Ou plutôt une trouvaille Marketing des ingénieurs de la Silicon Valley pour faire passer la pilule d'un défaut carrément gênant.

"Des taux d'erreur de 60%, les gars? Pas de problème, on continue... On n'a qu'à trouver un terme un peu sympa, qui nous rapproche de l'idée d'une IA super forte. Rêverie? Digression? Hallucination? Yeah, Hallucination, c'est pas mal ça, coco, on part là dessus. Comme disait le Général de Gaulle, l'intendance suivra!"

Pourtant, ces erreurs factuelles constituent un frein majeur à l'adoption de l'IA, tant au niveau individuel où elles sapent notre confiance, qu'au niveau organisationnel où elles bloquent l'automatisation des workflows.
Lors d'un sondage auprès de plusieurs milliers de collaborateurs d'un de mes clients, l'aspect 'fiabilité technique' revenait chez 25% des répondants.
Et en pratique, la mise en place d'un système d'IA Gen se résume souvent à 20% de préparation des données, 10% d'IA Gen (ah, le sacro-saint 'prompt') et ... 70% de gestion des erreurs.

Le péché originel

Le péché originel réside à mon sens dans l'irruption de ChatGPT qui a été présenté au Monde comme un super-robot qui a réponse à tout (qui se souvient de l'excellent Akinator). Ce faisant, on a durablement créé l'image mentale d'une super-base de données omnisciente. Or une base de données ne fait pas d'erreur grossière. D'où la désillusion. "Élémentaire, mon cher Watson" comme disait le héros de Conan Doyle.

Rappelons en quelques mots la nature technique de cette limitation structurelle. Un LLM propose comme réponse une séquence de mots qui est, essentiellement, une prédiction statistique. Rien de plus. Cette prédiction découle principalement de son entraînement — qui consiste justement à deviner des mots masqués dans un paragraphe — lui permettant de capturer deux phénomènes fondamentaux :

• Les relations syntaxiques entre les mots (à force d'avoir dû prédire la suite de "À tout à l'[...]", la structure "à tout à l'heure" finit par s'ancrer dans les poids du réseau)
• Les relations sémantiques entre séquences de mots (parce que "croquette" et "chat", ou "Trump" et "mensonge" apparaissent fréquemment dans les mêmes contextes, créant des associations vectorielles fortes)

Mais cela reste fondamentalement une prédiction basée sur des probabilités. Il n'y a pas de "vérité" stockée quelque part, juste des motifs statistiques. Le modèle suit la piste la plus probable selon son vaste corpus d'entraînement, sans jamais "savoir" si ce qu'il génère est factuellement exact. D'où ces fameuses "hallucinations" qui ne sont qu'un euphémisme pour désigner des erreurs factuelles. Leur cause réside simplement dans l'absence structurelle de mécanisme de vérification factuelle (et de base de référence de 'vérités'...).

Voilà pour la machine. Maintenant, regardons-nous dans le miroir.

Un mot peut tout changer

Comme l'a démontré la psychologue Elizabeth Loftus dans les années 70, nos souvenirs ne sont pas des informations passées stockées dans notre cerveau, mais des histoires inscrites dans des circuits neuronaux spécifiques. Plus fort encore, à chaque fois que nous nous rappelons de quelque chose, nous les modifions.

Les recherches pionnières de Loftus ont révolutionné notre compréhension de la mémoire humaine. Dans une de ses expériences les plus célèbres, elle montre à des participants une vidéo d'accident de voiture. À un groupe, elle demande : "À quelle vitesse roulaient les voitures quand elles se sont percutées ('hit') ?" À l'autre groupe : "À quelle vitesse roulaient les voitures quand elles se sont fracassées ('smashed')?" Un simple changement de verbe. Résultat : ceux qui ont entendu "fracassées" estiment des vitesses significativement plus élevées. Plus troublant encore, une semaine plus tard, 32% de ceux qui ont entendu "fracassées" affirment avoir vu des bris de verre dans la vidéo... alors qu'il n'y en avait pas. Un seul mot a suffi à implanter un faux souvenir.

Dans une autre expérience devenue emblématique, Loftus a convaincu 25% des participants qu'ils s'étaient perdus dans un centre commercial étant enfants — un événement qui ne s'était jamais produit. Comment ? En présentant ce faux événement mélangé à trois vrais souvenirs fournis par leurs proches. Les participants ne se contentaient pas d'acquiescer : ils enrichissaient activement ce faux souvenir, ajoutant des détails sensoriels, des émotions, des dialogues. Leur cerveau comblait les blancs avec une créativité remarquable, exactement comme un LLM génère du contenu plausible pour compléter une histoire incomplète.

Un bug plein de promesses

Je fais ici une digression (tant il est vrai qu'aucune bonne nouvelle ne saurait être négligée en ces temps troublés) : Cette plasticité troublante de la mémoire porte en elle un message d'espoir insoupçonné. Le philosophe Charles Pépin le formule ainsi : "le passé est bien présent, n'est pas figé... et qu'il peut même se réparer." Notre incapacité à stocker fidèlement nos souvenirs est une opportunité thérapeutique. Puisque le passé se réécrit à chaque rappel, nous pouvons intervenir dans ce processus de réécriture.

Les neurosciences l'ont confirmé. La méthode expérimentale Brunet expose le patient à son souvenir traumatique sous propranolol, un médicament qui permet de diminuer fortement la charge émotionnelle du souvenir. Le souvenir reste — l'événement a bien eu lieu — mais cesse d'être un fardeau insoutenable pour devenir vivable. L'EMDR semble fonctionner sur le même principe : en revisitant le trauma avec des stimulations bilatérales (mouvements des yeux, sons alternés), le cerveau réorganise l'empreinte émotionnelle du souvenir. Pourquoi ? Parce que notre cerveau émotionnel ne fait pas la différence entre une expérience vécue et une expérience intensément imaginée.

Cette découverte change tout. Contrairement aux bases de données qui figent l'information, notre mémoire est un système vivant, modifiable. Ce que nous appelons "erreur de rappel" libère aussi en réalité une possibilité extraordinaire : transformer nos souvenirs toxiques en souvenirs supportables, réinterpréter notre histoire, redevenir auteurs de notre propre récit plutôt que prisonniers d'un passé immuable.

Retour aux hallucinations

Revenons à nos moutons, ces fameuses hallucinations des IA qui nous scandalisent tant. Une fois posée cette meilleure compréhension du fonctionnement de la mémoire humaine, les similitudes avec les LLM deviennent troublantes :

• Nous fonctionnons tous deux par probabilités et reconstruction
• Nous ne stockons pas d'informations dans une "mémoire morte" mais activons des réseaux neuronaux
• Nos souvenirs/réponses se modifient à chaque rappel (tant que nous gardons le contexte du thread)
• Nous privilégions la cohérence narrative à l'exactitude factuelle

"OK d'accord, mais quand même," direz-vous, "les erreurs de ChatGPT nous sautent aux yeux ! Ce sont des boulettes énormes, grossières, impossibles à manquer. La date de naissance de Victor Hugo !!! (Luc Julia, sors de ce corps! 😜). Nous, on ne se trompe pas comme ça !"

Plus c'est gros, plus on y croit

Ah bon ? Parlons justement de ces souvenirs dont nous sommes absolument certains. Ces moments gravés dans la mémoire collective, ces événements si marquants qu'on se rappelle exactement où on était, ce qu'on faisait. Les neurologues appellent ça les "flashbulb memories" — comme si un flash photographique avait figé l'instant pour toujours.
Prenons les attentats du 11 septembre 2001. Tout le monde se souvient "parfaitement" de ce jour-là, non ?

Les chercheurs Talarico et Rubin ont interrogé des étudiants le lendemain des attentats, leur demandant de raconter précisément comment ils avaient appris la nouvelle. Puis ils les ont réinterrogés un an plus tard. Résultat : 42% des souvenirs de participants comportaient des incohérences sur des détails centraux (lieu, source, activité). Certains qui affirmaient avoir appris la nouvelle à la télé l'avaient en fait apprise par téléphone. D'autres qui juraient être seuls étaient en réalité entourés de camarades. Mais le plus troublant ? Leur niveau de confiance restait scotché à 4,5 sur 5. Ils étaient aussi certains de leurs faux souvenirs que de leurs vrais.

Autre exemple : le procès O.J. Simpson en 1995, suivi par 150 millions d'Américains. Trois ans plus tard, l'étude de Schmolck révèle que plus de 40% des souvenirs sont clairement erronés et 11% des distorsions vraiment majeures. Des gens affirment avoir regardé le verdict en direct alors qu'ils étaient au travail ce jour-là. D'autres se rappellent avoir crié de joie ou de colère dans des pièces où ils n'ont jamais mis les pieds.

La catastrophe de Challenger en 1986 ? Même topo. Neisser et Harsch ont demandé à des étudiants, le lendemain de l'explosion, de décrire précisément leur journée. Vingt-cinq mois plus tard, seuls 7% pouvaient se rappeler correctement où et comment ils avaient appris la nouvelle. Mais quand les chercheurs leur ont montré leurs témoignages initiaux, certains ont refusé de les croire : "Non, ce n'est pas possible, c'est pas ce que j'ai écrit. Je me souviens très bien de ce jour-là !"

Et nous ne parlons pas ici de souvenirs banals ou anciens. Ce sont des événements qui ont marqué des générations entières, survenus il y a quelques années ou quelques décennies seulement. Des moments supposément gravés au fer rouge dans nos mémoires. Notre taux d'erreur factuel personnel atteint facilement les 60-70% avec le temps, tout en maintenant une conviction inébranlable dans l'exactitude de ces souvenirs.

A ne pas oublier

Ainsi donc, nous voudrions disqualifier ces machines qui ont le bon goût de se rappeler des choses avec la même imperfection que nous-mêmes?

Vous ne tolérez pas ce monde où les LLM se trompent en permanence?
Et si je vous avouais que toutes les citations de cet article (Camus, Doyle, De Gaulle) que la plupart d'entre nous connaissons, sont apocryphes ?

Comme aurait pu le dire Saint-Augustin (ou Sénèque 😉), "Errare humanum est, machinis quoque licet".

Humains, LLM : sous le capot, l'étonnante parenté.

Generative AI is shaking up what we thought we knew. It's weird, fascinating—and just a little too familiar. It's holding up a mirror. Look closely at how it works, and you'll keep stumbling on moments where the line between machine intelligence and our own gets uncomfortably thin.

Those smart Silicon Valley Guys

Let's call a spade a spade. As Camus wisely warned, "misnaming things is adding to the world's misfortune." The term hallucination, often used to describe the factual errors of generative AI models, is a massive intellectual con job. Or rather, a clever marketing ploy by Silicon Valley engineers to downplay a seriously problematic flaw.

Error rates of 60%, guys? No worries — full steam ahead. Let's just come up with a friendly little term, something that makes our AI sound even cooler. Dream? Digression? Hallucination? Ooh, that one's catchy. 'Hallucination' it is!

Yet these factual blunders are a major barrier to Gen AI adoption — individually, they erode trust; organizationally, they block workflow automation.

At one of my client companies, a survey of several thousand employees revealed that technical reliability was a concern for 25% of respondents.

In practice, implementing a GenAI system often breaks down as follows: 20% data preparation, 10% generative AI (hello, sacred prompt), and… 70% error management.

The Original Sin

The original sin, in my view, lies in the launch of ChatGPT, presented to the world as a super-robot with an answer to everything ? In doing so, they embed a lasting mental image of an all-knowing super-database. But databases don't make absurd mistakes. Hence the disappointment.

As Sherlock Holmes might have said: "Elementary, my dear Watson."

Databases don't make absurd mistakes. LLMs are not Databases.

Let's briefly revisit the technical root of this structural limitation. A large language model produces an answer as a sequence of words, which is essentially a statistical prediction, nothing more. That prediction is based on its training, which involves guessing masked words in paragraphs, allowing it to capture two fundamental patterns:

• Syntactic relationships between words (after predicting the continuation of "Once upon a [...]," the pattern "once upon a time" becomes embedded in the model's weights)
• Semantic associations between word sequences (because "cat" and "kibble", or "Trump" and "lie", often appear in the same contexts, they form strong vectorial connections)

But it's still fundamentally a probability game. There's no "truth" stored anywhere — just statistical patterns. The model follows the most likely path based on its vast training corpus, without ever "knowing" whether what it generates is factually correct.

Hence the so-called "hallucinations", a euphemism for factual mistakes caused by the structural absence of any built-in truth verification and reference base.

That's the machine. Now, let's take a look in the mirror.

One Word Can Change Everything

As psychologist Elizabeth Loftus demonstrated in the 1970s, memories aren't neatly stored bits of information in our brains — they're stories embedded in specific neural circuits. Even more striking, each time we recall something, we change it.

Loftus' pioneering work revolutionized our understanding of human memory. In one of her most famous experiments, participants watched a video of a car crash. One group was asked, "How fast were the cars going when they hit each other?" Another: "How fast were the cars going when they smashed into each other?" Just one word changed.

The result? Those who heard "smashed" estimated significantly higher speeds. Even more troubling, a week later, 32% of them recalled seeing broken glass in the video — when there was none. A single word had implanted a false memory.

In another iconic experiment, Loftus convinced 25% of participants they had gotten lost in a mall as children — an event that never happened. How? By blending that false event among three real childhood memories provided by their families. Not only did participants agree, they embellished the fake memory, adding sensory details, emotions, dialogue. Their brains filled in the blanks with striking creativity, just as an LLM generates plausible content to complete a story.

A Bug Full of Promise

Allow me a brief digression (because in troubled times, good news is worth clinging to): this unsettling plasticity of memory holds an unexpected message of hope.

Philosopher Charles Pépin puts it this way: "The past is very much present, not fixed… and it can even be repaired." Our inability to faithfully store memories is, in fact, a therapeutic opportunity. Since memories are rewritten each time they're recalled, we can intervene in that rewriting process.

Our emotional brain can't tell the difference between a lived experience and one that's vividly imagined.

Neuroscience confirms it. The experimental Brunet method has patients revisit traumatic memories while under propranolol, a drug that reduces emotional intensity. The memory remains, the event happened, but the weight of it becomes bearable. EMDR appears to work on the same principle: by revisiting trauma with bilateral stimulation (eye movements, alternating sounds), the brain reorganizes the emotional imprint.

Why? Because our emotional brain can't tell the difference between a lived experience and one that's vividly imagined.

This discovery changes everything. Unlike databases that freeze information, human memory is a living, modifiable system. What we call "recall error" actually opens up an extraordinary possibility: to transform toxic memories into manageable ones, to reinterpret our stories, to become authors of our own narratives instead of prisoners of an immutable past.

Back to Hallucinations

Back to our story — I mean, to the infamous AI "hallucinations" that so outrage us. Once we better understand how human memory actually works, the parallels with LLMs become striking:

• Both systems operate through probabilities and reconstruction
• Neither stores information in a "dead" memory; both activate networks
• Memories/responses change with each recall (as long as the context/thread remains active)
• Both favor narrative coherence over factual accuracy

"Okay, fair enough," you might say. "But come on, ChatGPT makes obvious mistakes! Huge, ridiculous blunders. We would never mess up like that!"

The Bigger the Lie, the More We Believe It

Really? Let's talk about those memories we're absolutely sure of. Moments etched in our collective consciousness — events so significant we can recall exactly where we were, what we were doing.

Neurologists call these flashbulb memories, as if a camera flash had frozen the moment forever.

Take 9/11. Everyone remembers it perfectly, right?

Researchers Talarico and Rubin interviewed students the day after the attacks, asking them to describe exactly how they heard the news. A year later, they followed up. Result: 42% of participants' accounts had inconsistencies in key details — where they were, how they heard, what they were doing.

Some who swore they saw it on TV had actually heard about it by phone. Others who claimed they were alone were in fact surrounded by friends. The most shocking part? Their confidence level remained 4.5 out of 5. They were just as sure of their false memories as of the true ones.

Another example: the 1995 O.J. Simpson verdict, watched live by 150 million Americans. Three years later, Schmolck's study showed that over 40% of memories were clearly inaccurate, and 11% seriously distorted. Some swore they watched the verdict live — while they were actually at work. Others remembered shouting for joy or anger in rooms they never entered.

The 1986 Challenger disaster? Same story. Neisser and Harsch interviewed students the day after the explosion. Twenty-five months later, only 7% could accurately recall where and how they heard the news. When shown their original statements, some refused to believe them: "No way — that's not what I wrote. I remember that day so clearly!"

And these aren't old or insignificant memories. These are defining moments for entire generations. Our personal factual error rate? Easily 60–70% over time — all while maintaining unwavering confidence in the truth of our recollections.

Worth Remembering

So, are we really ready to disqualify machines that have the audacity to remember things with the same imperfection we do?

Shouldn't we first prove that we can remember things properly before casting judgment on GenAI?. As Gandi said, "Be the change you wish to see in the world."

By the way, every quote in this article — Camus, Doyle, Gandi — the ones most of us "know by heart"… are actually all apocryphal.

"Errare humanum est, machinis quoque licet." — Saint Augustine ( ? or maybe it was Seneca 😉)

Humans and LLMs: under the hood, different... but not that different