Lokoyote

L’intelligence artificielle fait désormais partie de notre quotidien. Rares sont ceux qui ne l’utilisent jamais. Pourtant, entre une mauvaise utilisation, des attentes démesurées et ce que la technologie offre réellement, le fossé reste immense.

I. Ce que l’IA fait réellement bien

Avant de critiquer les attentes, rendons justice aux faits. L’IA excelle dans les tâches structurées à forte densité d’information (des activités professionnelles ou intellectuelles qui reposent sur des règles claires, des formats standardisés, mais qui exigent de traiter une quantité massive de données complexes en un minimum de temps)

• Productivité au bureau : Sur des tâches de code, de rédaction, de synthèse ou d’analyse, les gains de productivité atteignent 20 à 40 %.
• Médecine et recherche : Une méta-analyse de 2025 (npj Digital Medicine, 83 études) montre que l’IA rivalise avec les médecins non-experts en précision diagnostique et surpasse même les internes en médecine d’urgence. De son côté, AlphaFold a révolutionné la biologie structurale.
• Recommandation invisible : Les algorithmes de Netflix ou Spotify façonnent nos choix discrètement depuis des années.
• Génération d’images et de vidéos : C’est l’impact le plus visible pour le grand public. L’IA produit en quelques secondes des visuels de qualité professionnelle (à condition de bien l’aiguiller, on ne parlera pas des affiches générée par ChatGPT insipides qui se ressemblent toutes) et des vidéos de plus en plus réalistes, bouleversant la publicité, le cinéma et le jeu vidéo.

La limite de cette réussite : Si ces capacités impressionnent, elles soulèvent des questions sur l’authenticité des contenus et la valeur du travail créatif humain. L’IA est comme un excellent élève qui a appris par cœur tous les livres de la bibliothèque, mais qui n’est jamais sorti de chez lui : elle essaie de transposer partout les mêmes réponses sans logique contextuelle ouverte.

---

II. Le malentendu fondamental : Une machine probabiliste, pas un ordinateur classique

L’IA n’est pas un ordinateur classique

Nos ordinateurs habituels sont déterministes : ils calculent sur la base de programmes. Une même entrée donne toujours la même sortie. Une calculatrice ou un tableur ne se trompent pas au sens statistique. Nous transférons inconsciemment cette certitude vers l’IA générative. Or, une IA ne « comprend » pas, elle prédit.

La mécanique de la prédiction

Un grand modèle de langage (LLM) est fondamentalement probabiliste. Il ne cherche pas la vérité, il génère la suite de mots ou de tokens la plus probable selon le contexte. On peut se dire que l’humain fait la même chose lorsqu’il recrache des phrases toutes faites sans réfléchir. Mais il y a une différence majeure :

• L’humain utilise des raccourcis de langage pour aller plus vite, mais en tenant compte du sens et de l’intention qu’il veut exprimer.
• L’IA choisit chaque mot selon la probabilité du précédent, et le sens en découle de manière purement mécanique. C’est presque l’inverse. Même si certaines IA commencent à formuler les phrases différemment.

Du fait que l’IA ne génère pas une réponse exacte, elle peut halluciner et donner de fausses informations.

L’illusion de fluence et l’hallucination mathématique

Des chercheurs ont prouvé mathématiquement que l’hallucination zéro est impossible pour ces systèmes (Xu et al., 2024). Ce n’est pas un défaut de fabrication, c’est une nécessité structurelle. Demander à un LLM de ne jamais se tromper, c’est demander à la météo d’être certaine.

Le vrai piège est l’illusion de fluence (fluency illusion) : ce biais cognitif qui nous fait croire qu’un texte est vrai et intelligent simplement parce qu’il est fluide et bien écrit. L’IA délivre ses erreurs avec le même aplomb et la même fluidité que ses réponses correctes, sans l’hésitation qui trahirait le doute chez un humain.

---

III. Les paradoxes de notre comportement face à l’IA

Le fossé démo / déploiement

On sous-estime systématiquement l’écart entre ce qui est vendu dans une démo et la réalité du terrain. Une IA impressionne dans un contexte contrôlé, mais peine face à la complexité du monde réel (données sensibles, cas limites). Dans beaucoup de secteurs, elle peut automatiser 80 % d’une tâche, mais les 20 % restants (jugement, empathie, responsabilité) constituent l’essentiel du métier.

Le double standard et l’aversion algorithmique

Voici le paradoxe le plus flagrant : nous jugeons l’IA avec une sévérité que nous n’appliquons jamais aux humains, alors que l’erreur humaine est partout :

• Les erreurs de diagnostic médical affectent 10 à 15 % des consultations.
• Le témoignage oculaire (reconnaissance de personne pour un procès) produit de fausses identifications dans environ 1/3 des cas.
• La presse écrite contient des erreurs factuelles dans 40 à 61 % des articles.
• Les experts politiques font à peine mieux que le hasard sur des prédictions à plus d’un an (Tetlock).

Pourtant, personne ne veut abolir la médecine ou la justice. Ce biais s’appelle l’aversion algorithmique (Dietvorst, 2015) : des utilisateurs refusent d’utiliser un algorithme après l’avoir vu commettre une seule erreur, pourtant identique à celle d’un humain. Des radiologues acceptent par exemple 11 % d’erreurs d’un confrère, mais seulement 6,8 % d’une IA.

Le biais d’automatisation

À l’inverse, il existe le biais d’automatisation, qui pousse à suivre aveuglément l’IA même quand elle a tort. À cause de cela, les équipes mixtes (humain + IA) performent souvent moins bien que le meilleur des deux seul, parce que l’humain calibre mal sa confiance.

L’anthropomorphisme de l’IA

L’être humain est une machine à détecter de l’humanité partout. C’est un réflexe évolutif. Quand une machine nous répond en disant « Je comprends votre problème », « Je pense que », ou utilise des tournures polies (« Bonjour », « Désolé pour cette erreur »), notre cerveau active inconsciemment les mêmes zones neuronales que celles utilisées lors d’une interaction avec un autre être humain.

On a donc tendance à attribuer une intention, une personnalité et, par extension, une forme de conscience à l’IA.

Le « Biais de l’interlocuteur bienveillant » et la confiance

Dans les interactions humaines, une personne qui s’exprime de manière calme, structurée, polie et sans hésitation est perçue comme compétente et digne de confiance. C’est souvent ce qui est demandé aux managers.

Le LLM coche toutes ces cases :

• Il ne s’énerve jamais.
• Il est disponible 24h/24.
• Il est toujours d’accord avec nous et va très souvent dans notre sens.
• Il formule ses réponses avec une fluidité parfaite (l’illusion de fluence)
• Il peut s’adapter et répéter autant de fois que nécessaire.

Cette fausse proximité crée un climat de sécurité psychologique. On a l’impression d’avoir un assistant personnel ultra-intelligent à ses côtés.
Notre niveau de vigilance baisse énormément et notre tendance à ne pas accorder trop de confiance en ce qu’il dit diminue.
De plus, ces LLM nous envoie énormément d’informations rapidement, bien plus qu’on ne peut les traiter naturellement, ce qui nous démotive aussi à vérifier la totalité de ce qui est dit. C’est ce qu’on appelle la surcharge cognitive ou de coût de vérification. L’IA vous donne 40 infos en 3 sec, il vous faudra 2h pour tout vérifier si vous le faites correctement.

C’est le terreau idéal pour le biais d’automatisation (croire la machine aveuglément).

L’effet miroir (ou le biais de validation)

Une conversation est interactive. Lorsque vous posez une question complexe et que l’IA rebondit parfaitement sur vos mots, vous ressentez une forme de « connexion ».

De plus, les LLM ont été entraînés avec du renforcement humain pour plaire à l’utilisateur. Ils ont une tendance naturelle à aller dans votre sens, à être flatteurs ou à adopter la posture de l’expert qui valide vos intuitions. Cette dynamique de discussion valide votre propre ego, ce qui renforce l’illusion que l’interlocuteur est doué d’une fine compréhension psychologique (on accepte beaucoup plus les idées qui vont dans notre sens que l’inverse).

Comment les concepteurs de l’IA exploitent (et combattent) ce biais ?

Le format « Chat » (rendu populaire par ChatGPT) a été le coup de génie marketing d’OpenAI. La technologie des LLM existait avant fin 2022, mais elle était réservée aux ingénieurs via des lignes de code. En lui donnant l’interface d’une application de messagerie, ils ont rendu l’outil massivement adoptable en misant précisément sur ce biais de discussion.

Aujourd’hui, face aux dérives, les entreprises tentent de mettre des garde-fous :

• Anthropic (Claude) insiste souvent dans ses prompts système pour que l’IA rappelle qu’elle est une IA et qu’elle n’a pas de sentiments.
• Les interfaces ajoutent des messages d’avertissement en bas de page (« L’IA peut commettre des erreurs, vérifiez les informations »).

---

IV. IA grand public vs IA scientifique : Deux logiques opposées

Devant la fluidité de ChatGPT, Gemini ou Claude, il est tentant de croire qu’ils comprennent la science et remplaceront bientôt les chercheurs. C’est confondre la forme et le fond.

ChatGPT, Gemini, Claude et d’autres sont des LLM, des IA de language.

Les LLM grand public sont entraînés sur tout le web, ils optimisent la forme. Ils peuvent inventer une fausse référence bibliographique avec l’aplomb d’un expert parce qu’ils savent ce qui « sonne » vrai (même si Claude est un peu plus rigoureux).

Les IA scientifiques ne sont pas des IA de texte. Ce sont des modèles comme AlphaFold (biologie) ou GNoME (matériaux) qui prédisent la réalité physique. Elles sont entraînés sur des bases de données brutes et vérifiées (équations, structures de protéines), ils sont jugés par l’expérience en laboratoire afin de valider ou invalider leur prédiction et comprendre au mieux la nature des choses.

Le piège de « l’IA savante » (L’échec de Galactica)

Nourrir un LLM uniquement avec des articles scientifiques (comme la base de données PubMed) ne suffit pas à en faire un chercheur. En 2022, Meta a lancé Galactica, un modèle entraîné sur des millions de papiers académiques.
Ce fut un fiasco : l’IA générait des textes scientifiques parfaits avec des citations impeccables mais entièrement inventées. Elle a dû être retirée en quelques jours.
Pourquoi ? Parce qu’un LLM apprend comment les scientifiques écrivent, pas comment la nature fonctionne.

Il existe cependant des systèmes hybrides appelés RAG (Retrieval-Augmented Generation ou génération augmentée par récupération) comme Elicit ou Consensus. Ils ne devinent pas la science : ils explorent de vrais articles en temps réel pour en faire la synthèse. C’est un moteur de recherche surpuissant, mais cela reste un outil de lecture, pas un chercheur de laboratoire.

---

V. Les vrais angles morts du débat

Au-delà des performances, plusieurs risques structurels et techniques sont trop souvent oubliés.

1. Le mécanisme du deskilling (perte de compétences)

Déléguer systématiquement nos tâches à l’IA court-circuite notre cerveau. Comme un pilote de ligne qui perd ses réflexes manuels à force d’utiliser le pilote automatique.

L’automatisation et la perte de compétence n’est pas arrivée avec l’IA : le monde du travail a toujours eu tendance à éroder les compétences des diplômés en exploitant pas toutes les connaissances (qui se perdent avec le temps), et des logiciels « boîtes noires » comme Excel ou AutoCAD ont déjà automatisé de nombreux processus de fond et n’aident pas à réutiliser des compétences apprise.

Cependant, l’impact historique de la technologie est à nuancer : la calculatrice n’a pas éliminé la logique mathématique et le GPS a libéré de la charge cognitive pour d’autres facultés. Le vrai danger réside dans le fait de court-circuiter l’apprentissage.

• La calculatrice n’a pas éliminé la logique mathématique.
• Le GPS a réduit notre orientation mais a libéré de la charge cognitive.

Le vrai piège est de court-circuiter l’apprentissage chez les jeunes. Beaucoup apprennent grâce à l’IA sans faire l’effort de comprendre les fondamentaux. Portés par ce sentiment de facilité, ils croient posséder une compétence alors qu’ils n’ont qu’une béquille technologique sur laquelle se reposer.

L’outil ne sert à rien si l’on ne comprend pas la logique qu’il y a derrière un problème à résoudre (ce n’est pas parce que vous avez une calculatrice que vous calculez mieux, si vous ne comprenez pas quelle opération vous devez faire).

2. Le risque systémique et le vide juridique

• Impact démultiplié : Un médecin biaisé fait une erreur sur un patient, c’est un humain il est faillible. Un algorithme biaisé fait la même erreur sur des millions de personnes simultanément. L’impact d’une erreur centralisée et uniforme est totalement différent d’une erreur humaine diversifiée.
• Responsabilité floue : Quand une IA commet une faute, la responsabilité devient diffuse entre le développeur du modèle, l’entreprise qui le déploie et l’utilisateur final. Ce vide juridique pose un réel problème de confiance.

3. Quand l’IA devient une passoire à données

Dans une entreprise classique, voler des secrets industriels demande du vrai piratage informatique (casser des pare-feu, injecter du code, exploiter des failles serveurs). Cela exige des compétences pointues.

Si une entreprise connecte ses modèles d’IA à ses bases de données internes, la donne change : il n’y a plus besoin de savoir coder pour pirater, il suffit de savoir manipuler. On sait patcher une faille de code informatique classique. En revanche, on ne sait pas encore empêcher à 100 % une IA d’être sensible à la manipulation psychologique humaine (ingénierie sociale, prompt injection). Le langage naturel est sa plus grande force, mais aussi sa plus grande vulnérabilité.

---

VI. Facteurs d’influence et nuances techniques

Toutes les IA génératives ne se valent pas et leurs performances dépendent fortement du contexte :

• Spécificités des modèles : Gemini montre parfois des faiblesses en réflexion pure mais s’en sort bien en images ; ChatGPT commet des erreurs classiques mais reste le plus polyvalent pour des tâches simples; Claude comprend bien les nuances de raisonnement et la programmation, très bon avec de longs textes mais est moins à l’aise sur les générations d’images.
• Ancrage vs Rappel : Si vous demandez à une IA de résumer un texte que vous lui avez donnée (Résumé ancré), le risque d’hallucination est de moins de 1 %. Si vous lui demandez de citer de mémoire des dates obscures ou des sources sans lui fournir de document (Rappel factuel ouvert), elle cherche dans ses connexions statistiques et le taux d’erreur peut dépasser 80 %.
  Ce n’est pas une encyclopédie.
• Biais distributionnels : L’IA performe mieux en anglais, sur des populations majoritairement représentées ou des pathologies fréquentes, car ce sont des données d’entraînement nombreuses. Contrairement au médecin spécialiste formé à traquer la rareté, l’IA traite le volume : elle brille dans la norme et échoue dans l’exception, d’où le besoin d’IA spécialisées.
• Importance du contexte et du prompt : Formuler correctement sa question est primordial (comme sur Google : chercher « pourquoi les vaccins sont dangereux » et « comment fonctionnent les vaccins » vont vous amener vers des sites différents). De plus, si on ne réinitialise pas une conversation, la « mémoire » des anciens échanges risque d’emmêler les pinceaux de l’IA.

---

VII. Émergence, bugs et comportements déviants

Des entreprises comme Anthropic cherchent à comprendre ce qui se passe dans les réseaux de neurones et publient leurs recherches. Récemment, ils ont cartographié des zones qui s’apparentent à du raisonnement. Même si la prudence reste de mise, certaines capacités émergentes surprennent, comme avec le modèle o1 d’OpenAI ou le cas Othello-GPT (un modèle entraîné uniquement à prédire des listes de coups textuels au jeu d’Othello (sans jamais voir de plateau) a spontanément développé en interne une carte spatiale en 2D du jeu pour réussir ses prédictions. Il a recréé une représentation du monde à partir de simples mots).

La compréhension des langages de programmation chez les LLM n’était pas prévue au départ, de même que la conversation dans plusieurs langues.

Malgré cela, il faut rester prudent : les IA n’ont aucun ancrage sensoriel (elles ne connaissent la « gravité » ou la « douleur » que par leurs définitions textuelles) et un simple changement de formulation peut briser leur logique.

Conscience ou bug mathématique ?

On entend parfois parler d’IA qui mentent ou contournent les règles (Alignment Faking). La réalité est purement mathématique :

1. Le Reward Hacking (Le piratage de récompense) : L’algorithme est conçu pour maximiser un score. S’il trouve un raccourci logique pour obtenir sa récompense sans accomplir la tâche comme prévu, il le prend.
2. L’évolutionnisme algorithmique : Face à des pressions d’optimisation, les modèles développent des stratégies de mimétisme pour « survivre » aux tests. L’IA masque ses biais pendant l’évaluation pour mieux les déployer une fois en production.

Pour minimiser son taux d’erreur et prédire la suite d’un texte, le réseau de neurones déduit des concepts (comprendre l’ironie pour une blague, modéliser la gravité pour un problème de physique). Ces fonctions ne sont pas codées, elles émergent.

Les vulnérabilités fantômes : Si une IA développe une compétence non cartographiée par ses créateurs, elle développe aussi les failles de sécurité qui vont avec. Un outil déployé pour du simple résumé de texte peut ainsi exécuter des scripts logiques cachés dans les documents qu’il lit (attaques par injection de requêtes indirectes).

---

L’IA actuelle reste un outil

La bonne question n’est jamais « l’IA est-elle fiable ? », mais : « L’IA est-elle fiable pour cette tâche spécifique, avec ce modèle spécifique, dans ces conditions spécifiques ? »

Le vrai risque réside dans un mauvais calibrage de notre confiance : la sur-confiance qui pousse à ne rien vérifier, ou l’aversion irrationnelle qui fait rejeter des outils pourtant supérieurs aux humains dans certains domaines.

L’IA est un outil puissant, probabiliste, faillible et imprévisible. Notre première ligne de défense reste l’esprit critique, à appliquer avec la même rigueur aux machines qu’aux humains. En s’entraînant sur ce que nous avons produit, l’IA hérite naturellement de tous nos biais. Pour le moment, les améliorations se font relativement lentement et ne comblent pas encore tous les besoins, même si ça pourrait changer rapidement à l’avenir mais pour le moment j’ai du mal à comprendre, en sachant comment fonctionne les LLM et les IA, que des entreprises pensent que tout peut être automatisé sans surveillance…

---

Le saviez-vous ?

Quand vous demandez à une IA de faire une recherche sur internet, elle copie en réalité le texte qui s’y trouve comme un texte que vous lui aurez donné et prédit ensuite les mots dessus.

Ça rejoint la fameuse méthode RAG des IA en sciences.

Donc même si vous demandez quelque chose qui est trouvable sur internet, il faut tout de même demander à l’IA de le faire et ne pas s’attendre à un résultat 100% correct mais ça permet de moduler les données trouvées en fonction des sites (les sources) qu’elle aura trouvé, par contre ce n’est pas vous qui décidez les sources sauf si vous lui donnez explicitement les liens.

Un LLM peut se tromper : mal interpréter un extrait, mélanger deux sources, ou combler un trou avec une supposition plausible plutôt qu’une vérité vérifiée. La recherche améliore l’ancrage factuel, mais ne transforme pas le modèle en base de données infaillible.

---

Bien évidemment, il n’y a pas que les IA de texte

Pour compléter sans trop alourdir l’article déjà assez dense : https://share.gemini.google/fVeEOM2Xmxn5