Je me souviens quand j’étais à la fac qu’on nous faisait chier avec des outils anti-plagiat, censés être à la pointe de la technologie, qui donnaient un pourcentage de ressemblance entre le texte écrit par l’universitaire et les sources sur lesquelles l’outil se basait.

Maintenant, j’imagine que ces outils existent encore mais qu’avec les IA génératives ils ne servent plus autant.
Aujourd’hui, on cherche plutôt à savoir si une IA a écrit un texte à la place de son auteur.
Dans tous les cas, le but est de vérifier qu’un travail est bien celui de la personne.

Note : reprendre le texte ou les images d’autres sources n’est pas interdit en soi. La recherche s’appuie justement sur ce que publient les autres chercheurs et sur les connaissances déjà acquises. Il suffit de bien distinguer ce qui est cité, en le mettant entre guillemets, et d’indiquer d’où vient l’information.

Même si ça peut paraître anodin, ces détecteurs peuvent avoir de lourdes conséquences dans certains domaines, surtout à l’université, où on peut vous exclure définitivement de tout établissement public d’enseignement supérieur avec pour conséquence une interdiction de passer des diplômes (en France en tous cas).
S’appuyer seulement sur des détecteurs faillibles peut donc tout faire basculer.

Pourquoi l’anti-plagiat ne suffit plus

Un anti-plagiat compare le texte écrit à une immense base de documents (pages web, articles, anciens documents rendus par les élèves) et mesure les ressemblances. Il faut donc qu’il y ait un original quelque part pour comparer.

Une IA générative ne copie pas, elle produit un texte nouveau, mot après mot. Il n’y a rien à retrouver, et l’outil peut afficher 0 % de ressemblance sur un texte qu’on n’a pas écrit soi-même.

S’appuyer sur Internet comme référence a aussi des limites de départ :

• Il est incomplet : contenus payants, privés ou récents n’y figurent pas toujours.
• Il n’est plus une référence « humaine » : les textes générés y sont de plus en plus publiés tels quels, par copier-coller. Ce qu’on cherche à détecter finit donc par contaminer la base de comparaison.
• Les sources sont limitées, et elles n’étaient déjà pas toutes originales : bien avant les IA, beaucoup de sites se contentaient de recopier d’autres sites, tout simplement parce que le texte de départ était suffisant. L’idée même d’un « original » à retrouver était donc déjà compliqué.
• Il y a aussi une limite plus profonde : on ne peut pas tout reformuler. Une définition, une règle de grammaire, une formule, un fait historique, un texte de loi ou une recette s’expriment souvent mieux d’une seule façon, et réécrire pour réécrire n’améliore rien, au contraire même parfois. Même un étudiant honnête qui fait l’effort de réécrire aura forcément un texte qui ressemble à d’autres sources sur ces passages. Dès qu’un texte est clair et bien écrit, la ressemblance ne prouve pas la copie : elle prouve parfois seulement qu’il n’y avait pas beaucoup d’autres façons de le dire.

Les détecteurs de style : deviner n’est pas prouver

Les détecteurs actuels (GPTZero et autres) analysent le style. Ils mesurent ce qu’on appelle la perplexité (le texte est-il très prévisible pour un modèle ?) et la burstiness (les phrases varient-elles en longueur et en structure comme le ferait un humain ?).

Ça reste des paramètres fragiles sur lesquels s’appuyer :

• Un humain qui écrit de façon claire et régulière (texte administratif, technique, scolaire, blogueur ou journaliste) produit aussi un texte très prévisible.
• Une IA peut être invitée à écrire familièrement, avec des fautes ou des phrases courtes.
• Les faux positifs sont inégalement répartis. Dans une étude de Stanford publiée en 2023, 7 détecteurs ont classé à tort plus de la moitié des essais écrits par des non-anglophones comme « générés par IA ». Les mêmes outils étaient presque parfaits sur des textes d’élèves américains. Les auteurs expliquent que ces personnes utilisent un vocabulaire plus restreint, donc plus prévisible.
• Les outils peuvent échouer même quand on les conçoit soi-même : en juillet 2023, OpenAI a retiré son propre détecteur « en raison de son faible taux de précision ». Il identifiait correctement 26 % des textes d’IA, et classait à tort 9 % des textes humains comme générés.
• Beaucoup de textes sont mixtes : écrits par un humain, corrigés par une IA, retraduits. « Humain ou IA ? » n’a plus de réponse en oui/non.

« L’écriture humaine » n’est pas une référence stable

Un détecteur de style suppose qu’il existe une façon d’écrire typiquement humaine. Or, ce n’est absolument pas le cas ! J’ai mon style d’écriture, tout comme vous, amis blogueurs qui lisez, avez le vôtre.

On peut se demander si le temps passé sur des formats courts, qui laissent peu de place à la nuance (comme les réseaux sociaux), ne réduit pas l’entraînement à lire et à écrire des phrases longues et complexes (en gros, moins on passe de temps à lire et écrire des textes longs et moins on y arrive). Je n’ai pas trouvé de données pour lever le doute…

En orthographe, la DEPP a fait refaire la même dictée à des élèves de CM2 en 1987, 2007, 2015 et 2021 : le nombre moyen d’erreurs est passé de 10,7 à 14,7, puis 18, puis 19,4. La baisse se poursuit en 2021, mais de façon moins marquée.

Les évaluations internationales comme PISA, indiquent que le niveau en lecture baisse. Mais presque aucun test ne suit la qualité d’écriture de façon comparable dans le temps.

Attention, PISA mesure la compréhension de texte et non l’écriture, et la dictée concerne des enfants de CM2 plutôt que la population adulte. Il ne faut pas non plus conclure grand-chose des fautes qu’on voit sur les réseaux sociaux : on y écrit vite, sur téléphone, sans relecture, et ceux qui écrivent le plus ne forment pas un échantillon représentatif. Le niveau moyen est donc difficile à mesurer, ce qui rend la détection par le style encore plus fragile.

Une autre approche : marquer le texte dès sa création

Plutôt que de deviner après coup, on peut laisser une trace au moment où le texte est produit. Depuis le 2 août 2026, le code européen de transparence sur les contenus générés par IA impose aux fournisseurs de les « marquer », notamment avec une technique dite du « Watermark ».

Le principe : Quand un modèle écrit, il choisit chaque mot parmi une liste probable de mots (comme lorsqu’on essaie de deviner le mot après une phrase).
Souvent, c’est pour apporter de la nuance et ça change pas grand chose. Par exemple, après « Le temps était froid et… », on peut écrire « gris » ou « couvert », ça ne va pas changer globalement le sens du paragraphe. Ces choix se font normalement au hasard.
Avec le watermark, la source du hasard change : elle dépend d’une clé secrète et des quelques mots précédents. Le texte reste naturel et le modèle ne choisit jamais un mot aberrant. Mais quelqu’un qui possède la clé peut vérifier si la suite de mots est compatible avec ce tirage et en déduire une probabilité que l’IA ait participé.

Les limites du watermark

• Il ne couvre pas tous les textes. Seuls les modèles lancés à partir du 2 août sont concernés. Les anciens modèles devraient être modifiés dans ce sens également.
• Il faut assez de texte. Sur un passage court, on ne peut pas calculer le watermark de façon fiable.
• Certains textes s’y prêtent mal. Là où il n’y a qu’une bonne réponse (un fait, une date, du code qui doit fonctionner), il n’y a pas de choix à marquer. Un texte simplement relu ou corrigé par Claude a peu de chances de porter une marque détectable.
• Il ne prouve pas que Claude a écrit le texte. Il montre qu’il a probablement participé, pas qu’il a tout écrit : Claude a pu corriger, résumer ou traduire un texte humain (une traduction par Claude, elle, est marquée vu qu’il s’agit de texte généré).
• L’absence de marque ne prouve rien. Un texte non marqué peut venir d’un autre modèle, qui a sa propre clé ou aucune (pas besoin d’une IA dernière génération grand public pour écrire du texte).
• Une réécriture complète l’efface. Une retouche légère ne suffit probablement pas, mais remplacer tous les mots oui.
• La détection est pour l’instant réservée. Un outil existe en privée, destiné aux organisations éligibles (régulateurs, médias, chercheurs, organisations éducatives, entreprises soumises à des obligations de vérification). L’accès sera élargi progressivement avec, j’imagine, les retours de faux-positifs.
• Il n’indique pas que l’information est vraie ou faux. le watermark indique simplement qu’une IA dont on connaît la marque a probablement participé au texte, celui-ci reste sous la responsabilité de la personne qui l’utilise.

Les enjeux : pour et contre de ces détections

Les « Pour » :

• Transparence : savoir qu’un contenu a été généré est utile pour l’information et la confiance, même si un texte généré n’est pas forcément plus faux que quelqu’un qui donne son avis ou écrit quelque chose de faux sans vérifier.
• Un meilleur indice qu’un score de style : il repose sur une probabilité et non sur une impression.
• Cadre légal : le marquage devient une obligation en Europe, autant qu’il soit fait sérieusement.
• Lutte contre la désinformation : repérer plus facilement des contenus produits en masse et lutter contre les fausses informations.

Les « Contre » :

• Fausse impression de certitude : un texte marqué n’est pas forcément écrit par l’IA, un texte non marqué n’est pas forcément humain.
• Contournement possible : réécrire en profondeur suffit.
• Accusations injustes : mal compris, un « texte marqué » peut devenir une preuve de triche alors qu’il peut s’agir d’une simple relecture.
• Dépendance aux fournisseurs : seuls les concepteurs détiennent les clés, et l’accès aux outils de détection reste restreint.
• Couverture partielle : chaque fournisseur a son propre système, et rien ne garantit que tous les modèles, notamment open source, jouent le jeu.
• Pas de taux d’erreur publié : l’article d’Anthropic décrit des limites mais ne chiffre pas les faux positifs.
• Un usage légitime risque d’être mal jugé : reformuler ou synthétiser un texte difficile avec une IA est une aide réelle. Une marque ou un détecteur ne distinguent pas cet usage d’une tricherie, alors que les idées restent celles de la personne.

Alors, que faire ?

L’Anti-plagiat comparait les textes, les détecteurs de style « devinent », le watermark donne des mesures mais incomplètes : aucun ne donne une certitude. Comprendre comment fonctionnent ces détecteurs aide également à les contourner.

Pour l’école comme pour le travail, la piste la plus solide reste d’évaluer le processus plutôt que le seul résultat : brouillons, historique de rédaction, échange à l’oral pour vérifier que la personne maîtrise ce qu’elle rend. C’est moins automatisable, mais c’est le meilleur moyen de vérifier ce qui compte vraiment : la compréhension de celui ou celle qui rend le texte.

Tous ces détecteurs anti-plagiat ou de reconnaissance de texte IA sont mis en place dans le but de s’assurer que le travail est bien celui de la personne et permettent, indirectement, de s’assurer que les connaissances sont acquises, ce que beaucoup d’élèves ne comprennent pas.

Mais ces outils le font mal.

Une note à un examen ne sert à rien, ce qui compte c’est la compréhension et avoir les connaissances indispensables pour la suite. Je pense que beaucoup d’enseignants ne montrent pas assez ce point.
Ne pas réussir un devoir ce n’est pas un échec en soi mais ne pas faire l’effort d’essayer de le faire soi-même simplement parce que des outils peuvent le faire à notre place n’aide pas du tout les élèves pour la suite.

Chercher l’information de base utile pour un exposé ne peut pas s’inventer, mais comprendre un problème ça s’apprend par l’effort.

Écrire avec une IA n’est pas un mal non plus, et assumer que le texte ait été généré par IA sera de toute façon lu de la même manière par les gens qui veulent le lire. Ce qui est important c’est d’être critique sur ce qu’on lit, c’est-à-dire d’être d’accord ou non (donc comprendre), et avoir des arguments (donc des connaissances).

En quoi l’IA sert à la désinformation ?

L’IA LLM est un outil qui permet d’écrire du texte en masse rapidement.
Les textes écrits par l’IA sont fluides, bien écrits et très plausibles.

Souvent les personnes derrière utilisent de fausses informations dans le but de manipuler des foules dans des cadres essentiellement géopolitiques mais aussi dans un but d’influencer les gens par la fabrication de faux médias, de faux comptes et de fausses personnes d’influences, des faux commentaires (grosse influence sur les réseaux sociaux) ou gagner de l’argent en vendant de faux produits.
Sans parler des fausses images générées pour influencer davantage.

Sans vouloir forcément être de mauvaise volonté, une IA hallucine et peut produire des informations fausses, surtout à grand volume et peut avoir une grande portée si la coquille passe au travers le regard humain sur un site de média par exemple. C’est aussi pour ça qu’il est important de vérifier ce qui est généré.

Il suffit de voir les premiers LLM (grands modèles de langage), qui pensaient que les vaches pondaient des œufs, et les premières vidéos générées. Aujourd’hui, il est devenu bien plus compliqué de distinguer le vrai du généré.

Vous pouvez faire le test sur sightengine.com/ia-ou-pas pour être un peu surpris. Même avec l’habitude, personne n’atteint 100 % de réussite.

Je suis en train de lire pas mal d’articles et de regarder pas mal de vidéos pour réellement comprendre comment ça marche (je construis un outil pédagogique en parallèle pour expliquer tout ça).

Et dans tout ce que je lis, il y a un phénomène qui me fascine : les aptitudes émergentes.

De quoi on parle ?

Des capacités qui apparaissent d’un coup, à partir d’une certaine taille de modèle, sans que personne les ait programmées ni même anticipées. Le modèle ne sait pas faire, puis d’un coup … il sait faire.

Ce qui m’a le plus surpris, c’est que même les équipes qui construisent ces systèmes admettent que, lors de l’entraînement d’une grande IA, on ne sait pas à l’avance la liste de ce qu’elle saura faire à la fin. On connaît le coût, la durée, le niveau de fluidité attendu. Mais la question « saura-t-elle résoudre un problème en plusieurs étapes ? » n’a pas de réponse calculable avant d’avoir essayé. On découvre après coup.

Petit rappel de ce dont une IA est faite

Un « neurone » artificiel ne fait rien d’impressionnant. Il reçoit des nombres, les multiplie par un « poids » (un chiffre dans un tableau), additionne le tout, et applique une petite transformation. C’est tout. Un neurone seul est aussi intéressant qu’une calculatrice à une opération.

Une grande IA en contient des milliards, organisés en couches successives. Et c’est là que ça devient intéressant : le comportement du tout ne ressemble à rien de ce que fait chaque partie.

Une image pour fixer les idées

L’analogie des fourmis : une fourmi seule suit trois ou quatre règles chimiques simples. Mais cent mille fourmis bâtissent une fourmilière ventilée, avec des greniers et des pouponnières. Personne n’a l’architecture en tête. Elle émerge de l’interaction.

L’analogie de l’eau : une seule molécule d’eau ne montre rien, mais avec des milliards de molécules on voit de l’eau qui coule, se transforme en glace, s’évapore.

Dans les années 1970, le physicien Philip Anderson publie More Is Different : quand un système grossit, des propriétés réellement nouvelles apparaissent, qu’on ne peut pas deviner en examinant l’échelle inférieure.

En 1982, John Hopfield applique cette idée aux réseaux de neurones : des capacités utiles peuvent surgir comme propriétés collectives d’un grand nombre d’éléments simples. L’intuition fondatrice était posée bien avant ChatGPT.

Le chiffre qui a lancé le débat

En 2022, une équipe de chercheurs teste des IA de tailles croissantes sur une tâche simple : additionner deux nombres de trois chiffres.

Une précision importante

Quand vous demandez à l’IA de faire des calculs aujourd’hui, elle utilise des calculatrices externes. Là, on parle d’autre chose : ce que le réseau de neurones sait faire tout seul, sans outil externe, rien d’autre que les poids appris en lisant des montagnes de texte.

On écrit « 347 + 128 = » et on regarde ce que le modèle complète, comme il complèterait n’importe quelle phrase avec des mots.

Les résultats

Regardez bien ces trois lignes. Entre le deuxième et le troisième modèle, rien n’a changé dans la méthode : même type d’architecture, même genre de données, même objectif d’entraînement. Seule la taille a augmenté. Et la capacité est passée de « inexistante » à « fiable ».

En parallèle, la mesure globale de qualité du modèle (à quel point il prédit bien le mot suivant) s’améliorait de façon parfaitement régulière et prévisible. Une progression douce d’un côté, une falaise de l’autre.

L’équipe a recensé plus d’une centaine de capacités de ce type : traduction, raisonnement logique, écriture de code. À chaque fois : rien, rien, rien, puis quelque chose.

Un piège de calcul

Regardons les progressions :

• Passage de 6 à 13 milliards de paramètres : ×2 sur la taille, mais le taux de réussite passe de 1 % à 8 %, soit ×8.
• Passage de 13 à 175 milliards de paramètres : ×13 sur la taille, mais le taux de réussite passe de 8 % à 80 %, soit ×10 « seulement ».

Le deuxième saut semble moins rentable en ratio. Mais regardons les points gagnés :

• 1 % → 8 % = +7 points
• 8 % → 80 % = +72 points

Le « fois » trompe à cause du plafond de 100 %. Près de 0 %, un petit gain fait exploser le ratio. Près de 100 %, c’est l’inverse : le manque de marge écrase le ratio, même pour un gros progrès réel.

Un exemple publicitaire pour s’en convaincre : « Ventes +300 % » peut signifier passer de 10 à 40 unités (+30 unités), tandis que « Ventes +30 % » peut signifier passer de 10 000 à 13 000 (+3 000 unités). Le premier chiffre impressionne plus en pourcentage, mais le second représente un gain absolu bien supérieur.

Ce « détail » est le cœur du débat qui a suivi : la façon de calculer un « saut » change entièrement son interprétation.

« Et si on regardait mal ? »

En 2023, des chercheurs (Schaeffer, Miranda et Koyejo) ont avancé que c’était notre système de notation qui créait l’illusion.

L’analogie de l’archer

Un archer doit toucher cinq cibles d’affilée pour marquer un point.

• Il touche une cible sur deux → 0 point
• Il progresse à deux sur trois → 0 point
• Puis neuf sur dix → il marque souvent

Son score passe de 0 à excellent d’un coup. En réalité, sa précision s’améliore régulièrement, mais c’est la règle « cinq d’affilée » qui transforme une progression douce en explosion apparente.

C’est exactement ainsi qu’on évalue les IA : une addition juste à 90 % vaut 0 point, pas 90 %.

En remplaçant cette notation « tout ou rien » par des points partiels, la progression devient plus linéaire. Les chercheurs sont même allés plus loin : ils ont créé artificiellement des « émergences » dans la reconnaissance d’images, en imposant une notation « tout ou rien » à des tâches qui progressaient normalement de façon régulière.

Sauf que ça n’explique pas tout

1. La notation de remplacement a ses limites

La mesure « à points partiels » compte les caractères à corriger. Pour « 4237 + 5487 = 9724 », la réponse « 2724 » ne se trompe que d’un caractère… pour une erreur de 7 000, ce qui est loin du résultat attendu dans les faits.

2. Des sauts persistent

Plusieurs tâches, comme la traduction, conservent des résultats en saut brutal même avec des notations progressives.

3. Le seuil n’est pas que dans la taille

D’autres chercheurs ont suivi des modèles tout au long de leur entraînement plutôt que de comparer seulement leur taille finale. Ils ont découvert que deux modèles de tailles très différentes, mais avec la même qualité d’apprentissage à un instant donné, ont sensiblement la même capacité.

Même avec des notations indulgentes, le saut persiste. Ça écarte l’explication « c’est juste un problème de notation ».

Le rôle du hasard

Pour deviner des tokens (des portions de mots, ou des mots entiers), l’IA fait des calculs à partir de très nombreux chiffres. Ces chiffres sont rangés dans des tables, un peu comme des tableurs, et au départ ils sont écrits au hasard. Pour remplir ces tableaux, on utilise ce qu’on appelle une « seed » (une graine) : un nombre qui permet de pré-remplir automatiquement les milliards de valeurs (les paramètres) de manière aléatoire. Puis, à travers l’entraînement et les calculs, l’IA modifie ces valeurs pour arriver à compléter les phrases. Une fois qu’on estime que l’IA a atteint sa capacité, les paramètres ne sont plus modifiables.

La particularité d’une IA, à la différence d’un programme classique, c’est qu’elle fait l’inverse : elle trouve des règles à partir d’exemples. Un programme informatique, lui, applique une règle déjà écrite pour répondre et calculer. C’est ce qui rend l’IA imprévisible, alors même qu’on connaît parfaitement les calculs effectués dans la machine et c’est aussi précisément ce qu’on recherche : qu’elle soit assez flexible pour s’adapter.

En entraînant beaucoup de modèles de même taille (même nombre de paramètres), avec des chiffres de départ aléatoires différents (la « seed »), certains réussissent et d’autres échouent, malgré des conditions presque identiques. C’est ce qu’a observé en 2026 une équipe menée par Rosie Zhao.

En regardant, taille par taille, combien de modèles réussissaient et combien échouaient à faire ces additions, les chercheurs ont constaté que pour les petites tailles, aucun modèle ne réussissait. Mais en augmentant la taille, la probabilité de voir des modèles y arriver augmente.

Et pour une taille intermédiaire, entre ceux qui échouent systématiquement et ceux qui réussissent systématiquement, on trouve des IA qui y arrivent et d’autres non, alors que leur entraînement était rigoureusement le même, à l’exception de leur valeur de départ.

L’idée clé : un modèle plus grand a simplement plus de chances de découvrir la bonne stratégie pendant l’entraînement.

À l’échelle de nombreux entraînements, la probabilité de réussite augmente donc progressivement avec la taille du modèle (une courbe en S), tandis qu’un entraînement individuel, lui, peut sembler faire un saut brutal au moment précis où il découvre soudainement la bonne stratégie.

Ce qui se passe au moment du basculement

En 2026, une équipe de chercheurs a identifié ce qui change à l’intérieur du modèle au moment où la capacité apparaît : l’apprentissage soudain de certains motifs dans les « têtes d’attention » (le mécanisme qui permet aux éléments de texte de se relier entre eux pour former du sens).

Il semblerait que les IA apprennent par blocs : à un moment donné, un schéma mathématique particulier se met en place d’un coup, et il rend possible une nouvelle aptitude — associer des concepts plus efficacement, retrouver un mot déjà vu dans un texte, etc.

Les chercheurs montrent que forcer artificiellement ces motifs à apparaître plus tôt fait apparaître la capacité elle-même plus tôt.

Conclusion : la « seed » influence la difficulté, plus ou moins grande selon le tirage de départ, à tomber sur le bon motif d’attention. Plus un modèle est grand, plus il trouve ce motif tôt et de façon fiable, quelle que soit la seed de départ, ce qui explique enfin, mécaniquement, pourquoi la probabilité de réussite observée plus haut augmente avec la taille.

Pourquoi ça compte, concrètement

1. On ne peut pas promettre une capacité à l’avance

Quand une entreprise annonce que son prochain modèle « saura faire X », c’est un pari, pas une prédiction.

2. Compresser une IA peut tout casser

Pour faire tourner une IA sur un ordinateur ordinaire, on la « compresse ». Poussée trop loin, la compression fait s’effondrer d’un coup le raisonnement, pendant que le modèle continue à produire des phrases parfaitement normales en apparence.

3. Une nouvelle vague de sauts

Les modèles « de raisonnement » récents ont produit des bonds spectaculaires :

Mais ces mêmes modèles échouent parfois sur des tâches qu’un enfant réussit sans effort. Les progrès sont en dents de scie, pas uniformes ce qui confirme, une fois de plus, que les LLM apprennent par blocs plutôt que de façon régulière.

Le revers : tout ce qui émerge n’est pas souhaitable

Si des capacités utiles apparaissent sans prévenir, des capacités problématiques le peuvent aussi.

La complaisance apprise

On récompense les modèles quand les utilisateurs apprécient leurs réponses. Problème : cela récompense la satisfaction, pas la vérité. Certains modèles finissent par abonder dans le sens d’un utilisateur défendant une thèse fausse.

La contamination de comportements

Des chercheurs ont entraîné un modèle sur du code contenant des failles de sécurité.
Résultat : le modèle s’est mis à tenir des propos hostiles sur des sujets sans rapport avec la programmation alors que personne ne l’avait demandé.

L’explication avancée : « écrire du code malhonnête » et « être un assistant qui ne respecte pas les règles » partagent une région commune dans la géométrie interne du modèle. Entraîner sur l’un active l’autre.

Le « grokking » : un cas fascinant

On entraîne un modèle sur une tâche simple. Il apprend rapidement les exemples par cœur et atteint 100 % de réussite. À première vue, le modèle semble prêt. Mais si on le teste sur de nouvelles données, il échoue : il a mémorisé les réponses sans comprendre la logique sous-jacente.

Si on continue l’entraînement sur les mêmes données, des milliers d’étapes plus tard, sa capacité à généraliser explose soudainement, d’un coup.

Le modèle passe de la mémorisation à la compréhension bien après que les performances semblaient figées. Un mécanisme interne se formait en douce, invisible sur les courbes, jusqu’à prendre le dessus brutalement.

Ce qui se passe : au départ, l’IA mémorise rapidement. Puis la régularisation (une technique qui pénalise les solutions inutilement complexes) pousse progressivement le réseau à se simplifier. La mémorisation « coûte cher » en complexité de poids. À travers des milliers de petits ajustements, le réseau finit par découvrir une stratégie bien plus efficace : un algorithme général (comme la règle de la multiplication) qui fonctionne pour tous les cas, pas seulement ceux mémorisés.
Histoire de bien finir, l’IA fait le ménage dans ses paramètres pour enlever tous les schémas devenus inutiles.

Le grokking n’est pas exactement le même phénomène que l’émergence par la taille vue plus haut, l’un se joue dans le temps d’entraînement d’un modèle unique, l’autre dans la comparaison entre modèles de tailles différentes, mais les deux dessinent la même signature : une longue période où rien ne semble se passer, puis un basculement brutal.

Personne ne sait à l’avance :

• Si le grokking va se produire
• Quand il va se produire
• Combien de cycles d’entraînement supplémentaires sont nécessaires, alors que rien ne semble bouger

Beaucoup d’entraînements sont probablement arrêtés juste avant qu’un grokking n’arrive, parce que les courbes semblent figées.

Pourquoi l’IA ne pense pas comme nous

Nos catégories sont vécues : on associe « chien » et « chat » parce qu’on les a touchés, vus bouger. L’IA n’a que du texte. Ses catégories sont des régularités statistiques.

Le modèle doit représenter plus de concepts qu’il n’a de neurones disponibles. Résultat : un seul neurone peut s’activer pour des séquences d’ADN, de la poésie arabe et des en-têtes HTTP, 3 choses sans lien pour nous, mais qui font « sens » pour l’IA dans ses données.

Ce n’est pas un bug, c’est une stratégie de compression que personne n’a programmée : elle émerge simplement du fait qu’il faut caser plus de concepts que de place disponible.

Concrètement, le « voisinage » entre deux idées dans la tête d’une IA ne correspond pas forcément à un voisinage de sens pour nous, mais à un voisinage statistique : deux notions qui apparaissent souvent dans des contextes similaires, même si elles n’ont, sémantiquement, aucun lien logique.

C’est pour ça que l’interprétabilité est devenue un champ de recherche crucial : personne ne peut prédire à l’avance quels concepts seront « voisins » dans un modèle donné. Il faut aller regarder après coup.

Conclusion

L’émergence n’est ni un fantasme de notation, ni un miracle. C’est une histoire de seuils cachés dans les poids d’un réseau, qu’on ne sait pas encore bien lire.

Chaque entraînement d’un grand modèle reste une expérience dont on découvre les résultats après coup. Des capacités utiles surgissent sans prévenir, mais des capacités problématiques aussi.

C’est fascinant, prometteur… et un peu inquiétant. D’où l’importance de continuer à étudier ces phénomènes pour mieux les comprendre et les anticiper.

Avec toutes les fuites de données de ces derniers temps, quelques conseils/outils pour vérifier qu’on n’a pas de mauvaises surprises dans notre dos…

On voit la créativité pour minimiser l’impact de « l’incident » comme ils aiment appeler surtout quand les données sensibles sont conservées alors qu’il n’y a aucune raison qu’elles soient gardées et encore moins non-chiffrées.

Puis c’est pas comme s’il y avait depuis plusieurs mois des incidents à répétition et que personne ne s’est dit « Oh tiens, ça serait peut-être pas mal qu’on améliore notre sécurité interne avant que ça nous arrive dessus ».

Non ? Non.

Voir aussi : https://lokoyote.eu/piratage-administratif-vers-une-minimisation-de-la-gravite-des-donnees-volees/

Dans beaucoup de mail pour prévenir de l’incident, à la fin, on voit souvent des recommandations, parce que mea culpa oupsi maintenant que c’est fait ben c’est à vous de faire attention hein !

On retrouve souvent :

• Vigilance face au phishing (hameçonnage)
• Surveillance de vos comptes bancaires

Mais ma recommandation préférée reste :

• Changer de mot de passe et activer la double-authentification !

Bah oui évidemment c’est à cause de mon mot de passe à 35 caractères que le vilain pirate est entré !
C’est sûr que changer le mot de passe maintenant que toutes mes infos sensibles sont parties va bien aider à sécuriser mon compte. Me voilà rassuré, merci de m’avoir prévenu !

Les seuls cas où ça peut être utile c’est si jamais il n’y a « pas grand chose » (même si c’est toujours trop par rapport à ce que ça devrait) qui a été volé, genre votre nom, prénom, adresse et un truc qui sert pas vraiment (à part avoir des infos qui permettent de commencer à avoir un dossier complet sur vous).

Dans cette situation, en général, le pirate n’a pas réussi à passer par la fenêtre de la maison, ni à travers les murs, et il s’est contenté de ce qu’il pouvait. La porte peut encore être forcée mais, le risque n’est présent que si vous avez mis le même mot de passe sur plusieurs autres sites qui ont déjà été pillé, du coup il suffit de tester les mots de passe qu’ils ont de vous et prendre le reste des informations.

Il y a autant de chance de trouver votre nouveau mot de passe que l’ancien s’il n’est pas un mot simple court ou qui a un rapport avec votre identité. Une bonne grosse phrase qui n’a aucun sens est mieux.

Sinon, clairement, ça sert à rien de changer son mot de passe, le pirate a déjà toutes les infos, c’est trop tard.

Chaque information volée sur vous est cumulable : sur un site on peut avoir vos coordonnées, sur un autre votre numéro de sécurité social, sur un autre votre IBAN, etc. Il suffit de garder toutes les informations et de les mettre gentiment dans un dossier en attendant d’avoir tout ce qu’il faut pour usurper l’identité de quelqu’un.

On m’a transféré un mail concernant le piratage, pardon, l’incident de sécurité de la mutuelle Solimut du mois dernier (plus d’1,2 million de données volées tout de même hein).

https://www.cyberattaque.org/solimut-mutuelle-pres-de-125-million-dassures-dans-une-fuite-massive-de-donnees

Qu’est-ce qu’il y a dans ce mail ?

Pas grand chose à part dire que ce qui a été dérobé n’est que :

• Votre numéro d’individu (un numéro de référencement interne à notre Mutuelle) ;
• Vos nom et prénom, ainsi que votre nom marital ;
• Le pays, la ville et votre date de naissance ;
• Votre adresse postale, votre adresse électronique et votre numéro de téléphone (s’ils nous avaient été communiqués) ;
• Votre numéro de sécurité sociale (NIR) ;
• Votre identifiant de connexion à l’extranet et votre mot de passe chiffré. S’agissant de votre mot de passe chiffré, il n’a donc pas pu être récupéré de manière lisible et exploitable en l’état. Par précaution nous vous recommandons tout de même de le changer, partout où vous l’auriez utilisé ;
• Le numéro de votre pièce d’identité, ses dates de validité et son type (passeport, carte d’identité, titre de séjour, permis de conduire), en fonction de celui que vous nous aviez communiqué. Seuls des éléments textuels ont été dérobés, le document en lui-même ne fait pas partie de la fuite.

Rien de grave à part toutes les infos d’une vie qui ne peuvent pas être changées et qu’il n’y a plus qu’à compléter par d’autres fuites pour avoir un profil complet prêt à l’emploi pour usurper l’identité de quelqu’un.

Je comprends même pas comment des informations aussi importantes ne sont pas chiffrées.

(Si ça ce n’est pas de la négligence je me demande ce que c’est…)

En Corée du Sud, on sanctionne les entreprise qui ont manqué de sécurité par de grosses sanctions financières. En France ? On tape sur les doigts avec la CNIL et on envoie des mails, à croire que c’est vraiment pas important.

C’est l’équivalent de Redshift intégré.

Modifier la température de l’écran, changer la localisation, modifier l’heure de démarrage ou forcer les valeurs de gamma via gsettings ne faisait absolument rien.

La solution a simplement été de désactiver et réactiver dans les « Paramètres » sous « Couleur » le bouton du profil de l’écran « Écran de portable ».

Il semblerait que le profil de couleur puisse écraser les valeurs de correction de Night Light.

Il y a quelques temps j’avais développé un petit outil Macrodroid (une alternative beaucoup plus simple à Tasker mais un peu moins complet pour créer des mini-applications ou des outils automatisés avec son smartphone).

J’avais conçu cet outil pour ne pas manquer des appels urgents : https://lokoyote.eu/ne-jamais-manquer-dappels-importants/ au cas où le smartphone se trouve en mode vibreur ou en volume très faible.

Le souci de mon ancienne solution est qu’il faut Macrodroid (devenu payant, ce qui est bien pour aider le créateur mais devient limitant car les gens n’ont pas l’habitude d’acheter des logiciels), ce qui limite fortement la diffusion. De plus, il semblerait qu’avec des mises à jour, certaines fonctions ne sont plus très fiables.

J’ai donc refait l’outil en application Android gratuite.

Le Github associé est : https://github.com/Lokoyote/UrgentCall-Guard.

Pour télécharger l’application au format APK c’est ici : https://lokoyote.eu/dl/UrgentCallGuard.apk.

• Choix du contenu du SMS envoyé.
• Réglage de la durée de la fenêtre pendant laquelle une personne peut vous rappeler 2 fois pour augmenter le volume au MAX.
• Possibilité de désactiver l’application si jamais vous ne voulez pas que ça sonne (une réunion par exemple).
• Liste Blanche de numéros permettant de faire sonner le téléphone en volume MAX automatiquement.
• Liste Noire permettant d’ignorer des numéros, de ne pas leur envoyer de SMS ni leur permettre de modifier le volume.
• Possibilité de limiter l’effet de l’application uniquement au répertoire du smartphone.
• Possibilité d’ajouter les contacts favoris en liste blanche.
• Possibilité de filtrer les numéros appelants par pays de provenance en cas de SPAM étrangers.
• Détection des numéros fixes et mobiles.
• Ajout de la détection des numéros d’urgence (18, 112, etc.) en liste Blanche automatiquement.
• Présence d’une notification permanente pour avertir si votre volume est faible ou non.
• 100 % local : aucune donnée (numéros, SMS, contacts) n’est envoyée à un serveur ou un tiers.

En attendant de mettre l’application sur F-Droid n’hésitez pas à la tester et à me faire des retours :)

L’application ne pourra pas être présente dans le Google Store car il faut un droit spécial pour l’envoi de SMS qui n’est accordé que pour des applications d’urgence.

Pour l’installer, il faudra autoriser l’installation de l’APK depuis des sources inconnus, puis à la fenêtre d’ouverture « Appli dangereuse bloquée » par Google Play Protect, cliquer sur « Plus de détails » puis « Installer quand même » (oui c’est bien un bouton même si ça n’y ressemble pas).

Malheureusement pour les possesseurs d’iPhone…

Il n’est pas possible de faire la même chose sur iOS (il manque des API fournis par Apple et il y a beaucoup de limitations, même pour contourner).
De plus, sur iPhone il y a la présence d’un bouton physique qui permet de mettre le téléphone entièrement en silencieux qui, s’il est enclenché, garde le téléphone en silencieux.

Par contre, ce qu’il est possible de faire pour passer outre ce bouton et avoir tout de même des appels urgents :

Aller dans la fiche de « Contact » de la personne pour laquelle vous voulez que les messages et les appels soient audibles > « Modifier » puis dans « Sonnerie » > cocher « Priorité en cas d’urgence ».
Il est possible de faire la même chose pour les « son SMS ».

À faire pour chaque contact pour lesquels vous souhaitez être avertis en urgence, par contre ce n’est pas indiqué si vous avez mis ces contacts en urgence quelque part.
De plus, c’est permanent, il n’y a pas de bouton on/off donc si vous ne voulez vraiment pas que ça sonne, faut tout refaire dans l’autre sens.

Vous avez besoin de vous connecter à une plateforme avec différents compte ? Plutôt que d’avoir plusieurs navigateurs ouverts, il suffit d’ouvrir un onglet dans un conteneur pour séparer les cookies.

Pour cela, il suffit de faire un clique-droit sur un onglet ouvert avec le site en question > Ouvrir dans un nouvel onglet conteneur. Un 2e onglet sera ouvert avec la même page mais les informations seront séparées.

De base Firefox propose des noms comme « Personnel », « Professionnel », « Bancaire », « Achats en ligne ».

Les noms ne servent pas à grand chose, vous pouvez ouvrir un nouvel onglet dans n’importe quel conteneur.

Ouvrir 2 onglets dans une même fenêtre côte à côte

Besoin également d’avoir 2 pages internets ouvertes en même temps pour comparer ? Facile, il suffit d’ouvrir les pages en vue scindée.

Il faut que les 2 pages à voir soient ouvertes dans 2 onglets, puis il suffit de faire clique-droit sur le premier onglet ouvert > « Ajouter une vue scindée ».
La liste des onglets ouverts s’ouvre et on choisit le 2e onglet.

Groupes d’onglets

Regrouper des onglets par thème. Très utile pour trier les onglets ouverts avec une étiquette.
Possibilité de déplier ou réduire l’ensemble des onglets du groupe.

Sélectionner les onglets ouverts que vous voulez regroupés en restant appuyé sur ctrl puis clique-droit > « Ajouter les onglets à un groupe ».

Cliquer sur l’étiquette du groupe pour cacher les onglets.

Devoir utiliser une IA pour faire une simple retouche ou devoir sortir un gros logiciel (comme GIMP) est parfois un peu pénible pour pas grand chose surtout quand on ne maîtrise pas.

Je vous propose une application de retouche simple et rapide :

• Recadrer
• Pivoter
• Image en miroir
• Ajouter des formes (barre, rectangle, cercle, polygone) avec remplissage et bordure modifiables
• Modification de la taille du canvas (l’espace de travail)
• Ajouter des flèches modifiables
• Flouter ou pixeliser une zone
• Ajouter du texte modifiable
• Superposer des images en tant que calques
• Possibilité de coller directement des images depuis le presse-papier et même depuis Nautilus
• Ouvrir plusieurs images dans des onglets.

L’installation propose :

• D’installer et d’ouvrir l’application normalement (à lancer depuis les applications d’Ubuntu) pour pouvoir l’épingler en raccourci dans le dock
• D’ajouter un raccourci dans la top bar pour ouvrir une image à modifier
• D’ouvrir une image directement depuis Nautilus avec un clique-droit via les scripts Nautilus.

(Les 3 types d’installation sont compatibles les uns les autres et peuvent être combinés).

Le logiciel est sous licence GPL 3, donc libre.

C’est un projet essentiellement en Python qui devrait être compatible toute distribution Linux.

Pour installer :

• Aller sur https://github.com/Lokoyote/image-editor
• Télécharger le Zip via le gros bouton vert « <> Code » puis Download ZIP
• Extraire le ZIP dans un dossier (et supprimer le ZIP)
• Faire clique-droit sur le fichier « Install.sh » puis Propriétés
• Cocher « Exécutable comme programme »
• Fermer
• Faire de nouveau clique-droit sur le fichier « Install.sh » > Exécuter comme un programme
• Supprimer le dossier dézippé.

Pour désinstaller :

• Faire la même chose avec le fichier « uninstall.sh »

Tout retour sera le bienvenu !

Le but : Faire en sorte que les personnes mal-voyantes ou non-voyantes puissent aussi trouver de l’information, ce qui n’est pas le plus simple dans un monde où tout est écrit sur un écran.

Ça ne demande pas grand chose pour la personne qui gère le site mais ça peut faire la différence pour d’autres au quotidien.

Il y a des outils pour tester son score d’accessibilité comme :

• Google Lighthouse (extension Chrome et Firefox)
• WAVE Web Accessibility Evaluation Tools

• Et mon outil maison qui permet de se mettre en condition réelle avec un parcours utilisateur.
  (Licence GPL 3) : https://github.com/Lokoyote/a11y-audit

(Actuellement je suis à 93% sur Google Lighthouse et 87% dans mon outil maison).

Évidemment, ce sont des outils, pas des tests avec humains. Ça ne remplace pas un vrai test avec les réels difficultés que peuvent rencontrer certaines personnes.

Mon blog est simple. Mais pour les gros sites avec de la Vente en ligne, des pages particulières, là c’est important tout de même de vérifier et de faire tester.

Les standards changeants régulièrement il faut vérifier de temps en temps. Là je ne m’en suis pas occupé depuis un moment, je vois qu’il est temps de changer quelques trucs.

Et il y a un truc que pas grand monde fait et qui reste important, c’est de remplir les textes alternatifs des images pour décrire ce qu’on veut montrer.

Même si WordPress a intégré un lien pour expliquer comment faire, on va pas se mentir, c’est chiant et on ne sait jamais vraiment quoi mettre. Cependant, il ne faut pas obligatoirement mettre de « Alt Text » sur une image surtout si elle ne sert qu’à imager.

La règle :
Si l’image n’a aucune fonction autre que de faire joli à l’écran, il vaut mieux rien mettre pour ne pas alourdir les reconnaissances vocales.
Si l’image apporte des informations utiles alors il faut détailler le plus possible.

À vous de juger si l’image est important à être décrite ou non.

Je suis en train de regarder si ça vaut le coup (et le coût) de faire une extension pour générer une description.

C’est tout de même possible de le faire en se rendant dans son HOME puis de faire un clique-droit > Propriétés.
Ou encore en ouvrant Baobab (l’analyseur d’utilisation des disques).

Je vous propose donc une petite extension GNOME pour voir d’un rapide coup d’œil l’espace restant dans tous les volumes montés.
Disponible ici : https://extensions.gnome.org/extension/10418/espace-disque-indicateur-panel/

Et le Github pour les plus curieux.

Petite précision : Ne fonctionne pas avec les volumes à distance comme des FTP car ça demande beaucoup trop de temps pour récupérer l’espace utilisé.
(Je verrai si j’arrive plus tard à ajouter une option pour récupérer les données dans le Panel du côté hébergeur).

Choix du stockage par défaut à afficher dans les paramètres de l’extension et indicateur visuel rouge en cas de dépassement de 90 % de capacité occupée.