Lokoyote

Je me souviens quand j’étais à la fac qu’on nous faisait chier avec des outils anti-plagiat, censés être à la pointe de la technologie, qui donnaient un pourcentage de ressemblance entre le texte écrit par l’universitaire et les sources sur lesquelles l’outil se basait.

Maintenant, j’imagine que ces outils existent encore mais qu’avec les IA génératives ils ne servent plus autant.
Aujourd’hui, on cherche plutôt à savoir si une IA a écrit un texte à la place de son auteur.
Dans tous les cas, le but est de vérifier qu’un travail est bien celui de la personne.

Note : reprendre le texte ou les images d’autres sources n’est pas interdit en soi. La recherche s’appuie justement sur ce que publient les autres chercheurs et sur les connaissances déjà acquises. Il suffit de bien distinguer ce qui est cité, en le mettant entre guillemets, et d’indiquer d’où vient l’information.

Même si ça peut paraître anodin, ces détecteurs peuvent avoir de lourdes conséquences dans certains domaines, surtout à l’université, où on peut vous exclure définitivement de tout établissement public d’enseignement supérieur avec pour conséquence une interdiction de passer des diplômes (en France en tous cas).
S’appuyer seulement sur des détecteurs faillibles peut donc tout faire basculer.

Pourquoi l’anti-plagiat ne suffit plus

Un anti-plagiat compare le texte écrit à une immense base de documents (pages web, articles, anciens documents rendus par les élèves) et mesure les ressemblances. Il faut donc qu’il y ait un original quelque part pour comparer.

Une IA générative ne copie pas, elle produit un texte nouveau, mot après mot. Il n’y a rien à retrouver, et l’outil peut afficher 0 % de ressemblance sur un texte qu’on n’a pas écrit soi-même.

S’appuyer sur Internet comme référence a aussi des limites de départ :

• Il est incomplet : contenus payants, privés ou récents n’y figurent pas toujours.
• Il n’est plus une référence « humaine » : les textes générés y sont de plus en plus publiés tels quels, par copier-coller. Ce qu’on cherche à détecter finit donc par contaminer la base de comparaison.
• Les sources sont limitées, et elles n’étaient déjà pas toutes originales : bien avant les IA, beaucoup de sites se contentaient de recopier d’autres sites, tout simplement parce que le texte de départ était suffisant. L’idée même d’un « original » à retrouver était donc déjà compliqué.
• Il y a aussi une limite plus profonde : on ne peut pas tout reformuler. Une définition, une règle de grammaire, une formule, un fait historique, un texte de loi ou une recette s’expriment souvent mieux d’une seule façon, et réécrire pour réécrire n’améliore rien, au contraire même parfois. Même un étudiant honnête qui fait l’effort de réécrire aura forcément un texte qui ressemble à d’autres sources sur ces passages. Dès qu’un texte est clair et bien écrit, la ressemblance ne prouve pas la copie : elle prouve parfois seulement qu’il n’y avait pas beaucoup d’autres façons de le dire.

Les détecteurs de style : deviner n’est pas prouver

Les détecteurs actuels (GPTZero et autres) analysent le style. Ils mesurent ce qu’on appelle la perplexité (le texte est-il très prévisible pour un modèle ?) et la burstiness (les phrases varient-elles en longueur et en structure comme le ferait un humain ?).

Ça reste des paramètres fragiles sur lesquels s’appuyer :

• Un humain qui écrit de façon claire et régulière (texte administratif, technique, scolaire, blogueur ou journaliste) produit aussi un texte très prévisible.
• Une IA peut être invitée à écrire familièrement, avec des fautes ou des phrases courtes.
• Les faux positifs sont inégalement répartis. Dans une étude de Stanford publiée en 2023, 7 détecteurs ont classé à tort plus de la moitié des essais écrits par des non-anglophones comme « générés par IA ». Les mêmes outils étaient presque parfaits sur des textes d’élèves américains. Les auteurs expliquent que ces personnes utilisent un vocabulaire plus restreint, donc plus prévisible.
• Les outils peuvent échouer même quand on les conçoit soi-même : en juillet 2023, OpenAI a retiré son propre détecteur « en raison de son faible taux de précision ». Il identifiait correctement 26 % des textes d’IA, et classait à tort 9 % des textes humains comme générés.
• Beaucoup de textes sont mixtes : écrits par un humain, corrigés par une IA, retraduits. « Humain ou IA ? » n’a plus de réponse en oui/non.

« L’écriture humaine » n’est pas une référence stable

Un détecteur de style suppose qu’il existe une façon d’écrire typiquement humaine. Or, ce n’est absolument pas le cas ! J’ai mon style d’écriture, tout comme vous, amis blogueurs qui lisez, avez le vôtre.

On peut se demander si le temps passé sur des formats courts, qui laissent peu de place à la nuance (comme les réseaux sociaux), ne réduit pas l’entraînement à lire et à écrire des phrases longues et complexes (en gros, moins on passe de temps à lire et écrire des textes longs et moins on y arrive). Je n’ai pas trouvé de données pour lever le doute…

En orthographe, la DEPP a fait refaire la même dictée à des élèves de CM2 en 1987, 2007, 2015 et 2021 : le nombre moyen d’erreurs est passé de 10,7 à 14,7, puis 18, puis 19,4. La baisse se poursuit en 2021, mais de façon moins marquée.

Les évaluations internationales comme PISA, indiquent que le niveau en lecture baisse. Mais presque aucun test ne suit la qualité d’écriture de façon comparable dans le temps.

Attention, PISA mesure la compréhension de texte et non l’écriture, et la dictée concerne des enfants de CM2 plutôt que la population adulte. Il ne faut pas non plus conclure grand-chose des fautes qu’on voit sur les réseaux sociaux : on y écrit vite, sur téléphone, sans relecture, et ceux qui écrivent le plus ne forment pas un échantillon représentatif. Le niveau moyen est donc difficile à mesurer, ce qui rend la détection par le style encore plus fragile.

Une autre approche : marquer le texte dès sa création

Plutôt que de deviner après coup, on peut laisser une trace au moment où le texte est produit. Depuis le 2 août 2026, le code européen de transparence sur les contenus générés par IA impose aux fournisseurs de les « marquer », notamment avec une technique dite du « Watermark ».

Le principe : Quand un modèle écrit, il choisit chaque mot parmi une liste probable de mots (comme lorsqu’on essaie de deviner le mot après une phrase).
Souvent, c’est pour apporter de la nuance et ça change pas grand chose. Par exemple, après « Le temps était froid et… », on peut écrire « gris » ou « couvert », ça ne va pas changer globalement le sens du paragraphe. Ces choix se font normalement au hasard.
Avec le watermark, la source du hasard change : elle dépend d’une clé secrète et des quelques mots précédents. Le texte reste naturel et le modèle ne choisit jamais un mot aberrant. Mais quelqu’un qui possède la clé peut vérifier si la suite de mots est compatible avec ce tirage et en déduire une probabilité que l’IA ait participé.

Les limites du watermark

• Il ne couvre pas tous les textes. Seuls les modèles lancés à partir du 2 août sont concernés. Les anciens modèles devraient être modifiés dans ce sens également.
• Il faut assez de texte. Sur un passage court, on ne peut pas calculer le watermark de façon fiable.
• Certains textes s’y prêtent mal. Là où il n’y a qu’une bonne réponse (un fait, une date, du code qui doit fonctionner), il n’y a pas de choix à marquer. Un texte simplement relu ou corrigé par Claude a peu de chances de porter une marque détectable.
• Il ne prouve pas que Claude a écrit le texte. Il montre qu’il a probablement participé, pas qu’il a tout écrit : Claude a pu corriger, résumer ou traduire un texte humain (une traduction par Claude, elle, est marquée vu qu’il s’agit de texte généré).
• L’absence de marque ne prouve rien. Un texte non marqué peut venir d’un autre modèle, qui a sa propre clé ou aucune (pas besoin d’une IA dernière génération grand public pour écrire du texte).
• Une réécriture complète l’efface. Une retouche légère ne suffit probablement pas, mais remplacer tous les mots oui.
• La détection est pour l’instant réservée. Un outil existe en privée, destiné aux organisations éligibles (régulateurs, médias, chercheurs, organisations éducatives, entreprises soumises à des obligations de vérification). L’accès sera élargi progressivement avec, j’imagine, les retours de faux-positifs.
• Il n’indique pas que l’information est vraie ou faux. le watermark indique simplement qu’une IA dont on connaît la marque a probablement participé au texte, celui-ci reste sous la responsabilité de la personne qui l’utilise.

Les enjeux : pour et contre de ces détections

Les « Pour » :

• Transparence : savoir qu’un contenu a été généré est utile pour l’information et la confiance, même si un texte généré n’est pas forcément plus faux que quelqu’un qui donne son avis ou écrit quelque chose de faux sans vérifier.
• Un meilleur indice qu’un score de style : il repose sur une probabilité et non sur une impression.
• Cadre légal : le marquage devient une obligation en Europe, autant qu’il soit fait sérieusement.

Les « Contre » :

• Fausse impression de certitude : un texte marqué n’est pas forcément écrit par l’IA, un texte non marqué n’est pas forcément humain.
• Contournement possible : réécrire en profondeur suffit.
• Accusations injustes : mal compris, un « texte marqué » peut devenir une preuve de triche alors qu’il peut s’agir d’une simple relecture.
• Dépendance aux fournisseurs : seuls les concepteurs détiennent les clés, et l’accès aux outils de détection reste restreint.
• Désinformation : repérer plus facilement des contenus produits en masse et lutter contre les fausses informations.
• Couverture partielle : chaque fournisseur a son propre système, et rien ne garantit que tous les modèles, notamment open source, jouent le jeu.
• Pas de taux d’erreur publié : l’article d’Anthropic décrit des limites mais ne chiffre pas les faux positifs.
• Un usage légitime risque d’être mal jugé : reformuler ou synthétiser un texte difficile avec une IA est une aide réelle. Une marque ou un détecteur ne distinguent pas cet usage d’une tricherie, alors que les idées restent celles de la personne.

Alors, que faire ?

L’Anti-plagiat comparait les textes, les détecteurs de style « devinent », le watermark donne des mesures mais incomplètes : aucun ne donne une certitude. Comprendre comment fonctionnent ces détecteurs aide également à les contourner.

Pour l’école comme pour le travail, la piste la plus solide reste d’évaluer le processus plutôt que le seul résultat : brouillons, historique de rédaction, échange à l’oral pour vérifier que la personne maîtrise ce qu’elle rend. C’est moins automatisable, mais c’est le meilleur moyen de vérifier ce qui compte vraiment : la compréhension de celui ou celle qui rend le texte.

Tous ces détecteurs anti-plagiat ou de reconnaissance de texte IA sont mis en place dans le but de s’assurer que le travail est bien celui de la personne et permettent, indirectement, de s’assurer que les connaissances sont acquises, ce que beaucoup d’élèves ne comprennent pas.

Mais ces outils le font mal.

Une note à un examen ne sert à rien, ce qui compte c’est la compréhension et avoir les connaissances indispensables pour la suite. Je pense que beaucoup d’enseignants ne montrent pas assez ce point.
Ne pas réussir un devoir ce n’est pas un échec en soi mais ne pas faire l’effort d’essayer de le faire soi-même simplement parce que des outils peuvent le faire à notre place n’aide pas du tout les élèves pour la suite.

Chercher l’information de base utile pour un exposé ne peut pas s’inventer, mais comprendre un problème ça s’apprend par l’effort.

Écrire avec une IA n’est pas un mal non plus, et assumer que le texte ait été généré par IA sera de toute façon lu de la même manière par les gens qui veulent le lire. Ce qui est important c’est d’être critique sur ce qu’on lit, c’est-à-dire d’être d’accord ou non (donc comprendre), et avoir des arguments (donc des connaissances).

---

En quoi l’IA sert à la désinformation ?

L’IA LLM est un outil qui permet d’écrire du texte en masse rapidement.
Les textes écrits par l’IA sont fluides, bien écrits et très plausibles.

Souvent les personnes derrière utilisent de fausses informations dans le but de manipuler des foules dans des cadres essentiellement géopolitiques mais aussi dans un but d’influencer les gens par la fabrication de faux médias, de faux comptes et de fausses personnes d’influences, des faux commentaires (grosse influence sur les réseaux sociaux) ou gagner de l’argent en vendant de faux produits.
Sans parler des fausses images générées pour influencer davantage.

Sans vouloir forcément être de mauvaise volonté, une IA hallucine et peut produire des informations fausses, surtout à grand volume et peut avoir une grande portée si la coquille passe au travers le regard humain sur un site de média par exemple. C’est aussi pour ça qu’il est important de vérifier ce qui est généré.