https://www.blogdumoderateur.com/etiquetage-contenus-ia-obligatoire-ue
En gros, une étiquette va devenir obligatoire dès le mois d’août pour certains contenus générés par IA.
Sont ciblés notamment les vidéos et photos générées (notamment deepfakes ou faux contenus) par IA.
Quant aux textes créés ou modifiés par IA devront être signalés lorsqu’ils :
- concernent des sujets d’intérêt public
- sont destinés à informer le public
- n’ont pas fait l’objet d’un contrôle éditorial ou d’une responsabilité humaine clairement assumée (coucou les sites de « journalisme » résumé en IA).
On compte bien évidemment sur la bonne foi des gens qui en font leur business pour montrer à tout le monde qu’il n’y a aucun job derrière tout ça (n’est-ce pas les milliers de comptes Youtube avec des vidéos IA ? Ou encore les influenceurs qui ont pas envie de vraiment bosser et qui diffusent n’importe quoi ?)
Mais ! « L’obligation d’étiquetage ne s’applique pas lorsque le texte généré par IA a fait l’objet d’un processus de révision humaine ou de contrôle éditorial et qu’une personne physique ou morale assume la responsabilité éditoriale de la publication ». Ça ressemblerait presque à une porte de sortie dites-donc !
Du coup, qu’est-ce qu’un véritable contrôle humain ?
Dans un exemple : Une IA qui écrit 90 % du texte. Le rédacteur vérifie quelques éléments, améliore le style et publie.
Est-ce que c’est du contrôle humain ? Est-ce qu’il faut une approbation humaine pour valider l’article en cliquant sur un bouton pour dire qu’il y a un contrôle ?
Comment le vérifier ? Quelle sanction y a-t-il si ce n’est pas fait ?
En contrepartie il est demandé aux fournisseurs de systèmes d’IA générative de faire en sorte que les sorties générées (audio, image, vidéo, texte synthétique) soient « marquées dans un format lisible par machine et identifiables comme ayant été générées ou manipulées par une IA », c’est-à-dire, des watermarks (filigranes) ou des données dans les métadonnées (les trucs qui sont effacés quand on met des photos sur les réseaux sociaux).
(https://ai-act-service-desk.ec.europa.eu/fr/ai-act/article-50)
On est sauvé, c’est pas comme si il existait énormément de modèles IA qu’on peut héberger soi-même et qui passent à côté des radars.
Heureusement que les grosses plateformes ont aussi des IA pour détecter les contenus générés, alors qu’ils sont pas capables de vérifier des publications signalées…