o1 et Claude sont-ils capables de nous MANIPULER ? Deux études récentes aux résultats troublants – Monsieur Phi

Je commence à être de plus en plus étonné par les LLM, pour m’en servir régulièrement, j’arrive à savoir leur limite, comment leur faire dire ce qu’on veut, etc.

Mais je vois aussi l’évolution, là où il y a à peine 1 an une IA comme ChatGPT pouvait dire blanc et noir dans la même conversation sans qu’il y ait de conflit interne, on voit maintenant la « réflexion » qu’il peut y avoir derrière une simple information qui est donnée.

La perfectibilité du système s’estompe assez rapidement, le langage est beaucoup plus naturel et fluide, et le cheminement prend une place plus importante, le prompt devient de ce fait plus léger et il y a une vraie prise de décision et d’affirmation de l’IA sur les réponses.

Curieux de voir ce que va devenir l’IA dans 5 ans, là où on pensait qu’il faudrait encore attendre au moins 20 ans pour des résultats corrects.

Allons-nous perdre cette capacité de réflexion que l’on a en sachant que des outils pourront faire le travail à notre place ? Un peu comme avec notre mémoire où nous retenons moins l’information que l’endroit où on peut la retrouver.

Personnellement, ce qui m’effraie le plus, c’est la standardisation de la pensée qui ne va pas s’arranger : moins de création unique, du contenu créé par des IA avec une base de données initialement humaine mais qui s’enrichit à grande vitesse par de l’IA (qui crée un contenu uniforme, qui ne sort pas des standards et qui s’auto-alimente), une banalisation des fausses informations et une croyance sans faille aux données que l’IA nous sort sans remise en question de ses informations (sélection des sources, condensation de l’information…).

Garder l’esprit critique reste encore et toujours la meilleure option, qu’importe la source de l’information (site internet ou livre, personne réelle ou IA).

Ça reste de supers outils pour de la recherche d’informations, là où il nous faut des mots clés spécifiques pour une recherche sur un moteur de recherche internet pour trouver les bonnes infos, avec une IA LLM la recherche est plus naturelle et de ce fait, même sans avoir les mots clés techniques indispensables pour une requête standard, on peut avoir l’info au fil de « l’échange » avec des résumés et autres.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.

Possibilité d'ajouter une balise de SPOILER via la syntaxe suivante :
[spoiler] Texte à cacher [/spoiler]