Source : https://korben.info/ia-pensee-critique-eviter-atrophie-cerebrale.html

Je partage entièrement son avis.

C’est assez marrant de constater qu’on a créé des outils dont on sait peu de chose sur leur fonctionnement interne (voir : https://korben.info/anthropic-dissection-cerveau-claude-ia.html).

Ces « IA » un peu couteau-suisse qui ont presque finalement dépassé la fameuse IA du film « Her » sont en train de bouleverser nos habitudes de recherche, nos habitudes de travail et même nos propres raisonnements et manière de réfléchir comme l’a fait Google avant (voir : https://fr.m.wikipedia.org/wiki/Effet_Google).

Notre cerveau n’est pas figé, moins on travaille de choses différentes, moins on fait d’effort et moins il va se développer (travailler la musique et le dessin ou faire du Lego permet de consolider de nombreuses choses et de développer différentes fonctions qui ne semblent pas être en rapport direct, je vous laisse chercher un peu pour ceux que ça intéresse ;) ).

Économiser de l’énergie humaine contre de l’énergie numérique et électrique, voilà le paradoxe actuel.

Personnellement je me sers très régulièrement de ces LLM pour des recherches car elles ont l’avantage de pouvoir synthétiser de nombreuses réponses (avec les biais que cela implique) et de trouver les informations bien plus rapidement qu’une recherche Google où il faut avoir les bons mots clés.

Certains diront qu’il faut faire attention, que les réponses présentées peuvent être fausses et ils auront raison. Mais ça l’est aussi tout autant des sites sur lesquels on cherche des informations ou auprès des personnes qui peuvent nous donner des réponses fausses sans le vouloir (l’erreur est humaine après tout).

De plus, le libre-échange permet une interaction un peu plus réfléchie qui m’amène bien souvent à aller creuser bien en profondeur certains sujets en ouvrant la discussion comme on pourrait le faire avec d’autres personnes.

Cependant, je ne lui demande jamais de me fournir des réponses toutes prêtes, simplement de me donner des pistes de réponse ou de recherche sur des sujets afin, justement, de me laisser le choix à la réflexion et que je reste maître du fil de l’échange.

Il faut garder en mémoire que ça reste des outils qui dépendent beaucoup de la manière dont vous allez demander certaines informations.

Suffit de demander à ChatGPT par exemple de l’expliquer lui-même :

https://chatgpt.com/share/681a6e52-bc90-8004-818b-4d8b8d7aaf1c

Un outil reste un outil, c’est surtout la manière dont on travaille avec qui est décisif.

Autant pour les adultes que nous sommes, c’est bien de savoir ce qui se fait pour ne pas être à la traîne, mais il est crucial pour les jeunes qui grandissent avec cet outil de connaître ce qu’il peut y avoir derrière, les répercussions d’un travail tout mâché, d’aiguiser leur esprit critique (ne pas prendre pour comptant une réponse donnée) et peut-être, brider les IA pour ne pas qu’elles nous donnent des réponses machées mais qu’elles nous accompagnent dans nos réflexions.

Je ne me sens pas bête d’utiliser un outil qui m’aide à avoir plus de réflexion à l’époque où on peut faire des recherches rapides sur des sujets, mais il ne faut pas oublier également qu’une recherche rapide s’accompagne d’une réponse rapide et donc d’une absence totale de nuances et de profondeur de réflexion.

Je commence à être de plus en plus étonné par les LLM, pour m’en servir régulièrement, j’arrive à savoir leur limite, comment leur faire dire ce qu’on veut, etc.

Mais je vois aussi l’évolution, là où il y a à peine 1 an une IA comme ChatGPT pouvait dire blanc et noir dans la même conversation sans qu’il y ait de conflit interne, on voit maintenant la « réflexion » qu’il peut y avoir derrière une simple information qui est donnée.

La perfectibilité du système s’estompe assez rapidement, le langage est beaucoup plus naturel et fluide, et le cheminement prend une place plus importante, le prompt devient de ce fait plus léger et il y a une vraie prise de décision et d’affirmation de l’IA sur les réponses.

Curieux de voir ce que va devenir l’IA dans 5 ans, là où on pensait qu’il faudrait encore attendre au moins 20 ans pour des résultats corrects.

Allons-nous perdre cette capacité de réflexion que l’on a en sachant que des outils pourront faire le travail à notre place ? Un peu comme avec notre mémoire où nous retenons moins l’information que l’endroit où on peut la retrouver.

Personnellement, ce qui m’effraie le plus, c’est la standardisation de la pensée qui ne va pas s’arranger : moins de création unique, du contenu créé par des IA avec une base de données initialement humaine mais qui s’enrichit à grande vitesse par de l’IA (qui crée un contenu uniforme, qui ne sort pas des standards et qui s’auto-alimente), une banalisation des fausses informations et une croyance sans faille aux données que l’IA nous sort sans remise en question de ses informations (sélection des sources, condensation de l’information…).

Garder l’esprit critique reste encore et toujours la meilleure option, qu’importe la source de l’information (site internet ou livre, personne réelle ou IA).

Ça reste de supers outils pour de la recherche d’informations, là où il nous faut des mots clés spécifiques pour une recherche sur un moteur de recherche internet pour trouver les bonnes infos, avec une IA LLM la recherche est plus naturelle et de ce fait, même sans avoir les mots clés techniques indispensables pour une requête standard, on peut avoir l’info au fil de « l’échange » avec des résumés et autres.