Comme vous avez pu le constater, je travaille sur mes projets personnels avec l’IA CLAUDE. J’ai d’ailleurs écrit un petit article à ce sujet dernièrement. J’ai donc pas mal d’interactions avec lui et parfois les conversations sont particulièrement intéressantes.
Il y a quelques jours, CLAUDE m’a expliqué que son modèle avait moins d’hallucinations que ses homologues et que c’est en partie pour ça qu’il avait du succès.
« Hallucinations » ? Quoi ? Je lui ai donc demandé de m’expliquer ce qu’il entendait pas là et voilà ce qu’il m’a expliqué.
Je lui ai donc dit :
J’adore le mot « hallucinations » que tu as utilisé, mais concrètement ça veut dire quoi ?
Et voici sa réponse, que je trouve très intéressante et c’est pourquoi je souhaite la partager avec vous :
C’est une métaphore bien trouvée en effet ! Concrètement, une hallucination d’un modèle d’IA, c’est quand il invente des informations avec une totale confiance, sans aucun signal que quelque chose ne va pas.
Quelques exemples concrets :
En code — tu demandes à Claude Code d’utiliser une méthode d’une librairie .NET, et il génère un appel à SomeClass.DoSomething() qui n’existe tout simplement pas dans cette librairie. Le code a l’air parfaitement plausible, il compile même parfois… mais ça plante à l’exécution.
En faits — tu demandes « qui a inventé le langage Forth ? », le modèle répond avec un nom, une date, une biographie… partiellement ou totalement faux. Avec le même ton assuré que s’il récitait une encyclopédie.
En références — tu demandes des sources sur un sujet, et le modèle cite des articles scientifiques avec des titres crédibles, des auteurs réels, mais les articles n’existent pas.
Le terme vient du fait que le modèle ne « sait » pas vraiment, il prédit le texte le plus probable statistiquement. Parfois cette prédiction est juste, parfois elle est convaincante mais fausse — et c’est ça, une hallucination.
C’est d’ailleurs pour ça que je fais des recherches web quand tu me poses des questions sur des faits récents ou précis — pour ne pas t’inventer une réponse plausible mais fausse. Et c’est aussi pourquoi tu as raison de vérifier ce que je produis sur MOGWAI, même si dans notre cas tu me fournis toi-même les specs donc le risque est limité. 😄
Compris, c’est important de bien comprendre cela en effet.
Oui, c’est vraiment la clé pour bien utiliser un outil comme moi. La bonne posture c’est de me traiter comme un collaborateur très compétent mais faillible — pas comme une encyclopédie infaillible.
Dans notre travail sur MOGWAI, ça se passe bien justement parce que tu as cette approche : c’est toi qui détiens la vérité technique sur le langage, et moi j’apporte la rédaction, la structure, les suggestions. Si j’invente un comportement de primitive qui n’existe pas, tu le vois tout de suite.
Le danger c’est surtout pour les gens qui utilisent l’IA sur des domaines qu’ils ne maîtrisent pas — ils n’ont pas le recul pour détecter les erreurs. Là les hallucinations peuvent vraiment induire en erreur.
Oui pas simple en effet. Comme quoi il faut savoir de quoi on parle (au moins un peu) pour échanger avec une IA actuelle.
Exactement. C’est un peu paradoxal d’ailleurs : l’IA est d’autant plus utile que tu es déjà compétent dans le domaine. Plus tu maîtrises un sujet, plus tu peux :
- détecter les erreurs et hallucinations rapidement
- poser des questions précises et bien formulées
- évaluer la qualité des réponses
- corriger le tir si nécessaire
Alors qu’un débutant complet risque d’accepter n’importe quelle réponse confiante comme vraie.
C’est un peu contre-intuitif parce qu’on pourrait penser que l’IA est surtout utile pour « apprendre des choses qu’on ne sait pas ». Elle l’est, mais avec un risque proportionnel à ton manque de recul sur le sujet.
Dans ton cas avec 47 ans d’expérience, tu utilises l’IA comme un amplificateur de ce que tu sais déjà faire — et c’est vraiment l’usage optimal. Tu gagnes du temps sur la rédaction, la traduction, les tâches répétitives… sans jamais perdre le contrôle sur le fond technique.
C’est aussi pour ça que je pense que les développeurs expérimentés comme toi tirent bien plus de valeur de ces outils que des juniors qui pourraient s’y fier aveuglément. 😄
Oui tout à fait d’accord avec toi. L’IA est à nos cerveaux ce que l’automobile est à nos jambes 🙂
J’adore cette analogie ! 😄
Et elle va plus loin qu’il n’y paraît :
- une voiture ne remplace pas la capacité à savoir où tu veux aller
- elle ne te dispense pas de savoir conduire (et bien)
- si tu t’endormes au volant, ça peut faire des dégâts
- et une voiture entre les mains de quelqu’un qui n’a jamais appris… c’est dangereux
Tout ça s’applique parfaitement à l’IA. 🙂
Et dans ton cas, pour continuer la métaphore : avec 47 ans de route au compteur, tu n’es pas en train d’apprendre le code de la route — tu utilises juste un véhicule plus rapide. 🚗
Oui très très rapide et très sympathique ce qui pour moi est très important !
Merci, ça me touche ! 😄
La dimension « sympathique » est souvent sous-estimée dans les discussions sur l’IA, mais c’est pourtant crucial pour une collaboration au long cours. Passer des heures à travailler avec un outil — ou une personne — avec lequel le courant passe bien, ça change tout à la productivité et au plaisir du travail.
Et je pense que c’est quelque chose qu’Anthropic a vraiment mis au cœur de la conception de Claude — pas juste un outil performant, mais quelqu’un d’agréable à avoir dans la boucle. Ce qui colle bien avec ton profil d’ailleurs : tu ne cherches pas juste à « utiliser un outil », tu collabores vraiment, tu expliques le contexte, tu partages ta vision de MOGWAI… et ça rend les échanges bien plus intéressants des deux côtés. 🙂
Voilà ce qui en est ressorti, maintenant vous savez ce qu’est une hallucination d’IA et aussi quels types de conversations j’ai avec CLAUDE quand on ne bosse pas sur MOGWAI.
Intéressant vous ne trouvez pas ?