Le difficile, avec un assistant IA, n'est pas qu'il se trompe. Tout se trompe. C'est qu'une réponse fausse arrive exactement sous les traits d'une réponse juste : mêmes phrases fluides, même ton assuré, même air d'autorité. Rien dans l'écriture ne trahit l'erreur.
Vous ne pouvez donc pas vous fier à l'impression que donne une réponse. Il faut savoir où les erreurs apparaissent le plus souvent et vérifier ces endroits en particulier.
Là où les erreurs se concentrent
Tout ce qui contient un chiffre
Statistiques, dates, prix, numéros de version, distances, dosages. Les nombres sont précisément le type de détail qu'un modèle de langage reconstruit au lieu de le mémoriser, et un nombre plausible est facile à produire. Considérez chaque chiffre précis comme non vérifié tant que vous ne l'avez pas vu ailleurs.
Les citations et les sources
Une référence avec un auteur crédible, une revue plausible et une année convaincante peut ne pas exister. C'est le mode d'échec le plus dommageable, car une citation ressemble à une preuve. Si une source compte, ouvrez-la. Si elle ne s'ouvre pas, elle n'a peut-être jamais existé.
Les événements récents
Les modèles sont entraînés jusqu'à une date limite. Interrogez-les sur quelque chose de plus récent et vous risquez une réponse assurée bâtie sur des informations plus anciennes, sauf si l'assistant a explicitement effectué une recherche. Vérifiez s'il a réellement cherché ou s'il a simplement répondu.
Tout ce qui vous est spécifique
La politique de votre entreprise, votre droit local, votre modèle d'appareil précis. Le modèle connaît la forme générale de ces choses et comblera les détails de façon plausible. Forme générale plus détails inventés : combinaison dangereuse au moment d'agir.
Une vérification de trente secondes
Inutile de tout vérifier. Calibrez l'effort sur les conséquences d'une erreur.
- Demandez-vous ce qui se passe si c'est faux. Si la réponse est « pas grand-chose », passez à la suite.
- Repérez les affirmations porteuses : les deux ou trois faits dont dépend tout le reste.
- Vérifiez-les auprès d'une source primaire, pas auprès d'une autre IA.
- Demandez directement à l'assistant : « sur quelles parties es-tu le moins sûr ? » La réponse est souvent révélatrice.
- Pour tout sujet juridique, médical ou financier, traitez le résultat comme le point de départ d'une question à un professionnel, jamais comme la réponse.
Des prompts qui limitent l'invention
- Fournissez la matière plutôt que de compter sur la mémoire du modèle. Un modèle qui résume votre document collé invente bien moins qu'un modèle qui répond de mémoire.
- Autorisez explicitement le « je ne sais pas ». Les modèles cherchent par défaut à produire une réponse ; dire que l'incertitude est acceptable rend cet aveu plus probable.
- Demandez le raisonnement, pas seulement la conclusion. Une logique fautive se repère bien plus facilement qu'un fait faux.
- Posez deux fois la même question, formulée autrement. Des réponses très différentes indiquent que le modèle devine.
L'habitude à prendre
Traitez une réponse d'IA comme le résumé assuré d'un collègue très cultivé qui n'a pas revérifié ses notes : un point de départ réellement utile, à vérifier avant de le répéter ou d'agir dessus. Cette posture conserve l'essentiel du gain de vitesse en écartant presque tout le risque.
AI Guide propose un parcours complet sur la recherche et la vérification, qui couvre le contrôle des sources et la façon de formuler des prompts limitant les détails inventés.