Essayer un exemple simple
Pourquoi l’IA peut-elle sembler certaine et se tromper?
Cette réponse semble prête à utiliser. Vérifiez trois détails dans la note d’origine.
Comparez cette réponse à la note.
La réponse au ton assuré
Certainement! La promenade part à 9 h, le rendez-vous est à l’entrée nord et les chiens sont les bienvenus.
Réponse rédigée et note inventée pour l’exercice. C’est un exemple contrôlé, pas une erreur d’IA mesurée ni un outil de vérification en direct.
L’exemple expliqué
La réponse assurée annonce 9 h, l’entrée nord et l’accueil des chiens. La note inventée indique « Rendez-vous à l’entrée nord » à la ligne 2 et « Départ : 9 h 30 » à la ligne 3. Elle ne parle pas des chiens. Le lieu est donc appuyé ici, l’heure est contredite et la règle sur les chiens reste non confirmée. Une réponse limitée aux éléments fournis reprend 9 h 30 et l’entrée nord, sans inventer de règle sur les chiens.
« Certainement » n’a pas rendu les détails vrais.
La réponse mélange un lieu appuyé par la note, une mauvaise heure et une règle sur les chiens qui n’y figure pas. Ce sont trois situations différentes, même si chaque phrase semble aussi assurée.
Vérifiez l’affirmation qui changerait votre décision
Retrouvez la source d’une heure, d’un chiffre ou d’une promesse importante. Distinguez ce qu’elle appuie, ce qu’elle contredit et ce qui reste inconnu. S’il manque une preuve, posez la question au lieu de combler le vide.
Aller plus loin
Que veut dire « hallucination » ici?
Ce terme désigne souvent du contenu généré faux ou non étayé. La note fournie contredit l’heure de départ donnée ici. La règle sur les chiens n’est pas étayée; cela ne prouve pas que les chiens sont interdits.
Pourquoi une formulation fluide peut-elle tromper?
L’étude TruthfulQA a observé des modèles produisant de fausses réponses qui reprenaient des idées reçues. Cela justifie de vérifier le contenu plutôt que de prendre la fluidité pour une preuve. Notre exemple inventé ne mesure le taux d’erreur actuel d’aucun modèle.
Une coche prouve-t-elle toute la réponse?
Non. « Appuyé par cette note » est une comparaison limitée au texte fourni. La note peut elle-même être fausse ou dépassée, et les autres affirmations exigent leurs propres éléments de preuve. Les annotations sont humaines; cette démonstration ne vérifie pas vos textes.
Explorer les sources originales
Références primaires. Elles expliquent les mécanismes; les exemples ici sont des simulations pédagogiques rédigées.
Qu’aimeriez-vous essayer ensuite?
Choisissez un autre petit exemple, ou revenez à celui-ci quand vous en avez besoin.
Voir tous les exemples