Le RAG (Retrieval-Augmented Generation, ou génération augmentée par récupération) est une architecture qui combine une recherche documentaire et un modèle de langage. Au lieu de répondre uniquement « de mémoire », l’IA va d’abord chercher des passages pertinents dans un ensemble de documents fournis, puis rédige sa réponse à partir de ces passages — qu’elle…

Pour vérifier une information donnée par une IA, il faut isoler les affirmations factuelles, remonter à la source primaire ou officielle, puis les croiser avec au moins deux sources indépendantes et reconnues. Une IA générative produit du texte plausible, pas nécessairement vrai : elle peut énoncer une erreur avec le même aplomb qu’un fait avéré….

ChatGPT invente des chiffres et des sources parce qu’il ne cherche pas la vérité : il prédit le mot le plus probable pour former une réponse plausible. Un modèle de langage ne consulte aucune base de faits vérifiés ; quand une donnée lui manque, il la reconstitue de façon crédible, chiffre ou référence à l’appui….

Une hallucination de l’intelligence artificielle est une réponse fausse ou inventée qu’un outil génératif présente avec l’assurance d’un fait vérifié. Le phénomène concerne tous les grands modèles de langage, de ChatGPT à ses concurrents, et se glisse le plus souvent au milieu d’informations exactes, ce qui le rend difficile à repérer. Pour un formateur, une…