Réponses inventées : 6 garde-fous contre les hallucinations d'un chatbot
Un modèle de langue produit une réponse même quand il ne sait pas. Six mesures réduisent le phénomène, et une seule le rend visible.
Ingénieur en apprentissage automatique, il monte des systèmes de recherche documentaire adossés à des modèles de langue et passe l'essentiel de son temps sur l'évaluation plutôt que sur les modèles. Il défend l'idée que la qualité d'un assistant se joue dans le corpus bien avant le choix du fournisseur.
Dernière publication il y a 2 mois
Un modèle de langue produit une réponse même quand il ne sait pas. Six mesures réduisent le phénomène, et une seule le rend visible.
Le modèle de langue n'améliore pas tous les parcours. Il change la donne sur trois familles de demandes et complique tout le reste.