Ce que le modèle de langue change, en une phrase
Un bot classique choisit une réponse dans une liste. Un bot fondé sur un modèle de langue fabrique une réponse à partir d'éléments qu'on lui fournit.
Toutes les conséquences découlent de là. Le premier est prévisible et limité : il ne dira jamais rien d'inattendu, et ne couvrira jamais que ce qui a été prévu. Le second comprend des formulations qu'aucun paramétrage n'anticipait, et peut produire une phrase juste sur la forme et fausse sur le fond.
Le choix ne se pose donc pas entre l'ancien et le moderne, mais entre deux modes d'erreur. Il faut savoir lequel votre activité tolère, et sur quels flux.
Les trois situations où le génératif gagne nettement
Les questions à cent formulations. Une demande simple s'exprime de manières très diverses, et un bot à intentions ne couvre que celles qu'on lui a apprises. Le modèle supprime ce travail sans fin de collecte des variantes, et le gain se lit directement dans le taux d'incompréhension.
Les réponses qui vivent dans des documents. Quand l'information existe dans un manuel ou une base d'aide sans avoir jamais été transformée en question et réponse, le montage documentaire prend son sens : on cherche d'abord les passages pertinents, puis on demande au modèle de formuler à partir de ces seuls passages. La réponse s'appuie sur vos documents et la source peut être affichée.
La synthèse de plusieurs éléments. Le statut d'une commande, la politique de retour applicable et le délai restant, réunis dans une réponse unique adaptée au cas. C'est le gain le moins visible en démonstration et le plus apprécié à l'usage.
Ce qui décide de la qualité, et ce n'est pas le modèle
Sur un montage documentaire, la qualité dépend d'abord du découpage des documents, ensuite de la pertinence de la recherche, et seulement en dernier lieu du modèle employé.
Trois défauts de corpus reviennent systématiquement. Les doublons de version, où une procédure ancienne coexiste avec sa mise à jour, et le bot répond parfois l'une, parfois l'autre. Les passages sans contexte, qui ne disent pas de quel produit ni de quelle année ils parlent. Et les tableaux aplatis, dont les colonnes se mélangent une fois convertis en texte, ce qui produit des associations fausses.
Corriger le corpus avant de changer de modèle est presque toujours le meilleur investissement.
Les réponses inventées, et ce qui les réduit vraiment
Un modèle produit la suite la plus vraisemblable, pas la plus exacte. Quand l'information manque, il ne s'arrête pas : il continue avec ce qui ressemble à une réponse. Ce n'est pas un défaut de fabrication, c'est le fonctionnement de l'outil, et c'est pourquoi les corrections par la consigne fonctionnent mal.
Six mesures réduisent le phénomène. N'autoriser que le corpus, plutôt que la mémoire du modèle. Afficher la source, ce qui rend l'absence de source visible. Autoriser explicitement l'aveu d'ignorance et l'accepter dans l'évaluation. Sortir les chiffres et les dates du modèle pour les lire dans une source structurée. Filtrer en amont les sujets interdits. Et surtout, évaluer régulièrement.
Ce dernier point est le seul qui rende le problème visible plutôt que de le réduire. Cent questions issues de conversations réelles, réparties en quatre familles dont une où la réponse n'existe pas dans le corpus, rejouées après chaque changement. Sans ce jeu, une dégradation passe inaperçue jusqu'à ce qu'un client la signale.
Les risques propres à cette famille d'outils
Un assistant ouvert au public reçoit des messages conçus pour détourner son comportement. La fondation OWASP classe l'injection de consignes en tête de son inventaire des risques applicables aux applications fondées sur les grands modèles de langue, devant la divulgation d'informations sensibles et les risques liés à la chaîne d'approvisionnement.
La particularité de ces attaques est qu'elles ne visent pas le code mais le texte, et qu'elles ne demandent aucune compétence technique. Deux formes existent : l'injection directe, écrite par l'attaquant, et l'injection indirecte, cachée dans un document que le bot va consulter.
La posture la plus solide ne consiste pas à empiler les protections en amont, mais à concevoir le système de sorte qu'une attaque réussie ne cause pas de dommage : le bot n'accède qu'à des informations publiables, ne déclenche que des actions confirmées, et sa sortie n'est jamais exécutée.
Le cadre réglementaire, applicable depuis août 2026
Le règlement européen sur l'intelligence artificielle, entré en vigueur le 1er août 2024, est applicable depuis le 2 août 2026. Il classe les systèmes en quatre niveaux de risque, et la très grande majorité des assistants conversationnels d'entreprise relèvent du risque limité.
Cette catégorie n'impose pas d'évaluation de conformité, mais une obligation de transparence : les personnes doivent être informées qu'elles interagissent avec une machine, afin de pouvoir décider en connaissance de cause. Une seconde obligation vise les contenus générés, qui doivent être identifiables comme tels.
Deux précisions évitent les erreurs de lecture. Ce texte s'ajoute au règlement général sur la protection des données et ne s'y substitue pas : la base légale, la durée de conservation et les droits des personnes relèvent toujours du second. Et c'est l'usage qui détermine la catégorie, pas l'interface : un système qui évalue des personnes ou oriente vers un service essentiel change de niveau, même sous la forme d'une fenêtre de conversation anodine.
Une décision qui tient en trois questions
Vos réponses existent-elles déjà sous forme de questions et réponses, ou seulement dans des documents ? Le premier cas ne réclame pas de modèle.
Une réponse fausse coûte-t-elle cher ? Si oui, les réponses sensibles restent écrites et servies telles quelles, quelle que soit la technologie retenue pour le reste.
Avez-vous quelqu'un pour évaluer la qualité chaque mois ? Sans cette personne, un bot génératif dérivera sans que personne le voie. Un bot classique restera médiocre et prévisible, ce qui est un moindre mal.
Ce qui circule, et vers où
Un assistant fondé sur un modèle de langue fait passer chaque phrase par plus d'endroits qu'on ne l'imagine. Le message part du navigateur, arrive chez l'éditeur, déclenche une recherche documentaire, part chez le fournisseur du modèle avec les passages retrouvés, revient, puis se retrouve enregistré et parfois recopié dans un outil de ticket.
Cinq systèmes, dont deux au moins appartiennent à des tiers. Trois points de contrôle en découlent.
Ce qui part réellement chez le fournisseur du modèle, à vérifier en lisant une requête et non une description commerciale. Ce que l'utilisateur donne sans qu'on le demande, car une conversation reçoit tout ce qui est écrit, y compris des éléments sensibles glissés dans une explication. Et ce qui entre dans le corpus, car un export de base d'aide contient souvent des fiches internes qui pourraient ressortir dans une réponse.
La règle la plus simple tient en une phrase : rien n'entre dans le corpus qui ne pourrait être publié.
Mesurer un bot génératif
Deux indicateurs s'ajoutent à ceux d'un bot classique, et ils se comptent automatiquement.
Le taux de réponses non étayées, c'est-à-dire la part des réponses qui ne s'appuient sur aucun passage retrouvé. Ce sont les candidates les plus probables à l'erreur.
La stabilité dans le temps : la même question posée à un mois d'intervalle donne-t-elle la même réponse ? Une dérive signale une mise à jour du modèle ou un corpus qui a bougé, et il vaut mieux l'apprendre par un test régulier que par une réclamation.
