Hallucinations d’une IA en pharmacie : comment examiner une réponse ?
Rédaction Galien.AI · Mis à jour le
Réponse courte
Une IA peut produire une réponse plausible mais inexacte : c’est le risque d’hallucination. Une citation ne suffit pas à écarter ce risque : elle peut viser un document qui ne soutient pas l’affirmation ou concerne un autre produit.
Pour Galien.AI, les références et les documents consultés servent à rendre la recherche vérifiable. L’audit automatique après réponse est désactivé dans la version actuelle. Il ne faut donc pas attendre de ce contrôle un signal systématique des erreurs.
Qu’est-ce qu’une hallucination d’IA ?
Dans ce guide, une hallucination désigne une information produite par l’IA qui paraît plausible mais n’est pas étayée : un fait inventé, une attribution erronée ou une conclusion que le document ne permet pas de tirer. Une rédaction précise ou assurée n’écarte pas ce risque.
La CNIL rappelle que les systèmes d’IA générative peuvent produire des résultats inexacts. Le terme décrit ici un défaut de réponse ; il ne fournit pas une mesure du nombre d’erreurs de Galien.AI.
Exemple : une référence réelle, une affirmation non étayée
Supposons qu’une réponse cite la fiche d’un médicament, puis affirme que toutes ses présentations ont le même remboursement. Le lien peut être réel, mais un passage portant sur une seule présentation ne démontre pas cette généralisation. Cet exemple est illustratif : ce n’est pas un incident observé ni une affirmation sur un médicament particulier.
La vérification porte donc sur le passage qui soutient chaque affirmation, pas seulement sur l’existence du lien. Si la référence ne concerne pas le bon produit ou ne contient pas l’information annoncée, elle ne suffit pas à confirmer la réponse.
Relier l’affirmation au passage
Une vérification documentaire porte sur le nom du produit, sa forme, le passage cité et sa portée. La date de consultation dit quand la page a été ouverte ; elle ne remplace pas la date du document. Les réserves du texte font partie de l’information.
Une source inaccessible ou un passage incomplet laisse une limite de vérification. L’absence de référence utile doit rester explicite, sans devenir une conclusion inventée ni une preuve d’absence.
Ce que le contrôle de Galien.AI permet actuellement
Les documents retrouvés et les références servent à rendre la recherche vérifiable. Ils ne garantissent pas que la sélection des sources soit exhaustive ou que la rédaction reproduise chaque condition du passage.
L’audit automatique après réponse est désactivé dans la version actuelle. L’absence d’alerte ne signifie donc pas qu’un contrôle systématique a validé la réponse. La lecture du document et la décision professionnelle restent du ressort du pharmacien.
Formuler une question que l’on peut vérifier
Une question documentaire précise nomme le produit ou le référentiel et l’information recherchée, sans donnée patient. Demander la source et le passage correspondant aide à examiner la réponse. Cela ne supprime pas le risque d’erreur du système.
Sources et portée
Ces références étayent ce guide. Leur date de consultation ne remplace pas la date du document original et ne prouve pas la fraîcheur d’une réponse de l’assistant.
- Galien.AI : recherche documentaire et limitesConsultée le 27 septembre 2026
- CNIL : questions-réponses sur l’utilisation d’une IA générativeConsultée le 27 septembre 2026
Guides associés
Questions fréquentes
Une réponse sourcée est-elle nécessairement juste ?
L’absence d’alerte signifie-t-elle que la réponse est validée ?
Voir Galien.AI en action
Une démo rejouée, un essai réel sans compte, ou la liste complète des sources : de quoi se faire un avis avant de choisir.
Liste complète des sources · Toutes les offres · Galien.AI vs ChatGPT
⚕️ Galien.AI restitue une information documentaire sourcée. La vérification et la décision relèvent du pharmacien.