Une IA pour pharmacien peut-elle halluciner sur un médicament ?

Ce qu'est une hallucination, concrètement

Un modèle de langage génère du texte statistiquement plausible : il peut inventer un numéro d'article de loi, une posologie, ou un taux de remboursement avec la même assurance qu'une information exacte, sans que rien dans sa formulation ne le trahisse. Le risque augmente quand la question porte sur une donnée précise, chiffrée, ou changeante (un tarif, un statut de commercialisation), et quand le modèle répond de mémoire plutôt qu'en s'appuyant sur un document consulté au moment de la question.

Trois critères pour évaluer un outil avant de lui faire confiance

• La recherche est-elle bornée à une liste connue de sources officielles, ou l'outil peut-il répondre à partir de n'importe quelle page du web ?
• Chaque affirmation renvoie-t-elle vers un document identifiable et daté, que vous pouvez rouvrir et relire ?
• L'outil signale-t-il une information non trouvée, plutôt que d'improviser une réponse plausible ?

Comment Galien.AI limite ce risque

La recherche est bornée à une liste fermée de 41 sources whitelistées (BDPM, ANSM, HAS, CRAT, sociétés savantes, EMA...), jamais un blog ni un forum. Une fois la réponse rédigée, un contrôle automatique reprend les affirmations factuelles à risque et les confronte à la source censée les porter : si une affirmation ne se retrouve pas dans un document effectivement consulté, elle est signalée comme à vérifier plutôt que présentée comme un fait acquis. Sur une donnée changeante (prix, taux de remboursement, statut AMM, rupture), l'outil préfère renvoyer vers la BDPM ou Ameli plutôt que d'affirmer un chiffre de mémoire.

Questions fréquentes