Insights > IA en production pharmaceutique > Épisode II
IA EN PRODUCTION PHARMACEUTIQUE
ÉPISODE II
Définition de l’usage, qualité des données, validation, surveillance et intervention humaine : l’intelligence artificielle (IA) n’entre pas en production pharmaceutique sans apporter avec elle de nouvelles questions. Les autorités commencent à préciser leurs attentes.
IA • GMP • RÉGLEMENTATION
6 MIN
Dans une salle de réunion, le projet semble prêt.
L’IA a été testée sur plusieurs mois de données. Elle retrouve des événements connus et détecte certaines situations avant les outils de surveillance habituels. Les premiers résultats sont encourageants.
Sur quelle base allons-nous démontrer que cette IA est adaptée à son usage ?
Le silence qui suit résume une grande partie du défi.
Une bonne performance technique ne suffit pas à autoriser l’utilisation d’une IA dans un environnement GMP. Il faut encore définir ce qu’elle doit faire, connaître les données utilisées pour la développer, mesurer sa performance, documenter ses limites et organiser son utilisation dans la durée.
L’entrée en zone GMP ne commence donc pas par la technologie. Elle commence par l’usage que l’on veut en faire.
Il n’existe pas de zone hors GMP
L’IA est parfois présentée comme un sujet entièrement nouveau, placé dans un vide réglementaire.
Ce n’est pas tout à fait exact.
Lorsqu’elle contribue à une activité GMP, les exigences existantes continuent de s’appliquer : maîtrise des systèmes informatisés, intégrité des données, qualification des fournisseurs, gestion des accès, documentation, validation, gestion des changements et revue périodique.
Le niveau de maîtrise dépend cependant de l’usage.
Une IA utilisée pour explorer rétrospectivement des données n’a pas le même impact qu’une IA qui priorise des investigations, influence une décision qualité ou intervient dans le pilotage d’un procédé.
La première question réglementaire devient alors très concrète :
Quelle décision cette IA peut-elle influencer ?
Plus son résultat se rapproche de la qualité du produit, de la sécurité du patient ou de l’intégrité des données, plus la démonstration attendue doit être robuste.
Ce que la FDA met déjà sur la table
En 2023, la FDA a publié un document de discussion consacré à l’IA dans la fabrication des médicaments.
Ce document n’est ni une réglementation ni une guidance opposable. Il permet néanmoins d’identifier les questions sur lesquelles l’autorité construit sa réflexion.
La FDA s’intéresse notamment à la manière de définir la responsabilité entre l’entreprise pharmaceutique et le fournisseur de l’IA, à la qualité des données utilisées, à la capacité d’expliquer les résultats, à la surveillance des performances et à la gestion des évolutions.
Le sujet n’est donc pas seulement de savoir si l’IA fonctionne lors de sa mise en service. Il faut aussi savoir :
quelles données ont permis de la développer ;
dans quelles conditions elle a été testée ;
quelles situations sont insuffisamment représentées ;
comment une baisse de performance sera détectée ;
comment une modification sera évaluée et approuvée ;
qui reste responsable de son utilisation.
La FDA ouvre ainsi une question centrale : comment maintenir l’état validé d’une IA susceptible d’évoluer ?
L’Europe prépare une réponse plus explicite
En Europe, plusieurs textes doivent être distingués.
Le document de réflexion adopté par l’EMA en septembre 2024 couvre l’utilisation de l’IA sur l’ensemble du cycle de vie du médicament. Il défend une approche proportionnée au risque et insiste notamment sur la gouvernance, la qualité des données, la performance, la transparence et la supervision humaine.
En juillet 2025, la Commission européenne et le PIC/S ont ensuite soumis à consultation une révision du chapitre 4 des GMP, une nouvelle version de l’Annexe 11 et un projet d’Annexe 22 spécifiquement consacré à l’IA.
À la date de publication de cet article, l’Annexe 22 demeure un projet issu d’une consultation clôturée. Elle ne doit donc pas être présentée comme une exigence GMP déjà entrée en vigueur.
Elle indique néanmoins très clairement la direction envisagée par les autorités.
Le projet se concentre sur les applications critiques ayant un impact direct sur la sécurité du patient, la qualité du produit ou l’intégrité des données. Il met en avant plusieurs éléments :
la définition précise de l’usage prévu ;
la connaissance du procédé par les experts métier ;
la qualité et la représentativité des données ;
l’indépendance des données utilisées pour les tests ;
des critères d’acceptation définis avant les essais ;
l’explication des résultats ;
la surveillance continue de la performance ;
la gestion des changements ;
l’intervention d’une personne qualifiée lorsque cela est nécessaire.
Le projet adopte également une position prudente pour les applications GMP critiques. Il porte sur des modèles d’IA statiques et déterministes, dont le comportement ne se modifie pas automatiquement pendant leur utilisation.
L’IA générative et les modèles dont la réponse peut varier à partir des mêmes données d’entrée ne sont pas couverts pour les applications GMP critiques.
Le message est clair : dans une activité critique, une IA dont le comportement change sans contrôle est difficilement compatible avec le maintien d’un état validé.
Définir l’usage avant de parler de validation
Prenons une IA destinée à détecter des signaux faibles sur une ligne de production.
« Détecter les anomalies » ne constitue pas une définition suffisamment précise.
Il faut déterminer les données analysées, les équipements concernés, les campagnes couvertes, la fréquence d’analyse, les situations recherchées et la manière dont les résultats seront utilisés.
Une alerte entraîne-t-elle simplement une revue des données ?
Déclenche-t-elle une vérification sur le terrain ?
Contribue-t-elle à l’ouverture d’une déviation ?
Peut-elle influencer la libération d’un lot ?
La validation dépend de ces réponses.
Elle doit démontrer que l’IA fonctionne dans les conditions prévues, y compris pour les situations rares mais importantes. Cela suppose des données suffisamment représentatives et des critères d’acceptation reliés au risque réel.
Une précision globale de 98 % peut sembler excellente. Elle peut pourtant masquer une faiblesse critique si les 2 % d’erreurs concernent précisément les événements que l’IA devait détecter.
La performance d’une IA ne se résume pas à un pourcentage. Elle se juge au regard du risque qu’elle doit maîtriser.
L’humain dans la boucle ne règle pas tout
La présence d’une décision humaine est souvent présentée comme une garantie suffisante.
Elle est indispensable, mais elle ne dispense pas de définir précisément le rôle de chacun.
La personne chargée d’examiner une alerte doit comprendre ce que l’IA analyse, ce qu’elle n’analyse pas et dans quelles situations son résultat peut être trompeur. Elle doit disposer des données nécessaires pour accepter ou contester le résultat.
Il faut également surveiller sa propre performance : une personne confrontée à de nombreuses fausses alertes peut finir par ne plus y prêter attention. À l’inverse, une confiance excessive dans l’IA peut réduire l’esprit critique.
La supervision humaine doit donc être conçue comme une véritable étape du processus, avec des responsabilités, une formation et des règles de décision documentées.
Elle ne peut pas se limiter à demander à quelqu’un de cliquer sur « accepter ».
Valider un cycle de vie, pas une photographie
Une IA peut être performante au moment de sa validation, puis perdre progressivement de sa pertinence.
Le procédé évolue. Les matières premières changent. Une nouvelle présentation est introduite. Un équipement est modifié. Les pratiques opératoires se transforment. La distribution des données n’est plus exactement celle qui existait au moment des tests.
La surveillance doit permettre de détecter cette évolution.
Cela implique de définir :
les indicateurs de performance suivis ;
les seuils nécessitant une investigation ;
la fréquence des revues ;
les événements imposant une nouvelle évaluation ;
les conditions de suspension ou de retour au processus antérieur ;
les responsabilités entre le site et le fournisseur.
Une mise à jour de l’IA ne peut pas être considérée comme une simple amélioration informatique. Si elle modifie le comportement attendu, son impact GMP doit être évalué dans le cadre de la gestion des changements.
Le véritable objet de la validation n’est donc pas seulement une version de l’IA. C’est l’ensemble de son cycle de vie dans le procédé.
Commencer avec une décision réversible
L’épisode précédent proposait de commencer en mode observation : l’IA analyse les données et produit ses alertes en parallèle des pratiques habituelles, sans intervenir dans le pilotage du procédé ni dans les décisions des équipes.
Cette approche reste pertinente en environnement GMP.
Elle permet de confronter les alertes aux observations du terrain, de mesurer les fausses alertes, d’identifier les situations non détectées et de comprendre les limites de l’IA avant de lui attribuer un rôle plus important.
L’entreprise peut ensuite élargir progressivement son utilisation, à condition que chaque évolution de son usage soit évaluée, documentée et approuvée.
La bonne stratégie n’est peut-être pas de demander immédiatement :
« Jusqu’où pouvons-nous automatiser ? »
Quelle première utilisation de l’IA pouvons-nous maîtriser, expliquer et interrompre si nécessaire ?
Les autorités ne ferment pas la porte à l’IA dans la fabrication pharmaceutique.
Elles demandent que son usage reste compréhensible, documenté et proportionné au risque. Elles rappellent également une responsabilité fondamentale : même lorsqu’une IA est fournie par un prestataire, l’entreprise pharmaceutique demeure responsable de son utilisation.
Dans un environnement GMP, l’innovation ne dispense pas de la preuve.
Elle oblige à mieux définir ce que l’on attend, ce que l’on accepte et ce que l’on surveille.
LES DEUX ÉPISODES
ÉPISODE I
Les signaux étaient déjà là
Comment l’IA peut-elle aider à repérer plus tôt les évolutions discrètes d’un procédé ?
ÉPISODE II
Quand l’IA entre en zone GMP
Définir, valider, surveiller et conserver la maîtrise de l’IA.
Vous consultez cet épisode
POUR ALLER PLUS LOIN
Document de discussion — ni réglementation ni guidance opposable.
Document de réflexion adopté.
Projet soumis à consultation — non entré en vigueur.
Consultation clôturée le 7 octobre 2025.