Validazione di Sistemi AI in Farmacovigilanza
L'integrazione di tecnologie basate sull'intelligenza artificiale nei processi di farmacovigilanza introduce un insieme di sfide ingegneristiche e normative che non trovano risposta adeguata nei framework tradizionali di Computer System Validation.
Perché serve un approccio specifico per la validazione dei sistemi AI in farmacovigilanza
- Il GVP Module VI disciplina raccolta, gestione e notifica delle segnalazioni di sicurezza dei medicinali
- L'introduzione di sistemi AI nel ciclo PV non esonera il QPPV dalla supervisione umana sulle decisioni clinico-regolatorie
- I sistemi AI elaborano database strutturati (FAERS, EudraVigilance, VigiBase) e fonti non tradizionali (social media, forum, letteratura non indicizzata)
- Il framework CSV tradizionale non copre adeguatamente explainability, bias e drift dei modelli ML
- Human-in-the-Loop deve essere progettato come requisito architetturale, non come buona pratica generica
Il nostro approccio
Intended Use documentato
- Definizione precisa del perimetro di applicazione e dei casi d'uso GVP del sistema AI
Supplier assessment Annex 11
- Valutazione formale del fornitore del sistema AI con focus su SDLC, MLOps e gestione del modello
Risk-based validation scope
- La profondità di test è proporzionale al rischio clinico-regolatorio dell'output AI
Deliverable e output
- Validation Plan dedicato al sistema AI di PV
- URS con requisiti di explainability e human-in-the-loop
- Risk Assessment GAMP 5 + AI-specific (bias, drift, fairness)
- Protocolli IQ/OQ/PQ con test di robustezza del modello
- Audit trail Annex 11 sez. 9 esteso al workflow HITL
- Validation Summary Report inspection-ready
Normative di riferimento
I numeri dello Studio
Numero di sistemi AI in farmacovigilanza validati o supportati dallo studio
Riduzione media dei tempi di signal detection misurata nei progetti seguiti
Numero di QPPV e Drug Safety Manager supportati nei progetti AI-PV
Per chi è pensato
- QPPV (Qualified Person for Pharmacovigilance)
- Drug Safety Manager
- Regulatory Affairs Officer
- IT Validation Manager di aziende farmaceutiche e CRO
I benefici di una validazione AI-PV strutturata
Compliance ispettiva
Documentazione resistente a ispezioni FDA, EMA e AIFA con tracciabilità completa del workflow AI e Human-in-the-Loop.
Riduzione del rischio clinico
Workflow Human-in-the-Loop tracciato e auditable, con audit trail Annex 11 sezione 9 e supervisione del QPPV su ogni potenziale ICSR.
Time-to-deployment
Validazione risk-based proporzionata al rischio clinico-regolatorio del sistema AI, che evita over-validation e accelera il go-live.
Sostenibilità del modello
Monitoraggio continuo delle performance, revalidation triggers documentati e gestione del drift integrate nel ciclo di vita del modello ML.
Contesto normativo: Modulo VI delle GVP e l’introduzione dell’intelligenza artificiale
Il Modulo VI delle GVP disciplina i processi di raccolta, gestione e segnalazione delle segnalazioni di sicurezza. L’introduzione di sistemi di intelligenza artificiale nel ciclo di farmacovigilanza non esonera l’organizzazione – e in particolare il QPPV – dalla responsabilità della supervisione umana su ogni decisione clinico-regolatoria.
Human-in-the-Loop: Architettura e requisiti di validazione
Il concetto di human-in-the-loop (HITL) in farmacovigilanza non è un principio generico di buona prassi: è un requisito architetturale che deve essere progettato, documentato e validato come parte integrante del sistema.
Un sistema di farmacovigilanza (PV) basato sull’IA e conforme alle normative richiede che:
- Il sistema di IA produca output etichettati con livelli di confidenza e giustificazione (spiegabilità).
- Ogni output classificato come potenziale ICSR (Initial Clinical Safety Report) sia obbligatoriamente soggetto a revisione da parte di personale qualificato.
- La decisione finale rimanga prerogativa esclusiva di un operatore umano qualificato.
- Il flusso di lavoro HITL (Health Information and Testing) sia completamente tracciato nel sistema, con una traccia di audit conforme all’Allegato 11, Sezione 9.
- Validazione del sistema di farmacovigilanza basato sull’IA: approccio ingegneristico
Il nostro approccio include: uso previsto documentato; valutazione del fornitore secondo l’Allegato 11; ambito di validazione basato sul rischio secondo ICH Q9 R1 e GAMP 5 Seconda Edizione; progettazione di test statistici per sistemi probabilistici (accuratezza, precisione/richiamo, punteggio F1 su set di dati di riferimento separati); e verifica della traccia di audit secondo l’Allegato 11 e i principi ALCOA+.
L’Allegato 22 delle GMP (Linea guida per la consultazione) è il primo quadro normativo europeo GMP specificamente dedicato ai sistemi di IA/ML in ambienti farmaceutici regolamentati. I principi fondamentali includono la gestione del ciclo di vita del modello, il controllo formale delle modifiche per gli aggiornamenti del modello, la spiegabilità fin dalla progettazione e la supervisione umana obbligatoria.
Allegato III del Regolamento UE sull’IA: Sistemi di IA ad alto rischio in ambito sanitario
Il Regolamento UE sull’IA (Regolamento UE sull’IA, Reg. UE 2024/1689) classifica, all’Allegato III, punto 5, i sistemi di IA utilizzati in ambito sanitario come sistemi ad alto rischio. Le implicazioni pratiche per le aziende farmaceutiche includono: la registrazione nel database UE prima dell’implementazione; la valutazione obbligatoria della conformità; la supervisione umana fin dalla progettazione; i requisiti di registrazione automatica; e un sistema dedicato di gestione della qualità dell’IA.
Spiegabilità e tracciabilità delle decisioni dell’IA nelle GVP
La spiegabilità non è solo un requisito etico: in un contesto GVP regolamentato, la capacità di giustificare perché il sistema di IA ha classificato un evento come potenziale ICSR è necessaria per: la revisione da parte dell’operatore (HITL); le risposte alle ispezioni regolatorie; e la difesa delle decisioni di farmacovigilanza in contesti di responsabilità.
Il nostro approccio operativo
Dalia IA interviene nella validazione dei sistemi di farmacovigilanza basati sull’IA attraverso un approccio strutturato e graduale: analisi delle lacune normative; definizione dell’uso previsto e valutazione del rischio; stesura del piano di validazione (GAMP 5 Seconda Edizione, adattato per sistemi probabilistici di IA/ML); esecuzione e documentazione dei test; pacchetto di documentazione pronto per l’ispezione; e monitoraggio del modello post-validazione.
Domande frequenti
È obbligatoria la validazione di un sistema AI usato in farmacovigilanza?
Sì. Qualsiasi sistema computerizzato che impatta processi GVP è soggetto ai requisiti di EudraLex Annex 11, FDA 21 CFR Part 11 e GVP Module VI. Per i sistemi basati su AI/ML si aggiungono GMP Annex 22 (EMA) e EU AI Act Annex III, che classifica i sistemi AI in ambito sanitario come ad alto rischio.
Qual è la differenza tra un sistema AI di supporto e un sistema AI decisionale in PV?
Un sistema AI di supporto (decision-support) fornisce raccomandazioni che vengono validate da un operatore umano qualificato (QPPV o Drug Safety Officer): la decisione finale rimane prerogativa umana. Un sistema decisionale agirebbe in autonomia, scenario non ammesso in farmacovigilanza dal GVP Module VI, che richiede sempre supervisione umana sulle decisioni clinico-regolatorie.
Come si applica l'EU AI Act ai sistemi AI in farmacovigilanza?
L'EU AI Act Annex III classifica i sistemi AI utilizzati in ambito sanitario e farmaceutico come ad alto rischio. Questo impone requisiti aggiuntivi rispetto al solo CSV: risk management system, data governance, technical documentation, record-keeping, trasparenza verso l'utente, supervisione umana, accuratezza e robustezza, cybersecurity, oltre alla conformity assessment prima della messa in servizio.
Come si gestisce il change control per un modello AI che viene re-addestrato periodicamente?
Il re-training di un modello ML è un change che deve seguire un processo di change control formale: risk assessment dell'impatto sulle decisioni GVP, definizione dei revalidation triggers, esecuzione dei test di non-regressione su un data set di validazione, aggiornamento della documentazione di lifecycle del modello e approvazione QA prima del rilascio in produzione.
Cosa si intende per explainability di un sistema AI in farmacovigilanza?
L'explainability è la capacità del sistema AI di produrre, per ogni output, un livello di confidenza e una motivazione interpretabile dall'operatore qualificato. In PV è un requisito architetturale: il QPPV deve poter comprendere perché il sistema ha classificato una segnalazione come potenziale ICSR, e queste informazioni devono essere tracciate nell'audit trail conforme Annex 11 sezione 9.
Pronto a validare il tuo sistema AI di farmacovigilanza?
Richiedi un assessment preliminare con il fondatore dello studio.