AI Governance nei Sistemi Regolati: Revisione Sistematica della Letteratura

L’adozione crescente dell’intelligenza artificiale in settori critici ha reso urgente lo sviluppo di framework di AI governance solidi e verificabili. Una recente revisione sistematica della letteratura analizza l’evoluzione dei framework di AI governance, identificando le dimensioni chiave: accountability, trasparenza, equità, sicurezza e conformità normativa.

Cos’è l’AI Governance?

L’AI governance comprende l’insieme delle politiche, dei processi e dei meccanismi di controllo che governano lo sviluppo, il deployment e il monitoraggio dei sistemi AI. In ambito regolato GxP, l’AI governance si sovrappone direttamente ai requisiti di Computer System Validation (CSV) e ai framework normativi come l’Annex 22.

Dimensioni Principali dell’AI Governance

1. Accountability: definizione chiara delle responsabilità per le decisioni AI
2. Trasparenza e Explainability: capacità di spiegare le decisioni del sistema AI
3. Equità e Non-Discriminazione: bias detection e fairness nei modelli AI
4. Privacy e Sicurezza dei Dati: conformità GDPR e protezione dei dati di training
5. Robustezza e Affidabilità: performance stabili in condizioni operative reali
6. Conformità Normativa: allineamento con EU AI Act, Annex 22, MDR e ICH Q10

Implicazioni per il Settore Farmaceutico

In ambito GxP, l’AI governance si traduce in requisiti documentabili e verificabili. I framework di AI governance devono essere integrati nel Quality Management System (QMS) e sottoposti alle stesse procedure di change control e audit previste dall’Annex 11.