Explainability dell’AI e Leggi sulla Trasparenza in EU e UK: Impatti per il Settore Regolato

La explainability – la capacità di spiegare come un sistema AI arriva a una decisione – è diventata un requisito legale oltre che tecnico. La combinazione di EU AI Act, normative UK e requisiti GxP crea un framework multi-livello per la gestione della trasparenza dei sistemi AI in ambito farmaceutico.

Il Framework Normativo sull’Explainability

EU AI Act (Regolamento 2024/1689)

L’EU AI Act classifica i sistemi AI per livello di rischio. I sistemi AI ad alto rischio (incluse molte applicazioni medicali) devono soddisfare requisiti specifici di:

• Trasparenza verso gli utenti finali
• Documentazione tecnica dell’architettura e del processo di training
• Capacità di supervisione umana
• Registrazione e audit trail delle operazioni

Requisiti GxP per l’Explainability

L’Annex 22 Consultation Guideline richiede specificamente la documentazione della explainability per i sistemi AI/ML in applicazioni GMP critiche, incluso:

• Documentazione del processo decisionale del modello
• Identificazione delle feature più rilevanti per le decisioni
• Limitazioni note del modello in termini di interpretabilità

Tecniche di Explainability Applicabili

Per i sistemi AI in ambito GxP, le tecniche di explainability più documentate sono:

• SHAP (SHapley Additive exPlanations): quantifica il contributo di ogni feature
• LIME (Local Interpretable Model-agnostic Explanations): spiegazioni locali per singole predizioni
• Saliency Maps: per modelli di visione artificiale (evidenzia le regioni rilevanti dell’immagine)
• Counterfactual Explanations: “cosa dovrebbe cambiare per ottenere un output diverso?”