GenAI in Medicina: Applicazioni Correnti, Limitazioni e Il Ruolo del Human-in-the-Loop

La Generative AI (GenAI) – modelli LLM, vision-language e multimodali generativi – ha raggiunto applicazioni cliniche reali, ma la sua adozione in contesti regolati GxP richiede un approccio rigoroso che distingua chiaramente gli usi supportabili dagli usi non ammissibili.

Applicazioni Correnti della GenAI in Sanità

Le applicazioni GenAI in ambito sanitario attualmente in uso o in sperimentazione avanzata includono:

• Generazione di note cliniche: trascrizione automatica di visite mediche (es. Nuance DAX)
• Supporto alla diagnostica per immagini: generazione di report radiologici assistiti da AI
• Drug discovery: generazione di strutture molecolari candidate (es. AlphaFold 3)
• Ricerca normativa: interrogazione di database normativi e linee guida

Limitazioni Fondamentali in Ambito GxP

L’Annex 22 Consultation Guideline esclude esplicitamente i modelli generativi dall’ambito delle applicazioni GMP critiche. Le ragioni principali sono:

• Output probabilistici non deterministici: la stessa query può produrre output diversi
• Hallucination: i modelli possono generare informazioni plausibili ma false
• Impossibilità di audit trail completo: il processo decisionale non è ricostruibile
• Deriva dei modelli: le performance cambiano con gli aggiornamenti del modello base

Il Human-in-the-Loop come Requisito Non Negoziabile

Per qualsiasi applicazione GenAI in ambito farmaceutico o sanitario regolato, il human-in-the-loop non è una scelta architetturale ma un requisito normativo. Questo implica:

• Revisione sistematica di ogni output GenAI da parte di personale qualificato
• Procedure documentate (SOP) per la revisione degli output
• Formazione specifica del personale sui limiti della GenAI
• Audit trail della revisione umana, non solo dell’output AI