IA in sanità: come il progetto AIACT rende gli algoritmi più equi

Nel 2024 l’AI Act è entrato in vigore in Europa e, nello stesso periodo, in Italia oltre il 60% delle strutture sanitarie pubbliche ha avviato almeno una sperimentazione di intelligenza artificiale clinica. Numeri interessanti, ma con una domanda scomoda sullo sfondo: quanto possiamo fidarci di questi algoritmi quando sono usati per decidere diagnosi e terapie?

La sfida non è solo tecnica. È etica, clinica, organizzativa. Un algoritmo che funziona “bene” sulla carta, ma che discrimina un certo genere, fascia d’età o area geografica, in sanità non è solo un errore tecnologico: è un problema di diritti fondamentali. Qui entra in gioco AIACT (Artificial Intelligence Assessment: Classifying Transparent System), un progetto nato proprio per ridurre i bias algoritmici nella sanità e creare strumenti di IA più trasparenti, controllabili ed equi.

In questo articolo vedremo:

• perché la trasformazione digitale della sanità italiana ha bisogno di IA… ma anche di regole e metodo;
• quali sono i bias più insidiosi negli algoritmi clinici;
• cosa fa concretamente il progetto AIACT, con un focus sull’uso dei dati sintetici;
• come ospedali, ASL e aziende sanitarie possono muoversi subito in modo conforme all’AI Act e orientato al paziente.

1. IA nella sanità italiana: opportunità enormi, ma non a ogni costo

L’intelligenza artificiale in sanità è già realtà: dalla radiologia alla cardiologia, dalla telemedicina al triage in pronto soccorso. La tendenza per il 2025 è chiara: l’IA non sostituisce il medico, ma entra nei processi clinici e organizzativi come “secondo parere” continuo.

Dove l’IA sta già cambiando il lavoro clinico

Le applicazioni più mature dell’IA in sanità italiana riguardano:

• diagnostica per immagini (radiologia, TAC, risonanze): algoritmi che riconoscono pattern sospetti e segnalano aree critiche;
• medicina personalizzata: modelli che combinano anamnesi, esami, genetica per suggerire terapie più mirate;
• monitoraggio remoto e telemedicina: sistemi che analizzano in tempo reale parametri vitali di pazienti cronici a casa, segnalando peggioramenti prima che diventino emergenza;
• ottimizzazione organizzativa: strumenti di predictive analytics che aiutano a gestire liste d’attesa, sale operatorie, turni.

La promessa è chiara: più precisione clinica, meno sprechi, meno ricoveri evitabili. Quando l’IA automatizza compiti ripetitivi – come l’interpretazione preliminare di immagini o la classificazione di referti – libera tempo per ciò che nessun algoritmo può sostituire: relazione, giudizio clinico, decisione condivisa col paziente.

Il rovescio della medaglia: il rischio di automatizzare l’ingiustizia

Qui sta il punto: se i dati su cui si addestra l’IA sono distorti, l’algoritmo amplifica quella distorsione. Non è solo un rischio teorico.

Esempi tipici:

• dataset storici dove le donne ricevono meno esami approfonditi per il dolore toracico → modello che sottostima il rischio infarto nelle pazienti donne;
• dati clinici concentrati su una sola area geografica → algoritmo che funziona bene in Nord Italia ma fallisce su popolazioni del Sud con profili epidemiologici diversi;
• campioni di trial clinici con età media troppo bassa → suggerimenti poco affidabili sugli anziani, proprio la fascia più fragile.

La sanità italiana, già segnata da forti differenze territoriali, non può permettersi algoritmi che accentuano i divari di accesso e qualità delle cure. Qui entra in gioco il lavoro di AIACT.

2. Bias algoritmici in sanità: da dove nascono e perché fanno male

Un algoritmo sanitario non è “neutrale”. Ogni scelta – quali dati usare, come pulirli, quale modello adottare – può introdurre bias, cioè distorsioni sistematiche. In sanità, questo si traduce in diagnosi sbagliate o terapie meno efficaci per certi gruppi di pazienti.

Le forme più frequenti di bias clinico

Nel contesto sanitario, AIACT si concentra su alcune categorie di bias particolarmente critiche:

• Confirmation bias: il clinico tende a fidarsi di più delle raccomandazioni dell’IA che confermano la sua ipotesi iniziale, ignorando segnali discordanti.
• Automation bias: al contrario, il medico si appoggia troppo all’algoritmo e non mette in discussione il suggerimento, anche quando la situazione clinica lo richiederebbe.
• Bias razziali, di genere, età o socio‑economici: se il dataset su cui l’IA è stata addestrata è sbilanciato (pochi anziani, poche donne, pochi migranti), le raccomandazioni saranno meno accurate per quei gruppi.
• Bias di selezione nei clinical trials: campioni poco rappresentativi portano a modelli che funzionano bene solo su una “nicchia” di pazienti, ma vengono poi usati come se fossero universali.

La combinazione tra opacità dell’algoritmo (la classica “black box”) e scala di utilizzo (migliaia di pazienti al giorno) crea l’effetto descritto da Cathy O’Neil: strumenti statisticamente sofisticati che, se mal progettati, diventano moltiplicatori di ingiustizie.

Perché il bias in sanità non è un “difetto minore”

In altri settori un modello sbilanciato genera fastidi: pubblicità poco pertinenti, raccomandazioni sbagliate. In sanità, un bias può costare un peggioramento clinico, un ritardo diagnostico o una terapia inadeguata.

Questo tocca direttamente:

• il diritto alla salute (art. 32 Costituzione);
• il principio di non discriminazione;
• la fiducia del cittadino nel Servizio Sanitario Nazionale e nel medico.

Per questo il tema non può essere lasciato solo agli sviluppatori: serve un approccio multidisciplinare che coinvolga direzioni sanitarie, medici, data scientist, DPO, ingegneri clinici e comitati etici.

3. Cosa fa il progetto AIACT: trasparenza, controllo e dati sintetici

Il cuore di AIACT è semplice da dire, complesso da realizzare: rendere identificabili, tracciabili e mitigabili i bias nei modelli di IA usati in ambito clinico, in particolare nei trial e negli studi osservazionali.

Un framework “risk‑based”, in linea con l’AI Act

L’AI Act europeo classifica l’IA per livelli di rischio. I sistemi usati in sanità sono quasi sempre “ad alto rischio” e richiedono:

• documentazione accurata;
• tracciabilità dei dati;
• monitoraggio continuo delle performance;
• procedure di gestione del rischio.

AIACT lavora proprio in questa logica, su tre pilastri operativi che puoi usare anche come check‑list interna:

1. Input – Dati completi, rappresentativi, documentati.

   • Verifica delle fonti dei dati clinici.
   • Analisi di rappresentatività per genere, età, area geografica, patologie.
   • Identificazione di eventuali squilibri prima dell’addestramento.

2. Processo – Trasparenza e audit del modello.

   • Tracciabilità delle scelte di modellazione.
   • Metriche di fairness (es. confronto delle performance tra sottogruppi di pazienti).
   • Audit periodici, non solo “a progetto finito”.

3. Output – Analisi critica delle raccomandazioni.

   • Verifica se l’IA penalizza sistematicamente certi gruppi.
   • Confronto con linee guida cliniche ed evidenze scientifiche.
   • Feedback strutturato dei clinici per correggere il modello.

La forza di questo approccio è che non si limita a “certificare” un algoritmo una volta per tutte, ma introduce un ciclo continuo di valutazione e miglioramento.

Dati sintetici: come aiutano davvero a ridurre i bias

Uno degli aspetti più interessanti di AIACT è l’uso esteso di dati sintetici.

I dati sintetici sono dati clinici “fittizi”, generati da modelli matematici (come GAN o modelli probabilistici bayesiani) che riproducono le caratteristiche statistiche dei dati reali, senza contenere informazioni identificabili su singoli pazienti.

Perché sono così utili in sanità italiana oggi?

1. Mitigano la scarsa rappresentatività

   • Se un dataset reale contiene poche donne sopra i 75 anni con una certa patologia, è possibile creare dati sintetici che arricchiscano proprio quel segmento.
   • Questo permette di addestrare modelli più robusti per fasce di popolazione che, nella pratica clinica, sono molto presenti ma poco rappresentate nei dati storici.

2. Aiutano a rispettare GDPR e privacy

   • Non essendo legati a persone reali, i dati sintetici riducono drasticamente il rischio di re‑identificazione.
   • Diventano uno strumento potente per condividere dati tra strutture, fare ricerca multi‑centro e sviluppare algoritmi, restando coerenti con GDPR e con le politiche interne dei DPO.

3. Favoriscono test e audit indipendenti

   • Con dataset sintetici ben validati, terze parti (università, autorità, comitati etici) possono testare gli algoritmi senza accedere ai dati sensibili reali.

Ovviamente non è una bacchetta magica. Perché i dati sintetici siano davvero utili contro il bias servono:

• procedure rigorose di validazione: confronto continuo tra distribuzioni reali e sintetiche;
• controllo qualità: evitare di introdurre nuovi bias durante la generazione;
• coinvolgimento di clinici nella verifica: i pattern generati devono avere senso dal punto di vista medico, non solo statistico.

La posizione di chi lavora su questi temi è chiara: i dati sintetici, usati seriamente, sono oggi una delle strategie più concrete per costruire IA cliniche più eque, proteggendo al tempo stesso i dati dei pazienti.

4. Cosa possono fare oggi strutture sanitarie e professionisti

Parlare di bias algoritmici e AI Act può sembrare astratto. In realtà, per un’azienda sanitaria italiana che nel 2025 vuole usare l’IA in modo responsabile, ci sono azioni molto pratiche da mettere a terra subito.

Per direzioni strategiche, CIO, DS e DPO

• Mappare tutti i sistemi di IA in uso o in sperimentazione: dove sono, che dati usano, chi li gestisce.
• Classificare i casi d’uso per rischio: triage, supporto alla diagnosi, prescrizioni, gestione liste d’attesa… non hanno tutti lo stesso impatto.
• Richiedere ai fornitori documentazione completa su dataset di addestramento, metriche di bias, strategie di mitigazione.
• Inserire clausole su AI Act, bias e dati sintetici nei contratti: chi è responsabile di cosa, come si gestiscono aggiornamenti e audit.

Per clinici e personale sanitario

• Considerare l’IA come strumento consultivo, non come “oracolo infallibile”.
• Segnalare sistematicamente i casi in cui le raccomandazioni dell’algoritmo sembrano penalizzare certi gruppi di pazienti.
• Partecipare ai momenti formativi su AI, bias, privacy: la competenza clinica è fondamentale per interpretare le anomalie che un data scientist da solo non vede.

Per chi sviluppa soluzioni di IA sanitaria

• Integrare da subito un modulo di fairness e bias assessment nel ciclo di sviluppo.
• Pianificare l’uso di dati sintetici non come toppa finale, ma come parte strutturale della strategia dati.
• Prepararsi a una sanità italiana dove la conformità all’AI Act e la gestione dei bias non saranno un “nice to have”, ma un prerequisito per poter operare.

5. Verso una sanità italiana più equa e data‑driven

L’IA in sanità non è più un esperimento da laboratorio: sta diventando un pezzo strutturale del modo in cui curiamo le persone. Per questo il lavoro su bias, trasparenza e dati sintetici non è un dettaglio tecnico, ma una condizione per mantenere fede alla promessa del SSN: cure efficaci eque, indipendentemente da dove vivi, da quanto guadagni o da chi sei.

Il progetto AIACT mostra una direzione concreta: unire regolazione europea (AI Act), rigorosità metodologica e soluzioni innovative come i dati sintetici per avere algoritmi realmente affidabili. Non perfetti – non lo saranno mai – ma monitorati, spiegabili e migliorabili nel tempo.

Per le strutture sanitarie italiane questo è anche un tema competitivo: chi oggi investe su governance dell’IA, gestione dei bias e qualità dei dati, domani sarà in grado di attivare più facilmente nuovi servizi di telemedicina, triage avanzato, medicina personalizzata… senza ritrovarsi bloccato da problemi regolatori o, peggio, da casi di discriminazione nei percorsi di cura.

La domanda vera per i prossimi anni non è se useremo IA in sanità, ma come la useremo. Come scelta rapida per automatizzare l’esistente, o come occasione per costruire una sanità digitale più giusta, trasparente e centrata sulle persone?

---