Non si tratta di una nuova linea guida formale dell'OMS. Lo stesso rapporto precisa che la Knowledge Community non rappresenta un campione statisticamente rappresentativo degli stakeholder europei e che le posizioni raccolte non coincidono necessariamente con le politiche ufficiali dell'Organizzazione. Ma dal confronto emerge comunque una convergenza molto chiara: l'intelligenza artificiale in sanità è prima di tutto una questione di governance e organizzazione dei sistemi, non semplicemente di sviluppo tecnologico.

Il problema non è soltanto quanto è sofisticato l'algoritmo

Secondo il rapporto, il successo dell'IA in sanità dipende da istituzioni solide, dati affidabili, competenze professionali e capacità di integrare gli strumenti tecnologici nei bisogni reali della pratica clinica e della sanità pubblica. La tecnologia può migliorare qualità dell'assistenza, efficienza e capacità decisionale, ma può anche amplificare disuguaglianze già esistenti quando viene costruita su dati incompleti o distorti. Tra le criticità emerse dall'esperienza reale figurano sistemi poco compatibili con i flussi di lavoro, validazioni insufficienti, frammentazione dei dati e responsabilità poco definite.

La conclusione è particolarmente significativa in una fase in cui l'adozione dell'IA tende spesso a essere misurata attraverso il numero delle tecnologie introdotte o la rapidità della loro diffusione. Per i partecipanti alla Knowledge Community, invece, il vero indicatore di progresso dovrebbe essere la capacità delle istituzioni di governare queste tecnologie.

Il documento arriva a sostenere che i rischi legati a un'adozione troppo rapida possono essere superiori a quelli derivanti da una maggiore prudenza. Governance, qualità dei dati, validazione, competenze professionali e partecipazione vengono quindi considerate condizioni preliminari, non ostacoli da rimuovere per accelerare l'innovazione.

L'IA deve sostenere il giudizio clinico, non sostituirlo

Uno dei passaggi più rilevanti per medici e professionisti sanitari riguarda il rapporto tra algoritmo e decisione clinica. Il principio indicato dal rapporto è che l'IA debba essere utilizzata come strumento di supporto alla decisione, non come decisore autonomo. La responsabilità degli esiti clinici non può essere semplicemente trasferita a un sistema automatizzato e devono essere chiariti i ruoli di sviluppatori, strutture sanitarie e professionisti quando una decisione viene presa con il supporto dell'intelligenza artificiale.

La supervisione umana, però, non può ridursi a una formula regolatoria. Se al medico viene attribuita la responsabilità finale, deve anche disporre delle competenze, del tempo e dell'autonomia necessari per valutare criticamente e, quando necessario, contraddire il suggerimento dell'algoritmo.

Il rapporto richiama in particolare il rischio dell'automation bias, cioè la tendenza a fidarsi eccessivamente delle indicazioni prodotte da un sistema automatizzato. L'eccessiva dipendenza dall'IA e la progressiva erosione del giudizio clinico vengono considerate pericoli paragonabili, per importanza, agli stessi errori tecnici del modello.

Non tutte le applicazioni dell'intelligenza artificiale, inoltre, devono necessariamente essere adottate. Una tecnologia può mostrare ottime prestazioni tecniche senza produrre un effettivo beneficio clinico, soprattutto quando viene utilizzata in popolazioni o contesti diversi da quelli sui quali è stata validata. Il rapporto considera quindi parte della responsabilità etica anche la capacità di ritardare o rinunciare all'impiego dell'IA quando le evidenze non sono sufficienti.

Un algoritmo efficace nei test può fallire nella pratica

È proprio il tema della validazione a rappresentare uno dei passaggi centrali del documento. Prestazioni elevate durante lo sviluppo, accuratezza diagnostica o risultati positivi nei benchmark non garantiscono automaticamente che una tecnologia produca lo stesso risultato nella pratica quotidiana. Le caratteristiche dei pazienti, i flussi di lavoro, la qualità dei dati e l'organizzazione dei servizi possono modificare significativamente le prestazioni di un sistema dopo la sua introduzione.

Per questo la validazione non dovrebbe essere considerata un evento concluso prima dell'ingresso sul mercato o dell'adozione in ospedale. Deve proseguire nel tempo. Alcuni sistemi possono infatti modificare le proprie prestazioni a causa del cosiddetto model drift, il progressivo deterioramento della capacità predittiva quando cambiano i dati o le pratiche cliniche. Senza un monitoraggio continuo, il problema può rimanere invisibile fino a quando non produce conseguenze sui pazienti.

Il rapporto sottolinea quindi la necessità di rafforzare la sorveglianza successiva all'introduzione dell'IA, affiancando alle valutazioni tecniche indicatori di risultato clinico, impatto sull'organizzazione, effetti sull'equità e possibili conseguenze inattese.

Dati incompleti e bias possono ampliare le disuguaglianze

L'intelligenza artificiale non opera in uno spazio neutrale. È una delle considerazioni ricorrenti nel rapporto dell’OMS. I sistemi riproducono le caratteristiche dei dati sui quali vengono addestrati e possono quindi riflettere o amplificare disparità già esistenti. Un modello sviluppato in un grande ospedale dotato di infrastrutture avanzate può non funzionare allo stesso modo nella medicina territoriale, in un'area rurale o in un sistema sanitario con minori risorse.

Ma il problema dell'equità non riguarda soltanto la qualità degli algoritmi. Anche una tecnologia tecnicamente valida può aumentare le differenze se viene adottata soltanto dalle strutture che dispongono delle risorse economiche e organizzative necessarie per utilizzarla. L'innovazione rischia così di concentrarsi nei sistemi che sono già più forti, mentre quelli con minori capacità digitali rimangono ulteriormente indietro.

Un'attenzione particolare viene riservata anche ai professionisti sanitari. Secondo i partecipanti alla Knowledge Community, numerosi strumenti vengono ancora progettati per infermieri e operatori di prima linea più che con loro, con il rischio di creare tecnologie poco aderenti alle attività quotidiane e capaci persino di aumentare il carico di lavoro invece di ridurlo.

Cinque priorità prima di accelerare

Dal confronto emergono cinque aree considerate prioritarie: governance e responsabilità. Qualità, interoperabilità e governo dei dati. Validazione continua e sorveglianza dopo l’introduzione. Competenze del personale e supervisione umana effettiva. Coinvolgimento di pazienti e professionisti nella progettazione dei sistemi. La prima riguarda l'attribuzione delle responsabilità. L'incertezza su chi debba rispondere di una decisione supportata dall'IA può infatti produrre due effetti opposti: scoraggiare l'utilizzo delle tecnologie per timore delle conseguenze legali oppure favorirne l'impiego senza controlli sufficienti.

La seconda interessa direttamente la qualità dei dati. Dataset frammentati, incompleti o scarsamente interoperabili rappresentano un problema che non può essere corretto semplicemente aumentando la sofisticazione degli algoritmi.

La terza riguarda il monitoraggio nel tempo. Il rapporto chiede di superare la logica della validazione una tantum e di costruire meccanismi capaci di individuare gli errori e il deterioramento delle prestazioni anche dopo l'introduzione nella pratica clinica.

Infine, la responsabilità attribuita ai professionisti deve essere accompagnata da formazione specifica sull'intelligenza artificiale, tempo e supporto organizzativo. Chiedere al medico di controllare un algoritmo senza fornirgli gli strumenti per farlo viene definito esplicitamente poco realistico e potenzialmente insicuro.

L'IA non è automaticamente una tecnologia che fa risparmiare

Il documento mette in discussione anche un altro presupposto frequentemente associato all'intelligenza artificiale: l'idea che la sua introduzione produca necessariamente una riduzione dei costi. La spesa non coincide con il prezzo di acquisto del sistema. Alla tecnologia si aggiungono infatti i costi per la gestione e la qualità dei dati, gli aggiornamenti, la cybersecurity, la validazione periodica, la formazione dei professionisti e la supervisione.

Esiste anche un costo meno immediatamente visibile: quello necessario per disinstallare o sostituire una tecnologia che non mantiene le prestazioni previste. Senza una valutazione dell'intero ciclo di vita, l'intelligenza artificiale può generare spese crescenti e creare dipendenza dai fornitori, soprattutto quando contratti e piattaforme rendono difficile migrare verso sistemi alternativi.

Il rapporto invita quindi a valutare il valore prodotto non soltanto attraverso indicatori di efficienza economica immediata, ma considerando risultati clinici, qualità dell'assistenza, sostenibilità del lavoro sanitario e resilienza complessiva del sistema.

Dalla promessa alla pratica

Il titolo scelto dall'OMS, "From promise to practice", sintetizza bene il passaggio che il rapporto considera ormai necessario. La discussione non riguarda più soltanto ciò che l'intelligenza artificiale potrebbe fare in medicina, ma le condizioni che permettono di utilizzarla in modo sicuro quando entra realmente nei processi decisionali.

Il punto non è quindi frenare l'innovazione. È evitare che la velocità della tecnologia superi quella delle istituzioni chiamate a controllarla. Perché in sanità l'adozione dell'intelligenza artificiale non può essere misurata semplicemente dal numero di algoritmi installati o dalle prestazioni dichiarate dai produttori. Il vero progresso comincia quando un sistema sanitario è abbastanza preparato da sapere come utilizzarli, come controllarli e, se necessario, quando decidere di non usarli.