Iacopo Cricelli, presidente SIMG, individua nell’eccesso di fiducia uno dei rischi principali. I sistemi possono produrre testi convincenti anche quando le informazioni sono inesatte, incomplete o poggiano su basi fragili. Il problema non riguarda soltanto gli errori evidenti. Le risposte più difficili da riconoscere sono proprio quelle che appaiono coerenti e utilizzano un linguaggio tecnico appropriato.

Se la fiducia diventa automatica

A questo fenomeno si collega l’automation bias, la tendenza ad accettare un suggerimento perché proviene da un sistema percepito come avanzato. L’uso frequente può rafforzare la fiducia automatica negli output e rendere meno immediata l’individuazione di incongruenze. Per contrastare questa scorciatoia cognitiva servono formazione e regole d’uso. La supervisione umana non può essere un passaggio formale aggiunto alla fine, ma deve accompagnare l’intero processo.

La nuova competenza è saper valutare

L’IA literacy comprende la conoscenza delle caratteristiche e dei limiti dei diversi sistemi. Al medico non viene richiesto di diventare un esperto di programmazione, ma di distinguere finalità, affidabilità e perimetro d’impiego degli strumenti. Alla preparazione teorica deve affiancarsi un esercizio pratico in ambienti controllati: formulare richieste, confrontare le risposte, verificarne le fonti e riconoscere quando un risultato è soltanto apparentemente utile. La vera competenza, quindi, non consisterà nell’utilizzare l’IA in ogni situazione. Sarà sapere quando usarla, come controllarla e quando lasciarla fuori dal processo clinico.