IA e salute: perché il consiglio resta una questione umana

I chatbot basati sull’intelligenza artificiale non sono ancora pronti a dispensare consigli sulla salute in contesti reali. Sono i risultato di uno studio pubblicato dall’Università di Oxford su Nature Medicine, che mette in luce una distanza significativa tra le performance dell’IA in condizioni controllate e il suo utilizzo nel dialogo diretto con le persone.

Il dato è rilevante perché intercetta una tendenza già emersa: sempre più cittadini – adolescenti ma anche adulti – si rivolgono ai chatbot per interpretare sintomi, chiedere consigli o orientarsi nelle decisioni di salute, spesso prima di contattare un professionista.

Lo studio: quando il dialogo diventa il punto critico

La ricerca ha coinvolto quasi 1.300 partecipanti, chiamati a confrontarsi con dieci scenari clinici diversi. In alcuni casi, i modelli di linguaggio (tra cui GPT-4o, Llama 3 e Command R+) sono stati testati senza interazione umana diretta. in altri, erano gli utenti a dialogare con i chatbot per comprendere il problema di salute e decidere se rivolgersi a un medico o ai servizi di emergenza.

I risultati mostrano una frattura netta. In assenza di dialogo umano, gli LLM hanno identificato correttamente il problema di salute nel 94,9% dei casi e indicato una linea d’azione adeguata nel 56,3%. Ma quando entrava in gioco l’interazione reale con gli utenti, la capacità di individuare il problema scendeva sotto il 34,5%, e la scelta della risposta corretta sotto il 44,2%, senza risultati migliori rispetto all’uso di un comune motore di ricerca.

Il nodo non è solo tecnologico

Analizzando manualmente alcune interazioni, i ricercatori hanno osservato un doppio limite. Da un lato il problema riguardava l’utenza, non sempre in grado di fornire informazioni complete o precise. Dall’altro, i chatbot non sempre riuscivano a colmare le lacune, producendo quindi risposte equivoche o fuorvianti.

Il problema, dunque, non risiede soltanto nell’accuratezza dell’algoritmo, ma riguarda la complessità della relazione clinica, che comporta saper porre le domande giuste, interpretare il non detto, cogliere il contesto emotivo e sociale che accompagna un sintomo.

Un filo che lega AI, farmacia e salute mentale

Il dato presentato su Nature Medicine è coerente con altri fenomeni emersi in questo periodo. Dalla salute mentale dei ragazzi, fino all’uso dei chatbot come interlocutori "non giudicanti", torna lo stesso tema: la salute non è solo informazione, ma mediazione competente.

L’IA può supportare, orientare, affiancare. Ma se entra nel territorio del consiglio sanitario – soprattutto in condizioni di fragilità, ansia o incertezza – mostra limiti che devono riportare al centro il ruolo di figure umane competenti: medici, psicologi, operatori sanitari.

Ciò perché oggi ancora non riesce a replicare la capacità di ascolto, di interpretazione e il senso di responsabilità. Caratteristiche che, almeno per ora, restano profondamente e indissolubilmente umane.