L’impiego dell’intelligenza artificiale generativa nella produzione di testi scientifici sta aprendo nuove opportunità per ricercatori ed editori, ma pone anche interrogativi sulla qualità delle informazioni e sulla validità delle evidenze pubblicate. Organizzazioni scientifiche, editori accademici e istituzioni sanitarie internazionali stanno richiamando l’attenzione sulla necessità di sviluppare strumenti adeguati per identificare bias, allucinazioni e contenuti sintetici.

Con il termine “allucinazione” si definisce la capacità di alcuni sistemi di intelligenza artificiale di generare informazioni plausibili ma prive di riscontro nelle fonti originali.

In ambito scientifico, questo fenomeno può tradursi nella produzione di riferimenti bibliografici inesistenti, dati non verificabili o interpretazioni non supportate dalle evidenze disponibili. Riviste come Nature e Science hanno evidenziato come tali criticità possano compromettere l’affidabilità del processo di comunicazione scientifica.

Un ulteriore elemento riguarda i bias algoritmici. I modelli di AI apprendono da grandi quantità di dati e possono replicare distorsioni presenti nei dataset utilizzati per l’addestramento. Secondo l’Organizzazione mondiale della sanità (Oms), il rischio è che queste tecnologie amplifichino disuguaglianze esistenti o producano risultati non rappresentativi di specifiche popolazioni, con possibili implicazioni anche per la ricerca clinica e la salute pubblica.

Parallelamente cresce l’attenzione verso i contenuti sintetici, ovvero testi, immagini o dati generati interamente o parzialmente da sistemi automatizzati. Il Committee on Publication Ethics (COPE), insieme a numerosi editori internazionali, ha pubblicato raccomandazioni che richiedono trasparenza sull’utilizzo dell’intelligenza artificiale nei processi di scrittura e revisione dei manoscritti. In molti casi, gli strumenti di AI non possono essere indicati come autori, poiché non sono in grado di assumersi responsabilità scientifiche o etiche sul contenuto prodotto.

Per riconoscere possibili anomalie, gli esperti raccomandano di verificare l’esistenza delle fonti citate, confrontare le affermazioni con documenti originali, valutare la coerenza metodologica degli studi e analizzare eventuali incongruenze nei risultati presentati. Anche l’uso di software dedicati all’identificazione di immagini manipolate o contenuti generati artificialmente sta diventando parte integrante delle procedure editoriali.

L’Organizzazione mondiale della sanità e numerose istituzioni accademiche sottolineano che l’intelligenza artificiale può rappresentare una risorsa importante per la ricerca e la gestione della conoscenza scientifica, purché venga adottata all’interno di quadri normativi ed etici adeguati. In un contesto caratterizzato da una crescente produzione di contenuti, la capacità di valutare criticamente le informazioni e di verificare le fonti rimane un elemento essenziale per preservare la qualità della letteratura scientifica e la fiducia nel sistema della ricerca.