Canali Minisiti ECM

ChatGPT potrebbe creare dati falsi per truccare test clinici

Sanità pubblica Redazione DottNet | 26/11/2023 16:27

La dimostrazione arriva da un lavoro di Giuseppe Giannaccare dell'Università di Cagliari, pubblicato su JAMA Ophthalmology

ChatGPT potrebbe essere usato per truccare i dati di uno studio clinico. La dimostrazione arriva da un lavoro di Giuseppe Giannaccare dell'Università di Cagliari, pubblicato su JAMA Ophthalmology. Gli autori hanno utilizzato GPT-4 per generare dati falsi e hanno erroneamente indicato che un certo trattamento chirurgico è migliore di un altro. "Abbiamo voluto evidenziare che, in pochi minuti, è possibile creare un set di dati non supportato da dati originali reali e addirittura nella direzione opposta rispetto alle evidenze disponibili", afferma Giannaccare. La capacità dell'IA di fabbricare dati convincenti crea preoccupazione tra i ricercatori e gli editori di riviste riguardo all'integrità della ricerca. Con ChatGPT, infatti, qualsiasi ricercatore o gruppo di ricerca potrà creare misurazioni false su pazienti inesistenti, risposte false a questionari o generare un grande set di dati su esperimenti sugli animali. Gli autori hanno chiesto a GPT-4 ADA di creare un set di dati riguardante pazienti con cheratocono, che provoca assottigliamento della cornea e può portare a problemi visivi.

pubblicità

Per il 15-20% dei pazienti, il trattamento prevede un trapianto di cornea eseguito o con la cheratoplastica penetrante (PK) (che comporta la rimozione chirurgica di tutti gli strati danneggiati della cornea e la loro sostituzione con tessuto sano proveniente da un donatore), o con la cheratoplastica lamellare anteriore profonda (DALK)( in cui si sostituisce solo lo strato anteriore della cornea). Gli autori hanno usato ChatGPT per fabbricare dati a sostegno della conclusione che la DALK produce risultati migliori rispetto alla PK. I dati generati dall'IA includevano 160 partecipanti maschi e 140 femmine e indicavano che coloro che avevano subito la DALK ottenevano punteggi migliori sia nella visione sia nel test di imaging rispetto a coloro che avevano subito la PK, risultato in contrasto con quanto mostrato da veri studi clinici. Gli autori dello studio riconoscono che il loro set di dati ha difetti che potrebbero essere individuati con un esame attento. Tuttavia, afferma Giannaccare, "se si guarda molto rapidamente il set di dati, è difficile riconoscere l'origine non umana della fonte dei dati".

Commenti

I Correlati

Costituiscono oltre il 60 per cento del territorio nazionale: 4.000 comuni con 13 milioni di abitanti, il 22,7 per cento della popolazione italiana, spesso carenti e distanti dai servizi essenziali, a partire da quelli sanitari

Consegnati nel complesso dell’Università Federico II i diplomi agli studenti della prima edizione dell’Academy italiana del Pharma finanziata con oltre 2 milioni di euro dal Centro Nazionale di Ricerca

I controlli sulle Asl restino alle Regioni ma che in caso di inadempienze si attivi il potere sostitutivo dello Stato. Smi: superare il tetto di spesa sul personale medico

In Italia atteso 1 milione di ultranovantenni nei prossimi 3 anni. Tra 20 anni gli anziani sfioreranno i 19 milioni, un terzo saranno over-65 soli e a rischio di isolamento

Ti potrebbero interessare

Costituiscono oltre il 60 per cento del territorio nazionale: 4.000 comuni con 13 milioni di abitanti, il 22,7 per cento della popolazione italiana, spesso carenti e distanti dai servizi essenziali, a partire da quelli sanitari

Consegnati nel complesso dell’Università Federico II i diplomi agli studenti della prima edizione dell’Academy italiana del Pharma finanziata con oltre 2 milioni di euro dal Centro Nazionale di Ricerca

I controlli sulle Asl restino alle Regioni ma che in caso di inadempienze si attivi il potere sostitutivo dello Stato. Smi: superare il tetto di spesa sul personale medico

Secondo una ricerca di Markets&Markets, il mercato dell’Intelligenza Artificiale ha raggiunto una valutazione di 150,2 miliardi di dollari nel 2023 e si prevede che crescerà del 36,8% ogni anno fino al 2030

Ultime News

Costituiscono oltre il 60 per cento del territorio nazionale: 4.000 comuni con 13 milioni di abitanti, il 22,7 per cento della popolazione italiana, spesso carenti e distanti dai servizi essenziali, a partire da quelli sanitari

Clerici: Corsi sistematici nelle scuole di specializzazione

Università Trieste e Monzino studiano un nuovo farmaco con Rna

Lo rivela uno studio a lungo termine pubblicato nella rivista Bmj Public Health e condotto da Bruce Whyte, del Glasgow Centre for Population Health