Cosa stai cercando?

ChatGPT potrebbe creare dati falsi per truccare test clinici

La dimostrazione arriva da un lavoro di Giuseppe Giannaccare dell'Università di Cagliari, pubblicato su JAMA Ophthalmology

ChatGPT potrebbe essere usato per truccare i dati di uno studio clinico. La dimostrazione arriva da un lavoro di Giuseppe Giannaccare dell'Università di Cagliari, pubblicato su JAMA Ophthalmology. Gli autori hanno utilizzato GPT-4 per generare dati falsi e hanno erroneamente indicato che un certo trattamento chirurgico è migliore di un altro. "Abbiamo voluto evidenziare che, in pochi minuti, è possibile creare un set di dati non supportato da dati originali reali e addirittura nella direzione opposta rispetto alle evidenze disponibili", afferma Giannaccare.

La capacità dell'IA di fabbricare dati convincenti crea preoccupazione tra i ricercatori e gli editori di riviste riguardo all'integrità della ricerca. Con ChatGPT, infatti, qualsiasi ricercatore o gruppo di ricerca potrà creare misurazioni false su pazienti inesistenti, risposte false a questionari o generare un grande set di dati su esperimenti sugli animali. Gli autori hanno chiesto a GPT-4 ADA di creare un set di dati riguardante pazienti con cheratocono, che provoca assottigliamento della cornea e può portare a problemi visivi.

Per il 15-20% dei pazienti, il trattamento prevede un trapianto di cornea eseguito o con la cheratoplastica penetrante (PK) (che comporta la rimozione chirurgica di tutti gli strati danneggiati della cornea e la loro sostituzione con tessuto sano proveniente da un donatore), o con la cheratoplastica lamellare anteriore profonda (DALK)( in cui si sostituisce solo lo strato anteriore della cornea). Gli autori hanno usato ChatGPT per fabbricare dati a sostegno della conclusione che la DALK produce risultati migliori rispetto alla PK. I dati generati dall'IA includevano 160 partecipanti maschi e 140 femmine e indicavano che coloro che avevano subito la DALK ottenevano punteggi migliori sia nella visione sia nel test di imaging rispetto a coloro che avevano subito la PK, risultato in contrasto con quanto mostrato da veri studi clinici. Gli autori dello studio riconoscono che il loro set di dati ha difetti che potrebbero essere individuati con un esame attento. Tuttavia, afferma Giannaccare, "se si guarda molto rapidamente il set di dati, è difficile riconoscere l'origine non umana della fonte dei dati".

Commenti

I Correlati

Lugano: arte su prescrizione medica per migliorare la salute dei cittadini

Sanità pubblica | Redazione DottNet | 02/07/2025 12:39

Lo studio è promosso da Città di Lugano, IBSA Foundation per la ricerca scientifica e l’Istituto di Medicina di Famiglia dell’Università della Svizzera italiana (USI), in collaborazione con il LAC Lugano Arte e Cultura

Schillaci, liste d'attesa, da settembre interveniamo noi

Sanità pubblica | Redazione DottNet | 30/06/2025 16:47

Deserte il 40% delle visite, Robo-Cup dell'Asl Napoli 3 Sud taglia il numero di chi non si presenta

Glifosato, nuove prove scientifiche: contribuisce anche allo sviluppo di malattie neurologiche complesse

Sanità pubblica | Redazione DottNet | 27/06/2025 13:25

L’esposizione cronica al glifosato ha provocato un aumento significativo e dose-dipendente di tumori multipli: leucemie precoci, tumori del sistema nervoso, della pelle, del fegato, delle ossa e della tiroide

Liste attesa, Corte dei Conti: fenomeno vergognoso, medici di base non più in grado di fare filtro. Bene urgenze, un anno per alcuni esami

Sanità pubblica | Redazione DottNet | 26/06/2025 15:16

Le urgenze vengono quasi sempre garantite, ma per le richieste di prestazioni programmabili (che sono anche le più numerose) i ritardi in alcuni casi sono significativi

Ti potrebbero interessare

Balzanelli (118), "insegnare a scuola le manovre salvavita"

Sanità pubblica | Redazione DottNet | 18/09/2024 14:58

Più formazione per vincere sfida arresto cardiaco improvviso

Circolare Covid del Ministero: vaccino raccomandato agli operatori sanitari. Via libera alla co-somministrazione con l’antinfluenzale

Sanità pubblica | Redazione DottNet | 17/09/2024 19:32

I vaccini sono adattati alla variante JN.1. Possibile la co-somministrazione dei nuovi vaccini aggiornati con altri

Sicurezza della persona assistita e delle cure: innovazione e prevenzione a tutela della salute

Sanità pubblica | Redazione DottNet | 17/09/2024 16:18

Bellantone: "la sicurezza dell’assistito è un pilastro fondamentale della qualità delle cure ed è un diritto inalienabile di ogni persona"

Schillaci, in sanità puntare sulla qualità della spesa

Sanità pubblica | Redazione DottNet | 15/09/2024 17:34

"Uso corretto delle risorse non avviene in tutte le regioni"