ChatGPT potrebbe essere usato per truccare i dati di uno studio clinico. La dimostrazione arriva da un lavoro di Giuseppe Giannaccare dell'Università di Cagliari, pubblicato su JAMA Ophthalmology. Gli autori hanno utilizzato GPT-4 per generare dati falsi e hanno erroneamente indicato che un certo trattamento chirurgico è migliore di un altro. "Abbiamo voluto evidenziare che, in pochi minuti, è possibile creare un set di dati non supportato da dati originali reali e addirittura nella direzione opposta rispetto alle evidenze disponibili", afferma Giannaccare. La capacità dell'IA di fabbricare dati convincenti crea preoccupazione tra i ricercatori e gli editori di riviste riguardo all'integrità della ricerca. Con ChatGPT, infatti, qualsiasi ricercatore o gruppo di ricerca potrà creare misurazioni false su pazienti inesistenti, risposte false a questionari o generare un grande set di dati su esperimenti sugli animali. Gli autori hanno chiesto a GPT-4 ADA di creare un set di dati riguardante pazienti con cheratocono, che provoca assottigliamento della cornea e può portare a problemi visivi.