Le intelligenze artificiali bene in medicina, ma vulnerabili

Sono sempre di più le applicazioni dell'intelligenza artificiale in campo sanitario, ad esempio fanno diagnosi interpretando i test medici, ma affidarsi troppo agli algoritmi potrebbe nascondere un 'lato oscuro'. E' fin troppo facile, infatti, ingannare questi programmi facendo magari credere che c'è una malattia in realtà inesistente. Lo sottolineano in uno studio gli esperti del Mit e della Harvard University su Science.

Anche se ancora non ci sono report di attacchi hacker che abbiano violato una di queste applicazioni, sottolinea lo studio, l'ipotesi potrebbe verificarsi vista la frequenza di queste violazioni. E oltre ai cybercriminali potrebbero essere gli stessi medici a metterla in pratica, magari per farsi rimborsare cifre più alte dalle assicurazioni. L'intelligenza artificiale, ricorda la ricerca, è in sperimentazione in tutto il mondo su una serie di patologie, dai tumori a quelle dell'occhio per cui c'è una app già approvata dall'Fda che trova i segni di cecità dovuta al diabete. Lo studio dimostra, ad esempio, che una lesione benigna della pelle può essere interpretata come maligna dall'intelligenza artificiale cambiando pochi pixel o semplicemente ruotando di 90 gradi l'immagine. Anche poche modifiche ad un testo possono avere grandi effetti: se nella descrizione del paziente si scrive 'lombalgia' invece di 'dolore alla schiena' e 'dipendenza cronica da alcol' invece che 'abuso di alcol', cambia il rischio di sviluppare dipendenza dagli oppiacei calcolato che passa da molto alto a molto basso.

"Ci sono delle tecniche per difendersi - sottolinea l'articolo - se c'è la volontà politica. Ad esempio in casi in cui i dati o le immagini potrebbero essere modificate, si può estrarre e salvare una 'impronta digitale'".  Questo tipo di 'adversarial attacks', cioè le contraddizioni in cui incorre la tecnologia, argomentano gli esperti, del resto sono già stati messi in pratica su altre applicazioni dell'intelligenza artificiale. Alcuni ricercatori hanno dimostrato ad esempio che un piccolo proiettore a infrarossi montato su un cappello può far credere agli algoritmi per il riconoscimento facciale che la persona inquadrata abbia caratteri caucasici invece che asiatici. Anche le auto senza pilota possono essere deviate dal percorso facendo dei piccoli cambiamenti alla segnaletica stradale. "Gli interessi nel settore della salute - concludono gli autori - uniti ai miliardi di dollari in gioco rendono questo un problema attuale".