Page 5 - Medicinae Doctor N. 8 2017

p r i m a p a g i n a

Intelligenza artificiale in Medicina:

attenzione a non sottovalutare i rischi

Le aspettative che i medici e i pazienti nutrono nei confronti del possibile ruolo
che sistemi a supporto delle decisioni basate sull’intelligenza artificiale possano
“avere sulla clinica sono un po’ sbilanciate, in certi casi anche esagerate”. Ne è
convinto Federico Cabitza, ingegnere informatico di Milano*, autore, insieme ad altre
insigni firme del mondo medico, dell’articolo Unintended Consequences of Machine
Learning in Medicine (Jama 2017; 318 (6): 517-518).
“Attraverso quell’articolo - dichiara Cabitza a M.D. Medicinae Doctor - io e i miei co-au-
tori abbiamo voluto focalizzare l’attenzione sulla mancanza di un dibattito sui rischi rela-
tivi ad un’ampia e ‘acritica’ diffusione delle tecnologie informatiche e dell’intelligenza
artificiale nella pratica medica. In gioco ci sono le modalità in cui la conoscenza medica
e il saper fare del clinico sono acquisiti, costruiti socialmente e valorizzati nell’interazione
con i pazienti. Il pericolo è quello di delegare alle ‘macchine’ non semplici calcoli aritme-
tici o operazioni manuali sui dati, bensì l’interpretazione di fenomeni complessi attraver-
so semplici misure di accuratezza diagnostica”.
“Tra le criticità evidenziate nell’articolo - precisa Cabitza - ce n’è qualcuna che ci pre-
occupa più di altre. La prima è associata all’imperscrutibilità dell’algoritmo (black-bo-
xing), e cioè al fatto che i sistemi informatici più accurati di supporto diagnostico non
sanno fornire spiegazioni ai suggerimenti che elaborano e forniscono. Quindi il loro
utilizzo nella pratica medica quotidiana potrebbe comportare una perdita progressiva
di competenze semiotiche da parte dei medici (deskilling) e di autonomia (overrelian-
ce). I medici potrebbero sviluppare un eccessivo affidamento al supporto tecnologico
con conseguente dipendenza (over-dependence). Una dipendenza che avrebbe degli
esiti negativi soprattutto quando il supporto informatico verrebbe a mancare per qual-
siasi motivo, anche per un problema tecnico: le prestazioni potrebbero peggiorare di
colpo, o addirittura arrestarsi”.
“Ma il problema peggiore e di lungo termine - continua Cabitza - che intravedo nell’attua-
le adozione di sistemi di intelligenza artificiale in Medicina, soprattutto di quelli ‘oracolari’,
tanto accurati quanto imperscrutabili, è l’accettazione da parte dei medici e pazienti di
quella che Max Boisot chiamava codificazione e che oggi, sempre più spesso è denotata
come datificazione. Cioè la trasformazione di condizioni cliniche e segni clinici ‘analogici’
per loro natura, valorizzati nell’interazione tra medico e paziente, in insiemi strutturati di
codici, categorie e valori misurati su scale quantitative. Per
tutti questi motivi sono convinto che c’è bisogno di un ap- Attraverso il
proccio basato sulle prove di efficacia o evidenze anche per presente QR-Code
l’applicazione dell’intelligenza artificiale in Medicina”. www
è possibile ascoltare

il commento di
*IRCCS Istituto Ortopedico Galeazzi, Milano con tablet/smartphone
Dipartimento di Informatica, Sistemica e Comunicazione Federico Cabitza
Università di Milano-Bicocca

M.D. Medicinae Doctor - Anno XXIV numero 8 - novembre-dicembre 2017 ■ 5