Intelligenza artificiale in medicina, quanto possiamo fidarci? / Artificial intelligence in medicine, how much can we trust?

Segnalato dal Dott. Giuseppe Cotellessa / Reported by Dr. Giuseppe Cotellessa

Le macchine elaborano grandi quantità di dati, facilitando il lavoro dei medici. Ma la medicina è un lavoro di squadra. E le competenze umane non possono essere sostituite dalla potenza di calcolo

“L’intelligenza artificiale (AI) non deve diffondere l’illusione di una medicina infallibile. L’incertezza è parte integrante del processo diagnostico, e non deve essere trascurata”. Oltre alle voci entusiaste che accolgono con grandi speranze l’intelligenza artificiale in ambito medico, ci sono anche quelle di esperti del settore che invitano alla prudenza e a valutare i pro e i contro di questa innovazionetecnologica. Per Federico Cabitza, professore di Interazione Uomo-Macchina all’Università Milano-Bicocca e ricercatore all’Istituto Ortopedico Galeazzi (IRCCS), l’Ai ha effetti collaterali – dal punto di vista etico – che non vanno sottovalutati, come del resto ha recentemente sottolineato anche un articolopubblicato sul New England Journal of Medicine da un gruppo di ricerca della Stanford University School of Medicine, negli USA. “È necessario alimentare il dibattito pubblico su questi temi”, continua Cabitza, “per sviluppare una riflessione su come queste tecnologie devono essere applicate”.

Professor Cabitza, quali rischi si nascondono dietro l’utilizzo dell’AI in medicina? “Per i medici l’AI elabora grandi quantità di dati presi dalla letteratura scientifica su una determinata malattia o su una terapia e offre loro ipotesi di diagnosi e cura: si tratta del cosiddetto machine learning. La relativa facilità di risposta delle macchine, a lungo andare, può indebolire le competenze dei medici, costruite e consolidate attraverso la pratica, e diminuire le loro capacità decisionali. Si può creare infatti una situazione di dipendenza tra uomo e macchina che può compromettere la qualità del lavoro del medico. Inoltre bisogna anche considerare che i dati elaborati dalle macchine sono molto rigidi, codificati più o meno arbitrariamente sulla base di indicazioni di uno o più osservatori. Mentre la realtà della pratica medica è ben diversa, condizionata da una intrinseca incertezza dei fenomeni osservati”.

Ma molti studi dimostrano che la capacità di diagnosi delle macchine è maggiore di quella umana. Perché non fidarsi? “È sbagliato valutare l’attendibilità di questi sistemi sul confronto tra il numero di diagnosi identificate dalla macchina e dal medico. Bisogna liberarsi dalla suggestione della sfida uomo-macchina a cui ci hanno abituati i colossi dell’informatica come IBM e Google. La medicina è spesso un lavoro di squadra tra specialisti diversi. Bisogna quindi finanziare studi clinici che confrontino le performance di team di specialisti che si avvalgono delle indicazioni fornite dall’AI a quelle di singoli individui o team che non sono supportati da queste tecnologie. Dobbiamo cercare risposte a queste domande: l’utilizzo dell’AI riduce la mortalità, il rischio di complicanze e migliora la qualità della vita dei pazienti? Ad oggi non abbiamo raccolto evidenze scientifiche in questo senso, per questo serve cautela”.

Quali sono allora i benefici di queste tecnologie? “Indubbiamente avere la possibilità di analizzare grandi quantità di dati, sia delle cartelle cliniche che degli studi disponibili, è un vantaggio enorme per il medico. Le macchine non hanno rivali in questo. Ma l’AI deve essere concepita come una parte di un processo di valutazione e cura che coinvolge i medici, i pazienti e una comunità allargata di persone competenti. L’AI è uno strumento in più che si può utilizzare, ma che non sostituisce davvero nessuno”.

Queste tecnologie stimoleranno anche un cambiamento nella formazione dei medici? “Sicuramente sì, ed è necessario che questo accada. I medici dovranno imparare a usare criticamente i risultati forniti dalle macchine e a comprendere l’importanza della qualità dei dati che vengono forniti ai loro “assistenti virtuali”. Ma dovranno cambiare anche i programmatori e i progettisti di queste nuove tecnologie, soprattutto nella loro capacità di comprendere, modellare e gestire l’incertezza dei dati sanitari. Servono dei progettisti informatici che, se lavorano in sanità, siano un po’ medici e dei medici che siano un po’ più informatici”.

Cosa sta facendo l’Italia su questo argomento? “L’Agenzia per il digitale (Agid) della Presidenza del Consiglio ha creato la task force sull’Intelligenza Artificiale, ma sono ancora pochi gli esperti del settore che partecipano, soprattutto per il tema della interazione uomo-macchina e della valutazione delle tecnologie sanitarie. Attualmente sono le grandi aziende private come Google, Amazon e IBM che si stanno muovendo di più in questo ambito. Ma se vogliamo valutare l’effettivo impatto dell’AI in medicina in modo neutrale e indipendentemente la ricerca deve essere finanziata dalle istituzioni pubbliche. Solo così i governi possono orientare l’avanzamento tecnologico al reale miglioramento della vita delle persone”.

ENGLISH

Machines process large amounts of data, facilitating the work of doctors. But medicine is a team work. And human skills can not be replaced by computing power

"Artificial intelligence (AI) must not spread the illusion of an infallible medicine. Uncertainty is an integral part of the diagnostic process, and should not be overlooked ". In addition to the enthusiastic voices that welcome artificial intelligence in the medical field, there are also those of experts in the field who invite caution and evaluate the pros and cons of this technological innovation. For Federico Cabitza, professor of Man-Machine Interaction at the University of Milan-Bicocca and researcher at the Galeazzi Orthopedic Institute (IRCCS), Ai has side effects - from an ethical point of view - that should not be underestimated, as has recently He also underlined an article published in the New England Journal of Medicine by a research group at Stanford University School of Medicine, USA. "It is necessary to nourish the public debate on these issues", continues Cabitza, "to develop a reflection on how these technologies must be applied".

Professor Cabitza, what risks are hidden behind the use of AI in medicine? "For doctors, AI processes large amounts of data taken from the scientific literature on a particular disease or treatment and offers them hypotheses of diagnosis and treatment: it is the so-called machine learning. The relative ease of response of the machines, in the long run, can weaken the skills of doctors, built and consolidated through practice, and decrease their decision-making skills. In fact, a situation of dependence between man and machine can be created that can compromise the quality of the doctor's work. Furthermore, we must also consider that the data processed by the machines are very rigid, more or less arbitrarily coded on the basis of indications from one or more observers. While the reality of medical practice is very different, conditioned by an intrinsic uncertainty of the observed phenomena ".

But many studies show that the diagnostic capacity of machines is greater than human. Why not trust? "It is wrong to assess the reliability of these systems on the comparison between the number of diagnoses identified by the machine and the doctor. We must free ourselves from the suggestion of the man-machine challenge to which the giants of information technology such as IBM and Google have accustomed us. Medicine is often a team effort among different specialists. It is therefore necessary to finance clinical trials that compare the performance of teams of specialists who use the indications provided by the AI ​​to those of individuals or teams that are not supported by these technologies. We must look for answers to these questions: does the use of AI reduce mortality, the risk of complications and improve the quality of life of patients? To date we have not gathered scientific evidence in this sense, so caution is needed ".

What are the benefits of these technologies then? "Undoubtedly having the opportunity to analyze large amounts of data, both from the medical records and from the available studies, is a huge advantage for the doctor. The machines are unmatched in this. But AI must be conceived as a part of an assessment and care process that involves physicians, patients and an extended community of competent people. AI is one more tool that can be used, but that does not really replace anyone ".

Will these technologies also stimulate a change in the training of doctors? "Surely yes, and this must happen. Physicians will have to learn to critically use the results provided by the machines and understand the importance of the quality of the data that is provided to their "virtual assistants". But it will also have to change the programmers and designers of these new technologies, especially in their ability to understand, shape and manage the uncertainty of health data. We need computer designers who, if they work in healthcare, are a bit 'doctors and doctors who are a bit' more computerized. "

What is Italy doing on this subject? "The Agency for Digital (Agid) of the Council Presidency has created the task force on Artificial Intelligence, but there are still very few experts in the sector participating, especially for the topic of human-machine interaction and evaluation of health technologies. . Currently, there are large private companies such as Google, Amazon and IBM that are moving more in this area. But if we want to evaluate the effective impact of AI in medicine in a neutral way and independently, research must be funded by public institutions. Only in this way can governments direct technological progress towards real improvement in people's lives ".

Da:

https://www.galileonet.it/2018/06/intelligenza-artificiale-medicina-quanto-possiamo-fidarci/?utm_campaign=Newsatme&utm_content=Intelligenza%2Bartificiale%2Bin%2Bmedicina%2C%2Bquanto%2Bpossiamo%2Bfidarci%3F&utm_medium=news%40me&utm_source=mail%2Balert