Intelligenza artificiale in ambito medico

Il ruolo della trasparenza nella relazione tra paziente, medico e tecnologia.

Arianna Fantesini

Diagnosi assistita, monitoraggio e assistenza continua, ottimizzazione dei processi sanitari, supporto decisionale clinico. Questi sono solo alcuni dei vantaggi che può fornire l’utilizzo di strumenti basati sull’intelligenza artificiale (IA) in ambito medico. La capacità degli strumenti basati sull’IA di elaborare quantità di dati considerevoli in modo rapido ed efficiente ha il potenziale di trasformare radicalmente l’approccio alla diagnosi, al trattamento e alla cura delle malattie.

Le potenzialità applicative e la rapida innovazione delle tecnologie predittive hanno generato dibattiti e riflessioni etiche per integrare strumenti volti a mitigare diversi rischi. Tra questi, la mancanza di trasparenza rappresenta un problema su due piani distinti: la tracciabilità, ossia la trasparenza dei processi di sviluppo e utilizzo dell’IA; e la spiegabilità, che implica la trasparenza dei processi decisionali dell’IA.

La spiegabilità delle decisioni intraprese da uno strumento di IA è un tema cruciale, soprattutto in ambito medico diagnostico. La capacità di comprendere e giustificare le decisioni di algoritmi complessi è essenziale per consentire ai professionisti sanitari di valutare criticamente i risultati, correggere eventuali errori o bias [1]. Inoltre, la trasparenza può incidere anche sul tasso di fiducia dei pazienti. La mancanza di strumenti di IA affidabili può portare ad una incertezza o diffidenza da parte dell’intero sistema sanitario, riducendo l’entusiasmo e l’interesse per l’adozione di nuovi algoritmi emergenti. Se è vero questo è interessante anche valutare anche come incide la trasparenza e in che misura essa possa beneficiare nell’adozione di tecnologie basate sull’IA.

In effetti, individuare gli elementi che incidono sulla percezione dell’IA nei diversi gruppi di utenti è fondamentale per promuovere la fiducia nelle innovazioni tecnologiche e garantire una corretta ed etica implementazione dei nuovi strumenti nella pratica medica. Oggi ancora non sono stati condotti sufficienti studi specifici che analizzino la percezione dell’IA da parte dei pazienti, dei medici e di altri attori chiave, soprattutto in termini di legittimità derivante dall’aumento della trasparenza. In uno studio [2] pubblicato nel 2020 sull’utilizzo dell’IA per prendere decisioni in ambito pubblico, emerge che non è sufficiente la trasparenza del processo – intesa come mera condivisione di elementi tecnici quali fonti e codici – per assicurare una maggiore legittimità nell’utilizzo di strumenti basati sull’IA, ma è necessario anche lo sforzo di condividere in modo chiaro ed esaustivo le ragioni che hanno condotto lo strumento di IA a prendere certe decisioni. Ciò si può ottenere solo attraverso l’approfondimento delle dinamiche che si generano tra l’uomo e la tecnologia, includendo tutti gli attori coinvolti nel processo.

È importante valutare se è possibile spostare l’attenzione dalla tecnologia all’individuo, analizzando il tasso di curiosità di comprendere meglio questi strumenti, di avere una maggiore consapevolezza e la risposta emotiva generata dall’uso di strumenti di IA.

Proprio la riflessione su questi temi ha portato allo sviluppo di un’attività di ricerca che coinvolge RE:LAB, il Centro di Ricerca Interdipartimentale “Scienza Nuova” dell’Università Suor Orsola Benincasa di Napoli e il Centro Diagnostico Italiano (CDI) di Milano, finalizzato a verificare quale sia l’attuale quadro della percezione dell’IA da parte di pazienti e medici del reparto di radiologia, e quanto la relazione umana tra medico e paziente incida sulla legittimità dell’uso di strumenti basati su IA.

La prima parte dello studio è consistito nella progettazione e somministrazione a pazienti su larga scala di un sondaggio suddiviso in tre principali sezioni: i) caratteristiche demografiche; ii) conoscenza generale delle nuove tecnologie e dell’IA; iii) percezione dei pazienti sull’uso dell’IA in contesti diagnostici.

I risultati sono confluiti in un paper dal titolo “How do patients perceive the AI-radiologists interaction? Results of a survey on 2119 responders” [3] pubblicato ad agosto del 2023 sulla rivista internazionale “European Journal of Radiology” e rivelano un quadro in parte inaspettato.

Infatti, 1216 partecipanti su 2119 hanno dichiarato di avere più di 60 anni, dimostrando un interesse verso l’IA anche senza essere nativi digitali. Inoltre, nonostante il livello di istruzione dei partecipanti fosse mediamente alto (almeno il 45% ha dichiarato un livello di istruzione superiore), solo il 3% si è definito esperto sul tema dell’intelligenza artificiale. Nonostante ciò, l’87% dei partecipanti è favorevole all’utilizzo dell’IA come supporto per la diagnosi, ma desidera essere informato al riguardo.

Certamente si osserva una tendenza a valutare positivamente l’utilizzo dell’IA in ambito diagnostico, ma allo stesso tempo emerge la necessità di una supervisione umana e l’importanza del supporto emotivo: il 76% del campione non si sentirebbe a proprio agio se la diagnosi fosse effettuata esclusivamente dall’IA.

Inoltre, il 36% dei partecipanti ha manifestato la propria disponibilità ad approfondire la tematica attraverso un gruppo di discussione dedicato, evidenziando come sia possibile una partecipazione attiva della popolazione intorno queste tematiche.

L’elemento emotivo è, inoltre, particolarmente impattante in ambito medico diagnostico e ciò è confermato anche da questi primi risultati di ricerca. Per questo motivo è importante condurre ulteriori approfondimenti in questo senso, valutando l’incidenza di una comunicazione trasparente ed emotiva tra intelligenza artificiale, medico e paziente sulla fiducia nella tecnologia del futuro.

Bibliografia

[1] STOA, EPRS (2022). Artificial intelligence in healthcare: Applications, risks, and ethical and societal impacts. European Parliament

[2] de Fine Licht, K., de Fine Licht, J. (2020). Artificial intelligence, transparency, and public decision-making. AI & Soc 35, 917–926. https://doi.org/10.1007/s00146-020-00960-w

[3] Ibba, S., Tancredi, C., Fantesini, A., Cellina, M., Presta, R., Montanari, R., Papa, S., & Alì, M. (2023). How do patients perceive the AI-radiologists interaction? Results of a survey on 2119 responders. European Journal of Radiology, 165, 110917. https://doi.org/10.1016/j.ejrad.2023.110917.