News center | Italia

AI human-centered design
ott 7, 2021

Perché l'IA nell'assistenza sanitaria deve essere progettata ponendo al centro la persona

By Sean Carney
Chief Experience Design Officer & Business Leader Healthcare Transformation Services

Tempo di lettura: 7-9 minuti

Sono un fermo sostenitore dell'intelligenza artificiale (IA): uno strumento che, se usato in modo intelligente appunto, può dare superpoteri agli operatori sanitari mettendo le informazioni giuste nelle loro mani nei momenti che contano veramente, per loro e i loro pazienti. Credo anche, però, che per mantenere questa promessa, sia necessario concentrarsi prima sulle persone che sulla tecnologia.  

Nelle conversazioni con i responsabili dei sistemi sanitari di tutto il mondo, una difficoltà che accomuna tutti è quella di trovare abbastanza medici specializzati per soddisfare il crescente bisogno di cure. A quel punto in genere chiedo: e se potessimo rendere i medici due volte più efficaci ed efficienti, consentendo loro di prendere decisioni migliori mentre trascorrono più tempo con i pazienti?
 

Questa è essenzialmente la promessa della AI, sia attraverso l'automazione di questioni banali che tolgono l'attenzione del medico dal paziente, sia fornendo un supporto decisionale clinico in quei momenti essenziali per il miglioramento degli esiti del paziente.
 

Eppure, nonostante i progressi tecnologici, sorprendentemente poche applicazioni supportate dalla IA sono passate dal laboratorio alla pratica clinica. Cosa limita questo utilizzo della IA nell’assistenza sanitaria?

Superare le barriere che limitano l'adozione della IA

 

I problemi relativi alla gestione dei dati e all'interoperabilità sono spesso visti come i principali colli di bottiglia che limitano una più ampia adozione della IA, e a buon vedere. Però, la frenetica e stressante realtà quotidiana dei medici mette in campo anche altri fattori.  I fattori umani.
 

I medici lavorano spesso con tempi stretti, affidandosi a routine costruite in anni di esperienza. Se l'IA non si inserisce senza soluzione di continuità nei loro flussi di lavoro, o peggio, se crea ulteriore complessità, i medici avranno difficoltà ad abbracciarla. In un ambiente dove la posta in gioco è alta, come l'assistenza sanitaria, e dove i medici devono prendere decisioni immediate con conseguenze potenzialmente di vasta portata, può essere difficile ottenere la fiducia nelle nuove tecnologie. Vi affidereste alle raccomandazioni di un algoritmo quando la vita di un paziente è nelle vostre mani? Sia lo scarso adattamento del flusso di lavoro che la mancanza di fiducia hanno dimostrato di rappresentare ostacoli all'adozione della IA [1,2].
 

Anche in precedenza le innovazioni in ambito sanitario hanno affrontato alcune delle stesse sfide. Basti pensare alla cartella clinica elettronica (CCE). Originariamente pubblicizzata come il futuro nell'assistenza sanitaria, ora si è ampiamente riconosciuto che questo sistema non è stato progettato mettendo al centro le esigenze e le esperienze dei medici, e i medici lamentano di sentirsi “intrappolati dietro lo schermo” [3, 4]. Questa volta, con l'IA che guida le prossime innovazioni digitali, è necessario imparare dagli errori del passato e adottare un approccio radicalmente diverso. Uno che metta al centro le persone. Fin dall’inizio, e non arrivandoci dopo ripensamenti vari.

Xray

Medici e IA: il nuovo team “aumentato”

 

Ciò di cui la sanità ha bisogno è una IA centrata sull'uomo: un'intelligenza artificiale che non sia semplicemente guidata da ciò che è tecnicamente fattibile, ma prima di tutto da ciò che è umanamente desiderabile. Questo significa che è necessario combinare la scienza dei dati e la competenza tecnica con una forte comprensione del contesto clinico in cui operano i medici, nonché delle richieste cognitive ed emotive della loro realtà quotidiana.
 

Qui è essenziale prendere in considerazione medici e IA come un sistema collaborativo: costruire questa relazione complementare è ciò che alla fine determinerà l'adozione e l'impatto della IA nell'assistenza sanitaria.

Ciò di cui la sanità ha bisogno è una IA centrata sull'uomo: un'intelligenza artificiale che non sia semplicemente guidata da ciò che è tecnicamente fattibile, ma prima di tutto da ciò che è umanamente desiderabile.”

Già è possibile notare i primi segni di una collaborazione tra uomo e IA in radiologia. Una disciplina che è sempre stata in prima linea nella trasformazione digitale dell’assistenza sanitaria e che ora è in fermento per l’innovazione della IA. I radiologi e i tecnici specializzati di tecnologie di imaging scarseggiano in molte parti del mondo e affrontano carichi di lavoro sempre crescenti; in questo caso la presenza di un assistente digitale intelligente rappresenterebbe sicuramente un vantaggio.
 

Come possiamo garantire che l'IA completi l’esperienza del medico in modo che insieme ottengano più di quanto potrebbero fare da soli? La risposta non sarà evidente se ci si concentra solo sulla tecnologia.

Radiologist

Da molto tempo ormai ritengo che per offrire un’innovazione alle persone che abbia significato, è necessario che questa innovazione avvenga con loro e non per loro. Come ho sostenuto alla conferenza Fortune Brainstorm Design qualche tempo fa, costruire algoritmi tra le quattro mura di un laboratorio di ricerca di per sé non svilupperà una IA centrata sull'uomo. Invece, è necessario uscire dal laboratorio e immergersi nella realtà quotidiana delle persone, proprio quelle la cui vita si sta cercando di migliorare.
 

Questo è esattamente ciò che stiamo facendo con i nostri partner clinici e accademici, come il Catharina Hospital e l'Eindhoven University of Technology (come parte della nostra collaborazione congiunta e/MTIC [i]) e il Leiden University Medical Center nei Paesi Bassi, conducendo analisi a 360 gradi del flusso di lavoro in loco e sessioni di co-creazione con medici esperti per guardare oltre la tecnologia stessa e capire il contesto completo di utilizzo.
 

Attraverso questo lavoro, ora iniziamo a scoprire quali siano i fattori che favoriscono una stretta collaborazione tra medico e IA in radiologia. Quello che è diventato ormai chiaro è che progettare una IA centrata sull'uomo implica molto di più di un'interfaccia utente di livello superiore.

Ciò che è tecnicamente possibile può non essere ciò che è effettivamente necessario

 

Prima di tutto, è necessario chiedersi: che tipo di IA può essere utile? Sembra una domanda ovvia, ma le applicazioni di IA spesso non riescono a tradursi in pratica clinica proprio perché il bisogno o il punto fondamentale sottostante non è stato definito nel modo corretto.
 

Per esempio, se un algoritmo di analisi dell'immagine alla fine semplicemente identifica anomalie che un radiologo può individuare a colpo d'occhio, il suo valore aggiunto è limitato nonostante l’importante prestazione tecnica. Pensiamo per esempio di avere a disposizione un algoritmo che aiuta a misurare le dimensioni di un tumore: può essere leggermente più preciso di un osservatore umano, ma la differenza è così piccola da non avere un impatto pratico sulle decisioni di trattamento e quindi non si vede un reale beneficio per il paziente.
 

Invece, adottando una visione sistemica e partendo dai bisogni del radiologo e delle altre parti interessate nel flusso di lavoro in ambito radiologico, compresi il paziente e il tecnico radiologo che esegue l'esame, è possibile identificare le opportunità in cui la IA avrà il maggior valore aggiunto. Queste possono trovarsi in un punto qualsiasi del flusso di lavoro.

Workflow

Per esempio, all'inizio del flusso di lavoro, l'IA può aiutare a ottimizzare la programmazione dei pazienti in modo che vengano sottoposti ad esami il più rapidamente possibile. Oppure, può assistere i tecnici radiologi nella selezione e nella preparazione degli esami di imaging appropriati per un paziente specifico, per evitare immagini ripetute non necessarie. Una volta acquisite le immagini, l'AI può supportare i radiologi in diversi modi, per esempio indicando loro i risultati accidentali che è facile trascurare o facendo risparmiare tempo tramite l'integrazione automatica dei risultati nel referto.
 

Vi sono molti altri esempi in cui è possibile immaginare l’integrazione della IA, alcuni dei quali stiamo esplorando attivamente con i nostri partner clinici. Identificare i punti fondamentali di interesse e mappare le opportunità lungo l'intero flusso di lavoro è un ottimo modo per avviare un vero e proprio programma di innovazione con la IA, creando idee condivise sul valore che l’intelligenza artificiale può portare in ogni fase.

L'IA deve essere parte integrante del flusso di lavoro

 

La definizione del valore aggiunto dell'IA è il punto di partenza fondamentale, ma è il modo in cui l'IA si inserisce nel flusso di lavoro, e può in definitiva aiutare a semplificarlo, che consentirà o ne impedirà l'adozione nella pratica clinica.
 

Una cosa che abbiamo imparato attraverso le nostre collaborazioni con i medici radiologi, è  che ciò che può sembrare un'applicazione utile sulla carta, in realtà è un peso per il radiologo, se alla fine  aggiunge semplicemente un altro compito all’interno del flusso di lavoro. I radiologi lavorano in un ambiente complesso e sotto pressione, eseguendo diverse applicazioni software in parallelo su schermi multipli. Ecco perché è davvero importante incorporare le applicazioni IA nelle loro soluzioni informatiche e di imaging già esistenti, rendendo le informazioni facilmente disponibili e a portata di mano, invece che ingrandire il mosaico di soluzioni aggiuntive.

Radiologist X-ray
È necessario ragionare in modo olistico sull'integrazione del flusso di lavoro, guardando al sistema diagnostico in generale. Per esempio, l'IA può fare un'analisi preliminare della TAC di un paziente per segnalare casi critici che richiedono un follow-up immediato con una PET. Di per sé questa sarebbe un'applicazione molto utile. Funziona, tuttavia, solo se si rende disponibile l’esame PET lo stesso giorno, il che presenta una nuova sfida per il flusso di lavoro (una sfida che la IA può raccogliere!). Come dimostra questo esempio, è dunque necessario avere a mente l'intero modo di lavorare dell'ospedale, non solo i singoli elementi del flusso di lavoro.

L'IA deve infondere una fiducia che corrisponda alle sue capacità

 

Un'altra sfida progettuale posta dalla IA, cui ho accennato prima, è indurre medici a fidarsi dei suoi risultati e delle sue raccomandazioni. Proprio come nel caso del deep learning, i sistemi IA sono diventati molto più precisi e potenti, ma sono anche diventati sempre più difficili da interpretare, richiedendo un salto di fede da parte dell'utente. La fiducia è fondamentale ai fini dell’adozione, ma anche difficile da ottenere. Inoltre, la fiducia viene persa facilmente quando il sistema IA elabora le raccomandazioni sbagliate, nonostante la maggior parte delle volte sia molto precisa.
 

La cosa difficile è che quando si tratta di fiducia, devono essere prese in considerazione molte cose. Non si desidera assolutamente che un radiologo basi i suoi responsi su un algoritmo che però in passato non ha dato risultati ottimi. Quello che si desidera è potere avere un livello di fiducia adeguato che corrisponda alle capacità della IA. Questo significa correre su un confine sottile tra la sfiducia e fiducia eccessiva.
 

La sfiducia si manifesta quando non si vedono le reali capacità della IA. Diversi studi hanno dimostrato come i radiologi a volte abbiano trascurato tumori di piccole dimensioni identificati dalla IA [5,6]. All'altro estremo, la fiducia eccessiva porta ad affidarsi eccessivamente alla IA, per esempio i radiologi non si accorgono della presenza di tumori perché l'IA non è riuscita a identificarli [7].

Trust
Adapted from: Lee & See, 2004 [8]

 

Come aiutare i radiologi a trovare il giusto equilibrio tra fiducia e attenzione?
 

In primo luogo, è essenziale capire cosa possa e non possa fare un sistema IA, su quali dati sia stato addestrato e per cosa sia stato ottimizzato. Per esempio, un algoritmo può essere ottimizzato per individuare piccoli tumori nei polmoni, ma allora potrebbe trascurare quelli più grandi. Questo non è per niente intuitivo per il radiologo e richiede una comunicazione attiva al fine di evitare fenomeni di sfiducia.
 

Inoltre, è necessario considerare come rendere i risultati della IA i più comprensibili possibile. L'interpretabilità dei dati può non essere così importante quando la posta in gioco è bassa, ma in una situazione a elevata importanza il centro dei dati del sistema IA può rappresentare un impedimento alla piena fiducia. Insieme ai nostri collaboratori clinici e ai partner accademici come la Eindhoven University of Technology, stiamo studiando vari modi per affrontare il problema, sia tramite spiegazioni su quale sia la filosofia di progettazione della IA in generale, sia chiarendo la logica alla base delle singole raccomandazioni.

Mettere le persone al primo posto

 

Naturalmente, la percezione della IA da parte dei medici continuerà a evolversi assieme alle sue stesse capacità. Proprio come uno specializzando al primo anno, l'IA deve dimostrare il suo valore aggiunto e guadagnare la fiducia degli altri medici nel tempo.
 

Grazie all’utilizzo della IA perfettamente integrata nel flusso di lavoro, e alla quale i medici potranno rivolgersi con fiducia, i radiologi per esempio si libereranno dei compiti burocratici e saranno in grado di dedicare più tempo ai casi complessi, aumentando il loro impatto sul processo decisionale clinico. Anche gli operatori sanitari in altre aree della medicina beneficeranno sempre di più dell'assistenza della IA, che si tratti di patologia digitale, cure acute, terapia guidata da immagini o gestione delle malattie croniche. Credo fermamente che renderà il lavoro del medico più prezioso e gratificante.
 

Come ho mostrato, però, quel futuro non avverrà se non progettato volontariamente.
 

Gli sviluppatori devono assumere un ruolo attivo fin dall'inizio, lavorando al fianco dei data analyst, degli ingegneri e dei medici per creare sistemi basati sulla IA che rappresentino un vantaggio positivo sia per gli operatori sanitari che per i pazienti.
 

Solo allora vedremo se l'IA manterrà la sua promessa nell’assistenza sanitaria. Solo se metteremo le persone, e non la tecnologia, al primo posto. 

 

Nota

[i] e/MTIC o Eindhoven MedTech Innovation Center è una collaborazione di ricerca tra Eindhoven University of Technology, Catharina Hospital, Maxima Medical Center, Kempenhaeghe Epilepsy and Sleep Center e Philips.
 

Bibliografia

[1] Christopher J. Kelly, Alan Karthikesalingam, Mustafa Suleyman, Greg Corrado, and Dominic King. 2019. Key challenges for delivering clinical impact with artificial intelligence. BMC Medicine 17, 1: 195. https://doi.org/10.1186/s12916-019-1426-2
 

[2] Lea Strohm, Charisma Hehakaya, Erik R. Ranschaert, Wouter P. C. Boon, and Ellen H. M. Moors. 2020. Implementation of artificial intelligence (AI) applications in radiology: hindering and facilitating factors. European Radiology. https://doi.org/10.1007/s00330-020-06946-y
 

[3] Atul Gawande. 2018. Why doctors hate their computers. New Yorker. https://www.newyorker.com/magazine/2018/11/12/why-doctors-hate-their-computers
 

[4] Robert M. Wachter. 2015. The digital doctor: hope, hype, and harm at the dawn of medicine’s computer age.
 

[5] D. W. De Boo, M. Prokop, M. Uffmann, B. van Ginneken, and C. M. Schaefer-Prokop. 2009. Computer-aided detection (CAD) of lung nodules and small tumours on chest radiographs. European Journal of Radiology 72, 2: 218–225. https://doi.org/10.1016/j.ejrad.2009.05.062
 

[6] Robert M. Nishikawa, Alexandra Edwards, Robert A. Schmidt, John Papaioannou, and Michael N. Linver. 2006. Can radiologists recognize that a computer has identified cancers that they have overlooked? In Medical Imaging 2006: Image Perception, Observer Performance, and Technology Assessment, 614601. https://doi.org/10.1117/12.656351
 

[7] W. Jorritsma, F. Cnossen, and P. M. A. van Ooijen. 2015. Improving the radiologist–CAD interaction: designing for appropriate trust. Clinical Radiology 70, 2: 115–122. https://doi.org/10.1016/j.crad.2014.09.017
 

[8] John D. Lee and Katrina A. See. 2004. Trust in automation: designing for appropriate reliance. Human Factors 46, 1: 50-80. https://doi.org/10.1518/hfes.46.1.50_30392

Condividi sui Social Media

Temi

Autore

Sean Carney

Sean Carney

Chief Experience Design Officer & Business Leader Healthcare Transformation Services

Sean Carney leads Experience Design (XD) and Consulting at Philips, ensuring that human-centered innovation practice and design thinking flows through the business and clinical practice. Sean is a frequent speaker on the value of Design Thinking and creative leadership and on driving transformation in Healthcare. With more than 30 years of experience as an international creative thought leader in design and innovation, focused on brand and user insight, he has a proven track record in building, leading and inspiring multi-disciplinary, award winning design teams across the US, Europe and Asia.
 

Before joining Philips, Sean pioneered user-centered approaches to brand design while working with a diverse set of companies around the world. 

 

With over 90 years of design at the company, Philips Experience Design has an incredibly rich history of innovating to improve people’s lives. Today Philips Experience Design is making a bigger and bolder impact than ever before in reimagining and redesigning the future of healthcare globally. His team’s success in positively impacting the lives of users, clinicians and patients around the world, is widely recognized with 141 top design awards won by Philips last year.

Click here to read moreClick here to read less
Follow me on

La visualizzazione ottimale del nostro sito richiede la versione più recente di Microsoft Edge, Google Chrome o Firefox.