Automazione nella sanità: gli errori degli algoritmi possono amplificare le disuguaglianze

Automazione nella sanità: gli errori degli algoritmi possono amplificare le disuguaglianze

Un esempio di automazione che, sulla carta, sembra un'ottima idea, ma che sul campo non ha avuto successo, è la rilevazione dell'insorgere della sepsi nelle strutture mediche, per cui il fattore tempo è estremamente importante.

La sepsi è una risposta infiammatoria alle infezioni comuni che si possono contrarre negli ospedali, dove è una delle principali cause di morte, ed è molto importante diagnosticarla precocemente. Epic Systems, uno dei più grandi fornitori di servizi per fascicoli sanitari elettronici, aveva sviluppato un algoritmo per la diagnosi della sepsi, ma uno studio pubblicato sul «Journal of the American Medical Association» aveva dimostrato che il sistema non era efficace nell'individuazione di casi critici.

Anche i sistemi automatizzati per l'assegnazione delle cure hanno grandi problemi. In uno studio molto pubblicizzato del 2019, il ricercatore in materia di sanità pubblica Ziad Obermeyer e i suoi collaboratori hanno valutato un sistema di predizione usato da ospedali, associazioni di medici e assicurazioni sanitarie per identificare i pazienti che possono avere esigenze sanitarie complesse e poter così allocare più risorse per la gestione delle cure.

L'algoritmo che i ricercatori hanno valutato era stato applicato a circa 200 milioni di persone negli Stati Uniti, quasi due terzi della popolazione. Obermeyer e il suo team hanno scoperto che l'algoritmo aveva sottostimato drasticamente le necessità di cura dei neri rispetto a quelle dei bianchi. Il team di ricerca ha scoperto che ciò era dovuto in larga parte alla difficoltà di accesso all'assistenza sanitaria per le persone nere: l'algoritmo si basava infatti sulle spese fatte in precedenza per prevedere le spese future di assistenza sanitaria piuttosto che sui bisogni reali di assistenza. I neri presenti nel set di dati erano, in genere, più malati dei bianchi ma era meno probabile che cercassero delle cure (probabilmente a causa del costo, dell'accessibilità e dei possibili rischi di discriminazione).

In conformità alle Condizioni d'Uso, la responsabilità per i contenuti pubblicati ricade esclusivamente sull'utente autore degli stessi. Perungiorno.it declina ogni responsabilità riguardo ai contributi inseriti dagli utenti.
Segnala