Donne e digital health

Le (troppe) disparità di genere nella salute digitale

Algoritmi addestrati male, app pensate per gli uomini, squilibri di leadership: la presenza femminile è sottorappresentata in molti ambiti della digital health. Come eliminare i bias di genere?

20 Ott 2021

Eugenio Santoro

Responsabile del laboratorio di informatica medica, Dipartimento di Salute Pubblica, Istituto di Ricerche Farmacologiche “Mario Negri” IRCCS

Le prove di efficacia della digital health iniziano ad essere sempre più disponibili in letteratura, documentando benefici sulla salute dei pazienti. Tuttavia, tali benefici rischiano di non essere ugualmente distribuiti tra uomini e donne a causa della disparità di genere che contraddistingue molti aspetti della digital health: dallo sviluppo degli strumenti, alla rappresentatività del pubblico femminile nei campioni da cui “imparano” gli algoritmi di machine learning , fino alla presenza nelle posizioni apicali delle società di digital health e nelle università.

I bias che coinvolgono le donne

Un recente studio apparso su “Lancet Digital Health” fa il punto della situazione.
Tra i bias (pregiudizi) più importanti, è segnalato quello degli algoritmi che sono alla base dei sistemi esperti o di quelli di machine learning. I database sui quali questi sistemi “imparano” contengono spesso dei bias legati alla sotto-rappresentazione di casi in cui le donne sono coinvolte, con il risultato che l’algoritmo fallisce il suggerimento.

WHITEPAPER
Telemedicina: come attivare una valida rete ospedale-medici-territorio
Sanità

Algoritmi e disparità di genere

Un esempio è Babylon, un’app rilasciata nel 2017 e usata dal National Health Service nel Regno Unito per suggerire online ai pazienti diagnosi basate sui loro sintomi auto-riferiti, filtrare i casi e prenotare prestazioni o visite mediche. L’algoritmo di intelligenza artificiale alla base delle decisioni, evidentemente, è stato addestrato in maniera scorretta, come testimonia il caso di una fumatrice di 59 anni con sintomi di un attacco di cuore (cioè, in presenza di dolore toracico, mancanza di respiro e ansia) che ha ricevuto una diagnosi di attacco di panico, mentre a un utente maschio con la stessa storia e sintomatologia è stata diagnosticato, come probabile, un attacco di cuore.

app medicina diagnostica a distanza
L’app Babylon per ricevere diagnosi in base ai sintomi auto-riferiti dai pazienti (fonte: Babylon)

Intelligenza artificiale e minoranze etniche

A ciò, occorre aggiungere il fatto che le donne di colore potrebbero essere più colpite da tali bias rispetto alle donne bianche, perché sviluppano malattie cardiovascolari prima e hanno tassi più alti di mortalità per malattie cardiovascolari e una minore consapevolezza di tali malattie quali principale causa di morte.
Queste distorsioni non sono molto diverse dalle distorsioni dell’algoritmo in termini di razza, ampiamente riportate in letteratura. Ad esempio, è capitato che negli Stati Uniti un algoritmo alla base di un sistema decisionale che determinava se i pazienti avessero bisogno di cure maggiori sulla base dei costi, erroneamente assegnasse le stesse cure ai pazienti di colore e a quelli bianchi, nonostante i pazienti di colore siano complessivamente più bisognosi di cure supplementari.
Donne e persone appartenenti a minoranze etniche sono state a lungo sottorappresentate nel campo della ricerca medica e gli algoritmi di intelligenza artificiale che si addestrano su tali dati riflettono tali pregiudizi e possono fornire risultati e suggerimenti distorti.

 Digital health: app pensate (soprattutto) per gli uomini  

L’uso di sistemi di digital health è anch’esso contraddistinto da bias di genere. Nei paesi ad alto reddito, come gli Stati Uniti, le donne sono più propense a usare gli strumenti di digital health rispetto agli uomini. Tuttavia, la maggior parte degli strumenti disponibili non si rivolge a un pubblico femminile e gli uomini sono spesso considerati il target predefinito nel disegno dell’interfaccia e nella realizzazione delle funzioni. Ad esempio, le app possono monitorare l’attività fisica con maggiore affidabilità se i telefoni vengono posizionati vicino al corpo (ad esempio, nelle tasche dei pantaloni), ma poiché i telefoni sono spesso troppo grandi per entrare nelle tasche degli abiti femminili, le donne li custodiscono di frequente in borse borsette  o zaini, rendendo di fatto difficile (o impraticabile) il loro corretto funzionamento. In analogia, l’attività fisica svolta durante le faccende domestiche (che vedono coinvolte più spesso le donne che gli uomini) è tracciata dagli smartphone in maniera meno accurata.

Salute digitale e donne di colore

La discrepanza tra ceti sociali nell’accesso a servizi sanitari basati sulla digital health genera ulteriori bias amplificati dalla differenza di genere. Ad esempio, le donne di colore negli Stati Uniti usufruiscono meno dei servizi digitali offerti alle donne in gravidanza, nonostante il tasso di mortalità infantile tra queste donne sia il più alto registrato negli USA. Inoltre, sono sotto-rappresentate negli interventi digitali che favoriscono l’attività fisica, pur essendo le meno attive fisicamente tra le donne statunitensi. E, per finire, sempre negli USA, le donne di colore si servono di interventi digitali per diagnosticare, gestire e curare le malattie sessualmente trasmesse meno frequentemente rispetto alle altre donne americane, pur essendo colpite da un maggiore tasso di questo genere di malattie.

Lo stereotipo femminile nelle app per la salute

Il genere condiziona anche il disegno, il layout e il linguaggio di molte app per la salute. Uno studio, citato dagli stessi ricercatori della pubblicazione su “Lancet Digital Health”, rileva che mentre la maggior parte delle app per la salute rivolte agli uomini erano “neutrali” da questo punto di vista, le app per le donne erano contraddistinte da design che riflettevano lo stereotipo femminile, in cui disegni, uso del colore rosa, cuori e fiori erano sistematicamente presenti.
Diversi, in base al genere, sono anche gli approcci e gli argomenti per favorire l’uso degli strumenti della digital health. Per esempio, le app di fitness rivolte agli uomini spesso esaltano gli obiettivi legati a forza e a muscolatura, mentre le app rivolte alle donne si concentrano su magrezza e femminilità.

Health leadership: donne svantaggiate   

Quando si parla di digital health, i ricercatori evidenziano come esistano differenze anche nel campo imprenditoriale. Per esempio, negli USA, nel 2020, solo il 12,2% dei partner di fondi di venture capital nel campo della digital health erano donne, mentre quelle che ricoprivano la posizione di amministratore delegato era solo il 10%.
Non va meglio nel campo accademico e in quello della ricerca scientifica. Rispetto agli uomini, le donne hanno il 50% in meno della probabilità di comparire ultime (la posizione più ambita) tra gli autori di un articolo scientifico pubblicato su rivista peer-review e il 21% in meno di probabilità – rispetto a colleghi uomini con la stessa esperienza – che siano invitate da una rivista medica a commentare un articolo che tratti di argomenti digital health.

Come eliminare (o limitare) i bias di genere?

I ricercatori suggeriscono che il primo passo sia coinvolgere le donne, soprattutto quelle appartenenti a minoranze, nel processo di disegno, sviluppo e test delle app e degli strumenti di digital health. Il loro lavoro di co-creazione è fondamentale per arrivare a sviluppare strumenti che includano tutte le donne, facili da usare e che tengano conto anche delle condizioni nelle quali esse li usano. Suggeriscono, inoltre, di limitare (o addirittura evitare) l’impiego di database e dati che contengano evidenti bias di selezione (in particolare, quelli relativi al genere) per fini di addestramento di sistemi di machine learning e di intelligenza artificiale, preferendo a questo scopo dati più imparziali. Infine, si augurano una maggiore presenza femminile nel campo della imprenditorialità, della ricerca e dell’università, affinché gli strumenti di digital health vengano presentati, sviluppati e studiati da una prospettiva finora troppo poco considerata.


Il tema della parità di genere nella Salute Digitale e, più in generale, quello delle “Donne Protagoniste per la One Health Digitale“, saranno al centro di FORUM PA Sanità 2021, evento digitale organizzato da FPA e P4I-Partners4Innovation, società del Gruppo DIGITAL360, in programma il 27 e il 28 ottobre. L’evento si aprirà con l’incontro One Health, digital: da una logica “egocentrica” a quella “ecocentrica” sfruttando la leva dell’innovazione digitale nel corso del quale verranno analizzate le priorità e le possibili azioni per una salute globale e digitale. Gli appuntamenti di FORUM PA Sanità, tutti gratuiti, saranno trasmessi in streaming sulla piattaforma di diretta di FPA, per seguirli è necessario accreditarsi dal sito dell’evento.


@RIPRODUZIONE RISERVATA

Articolo 1 di 5