Immaginiamo il Dott. Rossi, un cardiologo con vent’anni di esperienza, durante un turno di notte. Il monitor al letto del paziente emette un segnale acustico: un Patient Monitoring System di una famosa azienda europea sta tracciando un’aritmia. Poco dopo, in un’emergenza, Rossi impugna un defibrillatore semiautomatico di un’altra azienda americana.
In entrambi i casi, il Dott. Rossi non ha dubbi. Sa che l’apparecchiatura sta seguendo un protocollo “IF-THEN” (Se-Allora) scolpito nel silicio: Se supera una certa soglia, Allora attiva l’allarme. In pratica, ad uno stesso input questo “sistema esperto” riconosce e restituisce lo stesso output, in maniera prevedibile e… trasparente.
Questa era l’era del determinismo: sistemi dove ogni output è la conseguenza logica di una regola predefinita. Per medici come Rossi, queste macchine non sono “scatole nere”, ma colleghi silenziosi e prevedibili.
La trasparenza non è un optional, è la base del patto di fiducia tra l’uomo e lo strumento. Il medico sa cosa aspettarsi e, soprattutto, sa perché la macchina ha preso quella decisione.
Indice degli argomenti
Lo shock dell’evoluzione lampo e la resistenza al cambiamento
Tuttavia, negli ultimi 24 mesi, il panorama tecnologico intorno al nostro medico è cambiato con una velocità che non ha eguali nella storia della medicina. La stessa azienda che fornisce i monitor ora propone sistemi di Deep Learning per la predizione dello scompenso cardiaco con 48 ore di anticipo.
Ma qui, il meccanismo si rompe.
Il sistema dice “rischio alto”, ma potrebbe non spiegare quali variabili – tra le migliaia analizzate – abbiano portato a quel responso.
Questo salto evolutivo “lampo” puó creare una crisi di identità professionale.
Il passaggio dai sistemi esperti basati su regole a modelli di rete neurale opachi può generare anche una resistenza psicologica e organizzativa enorme.
In aggiunta, per un manager sanitario, questa non è solo una questione di “aggiornamento tecnico”, ma un rischio economico. Un investimento in AI che non viene utilizzato dai clinici per diffidenza è un capitale morto.
La riduzione della resistenza all’adozione passa inevitabilmente per il ripristino di quel comfort decisionale che Rossi provava con il suo vecchio defibrillatore: la macchina deve tornare a parlare il linguaggio della medicina, non quello della statistica oscura.
xAI: la spiegabilità come requisito universale della tecnologia medica
È un errore considerare la spiegabilità (xAI) un problema esclusivo dell’intelligenza artificiale. In realtà, la trasparenza dovrebbe essere un requisito di tutta la tecnologia medica, sebbene in misure diverse.
Se pensiamo ai primi sistemi di sequenziamento genomico o alle piattaforme di chirurgia robotica, il tema è sempre stato lo stesso: il medico ha bisogno di tracciare il nesso causale tra l’input (il dato del paziente o il movimento del joystick) e l’output (il risultato clinico). Il medico che ha avuto l’opportunità (e la volontà) di approfondire questo step formativo ha sempre ottenuto risultati migliori. I risultati “poliedrici” che vedremo più avanti.
Ma, mentre nei vecchi dispositivi, la spiegabilità era contenuta principalmente dal design meccanico o elettronico, oggi va progettata intenzionalmente nel software.
Non possiamo accettare una regressione della trasparenza solo perché la tecnologia è più potente.
Un sistema di supporto alle decisioni cliniche deve essere in grado di mostrare i “pesi” che ha assegnato a sintomi, esami di laboratorio e anamnesi, esattamente come un tempo un medico senior spiegava il suo ragionamento clinico allo specializzando.
xAI: il potenziamento della fiducia, dal clinico al paziente
Un medico potenziato da un’AI spiegabile (xAI) non è solo un professionista più efficiente, ma un comunicatore più efficace.
Quando il Dott. Rossi può riconoscere che: “Il sistema ha rilevato un rischio incrementale del 15% perché ha incrociato la leggera variazione del potassio con il trend della frequenza respiratoria”, la sua comunicazione al paziente sarà più oggettiva e lineare.
La confidenza del medico nella tecnologia agisce come un catalizzatore per la confidenza del paziente nel percorso di cura.
Al contrario, un medico che riceve un suggerimento della macchina che non sa giustificare può comparire insicuro e minare l’alleanza terapeutica.
Sollievo operativo e riduzione del burnout? Solo con sistemi di Explainable AI (xAI)
Dal punto di vista del benessere degli operatori, l’AI “Black Box” è un paradosso: promette di aiutare, ma aumenta il carico cognitivo.
Il medico si sente costretto a fare il “poliziotto” della macchina, cercando di indovinare se l’output sia un’allucinazione o un’intuizione geniale. Questo stato di allerta costante e le indecisioni conseguenti (“Avrà ragione la macchina? Avrò ragione io?”) favoriscono invece che contrastare il burnout.
Gli efficaci sistemi di Explainable AI (xAI), invece, offrono un reale sollievo. Fornendo chiare evidenze alla base della scelta, permettono al clinico di validare l’output in pochi secondi.
La tecnologia smette di essere un “giudice oscuro” da monitorare e diventa un assistente collaborativo che riduce il peso della responsabilità che, comunque, rimane a carico dell’umano
È la differenza tra una “scatola nera” (Black Box) o quella che potremo definire una “scatola di vetro” (Glass Box).
Il quadro medico-legale: la “conoscibilità” come scudo
In Italia, la sfida della trasparenza ha un risvolto legale ineludibile. La giurisprudenza recente (Consiglio di Stato, sentenza 8472/2019) ha ribadito che l’algoritmo deve essere trasparente. Non è ammessa una delega cieca alla macchina.
Il medico, responsabile ultimo, ha diritto di usufruire di supporti decisionali spiegabili.
La necessità di trasparenza, inoltre, è supportata da studi autorevoli. Tra questi:
- Predicting one-year mortality following orthopedic hospitalization – International Journal of Medical Informatics (Elsevier, gennaio 2025);
- Responsible adoption of multimodal artificial intelligence in health care: promises and challenges – The Lancet Digital Health, dicembre 2025).
La multidisciplinarietà come asset strategico
La sfida della spiegabilità è un tema multidisciplinare che richiede una nuova competenza da parte del management sanitario.
Saper riconoscere un supporto AI di qualità è oggi la condizione necessaria per una corretta implementazione organizzativa.
L’impatto della spiegabilità deve essere valutato attraverso quattro lenti integrate:
- Vista economica: garantire la sostenibilità dell’investimento nel lungo periodo, abbattendo i costi di mancata adozione e facilitando l’integrazione nei percorsi di rimborso assicurativo e pubblico;
- Efficienza dei processi: snellire il workflow, eliminando le ridondanze diagnostiche e permettendo una fluidità operativa tra i vari dipartimenti;
- Risultato clinico: potenziare il giudizio umano e, di riflesso, la sicurezza del paziente, portando a scelte terapeutiche più precise e personalizzate;
- Benessere dell’operatore: restituire al medico il controllo cognitivo significa proteggerlo dallo stress decisionale e valorizzare la sua professionalità, mettendo la macchina al suo servizio e non viceversa.
Dalla Black Box alla Glass Box: grazie alla xAI, l’AI in Sanità non sarà più un salto nel buio
In conclusione, per le strutture sanitarie italiane, la transizione dal determinismo all’AI non deve essere un salto nel buio. Specializzarsi nell’acquisizione e nella gestione di sistemi trasparenti mediante xAI è l’unico modo per garantire che l’innovazione tecnologica basata sull’AI si traduca in un reale progresso organizzativo e non in un pericoloso enigma legale e professionale.
Solo così potremo passare dalla “Black Box” ad una “Glass Box” che illumini, invece di oscurare, il futuro della nostra sanità.
