Le AI ora decidono della salute delle persone | Si infiamma la polemica

La Sanità sembra essere un problema un po’ ovunque: qui in Italia ci si lamenta spesso delle inefficienze del Sistema Sanitario Nazionale e delle sue interminabili attese; negli stati Uniti invece il problema sembra essere proprio l’assenza di un sistema nazionale, che costringe i cittadini ad affidarsi ad agenzie assicurative private. Ecco che, con le nuove tecnologie, sorge un nuovo dubbio: può un’Intelligenza Artificiale compiere decisioni riguardo la salute di un paziente?

Una denuncia che ha fatto molto discutere

Il sistema sanitario statunitense si basa sulla possibilità di una persona di accedere ad un’assicurazione sanitaria, che copra le spese sanitarie, e spesso non tutte, nel momento in cui ci si trovi costretti ad andare in ospedale. Gli ospedali infatti sono, nella stragrande maggioranza dei casi, gestiti da enti privati, che in convenzione con le stesse agenzie assicurative decidono costi e prezzi delle prestazioni sanitarie. Questo ovviamente presenta numerosi problemi per coloro che dipendono dall’assicurazione sanitaria del proprio posto di lavoro, o che non avendo disponibilità economiche non possono, letteralmente, permettersi di farsi curare.

Per affrontare la situazione, è dal 1965 che con il Social Security Act sono stati creati due programmi federali di assistenza alle famiglie con basso reddito, Medicaid, e agli over 65, Medicare, insieme ad una nuova agenzia federale che li gestisse, il Center for Medicare & Medicaid Services, o CMS in breve. Con il passare del tempo, è stato dato il via anche ad un nuovo programma, Medicare Advantage, che permetteva ad assicurazioni private autorizzate dallo stato di fornire servizi agli assistiti federali. I programmi, ad oggi, forniscono assistenza sanitaria gratuita a più di 133 milioni di statunitensi in difficoltà.

Ecco però, lo scorso Novembre, arrivare una denuncia ai danni dell’agenzia assicurativa Humana, nome quasi ironico per la situazione, da parte di alcuni pazienti coperti proprio da piano di assistenza medica Medicare Advantage: l’agenzia avrebbe utilizzato un modello IA, chiamato nH Predict, per determinare se i pazienti avessero davvero bisogno di cure, ignorando le indicazioni dei medici, a danno soprattutto dei più anziani. Una denuncia simile arrivò poco dopo anche ad un’altra agenzia assicurativa, UnitedHealth, per le stesse ragioni.

Ecco allora che il CMS è intervenuto, fortunatamente per mettere un freno all’uso di tecnologie che potevano dimostrarsi deleterie: il CMS infatti ha vietato categoricamente l’utilizzo di IA o sistemi basati su algoritmi per determinare la copertura assicurativa di un paziente. A questo scopo, il CMS ha definito IA “Un sistema machine-based che può, per un set di obiettivi definiti da umani, fare previsioni, dare raccomandazioni o decisioni che influenzano ambienti reali o virtuali”, intimando anche alle agenzie assicurative di compiere decisioni solo basandosi sulle condizioni dello specifico paziente, piuttosto che su aggregati di dati.

In realtà una prima avvisaglia era già arrivata proprio a Novembre 2023, quando arrivò al CMS una lettera aperta da parte della Camera dei Rappresentanti, che chiedeva un maggiore controllo dell’uso di IA ed algoritmi nelle decisioni di copertura assicurativa: “I piani Medicare Advantage dovrebbero fornire le cure mediche necessarie ai loro iscritti. Mentre il CMS ha compiuto grandi passi nell’assicurare che questo accada, è necessario più lavoro nel frenare l’uso inappropriato di software algoritmici e di IA da parte dei piani M.A.”, dichiarava infatti un passaggio della suddetta lettera aperta.

Nella dichiarazione con cui il CMS intimava di cessare l’utilizzo di IA, l’agenzia riportava anche diverse ragioni di natura anti-discriminatoria: “Siamo preoccupati che gli algoritmi e le nuove Intelligenze Artificiali possano esacerbare discriminazioni e pregiudizi. Ricordiamo alle organizzazioni parte di Medicare Advantage i requisiti anti-discriminatori dell’Affordable Care Act, che proibisce la ddiscriminazione sulla base di razza, colore, origine nazionale, sesso, età o disabilità. Le organizzazioni parte di Medicare Advantage dovrebbero, prima di implementare algoritmi o strumenti software, assicurarsi che questi non portino avanti pregiudizi esistenti, o ne introducano di nuovi.”