Riassunto:
Lo Utah, negli Stati Uniti, sta espandendo ulteriormente l'ambito di applicazione dell'intelligenza artificiale medica e consentendo ai sistemi di intelligenza artificiale di valutare direttamente i pazienti, decidere piani di trattamento ed emettere prescrizioni in condizioni specifiche. Con il lancio di nuovi programmi pilota, lo Utah sta diventando uno dei terreni di prova più aggressivi per la regolamentazione dell’IA medica negli Stati Uniti.
Questo nuovo progetto è stato lanciato dalla startup di intelligenza artificiale medica Nolla Health, rivolto principalmente ai pazienti con acne da lieve a moderata. Gli utenti devono prima scattare una foto del viso tramite l'app e inserire la storia medica e le informazioni personali. L’intelligenza artificiale analizza quindi le condizioni della pelle, valuta la gravità dell’acne e quindi seleziona un piano di trattamento adeguato da un elenco di farmaci approvati in base alle informazioni mediche fornite dal paziente.
Diversamente dalla telemedicina tradizionale, il fulcro di questo processo non è lasciare che l'IA completi prima lo screening e poi effettui la diagnosi finale da parte del medico. Consente invece all’IA di prendere la decisione finale se prescrivere farmaci e inviare la prescrizione direttamente alla farmacia designata dal paziente.
Tuttavia, il progetto non ha eliminato completamente il coinvolgimento dei medici fin dall'inizio. Nella fase iniziale del progetto pilota, ogni prescrizione generata dall’intelligenza artificiale dovrà essere rivista e firmata da un medico autorizzato dello Utah. Man mano che il progetto avanza, la partecipazione dei medici diminuirà gradualmente, consentendo infine all’IA di rilasciare prescrizioni qualificate senza previa revisione da parte dei medici.
In base all'accordo pilota annunciato dai funzionari dello Utah, Nolla Health può attualmente trattare solo l'acne da lieve a moderata per pazienti adulti e la gamma di prescrizioni è strettamente limitata a un numero limitato di farmaci topici, inclusi creme e gel designati. Il sistema non può essere utilizzato per trattare l’acne grave, né può prescrivere opzioni terapeutiche più rischiose come farmaci per via orale o isotretinoina.
I pazienti devono inoltre essere sottoposti a verifica dell'identità e dell'età e le prescrizioni possono essere inviate solo a indirizzi nello Utah. Per i pazienti con acne grave, che sono incinte o stanno pianificando una gravidanza, che allattano al seno, che hanno un sistema immunitario compromesso e che hanno avuto reazioni avverse ai farmaci correlati, il sistema di intelligenza artificiale deve interrompere il processo di prescrizione automatica e trasferirlo al personale medico umano.
Il motivo per cui lo Utah può condurre un simile esperimento è legato al sistema "sandbox normativo sull'intelligenza artificiale" istituito dallo stato negli ultimi anni. Il sistema consente alle aziende di testare prodotti di intelligenza artificiale sotto la supervisione del governo esentando temporaneamente alcuni requisiti normativi esistenti entro limiti chiaramente definiti.
Ciò significa che l'azienda non ottiene una "licenza medica IA" illimitata, ma dopo aver firmato un accordo con il governo statale e le agenzie di regolamentazione competenti, può condurre test su prodotti specifici, malattie specifiche e gruppi specifici per un tempo limitato. Le imprese dovranno comunque conformarsi ad altri requisiti legali che non sono esentati dall’accordo.
In effetti, all'inizio di quest'anno, lo Utah è diventato il primo stato degli Stati Uniti a consentire all'intelligenza artificiale di gestire autonomamente le ricariche di prescrizioni. A quel tempo, Doctronic lanciò un servizio medico di intelligenza artificiale in grado di prescrivere nuovamente alcuni farmaci per malattie croniche ai pazienti che avevano ricevuto cure a lungo termine senza il coinvolgimento diretto dei medici.
Questo programma copre circa 190 farmaci non controllati di uso comune, ma non include antidolorifici, farmaci iniettabili e alcuni farmaci usati per trattare l'ADHD. I pazienti devono prima superare la verifica dell'identità e la verifica delle informazioni mediche, quindi l'intelligenza artificiale deciderà se consentire la ricarica in base alle prescrizioni passate e alle condizioni attuali del paziente.
L'attuale nuova politica dello Utah fa sì che le sperimentazioni mediche sull'IA si stiano spostando sempre più dalla "ricarica automatica" alla "prima prescrizione". C'è una netta differenza tra i due: ricaricare significa che al paziente è stato precedentemente prescritto un piano di trattamento da un medico, mentre prescrivere per la prima volta significa che l'IA deve prendere nuove decisioni cliniche in base alle condizioni attuali del paziente.
Ecco perché il progetto Nolla Health ha ricevuto un'attenzione particolare.
I funzionari dello Utah richiedono che Nolla Health abbia due medici certificati che esaminino ogni prescrizione all'inizio del programma. Con l'avanzare del progetto, il metodo di audit può gradualmente passare a un'ispezione post-audit e casuale, ma ogni volta che si entra in una nuova fase, è necessario ottenere l'approvazione scritta da parte del governo statale.
Le aziende devono inoltre acquistare un'assicurazione di responsabilità professionale e segnalare gli eventi avversi alle autorità di regolamentazione dopo che si sono verificati. Allo stesso tempo, le farmacie devono essere chiaramente informate del fatto che le prescrizioni vengono generate dai sistemi di intelligenza artificiale ed essere in grado di contattare i medici competenti per gestire i problemi.
Le autorità di regolamentazione dello Utah richiedono inoltre alle aziende di non vendere o trasferire i dati dei pazienti per altri usi e di presentare regolarmente dati sulle operazioni del progetto, inclusi indicatori come il grado di coerenza tra l'intelligenza artificiale e il giudizio del medico.
Il governo dello Utah ritiene che questo modello possa esplorare se l'intelligenza artificiale può ridurre i costi medici in alcuni scenari medici comuni e a basso rischio e alleviare il problema delle risorse mediche insufficienti. Per alcuni pazienti con condizioni relativamente semplici, la possibilità di completare valutazioni e prescrivere farmaci tramite telefono cellulare potrebbe potenzialmente ridurre il tempo e i costi del viaggio in clinica.
Tuttavia, c'è stata un'evidente controversia su questo modello nella comunità medica.
I critici ritengono che, anche per malattie apparentemente semplici, i medici debbano considerare l'età del paziente, l'anamnesi medica, altri farmaci, allergie e alcuni segnali clinici che non sono facilmente rilevabili attraverso domande e risposte standardizzate quando si prescrivono farmaci. Se ti affidi interamente all’intelligenza artificiale per il giudizio, una volta che il sistema perde informazioni importanti, potrebbe causare un trattamento errato.
All'inizio di quest'anno, anche un test di sicurezza del sistema di ricarica dei farmaci basato sull'intelligenza artificiale dello Utah ha suscitato polemiche. I ricercatori nel campo della sicurezza hanno utilizzato attacchi verbali relativamente semplici per indurre i relativi sistemi di intelligenza artificiale a generare consigli medici errati, incluso l’aumento errato del dosaggio di alcuni farmaci e la fornitura di raccomandazioni su farmaci pericolosi. Tali test evidenziano ulteriormente le differenze tra l’intelligenza artificiale medica e i normali chatbot.
Uno dei maggiori rischi dell'intelligenza artificiale medica è che le risposte sbagliate dei normali chatbot possono semplicemente portare a informazioni fuorvianti. Tuttavia, una volta che l’intelligenza artificiale medica avrà l’autorità di prescrivere farmaci, gli errori potrebbero tradursi direttamente in conseguenze mediche nel mondo reale.
Pertanto, l'attuale progetto pilota nello Utah sta effettivamente esplorando una questione molto importante: in quali condizioni, l'intelligenza artificiale può trasformarsi da "strumento ausiliario per i medici" a "esecutore di decisioni mediche".
I sostenitori ritengono che l'intelligenza artificiale non debba necessariamente sostituire i medici, ma possa svolgere un gran numero di compiti standardizzati, ripetitivi e relativamente a basso rischio. Ad esempio, la semplice valutazione delle malattie della pelle, il rifornimento di farmaci per malattie croniche a lungo termine e altre situazioni conformi a chiare linee guida cliniche potrebbero diventare le prime aree in cui l’IA entrerà nel sistema medico.
Gli oppositori sostengono che, anche se alcuni casi appaiono semplici, non si può presumere che tutti i pazienti rientrino nel modello standard. Soprattutto quando l’intelligenza artificiale ha il potere di prescrivere, il costo degli errori di sistema sarà significativamente più elevato rispetto ai normali errori di domanda e risposta sulle informazioni.
Attualmente lo Utah non consente all'IA di "diventare un medico" senza restrizioni. Sia il trattamento dell'acne di Nolla Health che i precedenti progetti di rifornimento di farmaci IA sono strettamente limitati a farmaci specifici, pazienti specifici e processi specifici e le aziende devono accettare una supervisione continua.
Ma dal punto di vista dello sviluppo del settore, l'importanza dello Utah è ancora molto speciale. In passato, l’intelligenza artificiale medica veniva utilizzata principalmente per il riconoscimento delle immagini, la diagnosi ausiliaria, la raccolta di cartelle cliniche e il supporto alle decisioni dei medici, ma ora l’intelligenza artificiale sta gradualmente iniziando ad acquisire un’effettiva autorità nel processo decisionale clinico.
Se questi progetti pilota riusciranno a dimostrare che l'IA può completare in sicurezza alcuni compiti medici a basso rischio rispettando rigide restrizioni e una revisione continua, allora altri stati degli Stati Uniti potrebbero fare riferimento a modelli simili in futuro per ampliare ulteriormente la portata delle applicazioni dell'IA in campo medico.
Al contrario, se durante il processo pilota si verificano gravi errori medici, il sistema viene attaccato o i giudizi sull'IA si discostano in modo significativo da quelli dei medici professionisti, allora l'esperimento dello Utah potrebbe anche diventare un caso importante per le agenzie di regolamentazione per rafforzare l'autorità dell'IA medica.
Indipendentemente dal risultato finale, l'esperimento in corso nello Utah significa un chiaro cambiamento: la fase in cui l'intelligenza artificiale sta entrando nel settore medico si sta gradualmente spostando da "aiutare i medici a lavorare" a "prendere direttamente decisioni mediche in un ambito limitato". Se l’IA possa assumersi questa responsabilità non sarà più solo una questione tecnica in laboratorio, ma sarà sempre più testato attraverso pazienti reali e prescrizioni reali.
Commenti