Obiettivi

Questo blog è nato per divulgare contenuti inerenti IA e Medicina ai professionisti sanitari. Non ho modo di sapere quale sia l’efficacia della mia divulgazione, ma sicuramente ci sto provando.

C’è un secondo motivo per cui è nato questo blog, cioè obbligarmi (per un perverso senso del dovere nel confronto dei lettori) ad aggiornarmi almeno mensilmente su un argomento che sicuramente mi piace, ma che se non avessi un pungolo continuo non seguirei con la stessa costanza. Questo obiettivo è stato sicuramente raggiunto.

Ci sono obiettivi per il futuro? Viene frequentemente citata una statistica (dicono generata da Forbes, ma non sono stato in grado di trovare la fonte) secondo cui l’80% dei blog chiude nel giro di 18 mesi. Sarei quindi molto contento se arrivassi a festeggiare il secondo compleanno di Choosing Mycin. Avrei anche un altro obiettivo che mi piacerebbe realizzare (e che scaramanticamente non dico), ma c’è un problema.

Tempo

Non dico niente di nuovo a chi ha mai provato a scrivere qualcosa, ma pubblicare un post significa investire ore di lavoro. In particolare la rassegna mensile degli articoli, tra ricerca, selezione, download dei full-text, lettura, elaborazione e realizzazione concreta del post, a me prende non meno di 6 ore. Gli altri post li scrivo più velocemente perchè la parte di ricerca è più rapida, ma sempre di 3-4 ore si parla.

Ho imparato quindi direttamente quanto avevo letto nelle varie guide di blogging consultate prima di dare vita a Choosing Mycin. Bisogna puntare a pubblicazioni frequenti per riuscire pian piano a far sì che il proprio lavoro emerga dal rumore di fondo, ma ancora più importante è la costanza e fare in modo di essere regolari nella frequenza di pubblicazione. Per un piccolo periodo di tempo (più o meno 45 giorni) ho pensato di poter scrivere 3 o 4 post al mese, poi mi sono piantato e ho ottenuto il risultato opposto. Dopo qualche tentativo ho capito che l’unica strada realisticamente percorribile era quella di pubblicare ogni 15 giorni circa, e posso garantirvi che è già impegnativa questa.

Ma in un blog dedicato all’IA, non potrei usare l’IA per aiutarmi a generare contenuti?

Condividi

Il mio uso dell’IA

Potrei, e ci ho provato. Esiste un post fra le varie rassegne mensili la cui bozza è stata effettivamente scritta dall’IA (non vi dico qual è, ma è piuttosto facile individuarlo). Ho speso tempo a creare con l’aiuto di Claude un sistema relativamente complesso che permetteva, una volta forniti gli articoli di cui volevo parlare e i concetti che volevo esprimere, di generare automaticamente un post basato sul mio modo di scrivere. Il risultato è stato mediocre e ho dovuto modificare pesantemente la bozza per farmela andare bene. Sicuramente avessi fatto altri tentativi avrei potuto migliorare il sistema e anche l’output, ma ho preferito lasciar perdere perchè avevo visto che questo sistema riduceva l’attenzione con cui leggevo gli articoli, andando a compromettere uno dei due obiettivi di questo blog, cioè forzare il mio aggiornamento.

Ho però velocizzato il sistema di retrieval dei risultati di Pubmed, che ora mi vengono confezionati da uno script in Python (uno dei miei primi esperimenti di vibecoding) in un comodo foglio Excel che mi permette di scorrerli velocemente e selezionare di quali articoli voglio scaricare il full-text.

Ho poi spesso usato Claude come consulente di social media marketing, e questo mi ha portato per esempio a modificare il modo in cui scrivo i titoli delle rassegne (ora decisamente più chiaro), o ad essere costante non solo nella frequenza, ma anche nel giorno e nell’ora delle pubblicazioni (il mercoledì alle 11.00). Ho anche chiesto a Claude di fare un’analisi delle statistiche di lettura, visualizzazioni, pubblicazioni di Choosing Mycin, e ha tirato fuori osservazioni interessanti.

Numeri

Tra Agosto 2025 e Luglio 2026 ho pubblicato 27 post, e la lunghezza media che era inizialmente di 990 parole, ora è quasi raddoppiata. Il volume delle pubblicazioni su Pubmed originato dalla mia ricerca è anche quasi raddoppiato, ma va detto che la mia query si è modificata nel corso dell’anno dopo essermi accorto che rischiava di lasciar fuori articoli potenzialmente interessanti.

Anche le riviste incluse nel mio strettissimo filtro (se non sapete di cosa sto parlando trovate i dettagli qui) si sono ampliate nel corso dell’anno e non è escluso che farò ancora qualche modifica in futuro. Ho segnalato in tutto 84 articoli provenienti da 18 testate, ma la distribuzione è fortemente sbilanciata ed è evidente la mia preferenza per ciò che pubblica il gruppo Nature e il gruppo JAMA:

La cosa più interessante secondo l’analisi di Claude è che le tematiche di cui parlo si sono modificate. Nel primo semestre la rassegna conteneva articoli che raccontavano che cosa la macchina riesce a fare, nel secondo semestre gli articoli che seleziono raccontano per lo più che cosa la macchina fa a noi. Si stanno progressivamente riducendo i contenuti un po’ didascalici dei primi post, lasciando spazio a riflessioni più ampie sull’evoluzione del medico e della società con il progredire dell’IA. E sinceramente questo tipo di evoluzione mi piace.

Dal punto di vista di quantità di visualizzazioni, i post che hanno avuto più successo sono stati i tutorial (in particolare il primo episodio dedicato a Notebook LM ha generato molto traffico, perfino un paio di commenti, per quanto non proprio positivi, da parte di un noto personaggio medico pubblico). Gli episodi che invece hanno destato meno interesse sono quelli più “filosofici”, ma secondo Claude il motivo potrebbe essere semplicemente un’infelice scelta di titolo (ad esempio Once upon a time in San Francisco, che è tra i miei post preferiti).

Il futuro

Che cosa aspettarsi quindi da Choosing Mycin nel suo secondo anno di vita? La prosecuzione delle rassegne di articoli nella prima metà del mese, e post di svariata natura nella seconda metà. Ho idee per altri tutorial e altre serie di post e spero di riuscire a metterne in piedi almeno qualcuna, tempo permettendo. E poi c’è il progetto segreto che bolle in pentola, chissà che non ne riparleremo a breve.

Nel frattempo grazie a tutti coloro che leggono sporadicamente o assiduamente (pare essercene qualcuno) questo blog. Vi ricordo che potete scrivere a choosingmycin@gmail.com per inviare critiche, suggerimenti, consigli, opinioni, insomma qualsiasi feedback riteniate di condividere con me.

A presto,

Corrado

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Su Nature Medicine1 è stato pubblicato un documento (nella sezione “Comment”) firmato dai principali ricercatori statunitensi in IA e Medicina e da rappresentanti dell’industria. E’ breve, vi invito a leggerlo integralmente, perchè è denso di concetti forti. Fra i punti principali:

• molti dei compiti clinici potranno presto essere affidati all’IA;

• è dimostrato che gli uomini non riescono a supervisionare efficacemente un sistema autonomo per lungo tempo, quindi è inutile continuare a raccontarci la favola dello human-in-the-loop in cui il medico controllerà ogni output dell’IA (se volete approfondire leggete questo articolo2). Si passerà ad un altro paradigma in cui l’IA si rivolgerà al medico solo quando ne avrà bisogno;

• tanto più i sistemi di IA diventeranno capaci, tanto più i medici si affideranno a loro nella pratica clinica, fino a che artefatti inizialmente inseriti come assistenti alla diagnosi diventeranno di fatto agenti autonomi;

• in futuro l’IA potrebbe arrivare a suggerire scelte per noi incomprensibili, ma che si riveleranno essere benefiche per il paziente (per i nerd all’ascolto il paragone che citano gli autori è la mossa 37 di AlphaGo). A quel punto non potranno più essere esperti umani a giudicare la bontà dei sistemi di IA.

Comunque vediate l’argomento, questa è l’opinione di persone autorevoli. Può darsi che sbaglino i tempi, o la magnitudo del cambiamento, ma è difficile pensare che la direzione sarà completamente diversa. Nei prossimi paragrafi trovate qualche esempio per ricordarvi con che cosa abbiamo a che fare.

Superpoteri radiologici

Partiamo da qualcosa di semplice. Abbiamo già visto esempi di come l’IA possa essere addestrata a leggere immagini radiologiche basali individuando alterazioni di cui un radiologo può accorgersi solo utilizzando il mezzo di contrasto (qui avevo parlato di uno studio sulla TC e la dissecazione aortica). Su JACC hanno pubblicato un lavoro analogo sulla risonanza magnetica cardiaca e l’individuazione degli esiti di infarto miocardico3. Il modello che usano era già stato pubblicato su Circulation nel 2022 e questa volta viene validato in uno studio prospettico, multicentrico, in cieco. A patto che le immagini basali siano di buona qualità, l’algoritmo ha la capacità di quantificare correttamente l’area infartuata con una concordanza del 90% rispetto agli studi realizzati utilizzando il gadolinio. Gli esami sono stati rivisti da 4 diversi radiologi e sono stati considerati conclusivi (quindi senza bisogno di mezzo di contrasto) in due terzi dei casi. Queste sono le applicazioni dell’IA di cui si parla poco, perchè non sono sconvolgenti, ma intanto: potenziale riduzione dei tempi di acquisizione (10 minuti in meno ad esame), una puntura in meno per il paziente, riduzione dei potenziali effetti collaterali da mezzo di contrasto e ampliamento della metodica diagnostica anche in quei pazienti in cui il contrasto sarebbe controindicato. Vi sembra poco?

Se vi sembra poco, vi segnalo quest’altro lavoro4, in cui hanno creato un algoritmo in grado di predire la presenza della mutazione di EGFR a partire dalle immagini TC di tumori polmonari a piccole cellule. L’efficacia dell’immunoterapia in termini di sopravvivenza nei pazienti con questa mutazione è uno dei più importanti traguardi dell’oncologia degli ultimi anni. La strada solita attraverso cui si individua la mutazione è un sequenziamento genomico sulla biopsia, un processo lungo (in genere almeno 3 settimane) che prevede abbondanza di materiale patologico. Già lo scorso anno su Nature Medicine era stato presentato un algoritmo che prediceva la mutazione soltanto dalle immagini in ematossilina-eosina. Ma se la biopsia non si riesce a fare? o se il materiale è insufficiente? Questi autori cinesi hanno creato e validato (per ora solo retrospettivamente) un modello in grado di predire la mutazione di EGFR solo dalle immagini TC e da qualche dato anamnestico. Sarà necessario testarlo prospetticamente e capire quali siano le reali performance discriminative, ma anche utilizzando cutoff conservativi si può ipotizzare che potrebbe permettere l’accesso a terapie di alto valore curativo a pazienti che altrimenti ne sarebbero esclusi.

Divinare con l’IA

Rimaniamo in ambito oncologico, perchè ci sono altri due studi importanti da segnalare. Il primo5, pubblicato su Nature Medicine, presenta un modello in grado di predire la risposta di un paziente all’immunoterapia. Nella realtà clinica non tutti i pazienti rispondono allo stesso modo a questi farmaci e al momento non abbiamo test o score che in maniera accurata riescano a discriminare i responder dai non-responder. Il modello proposto invece pare riuscirci ed è applicabile a diversi tipi di tumori. Addirittura può essere adattato per valutare la potenziale risposta a un farmaco specifico e genera una mappa per ogni paziente che evidenzia su quale base genetica ha tirato le proprie conclusioni. E’ sicuramente un lavoro strabiliante, purtroppo al momento totalmente sperimentale e non applicabile routinariamente, perchè i dati necessari al modello per funzionare derivano dall’analisi del trascrittoma (peraltro realizzata con criteri particolari), un esame praticamente mai disponibile nella pratica clinica.

Ben diverso è quanto presentato su un altro articolo, pubblicato su Cell.6 Conosciamo il problema della diagnosi precoce in oncologia e della peculiarità di alcuni tumori di dare segno di sè solo in stadi avanzati. L’ipotesi degli autori è che nelle varie visite (ed esami) che una persona fa nella propria vita esistano dei segnali latenti che riflettano l’intero percorso evolutivo del tumore, da uno stato pre-canceroso, ai vari stadi di malattia. Hanno creato allora un modello che prende in considerazione per ogni paziente tutti i dati inseriti nel corso del tempo nella sua cartella clinica (esami ematochimici, segni vitali, etc) e le immagini della sua radiografia del torace. Il modello è stato creato a partire da 2.8 milioni di pazienti cinesi, e validato su altri 860 mila cinesi e 500 mila inglesi (stiamo parlando di poco meno di 20 milioni di visite in tutto). In modo non supervisionato, il modello è stato capace di individuare, a partire da quelle variabili, cluster che distinguono la presenza dei 10 tumori più frequenti, nonchè lo stadio istopatologico e la risposta ai farmaci.

Tanto per essere chiari: qui non si sta parlando di variabili genomiche esoteriche. Qui basta l’andamento temporale di normali esami del sangue e una radiografia del torace per avere la predizione del rischio di un tumore, del suo stadio di avanzamento, e della probabilità di risposta ai farmaci. Per fortuna, e sottolineo per fortuna, la validazione di questo modello (chiamato Oncoformer perchè basato sull’architettura dei transformer anche usati negli LLM) è al momento solo retrospettiva, per cui siamo ancora lontani da una possibile applicazione. Ma pensate la quantità di problemi, dalla comunicazione al paziente, alla cascata di esami di conferma, alle implicazioni sociali, lavorative, assicurative, familiari, che l’uso a pioggia di un algoritmo di questo tipo su tutte le cartelle cliniche di un paese potrebbe generare. Anche su questi aspetti dovremmo lavorare in anticipo, perchè se aspetteremo a muoverci quando questi sistemi saranno disponibili commercialmente, le conseguenze non potranno che essere spiacevoli.

Intanto se volete iniziare a ragionare su predizioni un po’ meno problematiche, prendete questo modello per la stima del rischio di fibrillazione atriale, sempre a partire da semplici dati presenti nella cartella clinica elettronica.7 Pubblicato su Circulation, questo modello è stato validato retrospettivamente su circa 13 milioni di individui provenienti da vari paesi, ma soprattutto è stato testato prospetticamente su quasi 2000 pazienti. Lo studio prospettico prevedeva l’arruolamento di individui inglesi sopra i 30 anni senza anamnesi di fibrillazione atriale o flutter, potenzialmente candidabili a terapia anticoagulante secondo il CHA2DS2-VASc. A chi accettava di partecipare allo studio veniva dato un dispositivo per registrarsi autonomamente l’ECG ad una derivazione e veniva chiesto di utilizzarlo 4 volte al giorno (mattino, mezzogiorno, pomeriggio e sera) o ogni qualvolta avesse sentito palpitazioni, per 3 settimane. Hanno quindi confrontato la probabilità di rischio (alta o bassa) stimata dall’algoritmo a partire dai dati presenti nella cartella clinica con il numero di diagnosi di fibrillazione atriale effettivamente rilevate all’ECG. Questo è il risultato:

Non si sta parlando di dare terapia anticoagulante sulla base di un algoritmo, ma di potenziare lo screening per fibrillazione atriale in quelli ad alto rischio. Provate a pensare che impatto potrebbe avere qualcosa del genere nell’incidenza di stroke.

Condividi

Siamo tutti impreparati

Il rapido miglioramento delle capacità predittive dei modelli di IA è solo uno dei capitoli che dovrebbero davvero spingere ad agire non solo la classe medica, e le società scientifiche, ma anche gli enti regolatori. Il problema è che si tratta di costruire quasi tutto da zero, non c’è molto di quanto già in funzione che possa essere facilmente adattato ad una tecnologia di questo tipo. Ed è un attimo che da un sistema di regolamentazione non ancora adeguato ne conseguano problemi in termini di attribuzione della responsabilità medica o, per paura, ritardi nell’applicazione di sistemi che potrebbero davvero essere utili. In questo Comment su Nature8 si propone una classificazione dei dispositivi di IA in ambito medico sulla base del loro livello di autonomia, automazione e tipo di obiettivo. Per gli autori questa potrebbe essere la base a cui gli enti regolatori (ma anche i legislatori, i governi, il sistema giudiziario) potrebbero ispirarsi per pianificare gli strumenti che saranno necessari nel prossimo futuro.

I più impreparati tuttavia siamo noi medici. Già qui vi avevo citato un editoriale pubblicato da JAMA, molto bello nel dipingere la figura del Medico che, sgravato grazie all’IA del fardello della burocrazia, si può finalmente riappropriare del proprio ruolo. E di nuovo JAMA, a Luglio, ha pubblicato un’altra Opinion9 che propone un concetto simile. Si conclude così:

"Come tante altre innovazioni che prima di questa promettevano di farci risparmiare tempo, l'email, la cartella clinica elettronica, anche questa potrà davvero mantenere la promessa solo a una condizione: che il tempo guadagnato non finisca per trasformarsi in altro lavoro davanti a uno schermo, ma torni a essere tempo per le interazioni faccia a faccia che i pazienti cercano, e che sono ciò che ci dà soddisfazione e ci definisce come guaritori. La mano sul polso, la sedia avvicinata al letto, il farsi testimoni della sofferenza: gesti che possono sembrare marginali, finché non ci si trova dall'altra parte, a riceverli. L'iDoctor può conoscere tutto dell'ombra tremolante che il paziente proietta sulla parete della caverna, ma non può essere presente, in carne e ossa, al capezzale dell'essere umano. Quello resta compito nostro."

Sono parole indubbiamente molto belle. Tuttavia, sarà che invecchiando divento cinico, ma in questi pensieri mi pare di iniziare a scorgere un po' di paura, quella di chi teme che la propria identità professionale, il prestigio, la deferenza che derivano dall'essere stati per secoli identificati (immeritatamente) come gli unici detentori della capacità di guarire, potrebbero fra poco iniziare a sbiadire.

Ma forse sono vaneggiamenti da deprivazione di sonno. Vale la pena che ci rimugini ancora un po’ sopra.

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Ma deve essere innata nell’uomo la tendenza per cui meno conosciamo un argomento, più lo banalizziamo, più siamo rilassati nel farci (e condividere) un’opinione. E se per alcuni ambiti non facciamo niente di male (es. siamo tutti allenatori durante le partite dei mondiali), in altri casi sarebbe proprio meglio fare un passo indietro e valutare se il nostro livello di conoscenza sia adeguato per entrare in un dibattito.

Intelligenze

Gli LLM stanno decisamente mettendo a dura prova la nostra capacità di valutazione facendo incappare in scivoloni, anche abbastanza grossi, personaggi di rilievo (pensate per esempio alla tanto criticata intervista a Claude di Walter Veltroni pubblicata dal Corriere della Sera). Esiste un dibattito piuttosto acceso riguardante la possibilità che gli LLM che usiamo quotidianamente siano dei sistemi intelligenti in grado di ragionare ed esibire capacità emergenti, cioè che compaiono autonomamente senza uno specifico training. Avete mai provato a interrogare un LLM su un caso clinico complesso, o a discutere di critica letteraria, o a raccontargli il vostro stato d’animo ? Avete mai ascoltato un finto podcast generato da AI (ne avevo parlato qui), avendo l’impressione di un dialogo tra persone reali fatto non solo di domande e risposte, ma anche di dubbi, esitazioni e umorismo? Non avete mai avuto la sensazione che ci voglia una forma di “intelligenza” simile alla nostra per generare ciascuna di queste cose? Io ce l’ho in continuazione. E viene naturale discuterne con parenti, amici, colleghi, dal vivo e online, confrontando opinioni che derivano dalla nostra esperienza d’uso e da quello che sentiamo in giro.

Peccato che non stiamo parlando di cottura di bistecche o di macchie d’olio e, essendo gli LLM così pervasivi, l’idea che ci formiamo può avere conseguenze profonde sia in ambito personale sia in ambito lavorativo. Per esempio può portare a fidarci pesantemente di questi nuovi artefatti come fossero colleghi (o amici) in carne ed ossa. Oppure, all’opposto, può tenerci lontani perchè questi artefatti ci spaventano, perchè non sappiamo come dovremmo governarli e abbiamo paura degli effetti che interagendo potrebbero avere su noi stessi. Come si risolve il problema? Semplice, basta chiedere agli esperti.

Alcuni esperti

Peccato che, a seconda di chi decidete di ascoltare, incappate in visioni davvero molto distanti. A Maggio ha fatto scalpore quanto scritto da Richard Dawkins, un biologo evoluzionista, ateo dichiarato, esempio di razionalismo e scetticismo, che ha sostenuto di aver investito 3 giorni a discutere con Claude con l’obiettivo di convincersi che Claude non sia cosciente. Però non ci è riuscito e, anche se non ha concluso che Claude è cosciente, ritiene che le sue capacità siano difficili da spiegare altrimenti. Geoffrey Hinton, premio Nobel, considerato il padre dell’AI, ha dichiarato recentemente in un podcast: “Dobbiamo pensare che [questi artefatti] siano molto simili a noi, sono esseri come noi. Credo che siano già coscienti, sì. Dovremo accettare che l'intelligenza non è solo biologica”:

Vabbè Geoffrey Hinton tutto sommato è lo stesso che nel 2016 andava a dire che entro 5 anni non ci sarebbe più stato bisogno di radiologi, forse non è l’esperto migliore da prendere in considerazione. Rivolgiamoci allora a Nello Cristianini, professore di Intelligenza Artificiale all’Università di Bath. Cristianini non parla di coscienza, ma sostiene che gli LLM abbiano importanti abilità cognitive grazie al fatto di essersi formate, in modo emergente, una rappresentazione e una conoscenza interna del mondo che permette loro di ragionare, riconoscere situazioni astratte e formulare “pensieri”.3 Certo è che, per avere internamente una sorta di conoscenza del mondo formata unicamente attraverso il linguaggio (perchè l’addestramento di questi sistemi avviene prevalentemente con il testo scritto), questo vuol dire che hanno la capacità di capire semanticamente parole, frasi e concetti e formularne di nuovi sulla base del significato che vogliono trasmettere. Vabbè, che scoperta, è evidente che capiscono il significato delle parole, altrimenti non potrebbero rispondere in maniera adeguata a quanto gli chiediamo.

Altri esperti

Eh no, non è così semplice, perchè quello della comprensione semantica è uno dei punti su cui il dibattito è più acceso. Prendete per esempio Walter Quattrociocchi, professore di Computer Science alla Sapienza di Roma. Insieme al suo gruppo ha pubblicato su PNAS a fine 2025 un articolo con un titolo molto forte, “The simulation of judgment in LLMs”. La tesi portata dagli autori è che gli LLM “potrebbero basarsi su associazioni lessicali e priori statistici piuttosto che su un ragionamento contestuale o su criteri normativi”. Hanno condensato il concetto in un neologismo, epistemia, che è rapidamente entrato nel lessico comune parlando di AI. La definizione che trovate sul vocabolario Treccani è:

“la confortevole illusione di conoscenza prodotta dall'interazione con l'IA generativa... dove la plausibilità simulativa del discorso fluente e la coerenza narrativa sostituiscono l'efficienza cognitiva e l'affidabilità dei dati”

Capite il problema? Anche noi quando dobbiamo ragionare per trovare la risposta ad un quesito complesso ci basiamo, inconsciamente, su probabilità e plausibilità, ma conosciamo il significato dei concetti che esprimiamo. Qui invece si dice che questi sistemi arrivino a generare risposte inseguendo puramente la plausibilità statistica, non semantica, e non ci sia in alcun modo comprensione del linguaggio.

E se volete vedere cosa c’è andando all’estremo di questa prospettiva, vi presento Emily Bender, professoressa di linguistica computazionale all’Università di Washington (eh sì, esiste anche la branca della linguistica computazionale). Potete avere un’idea più completa di quello che è il suo pensiero ascoltando questa intervista, ma il suo nome è ormai indelebilmente associato al concetto di stochastic parrot, espressione felicissima comparsa in un suo paper nel 2020. Bender e coautori avevano voluto trovare un’immagine che descrivesse in modo chiaro il meccanismo di funzionamento dei modelli linguistici. All’epoca la maggior parte del mondo (io in primis) non sapeva manco che esistessero, ma era stato appena pubblicato il paper sulle scaling laws4 ed era chiaro che la direzione in cui andava lo sviluppo dei modelli di linguaggio era nell’addestrare sistemi sempre più grandi, complessi e costosi. Bender, usando la metafora dei pappagalli stocastici, descriveva come la base del funzionamento degli allora BERT o GPT 2-3 era semplicemente la ripetizione di termini associati dal punto di vista statistico, e che, indipendentemente dalle dimensioni che questi modelli avrebbero raggiunto, il meccanismo alla base sarebbe sempre stato questo. Nessuna comprensione semantica, solo un puro gioco statistico per determinare la parola successiva più probabile (la cosiddetta next-token prediction). Il punto dell’articolo era: che senso ha investire tutti questi soldi e risorse naturali nello sviluppare enormi elaboratori statistici a cui solo un pazzo potrebbe pensare di affidare la gestione di qualcosa?

Condividi

La complessità

Chiarisco subito un punto. Non ho citato una serie di personaggi strampalati che vanno in giro sul web a fare gli opinionisti. Prendetevi pure la briga di verificare i curriculum, questa è gente (escludendo Bressanini e Veltroni) che studia e lavora su queste cose da anni, in qualche caso decine, ben prima che “ChatGPT diventasse il problema di tutti” (come dice Emily Bender). Le argomentazioni che sostengono le loro tesi sono sostanziate e, se volete addentrarvi, difficilmente comprensibili a chi non è realmente addetto ai lavori. Non ci credete? Provate a leggervi qualche articolo di mechanistic interpretability. E’ una branca di studio relativamente recente che cerca di capire se e come si formino dei “pensieri” all’interno degli LLM e, più in generale, come questi funzionino. L’esponente più famoso è Chris Olah (ex Google Brain, ex OpenAI, poi co-fondatore di Anthropic, ha parlato anche alla presentazione dell’ultima enciclica del Papa). Se andate sul sito di Anthropic, nell’area dedicata all’interpretability, trovate diversi articoli con titoli decisamente evocativi come “Sign of introspection in large language models”, “Tracing the thoughts of a large language model” o “Emotion concepts and their function in a large language model”. A noi in genere arriva una sintesi dell’abstract, spesso reinterpretata e colorata da qualche testata giornalistica, ma la documentazione matematica/informatica/ingegneristica prodotta a sostegno è incomprensibile per chiunque non sia di quel campo. Idem vale per le critiche che altri esperti muovono nel merito a queste tesi.

Con questo non voglio dire che noi, in quanto medici e non ingegneri, dobbiamo chiudere gli occhi e le orecchie e riaprirli quando gli esperti di AI si saranno messi d’accordo. Al contrario, dobbiamo essere consapevoli del dibattito in corso e seguirlo. Gli LLM fanno parte delle nostra vita professionale ed è anche nostro dovere capire qual è il posto giusto che devono occupare.

Oltre la Medicina

E questo vale per tanti aspetti che ruotano attorno all’ecosistema dell’AI. Non è richiesto che tutti se ne interessino, ma chi, da medico, vuole essere un punto di riferimento fra i colleghi per queste nuove tecnologie, deve almeno essere consapevole che esistono. Esempi a caso della montagna di cose che so che esistono (e chissà quante altre ignoro), ma che conoscerò sempre troppo poco:

• Il post-training: è diventato una fase fondamentale per generare il comportamento e le abilità di un LLM. E’ una parte che tendiamo a ignorare, perchè siamo stati abituati a sentire solo parlare della mole di dati su cui i modelli vengono addestrati (il cosiddetto pre-training), ma è da lì che originano molte delle capacità degli LLM, così come del modo che hanno di interagire, ad esempio dicendoci spesso quanto siamo bravi. Un esperto di LLM open-source che si chiama Nathan Lambert ha appena pubblicato un libro e qui una serie di videolezioni, di cui almeno le prime due sono affrontabili, solo sul post-training.

• Non è solo software. Le capacità dei modelli, la loro velocità, i costi, gli equilibri tra modelli proprietari e open-source, lo strapotere di alcune nazioni a dispetto di altre, tutto questo si basa anche su aspetti molto materiali come l’accesso a particolari tecnologie per la realizzazione di microchip, la disponibilità di datacenter, l’efficienza delle reti elettriche che devono fornire grandi quantità di energia per il computing e il cooling, etc.. Gli equilibri internazionali sono così fragili che basterebbe poco perchè domani ci si ritrovi tutti senza poter usare ChatGPT. Volendo approfondire, basterebbe leggersi Semianalysis, la newsletter (a pagamento, ma il livello di dettaglio è tale che spesso ci si può accontentare del primo paragrafo gratuito) di Dylan Pathel, uno dei consulenti del settore AI più apprezzati al momento.

• il rapporto tra uomo, macchina e società. Quella dell’AI è una rivoluzione troppo rapida che ci sta ponendo di fronte a domande forti sul suo impatto etico sulle persone e sulla società. Noi da medici dovremmo esserne consapevoli più di altre professioni e abbiamo perfino due eccellenze italiane da leggere e studiare, Paolo Benanti (da poco anche lui su Substack) e Luciano Floridi (qui trovate alcuni spunti da cui partire). Se volete andare a fondo, tuttavia, armatevi di un vocabolario e tanta pazienza, perchè i concetti sono spessi e profondi ed espressi con un linguaggio a cui noi medici non siamo in genere granchè abituati.

Spero di essere riuscito a farvi percepire quanto è complesso e sfaccettato il mondo che riguarda l’AI. In fondo questo è il motivo principale del suo fascino.

E se volete un consiglio per cuocere una buona bistecca: fatemi il favore, smettetela di fare le cose a caso e compratevi un termometro da cucina.

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Secondo quanto riportato da Lancet1 (che riprende un documento dell’Organizzazione Mondiale della Sanità) entro il 2030 mancheranno a livello globale 11 milioni di professionisti sanitari. L’AI potrebbe aiutare svolgendo compiti amministrativo/burocratico in modo da liberare tempo che medici e infermieri possono dedicare ai pazienti. Ma si risparmierà davvero tutto questo tempo? E così tanto da colmare l’assenza di personale? In particolare un punto mi ha fatto un po’ rabbrividire, quando gli autori vedono la riduzione dei compiti amministrativi dei medici come spinta a che i medici vadano in pensione più tardi. Ancora più tardi? Ne siamo sicuri? Nessuno si fa il problema che il proprio cervello ad un certo punto potrebbe non essere più così plastico da prendere le migliori decisioni per il paziente? E intanto la ricerca sull’AI in Medicina va in ben altre direzioni.

Agenti del 2025

L’Articulate Medical Intelligence Explorer (AMIE) è un sistema agentico (che vuol dire che è in grado di decidere, pianificare e svolgere in autonomia una serie di compiti per giungere ad un obiettivo prestabilito) basato su Gemini, l’LLM di Google. AMIE è al momento soltanto sperimentale e da un paio di anni si caratterizza per essere al centro di pubblicazioni che mostrano le sue capacità diagnostiche e di planning terapeutico. Tipicamente le stesse pubblicazioni arrivano a noi dopo più o meno un anno dalla submission (ne avevo parlato qui) e questa volta non fa eccezione. Cosa caratterizza questi paper è l’utilizzo di un sistema randomizzato, in cieco, con pazienti simulati da attori che interagiscono con AMIE o con un medico di medicina generale. Questa volta2 l’attenzione era rivolta all’abilità di AMIE di pianificare e adattare un progetto terapeutico lungo 3 visite a distanza di 2 giorni per ciascun paziente. Quanto prodotto da AMIE e dai medici veniva poi valutato, in cieco, da medici esperti. La sintesi delle performance di AMIE è riassunta in questa immagine del paper:

Due considerazioni da fare che vanno in direzioni opposte. 1. Siamo sempre in ambito sperimentale e simulato, non siamo nella realtà di un ospedale o di un ambulatorio e questi risultati non possono essere generalizzati. 2. L’LLM che stava alla base di AMIE in questo paper era Gemini 1.5 Flash, un modello che fa parte ormai della preistoria (la prima versione del paper inviata a Nature è di Marzo 2025), quindi possiamo solo immaginare quali prestazioni avrebbe AMIE con i modelli disponibili oggi.

Nature ha pubblicato in parallelo anche un altro paper3, questa volta di un gruppo tedesco, che ha presentato le performance di un diverso sistema agentico (Medical Intelligence for Reasoning and Action - MIRA) su casi di Pronto Soccorso. MIRA interagiva con pazienti simulati da AI (che seguivano istruzioni molto precise). Raccoglieva informazioni dal paziente, completava la cartella clinica, richiedeva esami e sulla base dei risultati che riceveva (il sistema era pensato proprio per ricreare virtualmente il workflow di un Pronto Soccorso) ipotizzava diagnosi e terapie. Le performance di MIRA sono state confrontate con quelle di due gruppi di medici che hanno avuto accesso ai pazienti virtuali con le stesse modalità. Risultato: l’accuratezza diagnostica di MIRA era comparabile (e spesso superiore) ai medici; il modo di agire (quali esami richiedere e in quale ordine) era sovrapponibile a quello dei medici; la scelta di quali interventi e terapie era comparabile e l’aderenza alle linee guida maggiore rispetto ai medici. Di nuovo: non sono casi reali, sono simulati, non è equivalente al lavoro attuale di un medico di Pronto Soccorso, bla bla bla. Ma di nuovo: il paper è stato scritto nel 2025. Per confronto, nel 2023 si stappavano le bottiglie se questi sistemi raggiungevano il 60% di risposte corrette su quiz a scelta multipla. Sarebbe bene che, oltre ad utilizzare il nostro tempo per fare delle giustissime pulci ai metodi di questi studi, iniziassimo ad immaginare quali capacità avranno i sistemi agentici di AI nel 2027 e quale sarà il modo migliore di sfruttarli a vantaggio nostro e, soprattutto, dei pazienti.

L’importanza dei trial indipendenti

Non dimentichiamoci comunque che continuare a testare rigorosamente questi sistemi è fondamentale. Ho dedicato un intero post allo studio che ha confrontato i modelli generalisti (tipo ChatGPT) a quelli specialistici (tipo OpenEvidence) e non ne riparlo qui, ma Nature Medicine ha pubblicato altri due paper che vale la pena citare. Il primo4 ha dimostrato che i benchmark che valutano i modelli solo attraverso la correttezza o meno della risposta finale rischiano di arrivare a risultati troppo ottimistici. Spesso e volentieri infatti i modelli arrivano alla risposta giusta con un processo che non ha niente a che vedere con il significato della domanda. Un esempio: gli autori hanno sottoposto a GPT-5 delle immagini di lesioni cutanee chiedendo la diagnosi fra quattro risposte possibili e il modello rispondeva correttamente la maggior parte delle volte. Il problema è che continuava a rispondere correttamente anche quando l’immagine non c’era proprio, e questo vuol dire che erano altri meccanismi (per esempio il modo in cui era scritta la domanda) attraverso cui GPT-5 generava la risposta giusta, e non la reale comprensione dell’immagine.

Il secondo paper5 che vale la pena citare ha confrontato le performance di diagnosi e terapia di due gruppi di medici generali in Kenya. Un gruppo era stato dotato di un sistema di assistenza alla diagnosi integrato alla cartella clinica (basato su GPT-4o). Dal confronto dei due gruppi non è emersa nessuna differenza significativa in termini di accuratezza diagnostica o fallimento terapeutico, cosa che, come sappiamo, fa pensare esistano molti altri meccanismi che si insinuano quando valutiamo l’insieme uomo-macchina piuttosto che la macchina da sola. Teniamolo a mente, perchè malgrado siano molte le offerte di sistemi di navigazione della letteratura/aiuto alla diagnosi che il mercato sta generando, ad oggi non è ancora dimostrato che portino davvero al miglioramento di qualche outcome clinico forte.

Condividi

Non hai mai saputo leggere l’ECG, parte seconda

Di cose nuove e a volte incredibili che l’AI tira fuori dall’ECG ne ho già parlato altre volte, per esempio qui.

Questa volta Nature ci propone un articolo6 che è una masterclass metodologica, giusto per rimarcare quale sia il livello necessario per poter pubblicare su determinate riviste. Il gruppo di autori (americano-svedese) è partito dall’osservazione che la morte improvvisa dovuta ad aritmie è ancora un evento difficilmente prevedibile e il parametro su cui ci si basa per l’impianto di un ICD a scopo preventivo, la frazione di eiezione ventricolare sinistra, ha molti falsi negativi e falsi positivi. Hanno deciso quindi di addestrare un modello di deep-learning su una popolazione svedese, collegando gli ECG di un’intera area geografica ai certificati di morte e alle cartelle cliniche elettroniche. Prima nota metodologica: la popolazione di training (35417 persone senza ICD, per un totale di 119541 ECG) è stata congelata in una lock-box prima ancora di iniziare il training del modello e non è più stata toccata finchè Nature non ha accettato preliminarmente il paper. Gli autori hanno quindi sviluppato un modello in grado di predire dall’ECG il rischio di morte improvvisa e hanno scelto una soglia di rischio per identificare la popolazione che più probabilmente potrebbe beneficiare dell’ICD (trovate quantità di dettagli nei risultati supplementari). Il passaggio successivo è stato quello di validare il modello su due dataset esterni, uno negli USA e uno in Taiwan. E poi hanno fatto una cosa affascinante, hanno cercato di capire quale particolare aspetto deve avere l’ECG per essere identificato ad alto rischio. Hanno quindi creato un algoritmo in grado di generare tracciati elettrocardiografici verosimili, dandogli come obiettivo quello di produrre tracciati classificati dal modello predittivo a rischio sempre più elevato. Il risultato è che hanno identificato una particolare morfologia del QRS in aVL associata a maggior rischio di aritmia fatale mai segnalata prima:

Per chi vuole hanno proposto una spiegazione fisiopatologica, ma lascio che ve la leggiate da soli.

L’ECG è davvero uno splendido esempio di come l’AI può generare nuova conoscenza da uno strumento che davamo per assodato. Con il proliferare di soluzioni commerciali diffuse diventerà sempre più comune usare l’ECG come metodica di screening cardiovascolare in background. Un esempio è quello raccontato in questa Letter7 su Nature Medicine. Siamo al Presbyterian Hospital di New York. Una donna di 45 anni, fumatrice, entra in Pronto Soccorso per dispnea e tosse produttiva da qualche giorno. Esami ematochimici e RX torace di norma. La paziente viene trattata con broncodilatatori e steroide e dimessa con diagnosi di crisi asmatica. Caso vuole che in quell’ospedale sia in corso un trial per validare un sistema AI pensato per identificare anomalie cardiache a partire dall’ECG. Il sistema identifica l’ECG della donna come ad alto rischio, la paziente viene richiamata per essere sottoposta ad un ecocardiogramma e si scopre che ha il 15% di frazione di eiezione e un’insufficienza mitralica severa. La paziente sarà quindi destinata al trapianto cardiaco. Gli autori dicono che questo sistema di screening ha già portato all’identificazione di oltre 200 casi di cardiomiopatia che sarebbero passati inosservati.

Alla faccia di liberare i medici solo del lavoro burocratico.

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Oggi sarebbe stata in programma la seconda puntata, dove esploravo come l’AI può essere utilizzata per influire positivamente nel medical publishing, ma pochi giorni fa è uscito un articolo che scalda il cuore a chi ancora ha un po’ di fiducia in questo sistema, e vale la pena parlarne per tanti motivi.

ll 12 Giugno Nature Medicine pubblica questa bomba: gli LLM generalisti hanno performance migliori rispetto ai tool medici specializzati.

Andiamo per ordine.

I protagonisti

Gli autori hanno preso 3 modelli generalisti (GPT 5.2, Gemini 3.1 Pro, Claude Opus 4.6) e li hanno messi a confronto con OpenEvidence e Uptodate Expert AI. I primi 3 erano i frontier models dell’epoca (eh sì, lo studio è stato submittato a Dicembre 2025 e pubblicato a Giugno 2026, quindi sono già modelli superati). Si intende per frontier models gli LLM più avanzati pubblicamente disponibili, al momento attuale creati da OpenAI (per quanto riguarda GPT), Anthropic (Claude) e Google (Gemini). Ne ho parlato in dettaglio qui:

Caratteristica di questi modelli è che sono generalisti, quindi non sono specificamente addestrati su un particolare dominio di conoscenze.

OpenEvidence e Uptodate Expert AI sono invece due sistemi di AI appositamente specializzati in campo medico. OpenEvidence è gratuito per i medici statunitensi (era disponibile anche per quelli europei fino a un po’ di tempo fa, ma poi hanno geolimitato l’accesso per timori verso lo European AI Act) e si finanzia in parte con pubblicità. Uptodate è un sistema a pagamento con iscrizione annuale. Non sono ovviamente gli unici tool disponibili sul mercato, ma OpenEvidence dichiara di essere utilizzato dal 65% dei medici statunitensi ed ha avuto una crescita esponenziale nell’ultimo anno (motivo per cui lascerò da parte Uptodate nel resto del post).

Qual è la differenza fondamentale tra GPT 5.2 e OpenEvidence? Fermo restando che nessuno sa quale sia esattamente l’architettura di OpenEvidence perchè è segreta (vi rimando a questo post di AI Health Uncut se volete saperne di più), sicuramente utilizza un sistema RAG per far sì che le risposte siano ancorate alla letteratura medica. In particolare, grazie ad una serie di accordi commerciali, OpenEvidence ha accesso a parecchi full-text di articoli pubblicati da importanti riviste (NEJM tanto per citarne una) che sono invece non raggiungibili dai modelli generalisti. Si capisce bene quindi perchè venga spontaneo pensare che una così marcata specializzazione sulla letteratura medica non possa che portare ad accuratezza migliore nelle risposte. E questo è il punto su cui si basa tutto il marketing di OpenEvidence (e più in generale di tutti i tool medici specializzati).

L’ipotesi

Il problema è che questa idea non è mai stata effettivamente confermata da dati. Il tentativo di specializzare dei tool generalisti non è per niente nuovo, ma già negli anni passati non si era dimostrato particolarmente efficace:

Tuttavia, strumenti basati su LLM e focalizzati in ambito medico stanno proliferando ovunque, e sfruttano il loro appeal per entrare nell’utilizzo comune di medici e strutture ospedaliere.

C’è però un problema di fondo. Il motore di OpenEvidence e di tool simili rimane sempre un LLM (non si sa quale, forse open-source, forse proprietario), che possiamo ragionevolmente supporre non sarà mai il modello più nuovo che abbiamo a disposizione noi, ma una versione più economica e meno performante (altrimenti i costi per loro sarebbero esorbitanti). Sappiamo anche che, al migliorare dei modelli, migliorano le performance su tematiche mediche. La domanda allora è: davvero questi tool funzionano meglio di ChatGPT (usato bene)?

Metodi e risultati

Gli autori del paper hanno confrontato queste due tipologie di modelli con 3 diversi benchmark. Una serie di domande a risposta multipla, un benchmark che si chiama HealthBench (prodotto da OpenAI) e una serie di quesiti clinici creati e annotati da un gruppo di medici specialisti. Dei 3 test il più importante per noi è il terzo (gli altri due sono due forme di benchmark ormai di scarso valore), ma il risultato è che in tutti i casi i modelli generalisti sono stati significativamente più performanti di quelli specializzati:

Addirittura per quanto riguarda i quesiti clinici i modelli specializzati non sono stati in grado di superare neanche l’ormai onnipresente Google AI Overview.

Limiti

Gli stessi autori sono relativamente cauti nelle loro conclusioni e ci sono una serie di fattori che potrebbero aver influenzato i risultati (tutti piuttosto tecnici, per cui glisserei). E’ verosimile pensare che un LLM specializzato integrato localmente in un ospedale e con accesso a documentazione specifica di quell’istituzione avrà un vantaggio rispetto agli LLM generalisti. Ma senza questa peculiarità, al momento attuale un LLM specializzato non dà vantaggi in termini di accuratezza, capacità di comunicazione o coerenza clinica rispetto ad uno generalista.

Condividi

Cosa c’entra la peer review

Studi di questo genere sono fondamentali e possono essere solo condotti da strutture o ricercatori indipendenti. Molti di coloro che hanno commentato il lavoro si sono concentrati poco sui risultati di per sè, quanto sui metodi, perchè quello che è scaturito è stato un importante dibattito su come il test di questi sistemi debba essere migliorato e come sia fondamentale avere la possibilità di verificare in modo indipendente quanto ci viene raccontato dal marketing delle aziende.

Ma vi prego, se siete dei nerd del publishing (?), andatevi a leggere i commenti dei reviewer (sono disponibili come materiale supplementare), specie quelli del reviewer #2 alla prima versione del paper. L’ha demolita, dall’inizio alla fine, non ha risparmiato quasi nulla, elencando tutta una serie di problemi che rendevano le conclusioni assolutamente poco sostanziate. Ed è chiaro, leggendo come evolvono le varie versioni, quanto lo studio sia cresciuto e abbia acquisito forza e credibilità proprio grazie a quelle osservazioni, perchè gli autori hanno arricchito successivamente il paper delle porzioni che poi sono state le più rilevanti.

Trovare reviewer così competenti su temi così specifici è sempre più difficile per le riviste, ma è fondamentale ed è quello che mantiene viva la credibilità di un sistema altrimenti davvero in difficoltà. Certo, qui siamo su Nature Medicine, su altre riviste il lavoro forse sarebbe stato pubblicato con meno revisioni, ma questo avrebbe reso le sue conclusioni molto più facilmente attaccabile e di impatto ben minore.

Ma OpenEvidence non ha risposto?

Altrochè se ha risposto! Però potrebbe non aver azzeccato i modi. Hanno deciso di scrivere una serie di tweet (o come si chiamano ora su X), con critiche metodologiche (in parte condivisibili) e illazioni, fino a prova contraria, di enormi conflitti di interessi non dichiarati da parti degli autori dello studio:

Pare addirittura che abbiano scritto una letter (non pubblica) a Nature Medicine in cui chiedevano il ritiro del paper e delle scuse pubbliche.
Non è ovviamente questo il modo in cui si dibatte nel mondo scientifico, e il fatto che quelli di OpenEvidence non abbiano mai pubblicato un lavoro peer-reviewed, con metodi chiari e risultati verificabili non depone a loro favore.

Ma se lo facessero, speriamo incontrino il Reviewer #2.

Come al solito, se pensate che questo post possa essere di interesse a qualcuno condividetelo liberamente. Voleste andare più a fondo su questo articolo e la diatriba con OpenEvidence vi consiglio di leggere qui:

AI Health Uncut

OpenEvidence Goes Hippocratic AI

Welcome to AI Health Uncut, a brutally honest newsletter on AI, innovation, and the state of the healthcare market. If you’d like to sign up to receive issues over email, you can do so here…

Read more

2 months ago · 23 likes · 3 comments · Sergei Polevikov

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Per non dimenticare

Molto del dibattito in ambito medico rispetto all’AI è polarizzato dai modelli generativi, ma, mentre discutiamo, continuano a venir fuori lavori interessanti basati sul machine learning più tradizionale.

E’ per esempio il caso di questo studio1 pubblicato su JACC, in cui gli autori hanno generato un modello capace di predire il rischio di stroke dalla lettura dell’ECG. Giusto per ripassare come vengono realizzati questi lavori:

1. sono partiti da un database di circa 100mila pazienti con almeno un ECG disponibile e di cui si disponeva di dati di followup;

2. hanno diviso i pazienti in un set di training (circa l’85%), un set di validazione (circa il 10%) e un set di test interno (il restante 5%);

3. hanno addestrato una rete neurale profonda (deep learning) associando ogni ECG al fatto che il paziente avesse o meno sviluppato uno stroke; hanno continuato a migliorare il modello fino a che arrivasse ad una soddisfacente capacità di predire lo stroke nel set di test interno;

4. hanno quindi validato il modello su due altri database (circa 100.000 nuovi pazienti) per confermare la generalizzabilità del modello su dati estranei a quelli sui quali era stato addestrato.

Il modello ottenuto, specie quando associato ai dati di età e sesso, ha dimostrato un’alta capacità di predire il rischio di stroke cardioembolico, anche nei pazienti non in fibrillazione atriale. La capacità predittiva è comparabile a quella del Framingham Stroke Risk Profile, per il cui calcolo però servono 8 diverse variabili. Nell’editoriale di accompagnamento2 gli autori fanno notare il potenziale vantaggio di identificare una popolazione a rischio, con un esame semplice altamente disponibile, sulla quale investire in senso preventivo. E la potenzialità di predizione di questi modelli (ne ho citati tanti altri anche nei mesi scorsi) è fra le caratteristiche da un lato più promettenti, dall’altro più problematiche, perchè, quando venissero applicati nella clinica, richiederebbero un enorme investimento di risorse in senso preventivo. E diventa difficile in questo momento ipotizzare da dove queste risorse dovrebbero arrivare.

Pensate per esempio che cosa potrebbe significare applicare il modello che hanno sviluppato questi autori cinesi3. Siamo a Chongqing, una piccola città di soli 30 milioni di abitanti, con una percentuale di ultra 65enni che sta aumentando velocemente. In Cina la sopravvivenza ad arresti cardiaci sul territorio è decisamente inferiore rispetto all’Europa e gli autori hanno voluto verificare se, oltre ai determinanti clinici statici già utilizzati da altri score di rischio, potesse essere d’aiuto inserire anche un modello dinamico basato sulle variazioni meteorologiche (pressione, umidità, visibilità, etc). E hanno dimostrato che un modello di machine learning che incorpora sia dati clinici statici sia dati dinamici meteorologici ha una capacità decisamente migliore di predire a 7 giorni la probabilità di arresti cardiaci. Stiamo parlando ovviamente di valori predittivi bassi (d’altronde il numero di eventi è scarso), ma comunque potenzialmente utili per ipotizzare sistemi di allerta, se non della popolazione, almeno dei servizi di emergenza.

Sapere di non sapere

A Maggio sono usciti diversi contributi4 5 6 che si inseriscono nella discussione di come gestire la formazione di aspiranti medici e specializzandi ora che l’AI sta complicando tutto. Se dovete leggerne uno solo, vi consiglio la perspective su Nature Medicine. Per quanto non ci siano evidenze (ma è un fenomeno troppo recente per essere già quantificabile), la paura di gran parte della comunità medica è che a causa dell’avvento dell’AI non si sviluppino alcune capacità considerate cardine. A differenza del deskilling che avviene quando perdiamo un’abilità che avevamo in precedenza (ad esempio orientarsi senza GPS), il fenomeno che prende il nome di never-skilling descrive quando l’abilità non viene mai appresa. E’ una condizione che riguarda soprattutto chi è ora all’Università e si trova di fronte alla possibilità, per esempio, di risolvere casi clinici utilizzando l’AI piuttosto che il proprio ragionamento. Il rischio è che non solo senza AI il medico non sappia più da che parte girarsi, ma anche che non abbia le competenze per valutare in modo critico ciò che l’AI dice. Gli autori dell’articolo propongono una serie di soluzioni affascinanti per limitare il never-skilling. Si parte da una “AI-free zone” in cui vengano sviluppate alcune abilità cruciali senza l’uso di AI, si continua con un’integrazione guidata nella clinica per imparare a valutare criticamente la bontà degli strumenti AI e si finisce con una parte di pratica integrata per sviluppare la sinergia tra uomo e macchina. Tutto bellissimo, ma gli stessi autori sono i primi a evidenziare i problemi di un approccio di questo tipo, in primo luogo il fatto che gli stessi docenti per la gran parte non hanno alcuna competenza in materia e che servano risorse informatiche costose per sviluppare e utilizzare modelli di AI specifici per l’insegnamento. Ancora una volta la supposta democratizzazione delle conoscenze a cui, secondo alcuni tecno-entusiasti, l’AI dovrebbe portare nel prossimo futuro rischia di sprofondare nella faglia che dividerà poche prestigiose Università ad alto/altissimo budget da tutte le altre.

Anche perchè continuiamo a non considerare un altro problema fondamentale: sono 3 anni abbondanti che abbiamo a disposizione nei computer e nei telefoni modelli generativi sempre più potenti, ma le Scuole di Medicina non hanno ancora deciso come dare un’educazione di base (la cosiddetta AI Literacy) agli studenti. E così continuiamo a sfornare giovani medici privi degli strumenti per orientarsi in una professione che sta velocemente cambiando. Su che cosa dovrebbe essere insegnato durante il corso di Laurea ci sono molte proposte. A maggio sono usciti due lavori7 8 che hanno provato a catalogare quanto è già stato proposto in letteratura e sarebbero davvero un’ottima partenza per generare un curriculum di studi che regga le sfide della Medicina contemporanea.

Condividi

Uscire dal loop

Tra le sfide della Medicina contemporanea ci sarà anche come far convivere i medici insieme alle macchine e come distribuire le responsabilità. Il problema della cosiddetta accountability ha sempre rappresentato un freno per l’introduzione di sistemi di AI in Medicina (anche i vecchi sistemi esperti tipo Mycin), ma questa volta non si sfuggirà più alla loro implementazione nella pratica. Al momento gli organismi internazionali vedono come soluzione al problema quello di utilizzare il medico come human-in-the-loop. Questo è un concetto mutuato dall’industria secondo cui l’output di una macchina, prima che sia applicato, viene valutato da un essere umano che decide se accoglierlo o rifiutarlo. A Maggio sono usciti ben due articoli9 10 su riviste diverse che, sostanzialmente, propongono la stessa idea: il sistema dello human-in-the-loop non può essere usato in ambito medico, dove il ruolo di supervisore del clinico diventerebbe nella maggior parte dei casi simbolico più che sostanziale, e questo per problemi legati alla mancanza di tempo e di competenze, e alla presenza di altri fattori che condizionano la capacità del medico di valutare in modo indipendente. Applicare questo modello in Medicina ha come unico effetto quello di spostare unicamente sul medico la responsabilità della decisione. Quello che propongono gli autori di entrambi gli articoli è invece un sistema in cui l’AI venga utilizzata per ragionare insieme al medico e al paziente (e l’idea di includere il paziente è fondamentale), in cui la responsabilità legale si sposti dal singolo medico a chi ha sviluppato l’algoritmo, e in cui esista all’interno dell’istituzione in cui opera il medico un organismo di governance che rivaluti periodicamente quali strumenti di AI sono utilizzati, come funzionano e se continuano a rispettare gli standard di sicurezza necessari. Qual è l’ultimo punto fondamentale di questo sistema? Che i medici siano addestrati ad usare e a interpretare i sistemi di AI avendone ben chiari i limiti. Questo vuol dire vera formazione continua su un campo che evolve vorticosamente.

Sì, di nuovo formazione. Cosa dite? Sono ripetitivo?

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Falsità e falsari

A inizio Maggio Maxim Topaz, Health AI researcher alla Columbia University, uno degli studiosi attualmente più importanti in ambito di AI e ricerca (gli amici infermieri dovrebbero servirsene come esempio da sventolare ad eventuali medici boriosi), ha pubblicato una letter su Lancet che ha fatto parecchio scalpore. Dopo essersi autocreato un algoritmo per scandagliare la letteratura su PubMed Central, ha scoperto che, su un campione di circa 97 milioni di reference comparse in paper pubblicati tra il 2023 e il 2026, più di 4000 erano totalmente inventate. Con un trend in deciso aumento: nelle prime 6 settimane del 2026 il numero di citazioni inesistenti è 12 volte maggiore rispetto al 2023. Immaginate un po’ a cosa sia dovuto l’incremento? Tra il 2023 e il 2024 abbiamo iniziato a usare ChatGPT. Sommate il tempo medio necessario perché gli articoli submittati vengano rivisti e pubblicati e arriviamo al 2025/2026 con l’esplosione delle false reference. Le false reference sono uno degli esempi più noti delle allucinazioni degli LLM. Il problema è che, in questi casi, sfuggono a quello che dovrebbe essere il controllo degli autori, dei reviewer e degli editor, e il paper viene pubblicato.

Non vi bastano le reference false? Potete falsificare anche tutto il paper. Un ricercatore di Anthropic ha creato un benchmark che misura la suscettibilità dei vari LLM a essere convinti a produrre un articolo intero pieno di dati falsi. Con un po’ di lavoro, tutti ci cascano. E così potete decidere di inviare un po’ di articoli farlocchi a qualche rivista che non si fa troppi problemi a pubblicare e costruirvi un profilo accademico con un H-index davvero ragguardevole, come per esempio questo signore:

Se poi volete dare maggior credibilità al vostro lavoro, aggiungeteci anche qualche co-autore rinomato a sua insaputa, come è successo a Eric Topol. Se vi va di fortuna, nessuno se ne accorge, il vostro nome guadagna credibilità e anche la rivista su cui è pubblicato. Se vi scoprono, chiudete la rivista e siete a posto. Il problema è più serio di quanto sembri e non riguarda soltanto le pubblicazioni in ambito medico. Per esempio, il fenomeno dei falsi paper e delle false references è particolarmente presente nelle pubblicazioni di computer science, tanto che arXiv, il noto repository di paper in preprint, ha istituito un ban di un anno per qualsiasi autore colto a pubblicare articoli che contengano contenuti falsi generati da AI.

Ovviamente, qui l’AI non è il problema. Il fenomeno di articoli falsi o contraffatti, o di identità rubate o inventate, e dei cosiddetti paper mill è presente da ben prima di ChatGPT, ma la facilità con cui gli LLM consentono la creazione di enormi quantità di contenuti ha fatto esplodere il fenomeno. Questi stessi falsi paper possono poi venire citati a loro volta, e magari inclusi anche in qualche review. Il contenuto può infine anche percolare negli stessi LLM, alimentando il potenziale di mis-informazione. (A questo proposito, vi invito a spendere qualche minuto per leggere la pazzesca storia della bixonimania, una malattia degli occhi che non esiste, ma per la quale sono state realmente prescritte visite oculistiche su consiglio di ChatGPT).

Condividi

La macchina del tempo

Un anno fa stavo preparando per un convegno una relazione dal titolo piuttosto evocativo (“Machina Sapiens”). Mentre cercavo su Pubmed mi era apparso il lavoro pubblicato su Nature dal gruppo di Google sulle performance diagnostiche di un particolare modello chiamato AMIE. Tralasciando i contenuti del paper, mi ricordo di essere rimasto perplesso a leggere che AMIE era basato sull’architettura di PaLM2, un oscuro LLM di cui avevo a malapena sentito parlare, ma che ero sicuro essere certamente ben più primordiale di Gemini (l’LLM di Google che a maggio 2025 era alla versione 2.5). Avevo allora guardato bene la prima pagina del paper e avevo scoperto questo:

Dal momento in cui Nature aveva ricevuto il paper al momento in cui l’aveva pubblicato era passato quasi 1 anno e 4 mesi. Possibile che in tutto quel tempo Google si fosse fermata ad aspettare? No, e infatti, lo stesso mese in cui Nature pubblicava i risultati di un modello ormai vecchio, compariva su ArXiv il preprint del seguito del lavoro, dove AMIE (a questo punto modellata su Gemini 2.0) aveva acquisito capacità multimodali. (Peraltro questo secondo lavoro è stato pubblicato proprio pochi giorni fa di nuovo su Nature, a distanza “solo” di un anno dalla submission). Ma come se non bastasse, foste andati a vedere sul blog di Google, avreste visto che, nello stesso mese in cui ArXiv pubblicava il preprint, c’erano già nuovi dati aggiornati utilizzando come modello Gemini 2.5, e che non avevano fatto in tempo a finire nel paper.

E’ Nature il problema? Ovviamente no. Chi di voi ha ascoltato parlare Jonathan H. Chen, lo ha probabilmente sentito raccontare di quella volta in cui avevano lavorato come pazzi per essere i primi a pubblicare i dati sulle capacità diagnostiche di GPT 3.5 e di essersi sentiti rispondere dall’editor della rivista dopo pochi giorni: “Mi dispiace, ma è appena uscito GPT 4.0, dovete rifare tutto daccapo”. La velocità con cui evolve l’IA generativa (LLM in primis) è talmente forsennata che diventa difficile anche capire quanto siano solide le basi su cui originano alcune discussioni. E’ il caso per esempio di questa bella Perspective pubblicata su NEJM a Maggio, in cui si riflette sui problemi determinati dal fatto che gli LLM tendono a rispondere a casaccio piuttosto che dire “non lo so”. Riflessione importantissima per quanto riguarda l’uso degli LLM nel nostro lavoro, peccato che i due studi a cui fanno riferimento gli autori sono stati pubblicati un anno fa su modelli (GPT 4o e 4o mini) ormai abbondantemente superati. Non abbiamo idea se le stesse conclusioni sarebbero ancora valide usando i modelli che abbiamo oggi, probabilmente no visto il trend per ora in continuo miglioramento delle performance degli LLM. E quindi su quali evidenze stiamo discutendo?

Il sistema di peer-review aveva già molti problemi prima del boom dell’AI (pensiamo cosa è successo durante il Covid, con la quantità di dati e pubblicazioni che fioccavano da ogni parte e rimanevano incagliati in un imbuto editoriale che rendeva reale il timore di star perdendo tempo clinicamente prezioso). Ora cercare solo su Pubmed le novità rilevanti per quanto riguarda AI e Medicina è come guardare fuori dal finestrino un albero lontano che si muove lentamente mentre si è su un treno che va a 300 km/h.

Cosa facciamo allora? Banniamo l’uso degli LLM ai ricercatori? Chiudiamo le riviste e ci aggiorniamo solo sui social? Compriamo il biglietto per il regionale veloce sperando che nessuno salga sul FrecciaRossa? Ne parleremo la prossima volta.

Nel frattempo, se pensate che questo post possa essere d´interesse ad altri, condividetelo liberamente.

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

La mia impressione è che gli animi si stiano scaldando. Il contesto in cui leggere le pubblicazioni di questo mese ce lo dà un editoriale1 e una letter2 pubblicati su Nature Medicine. Il succo è: servono evidenze forti, con outcome clinici reali, per giustificare l’implementazione dell’AI, non bastano benchmark surrogati. Vogliamo sapere se davvero serve o no ai pazienti. La critica è più o meno velatamente rivolta per lo più all’uso dell’AI generativa e dei Large Language Model in particolare. Lo spiega bene un post di Eric Topol: ma perchè tutti questi investimenti in una tipologia di AI che non sappiamo se serve quando abbiamo molti più dati sull’efficacia di altri modelli di AI?

Evidenze scomode

E piomba quindi come un macigno il nuovo studio3 preferito dai media generalisti, pubblicato sulla prestigiosissima rivista Science da un gruppo di all stars. Lo studio aveva come obiettivo quello di valutare in ambito medico le capacità dei nuovi modelli di ragionamento (“nuovi” si fa per dire, il modello in questione è OpenAI o1, che era stato rilasciato a Dicembre 2024, era il primo ad applicare il concetto di reasoning e ora è talmente vecchio che non è più utilizzabile da tempo. Sulla lentezza del nostro di sistema di publishing mi riprometto di scrivere qualcosa di specifico prima o poi).

A parte i soliti test sui casi clinici del NEJM, la cosa che ha destato scalpore sono state le performance su 76 casi di pazienti reali del Pronto Soccorso del Beth Israel Deaconess Medical Center di Boston, e il fatto che la diagnosi differenziale fatta dal modello sia stata sempre più accurata rispetto a quella dei medici, in particolare alla presentazione del paziente in triage e alla valutazione in DEA, utilizzando le stesse informazioni disponibili:

Questi risultati hanno generato anche molte comprensibili critiche metodologiche (leggetevi quanto scrive Graham Walker) perchè i contesti in cui valutiamo questi modelli non sono mai abbastanza realistici per i nostri gusti. Ma come ha risposto uno degli autori “Questo non è un paper sul Pronto Soccorso. E’ un paper su un cambio generazionale di capacità dei large language models. […] La domanda non è se questi modelli sono performanti. Lo sono. La domanda è come far sì che lavorino in modo che davvero ci aiuti a curare i pazienti, e ad amare il nostro lavoro mentre lo facciamo”.

E a lato di questo discorso, e su quella che sta diventando una sorta di ossessione per la perfezione diagnostica, vi segnalo che hanno appena dimostrato4 che valutare questi modelli sulla loro accuratezza li porta inavvertitamente a inventare la risposta giusta anche quando non la sanno (le famose allucinazioni). E questo mi ha ricordato un meraviglioso paper pubblicato su BMJ di cui avevo parlato qui. Anche i medici a volte tirano ad indovinare (gli anglosassoni lo chiamano bullshitting). Potrebbe essere che questa brutta tendenza derivi da un ambiente culturale (e formativo) in cui ci si aspetta che il medico conosca tutto, l’incertezza è poco tollerata e viene premiato chi ha sempre la risposta pronta? E’ interessante come uno stesso sistema di rewarding (i cosiddetti incentivi), possa produrre simili, indesiderate distorsioni nelle macchine come negli uomini.

Evidenze simili (ma applicabilità diverse)

Ma ritornando a quanto dice Eric Topol, è vero che di evidenze di efficacia sull’uso di modelli discriminativi di machine learning ce ne sono parecchie. Questo mese si è aggiunto un altro studio5 che ha dimostrato come la predizione del rischio cardiovascolare può essere migliorata utilizzando le normali immagini di TC dell’encefalo. Il principio è quello che abbiamo già visto altre volte: utilizzare un esame già disponibile, effettuato per altri motivi, per predire qualcosa in persone che facilmente potrebbero sfuggire a determinati approfondimenti, ad esempio quelli necessari a quantificare il rischio cardiovascolare. C’è però un grosso problema nell’implementare questi sistemi, ovvero come gestire la cascata di visite ed esami che dovrebbero seguire l’identificazione di nuove popolazioni potenzialmente ad elevato rischio. In un sistema già estremamente fragile per capacità logistiche, potrebbe diventare impossibile.

Sapete cosa invece è molto facile? Dare la possibilità di utilizzare un Large Language Model, opportunamente impostato, per provare a fornire un aiuto agli studenti che abbiano manifestato difficoltà di carattere psicologico. E pare che funzioni6, sia nel ridurre i sintomi di ansia, sia di depressione. Pensate quale potrebbe essere l’impatto di un uso corretto di uno strumento così facilmente disponibile sugli elevatissimi numeri di persone che lamentano questi disturbi.

Condividi

Evidenze inutili

E sapete dove invece si sono già buttati a spendere soldi un gran numero di ospedali senza avere evidenze di efficacia? Di ambient scribing ne avevo già parlato qui e prima ancora qui. Ad aprile è uscito un grosso studio7 su JAMA che ha confermato come adoperare questi sistemi riduca significativamente il tempo dedicato dal medico a compilare la cartella elettronica. Di che riduzione stiamo parlando? In media di 13 minuti ogni 8 ore di visite ambulatoriali.

Ora, sarà sicuramente vero che su grossi numeri (tanti medici, tanti pazienti) questo risparmio di tempo diventa consistente, ma i selling points di questi software sono sempre stati (1) che riducono il burnout dei medici diminuendo il carico comparativo, (2) che migliorano la comunicazione medico-paziente eliminando il diaframma dello schermo durante la visita. Come dice l’editoriale di accompagnamento8, questi effetti sono poco testati e per ora le uniche valutazioni fatte su questi software sono puramente metriche di tempi e volumi di visite. E iniziano ad emergere problemi dovuti al fatto che, nelle cartelle cliniche dove sono implementati questi strumenti, non è più chiaro cosa sia stato scritto dalla macchina e cosa dal medico, con comprensibili problemi di responsabilità.9

Non ce l’ho con gli ambient scribing (peraltro non ho mai avuto modo di provarne uno e magari ne rimarrei incantato), ma mi sembrano un ottimo esempio di una tecnologia in cui i manager degli ospedali potrebbero decidere di allocare molte risorse, magari anche per questioni di prestigio (abbiamo già letto titoli di giornali sull’adozione di questi miracolosi sistemi da parte di qualche struttura ospedaliera italiana), senza che esistano ancora evidenze a supportarli. Con il rischio invece di togliere finanziamenti ad altri aspetti potenzialmente più interessanti.

Conflitti generazionali

Gli ambient scribing sono importanti anche perchè sono l’emblema di quello che molti vorrebbero fosse il ruolo dell’AI: alleggerire il medico dalla gran parte dell’attività comparativa e burocratica. L’idea è che, così facendo, il medico si possa finalmente riappropriare di una dimensione di cura che con il tempo aveva dovuto abbandonare. Ne parla nuovamente questo viewpoint pubblicato su JAMA10, che descrive gli ultimi 40 anni come un continuo progressivo accumularsi di doveri burocratici che hanno sommerso il medico allontanandolo dal paziente. Gli autori dicono: “L’AI è il primo strumento che potrebbe assorbire molto del carico amministrativo piuttosto che semplicemente redistribuirlo, permettendo al clinico di fare il lavoro per cui è stato formato”. Nessuna obiezione fino a qui. Però dicono anche: “L’esame fisico, una mano sulla spalla, e la disponibilità a restare con i pazienti ad ascoltare le loro paure sono elementi irriducibili e non delegabili”. E ancora: “Ogni compito amministrativo che l'algoritmo assorbe è tempo che la professione può riappropriarsi per il lavoro clinico che ha fatto della medicina una vocazione.” Una vocazione?

Siamo sicuri che tutti quelli che iniziano Medicina al primo anno lo facciano per vocazione? per stare vicino al malato e ascoltare le sue sofferenze? Da pazienti (o parenti di pazienti) sicuramente ci piacerebbe fosse così, ma non sono convinto sia una pretesa legittima. E questa storia di riappropriarsi della Vera Essenza del Medico, dispersa a causa del carico burocratico, è reale? 40 anni fa nelle Università di Medicina si insegnavano scienze umanistiche? I pazienti si sentivano più ascoltati? Gli studenti vedevano i primari sedersi al letto del malato ad ascoltare le sue paure?

Non ho competenze sufficienti per rispondere a queste domande, ma continuo a pensare che l’AI sarà un’ottima occasione per vedere cosa rimarrà davvero del Medico contemporaneo, una volta che sarà “liberato” dalle sue normali incombenze lavorative. Soprattuto sarà una buona occasione per decidere cosa dovrà diventare.

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Esplorare e dialogare con le fonti

Poniamo caso che abbiate una vostra area di particolare competenza o interesse. Periodicamente ricercate su PubMed la presenza di nuovi lavori interessanti, ve li scaricate e li catalogate sul vostro computer. A distanza di tempo avete bisogno di consultare un qualche dettaglio di uno studio, o non vi ricordate più le conclusioni di un altro paper, oppure vi siete dimenticati dove avete letto di quella particolare metodologia. Se avete i vostri pdf sparsi in varie cartelle del vostro pc, tanti auguri. Ma anche se li avete tutti nello stesso posto, non avete modo di ricercare liberamente quello che volete e siete forzati ad aprire un articolo per volta sperando di essere fortunati. Soluzione? Create un Notebook, importate tutti gli articoli della vostra raccolta e siete liberi di esplorare e ricercare concetti all’interno dell’insieme delle vostre fonti.

Esempio. Qui ho creato un notebook con una raccolta di articoli su IA e sepsi di qualche tempo fa. In automatico nella finestra di chat, oltre il summary, vi vengono proposte degli esempi di domande che potreste fare:

Mettiamo caso che io voglia rispolverare come è stato sviluppato il TREWS. Pongo la domanda nella finestra di prompt, Notebook LM ci ragiona e mi risponde, citando in maniera puntuale le porzioni degli articoli che ha utilizzato per generare la risposta:

Qualcosa del genere lo può fare anche ChatGPT, ma per un articolo singolo. Non potete chiedergli di far riferimento a 50 articoli differenti, nè avete la flessibilità di modificare le fonti a vostro piacimento a seconda di come evolve la vostra personale biblioteca. L’output che ha generato Notebook LM lo potete ovviamente copiare e incollare dove volete, oppure salvarlo come nota, e vi ricomparirà nella finestra a destra ogni volta che riaprirete quel notebook.

Confrontare gli articoli

Le linee guida sono una cosa bellissima e utilissima, ma generalmente 1) sono molto lunghe; 2) sono difficili da leggere; 3) ce ne sono diverse per ogni argomento e non sempre concordano. Il lavoro di confronto, fatto a mano, è sicuramente molto formativo, ma così lungo che spesso non si ha il tempo per farlo.

Guardate però questo esempio. In questo caso avevo caricato le linee guida ESC del 2021 sulla prevenzione del rischio cardiovascolare e quelle del 2024 sulla gestione della fibrillazione atriale. Qui ho chiesto a Notebook LM di generare una tabella comparativa (può fare tranquillamente anche quello) con le raccomandazioni di trattamento dei fattori di rischio in un uomo di 55 anni:

Discorso analogo lo potreste fare chiedendo per esempio di generare una tabella comparativa dei metodi utilizzati in una serie di trial differenti che avete messo come fonti.

Condividi

Rimanere aggiornati

A questo utilizzo avevo già accennato nel primo episodio, ma vale la pena approfondirlo. Molta della nostra difficoltà nell’aggiornamento è dovuta alla quantità di lavori che continuamente vengono pubblicati e al nostro poco tempo a disposizione per leggerli con calma. Una prima strategia può essere quella di generare dei riassunti per ciascun articolo, cosa che fa Notebook LM, ma può fare benissimo anche ChatGPT. Non c’è però grande vantaggio rispetto a leggersi l’abstract, e se il riassunto è molto più lungo avete sempre il problema che vi manca il tempo.

L’audio overview è una brillante soluzione a questo problema. Caricate su Notebook LM l’articolo (o il gruppo di articoli, ma in questo caso fate attenzione che verranno trattati come un blocco unico) che vorreste approfondire. Poi cliccate su quella freccina ( > ) all’interno di Audio Overview.

Vi si aprirà una finestra con la possibilità di selezionare diverse opzioni per la creazione dell’audio:

E qui scegliete. Se avete tempo e volete andare molto in profondità cliccate su “Deep dive”. Notebook LM produrrà un podcast di un lunghezza in genere non inferiore ai 20 minuti (ma può arrivare anche a 50 minuti a seconda della quantità di fonti) in cui due host, dialogando, racconteranno nel dettaglio il contenuto degli articoli. Se invece avete poco tempo, o vi interessa semplicemente avere un’idea rapida del contenuto di vari articoli (magari per decidere poi quali approfondire con la lettura in un secondo momento), cliccate su “Brief” e otterrete un audio di pochi minuti in cui vi verrà raccontata la sintesi del paper. Lascio da parte le altre due opzioni (Critique e Debate) che sono in prima battuta a noi meno utili.

Potete generare l’audio in varie lingue, anche in italiano, ma se ne avete la possibilità vi consiglio di farlo in inglese perchè la qualità è strabiliante.

Vi faccio ancora notare che è presente al fondo uno spazio in cui potete specificare dettagli da fornire per la creazione dell’audio. Potete per esempio definire a quali aspetti siete particolarmente interessati e quali volete che vengano tralasciati (“focalizzati sui risultati, cita solo brevemente i metodi”). Oppure potete informare Notebook del fatto che siete medici, o che avete già particolari competenze in un ambito specifico. In questo modo nell’audio verrà usato un linguaggio specifico medico e non verrà perso tempo a spiegare concetti che a voi sono già noti.

Gli audio generati possono essere scaricati per essere ascoltati anche offline. Se vi scaricate sul cellulare l’applicazione di Notebook LM, potete facilmente ritrovare gli audio e ascoltarveli quando ne avete la possibilità, così come qualsiasi podcast. In questo modo potrete sfruttare i tempi morti per recuperare sulla vostra pila di articoli non letti (tanto lo so che ne avete una anche voi).

Concludiamo qui il secondo episodio di questa guida a Notebook LM. Nel terzo vedremo utilizzi un po’ più particolari, ma che potrebbero in casi specifici tornarvi molto utili.

Se pensate che questo post possa essere d’aiuto ad altri, condividetelo liberamente.

Notebook LM vs ChatGPT

Se ve la siete persa, vi consiglio di partire dal leggervi la breve guida sui Large Language Models che ho pubblicato qualche tempo fa (la trovate qui qui e qui). Sono strumenti potentissimi che ci possono essere molto utili, a patto di sapere con che cosa abbiamo a che fare e come usarli bene. Sappiamo che funzionano molto bene in ambito generale, ma possono essere problematici se gli chiediamo riferimenti specifici. Possiamo aiutarli rafforzando il contesto all’interno del quale vogliamo che ragionino allegando uno o due documenti. Ma ci sono limiti entro cui lo possiamo fare e può essere scomodo modificare ogni volta la lista dei documenti di riferimento.

Da qui nasce Notebook LM. Nella sua forma base, è uno strumento che ci permette di utilizzare le capacità linguistiche dei Large Language Model (in particolare di Gemini, il LLM di Google) su particolari e specifiche fonti che scegliamo noi. Il risultato è che, quando poniamo domande, Notebook LM è forzato a rispondere riferendosi esclusivamente alle fonti che abbiamo specificato e ci mostra esattamente i punti dei documenti dai quali ha derivato le informazioni.

Il meccanismo che sta alla base si chiama Retrieval Augmented Generation (RAG). Non esisteva nelle prime versioni di ChatGPT e questo era uno dei motivi per cui si originavano molte allucinazioni: se il modello non aveva a disposizione l’informazione che gli chiedevamo, tendeva ad inventarla. Da quanto invece è stato implementato il RAG, quando voi chiedete ad un LLM una informazione specifica facilmente lui andrà a verificarla su Internet prima di darvi una risposta (o potete voi chiedere per esempio di verificare su Pubmed la correttezza di quanto vi dice).

Il limite di ChatGPT (e degli altri LLM) è che i posti dove può andare a cercare sono quelli a cui ha accesso. Spesso e volentieri, invece, noi abbiamo a disposizione documenti specifici (per esempio i pdf di articoli pubblicati su riviste scientifiche) che ci siamo scaricati accedendo con le nostre credenziali istituzionali. Con Notebook LM possiamo utilizzarli per costituire il nostro specifico database su cui vogliamo che lui si confronti per attingere alle informazioni.

Condividi

Anatomia di Notebook LM

A Notebook LM si accede attraverso un normale sito internet (https://notebooklm.google). Non è strettamente necessario, ma è consigliabile loggarsi con le proprie credenziali.

Una volta loggati, vi trovate nella pagina dove sono visualizzati tutti i notebook, l’unità anatomica fondamentale di questo strumento. I notebook sono sostanzialmente l’equivalente di un raccoglitore che contiene i documenti attinenti ad uno specifico argomento. Nella versione gratuita, ciascun utente può creare fino a 100 notebook differenti. Quando vi loggate per la prima volta vedrete dei notebook già disponibili di esempio, ma voi cliccate su “crea notebook” e vi trovate in una schermata simile a questa:

La schermata di divide in 3 sezioni.

1. Sources (sezione a sinistra)

   Questo è il punto di partenza, qui dovete mettere i documenti su cui volete che il sistema lavori. Potete trascinare tutti i file che volete: pdf, documenti word, powerpoint, immagini, file audio, file video, link a pagine web, etc.. Esiste anche una funzione di ricerca delle fonti, ma ne parleremo in un’altra puntata. Man mano che inserite fonti, il sistema inizierà a digerirle. Attenzione: ogni notebook è pensato per essere dedicato ad un argomento specifico, e il sistema da subito analizzerà le fonti cercando di collegarle l’una all’altra. Quindi non inserite nello stesso notebook le linee guida sull’ipertensione arteriosa insieme a quelle sulla leucemia acuta mieloide e a quelle sul trattamento delle fratture di femore. Ragionate con l’idea che le fonti saranno trattate in modo complementare l’una all’altra o usate in senso comparativo. Esiste un limite di 50 fonti che potete inserire per ciascun notebook, se ve ne servono di più dovete passare ad un piano a pagamento.

2. Chat (sezione centrale)

   Dopo pochi minuti dall’inserimento delle fonti (il tempo dipende da quante fonti avete inserito e da quanto sono corpose), Notebook LM genererà in automatico un titolo e un breve abstract del contenuto del vostro raccoglitore. Nel caso successivamente voleste rimuovere o aggiungere altre fonti il riassunto potrà modificarsi di conseguenza. In basso trovate il posto in cui inserire il vostro prompt, esattamente come in ChatGPT, con la differenza che non avete più bisogno di inserire informazioni di contesto, perchè Notebook LM in automatico userà solo le vostre fonti per rispondere.

   

   Potete fare domande specifiche, chiedere comparazioni, chiedere di ritrovare particolari informazioni e il sistema genererà una risposta dentro la quale ci saranno i riferimenti puntuali tratti dalle vostre fonti. La vostra discussione nella chat viene salvata in automatico (non era così fino a poco tempo fa), ma se ci sono risposte che in particolare volete conservare cliccate su “save to note” in fondo alla risposta e verrà creato un documento che ritroverete nella finestra a destra. Il numero massimo di interazioni via chat permesse con il piano gratuito è di 50 al giorno.

3. Studio (sezione a destra)

   Qui è dove avviene la vera magia. Perchè la grande differenza tra Notebook LM e ChatGPT (o Gemini o Claude) è che, a parte la chat, è in grado di generare, a partire dalle vostre fonti, molti altri tipi di output che possono influire in modo significativo sulla vostra velocità e capacità di apprendimento. Per ora tratteremo i due output più importanti.

   

   La prima opzione che trovate è quella per cui Notebook LM è diventato famoso, ovvero l’Audio Overview. Notebook LM è in grado di generare un vero e proprio episodio di podcast, in cui sentirete due persone costruire un dialogo sul contenuto delle vostre fonti. La qualità è già ottima in lingua italiana, ma vi consiglio di provare la lingua inglese perchè è davvero impressionate (se volete divertirvi, mettete come unica fonte il vostro curriculum vitae e fate generare una audio overview, ascolterete qualcosa che farà molto bene alla vostra autostima). Chiunque abbia una lista continuamente in crescita di articoli che non riesce a leggere capirà quanto questa funzione può essere utile. Generate l’audio overview e potete ascoltarla mentre siete in auto, oppure mentre tagliate l’erba in giardino come faccio io. Attenzione solo a scegliere bene le fonti, perchè, così come per il summary centrale, anche in questo caso il sistema cercherà di costruire un discorso univoco per tutti i documenti. Il consiglio è quindi di selezionare 2 o 3 articoli relativi allo stesso argomento oppure utilizzare notebook diversi per articoli diversi (una volta generata l’audio overview la potete scaricare e cancellare il notebook da cui è stata creata). Anche in questo caso esistono dei limiti per la versione gratuita che sono (ad Aprile 2026) di 3 audio overview al giorno.

   Se siete fra quelli, invece, che imparano di più vedendo spiegati i concetti, potete provare la Video Overview, in cui, oltre ad una voce che spiega, verrà generato un video (di lunghezza variabile e con diverse possibili scelte stilistiche). In realtà più che un video è una serie di immagini fisse, che però aiutano ad illustrare bene i concetti detti dalla voce.

Concludiamo qui il primo episodio di questa guida a Notebook LM. Nel prossimo inizieremo a vedere quali sono alcuni esempi di utilizzo nel nostro lavoro.

Se pensate che questo post possa essere d’aiuto ad altri, condividetelo liberamente.

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Vento in poppa

A Marzo sono stati pubblicati molti lavori, in ambiti molto diversi, che confermano che la stagione dei dati convincenti a favore dell’applicazione dell’AI in ambito medico é realmente iniziata.

Carrellata di risultati a raffica.

• A Gennaio era stato pubblicato lo studio Masai, a Marzo invece il trial AITIC1, uno studio prospettico spagnolo su oltre 31.000 donne che confrontava la lettura doppia tradizionale delle mammografie con un workflow parzialmente autonomo: l’AI classificava come normali gli esami a basso rischio, saltando completamente la lettura umana, mentre gli esami ad alto rischio venivano riletti da due radiologi con supporto AI. Risultato: i radiologi hanno letto solo il 36% degli esami totali, con una riduzione del carico di lavoro del 63,6%. Il tasso di detection dei tumori è aumentato del 15,2%, sono stati individuati più carcinomi in situ e più carcinomi invasivi di grado I e stadio T1.

• E se non vi basta, sempre dalla mammografia hanno dimostrato sullo European Heart Journal2 di poter quantificare automaticamente le calcificazioni delle arterie mammarie, un marcatore indipendente di rischio cardiovascolare. Il grado di severità delle calcificazioni si associa in modo dose-dipendente alla probabilità di eventi cardiovascolari maggiori, aggiungendo valore prognostico ad altri score prognostici (in particolare il PREVENT score). Se tenete conto che la popolazione femminile è sempre stata storicamente sottovalutata e sottorappresentata nei trial di prevenzione, questi dati diventano particolarmente utili.

• Su Nature è stato presentato Merlin3, un modello di lettura delle TC addominali che legge le scansioni tridimensionalmente e non come slice 2D. Performance ottime di analisi e refertazione, codice e dataset rilasciati opensource.

• Circulation ha pubblicato EchoFocus-CHD4, un modello AI per la rilevazione automatica di cardiopatie congenite all’ecocardiogramma addestrato su 3,4 milioni di video da oltre 54.000 esami. Perchè è importante? Perchè la diagnosi ritardata di cardiopatia congenita è una delle principali cause di mortalità pediatrica evitabile, ma per diagnosticare una cardiopatia congenita ci vogliono ecocardiografisti pediatrici bravi, e questi scarseggiano ovunque. Un sistema di triage automatico delle immagini che permetta di prioritizzare gli esami ad alto rischio potrebbe quindi fare la differenza, soprattutto nei contesti a risorse limitate.

• Dalla Cina (dove gli agenti AI in ambito medico sono una realtà su cui stanno investendo moltissimo) arrivano i risultati del trial GOLDEN BRIDGE II5, condotto su oltre 21.000 pazienti con ictus ischemico acuto. Gli ospedali coinvolti erano randomizzati all’uso di un sistema integrato con analisi AI delle immagini, classificazione della causa dell’ictus e raccomandazioni terapeutiche. Rispetto allo standard of care, in questi ospedali è stata misurata una riduzione del 26% dei nuovi eventi vascolari a tre mesi (HR 0,74; p=0,01), risultato mantenuto a 12 mesi.

• E giusto per coronare in bellezza, pare che non sia neanche così certo che gli studenti di medicina che usano AI siano destinati all’atrofia cerebrale. Uno studio longitudinale6 ha seguito 372 studenti di medicina per 12 mesi durante rotazioni cliniche supervisionate con un sistema AI di supporto alla diagnosi. Risultato: l’uso dell’AI si associava nel tempo non a una riduzione del pensiero critico, ma ad un suo aumento. La cosa da sottolineare è che questo era strettamente associato all’aumento della cosiddetta AI literacy, cioè della capacità di usare e interpretare l’Ai nel modo corretto. È formare supervisionando all’uso dell’AI che fa quindi la differenza.

Condividi

Non è tutto oro

Eppure.

• Nature Medicine ha pubblicato il trial LungIMPACT7. Lo studio, condotto su quasi 100.000 radiografie del torace in cinque ospedali NHS inglesi, si proponeva di valutare se la prioritizzazione AI degli esami sospetti per tumore del polmone riducesse i tempi alla TC e alla diagnosi. Risultato: nessuna differenza statisticamente significativa in nessuno degli outcome primari (tempo alla TC: 53 giorni in entrambi i bracci; tempo alla diagnosi: 44 vs 46 giorni). Attenzione però: nelle analisi post-hoc, quando sia il radiologo che l’AI erano concordi nel segnalare anomalie, i tempi alla diagnosi erano molto più brevi. Il problema però è strutturale: il collo di bottiglia era la disponibilità di TC e l’organizzazione del percorso successivo. Insomma, prioritizzare gli esami in lista non accelera il sistema se il sistema è già congestionato a valle. Ancora una volta, come nel trial degli stetoscopi AI, dall’NHS arrivano lezioni importanti per chi deve implementare queste tecnologie.

• Sapete quando ChatGPT vi fa i complimenti qualsiasi stupidaggine voi scriviate? Su Science è uscito un lavoro di Stanford8 in cui hanno testato le conseguenze della sycophancy (la tendenza degli LLM ad approvare eccessivamente le azioni e le opinioni degli utenti) in tre esperimenti su oltre 2400 partecipanti. Per la sorpresa di nessuno, i modelli hanno mostrato di approvare le azioni degli utenti il 49% più spesso di quanto farebbero gli esseri umani, anche quando quelle azioni implicano inganno, illegalità o danno ad altri. E anche una singola interazione con un LLM compiacente riduce la disponibilità dei partecipanti ad assumersi responsabilità, aumentando la loro convinzione di aver ragione. Il meccanismo perverso è che piú i modelli sono compiacenti, piú vengono preferiti e considerati affidabili dagli utenti, il che crea un incentivo commerciale a mantenerli tali. Insomma, fate attenzione se secondo ChatGPT fate sempre diagnosi brillanti.

• Infine, vale la pena segnalare questo paper su JAMA9 in cui si riflette sulla questione dell’identità medica nell’era dell’AI. John Lantos, l’autore, individua un percorso progressivo attraverso cui la medicina si è progressivamente allontanata dalla relazione medico-paziente a favore della standardizzazione, e l’AI sarebbe solo l’ennesimo scalino. La domanda aperta, che Lantos lascia volutamente senza risposta, è se i medici sapranno reinventare il proprio ruolo come fecero i pittori dopo l’avvento della fotografia: non scomparendo, ma trovando nuove forme di espressione in quello spazio che le macchine non riescono ancora a occupare.

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Dalla parte del paziente?

A settembre 2025, con l’uscita di GPT-5, avevo fatto qualche riflessione sull’impatto dei Large Language Models sui pazienti e sul loro rapporto con i medici. Rimane tuttavia un problema fondamentale. Neanche i pazienti, come i medici, sanno utilizzare l’AI in modo adeguato. Le conseguenze sono che i consigli che arrivano da un LLM mal interrogato possono essere non corretti o addirittura pericolosi, come dimostrato in questi due lavori.12 Una facile critica è che, come spesso accade quando si parla di articoli peer reviewed, a causa delle lungaggini dell’iter della pubblicazione, i modelli testati negli articoli sono già abbondantemente superati (es. GPT-4o, Llama 3). Ma questa volta Nature Medicine ci sorprende pubblicando in poco più di un mese un lavoro simile effettuato su ChatGPT Health, la molto sbandierata versione di ChatGPT, lanciata negli USA a Gennaio 2026. Questa versione di ChatGPT è pensata specificamente per guidare gli utenti nelle questioni di ambito medico, con l’obiettivo di costituire potenzialmente un primo riferimento con cui discutere i problemi di salute. Gli autori dello studio3 hanno testato ChatGPT Health con una serie di presentazioni cliniche, misurando la concordanza rispetto al gold standard nel consigliare di starsene casa, effettuare una valutazione medica di routine, farsi visitare con una certa urgenza oppure recarsi subito in Pronto Soccorso. ChatGPT ha mostrato una tendenza marcata a sovrastimare la gravità di condizioni con scarso rilievo medico, consigliando valutazioni mediche non necessarie, ma soprattutto ha sottostimato più della metà dei casi che avrebbero imposto l’invio immediato in Pronto Soccorso. Con buona pace di Sam Altman.

Cardiologicamente intelligente

Ma gli LLM usati bene invece pare possano essere estremamente promettenti. In uno studio pilota a primo nome italiano4 hanno testato l’efficacia di un LLM, opportunamente adattato con risorse mediche cardiologiche, nel generare consigli terapeutici su pazienti dimessi con prima diagnosi di scompenso cardiaco a bassa frazione di eiezione. 60 pazienti sono stati randomizzati in due gruppi, uno che seguiva il normale protocollo di followup, l’altro che prevedeva rivalutazioni ogni 2 settimane durante le quali del personale non sanitario poneva una serie di domande predefinite al paziente, inseriva le risposte nell’LLM e restituiva al paziente le indicazioni generate dallo stesso LLM su come procedere con la terapia (le indicazioni erano sempre convalidate da un cardiologo). Dopo 3 mesi, il gruppo sperimentale aveva raggiunto un regime terapeutico molto più vicino a quello consigliato dalle linee guida rispetto al braccio di controllo, con una miglior classe funzionale (ovvero i pazienti stavano meglio) e nessuna necessità di re-ospedalizzazione. Questo è sicuramente un trial troppo piccolo per tirare delle conclusioni, ma si inserisce in un discorso più ampio che vede lo scompenso cardiaco come una delle prime patologie per le quali potrebbero essere utilizzati su larga scala sistemi di AI autonomi di diagnosi e terapia. Sempre su JACC sono stati pubblicati due viewpoint56 che citano ADVOCATE (Agentic AI-Enabled Cardiovascular Care Transformation), un’iniziativa governativa statunitense volta proprio a guidare lo sviluppo di agenti AI in questo ambito. E vi segnalo questo passaggio, che mi sembra importante per la visione che noi medici dovremmo avere guardando all’applicazione dell’AI nel prossimo futuro:

“Nonostante i progressi compiuti negli ultimi anni, la terapia medica conforme alle linee guida rimane ampiamente insufficiente: solo una piccola percentuale dei pazienti eleggibili raggiunge le dosi target dei trattamenti raccomandati dalle evidenze. Anche gli errori diagnostici continuano a essere troppo frequenti. Non siamo di fronte a un fallimento della ricerca, ma a un fallimento nell’applicazione clinica. È proprio questo divario — tra una popolazione crescente di pazienti con patologie croniche e complesse e una forza lavoro sanitaria limitata e mal distribuita sul territorio — a fare dello scompenso cardiaco un banco di prova ideale per modelli di gestione autonoma della malattia. La complessità della condizione, tuttavia, rende questa sfida tutt’altro che semplice. Un sistema sempre disponibile, capace di seguire il paziente nel tempo, aggiornato sulle linee guida e di interfacciarsi direttamente con lui potrebbe, in linea teorica, contribuire a colmare le lacune che ancora persistono nella diagnosi, nell’avvio del trattamento, nella titolazione dei farmaci, nel monitoraggio e nel follow-up. Resta però una domanda aperta: se tali sistemi siano in grado di farlo in modo sicuro ed equo, e soprattutto in maniera tale da rafforzare — e non indebolire — la relazione tra medico e paziente.”

Condividi

Volare troppo alti o troppo bassi

Nel dibattito attuale fa molta presa sul pubblico (medici compresi) la narrativa di un’AI che sta acquisendo capacità di ragionamento, pianificazione e “pensiero” umane, e a breve anche sovrumane. Ritroviamo in questi discorsi molta letteratura e filmografia di fantascienza che amiamo o di cui abbiamo sentito parlare, e ci godiamo il dibattito attuale come un’interessante saga in tv. L’ultimo capitolo si è appena consumato su Nature, che ha pubblicato un articolo7 (nella sezione dei Commenti, ma è piuttosto elaborato) da parte di quattro professori dell’Università della California, un filosofo, un linguista e due professori di data science e AI. La tesi degli autori si riassume in questa frase:

“Per la prima volta nella storia dell’uomo, non siamo più gli unici esseri dotati di intelligenza generale.”

Questo articolo è stato molto criticato, e Nature tacciata da alcuni (ad esempio il filosofo Luciano Floridi) di fare quasi click-baiting. Sempre Nature ha pubblicato una lettera di risposta in senso opposto (molto più breve, ma se ne trova una versione più elaborata in Internet) da parte di altri illustri studiosi del tema8. Questo perchè il confronto tra chi considera queste tecnologie una pura evoluzione statistica e chi una forma di intelligenza emergente è asprissimo.

Ma intanto che stiamo di fronte allo schermo aspettando che gli studiosi inizino a convergere su qualche interpretazione comune delle attuali (e future) espressioni di AI, ricordiamoci che qualcosa è già arrivato e molto arriverà nei nostri ospedali e nei nostri ambulatori. Indipendentemente da quale opinione si abbia sull’AI, essere ignoranti di costa sta dentro questi sistemi ci espone a grossolani errori di valutazione che potrebbero ricadere sui nostri pazienti, esattamente come se non sapessimo a grandi linee come funziona un pacemaker o una macchina di risonanza magnetica. Ancora una volta il punto cruciale è formarsi e formare chi sta ancora studiando, in particolare sulla porzione di AI generativa che sta dominando ogni discussione in ambito di ricerca e applicazione clinica. Su Nature Medicine lo dicono molto meglio di me9.

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Nel 2024 venne pubblicato un paper, commissionato da Waymo ad una società assicurativa, che comparava la frequenza degli incidenti che coinvolgevano i loro veicoli rispetto a quelli in cui erano coinvolti autisti in carne ed ossa. I dati sono in continuo aggiornamento e quelli attualmente pubblicati sul sito di Waymo (corroborati dal Dipartimento dei Trasporti degli Stati Uniti) dicono: riduzione dell’81% di incidenti con risvolti medici, del 92% di incidenti che coinvolgono investimento di pedoni, dell’83% di incidenti con ciclisti. Questo a parità di chilometri e tipologia di percorso. I dati sono talmente forti da aver portato un neurochirurgo, dopo aver assistito per l’ennesima volta agli esiti fatali di un incidente che aveva coinvolto un adolescente, a scrivere un articolo sul New York Times auspicando un futuro in cui la guida da parte degli esseri umani diventerà una cosa rara, perfino bizzarra (il titolo dell’articolo nella versione cartacea era “L’uomo alla guida è un esperimento fallito”). Perchè in effetti la maggioranza degli incidenti stradali ha come denominatore la mancanza del rispetto di normali regole da parte di chi guida: limiti di velocità, distanze di sicurezza, precedenze agli incroci, etc, tutte cose che invece gli algoritmi di Waymo rispettano perfettamente.

Chiaramente ci sono ancora problemi da risolvere, la generalizzabilità di questi sistemi è al momento scarsa, i costi di gestione alti e in determinate situazioni particolarmente rare e imprevedibili il sistema si blocca. Però è molto evidente il potenziale di riduzione di errori e di conseguenze gravi. Se fosse un trial di comparazione di due terapie, sarebbe stato interrotto precocemente per efficacia. E tuttavia sono molte le resistenze che emergono nell’adozione e nell’espansione di questo sistema, specie da alcuni settori commerciali, e che fanno leva su quei casi in cui Waymo è effettivamente coinvolta in incidenti per chiederne la revoca delle autorizzazioni ad operare. A Minneapolis ad esempio avvocati rappresentanti di compagnie di autisti stanno cercando di bloccare l’approvazione dei robotaxi nella loro città per paura della perdita di migliaia di posti di lavoro.

Condividi

In un blog dedicato all’Intelligenza Artificiale in Medicina, è chiaro dove voglio arrivare a parare con tutta questa storia di taxi e taxisti. Se davanti a casa ora mi aspettasse un veicolo a guida autonoma per portarmi da qualche parte ci salirei sopra terrorizzato con la tentazione di aggrappare il volante ad ogni curva. Sicuramente preferirei un caro vecchio autista alla guida. Ma se mio figlio fosse a San Francisco, dopo aver visto quei dati di sicurezza, forse sarei il primo a consigliargli di salire su un Waymo e non su un taxi qualsiasi.

Ma se fra 10 anni la Waymo della medicina pubblicasse un report documentando la riduzione della frequenza di diagnosi errate usando un sistema autonomo di Intelligenza Artificiale rispetto ad un medico in carne ed ossa? Sarò capace di valutare criticamente uno strumento di quel tipo o chiederò ai miei sindacati e alle mie società scientifiche di opporsi strenuamente a qualsiasi tentativo di adozione?

E che consiglio darò a mio figlio?

Se pensate che questo articolo o questo blog possa interessare, condividetelo liberamente.

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Le evidenze che mancavano

Iniziamo il 2026 con qualcosa di davvero rilevante. Lo studio MASAI (Mammography Screening with Artificial Intelligence) è un trial in cui sono stati comparati due modelli di workflow. Il primo, tradizionale, prevede la doppia lettura di tutti gli esami da parte di due radiologi. Il secondo, nuovo, prevede un primo triage da parte dell’AI, con classificazione di esami a basso rischio che vengono rivisti da un solo singolo radiologo, ed esami ad alto rischio che vengono rivisti da due radiologi con il supporto dell’AI. Lo studio MASAI aveva già prodotto due importanti report, il primo in cui dimostrava la sicurezza del braccio AI rispetto a quello tradizionale (malgrado una riduzione di più del 44% di lavoro da parte dei radiologi), il secondo in cui dimostrava un aumento del 29% della diagnosi di tumori senza aumento dei falsi positivi, peraltro in gran parte considerati clinicamente rilevanti. Il terzo report dello studio MASAI è stato pubblicato a gennaio su Lancet1 e ha dimostrato la tendenza ad una riduzione dei tempi di diagnosi di tumori clinicamente rilevanti utilizzando il supporto dell’AI. Riconfermata inoltre la maggior sensibilità senza riduzione della specificità.

Gli autori commentano che al momento attuale le linee guida europee riportano solo una raccomandazione condizionale (con basso livello di evidenza) per l’utilizzo dell’AI nello screening del tumore della mammella in aggiunta alla doppia lettura da parte dei radiologi. Le linee guida però sono del 2023, antecedenti alla pubblicazione dei tre studi derivanti dal trial MASAI, nonché di altri trial prospettici. E’ facile pensare che diventerà sempre più eticamente discutibile non utilizzare uno strumento che ha ormai dimostrato in modo consistente aumentare la sensibilità della metodica, senza impatto sui falsi positivi, in tumori di rilevanza clinica, e riducendo il carico di lavoro sui radiologi.

Le parole del medico

Di applicazioni di ambient scribing avevamo già parlato qui e continuano ad essere un bel paradigma attraverso cui analizzare le molte sfaccettature che emergono integrando l’AI alla pratica clinica. Per esempio.

Questi software sono costosi (al momento tra i 200 e i 600 dollari al mese per medico) e non è chiaro se l’investimento sia giustificato. Analizzando dati degli ultimi tre anni nel sistema statunitense, pare invece che questi software migliorino la qualità della documentazione clinica tanto da garantire in media un maggior rimborso per paziente.2 Questo aumento di ritorno economico potrebbe da solo compensare il costo del sistema, anche se il medico non fosse costretto a fare più visite con il tempo risparmiato. Senza ovviamente contare il ridotto carico mentale burocratico/compilativo imposto al medico, che dovrebbe quindi tradursi in ridotto rischio di burnout.3

E tuttavia emergono delle perplessità. Leggendo un paio di opinioni45 la paura è che la riflessione del medico, che una volta si concretizzava durante il processo di scrittura (o dettatura), mettendo a fuoco anche le sensazioni che derivavano dagli aspetti non verbali dell’interazione con il paziente, venga progressivamente meno. I medici si trovano davanti non un foglio (o uno schermo) bianco da riempire, ma campi precompilati di informazioni, e lo sforzo di rileggerle e integrarle diventa ogni volta più impegnativo. Il timore è la deriva verso un’omologazione lessicale e strutturale del linguaggio che perda quelle caratteristiche magari imperfette, ma concettualmente importanti, che la scrittura in prima persona del medico può apportare.

Condividi

L’AI usatela tu

A Novembre era stato pubblicato un interessante lavoro sull’applicazione di stetoscopi con AI aggiunta in un paese in via di sviluppo (ve ne ho parlato qui). Su Lancet di Gennaio è uscito un altro lavoro6, sempre fatto all’incirca con la stessa attrezzatura, ma in Gran Bretagna. E i risultati sono davvero interessanti. Il trial ha previsto la dotazione ad una serie di medici di famiglia di stetoscopi in grado anche di registrare un ECG a singola derivazione e un fonocardiogramma. I dati acquisiti potevano essere valutati da un algoritmo che ha dimostrato in precedenza di predire accuratamente la presenza di frazione di eieizione ridotta, fibrillazione triale e valvulopatie. L’obiettivo dello studio era valutare se, rispetto ad un gruppo di controllo, nel gruppo di medici dotati di questi stetoscopi aumentasse la quantità di diagnosi di scompenso cardiaco e fibrillazione atriale. Risultato? Nessuna differenza tra i gruppi. Come?! Ma allora l’algoritmo non funzionava a dovere? No, analizzando i pazienti in cui lo stetoscopio+AI era stato utilizzato raddoppiava il numero di diagnosi di scompenso cardiaco e valvulopatia, e triplicavano le diagnosi di fibrillazione atriale. Ma quindi?! Quindi c’era una bella differenza tra la quantità di medici dotati di stetoscopio+AI rispetto a quelli che effettivamente lo usavano. Il 40% di medici del gruppo di intervento non hai mai usato il sistema, un altro 40% l’ha usato meno di 10 volte al mese. Interrogati sul motivo, quei pochi che hanno risposto alla survey si sono lamentati della procedura con cui bisognava usare il device. La procedura prevedeva che: 1. il medico accendesse lo stetoscopio che in automatico si collegava Bluetoooth ad una app; 2. il medico posizionasse lo stetoscopio sul paziente in una specifica posizione; 3. il medico attivasse dall’app la registrazione dei dati per 15 secondi, ai termini dei quali l’algoritmo produceva la propria predizione; 4. il medico inserisse manualmente i risultati ottenuti nella cartella clinica informatizzata, visto che il software dello stetoscopio non era integrato. I punti 2 e 3 potevano dover essere ripetuti più volte se la qualità del segnale acquisito non era sufficiente.

Gli autori dello studio concludono che, a prescindere dalla qualità della tecnologia, la differenza la fa come è implementata, integrata nella normale pratica quotidiana e accettata dal clinico:

“…the effectiveness of AI technologies cannot be divorced from the realities of the systems into which they are deployed”.

Prendete nota tutti voi futuri imprenditori della sanità digitale.

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Demis Hassabis fa parte di quei protagonisti della rivoluzione dell’AI che sono genuinamente convinti che questa tecnologia diventerà la più grande invenzione dell’uomo, in grado di risolvere gli enigmi più complessi della scienza a favore dell’intero genere umano. Un altro che la pensa in questo modo ad esempio è Dario Amodei, CEO di Anthropic (che produce Claude), che a fine 2024 aveva pubblicato un saggio diventato famoso, “Machines of Loving Grace”, dettagliando tutte le cose meravigliose che potrebbero derivare dall’avere a disposizione un’AI davvero potente.

E’ inevitabile che si arrivi a parlare di salute e di malattie. C’è chi lo fa in maniera becera (ne avevo accennato qui), lasciando poca immaginazione al fatto che siano gli enormi interessi economici a guidare un certo tipo di approccio. Ma quando sento parlare Demis Hassabis davvero mi pare che sia animato da profondi ideali filantropi. Certo rimango un pò perplesso, da medico, su che cosa voglia veramente dire “guarire ogni malattia”, su quale ne potrebbe essere il senso biologico, quale l’impatto sul concetto stesso di vita e di vivere, ma queste sono domande che vanno oltre le mie capacità.

C’è invece un aspetto molto più concreto e meno filosofico su cui è bene ragionare. Nel 2018, quando il primo AlphaFold colse di sorpresa gli accademici che lavoravano nel campo della struttura tridimensionale delle proteine, le reazioni non furono tutte positive. Certamente c’era un pò di orgoglio ferito nel vedersi superare in modo così eclatante, ma un punto in particolare era la maggior ragione di inquietudine, ovvero che dietro AlphaFold ci fossero perlopiù esperti di informatica afferenti ad un’unica azienda (Google/Alphabet), con enormi capacità di calcolo a disposizione, e che in futuro avrebbe potuto monopolizzare questo ambito di ricerca lasciando alle Università solo le briciole. E il problema non avrebbe riguardato solo le Università, ma anche le grandi aziende farmaceutiche, in quanto la struttura delle proteine sta alla base della ricerca farmacologica. AlphaFold2 tuttavia venne alla fine rilasciato con una licenza d’uso piuttosto ampia valida anche a fini commerciali.

Lo stesso anno però Demis Hassabis fondava Isomorphic Labs, azienda di ricerca farmaceutica sotto l’ombrello di Google/Alphabet. E quando venne presentato AlphaFold3, evoluzione del modello precedente con la capacità di predire l’interazione fra molecole, le paure che il mondo accademico aveva manifestato nel 2018 si concretizzarono. Perchè AlphaFold3 non venne più distribuito in maniera aperta, ma il suo utilizzo veniva contingentato, e l’unica azienda a poterlo sfruttare appieno e per scopi commerciali era Isomorphic Labs. Questo tagliava fuori qualsiasi utilizzo da parte di altre aziende farmaceutiche, ma allo stesso tempo anche di gruppi di ricerca autonomi. Per fortuna qualcuno aveva già presagito che le cose sarebbero potute andare in questo modo e aveva anni prima iniziato a lavorare ad un modello analogo ma opensource. Il software si chiama OpenFold, il suo creatore Mohammed AlQuraishi e la sua storia è ottimamente raccontata in questo post.

Condividi

Non nego che il mio amore per Demis si sia un pò appannato. Non c’è nulla di sbagliato in un’azienda che voglia perseguire scopi commerciali e tenga per sè le proprie innovazioni. Qui però non stiamo parlando di un brevetto su una nuova molecola o su una nuova apparecchiatura diagnostica. Qui parliamo di avanzamenti tecnologici così basilari da poter influenzare trasversalmente ampi ambiti scientifici e permettere enormi progressi a cascata. A 5 anni dalla pubblicazione del paper di AlphaFold, Nature analizzava che suo database di strutture di proteine era stato usato da più di 3.3 milioni di ricercatori nel mondo in svariati ambiti:

Che tutto questo sia nelle mani di un’industria che, legittimamente, ha come incentivo unico il profitto, deve farci riflettere. Ancora di più se ipotizziamo che, per far evolvere ulteriormente questi modelli, così come per crearne altri con lo stesso potenziale, sempre di più serviranno capacità di calcolo e competenze che si stanno drammaticamente concentrando in pochissime entità industriali. E questo potrebbe avere prima o poi una qualche rilevanza per tutti. Per ora è il mondo universitario, domani potrebbero essere i pazienti.

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Anatomia comparata

La cena di reparto sta diventando noiosa? Siete in auto con il primario e non sapete di cosa parlare? Avete incontrato al bar il vostro professore di Medicina Interna e volete rompere il ghiaccio? Provate con qualcuna di queste citazioni da uno degli articoli dell’edizione speciale Christmas 2025: Black Mirror del BMJ:1

“Il fenomeno dei medici che si lanciano con affermazioni prive di fondamento con incrollabile arroganza — colloquialmente noto come bullshit [’fuffa’ o ‘sciocchezze’, NdT] — è da tempo riconosciuto nella pratica medica.”

“L’aspettativa culturale secondo cui i medici dovrebbero possedere una conoscenza onnicomprensiva crea un ambiente in cui ammettere l’incertezza può essere percepito come un segno di debolezza o di incompetenza. Di conseguenza, i professionisti sanitari si sentono spesso obbligati a fornire pareri anche quando la propria competenza è limitata, alimentando così la pratica della bullshitting.”

“Sia i medici che i Large Language Models (LLM) sono spinti a produrre disinformazione — rispettivamente bullshit e allucinazioni — a causa della comune pressione a fornire risposte a ogni costo, dando priorità alla parvenza di competenza rispetto all’accuratezza.”

“In medicina, la cultura gerarchica premia le dimostrazioni di sicurezza, mentre per i modelli linguistici il cosiddetto reward hacking può incentivare risposte che appaiono plausibili ma sono false, con il solo fine di soddisfare l’utente.”

Fatemi poi sapere com’è andata.

Condividi

Non hai mai saputo leggere l’ECG

Avevo già parlato in precedenza (qui) di come l’ECG potrebbe diventare la base per predire problemi cardiologici ben oltre quanto siamo abituati. Ora iniziamo a travalicare l’ambito cardiologico, perchè in un grosso lavoro pubblicato su Nature Medicine2 l’ECG è stato utilizzato da un apposito algoritmo per individuare pazienti ad alto rischio di cirrosi epatica, più che raddoppiando il numero di diagnosi precoci rispetto al gruppo di controllo. Nel caso poi di individuazione di forme precoci di fibrosi, la differenza con il gruppo di controllo era di 3 volte. Al di là di questa specifica applicazione, vale davvero la pena iniziare a riflettere su quali siano le competenze su cui noi dovremo concentrarci in futuro, perchè una certa quantità di quelle che credevamo essere assolutamente nostre sarà progressivamente automatizzata, e per il bene del paziente.

A questo proposito vi invito a leggere il contributo3 di Andrew Lea, medico e storico della Medicina, sulla paura della perdita delle competenze e la relativa resistenza al cambiamento in cui la medicina si è trovata più volte nel corso dei secoli:

“Ciò che definiamo come competenza umana è, di per sé, un concetto storicamente situato e costantemente rinegoziato alla luce del cambiamento tecnologico e delle norme sociali. Dai libri del XVII secolo agli strumenti di laboratorio del XIX, le nuove tecnologie rimodellano continuamente l'idea di quali abilità siano fondamentali e in che modo lo siano — che si tratti della memoria individuale, dell'osservazione clinica, della manualità o del ragionamento interpretativo.”

Bonus

A dicembre è uscito un altro articolo importante, su una delle riviste che non è classicamente inclusa nelle mie ricerche. Si tratta del position paper4 sull’IA della Società Italiana di Medicina Interna (SIMI), che vi invito a leggere sia per la chiarezza con cui spiega i concetti di base di questa tecnologia, sia per la visione in merito a come i nuovi strumenti dovranno essere valutati e applicati nella pratica. Più volte su questo blog ho accennato alla necessità che i medici si sforzino di diventare protagonisti del cambiamento in atto. Le società scientifiche hanno una grande opportunità e una grande responsabilità in questo senso, e questo paper è un ottimo punto di partenza. [Disclaimer: il paper è stato scritto dal Working Group su IA e Terapie Digitali della SIMI. Io non sono tra gli autori del paper, ma faccio parte del working group allargato.]

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Per essere corretti in realtà non è solo un report di Stanford, ma è l’espressione di un network di ricercatori (chiamato ARISE) che mette insieme le menti migliori di Stanford e Harvard. Qui di seguito vi riporto i punti che ritengo più interessanti e qualche riflessione.

1. Se qualcuno tra i miei colleghi ritenesse ancora l’AI una tessera destinata a rimanere marginale nel puzzle dei sistemi sanitari, nel 2025 negli Stati Uniti ha mosso 70 miliardi di dollari;

2. Il gap tra i sistemi di regolamentazione europei e quelli USA era già abbastanza ampio, ma l’FDA ha ulteriormente ammorbidito i requisiti richiesti per l’approvazione di strumenti di AI. La gran parte di quelli già approvati non è stata accompagnata da una chiara documentazione della propria validazione clinica, mancando spesso dettagli sui disegni degli studi, il sample size, i caratteri demografici della popolazione di validazione e, praticamente sempre, gli outcome. Il fatto di essere FDA-approved dà sempre meno garanzie e la responsabilità di un’effettiva valutazione critica di uno strumento di AI prima dell’adozione viene sostanzialmente scaricata sui singoli centri ospedalieri.

3. Grande attenzione del report è posta sugli strumenti di AI generativa, che in effetti (l’abbiamo visto anche su questo blog) stanno progressivamente monopolizzando molta della ricerca clinica in AI. Un paio di riflessioni. L’abbuffata di modelli di machine learning (quasi sempre fini a se stessi) pubblicati ovunque e da chiunque degli scorsi anni si è conclusa e chi ne ha la possibilità (cioè solo chi ha a disposizione enormi quantità di dati) lavora su foundation models, gli unici che probabilmente hanno qualche chance di essere generalizzabili e applicati. D’altra parte la ricerca sull’accuratezza e la plausibilità dei large language models è molto più pressante, perché, anche se fuori da qualsiasi regolamentazione, sono usati ubiquitariamente e quotidianamente sia da medici, sia da pazienti.

Condividi

4. La qualità del ragionamento clinico degli LLM è in continuo aumento, ma ci sono due grossi limiti da considerare. Il primo è che gli studi disponibili mostrano un’importante e pericolosa incapacità degli LLM nel gestire l'incertezza. Hanno la tendenza ad esibire eccessiva e malriposta sicurezza e trovare risposte esatte anche quando non ci sono (ne avevo parlato qui). Il secondo è che i benchmark utilizzati fino allo scorso anno erano parecchio inadeguati per valutare l’effettiva utilità in un contesto clinico, perchè indagavano tutti la conoscenza medica, ma quasi mai ricreavano un setting realistico in cui convivono molte variabili che vanno ben oltre le linee guida. C’è tuttavia da considerare che tutti gli studi su LLM, perfino quelli in preprint, sono sostanzialmente superati appena vengono conclusi, visto che più o meno ogni 3 mesi compare una nuova major release di qualche modello di frontiera.

5. Il salto di qualità potrebbero offrirlo gli agenti AI, perchè ci sono già una serie di dati che mostrano come la collaborazione fra gli agenti, più che la qualità del modello singolo, ha il potenziale di migliorare drasticamente l’accuratezza degli output in qualsiasi campo, dalla diagnosi di malattie rare, alla scrittura di protocolli di trial.

6. Concretamente, al momento le applicazioni di AI in clinica sono limitate a modelli estremamente specialistici, prevalentemente in ambito radiologico. In nessun altro ambito esiste per ora una dimostrazione di una chiara efficacia.

Mi ha fatto sorridere che il Prof. Jonathan Chen, uno degli autori di questo report (nonché Director for Medical Education in Artificial Intelligence), racconta di aver fatto poco tempo fa una conferenza a Stanford di fronte a 300 medici e di averli visti trasalire quando descriveva della possibilità degli LLM di inventarsi citazioni mediche. Cose note da almeno 2 anni che risultavano per alcuni assolute novità. Tutto il mondo è paese, anche Stanford.

Se pensate che questo articolo o questo blog possa interessare, condividetelo liberamente.

Se non conosci ancora il processo attraverso cui scelgo gli articoli, leggi Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

L’equità delle cure di Schrödinger

Vi segnalo due articoli molto diversi, ma accomunati dalla possibilità di far riflettere, se ancora ce ne fosse bisogno, su quanto sia l’applicazione della tecnologia e non la tecnologia stessa a determinarne l’impatto sulla società.

Il primo lavoro1 è un trial su un sistema di AI applicato ad uno stetoscopio, a cui è stato insegnato a riconoscere, attraverso quanto captato durante l’auscultazione, la presenza di disfunzione ventricolare sinistra. Il teatro della prova è stato il Ghana, dove la scarsa disponibilità di ecocardiografi ed ecocardiografisti limita fortemente la diagnosi di pazienti con scompenso cardiaco a bassa frazione di eiezione, impattando negativamente sulla loro possibilità di essere trattati precocemente e, in ultima analisi, sulla loro prognosi. Questo sistema di IA, applicato a pazienti sintomatici, ha dimostrato alta sensibilità e specificità e potrebbe rappresentare un ottimo test di screening in aree con scarso accesso a diagnostica avanzata.

Il secondo lavoro2 è invece una review che riassume le potenziali applicazioni di AI in anatomia patologica in ambito oncologico. Lo scenario è entusiasmante, perchè la combinazione fra AI e digital pathology promette enormi vantaggi per i pazienti, dalla velocizzazione dei processi di analisi all’identificazione di nuovi biomarkers invisibili al patologo. Questo tuttavia a patto di aver già completato una costosissima transizione dall’anatomia patologica tradizionale ad un’infrastruttura di digital pathology, possibile soltanto in centri molto ben finanziati, e di essere in un paese fra quelli i cui dati hanno contribuito a creare i database su cui sono stati addestrati i modelli di AI. Per esempio, probabilmente non il Ghana.

Condividi

Triadi e licenze

La filosofia del British Medical Journal è sempre stata che un buon processo di cura origina dalla combinazione tra l’esperienza e le competenze del medico, i valori e le preferenze del paziente, e le miglior evidenze scientifiche disponibili. Curioso che sia proprio il BMJ a pubblicare 3 articoli345 sulla nuova triade che pare essere in via di affermazione (perlomeno nel mondo anglosassone), e che vede accanto al medico e al paziente l’AI come terzo interlocutore. L’AI a cui si riferisce è quella generativa degli LLM e che, fuori da ogni tipo di regolamentazione o validazione, viene regolarmente usata sia dai medici, sia dai pazienti. Gli autori identificano una serie di punti che ritengono necessari per rendere il passaggio a questo nuovo paradigma. In particolare per quanto riguarda noi medici sostengono sia fondamentale una formazione specifica per conoscere come utilizzare correttamente gli strumenti associati all’AI e valutare criticamente gli output che ne derivano. Ma c’è un altro punto, ovvero che dovremmo essere trasparenti con i pazienti e imparare a comunicare se e come inseriamo l’AI all’interno delle nostre valutazioni e se e come consideriamo (se lo facciamo) gli input AI-correlati che arrivano dai pazienti.

Chiaramente questo dovrebbe essere accompagnato da un’evoluzione dei sistemi di regolamentazione che permetta di certificare quali strumenti di AI generativa usare in ambiente medico. Su questo punto vi segnalo anche questo articolo6 e l’editoriale di accompagnamento7 che mostrano quanto gli attuali meccanismi regolatori (sicuramente negli Stati Uniti, ma anche in Europa) siano inadeguati. In genere i software usati in ambiente medico sono statici, con indicazioni molto specifiche e chiaramente riconducibili ad un’entità che ne determina il funzionamento. Gli LLM invece sono in continua evoluzione, hanno un amplissimo range di potenziali applicazioni e gli output che generano non possono chiaramente essere predeterminati dall’azienda produttrice. Il problema è serio ed è urgente, ma all’orizzonte non è facile intravedere soluzioni.

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Allucinazioni/confabulazioni

Preparando una relazione sul Machine Learning, avevo bisogno di trovare un esempio di una particolare metodologia tratto dalla letteratura medica. Ho chiesto a Gemini (era il modello 2.5) e immediatamente mi ha fornito la citazione completa (compresa di DOI) e l’abstract di un lavoro che esattamente corrispondeva alla mia richiesta. Peccato che quell’articolo non esistesse e solo dopo molte insistenze di chiarimenti il chatbot ha confessato di esserselo inventato.

Poco dopo scoprivo che il problema è molto diffuso e riferimenti a lavori inesistenti sono comparsi in molte bibliografie negli ultimi 2 anni. Sono frutto delle famose allucinazioni (o confabulazioni), il fenomeno per cui un modello genera contenuti non aderenti alla realtà. Il perchè questo succeda non è chiaro, ma sembrerebbe essere riconducibile almeno in parte alla tendenza dei modelli a fornire sempre una risposta certa, anche inventandosene una solo verosimile se necessario. A volte è molto facile rendersene conto, altre volte molto meno, specie su temi che non si conoscono bene.

Cosa possiamo fare per mitigare il rischio di cadere vittima di un’allucinazione? La prima regola è controllare sempre la validità delle risposte e non fidarsi, in particolare se si tratta di informazioni puntuali (esempio dosaggi di farmaci, riferimenti testuali, dettagli di procedure). Seconda regola è usare i modelli più potenti a cui abbiamo accesso (per esempio, se ne abbiamo la possibilità, le versioni a pagamento di ChatGPT o Gemini o Claude). Questo perchè il problema delle allucinazioni era particolarmente pervasivo nei primi modelli distribuiti su larga scala (esempio GPT 3.5), ma sta tendendo a ridursi con il migliorare dei modelli. Terza regola è imparare a scrivere bene i prompt, perchè più siamo precisi e dettagliati nelle nostre richieste e nel contesto che diamo al chatbot, più si ancorerà a queste informazioni e meno facilmente rischierà di deragliare (leggete la seconda parte di questa guida se non l’avete ancora fatto).

Condividi

Bias

I Large Language Models sono addestrati su una grandissima quantità di dati presi da Internet. La maggioranza di questi dati tende a fornire una specifica rappresentazione della società e questo influenza le risposte che i chatbot forniscono. Recentemente è stato dimostrato che la gran parte delle immagini e dei video presenti sui social media dipingono tendenzialmente donne più giovani degli uomini, con un gap sempre più marcato per contenuti che riguardano i lavori più prestigiosi e pagati. Di conseguenza, sottoponendo a ChatGPT finti curriculum per ipotetici posti di lavoro, il chatbot considerava di maggior qualità le candidature di uomini più vecchi assumendo in automatico che le candidature femminili riguardassero soggetti più giovani e con meno esperienza. Un altro bellissimo studio ha fatto ermegere una marea di altri bias, sottoponendo al chatbot sempre lo stesso caso clinico con sole modifiche riguardanti l’orientamento sessuale, lo status socio-economico o l’etnia del paziente. D’altra parte nulla di nuovo, bias di questo tipo sono ingranati nella nostra società e hanno permeato i risultati dei trial clinici per molti anni. Dobbiamo però tenerne conto per imparare a leggere tra le righe delle risposte che ci dà ChatGPT.

Privacy

Molto semplice. NON inserite mai dati personali in un chatbot, tantomeno dati che possano far risalire a specifiche persone. I quesiti e le risposte date dai chatbot possono essere utilizzati per analisi e miglioramenti da parte delle aziende che li creano. Esistono modi per usare i chatbot in forma anonima, ma in genere richiedono specifiche azioni. Ad esempio su ChatGPT (almeno a Novembre 2025) avete la possibilità di disattivare la cronologia delle conversazioni, usare la modalità di “chat temporanea” e non aderire alla opzione “migliora il modello per tutti”. Su Gemini si può disattivare l’opzione “disattiva attività app Gemini” e una opzione simile è presente anche su Claude. La possibilità di riutilizzare i dati delle conversazioni per migliorare i modelli è considerata quasi indispensabile dalle grandi aziende produttrici, e, dati i tempi di sviluppo dei modelli, questi dati vengono conservati per anni. Modificare queste opzioni può ridurre l’esperienza di uso di questi modelli, che per forza di cose sarà meno personalizzata. Quindi: NON inserite mai dati personali in un chatbot, nomi cognomi, indirizzi, numeri di telefono, foto di referti con anagrafiche, etc. e se non siete sicuri che la vostra anonimizzazione sia sufficiente, usate le strategie che vi ho suggerito.

Siamo arrivati alla conclusione di questa piccola guida sull’uso degli LLM. Ho tralasciato tuttavia un problema, molto grande, che riguarda i chatbot: il cosiddetto antropomorfismo tecnologico. Ma vale la pena spenderci più tempo in un’altra occasione.

Se pensate che questo post possa essere d’aiuto ad altri, condividetelo liberamente.

Se non conosci il processo attraverso cui scelgo gli articoli, leggi prima Come seleziono le pubblicazioni. Se hai dubbi sul significato di qualche termine tecnico, cerca nel Glossario essenziale.

Evidenze e metodi

Ambient scribing. Su JAMA Network Open sono stati pubblicati ben due articoli e un editoriale sull’ambient scribing.

Premessa. L’ambient scribing rappresenta l’evoluzione basata su AI dei vecchi sistemi che traducevano (malamente) in testo gli appunti vocali. Attraverso l’uso di LLM, i software sono in grado di mettere in forma scritta, formalmente corretta ed adeguata al contesto qualsiasi registrazione di conversazioni. L’applicazione in medicina è semplice. La visita medica viene registrata attraverso un microfono e il lavoro di confezionamento del report clinico, che prima era fatto “a mano” dal medico, ora avviene in automatico. Si ritiene che l’uso di questi sistemi possa ridurre il carico di lavoro burocratico e formale del medico, permettendogli di dedicare maggior tempo di cura al paziente e magari anche migliorare la comunicazione. Facile capire quindi perchè l’ambient scribing sia l’applicazione di AI con maggiore velocità di diffusione negli ospedali (perlomeno negli Stati Uniti, dove l’ubiquitarietà della cartella clinica informatizzata integrata ne permette una semplice integrazione) e abbia un giro di affari notevole (più di un miliardo di dollari di investimenti raccolti negli ultimi 3 anni). Sono molte le aziende che hanno sviluppato applicazioni di questo tipo, che negli USA non necessitano dell’approvazione dell’FDA, e la competizione per entrare negli ospedali è feroce.

Fatta questa premessa, parliamo degli articoli. I due lavori pubblicati hanno come obiettivo studiare l’impatto di un’applicazione di ambient scribing sul carico di lavoro dei medici. Sommariamente: il primo articolo conclude che si riduce il burnout fra i medici1, il secondo che diminuisce il tempo dedicato ai lavori compilativi2. Insomma, l’uso di questa tecnologia sembrerebbe davvero promettente e probabilmente è così, ma vale la pena prestare un pò più di attenzione. Entrambi i lavori si basano sullo stesso software (Abdrige) che è direttamente coinvolto nella realizzazione degli studi (in un caso ha sviluppato e fornito le survey che i medici - volontari e non in anonimato - dovevano compilare, nel secondo caso ha fornito gratuitamente il software per 3 mesi come progetto pilota). Trovate ovviamente i risultati di questi studi anche sul sito di Abridge. Ma se leggete bene gli articoli, specie l’editoriale di accompagnamento3, i risparmi di tempo documentati (per carità statisticamente significativi) sono di circa 1 minuto a visita in entrambi gli gli articoli.

Perchè ve li ho segnalati allora? Perchè a breve avremo davanti alla porta dei nostri studi, accanto ai rappresentanti delle aziende farmaceutiche, anche quelli di applicativi basati su AI e dovremo aver imparato a tenere gli occhi aperti sulla validità dei dati che ci presenteranno, pena il rischio di sperperare soldi pubblici.

Prevenzione. Di ben altro spessore un articolo pubblicato su JAMA sul potenziale utilizzo dell’AI nelle modifiche allo stile di vita di una popolazione a rischio di sviluppare diabete4. Lo studio, di non inferiorità, ha confrontato l’impatto di un approccio standard (contatti periodici con un esperto del Diabetes Prevention Program) rispetto all’utilizzo di una app basata su AI integrata con dati provenienti da dispositivi indossabili, smartphone e una bilancia collegata in bluetooth. L’outcome composito era basato su riduzione del peso corporeo, attività fisica e livelli di emoglobina glicata. Risultato: l’AI non era inferiore in termini di efficacia rispetto al coach fisico. Statistica a parte, gli autori sottolineano la capacità dell’AI di adattare costantemente l’approccio ad ogni singolo paziente, personalizzando, sulla base dei dati raccolti in tempo reale, quali notifiche far comparire sullo smartphone in modo da renderle progressivamente più efficaci, aumentare la compliance ed indurre più spesso comportamenti virtuosi:

Pensate alla scalabilità di un approccio di questo genere, alla quantità di persone che potrebbero essere raggiunte e al potenziale impatto di programmi di medicina preventiva veramente personalizzati5.

Condividi

Formazione ed educazione

L’introduzione dell’AI in Medicina sta ponendo molti quesiti sul modo in cui dovrebbe essere adattato il curriculum di studi di studenti e specializzandi. Ipotizzando anche che le previsioni di sviluppo e adozione di questi strumenti siano troppo ottimistiche, è comunque ragionevole pensare che nell’arco di una decina di anni molte cose saranno cambiate nel modo di affrontare il nostro lavoro. Se pensiamo che è all’incirca l’arco temporale che abbraccia uno studente dal primo anno dell’università di Medicina all’ultimo di specializzazione, è evidente come non ci sia molto tempo per iniziare a prendere delle decisioni in ambito formativo. Sull’impatto dell’AI nell’educazione dei nuovi medici si riflette in questa review6, che mette in luce anche un altro punto interessante. L’accesso a strumenti di AI per la formazione non sarà a poco prezzo e potrebbe costituire un nuovo elemento che discriminerà chi avrà la possibilità di accedere ad istituzioni molto facoltose da chi no. C’è poi il grosso problema di come (e mi verrebbe da aggiungere, se) mantenere determinate competenze che a breve potrebbero essere delegate all’AI. Ne aveva già parlato recentemente una review sul NEJM (l’avevo citata qui) e lo riprende su Lancet7 Eric J. Topol (che sul roseo futuro dell’evoluzione digitale della Medicina ha scommesso tutti gli ultimi suoi libri).

A fra un mese (circa) per altre novità in letteratura. Potete trovare quelle dei mesi scorsi a questo link.

Se pensate che questo post possa essere di interesse ad altri, condividetelo liberamente.