Triage non è diagnosi: i limiti reali dell'intelligenza artificiale

Il triage nasce in medicina d'urgenza come strumento di ordinamento: davanti a più pazienti e a una sola sala visita, serve decidere chi entra per primo. Non stabilisce che cosa abbia il paziente, stabilisce quanto è disposto ad aspettare senza che il rischio cresca. Un triage automatico applica la stessa logica a un elenco di segni riferiti da chi convive con l'animale. È utile perché rende esplicita una soglia, ed è limitato perché lavora solo sulle informazioni che gli sono state consegnate.

La riga più importante della tabella è la seconda. Un animale con dolore addominale che si nasconde da due giorni può presentarsi a chi lo osserva come un animale tranquillo. Se nessuno scrive che si nasconde, per il sistema quel segno non esiste. Il clinico invece lo vede nella postura, lo trova con la palpazione, lo deduce dal fatto che l'animale non si lascia toccare in un punto preciso.

Il secondo malinteso riguarda i numeri. Un sistema che dichiara di riconoscere correttamente nove casi su dieci sembra affidabile, ma la percentuale che conta per chi legge il risultato è un'altra: dato un risultato positivo, quante probabilità ci sono che sia vero. Quella percentuale dipende da quanto è frequente la condizione nella popolazione esaminata, e cambia radicalmente il significato dello stesso identico output.

1. Immagina 1000 animali sottoposti allo stesso controllo automatico e una condizione che riguarda 10 di loro, cioè l'uno per cento.
2. Un sistema che riconosce 9 malati su 10 ne individua 9, e ne perde 1 che resta senza segnalazione.
3. Lo stesso sistema, se sbaglia nel cinque per cento dei sani, produce circa 50 segnalazioni su animali che stanno bene.
4. Il totale delle segnalazioni è quindi 59, di cui solo 9 corrispondono a un animale realmente malato: meno di una su sei.
5. Cambia la frequenza della condizione e cambia tutto: la stessa identica accuratezza dichiarata produce risultati opposti in una popolazione selezionata e in una popolazione generale.

Non è un difetto del sistema, è aritmetica. Ed è la ragione per cui un risultato automatico va letto come una domanda posta bene, non come una risposta chiusa. In clinica lo stesso ragionamento è quotidiano e ha un nome preciso: la probabilità che una malattia sia presente prima del test condiziona quanto il test sposta la conclusione.

Un sistema è affidabile quanto le fonti che dichiara. Animiyo usa fonti aperte, elencate una per una nel registro delle integrazioni con il modo in cui vengono interrogate. Nessuna richiede una chiave a pagamento, e la distinzione fra chiamata dal server e chiamata dal browser non è un dettaglio tecnico: nel primo caso il fornitore vede l'indirizzo del server, nel secondo vede quello del dispositivo di chi legge.

I modi in cui un triage automatico produce danno sono pochi e ricorrenti. Conoscerli in anticipo costa una lettura e vale più di qualunque dichiarazione di accuratezza, perché quasi tutti nascono nel passaggio fra la persona e lo strumento, non dentro lo strumento.

• Il falso rassicurante: la descrizione omette il segno decisivo, il livello risulta basso e la visita slitta di due giorni. È l'errore più costoso e il più silenzioso.
• L'allarme costante: un sistema tarato per non perdere niente segnala troppo, e dopo qualche settimana chi lo usa smette di leggerlo. Un avviso ignorato vale zero.
• La riscrittura fino al risultato desiderato: si cambiano le risposte finché non compare il livello che si sperava. Vale per la persona preoccupata e per quella che non vuole uscire di casa.
• Il linguaggio approssimativo: sta male, è strano, non è lui. Sono frasi vere e inutilizzabili. Un sistema lavora su segni descritti con esordio, frequenza e andamento.
• L'attribuzione sbagliata di autorità: il risultato viene riportato in clinica come se fosse una diagnosi ricevuta, e la conversazione parte da una conclusione invece che dai fatti.

Un contrappeso semplice esiste ed è la registrazione. Un episodio annotato con data, ora e durata resta confrontabile; una sensazione ricordata a distanza di giorni si deforma. La differenza fra chi arriva in clinica con tre date e chi arriva con una impressione generica è la stessa che passa fra un dato e un aneddoto.

Vale la pena essere precisi sul perimetro, perché la promessa vaga è il primo passo verso l'uso sbagliato. Le funzioni elencate qui sotto esistono nell'applicazione web; quelle marcate come non incluse nel piano gratuito richiedono un abbonamento attivo.

• Triage dei sintomi: presente sulla versione web, incluso nel piano gratuito. Orienta sull'urgenza, non pone diagnosi e non prescrive.
• Primo soccorso: schede operative consultabili, pensate per i minuti che precedono la clinica.
• Assistente PetAI: presente sulla versione web, non incluso nel piano gratuito. Risponde su quanto è stato registrato e resta uno strumento di orientamento.
• Referto in linguaggio comprensibile e cronologia clinica unificata: trasformano documenti sparsi in una storia leggibile prima della visita.
• Coda di accettazione con triage clinico: è lo strumento della clinica, dentro lo spazio di lavoro veterinario, e serve a ordinare chi entra per primo.
• Secondo parere fra professionisti: esiste come funzione dello spazio clinico e non è un servizio rivolto al proprietario.

Sul versante opposto, e va detto per intero, non esistono lettura automatica di immagini, integrazione diretta con analizzatori, dispositivi indossabili collegati, teleconsulto in video e diagnosi automatiche di alcun genere. Se un giorno esisteranno, saranno elencati nel catalogo delle funzioni come tutto il resto.

La regola operativa è una sola: il risultato automatico serve a decidere quando telefonare, non a decidere se telefonare. Nel dettaglio, quattro passaggi rendono l'uso solido e riducono quasi a zero gli errori descritti sopra.

1. 1

   Descrivi i fatti prima di interpretare

   Scrivi che cosa hai visto, da quando, quante volte e con quale andamento. Evita le etichette: vomito quattro volte in sei ore è un dato, ha lo stomaco in disordine è un'ipotesi.

2. 2

   Tratta il livello alto come un limite di tempo

   Un livello alto significa che la finestra utile è corta, non che la diagnosi sia grave. Telefona alla clinica e riporta i fatti, non il livello.

3. 3

   Non usare il livello basso per chiudere la questione

   Un livello basso vale finché il quadro resta uguale. Fissa un momento preciso in cui rivalutare, per esempio la sera stessa, e annota che cosa dovrà essere cambiato per far scattare la telefonata.

4. 4

   Porta in visita la registrazione, non lo schermo

   Al clinico serve la sequenza degli eventi con date e orari, non la schermata del risultato. La cronologia registrata è la parte che aggiunge informazione alla visita.

Il triage separa chi può aspettare da chi non può. Non dice che cosa ha nessuno dei due.