L'AI fa le analisi. Ma chi in azienda sa ancora leggere i dati?

Molte organizzazioni hanno adottato strumenti AI per produrre report, analisi e insight e hanno guadagnato velocità. Quello che non hanno ancora misurato è se, nel processo, hanno perso la capacità di valutare criticamente quello che quei sistemi producono. Il rischio non è che l'AI sbagli. È che quando sbaglia, nessuno in azienda se ne accorga. Questa distinzione è più importante di quanto sembri. Un sistema AI produce output coerenti, ben formattati, apparentemente autorevoli. Non segnala incertezza, non genera frizione, non mette in discussione le proprie premesse. Se quelle premesse sono sbagliate, l'output resta comunque plausibile. E plausibile, in assenza di chi sappia contestarlo, diventa equivalente a corretto.

Produrre un report non è la stessa cosa che saperlo leggere

C'è una differenza che spesso viene compressa in un'unica competenza, quella analitica, ma che in realtà è fatta di livelli distinti. Produrre un report è una cosa, mentre saperlo leggere è un'altra e sapere quando contestarlo è un'altra ancora. Capire se un'analisi apparentemente coerente è costruita su premesse sbagliate è qualcosa di diverso da tutto il resto. Quando un'organizzazione delegava le analisi a un presidio interno o esterno, il processo generava discussione. I numeri venivano interpretati, contestati, messi in relazione con la conoscenza del business. Da quella frizione emergeva comprensione. I sistemi AI non generano quella frizione. Restituiscono una risposta, e quella risposta tende a essere accettata, perché la forma segnala competenza e il segnale di competenza disattiva il dubbio.

Quello che si perde non è tecnico

In un progetto su cui stiamo lavorando, un'organizzazione ha deciso di gestire internamente attività analitiche che fino a quel momento erano presidiate dall'esterno. La motivazione era comprensibile, gli strumenti erano disponibili, i dati accessibili, e la percezione era che il valore aggiunto esterno fosse riducibile a competenze tecniche ormai acquisibili in autonomia. Quello che non era stato trasferito non era tecnico. Era la capacità di sapere quali domande fare ai dati, di riconoscere quando un pattern è anomalo, di distinguere un'analisi che conferma un'ipotesi da una che la mette davvero alla prova. Stiamo ancora valutando gli esiti di questa transizione, la situazione è aperta e per questo abbiamo deciso di definire insieme un set di indicatori che permettano di misurare nel tempo se la qualità decisionale dell'organizzazione è migliorata o se il problema si è spostato più in profondità, dove è più difficile vederlo.

Il deskilling organizzativo è più insidioso di quello individuale

Uno studio multicentrico pubblicato su The Lancet Gastroenterology & Hepatology nel 2025 su oltre 23.000 procedure ha documentato che i gastroenterologi che lavoravano senza AI dopo averla usata abitualmente mostravano un calo significativo nel tasso di rilevamento di adenomi, dal 28,4% al 22,4%, mentre il tasso restava stabile con il supporto AI. È una misura diretta di dipendenza comportamentale e di erosione della competenza autonoma. Il fenomeno si chiama automation bias ed è la tendenza a sovrastimare l'affidabilità degli output automatizzati proprio perché prodotti da un sistema che sembra oggettivo. Chi usa l'AI per le analisi tende a sviluppare una fiducia negli output inversamente proporzionale alla propria capacità di verificarli in modo indipendente. Più lo strumento è sofisticato, più questo effetto si amplifica. Ma il deskilling organizzativo è più insidioso di quello individuale. Un singolo che perde capacità analitica può essere affiancato. Un'organizzazione che ha sistematicamente ridotto il presidio umano sul proprio patrimonio informativo non ha più il termine di paragone per capire se gli output che riceve sono corretti. Non sa cosa non sa.

La metrica che manca

La vera misura del valore di un sistema AI non è la velocità con cui produce analisi. È se l'organizzazione prende decisioni migliori dopo averlo adottato. Questa misurazione richiede di avere definito come erano le decisioni prima, su quali basi venivano prese, quali si sono rivelate corrette nel tempo. Quasi nessuna organizzazione lo fa. Si guarda la velocità di produzione dei report, si guarda il costo operativo, ma non si misura mai sistematicamente se la qualità del giudizio è migliorata o si è semplicemente resa meno visibile. Chi invece mantiene al proprio interno la capacità di interrogare gli output e di fare le domande scomode sui dati prima che quei dati diventino la base di una decisione, non lo fa per inerzia o per resistenza agli strumenti, lo fa perché sa che la velocità di un sistema vale quanto la solidità di chi è in grado di governarlo.