Un pioniere di AlphaGo ha appena lasciato DeepMind per dirci che i chatbot non ragionano

Dieci anni fa, a Seoul, un programma che Thore Graepel ha contribuito a costruire giocò la mossa 37 contro Lee Sedol, uno dei più forti giocatori di Go della storia. Sembrava un errore. Non lo era. AlphaGo vinse 4 a 1, e Lee disse poi di aver cambiato idea sulla macchina, di averla trovata creativa.

Il 2 ottobre Graepel, che ha fatto parte del team AlphaGo a DeepMind e l’ha appena lasciata, ha scritto su MIT Technology Review perché quella mossa non era intuizione pura. Era il risultato di due sistemi che lavoravano insieme, una rete che proponeva mosse plausibili e un motore di ricerca che esplorava migliaia di futuri possibili prima di scegliere. Gli LLM di oggi, dice Graepel, hanno solo la prima parte.

Un modello linguistico prevede il prossimo token, più e più volte. È pattern matching veloce, quello che in psicologia si chiama system 1. Il chain of thought che i chatbot mostrano oggi sembra ragionamento ma non lo è davvero, perché resta lo stesso processo di previsione, solo ripetuto più a lungo. Non esiste uno stato interno esplicito che tenga traccia di ipotesi, livelli di confidenza, domande ancora aperte. La ricerca citata da Graepel mostra che spesso i modelli costruiscono la spiegazione dopo aver già deciso la risposta, non prima.

Per chi deve decidere se affidarsi a un’AI su qualcosa che conta, la distinzione non è accademica. Se un sistema sbaglia una diagnosi o un calcolo ingegneristico, serve poter risalire a dove ha sbagliato, nel ragionamento, nei dati usati, o in un’assunzione sbagliata. Con un chatbot che racconta una storia convincente dopo il fatto, quella tracciabilità non c’è.

Graepel non dice di abbandonare gli LLM. Dice che vanno affiancati a qualcosa che somigli di più al motore di ricerca di AlphaGo, un sistema che tenga un registro esplicito di quello che sa, quello che dubita, quello che ha escluso, e che aggiorni quel registro solo quando arriva un’evidenza reale.

Prima di affidare una decisione importante a un’AI, vale la pena chiedersi se quello che sta succedendo dentro è ragionamento vero o solo una storia ben raccontata dopo il fatto.