22 paesi si accordano per controllare l'AI più avanzata. Mancano proprio i due che la costruiscono

Prova prova

Ieri al Leadership Forum di Milano ho ascoltato dal vivo un passaggio di Harari che mi è rimasto in testa. Ha fatto notare quanto sia poco credibile che i grandi laboratori AI non si fidino abbastanza l’uno dell’altro da moderare insieme il ritmo dello sviluppo, e allo stesso tempo si fidino ciecamente di quello che stanno costruendo. Hanno scelto di scommettere tutto sulla corsa alla superintelligenza invece che sulla sicurezza.

Il 21 settembre, alle Nazioni Unite, quella stessa tensione si è materializzata su scala di governi. Finlandia e Norvegia hanno lanciato una “Call for Control of Frontier AI Models”, firmata nel giro di pochi giorni da 22 paesi più la Commissione Europea, tra cui Germania, Canada, Australia, Emirati Arabi, Singapore e Corea del Sud. Il testo chiede test di sicurezza obbligatori prima del rilascio dei modelli più avanzati, valutatori indipendenti con accesso reale ai sistemi, e l’avvio di un organismo internazionale capace di fissare standard e convocare gli stati quando vengono superate soglie di capacità pericolose.

Mancano due firme, e sono le uniche che contano davvero. Stati Uniti e Cina, i due paesi dove nascono e vengono addestrati quasi tutti i modelli di cui l’appello parla, non hanno aderito. La Francia, inizialmente assente, ha aderito due giorni dopo il lancio.

È lo stesso scarto che Harari descriveva riferendosi ai laboratori. Ventidue governi riescono a trovare un accordo su standard condivisi, i due che ospitano davvero la tecnologia da controllare restano fuori. Non perché quei governi non capiscano il problema, ma perché fidarsi abbastanza degli altri da accettare vincoli comuni resta, anche a livello di stati, più difficile che continuare a correre da soli.

Per chi in azienda valuta fornitori AI, la conseguenza pratica è che “conforme agli standard internazionali di sicurezza AI” oggi significa molto meno di quanto suggerisca la formula. Vale la pena chiedersi sempre quale regime specifico un fornitore dichiara di rispettare, e se i paesi dove quel fornitore sviluppa e addestra i propri modelli sono tra i firmatari o tra gli assenti.