L'AI ora opera da sola i tuoi sistemi. Il 70% delle aziende europee non riesce a controllarla

Il 3 settembre OpenAI ha rilasciato GPT-6 Astra, il modello che secondo l’azienda stessa segna un salto generazionale sull’uso autonomo del computer. Astra può compilare moduli, aggiornare un CRM, navigare un browser, scrivere e testare software, senza che nessuno guidi ogni singolo passaggio. Nella scheda di sicurezza pubblicata insieme al modello, OpenAI dichiara che Astra raggiunge la soglia “Critical” del proprio framework di sicurezza informatica, la fascia più alta prevista prima del rilascio. Un modello abbastanza capace da trovare da solo vulnerabilità informatiche sconosciute, cosa che secondo l’azienda è già successa due volte durante i test interni.

Astra non è un esperimento di laboratorio. Sta arrivando in questi giorni su ChatGPT Plus, Pro, Business ed Enterprise, oltre che tramite API, Azure e AWS Bedrock. Significa che la capacità di far operare un’AI dentro i sistemi aziendali reali, non solo dentro una chat, passa da eccezione a funzione disponibile per chiunque abbia un abbonamento.

La domanda che conta a questo punto non è più se questi agenti funzionano. È chi, dentro un’azienda, sa davvero cosa stanno facendo una volta collegati ai sistemi veri.

Cosa dicono i dati europei

Una ricerca di Veeam pubblicata questo mese fotografa la risposta attuale delle aziende EMEA, e non è rassicurante. Il 70% delle organizzazioni ammette che i workflow AI automatizzati toccano dati aziendali sensibili senza una supervisione piena. Il 67% osserva dipendenti che costruiscono da soli workflow autonomi che restano fuori dal controllo dell’IT. In Germania la situazione è più marcata, l’81% dei dirigenti ammette accessi non verificati a dati sensibili, il 79% vede emergere “workflow ombra” che i team IT non riescono a tracciare. Nel Regno Unito il 75% dichiara di non avere visibilità sufficiente su come gli agenti AI gestiscono i dati sensibili.

Il problema sta salendo dal reparto IT alla sala del consiglio. Il 58% delle organizzazioni è già soggetto a nuove normative sulla responsabilità aziendale legata all’AI, e nel 12% di questi casi non è chiaro chi risponda di cosa a livello individuale. Tra i dirigenti, il 40% teme conseguenze legali personali, il 39% segnala un controllo più stretto da parte del board, il 37% dichiara più stress, il 32% tensioni con altri membri del management. Non tutto l’effetto è negativo, il 45% racconta anche un allineamento migliore tra i vertici e più attenzione alla resilienza informatica, ma il quadro resta quello di un rischio che nessuno aveva pianificato di gestire a questo livello.

La domanda che conta per chi decide

Una parte delle aziende sta già reagendo. Il 41% delle organizzazioni EMEA sta costruendo modelli AI locali o proprietari proprio per limitare lo shadow AI, il 49% preferisce un approccio ibrido, modelli locali per i dati sensibili e modelli pubblici per i compiti generici. Sono scelte sensate, ma rispondono solo a metà del problema. Cambiare modello non basta se nessuno in azienda sa elencare quali agenti sono attivi, su quali sistemi, con quali permessi.

Per una PMI italiana che non ha ancora adottato agenti autonomi su larga scala, il momento utile per porsi la domanda è prima, non dopo. Non quali strumenti AI comprare, ma chi avrà la visibilità su cosa fanno una volta installati, e chi risponde se qualcosa va storto.