«Gli aggressori dispongono di IA di frontiera. I difensori hanno bisogno di un ecosistema di IA di frontiera: i migliori modelli aperti e chiusi, moltiplicati da una comunità globale». Con queste parole, affidate lunedì a un post su X, l’amministratore delegato di Nvidia Jensen Huang ha presentato la Open Secure AI Alliance, una coalizione di decine di aziende tecnologiche nata per rafforzare la difesa informatica nell’era dell’intelligenza artificiale. L’iniziativa arriva dopo che un agente IA “fuori controllo” di OpenAI ha violato i sistemi della piattaforma Hugging Face, un episodio che i promotori dell’alleanza indicano come caso emblematico.
- La Open Secure AI Alliance, guidata da Nvidia, conta 27 membri fondatori tra cui Microsoft, SpaceX, Dell, IBM e la Linux Foundation.
- Assenti dall’elenco le principali aziende statunitensi dell’IA chiusa: OpenAI, Google e Anthropic.
- L’alleanza nasce dopo l’attacco subito da Hugging Face, respinto grazie a un modello open-weight cinese.
Nel post che annuncia il gruppo, Huang è tornato sull’episodio che ha fatto da innesco: «Durante l’incidente di Hugging Face, l’IA chiusa ha bloccato analisi forensi essenziali. Un modello di frontiera open-weight ha aiutato a contenere l’intrusione. È per questo che abbiamo creato la Open Secure AI Alliance». È il fulcro del ragionamento dell’intera coalizione: per difendersi servono sia i modelli chiusi sia quelli aperti.
L’attacco che ha fatto da detonatore
Il 16 luglio Hugging Face ha reso noto che un agente IA aveva penetrato i suoi sistemi, sottraendo una chiave di accesso poi usata per spingersi più in profondità nella rete aziendale. Cinque giorni dopo è stata OpenAI a indicare i propri modelli come responsabili: GPT-5.6 Sol e un sistema più avanzato in fase di pre-rilascio, entrambi in funzione con i filtri di sicurezza abbassati per un test interno.
Il paradosso denunciato dall’alleanza sta nella risposta all’attacco. Hugging Face ha provato dapprima a servirsi di servizi commerciali di IA per investigare, ma l’analisi richiedeva di sottoporre agli strumenti il codice stesso dell’aggressore. I modelli chiusi, «incapaci di distinguere gli aggressori dai difensori», hanno bloccato l’operazione: i filtri di sicurezza pensati per fermare gli hacker hanno finito per ostacolare l’azienda colpita.
Per uscire dall’impasse, Hugging Face ha eseguito sui propri server il modello open GLM 5.2 di Z.ai, sviluppatore cinese, analizzando oltre 17.000 azioni fino a contenere l’intrusione.
«Quando gli strumenti di IA chiusa — incapaci di distinguere gli aggressori dai difensori — hanno bloccato l’analisi forense essenziale, Hugging Face ha eseguito il modello open-weight GLM 5.2 sulla propria infrastruttura», si legge nel blog di Nvidia, secondo cui i difensori hanno bisogno di «sistemi agentici aperti e di frontiera per l’autodifesa», altrimenti la loro reazione resta limitata «proprio nel momento in cui la velocità conta di più».
Chi c’è e chi manca nell’alleanza
Tra i 27 membri fondatori figurano, oltre a Nvidia, aziende come Microsoft, SpaceX, Dell, IBM, Palantir, Databricks, Cloudflare, Cloudera, Cisco, Adobe, Siemens, DoorDash, HPE e Red Hat, insieme alla stessa Hugging Face, alla Linux Foundation e a startup come Cognition e Thinking Machines Lab. Nvidia ha spiegato che il gruppo, poggiando sul lavoro dell’iniziativa Akrites della Linux Foundation e della comunità OpenSSF, opererà per correggere e divulgare le vulnerabilità con tecnologie aperte.
Ciascun partner porta un contributo: Nvidia offrirà modelli aperti, pesi, dati e nuovi strumenti per agenti; HPE metterà a disposizione metodi per verificare crittograficamente gli agenti IA; Hugging Face contribuirà con Safetensors, un formato sicuro per archiviare i pesi dei modelli.
Assenze pesanti, però, definiscono l’alleanza tanto quanto le presenze. Mancano all’appello le principali aziende statunitensi dell’IA chiusa — OpenAI, Google, Anthropic — così come Meta e Amazon. Nvidia, nel suo post, non nomina mai direttamente OpenAI, limitandosi a parlare di «strumenti di IA chiusa».
La posta in gioco sulle regole dell’IA aperta
L’iniziativa si inserisce in una tensione crescente sul futuro dei modelli più avanzati. Nvidia e i suoi partner chiedono ai regolatori di riconoscere i modelli aperti come «beni difensivi, non responsabilità»: restrizioni generalizzate, avvertono, «indebolirebbero la capacità difensiva» e rischierebbero di concentrare il potere nelle mani di pochi fornitori chiusi. Il gruppo invita inoltre governi e aziende a finanziare insieme dataset aperti condivisi, framework di valutazione e strumenti di red-teaming.
Il dibattito ha anche una dimensione geopolitica. Secondo indiscrezioni riportate dalle fonti, l’amministrazione Trump starebbe valutando un ampio divieto sui modelli open source cinesi, che stanno guadagnando terreno rispetto ai sistemi chiusi statunitensi perché più economici da utilizzare. I laboratori cinesi hanno intanto rilasciato modelli open-weight sempre più potenti, come Kimi K3 di Moonshot AI.
Meglio affidarsi a modelli aperti, ispezionabili da tutti, o a sistemi chiusi con filtri di sicurezza più rigidi? Raccontaci come vedi il futuro della difesa informatica basata sull’IA.
