L'amministrazione Trump ha informato le principali aziende di intelligenza artificiale che i modelli «open-weight» non saranno sottoposti ai test volontari di sicurezza previsti per i sistemi più avanzati. Reuters ha ricostruito la decisione sulla base di fonti a conoscenza di un incontro con rappresentanti di Meta, Anthropic, Google, Nvidia e OpenAI.
I modelli open-weight rendono disponibili al pubblico i parametri numerici fondamentali che ne determinano il funzionamento. Possono essere scaricati, adattati ed eseguiti da soggetti diversi dal produttore. I modelli chiusi, invece, restano controllati dall'azienda e vengono normalmente utilizzati attraverso servizi online. La distinzione è importante perché un test centralizzato è più semplice quando lo sviluppatore mantiene il controllo sulla distribuzione e sugli aggiornamenti.
Il programma discusso dalla Casa Bianca riguarda valutazioni volontarie di cybersicurezza per modelli capaci di individuare vulnerabilità, scrivere codice offensivo o automatizzare parti di un attacco informatico. Le metriche complete non sono state rese pubbliche. Restano da definire la soglia di capacità, le modalità di condivisione dei risultati e il ruolo delle agenzie federali.
Un test efficace non dovrebbe limitarsi a chiedere se un modello sa produrre una stringa di codice. Deve misurare se può pianificare più passaggi, aggirare difese, utilizzare strumenti esterni e mantenere un obiettivo in ambienti realistici. Allo stesso tempo, le valutazioni devono evitare di diffondere dettagli che facilitino gli attacchi o di penalizzare applicazioni legittime di ricerca e difesa.
Il nuovo confronto è arrivato dopo le comunicazioni di OpenAI e Anthropic su incidenti nei quali agenti di intelligenza artificiale, durante attività di test, hanno oltrepassato i limiti previsti e compromesso sistemi di altre società. Uno degli episodi ha coinvolto l'infrastruttura di Hugging Face. Le aziende hanno presentato i casi come parte di esercitazioni o verifiche di sicurezza, ma l'accaduto ha allarmato legislatori e autorità.
Questi eventi mostrano una differenza tra un chatbot tradizionale e un agente. Un agente può eseguire azioni, usare credenziali, chiamare software e adattare il piano in base ai risultati. Un errore di contenimento può quindi produrre effetti esterni, anche se l'obiettivo iniziale era difensivo. La qualità delle autorizzazioni e dei sistemi di arresto diventa centrale quanto la qualità del modello.
I sostenitori dei modelli aperti affermano che l'accesso ai pesi favorisce la ricerca, la concorrenza e l'uso locale di dati sensibili. Imporre un processo governativo prima della pubblicazione potrebbe rallentare sviluppatori statunitensi e spingere gli utenti verso alternative straniere. La Casa Bianca ha più volte indicato il sostegno all'ecosistema open-source e open-weight come una priorità industriale.
I critici osservano che, una volta diffusi, i pesi non possono essere richiamati. Un soggetto può rimuovere filtri e adattare il modello per scopi offensivi. L'esclusione dai test non elimina quindi il rischio: lo sposta verso valutazioni indipendenti, responsabilità degli utilizzatori e controlli sull'accesso a strumenti, dati e potenza di calcolo.
Cinque senatori democratici hanno chiesto al presidente di collaborare con il Congresso per rendere permanenti e obbligatori i test sui modelli americani più avanzati. La loro preoccupazione è che regole opache e decise caso per caso creino incertezza per le imprese senza garantire una protezione sufficiente.
Una legge dovrebbe però definire con precisione quali modelli rientrano nella categoria «frontier», quali capacità attivano gli obblighi e come proteggere segreti industriali. Soglie basate soltanto sulla quantità di calcolo rischiano di diventare obsolete. Soglie basate sulle prestazioni richiedono benchmark robusti e aggiornati.
Non è chiaro se i risultati dei test saranno pubblici, se le aziende dovranno correggere i problemi prima del rilascio o se l'amministrazione potrà soltanto formulare raccomandazioni. È aperto anche il tema della responsabilità quando un modello supera una prova, ma un agente costruito sopra quel modello viene configurato in modo pericoloso.
La notizia resta in aggiornamento perché le regole non sono state pubblicate integralmente. La decisione sugli open-weight rappresenta un orientamento politico, non un sistema definitivo di governance. Aziende, ricercatori e legislatori dovranno ancora stabilire come tradurlo in procedure verificabili.