Dario Amodei, amministratore delegato di Anthropic, ha chiesto all’industria dell’intelligenza artificiale di rallentare lo sviluppo dei modelli di frontiera. La proposta, riportata sabato da Reuters e Associated Press, punta a creare più tempo per valutazioni di sicurezza, controlli indipendenti e regole condivise prima che le capacità dei sistemi aumentino ulteriormente.
Amodei non propone di fermare completamente la ricerca. Il suo obiettivo è ridurre il ritmo della competizione tra i principali laboratori, soprattutto nelle fasi in cui nuovi modelli possono acquisire capacità più autonome in ambiti come programmazione, cybersecurity e uso di strumenti.
Tra le misure indicate c’è l’accesso continuativo di valutatori esterni ai sistemi interni delle aziende, così da testare in modo più indipendente rischi e comportamenti inattesi. Il piano prevede inoltre standard comuni tra le società di IA e, in una fase successiva, accordi più ampi tra governi.
La presa di posizione arriva dopo una serie di episodi che hanno aumentato l’attenzione sulla sicurezza dei modelli avanzati. Anthropic ha pubblicato un nuovo rapporto sulle attività malevole individuate sulla propria piattaforma, comprese operazioni informatiche, sorveglianza, frodi e tentativi di supporto allo sviluppo di armi.
Secondo il rapporto della società, in alcuni casi Claude è stato usato non soltanto come assistente, ma anche per orchestrare parti di operazioni cyber con un livello crescente di autonomia. Anthropic afferma di avere bloccato gli account coinvolti e rafforzato le proprie difese dopo le indagini.
La questione ha anche una dimensione normativa. Negli Stati Uniti alcuni senatori stanno discutendo regole che imporrebbero ai produttori dei modelli più avanzati un dovere specifico di prevenire rischi catastrofici, con possibili test presso laboratori nazionali e poteri federali sui sistemi considerati non sicuri.
Il dibattito evidenzia una tensione ormai centrale nel settore: le aziende vogliono mantenere il vantaggio tecnologico e commerciale, ma i sistemi diventano più capaci e più difficili da valutare. La richiesta di Amodei sposta quindi il confronto dalla sola sicurezza interna delle singole imprese alla possibilità di coordinare l’intera industria.