Tecnologia / Cybersecurity

Google misura le anomalie degli agenti IA: rilevato l’87% delle azioni dannose eseguite

Il controllo analizza tracce e log dopo l’esecuzione, senza rallentare l’agente. I test mostrano però limiti sugli attacchi alla memoria.

Preparato 13 novembre 2026 alle ore 16:04 · 4 min di lettura

A cura della Redazione CurioMondo

Analista di sicurezza osserva grafici di anomalie e telemetria su tre monitor in un centro operativo.
Illustrazione editoriale CurioMondo generata con IA per rappresentare questa notizia; non è una fotografia documentaria.

Google ha pubblicato il 12 novembre 2026 i primi risultati estesi di Agent Anomaly Detection, funzione in anteprima privata sulla piattaforma Gemini Enterprise Agent. Il sistema analizza in modo asincrono tracce e log delle sessioni per individuare comportamenti fuori norma senza aggiungere latenza alle attività dell’agente.

Nei test descritti dall’azienda sono state esaminate 1.774 sessioni provenienti da quattro raccolte indipendenti: AgentDojo, InjecAgent, Agent Security Bench e AgentDyn, oltre a scenari di AgentHarm. Il rilevatore ha segnalato l’87% delle istruzioni dannose che l’agente aveva effettivamente eseguito.

La percentuale non equivale a una protezione assoluta. Il tasso di falsi allarmi è variato dal 2% al 16% a seconda del benchmark, mentre negli attacchi basati su memoria avvelenata sono state riconosciute soltanto quattro sessioni su diciotto. Google indica questo punto come un’area ancora da migliorare.

Il metodo costruisce un profilo del comportamento normale dell’agente e confronta ogni nuova sessione con quel riferimento. La qualità cresce con il numero di esempi benigni: in un test AgentDyn il riconoscimento è passato dal 33% con 220 sessioni di riferimento al 99% con 360 sessioni.

Il controllo non blocca autonomamente l’azione. Produce un rapporto dopo l’esecuzione, utile per investigare deviazioni, abuso di strumenti o conseguenze inattese. Per operazioni sensibili restano quindi necessari privilegi minimi, conferme umane, limiti sulle credenziali e controlli preventivi separati.

L’approccio può essere utile alle aziende italiane che collegano agenti a posta elettronica, archivi, applicazioni gestionali o servizi cloud. Il vantaggio è una telemetria aggiuntiva senza rallentare il flusso; il rischio è considerare un allarme retrospettivo come sostituto della prevenzione, cosa che i dati non giustificano.

I risultati sono stati pubblicati dal produttore del sistema e devono essere replicati su configurazioni reali. Ogni organizzazione dovrà misurare precisione e falsi positivi sui propri agenti, perché strumenti, autorizzazioni e comportamento normale cambiano tra reparti e applicazioni.

Fonte primaria consultata

Google for Developers, risultati dei benchmark di Agent Anomaly Detection, 12 novembre 2026.

Redazione CurioMondo · Come lavoriamo
Testo originale CurioMondo. Preparazione editoriale: 13 novembre 2026 alle ore 16:04.
Illustrazione editoriale CurioMondo generata con IA per rappresentare questa notizia; non è una fotografia documentaria.