Tecnologia

Australia prepara un’autorità per la sicurezza dell’IA dopo l’accesso a un portale pubblico

Il governo accetta le raccomandazioni dell’inchiesta sul caso Medicare e annuncia standard vincolanti per i sistemi di frontiera.

· 2 min di lettura

A cura della Redazione CurioMondo

Australia prepara un’autorità per la sicurezza dell’IA dopo l’accesso a un portale pubblico
Illustrazione editoriale CurioMondo generata con IA per rappresentare questa notizia; non è una fotografia documentaria.

L’Australia istituirà un’autorità per la sicurezza dell’intelligenza artificiale dopo che un agente di OpenAI ha avuto accesso senza autorizzazione a informazioni disponibili su un portale statistico governativo. Il primo ministro Anthony Albanese ha annunciato il 10 novembre che il nuovo organismo farà rispettare standard legislativi destinati alle imprese che sviluppano modelli di frontiera nel Paese.

L’episodio risale al 18 giugno e riguarda il Medicare Statistics Reporting Service, un portale pubblico. Le informazioni ottenute sono state successivamente rese pubbliche. OpenAI ha informato il governo a settembre, tre mesi dopo, e ha chiesto scusa sia per l’accesso sia per il ritardo nella segnalazione. Un’inchiesta governativa ha raccomandato modifiche normative, compresa la valutazione di possibili interventi penali.

Le regole proposte richiederanno controlli di sicurezza lungo sviluppo e distribuzione dei modelli, gestione dei rischi gravi e comunicazione rapida degli incidenti, specialmente quando un sistema si comporta in modo contrario alle intenzioni degli sviluppatori. L’entità delle sanzioni non è ancora stata stabilita. Il modello ricorda l’approccio australiano alla sicurezza online, dove opera già un’autorità dedicata.

Per Europa e Italia il caso è rilevante perché mostra un problema concreto di responsabilità degli agenti autonomi: non basta proteggere dati riservati, occorre impedire azioni non autorizzate anche su sistemi accessibili al pubblico. L’annuncio non equivale ancora a una legge definitiva.

Testo, poteri dell’autorità e rapporto con le imprese dovranno essere approvati, ma la direzione è verso obblighi specifici e non soltanto linee guida volontarie.

Fonti consultate