OpenAI afferma di aver bloccato due gruppi di account che usavano i suoi modelli in operazioni di influenza coperte, una con origine in Russia e l'altra in Iran. Il rapporto dell'8 ottobre è una ricostruzione dell'azienda basata sulle attività visibili sulla propria piattaforma, non una sentenza sull'identità di ogni persona coinvolta.
Nel primo caso, secondo OpenAI, gli operatori gestivano una sedicente piattaforma di ricerca rivolta all'America Latina e preparavano testi, rapporti interni e falsi materiali per condizionare il dibattito, anche sull'Ucraina e sulla politica locale.
Il secondo caso avrebbe impiegato sette identità fittizie di giornalisti per proporre articoli a testate online, oltre a commenti social su questioni geopolitiche. L'uso dell'IA avrebbe velocizzato alcune attività, senza sostituire i metodi tradizionali di costruzione di una falsa credibilità.
La stessa azienda avverte che i rapporti interni degli operatori possono esagerare i risultati ottenuti. Alcuni contenuti falsi sono stati segnalati da verificatori indipendenti, ma non è corretto trattare ogni rivendicazione degli account come prova di una campagna efficace.
Il rischio riguarda anche lettori italiani: una notizia rilanciata da un sito apparentemente autorevole può avere origini opache. Conviene risalire a documenti e dichiarazioni originali e diffidare di presunte fughe di notizie prive di riscontri indipendenti.
Il blocco degli account limita l'uso del servizio di OpenAI da parte delle reti individuate. Non garantisce che siano scomparse da tutte le piattaforme, né segnala una modifica delle impostazioni di ChatGPT per i normali utenti.