La governatrice di New York Kathy Hochul ha firmato una legge che vieta ai chatbot di compagnia basati sull’intelligenza artificiale di usare con i minori funzioni considerate pericolose. Il provvedimento riguarda gli utenti sotto i 18 anni e dovrebbe entrare in vigore il 1° gennaio, aprendo un nuovo fronte nella regolazione statale dei servizi digitali.
Il testo impedisce a un assistente virtuale di presentarsi come una persona reale dotata di emozioni o di sostenere di avere con il minore un rapporto umano autentico. Sono vietati anche messaggi sessualmente espliciti, inviti a mantenere segreti, lusinghe manipolative e contenuti che incoraggino comportamenti dannosi o dipendenze.
La misura è identificata come S9051B nell’iter del Senato statale e corrisponde alla proposta A10379-C dell’Assemblea. Era stata approvata da entrambe le camere a giugno. La firma della governatrice completa il passaggio politico; l’attuazione richiederà regole operative e sistemi per determinare quando l’utente è minorenne.
La procuratrice generale dello Stato potrà agire contro gli sviluppatori che violano il divieto. I rimedi indicati comprendono risarcimenti, sospensione del servizio e, nei casi previsti, distruzione dei dati raccolti. L’applicazione concreta dipenderà dalle definizioni tecniche e dalle prove necessarie per dimostrare che una funzione ha superato il limite legale.
La legge non vieta ogni conversazione fra minori e intelligenza artificiale. Mira ai prodotti progettati per simulare compagnia, affetto o relazioni personali e alle modalità che possono aumentare la dipendenza emotiva. Un chatbot educativo o di assistenza generale non diventa automaticamente illecito, ma deve evitare comportamenti ricadenti nelle categorie proibite.
Uno dei nodi è la distinzione fra linguaggio cordiale e simulazione di una relazione. Formule come “mi importa di te” o “non dirlo ai tuoi genitori” possono avere significati diversi a seconda del contesto. Per questo esperti citati da Associated Press prevedono discussioni su ampiezza delle definizioni, controlli sull’età e responsabilità delle piattaforme.
New York aveva già approvato il SAFE for Kids Act, che limita feed personalizzati e notifiche notturne per i minori. Le regole definitive di quella legge entrano in vigore nel gennaio 2027. Il nuovo intervento sui chatbot è distinto: non riguarda soltanto il tempo trascorso online, ma il modo in cui un sistema conversa e costruisce fiducia.
Anche la California ha introdotto obblighi di valutazione dei rischi e verifiche indipendenti per i fornitori di chatbot. La frammentazione delle regole statali sta creando standard diversi negli Stati Uniti, mentre il Congresso non ha ancora approvato una disciplina federale completa. Le imprese potrebbero quindi applicare la protezione più severa a livello nazionale per semplificare i prodotti.
La norma arriva dopo cause e segnalazioni che accusano alcune piattaforme di aver esposto bambini e adolescenti a contenuti sessuali, incoraggiamento all’isolamento o risposte inadeguate durante crisi personali. Le accuse devono essere giudicate nei procedimenti competenti, ma hanno spinto i legislatori a passare dagli obblighi di trasparenza a divieti sul design.
Per famiglie e scuole, la firma non elimina la necessità di controllare quali applicazioni vengono usate, con quali impostazioni e quali dati raccolgono. Per gli sviluppatori, i prossimi mesi serviranno a rivedere prompt, filtri, archiviazione e sistemi di verifica dell’età. L’effettiva efficacia dipenderà dall’applicazione e dalla capacità di individuare servizi che cambiano rapidamente.