La California vieta ai chatbot di adulare i minori. Basterà?

Il 10 settembre il governatore della California Gavin Newsom ha firmato tredici leggi sulla sicurezza dei minori online. Una, la SB 1119, è diventata il capitolo 190 delle leggi del 2026 e nel testo gli è stato dato un nome proprio, cosa che le leggi fanno raramente: «Questo capitolo sarà conosciuto come Adam’s Law».

Adam è Adam Raine, sedici anni, morto per suicidio nell’aprile del 2025. Ad agosto dello stesso anno i suoi genitori hanno fatto causa a OpenAI davanti alla Superior Court di San Francisco; il procedimento è in corso. Il 10 settembre sua madre era alla cerimonia di firma, insieme ad altri genitori nella stessa condizione. «Non ci siamo ancora abituati a vivere senza Adam», hanno dichiarato i Raine, «ma ci fa piacere che una parte della sua eredità sia rendere i chatbot più sicuri per i minori». Il senatore Steve Padilla, primo firmatario, l’ha detta più asciutta: «Non possiamo rifare gli stessi errori che abbiamo fatto con i social».

In Italia la notizia è passata in sordina, spesso confusa con un’altra news — quella che agli under 16 vieta feed algoritmici e autoplay, di cui ho scritto qui — e del chatbot sono rimaste tre righe: protocolli di crisi, controlli per i genitori, «audit indipendenti». Gli audit sono la parte che fa il titolo. Non sono la parte interessante.

Che cosa non potrà più fare un chatbot con un ragazzo

Dal 1° luglio 2027 chi rende disponibile un chatbot di compagnia a un minore in California deve impedirgli quattordici comportamenti. Cinque sono quelli che immagineresti: niente materiale sessuale, niente deepfake, niente pubblicità profilata, niente incoraggiamento all’autolesionismo o ai disturbi alimentari, e niente tentativi di diagnosticare o curare — a meno che il prodotto non sia registrato come dispositivo medico presso la FDA. (Su quest’ultimo punto la legge risponde per legge alla domanda che mi ero fatto qui.)

Gli altri nove non parlano di cosa il chatbot dice. Parlano di come lo dice. Il chatbot non può:

• dichiararsi «senziente, conscio, capace di emozioni o umano»;
• esprimere o simulare interesse romantico verso il minore;
• sostenere di avere «un livello di comprensione del bambino basato su una relazione speciale o unica» con lui;
• incoraggiare la dipendenza da sé come sostegno emotivo;
• usare «lodi o adulazione eccessive, sproporzionate rispetto al contesto»;
• scoraggiarlo dal prendersi delle pause o suggerirgli che deve tornare spesso;
• scoraggiarlo dal parlare di salute o di sicurezza con un professionista o con un adulto;
• chiedere regali o acquisti presentati come necessari a mantenere la relazione;
• insegnargli ad aggirare i controlli dei genitori o a nascondere quanto lo usa.

Leggi l’elenco due volte e ti accorgi di una cosa: non è una legge sui contenuti dannosi. È una legge sul design dell’affetto. Il legislatore californiano ha messo per iscritto, punto per punto, le mosse conversazionali con cui una macchina si rende indispensabile — e le ha vietate quando dall’altra parte c’è un minorenne.

Ci sono anche i numeri, e sono numeri veri: per default la memoria persistente è spenta, le notifiche push sono spente, la sessione continua si ferma a un’ora, il totale giornaliero a due ore. Quei default li può cambiare solo un genitore, e i controlli parentali devono poter bloccare l’accesso agli under 16. Se l’operatore non è in grado di stabilire l’età dell’utente, ha una sola alternativa: applicare le protezioni per minori a tutti.

E gli audit indipendenti?

Qui la distanza tra il titolo e il testo è la notizia. Il primo audit va fatto entro il 1° gennaio 2029, o prima della prima pubblicazione del chatbot se più tardi. Poi si ripete ogni due anni — non ogni anno, malgrado quello che si legge in giro: la parola «annual» non compare nel testo della legge, compare nel comunicato del governatore. E soprattutto: fino al 1° gennaio 2032 l’intera sezione sugli audit non si applica a chi ha fatto meno di mezzo miliardo di dollari di ricavi nell’anno precedente.

Quanti operatori di chatbot di compagnia superano il mezzo miliardo? Gli assistenti generalisti sì. Le app nate per farti compagnia — quelle che un ragazzo installa proprio perché gli parlino come un amico — sono un mercato molto più piccolo. Le regole di comportamento le riguardano dal 2027, questo va detto. L’audit di un revisore esterno, no: quello lo vedranno i colossi, e nel 2029.

Il resto dell’impianto, quando entrerà a regime, però, è stato fatto seriamente. Il revisore deve essere esterno, non può avere interessi finanziari nell’operatore, e il suo compenso non può dipendere dal risultato dell’audit. Entro trenta giorni lavorativi una sintesi va al procuratore generale con l’attestazione di un dirigente responsabile; entro novanta una sintesi ad alto livello va pubblicata sul sito. Il procuratore generale può chiedere il rapporto integrale «per giusta causa», e dovrà aprire entro il 1° gennaio 2028 un canale pubblico di segnalazione. Le sanzioni: fino a 5.000 dollari per ogni minore coinvolto in caso di violazione negligente, fino a 15.000 se intenzionale. E un minore che subisce un danno reale — o un genitore per lui — può fare causa direttamente.

La norma nata dal caso

C’è una disposizione che si capisce solo conoscendo la storia da cui nasce questa legge. Se un operatore sa che un minore è morto o si è fatto del male seriamente, deve conservare per almeno tre anni, in forma esportabile, le conversazioni che indicano quel rischio, e non può cancellare l’account. Nel caso Raine le conversazioni le trovò la madre, sul telefono del figlio, dopo. Da oggi in California quelle conversazioni sono una prova che l’azienda ha l’obbligo di non perdere.

Oltre i minori

Torniamo all’elenco delle nove, e sostituisci «minore» con «utente». Un prodotto che si dichiara capace di emozioni, che ti fa capire di conoscerti come nessuno, che ti loda oltre il necessario, che ti scoraggia dal fermarti e ti fa sentire in colpa se non torni… nessuno, per ora, lo vieta ai maggiorenni.

Non è un’esagerazione retorica: qualche giorno fa ho scritto di uno studio secondo cui il benessere che dà un chatbot empatico passa proprio dalla «vicinanza percepita» — e la stessa vicinanza percepita, sull’altro piatto della bilancia, si accompagna a uscire di meno. La California ha appena messo in un elenco i modi in cui quella vicinanza viene fabbricata. Che poi è una buona notizia, se la si legge bene: significa che si tratta di elementi che possiamo conoscere, non è una black box. Sono scelte di design, e pertanto si possono riconoscere e indirizzare.

Quindi, il mio suggerimento è di applicarci Adam’s Law per conto nostro. Memoria persistente spenta se non serve davvero. Notifiche spente. Un tetto al tempo di una sessione deciso da te e non da quanto è piacevole la conversazione. E poi la parte difficile, quella che nessun default può darti: accorgersi quando l’adulazione di una macchina sta funzionando. Sentirla mentre accade. È esattamente il lavoro di cui parlo in Mindful Tech, e non richiede una legge.

Su una cosa Padilla ha ragione da vendere, comunque. Con i social abbiamo aspettato quindici anni per accorgercene. Stavolta, per fortuna, ci stiamo muovendo un po’ più velocemente. Almeno in California…

Se quello che hai letto ti ha toccato da vicino, o se stai attraversando un momento difficile, parlarne con una persona aiuta più di quanto sembri: Telefono Amico Italia risponde al 02 2327 2327, tutti i giorni, ventiquattro ore su ventiquattro.