← Indietro
Mente & LavoroTecnologia & Coscienza aggiornato il

La prima legge sul capo-algoritmo: «In California nessuno può essere licenziato da una macchina.»

Il 30 settembre Gavin Newsom, il governatore della California, ha firmato quattro leggi su intelligenza artificiale e lavoro: non si può sanzionare o licenziare un lavoratore "umano" con un sistema automatico senza che un altro essere umano verifichi. Stop ai software che inferiscono lo stato emotivo o raccolgono dati neurali. E poi bisogna dichiarare quando il taglio dei posti di lavoro è dovuto all'efficienza generata dall'automazione tecnologica. Non si vietano gli algoritmi, ma il fatto che l'umano sparisca dai processi decisionali.

Andrea Prosperi
Condividi

Il 30 settembre era l'ultimo giorno utile per Gavin Newsom per firmare o meno le leggi della legislatura in chiusura, prima di lasciare il posto a gennaio. E allora ha approfittato per firmarne 176, tredici solo sull'intelligenza artificiale. In un colpo solo. Quattro di queste tredici riguardano il lavoro, e sono quelle che mi interessano, perché è la terza volta in un mese che la California prova a scrivere nero su bianco cosa una macchina può fare e cosa no in relazione alle persone.

Le prime due volte si parlava di ragazzi. A inizio settembre la legge AB 1709 ha vietato ai social le funzioni che creano dipendenza per gli under 16: il feed algoritmico e l'autoplay («La California vieta ai social di accedere ai ragazzi», 6 settembre). Una settimana dopo la Adam's Law ha elencato quattordici cose che un chatbot non può fare con un minore, dall'adularlo al dichiararsi capace di emozioni («La California vieta ai chatbot di adulare i minori. Basterà?», 13 settembre). Stavolta si parla di noi adulti, in ufficio. Alleluia!

Come le altre due volte, ho dato un'occhiata ai testi di legge e non soltanto ai titoli, perché, come le altre due volte, anche il titolo che girava nel mio radar editoriale non era del tutto corretto.

Cosa dice davvero la legge «No Robo Bosses»?

La legge che ha fatto notizia è la SB 947, presentata dal senatore Jerry McNerney, che l'ha riassunta così: «Nobody wants to be fired by a machine», nessuno vuole essere licenziato da una macchina. Entrerà in vigore il 1° luglio 2027 e dice tre cose.

La prima: un datore di lavoro non può basarsi esclusivamente su un «sistema decisionale automatizzato» per sanzionare o licenziare qualcuno. Il «sistema decisionale automatizzato» è definito in modo molto ampio: qualunque processo computazionale derivato da machine learning, modelli statistici, analisi dei dati o intelligenza artificiale che produca un punteggio, una classifica, una classificazione o una raccomandazione usata per assistere o sostituire una decisione umana.

La seconda, che è il cuore vero della legge: se il datore di lavoro si basa principalmente sul sistema, deve incaricare un essere umano di corroborare la decisione con altre informazioni. La legge le elenca: valutazioni dei responsabili, fascicolo personale, il lavoro effettivamente prodotto dalla persona, giudizi dei colleghi, colloqui con testimoni, perfino le recensioni dei clienti. Se il risultato della macchina non trova conferma, o il revisore lo trova inesatto, incompleto o fuorviante, non si può usare. E il lavoratore deve ricevere una comunicazione scritta, separata, in linguaggio semplice, che dica tre cose: che il "sistema" ha pesato in modo prevalente, che un umano ha verificato, e chi è la persona in carne e ossa a cui chiedere spiegazioni. Può anche chiedere una «descrizione significativa e oggettiva» dei dati che il sistema ha usato su di lui.

La terza: il sistema non può essere usato per dedurre caratteristiche protette (origine, religione, disabilità, orientamento…) né per prevedere se e quando un lavoratore eserciterà un suo diritto e punirlo in anticipo. Questo passaggio è meno citato e secondo me è il più interessante, perché descrive una cosa che i software di gestione del personale fanno già: calcolare la probabilità che tu ti metta in malattia, che tu ti iscriva al sindacato, che tu te ne vada, eccetera.

Attenzione però. Questa legge non vieta gli algoritmi. Il punteggio si può calcolare, la classifica si può stilare. È la versione ridotta di una legge più ambiziosa, la SB 7, che Newsom aveva bocciato nell'ottobre 2025 perché imponeva «obblighi di notifica non mirati a qualunque azienda usasse anche gli strumenti più innocui». Ad esempio, dalla versione firmata sono sparite le assunzioni e le promozioni: la legge copre solo sanzioni e licenziamenti. E saranno i tribunali a dire quando un algoritmo pesa troppo. La sanzione è di 500 dollari per violazione, senza che sia chiaro se la violazione si conti per decisione o per persona. E restano fuori i lavoratori più gestiti da un algoritmo che esistano: gli autisti di Uber e Lyft, che in California sono contraenti indipendenti per effetto della Proposition 22. Nicole Moore, presidente di Rideshare Drivers United, lo ha detto a KQED: un algoritmo decide il loro lavoro, la loro paga e la loro valutazione, e la legge non li riguarda.

Le emozioni non si misurano

La seconda legge, la AB 1883, presentata dal deputato Isaac Bryan, è quella che mi ha colpito di più e di cui in Italia non ha parlato nessuno. Dal 1° gennaio 2027 un datore di lavoro non può usare uno «strumento di sorveglianza sul lavoro» basato sull'intelligenza artificiale per due scopi: riconoscere, dedurre o prevedere lo stato emotivo di una persona, e raccogliere dati neurali. Lo strumento è qualunque sistema che raccolga dati sui dipendenti con mezzi diversi dall'osservazione diretta di una persona: videocamere, microfoni, rilevatori del tempo, geolocalizzazione, tracciamento elettromagnetico. I dati neurali sono «informazioni generate misurando l'attività del sistema nervoso centrale o periferico», purché non dedotte da dati non neurali.

Il fatto che una legge debba scriverlo dice che qualcuno lo sta già facendo: telecamere che leggono l'espressione del volto durante una call, software che stimano lo stress dal tono della voce o dal ritmo con cui scrivi, caschetti e fasce che leggono l'attenzione. La legge lascia una porta aperta, «per garantire la sicurezza» (il sensore che rileva il camionista che si addormenta è legittimo), e la porta è larga: Newsom stesso, firmando, ha chiesto al parlamento di chiarire meglio il perimetro. La sanzione è la stessa: fino a 500 dollari per violazione, con il Labor Commissioner a far rispettare la norma.

E poi c'è la AB 1331, presentata dalla deputata Sade Elhawary, che vieta la sorveglianza nei bagni del posto di lavoro e dà ai dipendenti il diritto di lasciare fuori dalla porta il badge, il telefono aziendale, il dispositivo che li traccia.

Che nel 2026 serva una legge per dirlo è una notizia in sé.

E in Europa?

Il riconoscimento delle emozioni sul lavoro è già vietato dal 2 febbraio 2025, articolo 5 dell'AI Act, salvo motivi medici o di sicurezza. E dal 2018 l'articolo 22 del GDPR ci dà il diritto di non essere sottoposti a decisioni basate unicamente su un trattamento automatizzato che ci riguardano in modo significativo, licenziamenti compresi. Sulla carta siamo più avanti della California. Nella pratica, il 28 maggio 2026 il Garante della privacy ha dovuto mandare un avvertimento formale a una start-up italiana per un plug-in di Slack e Teams che analizzava le chat dei dipendenti per rilevarne lo stress psicologico, ricordando che l'AI Act «vieta l'uso di sistemi di IA destinati a dedurre o analizzare le emozioni delle persone nei contesti lavorativi». Vietato non vuol dire che non succede. Vuol dire che quando succede c'è una norma da far valere.

Se a licenziare è l'AI, va scritto

La quarta legge, la SB 951, presentata dalla senatrice Eloise Gómez Reyes, è la più tecnica e la meno capita. Non introduce un preavviso nuovo: in California le aziende con almeno 75 dipendenti devono già avvisare lavoratori e Stato 60 giorni prima di un licenziamento collettivo. Da gennaio 2027, se quel licenziamento è causato «in tutto o in parte sostanziale» da un sistema di intelligenza artificiale o da un'altra tecnologia automatizzata, l'avviso deve dirlo, in testa, con una frase fissa: «This notice is for a technology displacement», questo avviso riguarda una sostituzione tecnologica. E deve specificare quanti posti, quali mansioni verranno automatizzate e che tipo di tecnologia lo fa. Lo Stato pubblicherà un riepilogo trimestrale e, entro il 1° gennaio 2028, un rapporto sugli effetti dell'AI sulle assunzioni.

È una legge sull'onestà del linguaggio. Oggi nessuna azienda scrive «vi licenziamo perché abbiamo comprato un software»: scrive «riorganizzazione», «efficientamento», «focus sulle priorità». Il precedente non è incoraggiante: lo Stato di New York ha introdotto un obbligo simile per ordine esecutivo nel 2025, e nel primo anno nessun datore di lavoro ha dichiarato un licenziamento legato all'AI. Nessuno. La domanda non è se le aziende sostituiscono persone con l'AI; è se saranno disposte a scriverlo su un modulo.

Ma il punto qual è?

Messe insieme, le quattro leggi non dicono «niente algoritmi in azienda». Dicono una cosa più precisa e, secondo me, più giusta: l'umano non può sparire. Non può sparire dal processo decisionale, non può sparire come Soggetto (le tue emozioni e il tuo cervello non sono dati aziendali) e non può sparire dal racconto (se ti ha sostituito una macchina, va detto chiaramente).

Guardate l'elenco di quello che il revisore umano deve fare per «corroborare»: leggere le valutazioni, guardare il lavoro prodotto, parlare con i colleghi, sentire i testimoni. È la descrizione del mestiere del manager. Non una funzione di controllo in più: il lavoro stesso, quello che il punteggio di produttività calcolato dal software aveva promesso di risparmiargli.

Ne ho scritto a settembre in un articolo dedicato a come gestire al meglio le neurodivergenze sul posto di lavoro («Il supereroe neurodivergente non esiste. Il manager da formare, sì.», 6 settembre): il problema non è mai stato la mancanza di dati sulle persone, ma la mancanza di qualcuno disposto a guardarle, le persone. Ad esempio, un algoritmo che assegna al dipendente un valore di 3 su 10, magari sulla produttività stimata a partire dalle mail che manda, è una bella comodità per il manager chiamato a valutare quella persona. Bene, ora la legge californiana gli restituisce quella "fatica".

E poi c'è il divieto sulle emozioni, che per uno che insegna mindfulness è quasi una dichiarazione di principio. Riconoscere il proprio stato emotivo, dargli un nome, accorgersi che sta cambiando: è esattamente il lavoro che si fa in meditazione, ed è un lavoro che funziona solo se lo fai tu, da dentro. Una telecamera che decide che sei «frustrato» al minuto 12 della riunione non sta leggendo le tue emozioni, sta solo producendo un'etichetta che poi qualcun altro userà su (o contro) di te.

È la differenza che passa tra la consapevolezza e la sorveglianza. È l'attenzione di cui parlo in Mindful Tech: quella che si allena da dentro.

Ma poi comunque, e in ogni caso, rimane una domanda: se le sanzioni per le aziende che non rispettano le norme sono così piccole (500 dollari per violazione), da chi verranno rispettate davvero?

Auguri...

P.S. (3 novembre 2026). Quanto è già diffuso, in Europa, il capo algoritmico? Secondo un rapporto di Eurofound un dipendente su cinque dice che un programma ne monitora le prestazioni, e il monitoraggio è la funzione più legata a esaurimento e meno coinvolgimento. E dal 23 ottobre anche in Italia le decisioni sul lavoro non possono basarsi solo su un sistema automatizzato. Ne ho scritto in «Il ritorno del Grande Fratello? Il capo algoritmico c’è già, ma misura la cosa sbagliata» (3 novembre 2026).

Resta in contatto

Ti scrivo ogni settimana

Iscriviti alla newsletter: letture, spunti e idee su mente, attenzione e creatività. In regalo la guida Mindful Tech.

Iscriviti alla newsletter
Andrea Prosperi

Andrea Prosperi

Mindfulness teacher & trainer, scrittore e rapper (Barry Convex). Neurodivergente. Scrivo di tecnologia, mente e presenza. Autore di «Mindful Tech».