Negli ultimi anni l’intelligenza artificiale è diventata una presenza sempre più presente nei processi di selezione del personale. Dalla scrematura dei curricula alla valutazione preliminare dei candidati, sempre più aziende hanno delegato agli algoritmi una parte cruciale delle decisioni nel mondo del lavoro.
È proprio su questo terreno che la California ha deciso di intervenire, chiarendo che anche le scelte “assistite” da sistemi automatizzati rientrano a pieno titolo nelle leggi antidiscriminatorie già esistenti.
La nuova linea regolatoria, entrata in vigore a ottobre, ha esplicitato un principio destinato a fare scuola: non importa se la discriminazione sia il frutto di una decisione umana o di un sistema automatizzato, la responsabilità resta in capo al datore di lavoro. È un passaggio tutt’altro che formale, che sposta l’attenzione dalla tecnologia in sé all’uso che se ne fa nei contesti occupazionali.
Il caso Mobley contro Workday
A rendere concreto questo cambio di passo è anche il caso di Derek Mobley, lavoratore nero con più di quarant’anni, che ha dichiarato di essere stato respinto da decine di candidature a causa dei sistemi di selezione automatizzati utilizzati dalle aziende.
Al centro della causa c’è Workday, uno dei principali fornitori di software per la gestione delle risorse umane, accusato di aver messo a disposizione strumenti di screening basati su valutazioni soggettive, capaci di escludere sistematicamente candidati appartenenti a categorie protette.
Workday ha respinto ogni accusa, sostenendo che i propri sistemi non prendono decisioni di assunzione e non sono addestrati a riconoscere caratteristiche sensibili. Ma il punto giuridico emerso è un altro: se un algoritmo orienta in modo significativo il processo decisionale, diventa parte integrante della catena di responsabilità.
Non a caso, pur avendo respinto l’accusa di discriminazione intenzionale, il tribunale ha riconosciuto nel 2025 una certificazione preliminare collettiva, aprendo la porta ad altri lavoratori che ritengano di essere stati penalizzati.
La risposta degli Stati
La California non è l’unica. New York, Illinois e Colorado hanno approvato normative simili, segno che il tema della discriminazione algoritmica nel lavoro è ormai entrato nell’agenda politica statunitense.
L’idea di fondo è che l’IA, per quanto efficiente, possa amplificare bias già presenti nei dati o nelle logiche aziendali, rendendo opache decisioni che hanno un impatto diretto sulla vita delle persone.
Come ha osservato uno degli avvocati coinvolti nel dibattito, la legislazione sta cercando di “fare luce nella scatola nera”. In altre parole, di costringere le aziende a comprendere davvero come funzionano gli strumenti che utilizzano, invece di rifugiarsi dietro l’idea di una neutralità tecnologica che, nei fatti, non esiste.
La fine della “scatola nera”
Sia chiaro che nessuno, né in California né negli altri Stati che si stanno muovendo in questa direzione, pretende che un’azienda sappia spiegare il funzionamento di un modello di intelligenza artificiale o che sia in grado di ricostruire i pesi, i dataset di addestramento o le logiche interne di un sistema proprietario fornito da terzi. Sarebbe una richiesta irrealistica e in molti casi tecnicamente impossibile.
La “scatola nera” in questo caso è l’opacità decisionale che consente alle aziende di scaricare sugli algoritmi scelte che hanno effetti legali molto concreti sulle persone. Le nuove regole provano a spezzare proprio questo automatismo e chiedono di rendere tracciabile la decisione.
Se un software esclude sistematicamente determinate categorie di candidati, non è rilevante stabilire se l’intento discriminatorio sia “nel codice” o nell’uso che se ne fa: per il diritto, quel sistema è diventato parte integrante del processo decisionale aziendale.
È un cambio di paradigma profondo in cui se un’azienda decide di adottare strumenti che non può spiegare, auditare o difendere in tribunale, la legge comincia a dire che il rischio di quella opacità non può ricadere sui lavoratori.
Un precedente che può cambiare il mercato del lavoro
Al di là dell’esito del singolo processo, il caso Mobley e le nuove regole californiane hanno già prodotto un effetto chiaro: l’uso dell’intelligenza artificiale nel lavoro non è più una zona grigia. Più le aziende sono grandi, più diventano bersagli visibili per azioni legali che mettono in discussione pratiche fino a ieri considerate standard.
Iscriviti alla newsletter di TechTalking
Il messaggio che arriva dai tribunali e dai regolatori è che l’innovazione non sospende i diritti civili, e l’automazione non attenua le responsabilità.
Se l’IA è diventata un’infrastruttura invisibile del mercato del lavoro, ora è anche destinata a diventata un terreno di scontro giuridico e politico che segnerà il prossimo capitolo del rapporto tra tecnologia e occupazione.
Fonte: The Washington Post
