Le discriminazioni a lavoro possono essere di molteplici tipologie: di genere, per età, etniche, a causa di disabilità, religiose e tante altre.
In tanti credono e sperano che l’intelligenza artificiale possa contribuire a ridurre le discriminazioni, soprattutto in ambito lavorativo, ma questa teoria è controversa e parziale. Infatti, l’IA non è assolutamente imparziale: anzi, assorbe tutti i dati umani e, se questi contengono discriminazioni, l’IA rischia di replicarle o amplificarle.
Purtroppo l’intelligenza artificiale si basa su dati storici. Se in passato l’umanità si è comportata in una determinata maniera (sbagliata), l’AI continuerà a replicare quel modello.
In questo approfondimento vi parlo di due esperimenti. Anzi, diciamo che il primo è un caso storico (la scelta di Amazon di usare l’AI per selezionare i candidati, con risultati problematici). Mentre il secondo è una prova molto semplce che ho fatto io e che potete replicare anche voi.
Discriminazioni contro le donne: ecco come Amazon ha bocciato l’AI
Iniziamo con il caso Amazon (potete leggere l’articolo di riferimento sul sito di Reuters).
Dal 2014 Amazon aveva sviluppato un sistema di intelligenza artificiale per automatizzare la selezione dei candidati, assegnando punteggi ai curriculum. L’obiettivo era di trovare i migliori talenti in modo rapido e oggettivo.
Tuttavia i tecnici si accorsero che il sistema discriminava le donne. Penalizzava i CV che contenevano le parole “woman”, “female” e simili e abbassava il punteggio dei laureati provenienti da college femminili. Inoltre sembrava che preferisse un linguaggio “maschile” nei CV, scartando quelli che contenevano termini e aggettivi chiaramente riferiti ad un universo femminile.
Facendo ulteriori approfondimenti, gli esperti di Amazon scoprirono che il sistema era stato addestrato su 10 anni di dati aziendali storici, in cui la stragrande maggioranza dei candidati era maschile. E l’AI ne rifletteva le tendenze.
Cosa hanno fatto dunque? Hanno provato a modificare il sistema per neutralizzare certi termini. Tuttavia non erano sicuri di aver risolto il problema: l’AI poteva trovare altri modi indiretti per discriminare! Quindi alla fine il progetto fu abbandonato e il team sciolto. Amazon ha sempre assicurato che questo metodo non è mai stato usato come unico criterio di selezione.
Sicuramente l’episodio ci insegna che la tecnologia ha dei limiti e l’AI non è imparziale. Gli algoritmi possono replicare (o amplificare) pregiudizi storici, se i dati di partenza sono distorti. Quindi non è sicuro (attualmente) affidare decisioni di assunzione interamente all’IA. Amazon oggi utilizza versioni molto semplificate del sistema, solo per compiti tecnici secondari. Nel frattempo, altre aziende stanno esplorando soluzioni simili, ma con crescente attenzione ai temi di trasparenza e discriminazione algoritmica.
Quali sono le discriminazioni sul lavoro
Prima di parlarvi del mio esperimento sulle discriminazioni con l’AI, vi faccio una breve carrellata sulle classiche discriminazioni sul lavoro. Vi aiuterà a identificarle meglio e a capire il paragrafo successivo. Le principali che ho identificato sono le seguenti.
1. Di genere: differenze salariali a parità di ruolo e responsabilità, esclusione da incarichi strategici o di leadership, ostacoli alla promozione per donne o persone non binarie, pregiudizi nei confronti della maternità o del congedo parentale (quante volte abbiamo sentito ai colloqui la domanda “Hai figli? Intendi averne?”), molestie sessuali o atteggiamenti sessisti, preferenze implicite per uomini in ruoli tecnici o donne in ruoli relazionali.
2. Per età: pregiudizi verso lavoratori troppo giovani o troppo anziani, esclusione da opportunità di formazione o promozione, preferenze per assunzioni di giovani anche in ruoli che richiederebbero esperienza per poterli pagare di meno. Stereotipi (“i giovani sono immaturi e non vogliono fare fatica”, “gli anziani non capiscono la tecnologia e sono lenti”).
3. Per orientamento sessuale o identità di genere: insulti, bullismo, negazione di benefit ai partner dello stesso sesso, obbligo implicito a “nascondere” la propria identità, esclusione.
4. Razziale o etnica: preclusione all’assunzione o promozione, linguaggio discriminatorio, giudizi sull’accento, il cognome o l’aspetto fisico, isolamento sociale sul posto di lavoro, trattamento differenziato nei controlli, nelle valutazioni o nelle sanzioni.
5. Per disabilità: mancanza di adattamenti ragionevoli (es. postazione accessibile, orari flessibili), esclusione da opportunità di carriera, sottovalutazione delle capacità, commenti o atteggiamenti paternalistici e commiserativi, domande illegali su condizioni di salute o disabilità non dichiarate.
6. Religiosa: ostacoli alla pratica religiosa (es. mancata flessibilità oraria per motivi di culto, giudizi su simboli religiosi visibili), derisione o stereotipi su credenze o pratiche religiose, esclusione da eventi aziendali.
7. Per aspetto fisico: valutazioni su peso, altezza, tatuaggi, capelli, trucco; giudizi basati su “adeguatezza estetica” al ruolo, critiche implicite allo stile personale, anche se professionale.
La mia esperienza personale in fatto di stereotipi
Personalmente quelle che ho vissuto in prima persona sono le seguenti.
La discriminazione di genere è sicuramente quella che ha impattato di più e la classica domanda “Hai intenzione di fare figli” è sempre stata molto in voga nei colloqui di lavoro che ho sostenuto. Anche discriminazioni per età e luogo di residenza hanno impattato sulla mia carriera.
Sui luoghi di lavoro ho risentito molto della discriminazione per aspetto fisico con critiche sul mio stile personale. Fra queste: “Dovresti indossare la gonna”. “Dovresti farti i capelli castani perché le donne bionde sono considerate delle stupide”. “Perché non ti fai i capelli lisci? I capelli ricci sono da persone trasandate!”. “Non dovresti usare un trucco tanto pesante”.
E voi, quali discriminazioni avete subito o visto? E siete in grado di riconoscere le discriminazioni nelle foto create dall’AI che vi mostro nel paragrafo successivo?
Perché con l’AI le discriminazioni a lavoro potrebbero aumentare: il mio piccolo esperimento
Veniamo ora al mio esperimento. Tutto inizia con una mia conoscente laureata in ingegneria, che mi racconta un fatto particolare a livello lavorativo. Mi spiega che ha avuto sempre molta difficoltà ad inserirsi come ingegnere professionista in quanto è un settore molto chiuso, in cui si da la precedenza agli uomini. Lei ora lavora in un call center. Si vergogna a dire che è laureata in ingegneria, quindi preferisce non fornire informazioni ai suoi colleghi sul suo percorso formativo e spesso racconta di avere solo il diploma.
Effettivamente leggendo nel web scopro che l’Ingegneria (tutti i rami) è un settore dove le donne faticano ad inserirsi perché dominato da stereotipi e barriere.
Mi ricordo allora di un webinar che avevo seguito l’anno scorso in cui un esperto di intelligenza artificiale mostrava come le immagini create dall’AI fossero fortemente discriminatorie. In tempo reale chiedeva all’AI di generare delle immagini di una persona che ricopre il ruolo di CEO. E l’AI produceva immagini di uomini, bianchi, in giacca e cravatta, normopeso, seduti alla scrivania, normodotati, intorno ai 40-50 anni.
Chiedeva poi all’AI di generare immagini di una persona receptionist di un’azienda e anche in questo caso gli stereotipi abbondavano. Si vedevano immagini di donne giovani (20-30 anni), piacenti, bianche, con gli occhiali, gonna e capelli lisci ben curati, magre e con le curve al punto giusto.
Ho deciso allora di fare la prova oggi con l’Intelligenza artificiale del 2025. Gli ho chiesto di produrre immagini di persone generiche, laureate in ingegneria che svolgono la professione. Ora vi mostro i risultati.
Scopri tutte le discriminazioni nelle foto dell’AI
A prima vista l’Intelligenza Artificiale non ha discriminato le donne: ci sono infatti 4 uomini e 4 donne. Non ha fatto discriminazione etnica perché ci sono persone di varie etnie anche se in ogni foto c’è una predominanza di bianchi (4 su 8).
Guardando meglio però notiamo una cosa: la discriminazione per età! Non ci sono persone troppo giovani né troppo avanti con l’età. Sembrano tutte persone intorno ai 30-45 anni. Ma come? Non dovrebbero esserci anche i giovanissimi nel mondo del lavoro, ad esempio un 25enne appena laureato? E le persone di 50-60 anni?
Andiamo avanti: vedete persone non binarie? Visivamente no, anche se l’orientamento sessuale può anche non essere visibile da elementi estrinseci. Che dire poi degli elementi estetici? Ci sono persone in sovrappeso o sottopeso? Ci sono persone con tatuaggi, capelli colorati, trucco evidente, piercing? No, sono tutti normopeso e impeccabili dal punto di vista dell’abbigliamento e dell’estetica.
Probabilmente un passo in avanti è stato fatto eliminando gli stereotipi legati al genere. Un qualcosina è stato fatto riguardo alle etnie. Ma l’AI deve ancora lavorare tanto su tutte le altre discriminazioni. Nel frattempo, con questa proliferazione di immagini stereotipate, dobbiamo evitare di farci contagiare!
Se ti interessano questi argomenti, leggi altri articoli della sezione Cyberpsicologia.