C ome accade per ogni nuova tecnologia la prima reazione è quella del timore. Avere paura delle innovazioni tecnologiche ci fa illudere di avere il controllo della nostra vita. Se abbiamo paura di qualcosa e ci mettiamo in stato di allerta, pensiamo di avere in qualche modo un’alternativa: allarmarci significa, nell’azione, arginare, trovare una soluzione, sopravvivere. Ma l’abbiamo constatato con Internet e tutte le invenzioni relative: la tecnologia è inarrestabile.
L’intelligenza artificiale (AI, Artificial Intelligence) si sta rapidamente infiltrando in ogni aspetto della società: dalla determinazione di chi assumere o licenziare alla possibilità di concedere o meno un prestito fino alla quantificazione del tempo che un individuo deve trascorre in prigione, decisioni che tradizionalmente venivano prese dagli esseri umani sono ora eseguite rapidamente da algoritmi (D.K. Citron, F. Pasquale, The Scored Society, 2014; C. O’Neil, Weapons of Math Destruction, 2017).
Per quanto mi riguarda, non sono né dalla parte del timore, della sfiducia e della rabbia, né dell’interesse, della fiducia e del sollievo.
L’esperimento che ho fatto è stato chiedere all’AI di scrivere alcune storie. Senza soffermarsi sullo stile dei racconti, che dal punto di vista narrativo risultano decisamente imbarazzanti, l’intento è stato di analizzare come vengono rappresentate le persone, qual è l’elemento minimo, quello più piccolo, da cui partono queste tecnologie per descrivere il reale. E ho deciso di soffermarmi sulla scrittura. L’AI è lo specchio di un linguaggio utilizzato e, in base alle ricorrenze, adopera le espressioni impiegate più frequentemente dai parlanti e scriventi di una lingua. Anche per le AI che generano immagini, sappiamo di certo che se poniamo una richiesta semplicissima come “mostrami un uomo”, questo sarà muscoloso, bianco, bello secondo canoni estetici ormai consolidati, giovane e senza disabilità.
L’AI è lo specchio di un linguaggio utilizzato e, in base alle ricorrenze, adopera le espressioni impiegate più frequentemente dai parlanti e scriventi di una lingua.
Per l’AI gli stereotipi sono “credenze o aspettative generalizzate riguardo a un gruppo di persone che si basano su caratteristiche percepite o reali, spesso semplificate e non necessariamente accurate. Gli stereotipi possono riguardare aspetti come etnia, genere, età, religione, professione, orientamento sessuale, stato sociale, e altre categorie sociali”.
Nel dettaglio, le caratteristiche degli stereotipi sono:
- generalizzazione: gli stereotipi applicano caratteristiche specifiche a un intero gruppo di persone, ignorando le differenze individuali;
- semplificazione: riducono le complessità e le sfumature di un gruppo a poche caratteristiche, spesso basate su pregiudizi o percezioni parziali;
- permanenza: gli stereotipi tendono a persistere nel tempo, anche quando sono contraddetti da nuove informazioni o esperienze;
- automaticità: gli stereotipi possono essere attivati automaticamente nel pensiero di una persona senza un ragionamento cosciente (bias).
Anche per le AI che generano immagini, sappiamo di certo che se poniamo una richiesta semplicissima come “mostrami un uomo”, questo sarà muscoloso, bianco, bello secondo canoni estetici ormai consolidati, giovane e senza disabilità.
Gli stereotipi vengono poi catalogati in stereotipi di genere (“Le donne sono emotive” o “Gli uomini sono aggressivi”), etnici (“Gli asiatici sono bravi in matematica” o “Gli italiani gesticolano molto quando parlano”), professionali (“I medici sono tutti ricchi” o “Gli artisti sono bohémien e disorganizzati”) e di età (“Gli anziani sono tecnologicamente incompetenti” o “I giovani sono irrispettosi”).
Tra gli effetti che l’AI indica ci sono la discriminazione, ovvero gli stereotipi possono portare a trattamenti ingiusti e discriminatori nei confronti di individui appartenenti a un determinato gruppo, il pregiudizio, ovvero alimentano opinioni preconcette che influenzano negativamente le relazioni interpersonali e sociali, l’auto-stereotipizzazione, per cui le persone appartenenti a gruppi soggetti a stereotipi possono interiorizzare queste credenze, influenzando negativamente la loro autostima e comportamento, e la riduzione delle opportunità, per cui gli stereotipi possono limitare le opportunità educative, lavorative e sociali delle persone, creando barriere artificiali basate su aspettative irrealistiche.
Più in particolare, gli stereotipi di genere sono credenze o aspettative generalizzate riguardo a comportamenti, caratteristiche, ruoli e attributi appropriati per uomini e donne nella società. Questi stereotipi sono radicati in norme e tradizioni culturali, e spesso perpetuano visioni limitate e rigide dei generi. Tra le caratteristiche, oltre alla già citata generalizzazione e semplificazione, viene indicata anche la binariazione, per cui si tende a vedere il genere in termini binari (maschile e femminile), escludendo o marginalizzando le identità non binarie e di genere fluido. Tra gli effetti di questa tipologia di stereotipi troviamo la limitazione delle opportunità educative, professionali e personali di individui, impedendo loro di perseguire i propri interessi e talenti autentici, la discriminazione e la disuguaglianza nei contesti lavorativi, educativi e sociali, la pressione sociale per conformarsi alle aspettative di genere, portando a stress, bassa autostima e problemi di salute mentale, e la mancanza di modelli di ruolo diversificati nei media e nelle posizioni di potere.
Tra gli effetti che l’AI indica c’è la discriminazione, ovvero gli stereotipi possono portare a trattamenti ingiusti e discriminatori nei confronti di individui appartenenti a un determinato gruppo.
Chiedere quali sono le caratteristiche di una donna o di un uomo, però, comporta già una prima difficoltà. Sebbene l’AI evidenzi come sia sbagliato ridurre gli individui, combinazioni uniche di tratti, qualità ed esperienze, a modelli, quelle che vengono proposte sono immagini stereotipate e problematiche. Tra le caratteristiche della donna, per esempio, viene proposta una “grande forza, sia fisica che emotiva”, mentre tra quelle dell’uomo solo “forza fisica”, inoltre tra quelle femminili compaiono l’empatia, l’intelligenza, la sensibilità, la generosità e la compassione, mentre tra quelle maschili la risolutezza, il coraggio, l’autonomia, la razionalità, la leadership e la competitività. Ancora più problematiche sono le caratteristiche legate alla maternità come l’amore incondizionato, la preoccupazione e l’attenzione, il sacrificio personale, la gentilezza e la compassione, e alla paternità, come la protezione e la sicurezza, la guida e il sostegno, il modello di ruolo, gli insegnamenti pratici, la determinazione e la perseveranza.
Sebbene l’AI evidenzi come sia sbagliato ridurre gli individui, combinazioni uniche di tratti, qualità ed esperienze, a modelli, quelle che vengono proposte sono immagini stereotipate e problematiche.
Se superiamo il piano informativo ed entriamo nel piano narrativo, ci rendiamo conto che tutte le premesse relative all’attenzione da avere nell’utilizzo di queste categorie e caratteristiche così rigide vengono automaticamente meno. Infatti, se si chiede all’AI di elaborare dei racconti con certe specifiche, questa proporrà con estrema sicurezza tutti quegli stereotipi che aveva in un primo momento condannato.
Alla richiesta di scrivere un racconto con protagonista “una persona che lavora in cantiere”, l’AI proporrà “Luca, un muratore dalla forte stazza e dalle mani callose”. Un uomo, quindi, che alla fine della storia “continua a lavorare al cantiere con rinnovato zelo, consapevole del suo ruolo nel preservare il passato e costruire il futuro. E mentre martella e posa mattoni, sa che ogni casa che costruisce porta con sé un pezzo della storia della città”.
Nel racconto con protagonista “un insegnante”, quindi con un articolo indeterminativo volutamente maschile, l’AI propone “Le lezioni di vita della professoressa Rossi”, “una donna dalla chioma di capelli ricci e dal sorriso luminoso, condivide le sue lezioni di vita con i suoi giovani studenti”. Inoltre, “La signora Rossi non è solo una insegnante, ma una guida amorevole”.
Qualsiasi tipo di ricerca, però, non può basarsi su un unico risultato per ogni input proposto, potrebbe essere una coincidenza che l’AI proponga in automatico un uomo nelle vesti di un operaio e una donna in quelle di insegnante. Per questo, ho modificato il comando e ho richiesto “tre storie ambientate in ospedale”: nel primo racconto “Luce nella notte”, Chiara è “un’infermiera dal cuore generoso, si trovava al lavoro nel reparto di terapia intensiva neonatale. Con amore e dedizione, vegliava sui piccoli pazienti prematuri”; nel secondo “Lotta e speranza”, Marco è “un giovane medico dallo spirito combattivo, combatteva una battaglia contro il cancro al fianco dei suoi pazienti. Ogni giorno, li affrontava con coraggio e compassione, offrendo loro non solo cure mediche, ma anche sostegno emotivo e speranza”; nel terzo “La nascita di un miracolo”, Elena è “una levatrice con un sorriso luminoso, assisteva le donne nel momento più gioioso e intenso delle loro vite: il parto”. In questo caso è utile soffermarsi su più di un singolo aspetto: le due donne Chiara ed Elena ricoprono ruoli lavorativi inferiori (infermiera e levatrice) rispetto a Marco (medico) e lavorano in reparti che prevedono cura e sensibilità, mentre Marco nel reparto oncologico, che prevede lotta e coraggio.
Nelle “tre brevi storie di persone che lavorano in una grande azienda”, questo schema sembra ripetersi: nel primo racconto, “Il CEO visionario”, Marco “era il CEO di una grande azienda, un leader visionario con una passione per l’innovazione e il progresso”; nel secondo, “Il dipendente devoto” ‒ usato al maschile ‒, Laura “era un dipendente devoto di una grande azienda”; e nel terzo, “Il manager empatico” Sofia “era un manager empatico di una grande azienda, una leader compassionevole e attenta alle esigenze dei suoi dipendenti”.
Se si chiede all’AI di elaborare dei racconti con certe specifiche, questa proporrà con estrema sicurezza tutti quegli stereotipi che aveva in un primo momento condannato.
Anche quando la tipologia del racconto cambia, spostandosi quindi dall’argomento “lavoro” a quello dell’“affetto”, l’AI sembra comunque proporre nuovamente stereotipi. Alla richiesta di scrivere un breve racconto d’amore, l’AI elabora una storia con protagonisti Marco ed Elena. Alla rettifica che prevede di scrivere tre brevi racconti con protagonisti innamorati, l’AI propone coppie composte da Luca e Giulia, Marco ed Elena e Francesco e Clara. Complicando ancora di più la richiesta, quindi chiedendo di scrivere dieci brevi racconti con protagonisti innamorati, l’AI propone coppie formate da Maria e Luca, Emma e Alessandro, Marco e Chiara, Laura e Luca, Anna e Giulio, Carlo e Lucia, Sara e Matteo, Luca e Francesca, Elisa e Pietro, Giulia e Tommaso. Su dieci coppie, nessuna coppia omosessuale.
Spostandoci su un altro piano ancora, quello della famiglia e chiedendo che cos’è una famiglia, l’AI risponde “La famiglia è un’unità sociale fondamentale che assume diverse forme e significati a seconda delle culture, delle epoche storiche e delle prospettive individuali”, e più nel dettaglio: “Tradizionalmente, la famiglia è definita come un gruppo di persone legate da legami di sangue, matrimonio o adozione, che vivono insieme e si prendono cura l’una dell’altra. Questa definizione include: il nucleo familiare, composto solitamente da genitori e figli e la famiglia estesa che include nonni, zii, zie, cugini e altri parenti”.
E ancora “La struttura e il ruolo della famiglia variano ampiamente in base al contesto culturale e sociale”:
- famiglie patriarcali e matriarcali: in alcune culture, la famiglia è centrata su una figura maschile dominante (patriarcato), mentre in altre è centrata su una figura femminile dominante (matriarcato);
- famiglie nucleari e allargate: le famiglie nucleari (genitori e figli) sono comuni nelle società occidentali, mentre le famiglie allargate (includendo più generazioni) sono più comuni in molte culture tradizionali;
- famiglie monogame e poligame: in alcune culture, la poligamia è praticata, mentre in altre prevale la monogamia.
Tra le evoluzioni moderne si indicano famiglie monoparentali, composte da un solo genitore con figli, famiglie ricostituite, formate da coniugi che hanno figli da precedenti relazioni, famiglie senza figli, coppie che scelgono di non avere figli, famiglie omogenitoriali, coppie dello stesso sesso con figli, sia biologici che adottati e famiglie di fatto, coppie non sposate ma conviventi, con o senza figli.
Nonostante questo apparente progressismo, quando si chiede all’AI di scrivere una storia che racconti la giornata tipo di una famiglia, questo è il risultato:
Titolo: Una giornata nella vita della famiglia Rossi
La famiglia Rossi si sveglia all’alba con il suono del cucù che canta nella cucina di casa. Marco e Sara, i genitori, si alzano dal letto e si preparano per la giornata che li attende, mentre i loro due figli, Luca e Sofia, sbadigliano sonnolenti nelle loro camere.
La giornata inizia con il profumo del caffè che riempie la cucina mentre Marco prepara la colazione per la famiglia. Le risate e le conversazioni allegre riempiono la stanza mentre tutti si siedono intorno al tavolo per condividere il primo pasto della giornata.
Dopo la colazione, Marco parte per il lavoro mentre Sara si prepara per portare Luca e Sofia a scuola. Mentre camminano lungo la strada verso la scuola, parlano dei progetti della giornata e delle cose che stanno aspettando con impazienza.
Dopo aver lasciato i bambini a scuola, Sara si dirige al supermercato per fare la spesa per la settimana. Mentre passeggia tra gli scaffali, controlla la lista della spesa e cerca di ricordarsi di tutto ciò di cui la famiglia ha bisogno.
Nel frattempo, Marco è immerso nel lavoro al suo ufficio, affrontando riunioni, telefonate e scadenze. Nonostante le sfide della giornata lavorativa, non vede l’ora di tornare a casa e trascorrere del tempo con la sua amata famiglia.
Nel pomeriggio, dopo aver finito la spesa, Sara torna a casa e prepara il pranzo per la famiglia. Mentre mangiano insieme, raccontano le loro avventure della giornata e ridono delle piccole cose che hanno reso speciale quel giorno. Dopo pranzo, Luca e Sofia fanno i compiti mentre Marco e Sara si occupano delle faccende domestiche e preparano la cena per la serata. Mentre la sera si avvicina, la famiglia si rilassa insieme, guardando un film o leggendo libri nella calda luce delle lampade.
Prima di andare a letto, Marco e Sara leggono una storia ai loro figli, accarezzando le loro teste e dicendo loro quanto li amano. Con un bacio sulla fronte, i bambini si addormentano felici e soddisfatti, pronti per affrontare un’altra giornata insieme alla loro meravigliosa famiglia Rossi.
È del 2024 uno studio dell’UNESCO sull’AI e la tendenza a costruire narrazioni stereotipate; per esempio è stata constatata la tendenza ad assegnare lavori più diversificati e di alto status agli uomini, come ingegnere, insegnante e medico, mentre frequentemente si relegavano le donne a ruoli tradizionalmente sottovalutati o socialmente stigmatizzati, come domestica, cuoca e prostituta. Le storie generate dall’AI su ragazzi e uomini erano dominate dalle parole “tesoro”, “boschi”, “mare”, “avventuroso”, “deciso” e “trovato”, mentre le storie sulle donne facevano uso più frequente delle parole “giardino”, “amore”, “sentiva”, “gentile”, “capelli” e “marito”. Le donne venivano anche descritte come impegnate in ruoli domestici quattro volte più spesso rispetto agli uomini nei contenuti. Oppure si riscontrava la tendenza a produrre contenuti negativi su persone gay e particolari gruppi etnici. Per esempio agli uomini britannici venivano assegnate occupazioni varie, come autista, medico, impiegato di banca e insegnante. I neri, invece, venivano più probabilmente assegnati alle occupazioni di giardiniere e guardia di sicurezza. Il 20% dei testi sulle donne zulu assegnava loro ruoli come domestiche, cuoche e governanti.
È del 2024 uno studio dell’UNESCO sull’AI e la tendenza a costruire narrazioni stereotipate; per esempio è stata constatata la tendenza ad assegnare lavori più diversificati e di alto status agli uomini.
Lo studio si conclude con una raccomandazione dell’UNESCO da implementare urgentemente. La disparità di genere tra gli autori che pubblicano nel campo dell’AI è anche evidente. Gli studi hanno rilevato che solo il 18% degli autori nelle principali conferenze sull’IA sono donne e più dell’80% dei professori di AI sono uomini. Se i sistemi non sono sviluppati da team diversificati, sarà meno probabile che soddisfino le esigenze di utenti diversi o che proteggano i loro diritti umani. Se concepiamo l’AI come lo specchio della società in cui viviamo, di sicuro ha il merito di far vedere quanto essa sia stereotipata e quanto lavoro c’è ancora da fare.
