A metà dell’Ottocento, nel pieno trionfo della rivoluzione industriale, le grandi città si ritrovarono con un problema: cosa fare delle masse sporche e maleodoranti di sottoproletari accorsi dalle campagne nelle città per beneficiare del miracolo economico. Mentre la comunità scientifica, guidata dall’enorme entusiasmo suscitato dalle nuove teorie positiviste, si interrogava sulla natura della povertà, i politici cercavano soluzioni per limitare la visibilità del problema.
Nacquero le poor houses: edifici enormi, costruiti su terreni statali dati in gestione a privati tramite speciali concessioni, nati con l’unico scopo di stipare tutte le masse di disperati che affollavano le strade togliendole così dagli occhi della nascente borghesia cittadina. All’interno delle poor houses gli “ospiti” erano obbligati a una sorta di lavoro forzato (ma “moralmente nobilitante”), per conto della comunità che nel suo profondo spirito di carità garantiva in cambio qualche pasto e un giaciglio per la notte. Dentro queste strutture fatiscenti, che non rispettavano chiaramente le più basilari norme igieniche e di sicurezza, i poveri e gli indigenti di qualsiasi colore (ma principalmente afroamericani e migranti stranieri), vedove e orfani, venivano schedati e classificati, divenendo materia prima per gli studi della nascente scienza eugenetica.
L’idea di fondo dietro al fenomeno delle poor houses era che la povertà fosse una malattia contagiosa, probabilmente ereditaria, che pertanto andava isolata dal tessuto sociale e dallo strato produttivo e sano della società. Una “disfunzione dell’anima” che in alcuni casi poteva essere curata con un po’ di sana moralità occidentale e che in caso contrario era meglio lasciar morire più velocemente possibile. In ogni caso niente che potesse avere a che fare con un errore o un pregiudizio connesso al sistema vigente.
Oggi la terribile esperienza dickensiana delle poor houses ritorna in altre vesti negli efficienti sistemi di profilazione, identificazione e erogazione automatizzata dei moderni servizi di welfare americani; un collegamento tra quegli edifici fatiscenti e gli algoritmi dei moderni software ai quali spetta il compito di decidere chi è meritevole di essere aiutato e chi no, un filo intessuto di pregiudizi profondamente classisti e razzisti mai realmente superati.
L’idea di fondo dietro al fenomeno delle poor houses era che la povertà fosse una malattia contagiosa, probabilmente ereditaria, che pertanto andava isolata dal tessuto sociale e dallo strato produttivo e sano della società.
Virginia Eubanks, ricercatrice e operatrice sociale da anni impegnata nel monitoraggio dell’impatto delle nuove tecnologie sulle fasce più a rischio della popolazione americana, ha cercato di portare alla luce questi collegamenti in Automating Inequality: How the High-tech tools profile, police, and punish the poor (St. Martin Press, 2018), facendo un lavoro di testimonianza e documentazione di un fenomeno che sta interessando le principali economie mondiali con particolare riguardo verso quella statunitense. Eubanks tenta di raccontare il processo attraverso il quale i pregiudizi di stampo razziale e classista di un certo darwinismo sociale tardo ottocentesco siano riusciti ad attraversare indenni un secolo di progresso e di conquiste sociali, per ricomparire sotto forma di bias culturale all’interno dei moderni sistemi di gestione automatizzata del welfare state americano.
Gli Stati Uniti sono sotto questo punto di vista un luogo privilegiato d’indagine, capaci di annoverare fra le proprie file sette dei dieci uomini più ricchi del pianeta e avere allo stesso tempo un terzo della popolazione sotto la soglia di povertà. Le varie lotte alla povertà condotte sin dai tempi di Theodore Roosevelt non hanno fatto altro che rimandare l’inevitabile crisi dello stato sociale che iniziata in epoca reaganiana sembra oggi esplodere in tutta la sua potenza sotto la presidenza Trump.
L’approccio americano al welfare state non è difficile da indovinare: una nazione nata e cresciuta nel mito del self-made man che ha di conseguenza sempre visto negli ammortizzatori sociali, salvo rare eccezioni, nient’altro che un mero assistenzialismo dei più beceri, una debolezza tutta europea retaggio del vecchio mondo. Se sei povero, è perché te lo meriti. Una concezione da sempre presente nei programmi elettorali del Grand Old Party repubblicano; basti pensare ai tentativi della presidenza Trump di smantellare la riforma sanitaria Obama Care, colpevole secondo i repubblicani di incoraggiare un utilizzo parassitario e fraudolento dei servizi medici e di assistenza. Il contesto descritto da Eubanks è chiaro al punto da non dare adito a fraintendimenti: negli Stati Uniti è in corso da più di cent’anni e con fortune alterne una guerra, non alla povertà ma ai poveri, che oggi può contare sull’utilizzo indiscriminato e in chiave profondamente punitiva delle potenzialità dischiuse dalle tecnologie relative a Big Data e intelligenze artificiali. L’esperienza ottocentesca della lotta alla povertà come emarginazione e colpevolizzazione dei poveri, lungi dall’essere superata, fornisce oggi l’anello di congiunzione che permette secondo l’autrice americana di tracciare una linea di continuità fra le politiche sociali passate e quelle recenti.
Per arrivare a questa conclusione, l’inchiesta condotta da Eubanks fa un viaggio dell’assurdo in alcuni luoghi in cui la tanto attesa automazione del settore assistenziale ha già lasciato profondi segni. Un percorso trasversale nel cuore degli States, volto a spiegare perché l’eliminazione del fattore umano all’interno dei servizi assistenziali non sia coincisa con un miglioramento, come una larga parte della politica americana sperava, ma abbia anzi condotto ad un profondo aumento delle disuguaglianze etniche e sociali. Los Angeles, Indiana, Pennsylvania, ognuno di questi luoghi racconta la storia di un’illusione comune: quella di poter trattare efficacemente tematiche di giustizia sociale alla stregua di equazioni matematiche da risolvere. In ognuno di questi luoghi teatro d’inchiesta i pregiudizi e le discriminazioni non hanno fatto altro che traslarsi da un piano all’altro, da quello umano a quello digitale, divenendo ancor più difficili da eradicare.
All’alto livello di tecnologia impiegato nei nuovi apparati dei servizi sociali non è corrisposto un livello altrettanto alto di controllo e tutela per chi sopravvive grazie all’utilizzo di questi servizi.
È così che nella contea di Los Angeles, teatro da almeno vent’anni della più grande crisi abitativa d’America, il sistema di aiuto alla popolazione senzatetto si è trasformato in un gigantesco impianto di sorveglianza alimentato dalla sovrapposizione di migliaia di dati appartenenti alle fasce più povere della popolazione. Raccolti in modo per lo più illegale, attraverso procedure di profilazione coatta o ancor peggio estorti in forma di ricatto rispetto alla possibilità di accedere a servizi assistenziali, questi dati vengono messi infine a disposizione delle autorità giudiziarie e delle aziende private incaricate di lavorarli, il tutto senza alcuna supervisione politica né tutela legale nei confronti dei diretti interessati. L’opposizione anche solo simbolica da parte dei richiedenti a questo processo altamente discriminante e invalidate, comporta automaticamente l’esclusione da ogni forma di aiuto statale.
Discorso analogo nello stato dell’Indiana: da quando il sistema è stato quasi totalmente automatizzato ed è quindi in mano agli algoritmi e ai loro programmatori piuttosto che ad assistenti sociali in carne ed ossa, migliaia di persone rimangono ogni giorno ingiustamente escluse dall’accesso che pur gli spetterebbe alle cure mediche e agli aiuti alimentari, in virtù di un’errata indicizzazione e d’una eccessiva rigidità nei termini di adesione. Una lettera smarrita fra le miriadi di documenti necessari a completare la domanda si traduce immediatamente in un rifiuto della richiesta, con gravi conseguenze fisiche e psicologiche a discapito dei richiedenti.
Un ultimo esempio arriva dalla contea di Allegheny, in Pennsylvania, dove l’inserimento dei processi automatizzati rispetto alla tutela e all’affidamento dei minori si è tradotto in enormi discriminazioni nei confronti delle famiglie a basso reddito, considerate automaticamente dall’algoritmo come ad alto rischio e quindi soggette a particolari tipi di procedure altamente discriminanti basate unicamente sul grado di istruzione e di reddito dei membri appartenenti non solo al nucleo famigliare ma a qualsiasi grado di parentela.
Nel complesso il libro di Eubanks mostra in modo chiaro come all’alto livello di tecnologia impiegato nei nuovi apparati dei servizi sociali non sia corrisposto un livello altrettanto alto di controllo e tutela per chi sopravvive grazie all’utilizzo di questi servizi. In quest’ottica, nota Eubanks, le promesse di efficienza e trasparenza derivate dall’uso delle intelligenze artificiali non esitano a tradursi in una nuova forma di discriminazione, ancora più potente perché, proprio come le poor houses, nascosta allo sguardo.
Il processo di automazione è un processo strumentale e come tale non è neutrale, ma risente profondamente del contesto socio-culturale dal quale prende vita.
Questa strategia di delega gestionale alla tecnologia nel mondo anglofono è chiamata mathwashing, una procedura attraverso la quale si è immaginato di poter intervenire sui mali che affliggono il pianeta utilizzando un approccio unicamente matematico, di puro calcolo, come se a ogni numero potesse corrispondere un aspetto inscindibile dell’esistenza. Come suggerisce la riflessione di Eubanks, più che a una fede mal riposta nel fantomatico processo teleologico umano, in questo punto ci si trova precisamente a fare i conti con una vera e propria opera di propaganda neoliberale, che mentre da un lato finge di aver a cuore i problemi degli individui, dall’altro nasconde un’ideologia pienamente asservita alle esigenze del libero mercato e quindi in nessun modo legata all’aspetto sociale, capace di tracciare un’evidente linea di continuità con le politiche di stampo tardo ottocentesco.
Questo tipo di approccio, sempre più presente all’interno delle agende nazionali dei vari paesi, rivela, oltre a una pratica dal sapore prettamente reazionario, una dimensione dove il povero non rappresenta più un uomo o una donna in stato di sofferenza, ma un problema da gestire unicamente nella logica dell’economia aziendale. La ricerca di Eubanks punta precisamente alla demistificazione dell’ontologia del dato: in sé il processo di automazione è un processo strumentale e come tale non è un processo neutrale, ma un processo che risente profondamente di tutto il contesto socio-culturale dal quale prende vita.
Un discorso che a primo impatto sembra scontato, ma dimostra di non esserlo nel momento in cui si analizza la dimensione politica europea e in particolare italiana: difficile non cogliere le similitudini e le assonanze che emergono sul tema quando si parla di reddito di cittadinanza o di reddito universale. Una qualsiasi forma di reddito d’inclusione, se strutturata in questo modo, non potrebbe che ripetere gli errori del passato, rischiando per l’appunto di complicare un processo già di per sé difficile come può essere quello relativo alla ridistribuzione equa delle ricchezze nelle società moderne.
Dalla ricerca di Eubanks emerge un monito ingombrante: non si può intervenire sul problema della povertà se non si interviene prima sulle sue cause endemiche e politiche. La povertà non può più essere considerata alla stregua di un virus che divide il suo effetto fra chi ne è immune e chi ne è flagellato. Gli interventi tecnologici pensati per facilitare la vita di chi si trova in stato di indigenza non possono tradursi, come sta avvenendo negli Stati Uniti, in una forma di punizione e di controllo sempre maggiore dei ceti più deboli, stretti nella morsa di un ricatto fra il morire di stenti e il perdere la propria dignità e i propri diritti civili. In conclusione del libro, alla domanda su come possa un programmatore capire se lo strumento che sta contribuendo a creare sia etico e non discriminante, la risposta è lapidaria: quello che chiedi di accettare alle persone in stato di bisogno, lo accetteresti tu stesso, pur non avendo quel bisogno?
