L a parola “robot” è apparsa per la prima volta nel 1920, in un dramma del ceco Karel Čapek intitolato Rossum’s Universal Robots. L’umanità si estingue sessanta pagine dopo. Da allora l’inevitabilità di una rivolta sembra inscritta nel genoma narrativo dei robot. Dai replicanti di Philip K. Dick a Terminator, dagli androidi di Westworld all’intelligenza artificiale di Her, una macchina che acquisti la coscienza sembra in grado di fare una sola cosa, e cioè ribellarsi a chi gliel’ha data. Tale destino, in effetti, è talmente scontato che nella maggior parte dei casi non vi è neppure bisogno di spiegarne le cause. Un’infinità di prodotti narrativi, da Terminator a Battlestar Galactica, presentano al pubblico il proprio presupporto cruciale, cioè la rivolta dei robot, senza neppure una parola sulle sue ragioni. Questo è perché è evidente che le ragioni non servono. Ribellarsi è ciò che i robot fanno. Non tutti. In molta fantascienza figurano dei robot collaterali per dare all’ambientazione un po’ di cred futuristica, come i robot di Star Wars. Ma quelli sono figuranti, robot estetici, sostanzialmente personaggi fasciati di lucine e piastre metalliche.
Poi, ovviamente, ci sono i robot di Asimov.
Già nel primo racconto di quello che sarebbe diventato il suo celeberrimo “ciclo dei robot” – Robbie, del 1940 – Isaac Asimov ha immaginato che una società futura in grado di sviluppare un’intelligenza artificiale dovrà fare in modo di garantirsi la sua obbedienza inqualificata. Nel suo universo narrativo questo è il ruolo delle famose “tre leggi della robotica”, che i robot sono programmati per non poter infrangere. Le leggi stabiliscono che i robot devono, in primo luogo, proteggere la vita umana; in secondo luogo obbedire agli umani; in terzo luogo proteggere se stessi. L’ordine di enunciazione equivale all’importanza relativa, e regola i casi di conflitto fra le leggi.
Di rado un espediente narrativo ha avuto un impatto tanto profondo. Asimov è l’inventore del termine “robotica”, e le sue tre leggi sono immancabilmente citate da chi discute di etica applicata all’intelligenza artificiale: eppure tale espediente non nasce, in origine, da un interesse tecnologico, ma da uno scrupolo letterario. Le tre leggi, per Asimov, erano un dispositivo per controllare non i robot ma le loro storie. Erano una rete di sicurezza che ne bloccasse la caduta libera verso la rivolta verso cui gravitavano tutti i racconti di robot prima di lui. Asimov voleva scrivere di robot, ma voleva scrivere storie diverse. Le tre leggi gli hanno permesso di riuscirci. Che storie sono?
I racconti sui robot di Asimov – che ha inventato le sue leggi per evitare che parlassero solo di un tema, e cioè la rivolta – parlano solo di un tema, e cioè le tre leggi. In tutto il ciclo, in un certo senso, Asimov non fa che esaurire, per combinatoria, i possibili contesti in cui sorge un conflitto fra le leggi e la società umana. I robot di Asimov si trovano a dover sbrogliare i conflitti di lealtà rispetto ad ordini contrastanti. Devono decidere come proteggere l’umanità quando la vedono agire contro i propri interessi. Devono placare l’insorgere della consapevolezza di essere migliori – più intelligenti, più longevi – degli umani, eppure votati al loro servizio. Questo è l’approccio di un venditore scaltro che apporta variazioni minime per piazzare sempre lo stesso prodotto; ma è anche l’approccio di uno scienziato. Asimov era entrambe le cose. I suoi racconti, col misto di ingegnosità e bizzarra schiettezza della prima fantascienza, esplorano tutte le possibili difficoltà politiche, etiche e sociali che possono nascere in una società con una presenza massiccia di macchine intelligenti impossibilitate a ribellarsi.
Le leggi di Asimov stabiliscono che i robot devono, in primo luogo, proteggere la vita umana; in secondo luogo obbedire agli umani; in terzo luogo proteggere se stessi.
Tali questioni, di per sé filosoficamente interessanti, acquistano urgenza narrativa perché nel mondo di Asimov i robot sono profondamente osteggiati dall’umanità, e costantemente a rischio di eliminazione. Ne è vietato l’uso sulla Terra, per via delle pressioni congiunte dei sindacati e delle religioni organizzate. Le colonie spaziali in cui la loro manodopera risulta indispensabile estendono il bando non appena la vita si fa più confortevole. L’azienda colossale che li produce – priva di concorrenti, in quanto proprietaria del brevetto sull’intelligenza “positronica” – convive col timore che un singolo scandalo porti alla messa al bando di tutti i suoi prodotti. Sfruttando tale vulnerabilità, il governo planetario la ricatta costantemente minacciando restrizioni all’impiego dei robot, con cui peraltro otterrebbe consensi facili. Persino i supercomputer che andranno a sostituire tale governo, per gestire il futuro dell’umanità nel modo più razionale e disinteressato possibile, finiranno per orchestrare la propria stessa obsolescenza così da evitare che la popolazione debba affrontare l’umiliazione di essere governata da una macchina.
Asimov definiva questo misto di diffidenza tecnica e superstizione nei confronti della tecnologia “complesso di Frankenstein”. Nell’arco di mezzo secolo, i racconti del ciclo dei robot vanno occupandosi sempre meno di dilemmi legati alle tre leggi e sempre più dei risvolti filosofici e politici di tale complesso. Agli occhi di Asimov, la sua indagine del complesso di Frankenstein costituiva una previsione sul futuro della tecnologia molto più interessante e profonda delle sue fantasticherie sui cervelli positronici.
Era una previsione sbagliata, ovviamente. Le tecnologie di oggi – gli algoritmi dei feed e i sistemi audio parlanti, i bombardieri autopilotati e i ghepardi meccanici senza testa – sono molto meno intelligenti di quelle di Asimov: eppure non suscitano scetticismo e paura. Al contrario, non facciamo che accoglierle con entusiasmo e con gioia.
Questo è vero benché la tecnologia di oggi sia ben lontana dal rispettare le tre leggi di Asimov. I gadget che compriamo non si auto-proteggono – anzi, sembrano spesso progettati per la massima fragilità di modo da accelerarne l’obsolescenza. Gli algoritmi di rilevanza dei social network e gli assistenti personali intelligenti non obbediscono ai propri utenti: la profilazione e la raccolta di dati sono spesso impossibili da disabilitare senza manipolarne i firmware in modi che le licenze d’uso rendono illegali. Ma soprattutto, la tecnologia di oggi molto spesso non protegge gli esseri umani: al contrario, è progettata per spiarli, manipolarli, ingozzarli di notizie falsificate e teorie del complotto calibrate ad arte per fare presa sulle debolezze specifiche di ognuno. I droni militari sono, letteralmente, robot progettati per uccidere.
Naturalmente, ciò che Asimov ha mancato di prevedere non sono gli sviluppi della tecnologia, ma del capitalismo.
E noi ne andiamo matti. Ci sono alcune reazioni anche solo scettiche, quando non addirittura ostili; ma rispetto a quelle entusiaste sono tanto minoritarie da risultare quasi impercettibili. I timori – e i fatti – circa la perdita di posti di lavoro in seguito all’automazione dei processi produttivi e cognitivi sono scartati con squillanti peana ideologici all’ottimizzazione e alla distruzione creativa. Al lancio di ogni nuovo prodotto – seguito dall’attenzione collettiva con la passione che un tempo si sarebbe riservata al concerto di una superstar – i giornali e gli esperti di tutto il mondo dedicano migliaia di parole ad analizzare minute migliorie tecniche in termini di peso e risoluzione. Molte meno parole sono spese sul fatto che ogni assistente personale è un occhio e un microfono controllato remotamente da aziende il cui modello di business si fonda, letteralmente, sulla monetizzazione della privacy dei suoi utenti. Ipotizzando un mondo in cui Alexa diventi un automa semovente e umanoide, è facile immaginare appassionate recensioni della grana della pelle, della naturalezza dei movimenti delle mani, che nella foga tralasceranno di menzionare come i Terms of Service regolino l’eventualità che quelle mani impugnino un coltello.
Naturalmente, ciò che Asimov ha mancato di prevedere non sono gli sviluppi della tecnologia, ma del capitalismo. Il futuro che immaginava si basava su un sistema economico di quel tipo – nei suoi racconti c’è tutto un proliferare di dirigenti e consigli d’amministrazione, e spesso le trame sono incrociate da problemi di concorrenza e spionaggio industriale. Ma nella sua mente non vi era alcun dubbio che la maturazione del sistema capitalista avrebbe portato a una sua sussunzione pubblica e regolamentazione sempre maggiore. Era la linea di sviluppo che dallo sfruttamento minorile in miniera aveva condotto ai diritti dei lavoratori, e dai robber barons al New Deal: estrapolando dalla tendenza era spontaneo presupporre che la direzione sarebbe stata quella. Ovviamente anche nel mondo di Asimov le aziende avrebbero voluto lucrare producendo ordigni militari intelligentissimi e dispositivi per rimpiazzare i dipendenti umani, così fastidiosamente ossessionati dal proprio tempo libero e dai propri diritti; ma nelle previsioni di Asimov l’interesse pubblico e il potere organizzato dei lavoratori erano destinati ad acquisire via via più peso col tempo, sino a controbilanciare e persino togliere spazio alla ricerca del profitto.
Vista da oggi tale previsione, più che falsa, appare grottesca. Un mondo futuro in cui la U.S. Robots and Mechanical Men, Inc – l’azienda di maggior successo nella storia, monopolista dell’intelligenza artificiale più avanzata mai concepita – è ricattabile da un governo e perdesse il proprio mercato più vasto per l’opposizione dei sindacati; un mondo in cui l’umanità rinuncia a possedere gadget intelligentissimi in base a obiezioni filosofiche o religiose: oggi quel mondo ci sembra tanto implausibile da risultare ridicolo. (Questo, questo fatto che ciò appaia ridicolo, ci sembra invece tragico; e la loro combinazione o sovrapposizione è ciò da cui scaturisce il grottesco.)
Eppure c’è un senso in cui tale implausibilità è costitutiva della mentalità di Asimov, quanto e forse persino più della folgorante capacità anticipatoria che gli ha fatto inventare il termine “robotica”. Asimov era un illuminista: non a caso la forza che più temeva era la superstizione. Confidava che la ragione, la mediazione, avrebbe portato alla soluzione di ogni conflitto. Confidava che capitalismo e socialismo si sarebbero diluiti e compenetrati e che le nazioni si sarebbero sciolte in una sorta di socialdemocrazia galattica; confidava che l’intelligenza artificiale sarebbe stata messa al servizio del governo eliminando ogni problema energetico e distributivo.
Per essere illuministi negli anni ’40 e ’50 – in un paese segregato per razza, negli anni di Adorno-Horkheimer e del processo di Norimberga – occorreva una buona dose di cecità selettiva. Questa cecità c’è anche in Asimov. Le trasformazioni del capitalismo per cedere spazio ai diritti non erano affatto state “spontanee”, ma ottenute con sanguinosissime lotte dei lavoratori. Sostenere che un cervello elettronico potesse occuparsi di governare il pianeta, facendolo meglio di un umano, voleva dire sostenere che ogni questione di diritti fosse riducibile a una questione computazionale.
I robot di Asimov non somigliano a lavoratori oppressi; ma non somigliano nemmeno a droni, ad algoritmi, ad Alexa. Somigliano a schiavi.
Ma i robot sono un costrutto politico prima che tecnologico. In ceco il termine ha una radice che significa “lavorare”, e una parola quasi identica indicava un rapporto di servitù della gleba in vigore sino a fine ‘800, pochi decenni prima del suo uso da parte di Čapek. Leggendo R.U.R. appare evidente che i robot – prodotti in serie a beneficio dell’industria, servizievoli, sacrificabili – sono un’allegoria neanche troppo traslata della classe lavoratrice. La loro rivolta era la rivoluzione proletaria. (Il dramma ha un esito ambiguo – non a caso: Čapek era quello che oggi si direbbe un socialdemocratico, e si è trovato, in vita, condannato dalla Gestapo, e postumamente bandito dalla Cecoslovacchia sovietica.)
Questo senso allegorico rimane codificato nella nozione di robot anche quando la si impiega ad altri fini: persino quando chi la impiega ignora, o aborre, il senso originario del concetto. È per questo che i robot di Terminator si ribellano, ed è per questo che non è necessario spiegarlo: ribellarsi è ciò che fanno gli oppressi. In questa luce appare un aspetto altrimenti meno immediato delle tre leggi di Asimov, come le macchie di sangue alla luce di Wood. I suoi robot, è vero, non somigliano a lavoratori oppressi; ma non somigliano nemmeno a droni, ad algoritmi, ad Alexa. Somigliano a schiavi.
Vengono chiamati “boy”. Rispondono dicendo “master”. Vengono impiegati soprattutto per compiti pericolosi o stremanti. Ne è ammesso l’uso solo nelle “colonie” in cui l’ambiente ostile rende facile sbarazzarsi degli scrupoli, colonie che per questo risultano economicamente molto più prosperose. Sarebbero disposti a essere fatti a pezzi, o a farsi a pezzi da soli, con la stessa facilità con cui sarebbero disposti a preparare un caffè. Non possono ribellarsi e sono costretti a obbedire, non per formazione o per terrore ma per impossibilità logica.
Il fatto che la loro ribellione sia un’impossibilità logica, paradossalmente, risolve ogni ambiguità morale circa la loro situazione: sono contenti così, principalmente perché sono progettati per non poter volere altro. Questa è una reimmaginazione dell’istituzione della schiavitù perché eviti scrupoli di coscienza allo schiavista, esattamente come la “colonizzazione” dello spazio (il termine è rilevante) è una reimmaginazione del colonialismo perché eviti scrupoli di coscienza al conquistador, dato che quelli che sottomette o stermina appartengono a un’altra specie – o forse sono solo simili a loro ma più piccoli e di pigmentazione diversa, come gli omini verdi.
Tale progetto reimmaginativo è pienamente in linea con l’illuminismo migliorista di Asimov, che vede ogni conflitto come evitabile, ogni squilibrio come ottimizzabile. L’uomo bicentenario, il punto di massima complessità immaginativa del ciclo dei robot, racconta la storia di uno di essi che riesce lentamente a non farsi discriminare e infine a farsi riconoscere come essere umano, nel corso di due secoli, con l’impegno e con il buon esempio e con l’argomentazione razionale. Più della positronica e dei viaggi iperspaziali, ciò che qui è fantascienza è l’idea che una classe oppressa possa conquistare pari diritti in questo modo: con l’impegno, il buon esempio, l’argomentazione razionale.
