N ato nel 1902 e morto novant’anni dopo, Günther Anders, “uomo di statura media con i capelli castani e gli occhi scuri […] spesso fotografato con gli occhiali e un completo elegante” (ChatGPT), cugino di Walter Benjamin, primo marito di Hannah Arendt, e amico di Stefan Zweig e Bertolt Brecht, ha attraversato tutti i drammi del Ventesimo secolo, traendone una filosofia inquieta che fa emergere la paura a principio di legittima realtà. Allievo di Heidegger, non condividerà mai totalmente la sua critica della modernità tecnica che avrebbe distrutto “la capacità dell’uomo di costruire e abitare nel campo dell’essenziale”. Tuttavia, in L’uomo è antiquato descriverà con finezza la nostra difficoltà a adattare l’immaginazione alle straordinarie produzioni tecniche nate per nostra mano: la tecnica mette soggezione e l’uomo, di fronte alla perfezione degli strumenti che ha creato, prova vergogna della propria contingenza e della propria finitezza. Questa sensazione di pericolo rispetto alla tecnica, quello che proviamo nel vedere ChatGPT scrivere in pochi decimi di secondo il progetto completo di un libro sulla termodinamica di Maxwell, sulla posta in gioco dell’invenzione dei fuochi d’artificio nella Cina imperiale della dinastia Tang, o nel rispondere in modo estremamente misurato a una domanda complessa (per esempio: “La Cina diventerà la prima potenza mondiale?”), questa sensazione Günther Anders ha proposto di chiamarla “vergogna prometeica”.
Se la formulazione è recente, il gioco di fascinazione-repulsione verso le macchine artificiali percorre tutta la nostra storia culturale. È la singolarità auspicata dal ciclo dei Terminator (1994-2019) che mette in scena la presa di possesso del mondo a opera di una IA globale e guerriera nella fase della singolarità tecnologica. Gli intensi dibattiti contemporanei sul divario tra l’essere vivente e la macchina, le nozioni di autonomia e di originalità, il modo in cui le intelligenze artificiali modificano il nostro rapporto con la memoria e la creazione, riformulano le nostre categorie filosofiche, etiche ed estetiche interpellando l’idea stessa di cultura, e sono da considerare a lunghissimo termine. L’IA è un insieme di tecnologie indissociabile dal sogno e dalla fantasia; le sue applicazioni sono l’esito di ideologie e valori remoti, e a volte molto vecchi: l’antichità greca meditava già sulle creature animate ispirate da animali o da esseri umani creati da Efesto, come Talo, il gigante di bronzo che secondo Apollodoro era stato incaricato da Minosse di sorvegliare l’isola di Creta, o come quei primi androidi domestici descritti nel Libro diciottesimo dell’Iliade: “due ancelle d’oro sostenevano il loro padrone, simili a giovinette vive: esse avevano intelligenza [il famoso noos], voce e forza, erano esperte nei lavori delle dee immortali”. Forse questi miti sono nutriti di tecnologie oggi scomparse, come ha ipotizzato Adrienne Mayor in Gods and Robots […].
Nel mezzanino dell’ala Denon, il museo del Louvre conserva un’impressionante maschera totem meccanica, a immagine del dio Anubi con la testa di sciacallo, utilizzata per far parlare la divinità. Il primo trattato sugli automi, del matematico e meccanico greco Erone di Alessandria, risale al 125 d.C. e contribuisce a una fascinazione che attraversa i secoli e le culture – dal celebre uccello animato a vapore creato intorno al 380 a.C. da Archita di Taranto, un amico di Platone, al leone meccanico concepito da Leonardo da Vinci, senza dimenticare gli androidi cinesi della dinastia Zhou capaci di cantare, e la cameriera meccanica inventata dall’ingegnere arabo al-Jazari. Fascinazione che alimenta la fantasia sul potenziale magico delle macchine antropomorfe, di cui i robot contemporanei sono eredi, e che porta con sé sia il turbamento di uno sguardo esterno sulla condizione umana e la sua dimensione meccanica, sia il timore di una grande sostituzione con forme di vita autonome e superiori. La storia culturale alterna narrazioni dell’intelligenza artificiale protettrici (i soldati automatici che custodiscono le reliquie di Buddha evocati nel Lokapannatti indiano) e altre minacciose (il celebre Golem, figura d’argilla che si anima quando le si mette in bocca un foglio con su scritto il nome di Dio), ma che sfidano ovunque l’umanità dell’uomo con prodigi che continuano ad affascinare.
Le applicazioni dell’intelligenza artificiale sono l’esito di ideologie e valori remoti, e a volte molto vecchi.
[…] In realtà, come ha dimostrato Ellen Truitt in Medieval Robots, l’epoca dei cavalieri ha messo ossessivamente in scena gli automi: per fare solo qualche esempio, Lancillotto deve combattere contro degli automi di rame e armati di potenti spade create da “negromante”, e il santuario del Re pescatore dove si trova il Graal è custodito da villani anch’essi di rame. Le “meraviglie” costituite da cavalli di legno volanti o da “pesci-cavalieri” di ferro spaventano i lettori proprio come Biancifiore, la protagonista del romanzo eponimo, che, imprigionata in un giardino, scorge degli uccelli veri intenti a sedurre degli uccelli meccanici, perché ingannati dalla bellezza del loro canto. Ciò che l’inconscio elettronico di ChatGPT forse rimuove è la leggenda nera che circola a partire dal Quattordicesimo secolo secondo la quale Alberto il Grande, celebre filosofo scolastico soprannominato il “Dottore universale”, avrebbe costruito una testa di metallo che parlava e rispondeva alle domande che gli venivano poste. Il suo allievo, il futuro san Tommaso d’Aquino, “Dottore angelico”, si sarebbe spaventato e avrebbe distrutto quella prima intelligenza artificiale con un martello. La scolastica medievale condivideva con ChatGPT il gusto delle quodlibeta, vale a dire delle domande su qualsiasi argomento che dessero luogo a risposte contraddittorie, secondo un meccanismo ben lubrificato, la cui disumanizzazione era fonte di spavento.
La paura di una potenza invincibile e di un’intelligenza artificiale universale che tormenta le nostre distopie contemporanee è nutrita da tutta questa mitologia. Lungi dall’essere isolata dalla scienza, la fantasia vi è intrinsecamente legata, popolando l’immaginario degli ideatori e dei programmatori dell’IA. Yann LeCun, uno degli inventori delle reti convoluzionali, racconta l’influenza che ha avuto su di lui HAL 9000, il computer di fantasia di 2001: Odissea nello spazio, esperienza basilare per il giovane uomo che era e tramite per numerosi ricercatori di IA – come dimenticare il fatto che Norbert Wiener e Marvin Minsky, due padri fondatori dell’intelligenza artificiale, hanno scritto dei romanzi? Come ogni orizzonte di trasformazione radicale capace di sconvolgere le categorie fondamentali delle nostre rappresentazioni (la divisione tra il naturale e l’artificiale, l’animato e l’inanimato, e via dicendo) e le condizioni della nostra vita, promettendo di strappare l’essere umano alla sua solitudine metafisica e alla sua mortalità, e interrogando la nostra individualità e soggettività, l’IA è accompagnata da un’intera cultura della fantasia: pensiamo al cinema, da Metropolis di Fritz Lang (1927) a Ex Machina di Alex Garland, passando per 2001: Odissea nello spazio di Stanley Kubrick, Agente Lemmy Caution: missione Alphaville di Jean-Luc Godard, Blade Runner di Ridley Scott, A.I. – Intelligenza artificiale di Steven Spielberg, per citare le opere più significative.
Capaci di sviluppare personaggi di lunga durata permettendo di rielaborare il nostro approccio con l’ordinarietà, le serie tv hanno continuato su questa scia nel momento del trionfo industriale dell’IA: Battlestar Galactica, Raised by Wolves, Mr. Robot, Real Humans, o anche Almost Humans, e molti episodi di Black Mirror arrivano ad analizzarlo da vicino – tra questi in particolare il primo della seconda serie, intitolato “Be Right Back”, che mette in scena la sopravvivenza post-mortem di un giovane uomo grazie a una IA. In quale misura gli umani possono essere guidati da forme avanzate di psicologia sociale assistite dall’IA? Liberarsi della morte nel progetto postumanista non ha forse come contropartita robotizzare gli umani effettuando il loro personale upload? È la domanda posta senza mezzi termini dalla serie Westworld. Dove tutto è concesso.
Non solo la protagonista della serie, Maeve, arriva a prevedere le pulsioni dei suoi clienti e ad anticipare il loro comportamento leggendo dentro di loro alla stregua di una prostituta provetta (vedi stagione 1, episodio 6), ma il parco dei divertimenti è in realtà esso stesso un vasto esperimento di psicologia sociale. È il colpo di scena della prima stagione: la finalità del parco di attrazioni non è tanto insegnare ai robot a comportarsi come gli umani, ma registrare e analizzare una miriade di comportamenti umani individuali per controllarli in seguito attraverso delle IA (i cappelli da cowboy consegnati agli invitati sono in realtà scanner cerebrali). Nelle stagioni 2 e 3, la sfida, alla quale alcuni androidi collaborano con gli umani, sarà impedire che l’umanità finisca sotto il controllo di una IA centralizzata, Rehoboam, capace di prevedere la vita di ognuno e il divenire dell’umanità, identificando al volo gli individui che potrebbero ribellarsi. Il co-ideatore di Westworld, Jonathan Nolan, s’ispira qui tanto a Minority Report quanto alla serie Person of Interest, da lui stesso creata nel 2011, che dipingeva un mondo di sorveglianza globale attraverso l’IA.
La paura di una potenza invincibile e di un’intelligenza artificiale universale che tormenta le nostre distopie contemporanee è nutrita da tutta questa mitologia.
L’orizzonte è il controllo dell’individuo, ridotto a un software (“un essere umano è solo un breve algoritmo, 10.247 righe di codice”, ci viene spiegato nella stagione 2), mediante un software superiore, quello dell’IA. L’utopia dell’umanizzazione dell’IA è accompagnata dalla distopia della datificazione e disumanizzazione degli uomini, dove avviene una prima forma di avvicinamento tra esseri umani e intelligenza artificiale: quella delle alienazioni. Così, nella fantascienza i temi della schiavitù dei robot, della loro rivolta prometeica e della guerra tra le specie sembrano consustanziali al tema dell’immaginazione delle creature artificiali, come il desiderio sessualizzato nei confronti di una donna artificiale. Ma se possiamo porre domande complesse che vanno al di là delle semplici reazioni di desiderio e di rigetto, lo dobbiamo precisamente a queste serie. La reversibilità della questione della differenza, l’intreccio di quesiti metafisici, le complicità e i complessi legami affettivi tra le specie, le nuove collaborazioni che possono instaurarsi tra loro riguardo a nemici o a progetti comuni, inducono a pensare a nuovi corpi freschi e a intelligenze artificiali al di fuori dei puri rapporti di forza dialettica.
Westworld, mettendo in scena donne vittime del razzismo e del determinismo di genere, è l’esempio stesso di questa convergenza di lotte che traspare fortemente anche in Real Humans. Così come la società di controllo dei racconti è denunciata dal mondo regolato dagli script degli androidi, i determinismi sociali negli umani e le regole del gioco sociale sono messi sotto accusa dalle camicie di forza algoritmiche degli androidi. Quando emergono l’idea di un aiuto reciproco possibile tra umani e non-umani per riconquistare i loro diritti reciproci e una visione della convivenza fondata sul riconoscimento delle differenze, alla questione metafisica della libertà subentra quella affettiva, e la problematica dell’autonomia lascia spazio a quella dell’interdipendenza.
[…] Mentre la gran parte dei francesi vede nell’IA solo una minaccia e gli usi impropri delle IA generative (per creare software pirata, immagini pedopornografiche personalizzate, fake news capaci d’influenzare il corso delle elezioni, e via dicendo) occupano le prime pagine dei giornali, è forse un bene difendere queste narrazioni della convivenza, dell’acclimatamento incrociato, della “diplomazia tra specie”, per impiegare il termine messo in circolazione da Baptiste Morizot a proposito di altri esseri viventi.
Un estratto da Vivere con ChatGPT. E se l’intelligenza artificiale ci rendesse più umani? di Alexandre Gefen (Treccani Libri, 2024). Treccani è l’editore di questa rivista.
