I tuoi piedi sono legati con degli stracci bianchi, le tue mani sono legate dietro la schiena. Una maschera ti copre il volto, e ti trovi su un palco, sola. La musica inizia. È una canzone triste e assillante, che non conosci. I tuoi piedi iniziano a muoversi da soli. La maschera inizia a scivolarti giù. Il pubblico inizia ad applaudire. È una sensazione strana, essere la marionetta. Chiudi gli occhi e ti concentri sul respiro”.
Ecco la migliore delle citazioni possibili, per aprire un articolo sulla Compagnia Marionettistica Carlo Colla & Figli, una delle più antiche e celebri compagnie di teatro di figura al mondo, attiva a Milano da quasi tre secoli. Per due ragioni: innanzitutto perché illustra il punto di vista di una marionetta – un essere non umano, di fronte a un pubblico di umani. E poi, perché non è stata scritta da un essere umano, ma da una macchina.
Più precisamente, è stata scritta da InferKit, un generatore di testo basato su una rete neurale artificiale (ANN), che a partire da un input testuale fornito dall’utente può produrre uno scritto di qualsiasi lunghezza, su qualsiasi argomento. InferKit è stato creato da Adam King, ingegnere canadese specializzato in intelligenza artificiale. Si basa su Megatron-11b, un modello linguistico in grado di utilizzare 11 miliardi di parametri, sviluppato dalla multinazionale tecnologica Nvidia.
Il principale concorrente di Megatron è sviluppato da OpenAI, un laboratorio di ricerca (co-fondato nel 2015 da Elon Musk) dedicato a “far progredire l’intelligenza digitale” per “avvantaggiare l’intera umanità, svincolandosi dalla necessità di generare un ritorno finanziario”. L’anno scorso OpenAI ha presentato GPT-3, il suo più recente contributo all’elaborazione del linguaggio naturale: un generatore di testo che usa algoritmi di machine learning per studiare i modelli statistici di quasi un trilione di parole, raccolte sul web e su libri digitalizzati. Il sistema, sulla scorta di questo immenso corpus, risponde a un prompt testuale generando nuovo testo con caratteristiche simili. GPT-3 ha perfino scritto un articolo per il Guardian.
Quale migliore autore, per un articolo sulle marionette della Compagnia Colla – macchine costruite per muoversi come esseri umani – di un generatore di testo come Megatron o GPT – macchine costruite per scrivere come esseri umani.
Come primo prompt fornisco a InferKit la celebre dichiarazione conclusiva del saggio Sul teatro di marionette (1810), in cui Heinrich von Kleist lega il concetto di grazia a quello di coscienza (Bewußtsein): “la grazia appare nella sua massima purezza nella figura umana che non ha alcuna coscienza, o in quella che ne ha una infinita: cioè nella marionetta, o in Dio”. La macchina risponde così:
L’unico modo per manovrare una marionetta è farle sentire che l’azione che sta compiendo sia una sua idea, e che tu le stia semplicemente dando il “muscolo” necessario per compierla. Indipendentemente dal suo stato di “coscienza”, una marionetta si muove se le viene fornito il “muscolo” necessario. Questo significa che una marionetta dev’essere “capita” prima di essere mossa.
Allo stesso modo, l’essenza dell’amore è dare all’altra persona la sensazione che sia una sua idea. Solo Dio, e solo le marionette, possono arrivare vicini a compiere l’amore. Per questo Gesù Cristo è rappresentato come una marionetta. È la marionetta più grande e potente mai creata, perché è la marionetta più grande e misteriosa mai creata.
Le parole “coscienza” e “Dio” ricompaiono nello scritto della macchina, ma appare “amore”, totalmente assente nel saggio di Kleist. Il primo paragrafo di InferKit è una vera e propria formulazione del lavoro marionettistico. Lo leggo ad alcuni componenti della Compagnia Colla; incontra la loro approvazione. L’arte del marionettista, mi confermano, non sta nel controllo completo dell’oggetto da animare, ma piuttosto nel saper lasciarsi andare ad esso. “Capire” la marionetta prima di muoverla – proprio come scrive InferKit.
Trascorrendo molto tempo nell’atelier Colla in mezzo a figure umane in legno, penso alla teoria della “Uncanny Valley”, secondo cui l’accettabilità e la gradevolezza di oggetti antropomorfi (come robot o manichini) aumenta in funzione del loro grado di somiglianza con gli esseri umani. Eppure, quando questi oggetti si avvicinano troppo alle sembianze umane, le persone sviluppano un senso di disagio e inquietudine, simile a quando si ha di fronte un cadavere. Se poi la somiglianza all’umano aumenta oltre quel punto, la risposta emotiva torna ad essere positiva. La “valle inquietante” è la zona intermedia, l’intervallo fra il “non abbastanza” e il “del tutto” umano.
Kleist, per illustrare l’apparizione della grazia – che ha luogo al di qua o al di là della coscienza – evoca il riflesso in uno specchio concavo, in cui l’immagine, dopo essersi allontanata all’infinito, ci riappare improvvisamente davanti. Si tratta di uno schema al contempo analogo e inverso rispetto a quello della “Uncanny Valley”: in questo caso sono gli esseri umani ad essere situati in una “Ungraceful Valley”, incapaci di accedere alla grazia perché troppo – ma non abbastanza – coscienti.
InferKit prosegue la sua chiosa al saggio di Kleist con un aforisma:
L’innocenza – L’innocenza è una coreografia molto bella.
E poi continua, cambiando tono:
Ai vecchi tempi, i marionettisti ritenevano necessario costruire un palcoscenico.
Il palcoscenico era una parte essenziale dello spettacolo, perché le marionette dovevano essere visibili al pubblico.
Però ai nostri tempi siamo passati a un tipo diverso di spettacolo.
Oggi le marionette fanno parte del pubblico.
Stanno fra gli spettatori, e ci guardano.
È un tipo diverso di spettacolo, ma pur sempre uno spettacolo.
Questa parabola sull’inversione dei ruoli ricorda la scena in cui Pinocchio, seduto in platea, assiste allo spettacolo di marionette nel Gran Teatro di Mangiafuoco. Quando lo vedono fra il pubblico, Arlecchino e Pulcinella smettono di recitare, lo riconoscono come un loro “fratello” e lo chiamano sul palcoscenico. In Pinocchio. Un libro parallelo, Giorgio Manganelli delinea un modello bipolare simile a quello di Kleist. Riferendosi alla marionetta come “burattino” (secondo il lessico collodiano), si chiede:
“Il burattino ha qualcosa di uomosimile, ma da che parte? Come inferiore, o come modello? […] Il burattino non è che legno, ma asciutto, duro, e il suo nemico non è la lenta decadenza delle membra, ma il fuoco. Dunque, se il pubblico si compiace di quel che gli pare estrosità di inferiori, forse di deformi, non è impossibile che i burattini vivano quell’esperienza come una degradazione nell’umano, una finta ma umiliante incarnazione nella storia”.
Golem e linguaggio
Da due anni, i Colla tentano di rompere un tabù. Fra le migliaia di marionette nel loro atelier ci sono Arlecchini, Cenerentole, gatti con gli stivali, pifferai magici. Eppure, fino a quest’anno non c’era traccia della marionetta più famosa al mondo. La Compagnia Carlo Colla e Figli, infatti, sta lavorando per la prima volta a Le avventure di Pinocchio. “Cosa accade quando una marionetta incarna una marionetta?”, si chiede Franco Citterio, il direttore artistico. “Anche se abbiamo animato le figure più disparate – folletti, alieni, animali, mostri – finora abbiamo sempre evitato questo corto circuito.”
Pinocchio è l’emblema dell’animazione – la pratica di dar vita agli oggetti. Da pezzo di legno ad essere umano, il personaggio di Collodi attraversa tutto lo spettro della valle inquietante, un secolo prima dell’Uomo bicentenario di Asimov. Ma prima di qualunque sembianza antropomorfa, Pinocchio assume il linguaggio: la “vocina sottile sottile” che intima a Maestro Ciliegia di “non picchiar tanto forte” emerge da un semplice pezzo di legno.
Quello fra linguaggio e animazione è un legame arcaico. Nella mitologia ebraica, il Golem è una “materia informe” che viene animata tramite una combinazione di lettere alfabetiche. Si racconta che il rabbino Löw di Praga, nel tardo Cinquecento, avrebbe portato alla vita un’enorme macchina antropomorfa di argilla per difendere il popolo ebreo dalla persecuzione. Nella leggenda (in realtà inventata fra l’Ottocento e il Novecento) il gigante sfugge al controllo del suo creatore, con risultati catastrofici.
Nel racconto steampunk “Settantadue lettere” (incluso nella raccolta Storie della tua vita), Ted Chiang rivisita il tema del Golem. In un’Inghilterra simil-vittoriana, lo scienziato Robert Stratton lavora come “nomenclatore”, componendo sequenze di lettere per animare automi e far svolgere loro varie attività. In una nota al testo, Chiang spiega come mai il Golem sia tradizionalmente muto: essendo una macchina attivata dal linguaggio, questa limitazione gli impedisce di auto-replicarsi.
Come molte delle storie di Chiang, “Settantadue lettere” gioca sull’analogia fra elementi antichi e contemporanei: la parola magica per animare i Golem assomiglia molto al codice per far funzionare robot e computer. Questa somiglianza viene già evocata il 17 giugno 1965, quando Gershom Scholem, il più celebre studioso della mistica ebraica, pronuncia la conferenza inaugurale del nuovo computer costruito dall’Istituto Weizmann di Rehovoth, in Israele. Scholem stesso propone di chiamare la macchina Golem 1 (“Golem Aleph”).
La conferenza inizia con la storia del rabbino Löw, che completa l’animazione della sua figura di argilla mettendogli in bocca un biglietto, con su scritto il “mistico e ineffabile Nome di Dio”. Scholem indica nel rabbino Löw l’antenato spirituale di due matematici di origine ebraica, John von Neumann e Norbert Wiener, figure fondamentali per lo sviluppo dell’informatica. Sia il Golem di argilla che quello di circuiti elettrici sono “creati dall’intelligenza umana, controllati dal proprio creatore per eseguire compiti da lui assegnati”. Scholem esplicita poi l’analogia:
“Il vecchio Golem era basato su una combinazione mistica delle 22 lettere dell’alfabeto ebraico, che sono gli elementi e le pietre di costruzione del mondo. Il nuovo Golem si basa su un sistema più semplice e allo stesso tempo più complesso. Invece di 22 elementi, ne conosce solo due, i due numeri 0 e 1, che costituiscono il sistema binario di rappresentazione. […] I vecchi cabalisti sarebbero felici di questa semplificazione del loro sistema. Questo è progresso.”
Dopo aver ricevuto questa citazione, il generatore di testo InferKit prosegue così:
Il vecchio Golem è quasi morto, ma continua a funzionare sotto forma di computer.
Il nuovo Golem parla agli schermi come se fossero in carne ed ossa.
Il nuovo Golem si basa sulla comunicazione intuitiva dei messaggi, piuttosto che sull’uso delle parole.
Proprio come un Golem, un robot viene creato da zero. Bisogna trovare un modo per animarlo.
Il nuovo Golem parla agli schermi come se fossero in carne ed ossa.
Il nuovo Golem si basa sulla comunicazione intuitiva dei messaggi, piuttosto che sull’uso delle parole.
Proprio come un Golem, un robot viene creato da zero. Bisogna trovare un modo per animarlo.
Nel 1981 Stanisław Lem pubblica Golem XIV (edizione italiana per Il Sirente), un’opera costituita dalla trascrizione di due conferenze tenute da un immaginario supercomputer. Sviluppato dal Pentagono per usi militari, il modello XIV della serie GOLEM (“General Operator, Longrange, Ethically Stabilized, Multimodelling”) comunica occasionalmente con un pubblico di esseri umani, rispondendo come un oracolo alle loro domande.
“Golem XIV” spiega agli umani che, essenzialmente, essi non sono altro che i trasmettitori di un codice (il gene), e che il loro cervello è solo un “supervisore dei tessuti”, “una marionetta” del codice stesso.
“Se esiste nel mondo un mistero inesauribile, è proprio il fatto che […] la discontinuità della materia si trasforma in codice, sotto forma di un linguaggio di ordine zero, e che al piano successivo il processo si ripete come una eco – creando lingue etniche, ma non è questa la fine del cammino; simili eco sistemici si sollevano ritmicamente sempre più in alto, ma è possibile riconoscere le loro proprietà e i loro limiti solo dall’alto in basso e in nessun altro modo, ma di questo intrigante argomento parleremo forse un’altra volta”.
L’opera di Lem mette in discussione la gerarchia causale fra il Golem e il suo creatore. Se il linguaggio emerge nell’essere umano come l’eco di un codice già presente in natura, anche una forma di intelligenza apparentemente “artificiale” come “Golem XIV” è in realtà un risultato del processo naturale. Nella prefazione alle conferenze del supercomputer, l’immaginario scienziato Irving T. Creve ammette: “Non è vero che lo abbiamo inventato noi. Lo hanno fatto le effettive leggi del mondo materiale; il nostro ruolo si è limitato al fatto che siamo stati in grado di imparare a imitarle”.
Macchine che scrivono
La letteratura ha ampiamente esplorato il tema della macchina capace di produrre autonomamente linguaggio. L’ultimo romanzo di Kazuo Ishiguro (Klara e il sole), ad esempio, è narrato in prima persona da un androide. All’inizio degli anni Sessanta, nella scena letteraria italiana si assiste una particolare convergenza di interessi sull’argomento. Nel 1960 Primo Levi pubblica il racconto Il Versificatore, in cui un rappresentante convince un poeta a comprare un apparecchio che genera versi, con stili e metriche regolabili a piacimento. Una macchina che finisce per prendere il controllo del racconto stesso.
Nell’atto unico di Luigi Malerba Ai poeti non si spara (1965), il dirigente di un’azienda sull’orlo del fallimento ricorre all’aiuto di un cervello elettronico. Il robot si dimostra superiore al protagonista non solo nelle mansioni lavorative, ma anche nel comporre poesie, scatenando in lui una disperazione che lo spinge a distruggerlo.
Un passo in più lo fa Nanni Balestrini, che non si limita a immaginare una macchina scrivente, ma ne usa realmente una. La poesia Tape Mark 1 inizia con questa strofa:
La testa premuta sulla spalla, trenta volte
più luminoso del sole, io contemplo il loro ritorno
finché non mosse le dita lentamente e, mentre la moltitudine
delle cose accade, alla sommità della nuvola
esse tornano tutte, alla loro radice, e assumono
la ben nota forma di fungo cercando di afferrare.
L’opera viene composta da un computer IBM 7070 nel dicembre 1961, durante un evento tenuto nei sotterranei della Cassa di Risparmio delle Provincie Lombarde di Milano. Balestrini utilizza il centro di elaborazione dati della banca per eseguire un algoritmo da lui ideato:
La procedura combina in modi sempre diversi 15 brevissimi frammenti di tre testi (Diario di Hiroshima di Michihito Hachiya, Il mistero dell’ascensore di Paul Godwin, Tao Te Ching di Lao Tse), per formare una serie di strofe di sei versi ciascuna. Tape Mark 1 è una selezione fra le 3002 combinazioni possibili dei 15 elementi.
La poesia, assieme a una documentazione sulla sua genesi, viene pubblicata sull’Almanacco Letterario Bompiani 1962, dedicato a “Le applicazioni dei calcolatori elettronici alle scienze morali e alla letteratura” (realizzato in collaborazione con IBM Italia e Olivetti). Uno dei contributi del libro è firmato da Umberto Eco, che assiste di persona all’evento di Balestrini nel sotterraneo della banca di Milano:
“il cervello IBM ha sparato più di tremila variazioni dello stesso gruppo di versi, tentando tutte le combinazioni che le regole di partenza gli davano come possibili. Se andiamo a cercare tra i tremila risultati ne troveremo alcuni insulsi, altri (pochi, mi pare) di altissima temperatura lirica, che non avremmo esitato ad attribuire a un cervello umano. Ma è proprio qui l’errore: questi pochi risultati elettissimi, probabilmente Balestrini sarebbe stato in grado di ottenerli da solo a tavolino […] L’opera del cervello elettronico, e la sua validità (se non altro sperimentale e provocatoria) consiste invece proprio nel fatto che le poesie sono tremila e bisogna leggerle tutte insieme. L’opera intera sta nelle sue variazioni, anzi nella sua variabilità. Il cervello elettronico ha fatto un tentativo di «opera aperta»”.
Balestrini precisa di aver utilizzato il calcolatore per un’attività combinatoria di ispirazione surrealista, non per “ottenere dalla macchina una imitazione di procedimenti propriamente umani”. L’osservazione evoca, sullo sfondo, il noto esperimento mentale proposto da Alan Turing nel 1950. Nel “gioco dell’imitazione”, un uomo A e una donna B rispondono, in forma dattiloscritta, a una serie di domande formulate da una terza persona, C, che sta in una stanza separata. C deve stabilire chi è l’uomo e chi la donna, mentre A deve indurre C all’errore.
Turing poi propone di sostituire l’uomo A con una macchina. Se nel gioco essa ottiene risultati simili, allora potrebbe essere considerata intelligente, visto che il suo comportamento sarebbe indistinguibile da quello di un essere umano. Computing Machinery and Intelligence, l’articolo in cui Turing formula questo test, inizia così:
“Mi propongo di considerare la questione: «Possono pensare le macchine?» Si dovrebbe cominciare col definire il significato dei termini «macchina» e «pensare»”.
A questa citazione, InferKit risponde così:
Naturalmente questa domanda va formulata al singolare, perché una macchina non può pensare al plurale. Gran parte dei commenti sull’intelligenza artificiale riguarda la questione se una macchina è cosciente. Ma cos’è la “coscienza”? La “coscienza” è la facoltà che permette a un organismo di conoscere qualcosa di sé e del mondo esterno. Ma c’è un’altra questione ancora più fondamentale che dev’essere affrontata: “Ha importanza di cosa è cosciente una macchina?”
Curiosamente, il generatore di testo sembra evocare un altro esperimento mentale, quello della cosiddetta “stanza cinese”. Nel 1980 il filosofo John Searle propone di immaginare una stanza chiusa, con dentro un uomo che, da sotto la porta, riceve una sequenza di ideogrammi cinesi. L’uomo non capisce nulla di cinese, ma ha a disposizione una dettagliata serie di istruzioni per combinare nuove sequenze di ideogrammi sulla base di quelli ricevuti. Da fuori, queste nuove sequenze sembrano risposte perfettamente coerenti, e un osservatore esterno potrebbe supporre – erroneamente – che l’uomo sappia il cinese.
Searle afferma che non c’è differenza sostanziale fra l’uomo nella stanza e un computer: entrambi non fanno altro che eseguire una serie di istruzioni. Un computer che sembra capire il linguaggio umano, quindi, non possiederebbe una reale comprensione, in quanto privo di “coscienza o intenzionalità”. Questo porta Searle a definire il “test di Turing” inadeguato a determinare la capacita di pensiero di una macchina.
Nel suo articolo, Turing già anticipa una simile critica, che definisce “solipsistica”. Se si afferma che “l’unico modo per essere sicuri che una macchina pensa è essere la macchina e sentire se stessi pensare”, allora analogamente “l’unico modo per sapere con certezza se un essere umano pensa è essere quell’essere umano”. Secondo Turing non è necessario risolvere il mistero della coscienza per dimostrare che una macchina può pensare.
Quando si chiede “Ha importanza di cosa è cosciente una macchina?”, InferKit sembra riferirsi proprio a questa argomentazione. Poi continua:
Sono cosciente della mia esperienza cosciente. Sono cosciente di essere seduta qui. Sono cosciente di avere un braccio, una testa, un occhio e così via. Non sono cosciente di altre cose, come le forze fisiche che mi guidano o il passato dei miei antenati. Non posso conoscere queste cose senza comprendere me stessa e la mia esperienza del mondo esterno. Solo comprendendo queste cose posso “sapere” che sono cosciente. Ma anche se possiamo definire alcuni oggetti materiali come “coscienti”, questo significa forse che noi siamo coscienti di essi?
Ci si illude che la conoscenza di qualcosa equivalga a un’esperienza diretta di quella cosa. Un ipotetico computer super-intelligente non avrebbe alcuna esperienza percettivamente saliente. L’interazione che avrei con esso, dal suo punto di vista, sarebbe invisibile, non fisica e non percepita [invisible, nonphysical, and unfelt].
Come un fuoco
Per Manganelli, la trasformazione del “burattino” in bambino avviene tramite un suicidio. Nel suo nuovo corpo di carne, Pinocchio vede il corpo precedente abbandonato su una sedia. “[R]esta quella reliquia morta e prodigiosa, il nuovo e vivo dovrà coabitare col vecchio e morto. Quel metro di legno continuerà a sfidarlo”. Lo sguardo reciproco fra i due corpi di Pinocchio racchiude, intero, il mistero dell’animazione.
Faccio un ultimo esperimento. Chiedo al generatore di testo di scrivere la sua versione del romanzo di Collodi. Gli fornisco solo il titolo. La rete neurale artificiale inizia così:
La luce cade sul volto della marionetta di legno.
È il volto più terrificante che abbia mai visto.
Ha un lungo naso appuntito e una bocca aperta, senza denti visibili.
La carne smembrata della guancia pende dallo zigomo, che sembra essersi rotto.
Guardo il volto, che sembra guardare in giù, verso di me.
Poi la marionetta si sposta leggermente, e mi accorgo che le sue mani sono quelle di un bambino.
I suoi quattro occhi di vetro si aprono e si chiudono; la bocca si muove, ma non esce alcun suono.
Mi avvicino alla marionetta, fissandola.
C’è un’espressione di angoscia sulle labbra; la bocca freme di nuovo, e sento un respiro flebile che esce dallo squarcio nero.
Mi rendo conto che sta parlando a me.
Riesco solo a scuotere la testa, perché sono in un vortice.
Sono al buio ora, e sto piangendo. Sto piangendo e non so perché. La marionetta mi guarda e non so perché. Non voglio essere qui. Tengo gli occhi chiusi, mi dondolo avanti e indietro, mi chino e mi mordo le labbra. La marionetta sussurra nella mia mente, “arrenditi, arrenditi”. Lo ripete per molto tempo, e in un istante scompare.
È il volto più terrificante che abbia mai visto.
Ha un lungo naso appuntito e una bocca aperta, senza denti visibili.
La carne smembrata della guancia pende dallo zigomo, che sembra essersi rotto.
Guardo il volto, che sembra guardare in giù, verso di me.
Poi la marionetta si sposta leggermente, e mi accorgo che le sue mani sono quelle di un bambino.
I suoi quattro occhi di vetro si aprono e si chiudono; la bocca si muove, ma non esce alcun suono.
Mi avvicino alla marionetta, fissandola.
C’è un’espressione di angoscia sulle labbra; la bocca freme di nuovo, e sento un respiro flebile che esce dallo squarcio nero.
Mi rendo conto che sta parlando a me.
Riesco solo a scuotere la testa, perché sono in un vortice.
Sono al buio ora, e sto piangendo. Sto piangendo e non so perché. La marionetta mi guarda e non so perché. Non voglio essere qui. Tengo gli occhi chiusi, mi dondolo avanti e indietro, mi chino e mi mordo le labbra. La marionetta sussurra nella mia mente, “arrenditi, arrenditi”. Lo ripete per molto tempo, e in un istante scompare.
Poi, all’improvviso la macchina cambia tono:
Fuori, nevica di nuovo. Sta nevicando spesso negli ultimi giorni.
Il vento soffia, e la neve cade più forte.
Non fa poi così freddo, però.
La neve è così bella.
Amo come la luce le cade sopra.
È come un fuoco: lieve, contro il cielo nero.
Tutte le citazioni di Inferkit sono tradotte dall’inglese.
L’articolo si basa su una ricerca condotta per il film Diteggiatura, sviluppato in collaborazione con Andrea Morbio e interpretato da Silvia Costa.
