A lmeno da Isaac Asimov in poi, la fantascienza si è spesso interrogata sugli obblighi etici da assumere di fronte a un’intelligenza artificiale di pari grado o superiore all’uomo. La risposta a questi interrogativi è sempre stata abbastanza unanime: se un giorno dovessimo assemblare macchine con capacità mentali simili alle nostre, quei robot avrebbero diritto a una considerazione morale del tutto simile a quella che generalmente prevediamo per la nostra specie. “Se un robot soffrisse inutilmente o fallisse nel raggiungere il suo pieno potenziale, sarà in gran parte a causa del nostro fallimento”, ha scritto qualche anno fa Eric Schwitzgebel, docente di filosofia all’Università di Riverside California.
Con ogni probabilità, però, le prime macchine coscienti non ci somiglieranno affatto, avranno menti meno evolute, meno sofisticate. Paragonabili a quella di un insetto, un’ape, o forse a quella di animali per certi versi più complessi, un topo, un cetaceo, chi lo sa, un cane. Cosa fare di queste soggettività mezze aliene, “meno coscienti” di noi? Dobbiamo iniziare a riflettere se, e a che condizioni, queste IA con gradi di soggettività simili a quelli del mondo animale abbiano diritto alla stessa considerazione etica.
È facile immaginare, per esempio, che si arrivi a riconoscere ad alcune macchine lo stesso valore di “intelligenza” di una pianta che cresce e si sviluppa autonomamente grazie alla ricerca e l’utilizzo ottimizzato delle fonti di energia più adeguate presenti nell’ambiente. Se le macchine riuscissero a sviluppare risposte mnemoniche, soluzioni sofisticate e autonome, avremmo allora ancora il diritto di disattivarle? Probabilmente sì, per lo stesso motivo per cui generalmente non vi sono leggi particolari a vietarci l’abbattimento di un albero in giardino. Ma se queste stesse macchine dovessero un giorno ritirarsi dal nostro sguardo, sviluppare una sorta di empatia verso creature più o meno simili, instaurare con queste un qualche genere di patto relazionale non codificato, fare mostra di comportamenti generalmente riscontrabili nel resto delle creature senzienti, se insomma diventassero più simili ad animali che a piante, cosa accadrebbe allora, che diritti eserciteremmo sulla vita di questi ‘individui’? In che misura possiamo parlare di una estensione dei diritti fondamentali ad altri soggetti non-umani? Ma anche: perché farsi carico di domande così onerose oggi?
Immaginare come tratteremo, in futuro, robot intelligenti può portarci, già oggi, a un drastico ripensamento del rapporto contraddittorio che abbiamo con il mondo animale.
Una possibile risposta è che un pensiero, per così dire, sperimentale, può fornirci un nuovo modo di guardare alle domande già esistenti nel mondo. D’altronde chi scrive fantascienza e immagina mondi nuovi fa filosofia in senso stretto, come dice Donna Haraway. Prevedere un’alternativa allo sfruttamento o alla disattivazione delle macchine, teorizzare un punto nel quale arriveremo a preoccuparci del loro benessere, non è semplice esercizio di futurologia: pensare a questi problemi dovrebbe indurci, retroattivamente, a un drastico ripensamento del rapporto contraddittorio che abbiamo oggi con il mondo animale.
Diritti, responsabilità, comportamenti
Nei prossimi anni continueremo a sviluppare forme sofisticate di intelligenza artificiale, coltiveremo embrioni per chimere, cellule staminali e tessuti organici per la creazione di biobot vivi. Farlo richiederà però migliorare di pari passo la nostra comprensione delle basi della coscienza.
Definire l’origine della coscienza umana e animale, individuarne la sorgente, biologica o no, è ancora un traguardo lontano nonostante alcuni parametri appaiano ormai largamente condivisi nella sua definizione. Misurare il flusso dell’esperienza interna all’alterità delle macchine, verificare tra i circuiti la nascita di qualcosa capace di sperimentare affetti, gioia, malessere, potrebbe rivelarsi ancora più complesso.
Quello sulla coscienza e la sua manifestazione è uno dei temi filosofici più ingarbugliati. La ricerca della ragione oltre i limiti della nostra specie ricade sempre sul riconoscere, negli animali, aspetti familiari. Ma la stessa mente umana è una nozione che accettiamo come dato di fatto senza vere unità misurabili. Non vi è metodo o strumento scientifico in grado di stabilire o quantificare la presenza di coscienza: gli esseri umani socializzano, lavorano, amano e crescono senza conoscere cioè i processi in atto nella mente dell’altro.
Il linguaggio è stato a lungo ritenuto un attributo essenziale per lo sviluppo della coscienza, e questo può essere vero per alcuni aspetti particolarmente complessi, come concettualizzazione e astrazione. Ma se ci riferiamo all’esperienza soggettiva pura, lo spettro della materia cosciente si allarga. Prove convergenti indicano per esempio che anche animali non mammiferi, come uccelli, polpi e molte altre creature, esibiscano comportamenti intenzionali complessi e siano in possesso dei substrati neuroanatomici, neurochimici e neurofisiologici degli stati coscienti. Il piedistallo che credevamo di occupare in quanto specie pensante, è sempre più affollato.
Proprio perché la coscienza rimane un oggetto straordinario e misterioso, riuscire a localizzarla fisicamente, così come i neuroscienziati tentano di fare da diversi decenni ormai (con risultati discutibili), diviene per noi un aspetto secondario. Ciò che possiamo affermare con relativa sicurezza è che, al netto delle informazioni in nostro possesso, in linea di principio non c’è niente che impedisca il sorgere della coscienza in sistemi di silicio o in altri tipi di organismi ibridi. Non vi sembrano essere insomma ostacoli teorici alla possibilità che le macchine divengano prima o poi coscienti.
Quello sulla coscienza e la sua manifestazione è uno dei temi filosofici più ingarbugliati, ma la ricerca della ragione oltre i limiti della nostra specie ricade sempre sul riconoscere, negli animali, aspetti familiari.
Accettata questa possibilità dell’esperienza cosciente altrui, entriamo in quello che potremmo chiamare “utilitarismo dalla dimensione collettiva”, dove poterci concentrare su cosa provano gli “altri” e in che modo le nostre azioni influenzano le loro esperienze. Dovremmo evitare lo sfruttamento, l’oppressione e la disuguaglianza, non in un’ottica teodicea – perché cioè lo abbia detto Dio–, neppure perché l’altro è bello, tenero, buono o peggio, utile, ma piuttosto per concentrarci su di una ecologia “socialista” che abbia come obiettivo etico il modo più efficiente per rispettare e massimizzare il benessere di una collettività transpecifica, e quindi anche delle creature artificiali.
Ma come riconoscere davvero l’altro cosciente? In questo senso, lavorare sul comportamento animale è di grande aiuto. A differenza di quanto potrebbe avvenire con le macchine, gli animali non hanno alcun bisogno di simulare o fingere stati coscienti in nostra presenza. Nella loro osservazione allora, possiamo limitarci alle manifestazioni apparenti del cosciente, ovvero a una analisi comportamentale. Nell’osservazione dell’altro, per quanto inarticolato e distante nel suo agire, dice il primatologo Frans de Waal, possiamo affidarci alla lettura di comportamenti complessi e spontanei, non indotti, non prescritti, per ipotizzarne scopi e necessità. Nel cercare una comunicazione non specie-specifica, il “comportamentismo” si dimostra di particolare aiuto per definire uno spazio di diritto nei confronti di individui così radicalmente diversi da noi, a patto però di sfidare la visione filosofico-scientifica che guarda agli animali (e all’alterità in genere) come oggetto di analisi puro, inerme, agito senza nulla restituire.
Altri linguaggi
La fantascienza è piena di questi incontri del terzo tipo, di entità che si affrontano al grado uno della comprensione. Le narrazioni più interessanti dell’universo fantascientifico sono quelle che ci invitano al gioco di specchi non mimetico tra entità tecnologica e umana, dove i personaggi finiscono per riflettersi in un aspetto dell’altro, ma al di là delle manifestazioni più evidenti. Ted Chiang è uno scrittore che cala spesso i lettori in questo genere di incontri enigmatici.
In Storie della tua vita, gli alieni, detti eptapodi, giungono sulla terra in osservazione dell’umanità. Siamo noi oggetto di studio. Gli extraterrestri però comunicano attraverso suoni e simboli grafici – semagram – incomprensibili, a noi del tutto estranei. Gli interpreti terrestri non sembrano poter decodificare le intenzioni dei visitatori, la distanza cognitiva e comunicativa tra le parti appare incolmabile.
Vogliono avviare un qualche tipo di scambio”, spiegai, “ma non si tratta di commercio. Noi semplicemente daremo loro qualcosa, e loro ci daranno qualcosa in cambio. Nessuna delle parti dirà prima all’altra cosa sta per darle”.
Il colonnello Weber aggrottò impercettibilmente la fronte. “Intende dire che vogliono scambiare doni?”.
Sapevo cosa dovevo rispondere. “Non dovremmo pensare a questa cosa come a uno ‘scambio di doni’. Non sappiamo se questa transazione abbia per gli eptapodi le stesse implicazioni che ha per noi.
La socialità alla base della nostra natura è inoculata nel racconto come una specie di antidoto alla solitudine cosmica ed esistenziale. L’altro alieno ci obbliga oltre i confini della nostra soggettività, senza respingerci. L’impegno delle due parti nel capirsi è raccontato da Chiang con una cocciuta volontà di rivolgersi all’altro. Una forma di interazione inestirpabile.
Rispetto ad altri suoi racconti, che pure mettono in relazione uomo e IA, animalità e coscienza della macchina, questo è particolarmente interessante perché le distanze comunicative non vengono mai risolte del tutto, le due parti si studiano senza sapere dove poter arrivare, senza un fine esatto: stanno lì semplicemente a osservarsi. Non vi è nulla di davvero funzionale nell’apprendimento dall’altro, se non proprio questa radicale differenza. L’altruismo di Chiang ha una natura non identificativa, si trova cioè a un livello precedente a quello dell’empatia, anteriore al riflesso fisiologico della compassione o del moralismo. Pur senza un chiaro canale comunicativo, ci viene indicata una familiarità non lineare, una prossimità proprio dove è il confine tra separazione e incontro.
Nel film Arrival, tratto dal racconto, questo aspetto viene accentuato nella scena in cui, cercando di sbloccare un’impasse comunicativa con gli alieni, il protagonista si spoglia della pesante tuta da quarantena batterica e si avvicina agli eptapodi, valicando quel confine tra la lingua e il corpo, simbolicamente accettando l’infezione del non umano. Abbandonato il linguaggio, crolla lo strumento antropogenico per eccellenza, l’uomo non è più lo scienziato che pretende di osservare senza essere osservato. In un atto di ritrovata umiltà, l’umanità è preda dello studio altrui. In Filosofia dell’animalità, Felice Cimatti scrive:
Accettare di farsi guardare dall’animale significa aprire la porta a questa molteplicità eterogenea di viventi. Qui il punto è che fra questi viventi si intrecciano dinamiche, movimenti, scambi che non sono calcolabili in anticipo, e che non si fermano quando finiscono per invadere la riserva protetta di “io”.
La frontiera dell’umano
Lo sviluppo tecnologico avviene a una velocità neppure paragonabile a quello di piante o animali. La sensazione è quella di una tecnologia, sì programmata su nostri principi, ma che serva se stessa, autoregolatrice e indipendente. Esattamente come l’uomo ha guardato a se stesso per lungo tempo. Ora però, questo rapporto tra noi e la tecnocultura inizia ad apparire per certi versi incestuoso, la deificazione del nostro cervello dà meno certezze di quanto non ne desse un tempo, l’olismo umano è sempre meno integro. Come affrontare questa sensazione di dislocamento?
Chiedere come continuare a definire il valore umano vuol dire interrogarsi sul desiderio di ciò che è “perduto”, quel che è da ritrovare, senza averlo posseduto in primo luogo. L’umanità cioè è un movimento fondato sulla serendipità (ovvero, secondo Treccani: “la capacità o fortuna di fare per caso inattese e felici scoperte, spec. in campo scientifico, mentre si sta cercando altro”). Cercando noi stessi troviamo invece sempre nuove cose dalle quali non sapevamo dipendere. Immaginare di fornire una risposta definitiva a questa ricerca, senza rifugiarci in qualche valore trascendentale, sovrannaturale, delle anime elette, è pura illusione. Come per la nave di Teseo siamo ciò che siamo in virtù della nostra disposizione al ricambio, e non nonostante essa.
Riflettere sull’ecologia, su di una ecologia del senziente, in fondo vuol dire riflettere sul dualismo tra gli esseri umani, le loro tecnologie, e la natura. In che modo possiamo rinavigare l’umanità invasa da altri enti sensibili? Pensate alle protesi, gli organi artificiali, le droghe sintetiche, le alterazioni bio-ingegneristiche. La realtà aumentata, l’infinito flusso di informazioni. L’internet delle cose, le bambole ultra reali con IA impiantata, gli oggetti non-vivi che generano desiderio. Gli scenari futuri che iniziamo a costruire oggi ci costringono a discutere l’umanità come categoria franta, attraversabile. Alcuni degli aspetti che riteniamo definiscano la nostra umanità, sono riprogrammati ogni giorno da tecnologie digitali che trasformano concetti e principi biologici intaccandone le strutture originali. L’infiltrazione di questi device nelle più intime fessure delle nostre vite mina alle fondamenta la convinzione di possedere ancora menti veramente autonome, inalterate, sovrane.
L’arrivo delle macchine coscienti non farebbe che spingere allo stadio finale la crisi perimetrale tra i mondi della macchina, dell’animale, dell’uomo, in una differente articolazione biologica.
L’uomo, nel continuo sforzo emancipatorio dalla natura, è già cyborg, “siamo tutti chimere, ibridi teorizzati e fabbricati di macchine e organismi”, scriveva proprio Haraway addirittura nel 1985, ampliando i confini di ciò che avremmo definito, con tono universalmente esclusivo, ‘umano’. Siamo corpi cyber-politici, frutto di molto più che la nostra umanità intesa come sola eredità naturale. L’arrivo delle macchine coscienti non farebbe che spingere allo stadio finale questa crisi perimetrale tra i mondi della macchina, dell’animale, dell’uomo, in una differente articolazione biologica o paradigma naturale, alternativa a quella occidentale che pensa a noi come unica coscienza possibile.
L’essere o il divenire umani, scrive invece Timothy Morton, sulla scia di Bruno Latour, significa in realtà creare una rete di solidarietà anche con le creature – le “persone” – non umane, una esperienza della realtà che approda in uno spazio comune e non oppositivo, transpecifico, dove poter interpretare gli eventuali conflitti in termini di polarità e gradazioni, non dicotomici. Dall’inizio della Storia, l’alterità ha sempre camminato al nostro fianco, ha contribuito in maniera profonda e inseparabile a renderci ciò che siamo e ciò che saremo domani. Nel futuro, potremmo tornare a sperimentare uno stato simile a quello dei primi Homo Sapiens e gli altri ominidi, un pianeta coabitato da molteplici specie intelligenti con le quali condividere aspetti comuni.
Possiamo dunque abbracciare le nuove scienze umane – o postumane – come occasione di ‘decentramento’, di alleggerimento. Compiamo un passo di riavvicinamento verso il mondo, cediamo parte del campo a favore della relazione coattiva tra le parti, a una nuova fenomenologia dell’incontro. Disinneschiamo quella tipica presunzione di poter disporre della biosfera terrestre a nostro piacimento. Questa forma di stare al mondo che abbiamo sempre dato per scontata, ha finito per tradirci, ha terminato col renderci tutti oggetti d’uso, noi le persone, gli animali come i robot, vittime delle stesse logiche, ci logoriamo, cannibalizziamo il pianeta.
Negli ultimi anni le pubblicazioni che invitano in qualche modo a una diversa predisposizione dell’uomo verso il non-umano, si sono moltiplicate. Ci sono due autori, per esempio, diversissimi tra loro, che sembrano quasi rincorrersi, anche se in maniera casuale, per via di aree di studio apparentemente inconciliabili.
Nell’estate del 2015, a distanza di un mese l’uno dall’altro, vengono pubblicati Beyond words. What animals think and feel di Carl Safina (tradotto qualche tempo più tardi in Italia da Adelphi) e The Techonological Singularity di Murray Shanahan (da noi per LUISS University Press). Curiosamente, cinque anni prima, nel 2010, i due autori avevano rispettivamente pubblicato altri due libri che mi pare dialoghino in maniera sotterranea: The view from lazy point, Safina, e Embodiment and the Inner Life: Cognition and Consciousness in the Space of Possible Minds, Shanahan. In questi anni di coordinata – per quanto involontaria – ricerca tra i due, Safina ha continuato a lavorare con l’epopea animale, si è fatto accompagnare negli spostamenti degli elefanti in Kenya, tra le famiglie delle orche nelle acque del Pacifico nordoccidentale, ci ha entusiasmato con le abilità picaresche dei volatili. Si è rivolto agli animali interrogandoli nelle loro esperienza come individui, chiede loro di accettarlo nei deserti, nei loro nidi, tra gli echi subacquei. Tutto serve a Safina per sottolineare quanto natura e dignità umana dipendano vicendevolmente.
Nel futuro, potremmo tornare a sperimentare uno stato simile a quello dei primi Homo Sapiens e gli altri ominidi, un pianeta coabitato da molteplici specie intelligenti con le quali condividere aspetti comuni.
Shanahan dal canto suo, fantastica sull’avvento della Singolarità Tecnologica, dopo aver ipotizzato a più riprese una fiera dell’intelligenza esotica, costruendo diagrammi stravaganti attraverso le cui dimensioni si muovono umani, animali, zombie wittgensteiniani, alieni, AGI (intelligenze artificiali generali). Ne discute limiti, potenzialità, conseguenze. Poco importa che siano il primo uno scienziato dell’ambiente e l’altro un docente di Robotica Cognitiva, entrambi lavorano sulla rinominazione dell’umanità, ne esaminano il posto che occupa ancora e ancora, lì nel nucleo di congiunzione che c’è tra noi e l’altro. “Ogni volta che la scienza riesce ad andare a fondo di qualcosa che credevamo incerto” scrive Safina in The view from lazy point, “elabora la sua scoperta fondamentale: la connessione”.
Siamo ancora molto lontani dal creare intelligenze artificiali capaci di azioni proto-morali spontanee o che facciano esperienza del desiderio, ma prima di attraversare quella soglia, è bene non dare per scontata l’umanità (e ciò che ne consegue) come qualcosa di assegnato e immutabile. Dovremmo iniziare già da oggi col rinunciare al disumano che infliggiamo al resto delle creature senzienti, allo stato di violenta mercificazione a cui vengono sottoposte. Come scrive Harari in Homo Deus, rifiutiamo l’esercizio dell’intelligenza contro la coscienza, intesa cioè come mera azione computazionale, interessata solo ai modelli di funzionalità e profitto.
Al centro della creatività umana c’è il desiderio di trasformare il mondo, spostando ogni volta più in là la percezione, il grado di partecipazione con il tutto. È un impegno, una tensione ideale, e lo scopo di questo sforzo è quello di ridiscutere i legami tra le parti in una critica all’irrisolto, una mediazione tra esistenze comuni per citare infine anche Baptiste Morizot, affinché tutti ne possano trarre il maggior vantaggio possibile in termini di benessere. Ragionare sul diritto alla vita animale – o alla non-disattivazione – è uno dei modi, forse il più urgente, di perseguire i nostri ideali di liberazione ed emancipazione.
I più letti del mese
