I l 10 febbraio 1996 il campione del mondo Garry Kasparov iniziò un match contro Deep Blue, un computer della IBM creato esclusivamente per giocare a scacchi. La partita inaugurale si concluse con una vittoria della macchina: per la prima volta un campione del mondo veniva sconfitto in una sfida con tempi regolari da torneo.
Quella sera Kasparov si rivolse sconsolato all’amico Frederic Friedel: “E se questo affare fosse invincibile?” Non lo era: nel resto del match il grande scacchista russo riuscì a prevalere. Ma l’anno successivo, IBM chiese e ottenne una rivincita con una versione potenziata di Deep Blue (chiamata, con scarsa fantasia, Deeper Blue). E Kasparov perse. Inevitabilmente, sorsero delle polemiche riguardo l’eventualità che IBM stesse barando. La società informatica, peraltro, rifiutò qualsiasi proposta di “bella” con lo scacchista russo, e ritirò Deeper Blue facendolo entrare direttamente nel mito.
E questo è il punto. All’epoca si parlò di una sconfitta dell’umanità contro l’inesorabile avanzata delle macchine, proprio come per la sfida precedente i titoli dei giornali erano del genere The Brain’s Last Stand, Kasparov Defends Humanity, The Machines Are Entering the Last Human Refuge, Intelligence. Anche il campione partecipò a questa narrativa, definendosi un campione colpevole di aver deluso l’intera razza umana.
Nel suo nuovo libro, Deep Thinking, Kasparov cerca innanzitutto di ribaltare tale impostazione. Non solo quando rievoca i suoi match: più in generale – ed è il tema del saggio – insiste per un approccio lucido e meno enfatico al rapporto fra uomo e macchina. Ci sono due versioni della mitologia che circonda l’intelligenza artificiale. La meno diffusa è un ottimismo vacuo; la più nota è quella alla HAL 9000, che in 2001: Odissea nello spazio sconfigge a scacchi Frank Poole e poi lo uccide. (Vedi anche i timori espressi non molto tempo fa da Elon Musk).
Nel libro Deep Thinking, Kasparov rievoca i suoi match contro Deep Blue e insiste per un approccio lucido e meno enfatico nel rapporto fra uomo e macchina.
Intervistato da Business Insider, Kasparov ha specificato che entrambe queste versioni sono intollerabili: uno degli scopi del saggio è proprio quello di “osservare il problema oggettivamente, senza le aspettative utopistiche e senza i timori distopici”. Una premessa abbastanza minoritaria, in tempi di slogan e reazioni di pancia; ma anche per questo molto rinfrescante. Del resto, era difficile aspettarsi altrimenti conoscendo l’autore.
Kasparov è uno dei più grandi scacchisti di tutti i tempi, ed è stato campione del mondo dal 1985 al 2000 (al netto della scissione FIDE-PCA). Non solo: è anche un uomo dall’intelligenza versatile e dai molti interessi. Collabora con il Wall Street Journal dal 1991, è un apprezzato business speaker, e si è dedicato attivamente alla politica russa (è uno dei più accaniti contestatori di Putin).
Quando lo Spiegel lo intervistò nel 1987, gli chiese cosa lo separasse dal resto degli altri forti giocatori di scacchi. La risposta fu: “La disponibilità ad affrontare nuove sfide”. Deeper Thinking è pervaso di questo spirito coraggioso e franco, e merita di essere letto anche perché vuole andare oltre la questione banale della vittoria o della sconfitta dell’uomo contro la macchina. È ovvio che ci sia attenzione sui risultati, scrive Kasparov, ma la questione importante è un’altra: “Per usare gli scacchi quale mezzo per comprendere meglio in cosa sono bravi i computer e gli esseri umani, e ciò contro cui stanno lottando e perché, le mosse sono più importanti dei risultati”.
I computer e il Gioco dei Re
Ma andiamo con ordine. Perché gli scacchi hanno da sempre attratto l’informatica? La risposta è contenuta in un paper seminale di uno dei padri di questa disciplina, Claude Shannon. In Programming a Computer for Playing Chess (1950), si pone sulla strada tracciata da Alan Turing proponendo di usare gli scacchi per valutare la possibilità di un’intelligenza artificiale. Secondo Shannon, si tratta di un gioco ideale per quattro motivi:
(1) il problema è chiaramente definito sia nelle operazioni consentite (le mosse) sia nell’obiettivo finale (lo scacco matto); (2) non è né tanto semplice da essere banale né troppo difficile per avere una soluzione soddisfacente; (3) in genere, si ritiene che giocare bene a scacchi richieda del “pensiero”; quindi una soluzione di questo problema ci obbligherà ad ammettere la possibilità di un pensiero meccanizzato o di limitare ulteriormente il nostro concetto di “pensare”; (4) la struttura discreta degli scacchi si colloca bene nella natura digitale dei computer moderni.
In effetti, gli scacchi sono trasparenti. Non esiste l’intervento del caso, davanti alle sessantaquattro caselle: i due avversari hanno tutte le informazioni disponibili sulla propria posizione in qualsiasi momento. (Chiunque abbia giocato qualche partita nella sua vita sa che recriminare non serve. Gli scacchi puniscono severamente la debolezza e l’imprecisione, ma soltanto queste: ogni differenza di censo, età o sesso è cancellata in partenza. Un altro motivo per cui hanno un valore educativo ampiamente riconosciuto).
Shannon propose due modelli di ricerca computazionale delle mosse: un Tipo A basato sulla “forza bruta”, e un Tipo B che cercava di simulare il ragionamento di un giocatore umano. La prima via si basa sull’analisi di tutti i candidati alla soluzione: data una posizione, il computer valuta ogni mossa possibile, una dopo l’altra, assegnando a ciascuna un punteggio; infine eseguirà quella con il punteggio più alto. La seconda strada richiede un algoritmo capace di focalizzarsi solo su alcune mosse – le migliori – e approfondirle senza considerare il resto.
Gli scacchi non sono abbastanza complessi per resistere al metodo della forza bruta: con l’incremento di potenza dei processori e un sistema di ricerca delle mosse sempre più raffinato, le macchine sono diventate quasi invincibili.
Shannon riteneva che il Tipo B fosse più sensato e promettente. Del resto, ci sono oltre 300 miliardi di modi per giocare solo le prime quattro mosse di una partita a scacchi: fin dall’inizio, il cosiddetto “albero delle varianti” cresce fitto, e analizzare ogni posizione possibile richiede molto tempo ed energia. (Molta più energia di quella disponibile per i computer del tempo).
Purtroppo, finora il Tipo B non ha dato buoni risultati. Anzi, è stato il Tipo A – il più piattamente “calcolatore” – a trionfare.
Kasparov osserva che già prima del match del 1996, alcuni programmi erano in grado di passare un “test di Turing scacchistico”. Ma, precisa, “questo ci insegnava più cose sui limiti degli scacchi che sull’intelligenza artificiale”. In effetti, gli scacchi non sono abbastanza complessi per resistere al metodo della forza bruta. Con l’incremento di potenza dei processori e un sistema di ricerca delle mosse sempre più raffinato, le macchine sono diventate quasi invincibili. Il gusto stesso – e il mito conseguente – della sfida tra uomo e computer è svanito.
Kasparov colloca nel 2006 la fine di ogni possibilità per l’uomo contro il computer negli scacchi: il match fra Kramnik e Deep Fritz, perso per 4-2. Da lì in avanti, le cose si sono fatte ben poco interessanti per gli appassionati. La forza di un giocatore si calcola comunemente attraverso il suo punteggio Elo: il record umano finora è stato stabilito dal campione del mondo attuale, Magnus Carlsen, tre anni fa – 2882 punti. Basta un’occhiata alla classifica CCRL dei programmi per capire che non c’è gara: al momento, Komodo 10 ha un punteggio di 3392.
Una divertente inversione dei ruoli: nel XVIII secolo, il celebre Turco di von Kempelen era manovrato da un giocatore umano al suo interno. Sembrava impossibile che un automa potesse giocare a scacchi così bene. Oggi è l’esatto opposto: il Turco trionfa da solo, senza bisogno di alcun aiuto. Resta da capire quali conclusioni trarne.
Non più intelligente di una radiosveglia
Seduto di fronte a Deep Blue, Kasparov ammise di provare una sensazione inquietante, e di avere percepito “un nuovo tipo di intelligenza”. In quelle parole, aggiunge oggi in Deeper Thinking, non c’erano suggestioni metafisiche. E tuttavia: possibile che la mera velocità d’elaborazione potesse creare un gioco così impressionante? Non era e non è il caso di rivedere le nostre categorie sul pensiero?
La questione dell’intelligenza artificiale è estremamente complessa, ed è un intrico di temi informatici, neurologici, filosofici. Continuano gli esperimenti per riprodurre digitalmente l’attività cerebrale, e il machine learning – che per certi versi ricalca il metodo di Tipo B proposto da Shannon – sta facendo passi avanti: tant’è che è stato applicato con successo al Go, un gioco molto più complesso degli scacchi. Seguendo questo metodo, poco più di un anno fa AlphaGo ha sconfitto il campione Lee Sedol.
Ma Kasparov è risoluto: tutto questo non ha molto a che fare con l’intelligenza vera e propria. Come abbiamo visto, i programmi di scacchi si affidano al 99% al calcolo e all’1% all’intuizione – se così possiamo chiamarla. L’esatto contrario degli esseri umani, che procedono per larga parte secondo principi generali – ad esempio, “Metti la tua Torre dietro un pedone passato” – e limitano il calcolo puro ad alcuni scenari selezionati sulla base di tali principi.
Del resto, un giocatore umano soffre limitazioni a cui un computer è immune: lo stress, l’ansia, una condizione fisica imperfetta, i problemi personali. Emanuel Lasker, il secondo campione del mondo, fu il primo a sfruttare questi aspetti psicologici del gioco: era un maestro nel trovare la mossa migliore non tanto in assoluto, quanto nello specifico e contro quel dato avversario.
Giocando con Deep Blue e Deeper Blue, Kasparov sperimentò in prima persona queste difficoltà. E il Grande maestro Illescas – assunto come collaboratore da IBM – rivelò che i programmatori inserirono alcuni trucchetti e trappole nel codice per fregare Kasparov: ad esempio ritardare alcune mosse che Deep Blue aveva già calcolato, per ottenere un effetto “psicologico”. Ma anche in questo caso, si tratta di istruzioni date da terzi che si limitano a simulare un comportamento umano, non a replicarlo in modo indipendente.
Ora: in una famosa serie di epigrammi sulla programmazione, l’informatico Alan Perlis scrisse che “l’ottimizzazione intralcia l’evoluzione”. Kasparov scrive di essere rimasto molto colpito da questa frase. Il punto è che l’evoluzione non è miglioramento: è innanzitutto cambiamento, aumento della diversità. Ottimizzare un computer può aumentarne la potenza e la velocità. Ma la mente umana è un’altra cosa, e quando si parla di “macchine pensanti” è bene non confondere il risultato con il metodo.
Un giocatore umano soffre limitazioni a cui un computer è immune: stress, ansia, condizione fisica imperfetta. Giocando con Deep Blue e Deeper Blue, Kasparov sperimentò in prima persona queste difficoltà.
Il risultato finale di un programma di scacchi – una partita vinta e ben giocata – può essere considerato un gioiello di intelligenza. E tuttavia, il metodo con cui il programma ci è arrivato non è altro che una lunghissima elaborazione di dati. Potente e veloce finché si vuole, persino impressionante per quantità di variabili analizzate e selezionate, ma non più intelligente di una radiosveglia.
In questo fraintendimento agisce una fallacia dal duplice aspetto, secondo Kasparov:
Il primo è “l’unico modo in cui una macchina può fare X è se raggiunge un livello di intelligenza generale simile a quella di un essere umano”. Il secondo è: “se possiamo creare una macchina che può fare X proprio come un essere umano, avremo capito qualcosa di molto profondo sulla natura dell’intelligenza”. Questa romanticizzazione e antropomorfizzazione dell’intelligenza della macchina è naturale. È logico considerare i modelli disponibili quando si costruisce qualcosa, e quale modello migliore per l’intelligenza che la mente umana? Ma ogni volta, i tentativi di fare macchine che pensano come gli esseri umani hanno fallito, mentre le macchine che hanno dato priorità ai risultati rispetto al metodo hanno funzionato.
Su questo punto credo sarebbe d’accordo anche il filosofo Luciano Floridi, che da tempo si dedica a smitizzare l’idea dell’intelligenza artificiale e gli errori di interpretazione relativi a questo concetto.
Una controprova interessante, che Kasparov riporta quasi di sfuggita, sta nel fatto che è molto difficile fare giocare male un computer in modo credibile. I programmi di scacchi, anche se regolati su un livello basso, “tendono ad alternare mosse forti a errori grotteschi durante la stessa partita”: un essere umano non giocherebbe mai così. Può sembrare paradossale e forse anche un po’ triste, ma è nella nostra inefficienza che si coglie al meglio la differenza tra il pensiero umano e lo “stile” delle macchine.
Il che ci riporta al punto di partenza: la sola cosa dimostrabile è che negli scacchi lo scontro fra uomo e macchina è ben poco interessante, perché la macchina è semplicemente più forte. Che si fa? Buttiamo i programmi al vento o li facciamo semplicemente lottare fra loro? Niente affatto.
Essere umano + macchina = essere umano migliore
Kasparov, per sua stessa ammissione, è un pessimo perdente. Detesta il fallimento e detesta sentirsi al di sotto dei propri standard. Dopo i due match con IBM, tuttavia, applicò alla lettera l’adagio per cui “se non puoi batterli, unisciti a loro”. E qui c’è lo snodo più interessante di Deeper Thinking.
Invece di affrontare i computer come avversari, e reiterare il mito romantico dell’uomo contro la tecnologia, perché non usarli come partner? Dopotutto, se il computer gioca meglio di noi, significa che abbiamo a disposizione macchine in grado di perfezionarci e spronarci a essere molto più precisi nelle nostre analisi. Far correre Usain Bolt contro una Lamborghini non serve a rendere Usain Bolt più veloce; ma per gli scacchi – e per tante altre attività che concernono la nostra mente – le cose stanno in modo diverso: “Gli scacchi sono concreti; una mossa o una strategia usata da un computer può essere esattamente duplicata da un essere umano.”
Un’ottima dimostrazione è l’advanced chess: giocatori che possono liberamente utilizzare dei programmi mentre si sfidano tra loro. Sostenendo un match di questo tipo contro Topalov nel 2005, Kasparov ha notato che l’apporto creativo al gioco non era affatto oscurato dal ricorso al computer. Anzi: il silicio si sobbarcava il lavoro più faticoso – il calcolo e la verifica delle varianti – lasciando più tempo e risorse per l’ideazione di soluzioni e lo sviluppo di strategie.
Nel 2005, il sito Playchess lanciò un torneo “freestyle” dove i concorrenti potevano riunirsi in squadre con altri giocatori e computer. Contro ogni previsione, i vincitori furono due semplici amatori americani, Steven Cramton and Zackary Stephen. Al torneo partecipavano anche dei Grandi maestri (con rispettivi computer), ma le loro abilità di controllo dello strumento si rivelarono più scarse. Fu il trionfo del processo, sottolinea Kasparov. “Un processo più intelligente sconfisse una conoscenza superiore e una tecnologia superiore”.
Invece di affrontare i computer come avversari, e reiterare il mito romantico dell’uomo contro la tecnologia, perché non usarli come partner?
Questo è dovuto anche a un altro fattore: la diffusione dei programmi di scacchi ha democratizzato la possibilità di migliorarsi. Con grande onestà, Kasparov ammette che il suo successo è in parte dovuto a una questione geografica: negli anni ’70 e ’80, l’Unione Sovietica era il posto ideale per chi volesse studiare gli scacchi. Oggi è tutto più semplice. Un qualsiasi software a basso costo assicura prestazioni degne di un Grande maestro, ed è utilissimo per sviluppare le proprie capacità. E questo vale per gli scacchi come per tutto il resto:
Non stiamo gareggiando con le nostre macchine, non importa quanti lavori umani possano fare. Stiamo gareggiando con noi stessi per creare nuove sfide e per estendere le nostre capacità e migliorare le nostre vite. A loro volta, queste sfide richiederanno macchine più capaci e persone in grado di costruirle, addestrarle e mantenerle — finché non faremo macchine che fanno quelle cose e il ciclo continuerà. Se sentiamo di essere superati dalla nostra tecnologia è perché non ci stiamo spingendo abbastanza in là, non siamo abbastanza ambiziosi nei nostri obiettivi e nei nostri sogni.
Purtroppo, le pagine in cui Kasparov prova a sostenere questa visione sono anche le più deboli e generiche. Immerso com’è nel suo pragmatismo, perde di vista gli aspetti più complessi ed emotivi della faccenda; ad esempio quando liquida la questione degli impieghi persi a causa della tecnologia, paragonandola al “lamentarsi che gli antibiotici abbiano licenziato troppi becchini”.
Secondo Kasparov, la tecnologia ha sempre avuto un effetto perturbante – disruption è una parola che torna qui e là nel saggio – ma alla lunga ci ha portato a condizioni di vita migliori. Nessuno lo nega: però, come ha osservato Robin Hanson nella sua recensione per il Wall Street Journal, queste osservazioni “sono più propugnate che argomentate”, e dietro di esse non c’è molta analisi. (Non ci sono nemmeno molti riferimenti a studi o dati).
E tuttavia, al netto di queste mancanze, Kasparov difende un ottimismo cauto e razionale che suona confortante rispetto alle visioni apocalittiche alla Matrix, o al tecnoutopismo sfrenato.
Secondo Kasparov, la tecnologia ha sempre avuto un effetto perturbante – disruption è una parola che torna qui e là nel saggio – ma alla lunga ci ha portato a condizioni di vita migliori.
Intervistato da Tyler Cowen per il suo podcast, ha precisato con maggiore chiarezza: è vero, tutti siamo un po’ spaventati dall’avvento di automobili che si guidano da sole, o dalle innovazioni che sembrano spazzare via le nostre abitudini in maniera poco riguardosa. È comprensibile. Eppure dovremmo ricordarci che un tempo la gente non si fidava nemmeno degli ascensori. Arriva un punto in cui i costi dell’innovazione sono compensati dai benefici.
Quello che possiamo fare nel frattempo è discuterne in maniera obiettiva e scientifica, senza alimentare falsi miti: “Ci saranno lati negativi e lati positivi. Vediamo come possiamo gestire le nostre mosse nel futuro. Perché qual è l’alternativa? Non possiamo scegliere quando e dove arriverà il progresso tecnologico. Sta succedendo”.
Contro l’incanto narrativo
In tal senso, la lezione più importante contenuta in Deeper Thinking è una lezione di disincanto: e spero di non esagerare nell’attribuirle un valore etico. Usando i computer per ristudiare alcune partite giocate in passato, Kasparov ha notato che molte analisi ex-post (anche da parte di grandi campioni) erano piene di errori. A volte contenevano più sviste delle partite stesse. Com’era possibile?
La risposta di Kasparov merita di essere citata per intero:
Il problema principale era che anche i giocatori cadevano nella trappola di vedere ogni partita come una storia, una narrazione coerente con un inizio, uno sviluppo e una fine, con qualche svolta lungo la strada. E, naturalmente, una morale alla fine della storia.
[…] tutti amano una buona storia, anche se essa svanisce di fronte a un’analisi oggettiva. Ci piace quando il personaggio più odioso del film finalmente ottiene quello che merita. Tifiamo per i più sfortunati, facciamo smorfie davanti al fallimento di un eroe, e simpatizziamo con la sfortunata vittima del destino. Tutti questi tropi agiscono in una partita di scacchi, proprio come in un’elezione o nell’ascesa e caduta di un’impresa, e nutrono la grande fallacia cognitiva di cercare una narrazione dove spesso non c’è. L’analisi del computer mandò in frantumi questa pigra tradizione di analisi delle partite come se fossero fiabe. I motori di ricerca non si preoccupano delle storie. Espongono il fatto che l’unica storia in un gioco di scacchi è in ogni singola individuale, debole o forte. Non è per nulla bello o interessante come il metodo narrativo, ma è la verità, e non solo negli scacchi. Il bisogno umano di intendere le cose come una storia anziché come una serie di eventi discreti può portare a molte conclusioni ingiustificate. Un bell’aneddoto che si adatta alle nostre nozioni preconcette o che soddisfa uno dei tropi più noti ci allontana facilmente dai dati.
Contro una buona storia c’è poco da fare, e spesso vogliamo disperatamente credere nel falso, se ben costruito. Quando si tratta di romanzi, cinema e fumetti va tutto bene, naturalmente: è la magia della sospensione del dubbio. Ma quando si parla di fatti? Non è questo il fascino delle fake news e l’uso distorto della narrazione? Non è così che agiscono il giornalismo più retrivo, la politica imbonitrice, il populismo?
Un computer è invece immune all’incanto narrativo. Qualunque giocatore di scacchi considera le proprie mosse come una catena con un inizio e una fine, e una svista influenza questa storia; un computer invece non sa nemmeno di aver giocato una tale mossa. Ogni posizione risultante è nuova di zecca, e come tale va valutata.
L’uso dei computer, dei database e dei motori di ricerca, ci costringe a essere molto più severi con noi stessi e meno schiavi delle semplificazioni narrative.
E questo ci porta al tema dell’educazione, su cui Kasparov spende parole appassionate. L’uso dei computer (dei database e dei motori di ricerca) ci costringe a essere molto più severi con noi stessi e meno schiavi delle semplificazioni narrative. Negli scacchi, ormai, si nota che il gioco dei Grandi maestri assomiglia sempre di più a quello dei computer — e non è un male: l’estro non scompare affatto. C’è solo maggiore accuratezza, maggiore sensibilità agli errori. Ma di nuovo, lo stesso si applica anche altrove:
Non calcoliamo ogni decisione tramite la forza bruta, controllando ogni possibile risultato. È inefficiente ed è inutile, perché in genere ce la caviamo piuttosto bene con le nostre assunzioni. Ma quando esse vengono isolate dai ricercatori, o sfruttate dai pubblicitari, dai politici e da altri artisti della truffa, è evidente che avremmo tutti bisogno di un po’ di controllo oggettivo: ed è dove le macchine possono aiutarci. Non solo fornendo le giuste risposte, ma mostrando quanto il nostro pensiero è idiosincratico e facilmente influenzato. Essere consapevoli di queste fallacie e degli errori cognitivi non li impediranno del tutto, ma è un grande passo avanti nella lotta.
Non è difficile allargare il discorso. Possiamo recuperare informazioni che in precedenza avrebbero richiesto molto più tempo, o che sarebbe stato estremamente difficile ottenere: ciò dovrebbe spingerci a verificare più spesso le fonti, a essere più critici verso quanto leggiamo o scriviamo. Se non è così non è colpa delle macchine, ma del modo pigro o sbagliato in cui le stiamo usando.
Certo, precisa Kasparov, possedere simili risorse può generare l’illusione che i computer diano sempre la risposta perfetta, e basti impararla pedissequamente. Al contrario: “Non è sufficiente sapere le mosse migliori; occorre anche sapere perché queste mosse sono le migliori”.
In questa piccola frase è contenuto il succo del libro: nonostante la sua fiducia nelle possibilità di usare la tecnologia per allenarci a prendere decisioni migliori, Kasparov non confonde affatto i piani. La spinta pedagogica che pervade la sua opera riconosce un ruolo fondamentale all’approfondimento, al dubbio e alla riflessione che va ben oltre il semplice calcolo.
Ci sono cose che le macchine non possono né devono fare: il loro compito è solo quello di aiutarci a rendere ancora più profonda la nostra curiosità e la nostra sete di bellezza e conoscenza. In poche parole, a renderci più umani.
