Alan Turing è morto ma ha fatto in tempo a pronosticare il 2050 come l’anno in cui presumibilmente si sarebbero viste le prime Intelligenze Artificiali capaci di superare il Test di Turing, un test in cui si riuscirebbe a determinare se una macchina riesca o meno a pensare come un essere umano. Turing è morto, ma la questione della possibilità di menti artificiali è ancora viva e dibattuta. In estrema sintesi ci sono da una parte l’ipotesi connessionista di chi pensa che l’uomo sia una rete neurale fatta di carne e che la mente umana sia di fatto un complesso algoritmo, e dall’altra l’ipotesi quantistica di chi pensa che siamo una rete neurale con interconnessioni quantistiche (che Penrose ha per esempio identificato nei microtubuli).
Fuori dai paradigmi di ricerca scientifici, la questione ha creato una buona dose di speculazioni finzionali, a partire da Asimov, dai replicanti di Do Androids Dream of Electric Sheep? di Dick, Hal-9000 di Clarke (e poi di Kubrick), a Galatea 2.2. di Richard Powers e agli innumerevoli tentativi più o meno riusciti nella romanzeria di genere, film e serie Tv.
Ora tocca a McEwan, scrittore non di genere che si confronta con un romanzo di genere quando i confini tra la fantascienza di ieri e la scienza di domani si fanno sempre più confusi e sottili. McEwan però fa una cosa interessante: innesta il romanzo di fantascienza su una marza costituita da una struttura distopica al passato prossimo, immaginando un passato alternativo dove Turing non è morto, ha risolto il problema della classi P e NP, dopo il Turochamp ha creato un’intelligenza artificiale che ha battuto l’uomo a Go oltre che a scacchi e ha così creato i presupposti per creare le Intelligenze Artificiali forti. Siamo nel 1982 e in questo passato alternativo i personal computer esistono fin dalla metà degli anni ’60, esistono macchine automatiche, chiamate automaton, guidate da algoritmi capaci di elaborare e risolvere i paradossi del trolley in tutte le loro varianti. Dall’inizio degli anni ’80 sono disponibili 25 prototipi di robot, in forma sia maschile che femminile, 12 Adami e 13 Eve.
In questo mondo alternativo, Charlie Friend è un trentaduenne da sempre appassionato di fisica e tecnologia ma che, privo delle qualità intellettuali per eccellere in quei campi, ha studiato un po’ di antropologia per poi finire per laurearsi in legge e, ironicamente, finire per avere problemi con la legge per speculazione finanziaria. Charlie ha una storia con una ragazza di dieci anni più giovane, Miranda Blacke, figlia di un noto umanista Maxfield Blacke, e che sembra avere qualche segreto. McEwan è bravissimo a costruire due personaggi umani, Charlie e Miranda, pieni di ogni ambiguità morale e chiaroscuro emotivo di cui l’uomo è capace, e metterli di fronte a Adam, il costosissimo prototipo di robot che Charlie riesce a acquistare grazie a una cospicua eredità. Charlie e Miranda devono in qualche modo programmare Adam, dargli un carattere, delle “impostazioni iniziali—un sinonimo contemporaneo di destino”:
I miei amici, la mia famiglia e tutti i conoscenti, erano tutti apparsi nella mia vita con delle impostazioni prefissate, con storie inalterabili di geni e ambiente. Volevo fosse lo stesso per il mio nuovo costosissimo amico. Perché lasciare la scelta a me? Ma naturalmente sapevo la risposta. Pochi di noi sono ottimizzati in modo adeguato. Il gentile Gesù? L’umile Darwin? Uno ogni duemila anni. Anche se conosceva i migliori, i meno pericolosi tra i parametri della personalità, e non li conosceva, una corporazione multinazionale con una reputazione delicata non poteva rischiare incidenti. Lasciamo che i rischi se li assuma il cliente
L’assenza di uno storico, di un sistema di relazioni con l’ambiente circostante, in generale tutto quello che può essere derubricato sotto l’etichetta della natura (nature) come opposta a educazione (nurture) è la cosa che sembra limitare le macchine che McEwan ha immesso nel suo Machines Like Me, androidi che nel libro vengono descritti come “cadaveri che respirano” e come “una celebrazione dell’ingenuità umana,” e che rappresentano se non la soluzione, almeno lo stato del dubbio sulla possibilità di intelligenze artificiali.
Per i teorici tradizionali delle IA pensare è computare, ossia elaborare informazioni operando su dati mediante degli algoritmi. Si tratta di vedere se una macchina riesca a simulare anche le caratteristiche più squisitamente umane, come avere spirito di comunione, saper mistificare la realtà e avere un lato creativo. Adam pare riesca a fare queste cose, e nel corso del libro lo vediamo raggiungere complessità teoretiche in materia di economia, giurisprudenza, letteratura e etica, fino a mettere in qualche modo in discussione la vita stessa, o quello che quelle macchine percepiscono come vita. In un momento di esistenzialismo robotico, Adam arriva a chiedersi se il suo io, creato matematicamente, prodotto di ingegneria nato dal nulla, “non sia interamente privo di scopo.” È la questione filosofica delle intelligenze artificiali: capire se una macchina possa affrontare il “conosci te stesso” socratico.
Il problema con le IA nasce dal teorema di Gödel. Per Gödel un sistema è logicamente inconsistente se può provare qualunque formula, e gli unici sistemi consistenti sono paradossalmente quelli che sono inconsistenti. Penrose crede di aver dimostrato l’impossibilità delle Intelligenze artificiali sostenendo che noi possiamo riconoscere come vera una formula che un’intelligenza artificiale non può riconoscere come vera. Una macchina, in sostanza, non riuscirebbe a avere un criterio di verità, che non può essere implementato nella stessa macchina (legge di Tarski: non si può definire la verità per un linguaggio dentro quel linguaggio stesso). È lo stesso argomento usato per esempio da Lucas, che ha osservato che:
“Data qualsiasi macchina che sia coerente e capace di fare della semplice aritmetica, c’è una formula che essa è incapace di produrre come vera, ossia una formula che è indimostrabile nel sistema, ma che noi possiamo vedere come vera. Ne segue che nessuna macchina può essere un modello completo o adeguato della mente, che le menti sono essenzialmente diverse dalle macchine” (J. R. Lucas, “Menti, macchine e Gödel,” 1961)
E è lo stesso argomento che Höfstadter sbeffeggia nello splendido Gödel, Escher, Bach. Gödel stesso risponderà indirettamente nelle Gibbs Lectures, dove afferma che “La mente umana (nel regno della matematica pura)… è equivalente a una macchina finita che è incapace di comprendere il suo stesso funzionamento.” [Kurt Gödel, Gibbs Lectures]. O l’uomo è più di una macchina e che pensare non sia solo computare, o l’uomo è una macchina che non sa che tipo di macchina è. La disgiunzione non è ancora risolta, e tantomeno sono risolutivi gli argomenti avanzati da John Searle con l’ipotesi della Stanza Cinese, anche questa criticata da Höfstadter e da Dennet.
McEwan è bravissimo mettere in piazza tutti gli argomenti in causa di quella disgiunzione, argomenti che, ricordiamo, riguardano una cosa che conosciamo poco e che sono ancora soltanto allo stadio di pure ipotesi. Se Adam da una parte sembra “imparare dall’esperienza” come noi, ma mentre noi “siamo predisposti per creare percorsi, narrazioni, laddove dovremmo pensare in moodo probabilistico… le intelligenze artificiali possono migliorare quello che abbiamo.” Per mezzo di complessi algoritmi e di una serie di impostazioni iniziali che ne definirebbero un surrogato di carattere, Adam vede e costruisce il mondo “attraverso il prisma della sua personalità; la sua personalità era al servizio della sua ragione oggettivizzante e dalle miriade di aggiornamenti.”
D’altro lato noi esseri umani, rappresentati dagli esseri umani del libro, Charlie e Miranda, siamo umani “eticamente difettosi, inconsistenti, emotivamente labili, predisposti a preconcetti, errori cognitivi” e Miranda in particolare sembrava a Charlie “una forza non della natura e nemmeno dell’educazione. Più una disposizione psicologica, un teorema, un’ipotesi, una grazia furtiva… potrebbe sembrare una dimostrazione euclidea contro-intuitiva? … i suoi desideri e moventi erano inesorabili, come numeri primi, semplici e imprevedibili ma lì.” Alla fine del libro McEwan farà dire a Turing:
“Credo che A[dami] e E[ve] non siano adeguatamente equipaggiati per capire i processi decisionali umani, il modo in cui ci sono principi avvolti nel campo di forza delle nostre emozioni, i nostri preconcetti, le nostre illusioni e i difetti della nostra cognizione. Così questi Adami e queste Eve conoscono la disperazione. Non potevano conoscerci, perché noi stessi non ci conosciamo. I loro programmi di apprendimento non riescono a inquadrarci. Se noi stessi non conosciamo le nostre menti, come possiamo progettare le loro e aspettarci che siano felici accanto a noi?”
Ritorna la disgiunzione di Gödel: o non siamo macchine o siamo macchine che non sanno che tipo di macchine sono. Ma su Machines Like Me sebbene ci siano nuove ipotesi immaginate, non ci sono risposte definitive a un problema ancora aperto. Semmai, il problema del libro è che, anche se mantiene una sua fluidità e un buon bilanciamento tra distopia, romanzo storico alternativo e fantascienza di confine, alla fine mostra qualche scollamento e la parte storico-distopica prende quasi vita propria, diventando di fatto una novella dentro il romanzo.
McEwan aveva forse bisogno di ricreare un passato noto per mostrare come un’innovazione scientifica e filosofica della portata delle intelligenze artificiali avrebbe modificato il nostro mondo, e è riuscito a costruire un mondo senza spiegare troppo, e mostrandolo a macchie di leopardo, mediante una serie di particolari che lentamente creano un quadro esaustivo. Alcune cose di quel passato sono uguali al nostro, altre cambiano, e lì per esempio John Lennon non è morto e i Beatles si sono riuniti nel 1982, e alcuni famosi classici hanno i loro nomi alternativi, tipo The High-Bouncing Lover, All’s Well that Ends Well e The Last Man in Europe.
La parte politica però finisce quasi per staccarsi dal resto, e in verità lascia piuttosto sfumato e confuso il modo in cui le varie amministrazioni mondiali hanno dovuto cercare di gestire l’introduzione di intelligenze artificiali che lentamente invadono il mondo degli uomini e li deprivano di lavoro e quindi reddito e quindi identità e libertà. McEwan invece si dilunga su una serie di elementi di realpolitik: le destre che conosciamo sono tutte state sconfitte, Kennedy non è morto, Carter ha vinto per un secondo mandato negli Stati Uniti, che quindi non hanno avuto Reagan né reaganismo, in Francia c’è un governo di una sinistra guidata da George Marchais, l’Inghilterra ha perso la guerra delle Falkland, cosa che ha costretto Margaret Thatcher a una dimissione e conseguente sconfitta elettorale. L’Inghilterra verrà governata da Tony Benn, che però morirà presto in un attentato, scatenando poi discussioni interne su quanto sia conveniente per il Regno Unito restare membro dell’Unione Europea, e toccando quindi l’argomento Brexit, sebbene in modo fugace e forse un po’ forzato. Sebbene McEwan sia stato bravo a costruire un passato alternativo dove alcune cose cambiano e altre restano uguali, non riesce a amalgamare questa parte con il resto del libro, che molto spesso sembra una scusa per avanzare delle ipotesi politiche più che porre domande scientifiche e filosofiche.
[Le traduzioni dei brani di Machines Like Me sono mie]