Version française ici

Nell’aprile 2015 pubblicavo in questo blog un post dal titolo Transumanesimo e resurrezione. Il successo folgorante dell’ultimo libro di Yuval Noah Harari, Homo Deus, mi spinge ora a ritornare sulla questione.
«Le Point» del 31 agosto ha pubblicato un’intervista dell’autore che sintetizza bene il suo discorso. All’inizio vi sono due postulati negativi: due miti sono in via di sparizione, dato che perdono sempre più pertinenza, l’esistenza di Dio e la libertà individuale.

A proposito della religione, Harari dice tre cose. In primo luogo egli sostiene «che una delle caratteristiche primordiali egli esseri divini è di rendere le cose viventi». Ora, dice, «noi siamo capaci di rimodellare la vita» o di «ridefinire il codice della vita». D’altra parte, chi dice «vita» dice «morte» e le tecnologie legate all’AI (intelligenza artificiale) permetteranno precisamente di rinnovare indefinitamente la vita, di far indietreggiare e, alla fine, di sopprimere la morte. Nessun bisogno dunque di dio né della religione.
In secondo luogo Harari constata che le religioni forniscono dei criteri d’identità che permettono la costituzione di comunità, e generano, per altro verso, delle crisi. Ora, noi non abbiamo più bisogno di queste criteri: oggi le comunità politiche si costituiscono in altro modo, ovunque sia presente «lo Stato-nazione burocratico».
Le religioni – è sotto gli occhi di tutti – non hanno niente da dire né sulla vita quotidiana, regolata dalla tecnica (medica o di altro tipo), né sullo sviluppo reale della civilizzazione, dell’Intelligenza Artificiale e della genetica.

In terzo luogo, Harari lega la religione alla questione dell’autorità: la religione fornisce una finzione che giustifica un’autorità di tipo monarchico, oggi obsoleto.

A proposito della libertà individuale, che è che oggi l’elemento centrale della civiltà, Harari dice che è anch’essa una finzione: «La scienza spiega che i sentimenti, le scelte e i desideri umani sono il semplice prodotto della biochimica», e dunque sono in linea di principio esplicabili (e questo sebbene oggi non si disponga ancora delle formule matematiche per identificare quelle regioni che chiamiamo «anima»). Tutto dipende da algoritmi. D’ora in poi sarà fondamentale, in vista delle azioni da compiere, fidarsi dei dati disponibili piuttosto che delle variazioni degli umori umani. Sono questi dati che forniranno l’autorità del futuro.

Al limite si intravvede dunque «un sistema cosmico di trattamento dei dati che sarà paragonabile a Dio: sarà ovunque, controllerà ogni cosa e gli esseri umani saranno destinati a fondersi in esso». Notiamo che in questo passaggio è contenuta un’idea di Dio più ampia di quella a cui si faceva riferimento in un passaggio precedente. Là Dio veniva descritto attraverso le sue prerogative: signore della vita e della morte, referente ultimo delle comunità, fondamento dell’autorità. Qui invece è in questione, da una parte, la sua ubiquità («sarà ovunque») e, dall’altra parte, il suo carattere di fine ultimo che annullerà l’umano attraverso un assorbimento non più mistico ma matematico: la maniera moderna di dire il trionfo dell’Uno sull’uomo.

Le osservazioni di Harari mi spingono a porre alcune domande.

A proposito di dio e della religione

È certo che le affermazioni di Harari si ricollegano in parte alle critiche che nella storia recente sono state mosse contro un’idea «troppo umana» di ciò che chiamiamo dio, e queste critiche hanno portato frutto se si considera l’affinarsi della riflessione su Dio, l’avvento della secolarizzazione, la fine, o meglio la trasformazione, della religione. Non sembra che Harari conosca molto della storia recente della teologia (nel senso non confessionale di questo termine: ovvero come discorso su dio)
Egli si sarebbe dovuto confrontare con l’idea di Dio affinatasi nel mondo presente, e non con sue rappresentazioni grossolane, per quanto ancora vive. Ad ogni modo, per riprendere uno dei temi di Harari, mi sembra che ci sia una differenza considerevole tra fabbricare la vita, da una parte, e rimodellarla e riformarla, dall’altra. Questa differenza è palpabile nell’uso del prefisso «re». Se c’è della vita, noi possiamo intervenire su di essa. Ma fabbricare una vita, cioè far nascere un essere vivente a partire da materiali inorganici è tutta un’altra performance. Al momento non siamo ancora passati dalla seconda alla prima e non possiamo affermare che potremo farlo se non sulla base di un atto di fede la cui credibilità è dubbia. E, supponendo di arrivare a farlo, sarà necessario allora rispondere alla domanda sempre attuale di Leibniz: «perché c’è qualcosa piuttosto che il nulla?» o, ancora, «in che modo c’è qualcosa?». Mi sembra che questo genere di domanda sia di tipo metafisico, vale a dire di un’altra natura rispetto alle domande della fisica e della tecnologia, fossero anche «nano»: si tratta della questione del fondamento. Fino ad ora la parola «dio» ha personalizzato la risposta a questa domanda; se si sopprime questa parola e ciò che essa designa, che cosa metteremo al suo posto? Harari direbbe, e ci tornerò: i big data.

A proposito della libertà individuale

Troviamo nel testo di questa intervista espressioni che non vanno nella direzione del «solo algoritmo». A proposito dei farmaci psicotropi, Harari sottolinea per tre volte che noi non cerchiamo veramente di «comprendere la complessità dello spirito umano». Noi facciamo tutte le nostre manipolazioni, terribilmente efficaci, del mondo e di noi stessi «prima di comprendere ciò che facciamo». Io non so come interpretare questo testo nel quadro del «solo algoritmo». Che cos’è la comprensione preliminare? Da dove viene? Come è possibile? È alla mancanza di questi criteri che Harari attribuisce «un’epidemia di stress e di depressione». Non ci sarà allora qualcosa di anteriore ai «big data»? Non bisognerà forse elaborare qualcosa che assomigli a una teoria della conoscenza etica? Ma allora in questo modo noi usciamo dal paradigma del «solo algoritmo».

Un’altra difficoltà si presenta nel passaggio in cui l’autore inserisce degli elementi che sembrano estranei al suo approccio iniziale. «Non sono determinista», dice. Egli sottolinea infatti che, con gli strumenti tecnici dell’epoca «l’umanità ha costruito, con scelta consapevole, un regime nazista, una dittatura comunista o una democrazia liberale». «Con scelta consapevole»! Ma poco prima aveva detto: «le nostre scelte sono il semplice prodotto della biochimica» e il suo discorso comprende conseguentemente un’esortazione a lasciare, giustamente, le nostre scelte a Google che meglio di noi conosce ciò che è appropriato in un determinato momento, che si tratti di acquistare una macchina o di votare per il tale o il tal altro candidato. Le scelte che noi faremmo a partire dalla nostra umanità e non a partire dagli algoritmi pertinenti, non sembrano essere prese in considerazione. La questione sarà piuttosto: che cosa, algoritmicamente parlando, orienta al nazismo, al comunismo o invece alla democrazia liberale? E se si tratta per questo di definire un algoritmo, non si ritorna forse al determinismo? In caso contrario, ad Harari manca una riflessione sulla scelta di cui parla.

Una terza difficoltà viene dal fatto che, se si lascia agire esclusivamente l’Intelligenza Artificiale, c’è il rischio di ritrovarci con qualcosa che potrebbe assomigliare, in peggio, alle gerarchie naziste o comuniste e ai lori campi di concentramento e di distruzione. Harari sembra considerare come inevitabile che lo sviluppo dell’Intelligenza Artificiale e di tutti gli algoritmi genererà una nuova aristocrazia, «un’élite», dice lui a più riprese, che lascerà dietro di sé le popolazioni «inutili» e «barbare », mente terrà per sé « zone avanzate della civiltà». «Il sorgere di una classe inutile, scrive lui, è un problema inedito nella Storia e nessuno ne conosce le conseguenze »
È davvero così inedito? Harari è ebreo, e le teorie che hanno portato il nazismo a cercare di sopprimere il suo popolo avevano anch’esse qualcosa di deterministico, vale a dire la superiorità quasi mistica della razza ariana, destinata all’esaltazione, rispetto alla razza ebraica destinata alla distruzione.

D’altronde queste non sono forse tutte divagazioni, per altro inutili, se lo sviluppo dell’Intelligenza artificiale comporta la scomparsa dell’homo sapiens, rimpiazzato addirittura nel suo cervello? Non ci troviamo più nella sfera dell’umano, per quanto «aumentato», ma in quella che certi transumanisti chiamano il «post-umano». Fondamentalmente c’è già, e ci sarà sempre di più, una «stagione delle élites»: queste diminuiranno progressivamente di numero mentre aumenteranno in capacità, fino al momento in cui il dio algoritmo avrà tutto assorbito, quando tutto «si sarà fuso in lui».

La riflessione che io formulo qui non vuole essere puramente teorica. È certo che la tecnica contemporanea, grazie all’immenso salto fatto con internet, si rivela sempre più potente: dai primi computer allo smartphone, che progressi in così poco tempo! E le conseguenze seguono e seguiranno. Harari mostra la superiorità sconvolgente dello Stato d’Israele rispetto al suo nemico palestinese, dovuta a «una rete di droni, telecamere e algoritmi che controllano praticamente ogni individuo in Cisgiodania». Le stesse reti si sviluppano altrove; loro o altre della stessa natura sono già all’opera. In questo modo l’orizzonte di una divisione dell’umanità tra «un’élite» (ma è appropriata questa parola?) performante e una massa inutile e barbara, non appartiene alla fantascienza. È il tempo di ritornare a delle prospettive etiche che orientino in altro modo l’Intelligenza Artificiale affinché essa possa servire al benessere dell’umanità. Al bene della «casa comune», come dice papa Francesco.

(L’autore e la redazione ringraziano SB per la traduzione italiana di questo post.)