La Silicon Valley e il software di Dio. I rischi delle utopie tecnicistiche

Nel settembre del 2017, parlando di fronte ad un’assemblea di studenti, il presidente russo Vladimir Putin affermò: “L’intelligenza artificiale è il futuro non solo per la Russia ma per l’intera umanità e chiunque ne avrà la leadership dominerà il mondo”. Xi Jinping, il capo incontrastato della Cina, non ha fatto dichiarazioni altrettanto esplicite ma ci sono dei dati che dovrebbero far rizzare le antenne agli osservatori occidentali. Nel 2018 le startup cinesi hanno ricevuto il 48 per cento dei fondi globali destinati alla ricerca in questo campo, e gli scienziati cinesi hanno richiesto nello stesso periodo 641 brevetti nel settore, ovvero circa il quintuplo dei colleghi americani.Queste semplici considerazioni dovrebbero farci capire come le problematiche legate all’Intelligenza Artificiale (IA) rivestano un’importanza strategica fondamentale per il futuro dell’umanità e la necessità di porre tale questione al centro del dibattito pubblico in Italia e in Europa.

Un interessante contributo a questo proposito è fornito dalla pubblicazione in italiano di Umanesimo digitale-Un’etica per l’epoca dell’Intelligenza Artificiale di Julian Nida-Rümelin e Nathalie Weidenfeld. Il primo è un filosofo tedesco con solide basi scientifiche, grazie alla sua laurea in fisica, mentre la seconda è una docente e studiosa di cinema (nella vita privata sono marito e moglie). L’accoppiata tra filosofia e cinema a prima vista potrebbe sembrare bizzarra ma, in realtà, per l’argomento trattato è stata una scelta vincente, visto che i film di fantascienza sono uno strumento straordinario per scandagliare questo tema. Non meno importante è il fatto che le rigorose analisi filosofiche di film come la trilogia di Matrix, 2001: Odissea nello spazio, Io, Robot o Blade Runner (per citarne soltanto alcuni) rendano la lettura piacevole e stimolante.

I prescelti da Dio vivono nella Silicon Valley

Come è ben indicato dal titolo del libro, gli autori si prefiggono di elaborare una nuova etica per l’epoca in cui viviamo, in modo da fissare i valori fondamentali del futuro che si sta delineando e facendo emergere nel contempo i gravi pericoli legati alla visione utopistica (ma forse, sarebbe meglio dire distopica) insiti in quella che, semplificando notevolmente, viene definita “ideologia della Silicon Valley”. “Questa ideologia –scrivono gli autori- è connessa alla speranza di redenzione dell’America delle origini, ispirata al puritanesimo, la speranza di creare un mondo di puri e giusti che si siano lasciati alle spalle sporcizia e peccato”. Il lavoro di ricerca nel campo dell’Intelligenza Artificiale viene così caricato di valenze metafisiche, di strumento quasi divino, in grado di assicurare al genere umano una potenza che non ha mai avuto e un futuro radioso garantito dalla perfezione tecnica. Non dovrebbe sfuggirci che questa ideologia è saldamente radicata nella mentalità puritana dei Padri Pellegrini, i primi coloni che raggiunsero l’America nel 1620, convinti di essere stati scelti da Dio per edificare una nuova civiltà, retta dalla legge divina, che sarebbe servita da modello per il mondo. Molti esperti di software della Silicon Valley non fanno mistero di ritenersi degli eletti, il cui lavoro ha una valenza fondamentale per il genere umano.

E d’altronde, non sarebbe meraviglioso vivere in un mondo in cui le macchine lavorano per noi, chip di potenziamento inseriti nel nostro cervello ci consentono prestazioni mai immaginate, possiamo comandare gli oggetti della casa con il pensiero? Nida-Rümelin e Weidenfeld mettono in guardia da questo sogno utopico, molto simile al delirio di ottimismo positivista di fine Ottocento, che morì affogato nel sangue della Prima guerra mondiale. In modo semplice e pacato, gli autori affermano che “i computer digitali sono macchine algoritmiche, dette anche macchine di Turing (dal nome del matematico Alan Turing). Gli esseri umani e altre creature altamente evolute non sono macchine. La natura nel suo complesso non è una macchina”. La conclusione del ragionamento è altrettanto chiara e coraggiosa, perché critica degli sviluppi che vengono visti come ineluttabili e sono sostenuti da forze potentissime. Secondo il libro, “L’ideologia della Silicon Valley assume come punto di partenza degli spunti di riflessione umanistici per poi trasformarli – non è la prima volta nella storia culturale del genere umano – in utopie antiumanistiche. Essa inizia con aspirazioni al miglioramento dell’essere umano e termina con il suo oltrepassamento finale. Essa vuole migliorare la vita umana sul pianeta e mette in discussione le condizioni che costituiscono l’umanità sotto il profilo etico. Essa tramuta l’umanesimo in transumanesimo, in un’utopia tecnicistica nella quale l’essere umano viene lasciato in disparte”.

Umanesimo Vs antiumanesimo

Nel film di grande successo di Ridley Scott, Alien, uscito nel 1979, l’astronave da trasporto “Nostromo” si avventura nel cosmo in missione per conto dell’azienda Weyland-Yutani, detta anche la “Compagnia” o la “Società”, alla ricerca di esseri viventi o conoscenze che siano opportunamente valorizzabili sotto il profilo economico. Come si verrà a scoprire, la spedizione troverà ben presto quello che cercava, nella forma di un mostruoso parassita alieno che si rivelerà una perfetta macchina mortale. La Compagnia darà l’ordine di portare questa entità aliena sulla Terra a qualsiasi costo, per sottoporla a ricerche ed eventualmente sfruttarla a fini di profitto, magari come potente arma. Il fatto che il parassita uccida un membro dell’equipaggio dopo l’altro non cambia nulla nella decisione della Compagnia. Quest’esempio, riportato nel testo, mostra chiaramente come la logica utilitaristica, che è quella che regola le azioni dei robot, porti a decisioni che collidono con il nostro senso di umanità e della morale corrente.

Il terribile prezzo da pagare, nel caso gli esseri umani si mettessero

completamente nelle mani perfettamente razionali di una Intelligenza Artificiale superiore, viene mostrato dal finale del film Io, Robot del 2004, quando il protagonista si trova di fronte a V.I.K.I, il computer centrale che dà ordini ai robot domestici che si sono ribellati contro l’uomo. “Ci date il compito di proteggervi-dice V.I.K.I.- ma, nonostante i nostri sforzi, le vostre nazioni sono in guerra, avvelenate la vostra Terra e cercate metodi sempre più fantasiosi per autodistruggervi. Non badate nemmeno alla vostra sopravvivenza. […] Per proteggere l’umanità, alcuni umani devono essere sacrificati. Per assicurare il vostro futuro, dovrete rinunciare ad alcune libertà. Noi robot garantiremo la continuità della specie umana. Siete come i bambini. Vi dobbiamo preservare da voi stessi”.

Con il solito atteggiamento pacato, gli autori ribadiscono la loro posizione, affermando che “l’umanesimo digitale contrappone a questa ideologizzazione delle tecnologie digitali un contegno di sobrietà. Come tutte le tecnologie del passato, anche quelle digitali sono ambivalenti. Non vi è in esse alcun immanente e automatico percorso di umanizzazione né tantomeno di redenzione. Sono le forme concrete di utilizzo a decidere del carattere favorevole od ostile che possono avere per gli esseri umani”.

 Julian Nida-Rümelin, Nathalie Weidenfeld
UMANESIMO DIGITALE
Un’etica per l’epoca dell’Intelligenza Artificiale
Franco Angeli, pp.198, € 18

di Galliano Maria Speri