L’intelligenza stupida dell’evoluzione è ancora la migliore che abbiamo

Una delle strategie più comuni di Summa Technologiae è l’utilizzo degli esperimenti mentali usati da filosofi e scienziati per esplorare le implicazioni teoriche delle proprie ipotesi. Si tratta di esperimenti che si svolgono interamente nella mente e che di conseguenza ci consentono di riflettere su questioni complesse per esplorarne le conseguenze logiche senza la necessità di una reale messa in pratica.  Uno dei più famosi è l’esperimento del gatto di Schrödinger, in cui il fisico ci presenta un gatto chiuso in una scatola con un meccanismo che può ucciderlo in base al decadimento di una particella. Fino a quando non apriamo la scatola, il gatto è considerato sia vivo che morto, esemplificando così la natura paradossale del principio di sovrapposizione quantistica. Un altro caso celebre è il dilemma della nave di Teseo: se sostituiamo una ad una tutte le parti di un oggetto, come appunto la nave di Teseo, questo continuerebbe a mantenere la propria identità? Il dilemma ci porta a riflettere sulla propria natura, e di come questa (se esiste) preservi la sua essenza (se esiste) attraverso il cambiamento.

Lo spirito filosofico e narrativo di Lem è ben evidente nell’uso continuo di questa tecnica – potremmo dire che la fantascienza si basa sempre su esperimenti mentali – e nel farlo non solo anticipa altri filosofi che si sono cimentati con interrogativi analoghi, ma li supera largamente in profondità. Prendiamo ad esempio il caso del signor Smith, un esperimento mentale che riprende il tema di Teseo su identità e continuità a partire dalla clonazione atomica e il trasferimento della memoria. Usato per spiegare concetti dai nomi decisamente in linea col gusto romanzesco dell’autore (cerebromatica,  teletassia, fantoplicazione…), Smith è il protagonista di molti casi immaginari. Nel libro viene discussa l’ipotesi di modificare il suo cervello per farlo diventare temporaneamente Napoleone Bonaparte, o di alterarne la forma per dotarlo di un incredibile talento musicale, di cambiare le sue convinzioni facendolo diventare un fervente seguace di un culto del fuoco – tutti casi in cui a dei dilemmi etici si sovrappongono anche domande ontologiche sull’identità del signor Smith. È sempre lui? Quando smette di essere se stesso, e, soprattutto, non è forse vero che qualcosa di analogo accade anche nella nostra vita quotidiana, sebbene più gradualmente? Vent’anni prima del filosofo Derek Parfit, Lem propone delle versioni dell’esperimento mentale del teletrasporto, come l’idea di “telegrafare” Smith creando una sua copia esatta in un’altra posizione, mentre l’originale viene distrutto. Smith è morto? E la sua coscienza? Se quest’ultima è l’unico elemento di cui tener conto non risentirebbe di alcuna interruzione di continuità. In un altro esperimento Lem ipotizza la possibilità di trasferire la coscienza di Smith in un altro corpo o in un supporto artificiale. La coscienza di Smith è legata in modo intrinseco al suo corpo originale, o può essere considerata la stessa entità anche se è ospitata da un corpo diverso o vive in un ambiente virtuale? A differenza dei filosofi però, Lem non dice di fare esperimenti mentali, ma di porre problematiche che in un futuro più o meno lontano potrebbero realizzarsi. Una di esse ci colpisce per la sua attualità, ed è nella sezione “intelletronica”, che adesso chiamiamo “intelligenza artificiale”. 

In questo capitolo Lem utilizza la metafora della “scatola nera”, che oggi usiamo più o meno in modo analogo per descrivere dispositivi o sistemi i cui meccanismi interni non sono compresi o osservabili direttamente; ciò che conta sono gli input forniti e gli output ricevuti, senza che vi sia una comprensione completa del processo intermedio. Questa idea è discussa in tempi recenti proprio in merito alle intelligenze artificiali. Anch’esse infatti, soprattutto se costruite con reti neurali profonde, vengono descritte come scatole nere per via della loro opacità. Sono capaci di svolgere compiti complessi che vanno dall’elaborazione del linguaggio naturale alla diagnosi medica, ma i processi esatti tramite i quali giungono alle loro conclusioni rimangono, in molti casi, difficilmente interpretabili persino per i loro creatori. Lem anticipa il dilemma, suggerendo che la crescente complessità dei sistemi tecnologici porterà inevitabilmente a una maggiore alienazione dalla comprensione umana, poiché le macchine diventeranno sempre più capaci di fare operazioni che trascendono la nostra capacità di monitoraggio.

Lo scrittore anticipa anche il paradosso delle graffette del filosofo americano Nick Bostrom, con una versione a mio parere molto più interessante. Se Bostrom immagina una superintelligenza a cui viene dato l’unico obiettivo di produrre quante più graffette possibili per suggerire che questa per obbedire potrebbe convertire in graffette tutte le risorse disponibili (umani inclusi), Lem affronta la questione in termini molto più realistici. Per lo scrittore polacco, se si pensa alle implicazioni di affidare decisioni significative a sistemi che non comprendiamo pienamente, il problema è più di carattere sociale. La sua visione della scatola nera come regolatore supremo dell’economia, ad esempio, solleva il problema del controllo, della trasparenza e della responsabilità dei sistemi automatizzati. La possibilità che un sistema complesso e opaco prenda decisioni basate su una logica interna apre la strada a conseguenze non intenzionali potenzialmente dannose per la società, come ad esempio immettere nelle acque una sostanza per diminuire la fertilità in modo da risolvere la sovrappopolazione. Se la trasparenza viene sacrificata all’efficienza, il rischio è che una macchina decida di nasconderci delle informazioni “per il nostro bene”. Ancora più terribile di questo scenario è quello di affidarsi a una macchina che segue fedelmente il programma che le abbiamo affidato senza lasciare aperta la possibilità di cambiarlo. Una macchina per il capitalismo perfetto che non mette mai in dubbio il fatto che si debba mantenere capitalismo, ad esempio. Qui l’errore sarebbe tutto umano, fondato su una fiducia acritica nel potere risolutivo della tecnologia e sulla bontà della nostra attuale visione del mondo.

Le analisi dello scrittore polacco sono ammirevoli anche per l’equilibrio che mantiene nell’osservazione di pregi e difetti della tecnologia, senza mai cadere in entusiasmi acritici o astiosa disperazione, come spesso accade nell’attuale dibattito sulle IA. Sono tutte molto interessanti, ma tra esse spicca un’idea ricorrente, il parallelo tra tecnologia ed evoluzione che si esplicita nell’ultimo capitolo un pamphlet contro l’evoluzione.

In Summa Technologiae l’evoluzione viene descritta come una sorta di “intelligenza stupida” sorprendentemente efficace, che opera attraverso il tempo e la statistica. Questo processo, pur lento e privo di un’intenzione consapevole, riesce a produrre una straordinaria varietà di soluzioni viventi. Il successo del processo evolutivo inoltre è una testimonianza della sua potenza come meccanismo per affrontare i problemi con l’esplorazione di una vasta gamma di possibili soluzioni. Questo accade attraverso il tempo e la variazione genetica, con risultati che spesso superano quelli di un disegno intelligente e intenzionale. L’evoluzione, con la sua “stupida” ma efficace strategia di tentativo ed errore, rappresenta una forma di intelligenza che mette in discussione la nostra. Certo, si tratta di un meccanismo che ha i suoi difetti, come la tendenza a ripetere soluzioni già esistenti piuttosto che cercare alternative. Questo conservatorismo è paragonato all’inerzia concettuale, dove la mancanza di volontà o capacità di intraprendere cambiamenti radicali e improvvisi può portare a soluzioni ridondanti o non ottimali. L’evoluzione tecnologica invece si basa sulla progettazione intenzionale, che è in grado di creare soluzioni ad hoc per affrontare i vari problemi di sopravvivenza. Questo però porta alla creazione di dispositivi tecnologici altamente specializzati, che, a differenza degli organismi biologici, hanno una gamma meno ampia di adattabilità. Lem rompe lo specchio in cui amiamo ammirare la nostra intelligenza e sottolinea come nonostante la sua superiorità in alcuni ambiti, la tecnologia non abbia ancora raggiunto la complessità, l’adattabilità e l’autonomia della vita biologica. L’evoluzione ha prodotto soluzioni universali come la mano umana, che può compiere una vasta gamma di compiti. In contrasto, la tecnologia ha prodotto strumenti come pinze, trapani e martelli, ciascuno dei quali imita solo un aspetto specifico della funzionalità della mano, dimostrando la sua tendenza verso la specializzazione.

È interessante notare delle analogie tra il modo in cui lo scrittore descrive l’intelligenza cieca dell’evoluzione e quella delle contemporanee IA. Se l’evoluzione biologica è un processo dove mutazione e selezione portano allo sviluppo di nuove specie senza un piano definito, le IA si sviluppano attraverso l’apprendimento da enormi quantità di dati, senza una comprensione o un’intenzionalità intrinseca riguardo ai pattern che riconoscono o alle decisioni che prendono. In entrambi i casi l’intelligenza emerge grazie alla statistica – ne è un epifenomeno. Anticipando le idee di Richard Dawkins sull’evoluzione come un “orologiaio cieco”, Lem la presenta come un processo privo di prevedibilità e consapevolezza, che può portare a risultati sorprendenti senza essere guidato da un progetto. Questa visione si riflette nelle IA, dove gli algoritmi possono sviluppare soluzioni innovative o inaspettate senza una comprensione cosciente dei processi o dei risultati. Sebbene Lem includa nel libro un pamphlet contro l’evoluzione, il suo sguardo verso questa efficiente intelligenza aliena è molto ammirato. Non è esente da difetti, come il favorire la sopravvivenza della maggioranza piuttosto che quella del singolo, il trascinarsi dietro caratteristiche obsolete, l’incapacità di soluzioni innovative, o di ricordare le soluzioni passate… cionostante:

Oggi ci stupiamo che la probabilità possa dar luogo a macchine che assemblano stringhe di testo dotate di senso, ma dimentichiamo che ha generato gli animali che hanno inventato queste macchine.