Singolarità: le cose da sapere

Sempre più prossimi alla singolarità

1. Che cosa si intende per singolarità tecnologica
2. Quando si raggiungerà la singolarità
3. Qual è il rapporto tra singolarità tecnologica e intelligenza artificiale
4. Perché si chiama singolarità
5. Chi è Raymond Kurzweil

1. Che cosa si intende per singolarità tecnologica

Guardando in avanti parecchi decenni, la Singolarità comincerà con la quinta epoca dell’evoluzione umana secondo il mio schema. Sarà il risultato della fusione dell’ampia conoscenza incorporata nei nostri cervelli con la capacità, la velocità e l’abilità nella condivisione della conoscenza della nostra tecnologia. La quinta epoca consentirà alla nostra civiltà uomo-macchina di superare il limite del cervello umano, cento milioni di miliardi di connessioni estremamente lente.

Quindici concezioni dell’evoluzione. Sono qui riportati i cambiamenti principali di paradigma nella storia del mondo, secondo le idee di quindici elenchi diversi di eventi chiave. C’è una chiara tendenza all’accelerazione continua, nell’evoluzione biologica e poi in quella tecnologica.

La Singolarità ci consentirà di risolvere problemi che ci trasciniamo da tempo e di amplificare enormemente la creatività umana. Manterremo e miglioreremo l’intelligenza di cui l’evoluzione ci ha dotati, al tempo stesso superando le limitazioni profonde dell’evoluzione biologica. Ma la Singolarità amplificherà la capacità di agire in base alle nostre inclinazioni distruttive, perciò la sua storia è tutta da scrivere.

Torna all’inizio.

2. Quando si raggiungerà la singolarità

Nel mio libro del 2005, La singolarità è vicina, ho proposto la mia teoria: tendenze tecnologiche convergenti ed esponenziali portano a una transizione che sarà estremamente trasformativa per l’umanità. Sono numerose le aree chiave del cambiamento che continuano ad accelerare simultaneamente: la capacità di calcolo diventa meno costosa, comprendiamo sempre meglio la biologia umana e le tecniche ingegneristiche si possono applicare a scale di gran lunga più piccole. Le capacità dell’intelligenza artificiale crescono, le informazioni diventano più accessibili e noi integriamo sempre più strettamente quelle capacità con la nostra intelligenza biologica naturale. Alla fine la nanotecnologia farà sì che queste tendenze arrivino al culmine e estendano direttamente il nostro cervello con strati di neuroni virtuali nel cloud. In questo modo ci fonderemo con l’AI e aumenteremo noi stessi con una potenza di calcolo milioni di volte superiore a quella che ci ha dato la nostra biologia. La nostra intelligenza e la nostra coscienza si espanderanno e si approfondiranno in una misura che è difficile da comprendere. Questo evento è quello che chiamo la Singolarità.

Il termine singolarità è mutuato dalla matematica (dove si riferisce a un punto non definito in una funzione, come quando si divide per zero) e dalla fisica (dove si usa per indicare il punto di densità infinita al centro di un buco nero, dove le leggi normali della fisica non valgono più). È importante, però, ricordare che il mio uso del termine è metaforico. La mia previsione della Singolarità tecnologica non vuol dire che la velocità del cambiamento diventerà effettivamente infinita, perché la crescita esponenziale non implica l’infinito, e non lo implica nemmeno una singolarità fisica. Un buco nero ha una forza di gravità tanto intensa da intrappolare perfino la luce, ma nella meccanica quantistica non c’è modo di introdurre una quantità di massa veramente infinita. Utilizzo la metafora della singolarità, invece, perché cattura la nostra incapacità di comprendere una trasformazione tanto radicale del nostro livello attuale di intelligenza. Quando la transizione avverrà, la nostra capacità cognitiva si amplierà abbastanza rapidamente da adattarvisi.

Leggi anche: Vivere 120 anni e oltre: ecco come faremo

Come presentavo in dettaglio ne La singolarità è vicina, tendenze di lungo termine fanno pensare che la Singolarità avverrà intorno al 2045. Quando è stato pubblicato quel libro, era una data lontana quarant’anni (due intere generazioni) nel futuro. A quella distanza potevo fare previsioni sulle forze generali che potevano causare questa trasformazione, ma per la maggior parte dei lettori l’argomento era ancora relativamente lontano dalla realtà quotidiana nel 2005. Molti critici poi hanno sostenuto che la mia previsione temporale era eccessivamente ottimistica, o addirittura che la Singolarità era impossibile.

Da allora, però, è accaduto qualcosa che è degno di nota. Il progresso ha continuato ad accelerare, a dispetto di tutti i dubbiosi. Social media e smartphone che a quel tempo quasi non esistevano sono nel frattempo diventati compagni costanti che ora connettono la maggior parte della popolazione mondiale. Innovazioni nel campo degli algoritmi e l’emergere dei big data hanno consentito ai sistemi AI di compiere incredibili passi avanti ben prima di quanto gli esperti stessi si aspettassero, dal diventare campioni in giochi come Jeopardy! e Go al guidare automobili, scrivere saggi, superare esami da avvocato e formulare diagnosi di cancro. Ora, modelli linguistici di grandi dimensioni e flessibili come GPT-4 e Gemini possono tradurre in codice informatico istruzioni formulate in linguaggio naturale, riducendo drasticamente la barriera fra esseri umani e macchine. Nel frattempo, il costo del sequenziamento di un genoma umano è diminuito di circa il 99,997 percento, e le reti neurali hanno iniziato a produrre scoperte importanti in campo medico, simulando digitalmente la biologia. Stiamo addirittura avvicinandoci alla possibilità di collegare effettivamente computer e cervello in modo diretto.

Alla base di tutti questi sviluppi c’è quella che chiamo legge dei ritorni accelerati: le tecnologie dell’informazione diventano esponenzialmente più a buon mercato perché ogni passo avanti rende più facile progettare la fase successiva della loro stessa evoluzione. Mentre scrivo queste righe, con un dollaro (tenendo conto dell’inflazione) si può acquistare circa 11.200 volte la capacità di calcolo che si poteva acquistare quando La singolarità è vicina è arrivato nelle librerie.

Torna all’inizio.

3. Qual è il rapporto tra singolarità tecnologica e intelligenza artificiale

Come dimostra quel che è accaduto negli ultimi anni, siamo già sulla strada per ricreare le capacità della neocorteccia cerebrale. Ciò che ancora manca all’AI di oggi ricade in varie categorie principali, in particolare: memoria contestuale, buonsenso e interazione sociale.

La memoria contestuale è la capacità di tenere traccia di come, all’interno di una conversazione o di un’opera scritta, tutte le idee si incastrino dinamicamente fra loro. Al crescere delle dimensioni del contesto pertinente, cresce esponenzialmente il numero delle relazioni fra idee. Se ci sono dieci idee-parole (cioè, dieci token) in una data frase, il numero delle possibili relazioni fra tutti i sottoinsiemi di quelle idee è pari a 2¹⁰ – 1, cioè 1.023. Se in un paragrafo ci sono cinquanta idee, significa che esistono 1,12 milioni di miliardi di possibili relazioni contestuali fra esse! Anche se la stragrande maggioranza di quelle relazioni è irrilevante, ciò che è richiesto per ricordare a forza bruta il contesto di un intero capitolo o di un intero libro rapidamente cresce in maniera incontrollabile. Per questo GPT-4 dimentica quello che gli è stato detto in precedenza in una conversazione, e non può scrivere un romanzo con una trama logica e coerente.

Le buone notizie sono di duplice natura: i ricercatori stanno facendo grandi passi in avanti nel progettare AI che possa concentrarsi con maggiore efficacia su dati contestuali rilevanti, e i miglioramenti esponenziali nel rapporto prezzo-prestazioni significano che il costo della computazione probabilmente diminuirà di oltre il 99 percento entro un decennio.

L’area successiva in cui l’AI è ancora manchevole è il buonsenso (o senso comune), cioè la capacità di immaginare le situazioni e di prevederne le conseguenze nel mondo reale. Per esempio, anche se non abbiamo mai studiato che cosa succederebbe se la gravità improvvisamente smettesse di esistere nella nostra camera da letto, possiamo facilmente immaginarlo. Questo tipo di ragionamento è importante anche per l’inferenza causale. Se abbiamo un cane e, tornando a casa, trovate un vaso rotto, possiamo inferire che cosa sia successo. Nonostante lampi sempre più frequenti di intuizione, l’AI ha ancora difficoltà in questo, perché non possiede ancora un modello robusto di come funziona il mondo reale, e i dati di addestramento includono raramente questa conoscenza implicita.

Infine, sfumature sociali come un tono di voce ironico non sono ben rappresentate nei database testuali su cui viene ancora addestrata nella maggior parte dei casi l’AI. Senza questa comprensione, è difficile sviluppare una teoria della mente, una capacità di riconoscere che gli altri hanno credenze e conoscenze diverse dalle nostre, di mettersi nei loro panni e di inferire le loro motivazioni.

Penso che l’AI presto colmerà la lacuna in tutti questi ambiti e il mio ottimismo si basa sulla convergenza di tre tendenze esponenziali confluenti: il miglioramento del rapporto prezzo-prestazioni della computazione, che rende più economico addestrare grandi reti neurali; la disponibilità straordinariamente crescente di dati di addestramento più ricchi e più ampi, che consente di sfruttare meglio i cicli di computazione dell’addestramento; e il miglioramento degli algoritmi che consentono all’AI di apprendere e ragionare con maggiore efficacia. Anche se la velocità di computazione, a parità di costo, è raddoppiata in media ogni 1,4 anni a partire dal 2000, la quantità delle computazioni totali utilizzate per addestrare un modello di AI allo stato dell’arte è raddoppiata ogni 5,7 mesi dal 2010 in poi: un aumento di circa dieci miliardi di volte. Durante il periodo precedente l’apprendimento profondo, dal 1952 (quando è stato dimostrato uno dei primi sistemi di apprendimento automatico, sei anni prima della rete neurale pionieristica del Perceptrone) fino all’arrivo dei big data, intorno al 2010, il tempo di raddoppio della quantità di computazione necessaria per addestrare un’AI è stato di quasi due anni (all’incirca in linea con la legge di Moore).

Detto altrimenti, se la tendenza degli anni 1952-2010 fosse continuata fino al 2021, la quantità di computazione sarebbe aumentata di un fattore minore di 75, invece che di una decina di miliardi di volte. Questa crescita è stata molto più rapida dei miglioramenti nel rapporto complessivo prezzo-prestazioni della computazione, perciò la causa non è stata una grande rivoluzione nell’hardware. Ne sono stati responsabili, invece, principalmente due fatti. Il primo è che i ricercatori dell’AI hanno introdotto nuovi metodi innovativi nella computazione parallela, così che numeri di chip sempre più grandi possono lavorare insieme allo stesso problema di apprendimento automatico. Il secondo è che, quando i big data hanno reso più utile l’apprendimento profondo, gli investitori di tutto il mondo hanno riversato quantità sempre maggiori di denaro in questo campo, nella speranza di raggiungere qualche punto di svolta.

Torna all’inizio.

4. Perché si chiama singolarità

Non so esattamente quando mi sono reso conto per la prima volta della Singolarità. Direi che è stato una sorta di risveglio progressivo. Nel mezzo secolo circa in cui sono stato immerso nelle tecnologie dell’informatica e dei settori collegati, ho cercato di capire il significato e il fine di quel continuo ampliamento di cui sono stato testimone a molti livelli. Gradualmente sono diventato consapevole di un evento di profonda trasformazione che ci aspetta nella prima metà del Ventunesimo secolo. Come un buco nero nello spazio altera drasticamente le configurazioni di materia ed energia che accelerano verso il suo orizzonte degli eventi, questa Singolarità che incombe nel nostro futuro sta trasformando sempre più ogni istituzione e ogni aspetto della vita umana, dalla sessualità alla spiritualità.

Che cos’è, dunque, la Singolarità? È un periodo futuro in cui il ritmo del cambiamento tecnologico sarà così rapido e il suo impatto così profondo, che la vita umana ne sarà trasformata in modo irreversibile. Né utopica né distopica, quest’epoca trasformerà i concetti su cui ci basiamo per dare un significato alle nostre vite, dai nostri modelli di business al ciclo della vita umana, inclusa la stessa morte. Una comprensione della Singolarità modificherà la nostra prospettiva sul significato del nostro passato e le ramificazioni per il nostro futuro. Se la si intende a pieno, la visione che ciascuno ha della vita in generale, e della propria in particolare, non può che cambiare. Chi capisce la Singolarità e ha riflettuto sulle sue conseguenze per la propria vita è un singolaritariano.

Posso capire perché molti non condividano facilmente le ovvie conseguenze di quella che ho chiamato la legge dei ritorni accelerati (l’inevitabile accelerazione del ritmo dell’evoluzione, con l’evoluzione tecnologica come continuazione di quella biologica). In fin dei conti, mi ci sono voluti quarant’anni per riuscire a vedere quello che mi stava proprio davanti agli occhi, e non posso dire ancora di sentirmi del tutto a mio agio con tutte le sue conseguenze.

L’idea chiave alla base della Singolarità incombente è che il ritmo di trasformazione della tecnologia creata dagli uomini sta accelerando e che la sua potenza cresce a velocità esponenziale. La crescita esponenziale inganna. All’inizio è quasi impercettibile, poi esplode con furia inattesa… se non ci si dà cura di seguirne la traiettoria.

Garry Kasparov nel 1992 si faceva beffe dello stato patetico dei programmi per giocare a scacchi; ma il costante raddoppio della potenza di calcolo ogni anno ha fatto sì che passassero solo cinque anni prima che un computer riuscisse a batterlo. L’elenco dei modi in cui oggi i computer possono superare le capacità umane cresce rapidamente. Inoltre, le applicazioni dell’intelligenza automatica, un tempo ristrette, si stanno estendendo gradualmente da un tipo di attività all’altra. Per esempio, i computer interpretano elettrocardiogrammi e immagini mediche, fanno volare e atterrare aerei, controllano le decisioni tattiche di armi automatiche, prendono decisioni in materia di credito e finanza e hanno la responsabilità di molte altre attività che una volta richiedevano l’intelligenza umana. Le prestazioni di questi sistemi si basano sempre più sull’integrazione di vari tipi di intelligenza artificiale (AI). Finché ci sarà qualche fallimento dell’AI in qualcuna di queste aree, gli scettici indicheranno quel campo come una roccaforte inespugnabile della permanente superiorità umana rispetto alle capacità delle nostre stesse creazioni.

Il cervello non è perfetto

Per quanto impressionante sotto molti aspetti, il cervello ha alcune limitazioni gravi. Usiamo il suo parallelismo massiccio (centomila miliardi di connessioni interneuronali che sono in funzione simultaneamente) per riconoscere configurazioni molto particolari. Ma il nostro pensiero è estremamente lento: le transazioni neuronali fondamentali sono di parecchi milioni di volte più lente degli attuali circuiti elettronici, perciò la nostra ampiezza di banda fisiologica per l’elaborazione di nuove informazioni è estremamente limitata, paragonata alla crescita esponenziale della base di conoscenza umana in generale.

I nostri organismi biologici (versione 1.0) sono altrettanto fragili e soggetti a una miriade di modalità di guasto, per non parlare dei complicati rituali di manutenzione di cui hanno bisogno. L’intelligenza umana qualche volta è in grado di sollevarsi ad altezze vertiginose con la sua creatività ed espressività, ma in gran parte il pensiero umano è derivato, di piccolo cabotaggio e circoscritto.

La Singolarità ci permetterà di superare queste limitazioni dei nostri corpi e cervelli biologici. Acquisiremo potere sul nostro stesso destino. La nostra mortalità sarà nelle nostre mani. Saremo in grado di vivere quanto vorremo (una cosa un po’ diversa dal dire che vivremo per sempre). Capiremo a fondo il pensiero umano e ne estenderemo ed espanderemo enormemente il dominio.

Alla fine di questo secolo, la parte non-biologica della nostra intelligenza sarà miliardi di miliardi di volte più potente dell’intelligenza umana priva di ausili.

Siamo nelle prime fasi di questa transizione. L’accelerazione della deriva paradigmatica (la velocità a cui modifichiamo i nostri approcci tecnici fondamentali) così come la crescita esponenziale delle capacità della tecnologia dell’informazione stanno entrambe avvicinandosi al gomito della curva, la fase in cui la tendenza esponenziale diventa apprezzabile. Subito dopo questa fase, la tendenza diventa rapidamente esplosiva. Prima della metà del secolo, la pendenza della curva di crescita della nostra tecnologia (che non sarà più separabile da noi stessi) sarà così elevata da sembrare sostanzialmente verticale. Da un punto di vista strettamente matematico, i tassi di crescita saranno ancora finiti, ma così elevati che i cambiamenti che ne deriveranno sembreranno strappare il tessuto della storia umana. Questa, almeno, sarà la prospettiva dell’umanità biologica priva di ausili.

La Singolarità rappresenterà il culmine della fusione fra il nostro pensiero e la nostra esistenza biologica con la nostra tecnologia, che darà un mondo ancora umano ma che trascenderà le nostre radici biologiche. Dopo la Singolarità non ci sarà distinzione fra umano e macchina o fra realtà fisica e virtuale. Se vi chiedete che cosa resterà senza alcun dubbio umano in un mondo simile, sarà semplicemente questa qualità: la nostra è la specie che di per sé cerca di estendere il suo ambito d’azione fisico e mentale al di là delle limitazioni attuali.

Molti si fermano su quella che sentono come una perdita di qualche aspetto vitale della nostra umanità, come conseguenza di questa transizione. Questa prospettiva deriva però da un’incomprensione di quello che la nostra tecnologia diventerà. Tutte le macchine che abbiamo visto finora non hanno l’essenziale sottigliezza delle qualità biologiche umane.

La Singolarità ha molte facce, ma la sua conseguenza più importante è questa: la nostra tecnologia raggiungerà e poi supererà enormemente la finezza e la duttilità di quelli che consideriamo i migliori fra i tratti umani.

Torna all’inizio.

5. Chi è Raymond Kurzweil

A cinque anni, ho avuto l’idea che sarei diventato un inventore. Pensavo che le invenzioni potessero cambiare il mondo. Quando altri bambini cominciavano appena a chiedersi che cosa fare da grandi, io pensavo già di sapere che cosa sarei diventato. Il razzo per la Luna che stavo costruendo allora (quasi un decennio prima della sfida del presidente Kennedy alla nazione americana) non funzionò, ma intorno agli otto anni le mie invenzioni diventarono un po’ più realistiche: un teatrino robotico con collegamenti meccanici che potevano spostare scene e personaggi, mostrandoli o nascondendoli, e giochi di baseball virtuale.

I miei genitori, entrambi artisti, erano sfuggiti all’Olocausto e volevano per me un’educazione religiosa più laica, meno provinciale. La mia educazione spirituale, così, avvenne in una chiesa Unitariana. Passavamo sei mesi a studiare una religione (ne seguivamo le cerimonie, ne leggevamo i testi, discutevamo con i suoi capi) poi passavamo alla successiva. Il tema era: ci sono molti sentieri per la verità. Ovviamente notai molti parallelismi fra le tradizioni religiose del mondo, ma anche le incongruenze erano illuminanti. Mi divenne chiaro che le verità fondamentali erano abbastanza profonde da trascendere le contraddizioni evidenti.

A otto anni, scoprii la collana di libri di Tom Swift Jr. La trama di tutti i trentanove volumi (solo nove erano stati pubblicati quando cominciai a leggerli nel 1956) era sempre la stessa: Tom si cacciava in un guaio terribile, in cui il suo destino e quello dei suoi amici, spesso anche del resto della razza umana, erano in gioco. Tom si ritirava nel suo laboratorio in cantina e pensava come risolvere il problema. Questo era l’elemento di tensione drammatica in tutti i libri della serie: quale idea geniale avrebbero escogitato Tom e i suoi amici per salvare il mondo? La morale di quei racconti era semplice: l’idea giusta aveva la forza di superare una sfida apparentemente insormontabile.

Ancora oggi, sono convinto di questa filosofia di base: qualunque sia la difficoltà che abbiamo di fronte – problemi di lavoro, questioni di salute, difficoltà relazionali, come tutte le grandi sfide scientifiche, sociali e culturali del nostro tempo – c’è un’idea che ci può permettere di averla vinta. Inoltre, possiamo trovare quell’idea. E, quando la troviamo, dobbiamo realizzarla. La mia vita è stata guidata da questo imperativo. La forza di un’idea… anche questa è in sé un’idea.

L’arrivo del computer

Più o meno nello stesso arco di tempo in cui leggevo i libri di Tom Swift Jr., ricordo che mio nonno (anche lui era fuggito dall’Europa con mia madre) tornò per la prima volta in Europa e ne riportò due ricordi fondamentali. Da un lato, la gentilezza con cui era stato trattato da austriaci e tedeschi, gli stessi popoli che l’avevano costretto alla fuga nel 1938; dall’altro, l’occasione rara che aveva avuto, di toccare con le proprie mani alcuni manoscritti originali di Leonardo da Vinci. Entrambi i ricordi mi hanno influenzato, ma è il secondo quello su cui sono tornato molte volte. Descriveva quell’esperienza con riverenza, come se avesse toccato l’opera di Dio stesso. Questa, dunque, è la religione in cui sono cresciuto: venerazione per la creatività umana e il potere delle idee.

Nel 1960, a dodici anni, scoprii il computer e fui affascinato dalla possibilità di modellizzare e ricreare il mondo. Giravo per i negozi di elettronica di Canal Street a Manhattan (ci sono ancora!) e raccoglievo componenti per costruire i miei dispositivi di calcolo. Durante gli anni Sessanta, ero assorbito nei movimenti musicali, culturali e politici del tempo tanto quanto i miei coetanei, ma mi impegnai allo stesso modo in una tendenza molto più oscura: la notevole sequela di macchine che la IBM mise sul mercato in quel decennio, dalle grandi della serie 7000 (7070, 7074, 7090, 7094) alla piccola 1620, di fatto il primo minicomputer. Quelle macchine furono presentate al ritmo di una all’anno, e ognuna era meno costosa e più potente della precedente, un fenomeno che oggi conosciamo bene. Ho avuto la possibilità di mettere le mani su un IBM 1620 e ho cominciato a scrivere programmi per l’analisi statistica e poi per la composizione musicale.

Ricordo ancora quando, nel 1968, mi fu consentito entrare nel locale sicuro e cavernoso che ospitava quello che allora era il computer più potente nel New England, un IBM 360 Model 91, top della gamma, con una memoria a nuclei di ben un milione di byte (un megabyte), l’impressionante velocità di un milione di istruzioni al secondo (un MIPS), il cui affitto costava solo mille dollari all’ora. Avevo sviluppato un programma che metteva in corrispondenza gli studenti della scuola superiore con i college più adatti, e rimasi affascinato a guardare le lampadine del pannello frontale che danzavano seguendo uno schema caratteristico mentre la macchina elaborava la domanda di iscrizione di ciascuno studente. Conoscevo benissimo ogni singola riga di codice, ma sembrava che il computer fosse perso nei suoi pensieri quando le luci si abbassavano per vari secondi mentre percorreva ogni singolo ciclo. In effetti, poteva fare in dieci secondi e senza errori quello che noi riuscivamo a fare manualmente in dieci ore, e con molta meno precisione.

Invenzioni con un senso

Come inventore, negli anni Settanta, mi resi conto che le mie invenzioni dovevano avere un senso in termini di tecnologie abilitanti e forze di mercato esistenti al momento della loro introduzione, poiché in quel momento il mondo sarebbe stato molto diverso da quello in cui erano state concepite.

Cominciai a costruire modelli del modo in cui si sviluppavano tecnologie diverse (elettronica, comunicazioni, processori per computer, memorie, memorie magnetiche e altro ancora) e del modo in cui i cambiamenti si diffondevano attraverso i mercati e infine nelle nostre istituzioni sociali. Mi resi conto che la maggior parte delle invenzioni non ha successo non perché i reparti di Ricerca e Sviluppo non sappiamo farle funzionare, ma perché il momento non è quello giusto. Inventare è un po’ come fare surf: bisogna vedere l’onda in anticipo e catturarla al momento giusto.

Il mio interesse per le tendenze della tecnologia e le loro conseguenze ha cominciato a vivere di vita propria negli anni Ottanta, e ho iniziato a usare i miei modelli per prevedere e anticipare tecnologie future, innovazioni che avrebbero fatto la loro comparsa nel 2000, 2010, 2020 e oltre. Questo mi ha permesso di inventare con le capacità del futuro, pensando e progettando invenzioni che usassero quelle capacità future. Nella seconda metà degli anni Ottanta ho scritto il mio primo libro, The Age of Intelligent Machines, in cui facevo ampie previsioni (ragionevolmente precise) per gli anni Novanta e per il primo decennio del Duemila, e lo concludevo con lo spettro di un’intelligenza delle macchine che diventava praticamente indistinguibile da quella dei suoi progenitori umani nella prima metà del Ventunesimo secolo. Mi sembrava una conclusione adatta, e in ogni caso trovavo personalmente difficile guardare al di là di un esito così saturo di cambiamento.

Ritorni accelerati

Nel corso degli anni Novanta, ho raccolto dati empirici sull’evidente accelerazione di tutte le tecnologie relative all’informazione e ho cercato di perfezionare i modelli matematici che sottostanno a queste osservazioni. Ho sviluppato una teoria, che chiamo legge dei ritorni accelerati, che spiega perché la tecnologia e i processi evolutivi in generale progrediscano in modo esponenziale. In The Age of Spiritual Machines (da qui in poi ASM, per brevità), che ho scritto nel 1998, cercavo di immaginare come sarebbe stata la vita umana al di là del punto in cui le capacità cognitive delle macchine e degli esseri umani si confondevano. In effetti, ho visto questa epoca come una collaborazione sempre più stretta fra la nostra eredità biologica e un futuro che trascende la biologia.

Da quando è stato pubblicato ASM, ho cominciato a riflettere sul futuro della nostra civiltà e sulla sua relazione con il nostro posto nell’universo. Può sembrare difficile immaginare le capacità di una civiltà futura la cui intelligenza supera di gran lunga la nostra, ma la nostra capacità di creare nella nostra mente modelli della realtà ci permette di formulare idee significative delle conseguenze di questa fusione imminente fra il nostro pensiero biologico e l’intelligenza non-biologica che stiamo creando. Questa è la storia che voglio raccontare. Si basa sull’idea che abbiamo la capacità di capire la nostra intelligenza – di accedere al nostro stesso codice sorgente, se vogliamo – e quindi di sottoporla a una revisione e di espanderla.

Qualcuno dubita della nostra capacità di applicare il nostro pensiero alla comprensione del nostro stesso pensiero. Douglas Hofstadter osserva che potrebbe essere semplicemente un caso del destino che i nostri cervelli siano troppo deboli per capire se stessi. Pensiamo all’umile giraffa, per esempio, il cui cervello è ovviamente molto al di sotto del livello necessario per l’autocomprensione, e tuttavia è notevolmente simile al nostro. Però siamo già riusciti a costruire modelli di parti del nostro cervello, neuroni e ampie regioni neurali, e la complessità di questi modelli cresce rapidamente. Il progresso nel retroingegnerizzare il cervello umano, tema chiave, dimostra che in effetti abbiamo la capacità di capire, di modellizzare e di estendere la nostra stessa intelligenza. Questo è uno degli aspetti per cui la nostra specie è unica: la nostra intelligenza è giusto di quel tanto al di sopra della soglia critica necessaria per poter accrescere la nostra stessa abilità fino ad attingere altezze illimitate di potenza creativa – e abbiamo anche quelle appendici opponibili (i nostri pollici) indispensabili per manipolare l’universo secondo la nostra volontà.

La storia del nostro destino

Una parola sulla magia: quando leggevo i libri di Tom Swift Jr. ero anche appassionato di magia. Mi piaceva molto divertire il mio pubblico facendogli sperimentare trasformazioni della realtà evidentemente impossibili. Nell’adolescenza, ho sostituito la mia magia da salotto con progetti tecnologici. Ho scoperto che, a differenza dei puri trucchi, la tecnologia non perde potere quando i suoi segreti vengono rivelati. Mi viene spesso in mente la terza legge di Arthur C. Clarke:

qualsiasi tecnologia abbastanza avanzata è indistinguibile dalla magia.

Pensiamo da questa prospettiva ai romanzi di Harry Potter scritti da J. K. Rowlings. Saranno racconti di fantasia, ma non sono visioni irragionevoli del nostro mondo come sarà solo fra qualche decennio. Sostanzialmente tutta la magia di Harry Potter sarà realizzata dalle tecnologie che esploro in questo libro. Giocare a quidditch e trasformare persone e oggetti in altre forme sarà possibile negli ambienti di realtà virtuale immersivi così come nella realtà vera, grazie a nanodispositivi. Ho più dubbi sull’inversione del tempo (come si trova in Harry Potter e il prigioniero di Azkaban), anche se è stata avanzata qualche proposta seria per ottenere qualcosa di questo genere (senza incorrere nei paradossi della causalità), almeno per bit di informazione, che sostanzialmente sono ciò di cui siamo fatti.

Harry mette in moto la sua magia pronunciando gli incantesimi giusti. Ovviamente, scoprire e applicare questi incantesimi non è facile. Harry e i suoi compagni debbono conoscere con precisione la successione, le procedure e l’enfasi giuste. Ed è quello che succede anche a noi con la tecnologia. I nostri incantesimi sono le formule e gli algoritmi che stanno alla base della nostra magia moderna. Con la sequenza giusta, possiamo fare in modo che un computer legga ad alta voce un libro, capisca il parlato di un essere umano, preveda (e prevenga) un attacco di cuore, oppure predica il movimento di un fondo azionario. Se un incantesimo è sbagliato anche solo di poco, la magia ne è fortemente indebolita, oppure non funziona proprio del tutto.

A vent‘anni dalla pubblicazione de “La singolarità è vicina”, Ray Kurzweil torna ad anticiparci il futuro.

Si potrebbe muovere obiezione a questa metafora facendo notare che gli incantesimi di Hogwarths sono brevi e perciò non contengono molta informazione rispetto, poniamo, al codice di un software moderno, ma i metodi essenziali della tecnologia moderna in genere condividono la stessa concisione. I principi secondo cui funzionano programmi avanzati come quelli del riconoscimento vocale possono essere scritti in poche pagine di formule. Spesso si ottiene un passo avanti fondamentale semplicemente con una piccola modifica in un’unica formula.

La stessa osservazione vale per le invenzioni dell’evoluzione biologica: la differenza genetica fra scimpanzè ed esseri umani, per esempio, è di sole poche centinaia di migliaia di byte di informazione. Gli scimpanzè sono in grado di compiere qualche impresa intellettuale, ma quella minuscola differenza nei nostri geni è stata sufficiente perché la nostra specie riuscisse a creare la magia della tecnologia.

Muriel Rukeyser dice che l’universo è fatto di storie, non di atomi. Io mi dichiaro uno schematista o patternista, uno che considera gli schemi (i pattern) di informazione come la realtà fondamentale. Per esempio, le particelle che compongono il mio cervello e il mio corpo cambiano nell’arco di qualche settimana, ma c’è una continuità nelle configurazioni che queste particelle assumono. Una storia può essere considerata una configurazione di informazione dotata di senso, perciò possiamo interpretare l’aforisma di Muriel Rukeyser in questa prospettiva. Ciò che racconto dunque è la storia del destino della civiltà uomo-macchina, destino che abbiamo chiamato Singolarità.

Torna all’inizio.

Questo articolo richiama contenuti da La singolarità è più vicina e La singolarità è vicina.

Immagine di apertura originale di National Cancer Institute su Unsplash.