Che cosa accadrebbe se un giorno costruissimo macchine capaci di pensare meglio degli esseri umani? 

Non soltanto computer in grado di eseguire calcoli più velocemente, tradurre lingue o rispondere alle nostre domande, ma intelligenze capaci di superare le nostre capacità scientifiche, inventare tecnologie che non riusciamo ancora a immaginare e prendere decisioni che sfuggono alla nostra comprensione?

È una domanda che oggi, nell'epoca dell'intelligenza artificiale, appare sempre meno lontana. Eppure, molto prima che l'IA entrasse nella vita quotidiana, qualcuno aveva già provato a immaginare le conseguenze di una trasformazione tanto profonda.

Quel qualcuno era Vernor Vinge (1944-2024), matematico, informatico e scrittore statunitense di fantascienza. 

Il suo nome è legato soprattutto alla diffusione del concetto di singolarità tecnologica, un'idea destinata a influenzare profondamente il dibattito sul futuro dell'intelligenza artificiale e sul rapporto tra esseri umani e macchine. 

Nel 1993 Vinge pubblicò il saggio The Coming Technological Singularity: How to Survive in the Post-Human Era, nel quale affrontava una questione radicale: che cosa succede quando la tecnologia supera le capacità intellettuali dei suoi stessi creatori?

La sua riflessione non riguarda soltanto le macchine. Tocca un problema più antico, che accompagna l'umanità da sempre: che cosa accade quando gli strumenti che creiamo cominciano a trasformare profondamente il modo in cui viviamo, pensiamo e comprendiamo noi stessi?

La singolarità tecnologica: una svolta nella storia

Cerchiamo di comprendere il pensiero di Vinge partendo dal concetto di singolarità tecnologica.

In matematica e in fisica, una singolarità indica una condizione nella quale le regole o i modelli abitualmente utilizzati non sono più sufficienti a descrivere adeguatamente un fenomeno. 

Vinge riprende questa immagine per rappresentare un possibile momento di discontinuità nella storia dell'umanità.

La sua tesi è che la creazione di un'intelligenza superiore a quella umana potrebbe modificare la società in maniera così radicale da rendere estremamente difficile prevedere gli sviluppi successivi.

Immaginiamo di chiedere a una persona vissuta nel Medioevo di descrivere la società contemporanea. Potrebbe intuire alcuni aspetti della vita futura, ma difficilmente riuscirebbe a immaginare Internet, gli smartphone, i viaggi spaziali o la possibilità di comunicare istantaneamente con qualcuno che si trova dall'altra parte del pianeta.

La distanza tra le nostre conoscenze e quelle di un uomo medievale è enorme. Eppure, entrambi apparteniamo alla stessa specie e condividiamo capacità cognitive fondamentali.

Secondo Vinge, la distanza potrebbe diventare molto più grande quando a sviluppare nuove conoscenze non saranno più soltanto esseri umani, ma intelligenze artificiali capaci di superarci.

Il problema, allora, non sarebbe semplicemente la velocità con cui si sviluppa la tecnologia. Sarebbe la nostra crescente difficoltà a comprendere e prevedere ciò che quella tecnologia potrebbe produrre.

La singolarità, in questa prospettiva, è il momento in cui il futuro diventa radicalmente più difficile da immaginare partendo dalle nostre attuali capacità di comprensione.

Non si tratta necessariamente di un evento improvviso, concentrato in un solo giorno. 

Potrebbe essere il risultato di una serie di trasformazioni che si alimentano reciprocamente, fino a modificare profondamente il corso della civiltà.

Quando l'intelligenza artificiale supera quella umana

Il punto centrale della teoria di Vinge è la possibilità di realizzare un'intelligenza superiore a quella umana.

Oggi siamo abituati a confrontare le prestazioni delle macchine con le nostre. 

Un computer può eseguire calcoli in una frazione del tempo necessario a una persona; un sistema di intelligenza artificiale può analizzare enormi quantità di dati, riconoscere schemi complessi e generare testi, immagini e programmi informatici.

Ma queste capacità non equivalgono automaticamente a un'intelligenza generale superiore a quella umana. Un sistema può ottenere risultati straordinari in determinati compiti e mostrare, allo stesso tempo, limiti importanti nel ragionamento, nella comprensione del contesto o nell'affrontare situazioni nuove.

Vinge si spingeva oltre le capacità delle macchine allora esistenti e considerava diverse strade attraverso le quali si sarebbe potuta raggiungere un'intelligenza superiore alla nostra.

La prima era la creazione di computer dotati di un'intelligenza molto avanzata. 

La seconda riguardava la possibilità che grandi reti informatiche, attraverso l'interazione tra sistemi e persone, sviluppassero capacità complessive superiori a quelle dei singoli partecipanti. 

Una terza possibilità era rappresentata dall'integrazione sempre più stretta tra esseri umani e computer. 

Infine, Vinge considerava anche i progressi delle scienze biologiche, capaci in futuro di intervenire sulle capacità cognitive umane.

Queste ipotesi mostrano che il suo interesse non si limitava alla costruzione di robot autonomi.

Il cambiamento avrebbe potuto riguardare anche il nostro stesso organismo e il modo in cui utilizziamo le tecnologie per potenziare la memoria, la conoscenza e la capacità di prendere decisioni.

Pensiamo, per esempio, a un ricercatore che utilizza sistemi artificiali per analizzare milioni di pubblicazioni scientifiche, individuare relazioni che nessuno aveva notato e formulare nuove ipotesi. 

Se questi strumenti diventassero sempre più autonomi e capaci di migliorare i propri metodi, il rapporto tra intelligenza umana e artificiale potrebbe trasformarsi profondamente.

La domanda decisiva non sarebbe più soltanto quanto una macchina riesca a fare, ma quale ruolo rimarrebbe all'essere umano in un mondo nel quale le macchine potrebbero diventare più capaci di lui in un numero crescente di attività intellettuali.

leggi anche Ray Kurzweil e la Singolarità Tecnologica

Il problema dell'accelerazione tecnologica

Un altro elemento importante del pensiero di Vinge riguarda la velocità del progresso.

Le innovazioni tecnologiche non si presentano sempre come eventi isolati. Spesso una scoperta rende possibili altre scoperte, che a loro volta favoriscono nuovi sviluppi.

La diffusione dei computer, per esempio, ha permesso di progettare processori più sofisticati, simulare fenomeni complessi, automatizzare processi produttivi e sviluppare strumenti sempre più potenti per la ricerca scientifica.

L'intelligenza artificiale potrebbe inserirsi in questo processo come un fattore di accelerazione ulteriore.

Un sistema capace di assistere nella progettazione di nuovi software potrebbe contribuire a migliorare gli strumenti informatici utilizzati per sviluppare sistemi ancora più avanzati. 

Questi ultimi potrebbero aiutare gli scienziati a individuare nuovi materiali, migliorare alcuni processi industriali o analizzare problemi che richiedono una quantità enorme di calcoli.

Si potrebbe così creare un circuito di innovazione nel quale ogni progresso facilita il successivo.

È importante, tuttavia, non confondere questa possibilità con una legge inevitabile. 

Il progresso tecnologico non procede sempre alla stessa velocità e non ogni innovazione produce automaticamente un'altra innovazione più potente. 

Esistono limiti economici, energetici, scientifici e organizzativi. Inoltre, un sistema capace di migliorare alcuni aspetti del proprio funzionamento non è necessariamente in grado di reinventare autonomamente se stesso senza difficoltà.

Vinge individuava proprio nella possibile combinazione tra intelligenza superiore e accelerazione tecnologica una delle ragioni per cui la singolarità avrebbe potuto rappresentare una svolta storica.

Il problema non sarebbe stato soltanto vivere in una società più tecnologica, ma affrontare cambiamenti che si susseguono più velocemente della nostra capacità di comprenderli e governarli.

La fine dell'era umana?

Le formulazioni di Vinge possono apparire inquietanti. Nel suo saggio del 1993 sosteneva che la comparsa di un'intelligenza superiore a quella umana avrebbe potuto segnare la fine dell'era umana così come la conosciamo.

Questa affermazione, tuttavia, merita di essere interpretata con attenzione.

Non significa necessariamente che gli esseri umani debbano scomparire fisicamente. Il problema riguarda soprattutto la possibilità che perdano la posizione centrale che hanno occupato nella storia delle tecnologie e della conoscenza.

Per millenni, l'essere umano ha costruito strumenti per ampliare le proprie capacità. Ha inventato macchine per aumentare la forza fisica, sviluppato sistemi di scrittura per conservare informazioni e creato computer per eseguire operazioni complesse.

In tutti questi casi, la tecnologia ha esteso le possibilità umane.

Con un'intelligenza artificiale superiore alla nostra potrebbe verificarsi un cambiamento qualitativo: lo strumento non sarebbe più soltanto un mezzo attraverso il quale realizziamo i nostri obiettivi, ma potrebbe diventare un soggetto capace di individuare autonomamente problemi, formulare strategie e perseguire obiettivi complessi.

Questo scenario solleva interrogativi profondi.

Se una macchina fosse più competente di noi nel progettare sistemi economici, sviluppare farmaci o prendere decisioni tecniche, dovremmo affidarle una parte crescente delle nostre scelte? 

E, soprattutto, come potremmo verificare che le sue decisioni siano compatibili con i nostri valori?

Il problema non è puramente teorico. Anche sistemi che non possiedono un'intelligenza generale superiore a quella umana possono influenzare concretamente la vita delle persone quando vengono impiegati nella selezione del personale, nella gestione delle informazioni, nella finanza o nei servizi pubblici.

La riflessione di Vinge invita quindi a guardare oltre la semplice efficienza.

Una tecnologia può essere straordinariamente capace senza essere necessariamente orientata verso ciò che è bene per gli esseri umani.

Il progresso delle capacità tecniche, da solo, non garantisce il progresso morale della società.

leggi: Uomini e IA: fusione o sostituzione?

Il problema del controllo: possiamo governare ciò che creiamo?

Una delle questioni più delicate associate alla singolarità tecnologica è il controllo.

Siamo abituati a pensare che una tecnologia rimanga, in ultima analisi, uno strumento nelle nostre mani. 

La progettiamo, la costruiamo, decidiamo come utilizzarla e possiamo modificarla quando non funziona come vorremmo.

Ma che cosa accadrebbe se sviluppassimo un sistema capace di comprendere problemi complessi molto meglio dei suoi progettisti?

La difficoltà potrebbe diventare duplice. Da un lato, dovremmo assicurarci che il sistema persegua obiettivi compatibili con quelli umani. 

Dall'altro, dovremmo essere in grado di comprenderne le decisioni abbastanza da riconoscere eventuali errori o conseguenze indesiderate.

Un'intelligenza più potente non sarebbe automaticamente ostile. L'idea che una macchina debba necessariamente ribellarsi ai suoi creatori appartiene soprattutto a una parte dell'immaginario fantascientifico.

Il rischio più interessante, e forse più difficile da affrontare, è che un sistema persegua un obiettivo apparentemente ragionevole producendo conseguenze che nessuno aveva previsto.

Immaginiamo, per esempio, di affidare a un sistema il compito di ridurre drasticamente i costi di un servizio pubblico. 

Se il sistema fosse progettato male o disponesse di obiettivi incompleti, potrebbe privilegiare il risparmio economico a scapito della qualità del servizio o delle persone più vulnerabili.

Non servirebbe alcuna intenzione malvagia: basterebbe una definizione inadeguata del problema.

Nel suo saggio, Vinge affrontava anche la possibilità che la transizione verso una condizione postumana comportasse pericoli difficili da prevedere. 

Non offriva una garanzia di sicurezza, ma poneva una domanda essenziale: se non possiamo arrestare ogni forma di progresso, possiamo almeno orientarne lo sviluppo in modo da proteggere la nostra possibilità di sopravvivere e prosperare?

Oggi questa domanda richiama temi come la sicurezza dell'intelligenza artificiale, la responsabilità dei progettisti, la supervisione umana e la necessità di verificare i sistemi prima di impiegarli in contesti delicati.

Non sappiamo se si realizzerà lo scenario immaginato da Vinge. 

Sappiamo, però, che il rapporto tra capacità tecnologiche e possibilità di controllo merita un'attenzione proporzionata alle conseguenze potenziali.

La fantascienza come laboratorio del futuro

Vernor Vinge non era soltanto uno studioso delle trasformazioni tecnologiche. Era anche uno dei più importanti autori di fantascienza scientifica della sua generazione.

Questa doppia prospettiva è fondamentale per comprendere il suo pensiero.

La fantascienza gli permetteva di esplorare conseguenze che, nella realtà, sarebbe stato difficile osservare direttamente. Attraverso personaggi, civiltà e mondi immaginari, poteva mettere alla prova ipotesi sul rapporto tra intelligenza, tecnologia, società e potere.

Nel romanzo A Fire Upon the Deep del 1992, per esempio, Vinge immagina un universo nel quale le possibilità cognitive e tecnologiche dipendono dalla regione dello spazio in cui ci si trova. 

Nelle zone più profonde, l'intelligenza e la tecnologia sono fortemente limitate; in altre regioni possono emergere capacità straordinarie, fino a forme di intelligenza sovrumana.

Questa struttura narrativa gli consente di esplorare un'idea suggestiva: l'intelligenza non deve necessariamente essere concepita come una capacità uniforme e identica in ogni contesto. 

Le condizioni nelle quali una mente esiste possono influenzare ciò che essa è in grado di comprendere e realizzare.

La fantascienza diventa così uno strumento per interrogare i limiti delle nostre prospettive.

Non serve necessariamente a prevedere con precisione ciò che accadrà. Può aiutarci, piuttosto, a individuare problemi che rischieremmo di trascurare se considerassimo soltanto le tecnologie già disponibili.

In questo senso, il valore della narrativa di Vinge non consiste nell'aver anticipato ogni dettaglio del presente, ma nell'aver mostrato quanto possano cambiare le nostre categorie di pensiero quando cambiano le condizioni materiali e cognitive della vita.

Vinge aveva ragione? Il problema delle previsioni

Nel saggio del 1993, Vinge ipotizzava che un'intelligenza superiore a quella umana potesse emergere entro circa trent'anni. La sua previsione temporale, dunque, indicava una finestra che arrivava intorno al 2023.

È legittimo domandarsi se gli sviluppi successivi abbiano confermato la sua teoria.

Da una parte, i progressi dell'intelligenza artificiale sono stati notevoli. I sistemi contemporanei possono produrre testi articolati, scrivere codice, analizzare immagini, assistere nella ricerca e affrontare problemi complessi. 

Queste capacità hanno reso molto più concreto il dibattito sul ruolo che le macchine potrebbero assumere nella società.

Dall'altra parte, non possiamo concludere che la singolarità tecnologica si sia già verificata.

L'esistenza di sistemi capaci di superare gli esseri umani in compiti specifici non dimostra che sia stata raggiunta un'intelligenza generale superiore alla nostra in ogni ambito, né che sia iniziata una crescita incontrollabile delle capacità tecnologiche.

Inoltre, non esiste una definizione universalmente accettata di singolarità che permetta di stabilire con certezza quando essa si sia verificata.

Per questo è opportuno distinguere tre aspetti: la crescita delle prestazioni dell'intelligenza artificiale, l'eventuale comparsa di un'intelligenza generale superiore a quella umana e la trasformazione radicale della civiltà ipotizzata da Vinge.

Sono fenomeni collegati, ma non equivalenti.

La sua previsione temporale non si è tradotta in una dimostrazione dell'avvenuta singolarità. 

Questo non rende irrilevante la sua riflessione: significa, piuttosto, che una previsione può essere importante per le domande che solleva anche quando la sua scadenza non produce l'evento annunciato.

Il merito di Vinge consiste soprattutto nell'aver individuato con largo anticipo una possibilità che oggi richiede una discussione pubblica più consapevole.

La lezione filosofica: il progresso non coincide con la saggezza

Le idee di Vernor Vinge conducono a una domanda che supera i confini dell'informatica: essere più intelligenti significa necessariamente essere più saggi?

La distinzione è fondamentale.

L'intelligenza permette di elaborare informazioni, individuare relazioni, risolvere problemi e costruire strategie. 

La saggezza riguarda anche la capacità di valutare gli scopi, riconoscere i limiti, comprendere le conseguenze delle proprie azioni e considerare il valore degli altri.

Una macchina potrebbe diventare straordinariamente competente nel risolvere problemi scientifici senza che questo ci dica, da solo, quali obiettivi dovrebbe perseguire.

Anche l'essere umano, del resto, dimostra che una maggiore conoscenza non produce automaticamente una maggiore responsabilità. 

La storia ci ha consegnato scoperte capaci di migliorare la salute e le condizioni di vita, ma anche tecnologie utilizzate per distruggere, sorvegliare e dominare.

Il problema, quindi, non consiste soltanto nel costruire sistemi più intelligenti. Consiste nel decidere come integrarli in una società che desideri restare libera, giusta e rispettosa della dignità umana.

In questo senso, la singolarità tecnologica può essere letta anche come una prova per la nostra maturità collettiva.

Riusciremo a sviluppare strumenti potenti senza rinunciare alla responsabilità delle nostre scelte? 

Sapremo distribuire i benefici dell'innovazione senza concentrare eccessivamente il potere nelle mani di pochi? 

Saremo capaci di riconoscere che non tutto ciò che possiamo realizzare tecnicamente è necessariamente opportuno realizzarlo?

Sono interrogativi che non possono essere risolti soltanto dagli ingegneri o dagli informatici. Richiedono il contributo della filosofia, del diritto, dell'economia, delle scienze sociali e di tutti coloro che partecipano alla costruzione della società.

La tecnologia modifica le condizioni della nostra esistenza, ma siamo ancora chiamati a discutere i fini verso cui vogliamo orientarla.

Conclusione: il futuro non è soltanto una questione di macchine

Vernor Vinge ci ha lasciato una riflessione che continua a interrogare il nostro presente: che cosa succede quando le creature superano i propri creatori?

La singolarità tecnologica rimane uno scenario ipotetico, non un destino inevitabile. Non sappiamo se e quando emergerà un'intelligenza artificiale generale capace di superare quella umana in modo ampio e stabile. 

Non sappiamo neppure se una simile trasformazione produrrebbe necessariamente una rottura irreversibile nella storia della civiltà.

Possiamo però riconoscere che l'intelligenza artificiale sta già modificando il modo in cui lavoriamo, apprendiamo, comunichiamo e produciamo conoscenza.

La questione fondamentale non è soltanto quanto saranno potenti le macchine del futuro, ma quale rapporto sapremo costruire con esse.

Forse la sfida più grande non sarà riuscire a creare un'intelligenza superiore alla nostra, ma evitare che la crescita delle nostre capacità tecniche proceda senza un'adeguata riflessione sulle responsabilità che comporta.

In fondo, la domanda lasciata aperta da Vinge riguarda anche noi: saremo abbastanza saggi da governare un progresso che potrebbe diventare più grande della nostra capacità di prevederne le conseguenze?

La risposta non dipenderà soltanto dalle macchine che riusciremo a costruire. 

Dipenderà anche dai valori, dalle istituzioni e dalle scelte con cui decideremo di accompagnarne lo sviluppo.

Continua a leggere articoli sul tema

oppure 

Consulta l'atlante della tecnologia e IA

Fonti e approfondimenti

• Testo integrale del saggio: The Coming Technological Singularity – testo integrale

• Scheda e documento originale nel repertorio della NASA: NASA Technical Reports Server – The Coming Technological Singularity

• Presentazione della serie Zones of Thought: Macmillan – Zones of Thought

• IEEE Spectrum – Vernor Vinge

• The Encyclopedia of Science Fiction – Vernor Vinge

• The Guardian – Vernor Vinge obituary