Apocalisse dell’intelligenza artificiale? Perché il linguaggio che circonda la tecnologia suona sempre più religioso

Di Krysta Fauria, dall’Associated Press

TORONTO — A 77 anni, Geoffrey Hinton ha una nuova vocazione nella vita. Come un profeta moderno, il premio Nobel sta lanciando l’allarme sui pericoli di un’intelligenza artificiale incontrollata e non regolamentata.

Spesso soprannominato il “Padrino dell’IA”, Hinton è noto per il suo lavoro pionieristico sul deep learning e sulle reti neurali, che ha contribuito a gettare le basi per la tecnologia di IA spesso utilizzata oggi. Sentendosi “in un certo senso responsabile”, ha iniziato a parlare pubblicamente delle sue preoccupazioni nel 2023, dopo aver lasciato il suo impiego in Google, dove ha lavorato per oltre un decennio.

Con l’avanzare della tecnologia – e degli investimenti – che alimenta l’IA negli ultimi anni, sono aumentati anche i suoi interessi.

“È davvero divina”, ha detto Hinton.

Hinton è tra un numero crescente di importanti figure tecnologiche che parlano di IA usando un linguaggio un tempo riservato al divino. Il CEO di OpenAI, Sam Altman, ha definito la tecnologia della sua azienda “un’intelligenza magica nel cielo”, mentre Peter Thiel, co-fondatore di PayPal e Palantir, ha addirittura sostenuto che l’IA potrebbe contribuire a far comparire l’Anticristo.

L’IA porterà condanna o salvezza?

Molti scettici dubitano che la tecnologia meriti questo tipo di timore, tra cui Dylan Baker, ex dipendente di Google e ingegnere capo della ricerca presso il Distributed AI Research Institute, che studia gli impatti dannosi dell’IA.

“Penso che spesso agiscano sulla base di un pensiero magico e fantastico, influenzato da molta fantascienza che presumibilmente hanno acquisito durante gli anni della formazione”, ha detto Baker. “Sono davvero distaccati dalla realtà”.

Sebbene chatbot come ChatGPT siano entrati nell’immaginario collettivo solo di recente, alcuni circoli della Silicon Valley profetizzano il potere dell’IA da decenni.

“Stiamo cercando di svegliare le persone”, ha detto Hinton. “Per far sì che l’opinione pubblica comprenda i rischi, in modo che faccia pressione sui politici affinché intervengano”.

Mentre ricercatori come Hinton mettono in guardia dalla minaccia esistenziale che, a loro avviso, l’IA rappresenta per l’umanità, ci sono CEO e teorici dall’altra parte dello spettro che sostengono che ci stiamo avvicinando a una sorta di apocalisse tecnologica che inaugurerà una nuova era dell’evoluzione umana.

In un saggio pubblicato lo scorso anno intitolato “Macchine di Grazia Amorevole: Come l’IA Potrebbe Trasformare il Mondo in Meglio”, Dario Amodei, CEO di Anthropic, espone la sua visione per un futuro “se tutto andrà per il verso giusto con l’IA”.

L’imprenditore dell’IA prevede “la sconfitta della maggior parte delle malattie, la crescita della libertà biologica e cognitiva, l’uscita di miliardi di persone dalla povertà per condividere le nuove tecnologie, una rinascita della democrazia liberale e dei diritti umani”.

Mentre Amodei opta per l’espressione “IA potente”, altri usano termini come “singolarità” o “intelligenza artificiale generale (AGI)”. Sebbene i sostenitori di questi concetti non siano spesso d’accordo su come definirli, si riferiscono in senso lato a un ipotetico punto futuro in cui l’intelligenza artificiale supererà quella umana, innescando potenzialmente cambiamenti rapidi e irreversibili nella società.

L’informatico e scrittore Ray Kurzweil prevede fin dagli anni ’90 che un giorno gli esseri umani si fonderanno con la tecnologia, un concetto spesso chiamato transumanesimo.

“Non sapremo mai distinguere cosa proviene dal nostro cervello da cosa proviene dall’IA. Sarà tutto radicato dentro di noi. E ci renderà più intelligenti”, ha affermato Kurzweil.

Nel suo ultimo libro, “The Singularity Is Nearer: When We Merge with AI”, Kurzweil ribadisce le sue previsioni precedenti. Crede che entro il 2045 avremo “moltiplicato la nostra intelligenza di un milione di volte”.

“Sì”, ha infine ammesso quando gli è stato chiesto se considerasse l’IA la sua religione. Influenza il suo senso di scopo.

“I miei pensieri sul futuro e sul futuro della tecnologia, e sulla sua rapidità, influenzano sicuramente il mio atteggiamento nei confronti della mia presenza, di ciò che sto facendo e di come posso influenzare le altre persone”, ha affermato.

Visioni apocalittiche emergono

Nonostante l’esplicito riferimento di Thiel al linguaggio del Libro dell’Apocalisse, le visioni positive di un futuro basato sull’intelligenza artificiale sono più “apocalittiche” nel senso storico del termine.

“Nel mondo antico, apocalittico non è negativo”, spiega Domenico Agostini, professore presso l’Università di Napoli L’Orientale e studioso della letteratura apocalittica antica. “Abbiamo completamente cambiato la semantica di questa parola”.

Il termine “apocalisse” deriva dal greco “apokalypsis”, che significa “rivelazione”. Sebbene oggi siano spesso associate alla fine del mondo, le apocalissi nell’antico pensiero ebraico e cristiano erano una fonte di incoraggiamento in tempi di difficoltà o persecuzione.

“Dio promette un mondo nuovo”, ha affermato il professor Robert Geraci, che studia religione e tecnologia al Knox College. “Per abitare quel mondo nuovo, è necessario avere un corpo nuovo e glorioso che trionfi sul male che tutti sperimentiamo”.

Geraci si accorse per la prima volta dell’uso di un linguaggio apocalittico per descrivere il potenziale dell’intelligenza artificiale all’inizio degli anni 2000. Kurzweil e altri teorici lo ispirarono a scrivere il suo libro del 2010, “Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality”.

Il linguaggio gli ricordava il cristianesimo primitivo. “Solo che faremo scivolare fuori Dio e ci faremo scivolare dentro… la tua scelta di leggi della scienza cosmica che presumibilmente fanno questo e poi avremo lo stesso tipo di futuro glorioso a venire”, ha detto.

Geraci sostiene che questo tipo di linguaggio non è cambiato molto da quando ha iniziato a studiarlo. Ciò che lo sorprende è quanto sia diventato pervasivo.

“Ciò che una volta era molto strano ora è praticamente ovunque”, ha detto.

La Silicon Valley ha finalmente trovato il suo Dio?

Un fattore nel crescente culto dell’IA è la redditività.

“Vent’anni fa, quella fantasia, vera o no, non generava molti soldi”, ha detto Geraci. Ora, però, “c’è un incentivo finanziario nel dire a Sam Altman che l’IA è proprio dietro l’angolo”.

Ma Geraci, che sostiene che ChatGPT “non sia nemmeno lontanamente, vagamente, plausibilmente consapevole”, ritiene che ci possa essere qualcosa di più che guida questo fenomeno.

Storicamente, il mondo della tecnologia è notoriamente privo di religione. La sua reputazione laica lo aveva preceduto a tal punto che un episodio della serie comica satirica della HBO, “Silicon Valley”, ruota attorno alla “denuncia” di un collega come cristiano.

Piuttosto che considerare ironica la venerazione per l’IA da parte dello scettico mondo della tecnologia, Geraci ritiene che vi sia un legame causale.

“Noi esseri umani siamo profondamente, profondamente, intrinsecamente religiosi”, ha affermato, aggiungendo che le straordinarie tecnologie alla base dell’IA potrebbero attrarre le persone nella Silicon Valley che hanno già messo da parte “gli approcci ordinari alla trascendenza e al significato”.

Non esiste religione senza scettici

Non tutti i CEO della Silicon Valley si sono convertiti, anche se vogliono entrare a far parte della tecnologia.

“Quando le persone nel settore tecnologico parlano di costruire questa vera IA, è quasi come se pensassero di creare Dio o qualcosa del genere”, ha dichiarato Mark Zuckerberg, CEO di Meta, in un podcast l’anno scorso, mentre promuoveva l’iniziativa della sua azienda nel campo dell’IA.

Sebbene teorie transumaniste come quella di Kurzweil si siano diffuse sempre di più, non sono ancora onnipresenti nella Silicon Valley.

“Le argomentazioni scientifiche a favore di questa ipotesi non sono in alcun modo più solide di quelle a favore di una vita ultraterrena religiosa”, sostiene Max Tegmark, fisico e ricercatore di apprendimento automatico presso il Massachusetts Institute of Technology.

Come Hinton, Tegmark ha parlato apertamente dei potenziali rischi di un’intelligenza artificiale non regolamentata. Nel 2023, in qualità di presidente del Future of Life Institute, Tegmark ha contribuito a promuovere una lettera aperta che chiedeva ai più potenti laboratori di intelligenza artificiale di “sospendere immediatamente” l’addestramento dei loro sistemi.

La lettera ha raccolto oltre 33.000 firme, tra cui quelle di Elon Musk e del co-fondatore di Apple Steve Wozniak. Tegmark ritiene che la lettera abbia avuto successo perché ha contribuito a “rendere mainstream il dibattito” sulla sicurezza dell’intelligenza artificiale, ma ritiene che il suo lavoro sia tutt’altro che concluso.

Con normative e garanzie, Tegmark ritiene che l’IA possa essere utilizzata come strumento per fare cose come curare malattie e aumentare la produttività umana. Ma è fondamentale, sostiene, tenersi alla larga dalla corsa “piuttosto marginale” che alcune aziende stanno conducendo – “la ricerca pseudoreligiosa per cercare di costruire un Dio alternativo”.

“Ci sono molte storie, sia nei testi religiosi che, ad esempio, nell’antica mitologia greca, su come quando noi umani iniziamo a giocare a fare gli dei, finisca male”, ha detto. “E ho la sensazione che ci sia molta arroganza a San Francisco in questo momento”.

[Fonte: Associated Press (nostra traduzione); Foto: Informazione Cattolica]