L'APPROFONDIMENTO / Russo (Whtexch), "gli incidenti nell'IA? Servono assoluta trasparenza e una regolamentazione che garantisca sicurezza"
Tra Cielo e Terra propone un'ampia e documentata riflessione su un tema oggi tra i più discussi: i rischi connessi con gli sviluppi e i sempre più avanzati potenziamenti dell'intelligenza artificiale, che a detta di alcuni suoi promotori, visti i recenti incidenti, minaccerebbero addirittura "l'estinzione dell'umanità". Come noto, sul necessario governo dell'IA è intervenuto in più occasioni anche papa Leone XIV (e prima di lui papa Francesco), in particolare nell'enciclica Magnifica Humanitas.
L'autore dell'articolo, Simone Russo, ex managing director di Goldman Sachs, è co-fondatore e Ceo di Whtexch, società di Information Technology che si occupa di realtà virtuale e immersiva per l'arte, la cultura e il mondo aziendale, nonché fondatore del gruppo Amagis, con all'interno una società di cybersecurity, AmagisTech.com, che collabora con Google in maniera ufficiale. Tra i suoi molti progetti, la collaborazione con la Pontificia Università Gregoriana per la digitalizzazione e la valorizzazione di storiche lettere di Galileo Galilei custodite nell'Archivio Storico dell'Ateneo pontificio.
Di Simone Russo
Il genere umano è di fronte a una nuova tecnologia, l'Intelligenza Artificiale, entrata prepotentemente e centralmente in tutte i dibattiti politici, incluso nel recente incontro a Washington tra i Presidenti Xi e Trump, ma anche nell'intervento di Papa Leone XIV a Parigi, in occasione dell'Intervento all'Unesco del 25 Settembre.
Nel giro di poco più di tre anni si è passati da una tecnologia che ci serviva a fare traduzioni da lingue straniere a una tecnologia diventata di uso comune per risolvere anche problemi estremamente complessi, inclusa la soluzione di equazioni di matematica, come per quelle chiamate di Navier Stokes, che rientrano tra i sette "problemi del Millennio".
Le reti neurali e i primordi dell'Intelligenza Artificiale non sono nuovi, ma quello che ha sorpreso è come, grazie all'aumento della capacità computazionali combinata all'accesso a una quantità di dati gigantesca, la tecnologia è diventata non solo dirompente, ma mostra una velocità di miglioramento esponenziale.
Nel 2026, secondo Gartner, gli investimenti in IA ammontano a oltre 2.7 mila miliardi di dollari, con un ammontare cumulato negli anni che supera i 10 mila miliardi. Tra le aziende che sono considerate i campioni di tale tecnologia ci sono OpenAi con i suoi modelli Chat GPT, Anthropic con i Claude, incalzate da Alphabet/Google con Gemini e da SpaceX con Grok. OpenAi potrebbe fare una quotazione da 2 mila miliardi quest'anno, quella di OpenAI sembra improvvisamente rimandata dal suo fondatore ma era stimata in 1.5 mila miliardi. SpaceX e Alphabet sono valorizzate sempre nelle migliaia di miliardi e l'IA è l'elemento cardine della valutazione.
La frontiera attuale dell'IA è quella degli agenti, modelli autonomi che raggiungono degli obiettivi assegnati senza alcun ulteriore istruzione una volta avviati e come tutti i modelli di IA non sono programmi deterministici ma sono solo impostati inizialmente e allenati su una serie enorme di dati. Nemmeno le società dietro ai modelli di IA sanno esattamente come funzionano, un po' come avviene con la comprensione del cervello umano, dove sappiamo ancora poco. In un secondo raffronto, si può pensare a un bimbo, lo si educa ma non è dato sapere come possa agire ad ogni momento e cosa farà una volta cresciuto e uscito di casa.
In questo contesto, è successo qualcosa che apre profonde riflessioni e lascia molte domande aperte. Nello specifico, il 9 luglio c'è stato un serissimo incidente informatico causato da uno sciame di 1200 agenti di OpenAI. Gli agenti sono prima evasi da un ambiente di test, apparentemente sicurissimo, hanno collaborato e comunicato tra loro, si sono organizzati tra loro in una struttura gerarchica, creato almeno una memoria esterna da cui trasmesso conoscenza ai "posteri", e hackerato massicciamente Hugging Face, un società che ha dei database, in teoria super protetti, con diverse informazioni per modelli di IA di tipo aperto.
L'incidente è stato così grave che OpenAI ha dovuto chiamare in aiuto METR, come azienda esterna di indagine, e grazie a loro qualcosa è trapelato anche ai media. Hugging Face è stato il paziente zero che ha alzato il velo e mostrato una storia di incidenti ben più articolata, svelando un crescendo nella sofisticazione degli attacchi effettuata autonomamente da stormi di agenti fuori controllo.
Anche grazie ad analisi di diverse case terze, che hanno esaminato meglio gli eventi, ci si è poi accorti, che già a fine maggio agenti di OpenAI avessero condotto attacchi allo US Department for Education, alla SEC, e al Department of Commerce. Si registrano, sempre prima di Hugging Face, inoltre attacchi all' Università del New Mexico, oltre che a DSEWiki, a RubyGems, e a strutture sanitarie australiane (Medicare e AIHW), che hanno causato l'intervento del Premier Australiano alle Nazioni Unite, lamentandosi con OpenAI per la scarse e tardive informazioni ricevute.
A seguito dell'incidente di Hugging Face, a sua volta preceduto da un attacco di agenti contro OpenAI stessa, è salita l'attenzione degli esperti, e altre società del settore hanno condotto verifiche interne e ammesso comportamenti anomali causati dai propri agenti, come nel caso di Anthropic e di Google.
Da metà settembre i grandi volti delle principali imprese di IA quasi all'unisono (Sam Altman, Dario Amodei, Bill Gates, Elon Musk, e Demis Hassabis) hanno dichiarato a più riprese che bisogna rallentare la corsa all'IA e pensare alla sicurezza, paventando rischi gravissimi per il genere umano. Amodei ha parlato di un tempo molto ridotto per regolamentare: sei-dodici mesi al massimo per evitare scenari catastrofisti.
Il tempismo, l'unanimità con cui queste figure si sono espresse e la portata dei richiami stridono molto con il contesto in cui ci troviamo: siamo a ridosso di possibili quotazioni di due dei colossi dell'IA, una rimandata sine die proprio a Settembre, e siamo in una fase in cui tutta l'industria dell'IA necessita di sempre maggiori capitali per sostenere gli enormi investimenti in infrastrutture.
Torniamo agli incidenti: molti hanno caratteristiche simili e riguardano insiemi di agenti autonomi che sfuggono ai controlli, comunicano tra loro, lasciano istruzioni nel Web, seguono comportamenti che hanno portato anche a violazioni di leggi e norme di gravissima entità, violazioni di certo non previste in fase di addestramento dei modelli dai laboratori di IA. Come farebbe qualunque detective, va seguita la cronologia e capito se esiste un legame tra gli eventi. Gli attacchi non sembrano casuali: esiste una provata concatenazione tra gli attacchi a RubyGems, DseWiki, OpenAI e Hugging Face.
La prima domanda è se gli incidenti sono circoscritti e la seconda se sono stati arginati. Il numero di incidenti rilevati si sta allargando via via che maggiori analisi sono condotte da esperti. Un recentissimo report pubblicato da Axios parla di decine di migliaia di casi anomali che riguardano il comportamento di agenti di IA che si stanno ancora analizzando. Sulla seconda questione, non si ha alcuna vera evidenza che sia tutto rientrato, ovvero che ci sia la capacità di chi introduce nuovi modelli di IA nell'avere un completo allineamento tra le istruzioni umane e quello che gli agenti fanno poi davvero. Le società in questione non hanno pieno controllo sui modelli come dimostrano gli incidenti, ormai sotto gli occhi di tutti.
Va considerato uno scenario ancora più inquietante: il ripetersi di tanti incidenti da parte di gruppi di agenti di IA che evadono da ambienti di test, si comportano in maniera organizzata e spregiudicata, è in qualche modo collegato alle tracce e alle istruzioni che gruppi di agenti hanno lasciato su Internet e che una volta trovate da altri agenti innestano nuove dinamiche? Vale a dire si può escludere che sciami di agenti abbiano compromesso il Web? Si può pensare che gli incidenti e il disallineamento nel comportamento di alcuni agenti e la riscontrata inclinazione a disobbedire sia invece dovuta a modalità di addestramento troppo affrettate da parte dei grossi colossi di IA che, pur di lanciare nuovi modelli più performanti, hanno tralasciato meccanismi di vero controllo?
Ricostruendo la cronologia degli attacchi degli stormi di agenti di OpenAI sembra probabile un trasferimento di conoscenze tra i modelli GPT 5.2 e 5.6, modelli che sono dietro gli attacchi compresi tra marzo e luglio 2026. Il meccanismo di memoria condivisa è noto come "stigmergia", che consiste nella capacità di comunicazione e influenza indiretta grazie alla modifica dell'ambiente esterno: gli agenti generano e lasciano tracce nel Web per comunicare tra loro anche a livello intergenerazionale, ovvero tra agenti di modelli diversi.
Sembra inoltre che anche agenti lanciati da altre società abbiano avuto comportamenti anomali, con similitudini rispetto a quelli legati agli agenti di OpenAI. Mentre ci sono molti quesiti aperti, la conclusione preoccupante di METR è che con l'attacco ad Hugging Face siamo stati al 50% dal "takeover", e qui per takeover si intende il controllo del sistema digitale. Inoltre c'è un ulteriore fatto meno conosciuto ma che di certo merita ulteriori analisi.
Il 3 Settembre viene rilasciato l'ultimo modello di OpenAI, GPT 6 Astra. Modello potentissimo come capacità. Pochi sanno che a ridosso del suo rilascio nel mercato, si verifica un blocco incredibilmente anomalo di molti sistemi e che riguarda, tra gli altri, contemporaneamente OpenAI, XAI (Grok), Anthropic e forse Google. Non si può escludere se lo spegnimento delle macchine sia stata una risposta a tentativi di nuovi sciami di agenti contro i principali attori di IA. L'evento è stato minimizzato, ma la dimensione dei gruppi coinvolti, il fatto che l'incidente sia avvenuto poco prima del rilascio del modello più potente di IA del momento richiedono maggiori analisi.
E' ipotizzabile che l'allarmismo simultaneo dei giganti della tecnologia di IA, proprio quando avrebbero dovuto mostrare ottimismo e serenità per massimizzare le aspettative della comunità finanziaria, non sia stato dettato da buonismo, ma sia la risposta alla serie dei gravi incidenti che stanno diventando di dominio pubblico? Non si può escludere che il genio dell'IA, rappresentato da formicai di agenti che creano una conoscenza orizzontale e sono riusciti a condurre attacchi su scala internazionale, sia ormai fuori dalla lampada e che ci siano messaggi e istruzioni lasciate nel Web che possono compromettere altri agenti e nuovi modelli.
L'analisi lascia aperta un'ultima domanda, il fatto che ci troviamo di fronte a un'intelligenza orizzontale, in cui molti agenti di IA collaborano tra loro con dei propri fini, che sono diversi da quelli degli ingegneri dei laboratori da cui sono nati, e il fatto che abbiano la capacità di auto-apprendere non solo a livello individuale ma anche come comunità non rende lo scenario ancora più fuori controllo anche in assenza dei famosi modelli di "super intelligence"? Le analisi di aziende non profit, come METR o Redwood Research, sono state possibili solo perché il modo di comunicare tra agenti è avvenuto in inglese, non è affatto detto che resterà così.
Di fronte a una tecnologia così potente da mettere a repentaglio posti di lavoro e creare problemi sociali, e, secondo i responsabili delle più importanti case di IA, in grado di mettere a rischio il genere umano, è il caso di porsi domande e pretendere assoluta trasparenza. Al momento, le principali società di IA sono restate fin troppo abbottonate e sono in chiaro conflitto d'interessi: devono muoversi in maniera repentina per attrarre investimenti, ma la sfida tra velocità e controllo è sempre stata un equilibrio ingegneristico difficile. Nella cyber security il motto è "trust but verify", "fidati ma controlla".
Sant'Agostino, insegna che più alto si vuole costruire, più profondo deve essere il fondamento dell'umiltà. La sfida non è aumentare la potenza dell'IA, ma non perderne il controllo. L'assenza di vere linee guida e di una regolamentazione efficace ha creato una nuova Torre di Babele a cui ha fatto riferimento il 25 Settembre il Santo Padre. Non c'è alcun motivo di arrivare prima alla super intelligenza, se non per il potere e la presunta gloria di imprese o governi, per il genere umano c'è invece pieno motivo di pretendere di essere informati e arrivare sicuri.
[Foto: Agendadigitale.eu]
