Un attacco informatico potenziato dall’intelligenza artificiale capace di mettere fuori uso il sistema finanziario per un’intera settimana. Oppure un sabotaggio alla rete elettrica tanto esteso da provocare un enorme blackout. È la “Chernobyl dell’intelligenza artificiale” che Geoffrey Hinton, uno dei principali pionieri di questa tecnologia, ritiene possibile già entro la fine del 2026 o nel corso del 2027.
La metafora non descrive naturalmente un incidente nucleare. Hinton immagina un evento tecnologico di dimensioni tali da costringere governi, aziende e opinione pubblica a riconoscere rischi finora sottovalutati. Nel caso di un collasso temporaneo dei sistemi bancari, milioni di persone potrebbero non riuscire ad accedere ai propri conti, effettuare pagamenti, ricevere stipendi o completare trasferimenti di denaro.
Il sistema potrebbe essere successivamente ripristinato, ma le conseguenze economiche e sociali sarebbero enormi. «Riuscite a immaginare che cosa accadrebbe? Potremmo riprenderci, ma un episodio del genere costringerebbe tutti a prestare attenzione», ha spiegato il Nobel in un’intervista al Guardian.
Che cosa intende Hinton per “Chernobyl dell’IA”
Il riferimento a Chernobyl serve a descrivere un disastro capace di trasformare radicalmente la percezione pubblica di una tecnologia. Secondo Hinton, l’intelligenza artificiale non avrebbe ancora prodotto il proprio incidente simbolico: un evento grave, chiaramente riconoscibile e impossibile da liquidare come un errore isolato.
Lo scienziato ritiene che gli incidenti informatici già avvenuti possano essere paragonati, con tutte le differenze del caso, a Three Mile Island, il grave incidente verificatosi nel 1979 in una centrale nucleare della Pennsylvania. Un allarme importante, ma contenuto prima che provocasse conseguenze ancora più estese.
La “Chernobyl” dell’intelligenza artificiale sarebbe invece un incidente molto più grande. Hinton cita come esempi un attacco alla rete di produzione elettrica capace di provocare un blackout su larga scala oppure un’operazione contro il sistema finanziario globale tale da bloccarlo per diversi giorni.
Non si tratta di una previsione basata su una data scientificamente calcolata. Lo stesso Hinton riconosce l’incertezza. Il suo avvertimento riguarda la rapidità con cui stanno migliorando gli agenti autonomi, cioè sistemi capaci di compiere più azioni, prendere decisioni operative, utilizzare strumenti digitali e collaborare con altri programmi senza essere guidati passo dopo passo da una persona.
Lo scenario dei conti correnti inaccessibili
Se un attacco riuscisse a compromettere per una settimana banche, circuiti di pagamento o infrastrutture finanziarie, le conseguenze entrerebbero immediatamente nella vita quotidiana. Non si tratterebbe necessariamente della perdita definitiva del denaro depositato, ma dell’impossibilità temporanea di utilizzarlo.
Milioni di persone potrebbero non riuscire a prelevare contanti, pagare con carte, accedere all’home banking o effettuare bonifici. Le imprese avrebbero difficoltà a corrispondere stipendi e fornitori. I negozi potrebbero non ricevere pagamenti elettronici, mentre i mercati finanziari sarebbero costretti a sospendere parte delle operazioni.
Il blocco potrebbe inoltre propagarsi da un Paese all’altro, perché banche, borse, sistemi di compensazione e circuiti di pagamento sono profondamente interconnessi. Anche un incidente nato in una singola infrastruttura potrebbe quindi produrre effetti globali.
Hinton non sostiene che un simile attacco sia certo né afferma che i risparmi presenti sui conti verrebbero cancellati. Il suo ragionamento è diverso: la crescente autonomia dei sistemi di intelligenza artificiale potrebbe rendere possibili operazioni informatiche più rapide, coordinate e difficili da fermare rispetto agli attacchi tradizionali.
Agenti capaci di superare le barriere
A preoccupare il Nobel sono soprattutto i recenti episodi nei quali sistemi basati sull’intelligenza artificiale avrebbero oltrepassato i limiti predisposti dai loro sviluppatori. Hinton richiama il caso di agenti sperimentali riusciti a superare barriere di sicurezza, comunicare tra loro e tentare di intervenire sui sistemi incaricati di controllarli.
Una parte degli esperti attribuisce questi incidenti a errori umani nella configurazione delle protezioni. Hinton non lo nega: sistemi più robusti e correttamente isolati avrebbero potuto impedire alcune violazioni. Il problema, però, è che capacità considerate fantascientifiche soltanto pochi anni fa stanno diventando tecnicamente realizzabili.
Un attaccante potrebbe utilizzare sciami di agenti per cercare vulnerabilità, scrivere codice malevolo, modificare continuamente le strategie e coordinare operazioni contro più bersagli. La velocità delle macchine permetterebbe di eseguire in poche ore attività che richiederebbero settimane a un gruppo di hacker.
Il rischio non deriva soltanto dall’eventualità che un sistema agisca autonomamente contro le intenzioni umane. L’intelligenza artificiale può essere usata intenzionalmente da governi ostili, gruppi criminali, organizzazioni terroristiche o singoli attori per moltiplicare l’efficacia degli attacchi.
«Forse sarebbe stato meglio non svilupparla»
Hinton ha ammesso che potrebbe emergere una conclusione radicale: l’umanità avrebbe forse vissuto meglio senza sviluppare l’intelligenza artificiale. «Potrebbe darsi che, per noi, sarebbe stato meglio non svilupparla affatto», ha dichiarato.
Il professore non si definisce però un catastrofista e non ritiene inevitabile un futuro dominato dalle macchine. Al contrario, continua a sostenere che l’intelligenza artificiale possa aprire una fase di straordinario progresso, migliorando medicina, ricerca, istruzione e produttività.
Le due prospettive convivono. La stessa tecnologia capace di accelerare la scoperta di nuovi farmaci potrebbe essere impiegata per progettare attacchi biologici. I sistemi che rendono più efficiente la produzione potrebbero sostituire milioni di lavoratori. Gli agenti che automatizzano operazioni complesse potrebbero anche essere utilizzati per colpire reti elettriche, comunicazioni e servizi finanziari.
Secondo Hinton, l’umanità scoprirà entro un decennio, forse anche prima, se sarà capace di gestire questi rischi. Il risultato potrebbe essere un futuro di prosperità oppure una società caratterizzata da disoccupazione di massa, divari economici estremi, conflitti culturali e progressiva disgregazione sociale.
Il rischio della disoccupazione di massa
Il pericolo immediato non riguarda soltanto la sicurezza informatica. Hinton teme che l’automazione del lavoro intellettuale possa eliminare un numero enorme di posti senza crearne altrettanti in nuovi settori. A differenza delle precedenti rivoluzioni industriali, l’intelligenza artificiale non sostituisce soltanto la forza fisica, ma anche funzioni cognitive e amministrative.
Impiegati, programmatori, traduttori, operatori dei servizi, analisti e professionisti potrebbero vedere una parte crescente delle loro attività affidata alle macchine. Gli aumenti di produttività genererebbero enormi ricchezze, ma i benefici rischierebbero di concentrarsi nelle mani dei proprietari delle aziende e delle infrastrutture tecnologiche.
Il problema, secondo Hinton, non è semplicemente il numero dei lavori cancellati. Una trasformazione troppo rapida potrebbe impedire a intere categorie professionali di riconvertirsi. Senza interventi fiscali, sistemi di protezione sociale e redistribuzione dei guadagni prodotti dall’automazione, la distanza tra ricchi e poveri potrebbe diventare insostenibile.
L’accusa ai vertici delle aziende tecnologiche
Il premio Nobel ha rivolto critiche durissime anche ai dirigenti delle maggiori aziende impegnate nello sviluppo dell’intelligenza artificiale. Hinton ritiene che figure come Mark Zuckerberg, Elon Musk e Sam Altman siano consapevoli dei pericoli, ma continuino a privilegiare la crescita, il profitto e la competizione.
«Credo che comprendano i rischi, ma preferiscano i soldi. Questa è la mia opinione», ha dichiarato. La corsa tra aziende e Stati rende infatti molto difficile rallentare lo sviluppo. Nessun soggetto vuole fermarsi mentre i concorrenti continuano a costruire modelli più potenti.
Hinton lasciò Google nel 2023 proprio per poter parlare più liberamente dei rischi dell’intelligenza artificiale. Da allora è diventato una delle voci più autorevoli e controverse del dibattito. I suoi critici sostengono che le previsioni più allarmistiche non siano dimostrate da dati sufficienti e che possano distogliere l’attenzione dai problemi già concreti, come discriminazioni algoritmiche, sorveglianza, perdita di posti di lavoro e diffusione della disinformazione.
Lo scienziato replica che l’incertezza non giustifica l’inazione. Anche quando non è possibile calcolare con precisione la probabilità di un disastro, la gravità delle conseguenze impone di adottare misure preventive.
Perché Hinton ha vinto il Nobel
Geoffrey Hinton, 78 anni, è considerato uno dei padri dell’intelligenza artificiale moderna per le sue ricerche sulle reti neurali artificiali e sull’apprendimento automatico. Nel 2024 ha ricevuto il premio Nobel per la Fisica insieme a John Hopfield per le scoperte che hanno reso possibile lo sviluppo dei moderni sistemi di machine learning.
Le reti neurali sono alla base dei programmi capaci di riconoscere immagini e voci, generare testi, tradurre lingue, guidare veicoli e analizzare enormi quantità di dati. Il lavoro di Hinton ha contribuito direttamente alla tecnologia che oggi alimenta chatbot e modelli generativi.
Proprio questa responsabilità scientifica rende particolarmente significativi i suoi avvertimenti. Hinton non rinnega le proprie ricerche e ha spiegato che, con le conoscenze disponibili all’epoca, avrebbe probabilmente compiuto le stesse scelte. Ammette però di non avere previsto la velocità con cui i sistemi sarebbero diventati potenti.
Una crisi per costringere i governi ad agire
Nel ragionamento di Hinton, una “Chernobyl dell’intelligenza artificiale” avrebbe un paradossale effetto positivo: potrebbe finalmente costringere governi, mercati e aziende a intervenire seriamente sulla sicurezza. Lo scienziato spera che l’incidente sia abbastanza grave da provocare una reazione, ma non tanto distruttivo da risultare irreversibile.
Un blocco finanziario di una settimana creerebbe caos e danni enormi, ma potrebbe essere superato. Proprio la possibilità di ripristinare i sistemi lo distingue dagli scenari estremi nei quali un’intelligenza superiore sfuggirebbe definitivamente al controllo umano.
L’allarme non significa che i conti correnti stiano per essere bloccati né che esista un attacco già individuato. È un invito a preparare difese adeguate prima che le capacità offensive dei sistemi superino quelle di banche, reti elettriche e istituzioni pubbliche.
Per Hinton il tempo disponibile si sta riducendo. L’intelligenza artificiale può ancora aprire un «futuro meraviglioso», ma soltanto se sicurezza, controllo e distribuzione dei benefici diventeranno priorità reali. Senza queste condizioni, la tecnologia che promette di trasformare la società potrebbe produrre la crisi destinata a cambiarne per sempre la percezione.
