L’allarme arriva da uno degli uomini che più di altri hanno contribuito a costruire l’era digitale. Bill Gates avverte che l’intelligenza artificiale ha ormai raggiunto un livello di potenza tale da poter essere utilizzata per provocare catastrofi con conseguenze fino a un miliardo di morti. Non una previsione secondo cui questo scenario sia inevitabile, ma la misura del rischio che, secondo il cofondatore di Microsoft, i governi non possono più permettersi di affidare alla sola responsabilità delle aziende tecnologiche. Per Gates è arrivato il momento di imporre per legge sistemi di sicurezza, controllo e monitoraggio.
Intervistato da Kristen Welker a Meet the Press, sulla Nbc, Gates ha spiegato che il problema principale non è soltanto quello, più futuribile, di un’intelligenza artificiale che sfugga completamente al controllo umano. Il pericolo immediato nasce dall’incontro tra strumenti sempre più potenti e persone intenzionate a utilizzarli per fare del male. «Non è mai esistita un’arma potente quanto la combinazione» tra soggetti malintenzionati e gli strumenti più avanzati dell’Ia, ha sostenuto. La tecnologia, secondo Gates, ha già oltrepassato soglie particolarmente delicate nella capacità di assistere attacchi informatici e potenziali attacchi biologici.
Il rischio più grave: bioarmi e attacchi informatici
È soprattutto sul carattere “dual use” dell’intelligenza artificiale che si concentra l’allarme. Lo stesso modello capace di aiutare un ricercatore a individuare nuovi farmaci, analizzare molecole o accelerare la produzione di vaccini può infatti fornire capacità utilizzabili in direzione opposta. Secondo Gates, la tecnologia può abbassare drasticamente la quantità di conoscenze tecniche e di risorse necessarie per passare dalla semplice ricerca di informazioni alla realizzazione concreta di un attacco.
Il punto riguarda anche la cybersicurezza. Un sistema capace di trovare rapidamente una vulnerabilità in un software può permettere a un’azienda di correggerla, ma la stessa capacità può essere sfruttata per individuarla e attaccarla. E i bersagli non sarebbero soltanto grandi imprese tecnologiche. Tra le infrastrutture potenzialmente vulnerabili ci sono ospedali, banche, reti elettriche, sistemi idrici e pubbliche amministrazioni. A preoccupare è soprattutto la riduzione della soglia d’ingresso: operazioni che fino a pochi anni fa avrebbero richiesto gruppi di hacker altamente specializzati potrebbero diventare accessibili a soggetti con competenze molto inferiori.
Ancora più grave, nella valutazione di Gates, è il capitolo del bioterrorismo. L’Ia può accelerare la ricerca medica, ma può anche facilitare la progettazione di agenti biologici pericolosi. Ed è proprio questa impossibilità di separare completamente gli usi benefici da quelli distruttivi a rendere insufficiente, secondo il fondatore di Microsoft, il modello dell’autoregolamentazione.
Da qui la richiesta rivolta direttamente a Washington. «Nessuno pensa che l’autoregolamentazione sia sufficiente», ha affermato Gates, rispondendo alla domanda sull’opportunità di una legge federale. Per il miliardario americano devono entrare nella partita sia la politica sia le forze dell’ordine, definendo standard obbligatori di salvaguardia e sistemi capaci di verificare come vengano utilizzati i modelli più potenti.
La posizione di Gates si inserisce in un dibattito diventato sempre più acceso negli Stati Uniti. I sistemi di intelligenza artificiale più avanzati stanno aumentando rapidamente le proprie capacità e proprio questa accelerazione ha alimentato, anche all’interno dell’industria tecnologica, la richiesta di strumenti di controllo più robusti.
Il problema è che l’impostazione scelta finora dall’amministrazione Donald Trump è molto diversa. La Casa Bianca ha puntato soprattutto sulla collaborazione tra governo e industria, evitando un sistema rigido di licenze preventive per lo sviluppo dei modelli. L’obiettivo americano resta infatti quello di mantenere la leadership globale nell’intelligenza artificiale, considerata una componente decisiva della competizione strategica con la Cina.
Gates contesta proprio la logica della corsa senza freni. Il fatto che la sfida tecnologica sia diventata anche una questione geopolitica rischia, secondo lui, di trasformare qualsiasi precauzione in uno svantaggio competitivo: se Washington rallenta, Pechino potrebbe andare avanti, e viceversa. Ma applicare questa logica ai sistemi più pericolosi sarebbe estremamente rischioso.
Il fondatore di Microsoft ritiene inoltre necessaria una forma di cooperazione internazionale, compresa quella tra Stati Uniti e Cina, perché cyberattacchi, bioarmi e modelli avanzati non possono essere contenuti all’interno dei confini nazionali.
Il cambio di tono di Gates sull’intelligenza artificiale
Le dichiarazioni assumono un peso particolare perché segnano un cambiamento rispetto all’immagine di Gates come uno dei grandi ottimisti della rivoluzione tecnologica. Negli anni successivi all’esplosione dell’Ia generativa aveva insistito soprattutto sulle possibilità offerte da questi strumenti: cure mediche migliori, farmaci sviluppati più rapidamente, istruzione personalizzata, incremento della produttività e accesso alla conoscenza anche nei Paesi più poveri.
Quell’ottimismo non è scomparso, ma negli ultimi mesi è stato accompagnato da avvertimenti sempre più netti. Gates ha individuato diversi campi nei quali la crescita dell’intelligenza artificiale potrebbe produrre effetti difficili da governare.
Il primo è la sicurezza, dal cybercrime alle armi biologiche. Il secondo riguarda il lavoro: Gates ritiene possibile che l’Ia elimini definitivamente una quantità di occupazioni molto superiore a quella che le precedenti rivoluzioni industriali erano state in grado di sostituire nel breve periodo. Il terzo riguarda il rapporto tra esseri umani e macchine, in particolare per bambini e adolescenti, con il rischio che assistenti e compagni virtuali estremamente persuasivi sostituiscano progressivamente una parte delle relazioni umane e incidano sullo sviluppo sociale e sulla capacità di pensiero critico.
Sul lavoro, Gates è arrivato a proporre una categoria di attività “Human Reserved”, letteralmente riservate agli esseri umani. Non perché una macchina non sia tecnicamente in grado di svolgerle, ma perché una società potrebbe decidere politicamente che alcuni rapporti non debbano essere automatizzati. Il principio potrebbe riguardare l’assistenza alle persone fragili, la sanità, l’istruzione e altre professioni nelle quali la componente umana viene considerata parte integrante della prestazione.
Gates ha inoltre rilanciato l’idea di tassare in qualche forma l’utilizzo dell’Ia e dei robot, sia per ridurre l’incentivo fiscale alla sostituzione del lavoro umano sia per finanziare riqualificazione professionale e welfare.
Nonostante gli allarmi, Gates non è diventato un avversario dell’intelligenza artificiale. Continua a considerarla una tecnologia in grado di produrre enormi benefici nella sanità, nell’istruzione, nell’agricoltura e nella ricerca scientifica. Il punto, nella sua impostazione, è impedire che le stesse capacità vengano lasciate senza controllo quando possono provocare danni di dimensioni altrettanto enormi.
In Europa una parte di questa strada è già stata intrapresa con l’AI Act, che introduce obblighi specifici per i fornitori dei sistemi più avanzati e per i modelli considerati a rischio sistemico. Per questi ultimi sono previste valutazione e mitigazione dei rischi, segnalazione degli incidenti e misure di cybersicurezza.
Gates propone però qualcosa di ancora più ampio: non soltanto norme nazionali, ma nuove istituzioni capaci di coordinare sicurezza, lavoro, salute, istruzione, energia e sistemi finanziari, insieme a forme di cooperazione internazionale dedicate all’intelligenza artificiale.
Per Gates la questione, ormai, non è più stabilire se intervenire. È capire quanto tempo resti alla politica per costruire regole efficaci prima che la velocità dell’innovazione tecnologica diventi definitivamente superiore a quella dei governi.
