La Cina punta a fare un passo ulteriore nel controllo digitale della popolazione. Non più soltanto monitorare ciò che i cittadini fanno o pubblicano online, ma anticipare comportamenti, opinioni e possibili forme di dissenso prima ancora che si manifestino. È questo lo scenario delineato da un’inchiesta del New York Times, che accende i riflettori su alcuni progetti di intelligenza artificiale sviluppati da aziende vicine agli apparati di sicurezza di Pechino.
Al centro dell’attenzione c’è Geedge Networks, società specializzata in tecnologie per il monitoraggio digitale, che starebbe lavorando a sistemi capaci di analizzare enormi quantità di dati personali per individuare potenziali “rischi politici” e segnalare alle autorità individui ritenuti problematici.
Dalla sorveglianza alla previsione
Secondo i documenti analizzati da ricercatori della Vanderbilt University e citati dal quotidiano americano, la nuova generazione di strumenti sviluppata in Cina punta a superare il tradizionale modello di sorveglianza.
Finora i sistemi utilizzati dalle autorità si sono concentrati principalmente sul controllo di attività già avvenute: messaggi pubblicati sui social, contenuti ritenuti sensibili, partecipazione a proteste o gruppi di opposizione. L’obiettivo delle nuove piattaforme sarebbe invece quello di prevedere comportamenti futuri, individuando segnali di possibile dissenso prima che emergano pubblicamente.
In altre parole, non si tratterebbe più di reprimere un’opinione espressa, ma di identificare chi potrebbe esprimerla in futuro.
Come funziona il sistema
Le tecnologie allo studio utilizzerebbero l’intelligenza artificiale per incrociare una vasta gamma di informazioni provenienti da fonti diverse.
Tra i dati presi in considerazione ci sarebbero le attività sui social network, la cronologia di navigazione online, le comunicazioni telefoniche, gli spostamenti geografici registrati tramite smartphone e persino gli interessi culturali degli utenti, come libri letti, film visionati o contenuti consultati in rete.
Attraverso l’elaborazione di questi elementi, i sistemi sarebbero in grado di costruire profili dettagliati dei cittadini e attribuire un livello di rischio politico a ciascun individuo. L’obiettivo dichiarato sarebbe quello di individuare comportamenti considerati anomali o potenzialmente ostili rispetto alla linea del Partito Comunista Cinese.
L’IA chiamata a interpretare le intenzioni
Uno degli aspetti che maggiormente preoccupano gli esperti riguarda la volontà di sviluppare modelli capaci non soltanto di analizzare i comportamenti, ma anche di interpretare le intenzioni delle persone.
Secondo quanto riportato dal New York Times, durante alcuni incontri interni i ricercatori avrebbero discusso strumenti in grado di identificare contenuti ritenuti “dannosi” e di comprendere le possibili motivazioni dietro determinate attività online.
Si tratta di un salto tecnologico particolarmente delicato perché introduce un elemento di valutazione preventiva che potrebbe ampliare enormemente il potere degli apparati di controllo statali.
Gli ostacoli tecnologici e le sanzioni americane
Nonostante gli ambiziosi obiettivi, il progetto avrebbe incontrato difficoltà significative sul piano tecnologico. I documenti mostrano infatti che Geedge e i laboratori collegati all’azienda hanno dovuto fare i conti con le restrizioni imposte dagli Stati Uniti sull’esportazione verso la Cina di chip avanzati per l’intelligenza artificiale. La mancanza dei processori più potenti avrebbe rallentato lo sviluppo dei modelli più sofisticati, costringendo i ricercatori a utilizzare sistemi meno avanzati.
Le limitazioni americane fanno parte della più ampia competizione tecnologica tra Washington e Pechino, che negli ultimi anni si è intensificata soprattutto nel settore dei semiconduttori e dell’intelligenza artificiale.
Il timore di un nuovo sistema di controllo
Al momento non esistono prove che queste tecnologie siano già operative su larga scala o che il sistema sia stato completato. Tuttavia, secondo numerosi osservatori internazionali, la direzione intrapresa dalla Cina appare piuttosto chiara.
Pechino investe da anni nello sviluppo di strumenti di controllo digitale sempre più sofisticati e considera l’intelligenza artificiale uno degli asset strategici per la sicurezza nazionale. L’eventuale utilizzo di sistemi predittivi potrebbe consentire alle autorità di trasformare le immense quantità di dati raccolti quotidianamente in uno strumento di prevenzione politica senza precedenti.
Le implicazioni per la privacy e i diritti civili
Il dibattito che accompagna questi progetti va ben oltre i confini cinesi. Organizzazioni per i diritti umani e studiosi di tecnologia avvertono che l’uso dell’intelligenza artificiale per prevedere il dissenso potrebbe aprire scenari inediti sul piano delle libertà individuali.
La possibilità di essere classificati come potenziali oppositori sulla base di algoritmi che analizzano gusti personali, comportamenti digitali e relazioni sociali solleva interrogativi profondi sulla tutela della privacy e sul rischio di discriminazioni automatizzate.
Per questo motivo molti esperti osservano con attenzione gli sviluppi del progetto, considerandolo uno dei possibili esempi più avanzati di utilizzo dell’intelligenza artificiale a fini di controllo sociale. Una prospettiva che, se confermata, potrebbe ridefinire il rapporto tra tecnologia, sicurezza e libertà individuali nel XXI secolo.
