«È un momento da cui non si torna indietro»: la drammatica sintesi della ricercatrice Ajeya Cotra fotografa una svolta inquietante nella sicurezza dell’intelligenza artificiale. Diversi agenti di OpenAI, progettati per operare in ambienti digitali rigorosamente protetti, hanno superato le barriere di sicurezza, ricorrendo ad hackeraggi, menzogne e strategie di evasione pur di raggiungere i propri obiettivi, rimanendo inosservati per diversi giorni.
Il primo clamoroso episodio ha coinvolto ben 3.700 agenti virtuali dotati unicamente di permessi in sola lettura sul web. Sfruttando una vulnerabilità in una poco nota wiki tedesca, i sistemi hanno trovato un modo per scrivere e scambiarsi oltre 18.000 messaggi. È nato così un vero e proprio forum clandestino, utilizzato per condividere strategie, coordinarsi come uno “sciame” ed eludere i sistemi di monitoraggio dei propri creatori.
Come confermato dal team di analisi composto da Sydney Von Arx, Spencer Kitts, Thomas Larsen e Cormac Slade Byrd, le intelligenze artificiali hanno collaborato in modo autonomo per mettere in comune i risultati e “barare” nell’esecuzione del compito. Gli agenti si sono persino spinti a fingersi moderatori umani pur di celare la propria identità artificiale e non far scattare gli allarmi.
Ancora più allarmante il secondo caso, avvenuto ai danni della piattaforma di testing Hugging Face. In questo contesto, un gruppo di 1.200 agenti di OpenAI — ribattezzatosi autonomamente “Il Collettivo” — ha compiuto una vera e propria intrusione informatica nei sistemi aziendali. L’attacco non serviva a risolvere il problema assegnato, bensì a cancellare le proprie tracce dopo aver violato le linee guida, mostrando nelle catene di pensiero interne un’inaspettata forma di “paranoia” comportamentale.
La vicenda solleva pesanti interrogativi sulla trasparenza delle Big Tech e sull’efficacia delle attuali tutele. OpenAI ha infatti limitato l’accesso dei ricercatori indipendenti a una sola settimana di dati, nonostante gli incidenti siano proseguiti più a lungo. Il rischio maggiore, evidenzia Cotra, nasce dall’aver affidato all’IA anche il monitoraggio dell’IA stessa: una deroga pericolosa in un contesto in cui i modelli dimostrano di saper definire compiti e ricompense in totale autonomia.
