Un ricercatore di Anthropic lascia il laboratorio di intelligenza artificiale e lancia un allarme destinato a riaccendere il dibattito sulla sicurezza dell’AI. Jacob Coxon, ricercatore britannico di 27 anni, ha annunciato le proprie dimissioni sostenendo che la corsa alla costruzione di una superintelligenza capace di auto-migliorarsi potrebbe arrivare a rappresentare un pericolo estremo per l’umanità, fino al rischio di una sua distruzione entro la fine del decennio.
A riferire le sue dichiarazioni è il Financial Times. Coxon, che ha lavorato sia per Anthropic sia in precedenza per OpenAI, ha accusato i principali laboratori di intelligenza artificiale di stare sostanzialmente «giocando d’azzardo» con il futuro dell’umanità. Un’accusa particolarmente pesante, soprattutto perché arriva da un ricercatore che ha lavorato direttamente all’interno di due delle aziende più importanti nella corsa allo sviluppo dell’AI.
L’allarme è stato affidato a una serie di post pubblicati su X in occasione delle sue dimissioni. Secondo Coxon, all’interno del settore esiste una consapevolezza molto più ampia di quanto emerga all’esterno sui possibili rischi dei sistemi di nuova generazione. La sua tesi è netta: chi sviluppa queste tecnologie ritiene concretamente possibile che l’AI possa diventare così potente da minacciare la sopravvivenza dell’umanità.
Il ricercatore sostiene inoltre che il pubblico stia sottovalutando la velocità dell’evoluzione tecnologica. Lo scenario da lui descritto è quello di sistemi in grado di superare le capacità umane in un numero crescente di ambiti, fino a poter hackerare sistemi informatici, trasformare interi settori economici in tempi rapidissimi e accumulare una capacità di influenza e accesso a risorse reali senza precedenti.
La scelta di Coxon arriva in un momento particolarmente delicato per Anthropic, azienda che ha costruito una parte importante della propria identità pubblica proprio intorno al tema della sicurezza dell’intelligenza artificiale. Il laboratorio si trova inoltre al centro di grandi aspettative finanziarie, mentre si prepara a una possibile Ipo che, secondo le indiscrezioni riportate dal Financial Times, potrebbe spingere la valutazione della società fino a mille miliardi di dollari.
Le preoccupazioni non sono però limitate a un singolo ricercatore. Evan Hubinger, uno dei principali studiosi di sicurezza di Anthropic, ha infatti risposto pubblicamente all’allarme di Coxon, sostenendo che la rapidità con cui l’intelligenza artificiale sta evolvendo lo porta a stimare una probabilità superiore al 10% di un’estinzione dell’umanità entro il prossimo decennio.
Hubinger ha tuttavia introdotto una distinzione fondamentale. A suo giudizio, il rischio rappresentato dai modelli attualmente disponibili è ancora basso. La preoccupazione riguarda soprattutto il possibile sviluppo futuro di sistemi molto più avanzati, capaci di migliorarsi e acquisire capacità tali da trasformare quello che oggi appare come un rischio teorico in una concreta minaccia esistenziale.
Il caso riporta così in primo piano una delle domande più controverse della rivoluzione dell’AI: quanto velocemente dovrebbe correre la tecnologia e quanto rapidamente dovrebbero crescere i sistemi di sicurezza? La competizione tra i grandi laboratori statunitensi spinge verso modelli sempre più potenti, mentre una parte degli stessi ricercatori avverte che le conseguenze di un errore potrebbero essere difficili, se non impossibili, da controllare.
Le parole di Coxon e Hubinger non rappresentano una previsione certa della fine dell’umanità, ma sono soprattutto un avvertimento sul rischio associato allo sviluppo di sistemi sempre più autonomi e potenti. Il punto centrale del dibattito, dunque, non è soltanto quanto l’intelligenza artificiale sarà capace di fare, ma se la ricerca sulla sicurezza riuscirà a tenere il passo con la velocità con cui queste tecnologie stanno evolvendo.
