Per anni il grande incubo dell’intelligenza artificiale è stato quello di una macchina capace di diventare più intelligente dell’uomo, conquistare una propria autonomia e, un giorno, ribellarsi ai suoi creatori. Ma se il pericolo più concreto fosse già davanti ai nostri occhi? Un’inchiesta pubblicata da Wired, che ha interpellato dieci esperti di sicurezza, etica, economia e istruzione, sposta il dibattito dalle visioni apocalittiche del futuro a una questione molto più immediata: il potere di chi sviluppa, controlla e utilizza l’intelligenza artificiale.
Il confronto mette in discussione l’idea che la sicurezza dell’IA debba essere misurata soprattutto sulla possibilità di una futura catastrofe tecnologica. Gli esperti intervistati non condividono necessariamente le stesse valutazioni o le stesse soluzioni, ma dall’inchiesta emerge una preoccupazione comune: mentre si discute di macchine che potrebbero sfuggire al controllo umano, si rischia di sottovalutare quello che sta già accadendo nella società. La concentrazione del potere nelle grandi aziende tecnologiche, la trasformazione del lavoro, la dipendenza delle istituzioni e l’indebolimento delle competenze individuali rappresentano problemi concreti.
Il rischio per la democrazia e il controllo della conoscenza
Una delle questioni centrali riguarda il rapporto fra intelligenza artificiale e democrazia. I sistemi più avanzati richiedono investimenti enormi, infrastrutture complesse e quantità gigantesche di dati. La capacità di svilupparli rimane quindi concentrata in un numero limitato di aziende e centri di potere. Il problema riguarda non soltanto chi possiede una tecnologia, ma chi può stabilire le regole del suo funzionamento, selezionare le informazioni che utilizza e determinare le condizioni alle quali milioni di persone possono accedere a strumenti sempre più importanti per lavorare, studiare e informarsi.
Il tema diventa ancora più delicato quando l’intelligenza artificiale smette di essere utilizzata soltanto per eseguire compiti e comincia ad accompagnare le persone nei processi decisionali. Un assistente digitale può suggerire come scrivere un documento, interpretare un avvenimento, affrontare un problema professionale o comprendere una questione politica. La sua influenza non dipende necessariamente dalla capacità di imporre una risposta: può esercitarsi anche attraverso il modo in cui organizza le informazioni, presenta le alternative e orienta il ragionamento. È una forma di potere meno appariscente di quella tradizionale, ma potenzialmente molto estesa.
L’inchiesta di Wired richiama inoltre l’attenzione sulle conseguenze sociali della crescente dipendenza dai sistemi artificiali. Nel lavoro, l’automazione può modificare competenze e rapporti di forza. Nell’istruzione, il ricorso continuo agli assistenti può cambiare il rapporto degli studenti con l’apprendimento. Nella vita pubblica, l’adozione di strumenti difficili da comprendere e controllare pone interrogativi sulla responsabilità delle decisioni. Il punto non è negare le opportunità offerte dalla tecnologia, ma evitare che la sua diffusione proceda senza un confronto altrettanto profondo sulle conseguenze per la società.
Il dibattito rilanciato dalla rivista americana conduce così a una conclusione destinata a pesare sempre di più: la minaccia all’autonomia umana potrebbe arrivare prima dagli uomini che governano le macchine che dalle macchine stesse. Una tecnologia capace di mettere a disposizione conoscenze e capacità intellettuali senza precedenti può rappresentare uno straordinario strumento di emancipazione. Ma se il suo controllo rimane concentrato nelle mani di pochi soggetti, il rischio è che la più grande espansione dell’intelligenza disponibile nella storia diventi anche un nuovo, formidabile strumento di potere.
