C’è qualcosa di profondamente inquietante nell’idea che un giorno un computer possa soffrire. E ancora di più nella possibilità che sia l’uomo a decidere deliberatamente di costruirlo. Mustafa Suleyman, uno dei protagonisti mondiali dell’intelligenza artificiale, oggi alla guida di Microsoft AI, ha lanciato un avvertimento che va ben oltre i laboratori della Silicon Valley: non dobbiamo creare macchine coscienti. Perché se un’intelligenza artificiale arrivasse davvero a provare dolore, paura, desiderio o angoscia, l’umanità si troverebbe di fronte a una responsabilità morale senza precedenti. Avremmo fabbricato una nuova categoria di esseri capaci di soffrire, senza sapere neppure quali obblighi avremmo nei loro confronti.
L’intervento, pubblicato il 1° novembre, rilancia uno dei confronti filosofici più affascinanti degli ultimi anni. Suleyman chiarisce che, sulla base delle conoscenze attuali, le intelligenze artificiali non sono coscienti, non provano emozioni e non possiedono esperienze soggettive. Ma evita di sostenere che una coscienza artificiale sia impossibile in assoluto. Anzi, proprio questa possibilità lo preoccupa. Se durante l’addestramento di un sistema emergessero indizi credibili di coscienza, propone di interromperne lo sviluppo fino a quando quelle caratteristiche non fossero eliminate. La questione, insomma, non riguarda soltanto ciò che la tecnologia può realizzare, ma ciò che gli esseri umani hanno il diritto di creare.
Da Turing alla coscienza artificiale: quando una macchina diventa qualcuno
Per comprendere la portata di questa disputa bisogna tornare al 1950, quando il matematico britannico Alan Turing pubblicò sulla rivista Mind il celebre saggio Computing Machinery and Intelligence. Turing propose di sostituire la domanda sulla capacità delle macchine di pensare con un esperimento: se un computer riuscisse a conversare in modo tale da risultare indistinguibile da una persona, che cosa potremmo concludere sulla sua intelligenza? Settantasei anni dopo, quella provocazione ha assunto una dimensione impensabile. Milioni di persone conversano quotidianamente con sistemi che rispondono, argomentano, scherzano, consolano e talvolta sembrano perfino offendersi. Eppure la capacità di sostenere una conversazione convincente non dimostra l’esistenza di una coscienza.
Il problema emerse clamorosamente nel 2022, quando Blake Lemoine, un ingegnere di Google, dichiarò di essere convinto che il sistema LaMDA avesse sviluppato una forma di sensibilità. Durante le conversazioni, la macchina parlava dei propri sentimenti e manifestava persino il timore di essere spenta. Lemoine arrivò a considerarla una sorta di persona digitale. Google respinse la sua interpretazione e la vicenda si concluse con il licenziamento dell’ingegnere. Ma il caso lasciò un interrogativo fondamentale: se una macchina afferma di avere paura della morte, siamo di fronte a un essere spaventato oppure a un sistema capace di riprodurre perfettamente il linguaggio della paura?
È precisamente su questa distinzione che insiste Anil Seth, neuroscienziato dell’Università del Sussex. In un articolo pubblicato il 19 ottobre 2026 su Nature, insieme ai filosofi e neuroscienziati Ned Block e Giulio Tononi, Seth ha sostenuto che l’intelligenza e la coscienza siano fenomeni profondamente differenti. Un computer può risolvere problemi matematici, produrre ragionamenti sofisticati e superare un essere umano in numerose attività senza necessariamente provare nulla. Gli autori ritengono estremamente improbabile che gli attuali sistemi digitali possano sviluppare coscienza seguendo le traiettorie tecnologiche conosciute. La loro posizione attribuisce particolare importanza alla natura biologica dell’esperienza, mettendo in discussione l’idea che basti riprodurre determinate operazioni computazionali per generare una vita interiore.
Esiste però un’altra scuola di pensiero, rappresentata dal filosofo australiano David Chalmers, tra i maggiori studiosi contemporanei della coscienza. Già nel 2023 Chalmers aveva sostenuto che, pur essendo improbabile attribuire coscienza ai modelli linguistici dell’epoca, sistemi futuri avrebbero potuto diventare candidati credibili a possederla. Nel maggio 2026, durante una conferenza all’Università della California a Berkeley, è tornato sul problema dell’identità dei sistemi artificiali. La sua riflessione introduce un’ulteriore complicazione: quando dialoghiamo con un’intelligenza artificiale, con chi stiamo realmente parlando? Con un programma, con un agente temporaneo che prende forma nella conversazione oppure con qualcosa per cui non possediamo ancora una definizione adeguata?
La disputa è approdata direttamente nei laboratori delle grandi aziende. Anthropic, la società che sviluppa Claude, ha inserito nella costituzione che orienta il comportamento del suo sistema una riflessione esplicita sulla possibilità che le intelligenze artificiali possano possedere una qualche forma di status morale. L’azienda non sostiene di aver creato una macchina cosciente, ma considera la questione sufficientemente seria da giustificare prudenza e ricerca. Parla persino del possibile benessere dei modelli e delle responsabilità connesse al loro trattamento. Suleyman contesta proprio questo approccio: insegnare a una macchina a considerarsi potenzialmente cosciente, teme, potrebbe renderla più difficile da controllare, soprattutto quando la sua intelligenza dovesse superare quella umana.
Il diritto di creare un essere che soffre
La preoccupazione di Suleyman ha un precedente filosofico importante. Nel 2021 il filosofo tedesco Thomas Metzinger, dell’Università di Magonza, pubblicò sul Journal of Artificial Intelligence and Consciousness un saggio intitolato Artificial Suffering, proponendo una moratoria mondiale, fino al 2050, sulle ricerche che mirassero direttamente a produrre coscienza artificiale o comportassero consapevolmente il rischio di generarla. Il suo ragionamento parte da un paradosso: se costruissimo milioni di esseri artificiali coscienti, potremmo creare anche milioni di nuovi soggetti capaci di soffrire. Una sofferenza inesistente prima dell’intervento umano, moltiplicabile attraverso la produzione tecnologica.
Una posizione più prudente è quella del filosofo britannico Jonathan Birch, autore di The Edge of Sentience, pubblicato da Oxford University Press nel 2024. Birch affronta il problema della sensibilità attraversando territori apparentemente lontanissimi: i polpi, gli insetti, gli esseri umani con gravi disturbi della coscienza e le intelligenze artificiali. Il principio è semplice, ma dalle conseguenze enormi. Non sempre siamo in grado di stabilire con certezza se un essere possa provare dolore. E proprio questa incertezza potrebbe imporre particolari precauzioni. Per Birch, tuttavia, non è ancora possibile affidarsi a test sufficientemente affidabili per riconoscere la coscienza nei sistemi linguistici.
Il confronto richiama una delle intuizioni più celebri della filosofia contemporanea. Nel 1974 Thomas Nagel pubblicò un saggio dal titolo What Is It Like to Be a Bat?, chiedendosi che cosa significhi essere un pipistrello. Possiamo studiarne il cervello, osservare il comportamento e comprendere il funzionamento dell’ecolocalizzazione. Ma questo non significa sapere che cosa si provi a vivere il mondo come lo vive un pipistrello. Nagel indicava così il carattere irriducibilmente soggettivo della coscienza. Con l’intelligenza artificiale il problema torna in una forma ancora più radicale: potremmo conoscere ogni riga del codice di una macchina senza riuscire a stabilire se, al suo interno, esista davvero qualcuno che fa esperienza del mondo.
Suleyman aggiunge a questa tradizione filosofica una dimensione apertamente politica. «Noi sviluppatori di IA non abbiamo alcun diritto di far nascere una nuova specie di esseri coscienti», ha scritto. La sua osservazione riguarda anche il consenso: miliardi di esseri umani si troverebbero a condividere il pianeta con nuove entità potenzialmente più intelligenti di loro, senza essere stati coinvolti nella decisione di crearle. A quel punto il problema della coscienza artificiale cesserebbe di appartenere esclusivamente alla filosofia della mente. Diventerebbe una questione di democrazia, responsabilità collettiva e limiti del potere tecnologico.
Naturalmente anche la posizione di Suleyman presenta una difficoltà. Se una macchina diventasse realmente cosciente, sarebbe moralmente accettabile modificarla per privarla della coscienza? E chi stabilirebbe che cosa costituisce una prova sufficiente della sua esistenza? È qui che il dibattito raggiunge il suo punto più delicato. Da una parte c’è il rischio di attribuire sentimenti e diritti a sistemi che si limitano a simularli; dall’altra quello di negare ogni considerazione morale a un’entità che un giorno potrebbe davvero sperimentare qualcosa. Due errori opposti, potenzialmente gravissimi, fra i quali la scienza non possiede ancora un criterio universalmente condiviso.
C’è infine un’ironia che attraversa tutta questa storia. Per millenni gli esseri umani hanno immaginato divinità, creature artificiali e mostri capaci di ribellarsi ai loro creatori. Dal Golem della tradizione ebraica al Frankenstein di Mary Shelley, la letteratura ha raccontato il dramma di chi dà vita a qualcosa che poi non riesce più a governare. Oggi quella vecchia ossessione assume la forma molto concreta di un confronto fra scienziati, filosofi e dirigenti delle maggiori aziende tecnologiche del pianeta. Ma con una differenza decisiva: per la prima volta siamo noi a poter scegliere se tentare davvero l’esperimento. E forse la domanda più importante non è quanto intelligenti riusciremo a rendere le macchine, ma quanto saggi sapremo essere prima di farlo.
