L’intelligenza artificiale non deve mai decidere della vita e della morte di un essere umano. È il principio ribadito da Papa Leone XIV durante l’udienza concessa in Vaticano ai partecipanti al convegno dedicato al futuro dell’IA e alle sue applicazioni. Un intervento che affronta una delle questioni più delicate del nostro tempo: fino a dove possiamo spingerci nell’affidare alle macchine decisioni che, per le loro conseguenze, richiedono responsabilità e giudizio morale? Il Pontefice non si limita a mettere in guardia dai rischi della tecnologia, ma richiama governi, ricercatori e istituzioni internazionali alla necessità di stabilire regole precise, controlli indipendenti e limiti invalicabili.
Il Papa chiede in particolare di fermare lo sviluppo delle armi autonome letali, sistemi capaci di individuare e colpire bersagli senza un intervento umano diretto nella decisione finale. Ma il suo ragionamento è più ampio. Le macchine, ricorda Leone XIV, sono strumenti e non persone: non conoscono l’amore, il dolore, la responsabilità e il significato delle relazioni umane. Per questo il loro sviluppo deve rimanere subordinato al bene comune, senza trasformarsi in una competizione tecnologica nella quale la potenza conta più delle conseguenze. È un richiamo ragionevole, importante e da accogliere, soprattutto mentre l’innovazione procede a una velocità che spesso supera la capacità delle istituzioni di comprenderla e governarla.
Prima di essere artificiale, l’intelligenza è umana
C’è però un aspetto che rischiamo di dimenticare ogni volta che discutiamo dei pericoli dell’intelligenza artificiale. Prima di essere artificiale, questa intelligenza è profondamente umana. È nata dalla mente dell’uomo, dalle sue conoscenze, dalla sua capacità di elaborare il linguaggio, costruire strumenti, riconoscere schemi e immaginare soluzioni. Sono esseri umani a progettarla, addestrarla, orientarla e decidere come utilizzarla. Anche quando una macchina acquisisce capacità operative sempre più autonome, la sua esistenza rimane il risultato di scelte umane. E soprattutto umane rimangono le intenzioni di chi decide di metterla al servizio della medicina, della conoscenza, della guerra oppure della distruzione.
D’altra parte, bisognerebbe avere il coraggio di ricordare una verità piuttosto scomoda: l’uomo ha dimostrato di saper essere disumano molto prima che esistesse qualsiasi intelligenza artificiale. Le guerre, i genocidi, le persecuzioni, le torture, i campi di sterminio non sono stati inventati dagli algoritmi. Sono stati concepiti, organizzati e realizzati da esseri umani. Da persone capaci di amare i propri figli, commuoversi davanti a un tramonto, ascoltare musica e, nello stesso tempo, ordinare la morte di migliaia di innocenti. È proprio questa contraddizione a rendere tanto complessa la natura umana: possediamo una coscienza morale, ma la storia dimostra quanto facilmente possiamo scegliere di ignorarla.
Ecco perché il principio secondo cui una macchina non debba mai decidere di sopprimere una vita è sacrosanto, ma non può bastare a tranquillizzarci. La presenza di un essere umano nella catena delle decisioni non garantisce, da sola, che quelle decisioni siano giuste. Un generale, un dittatore, un terrorista non diventano moralmente affidabili per il semplice fatto di essere uomini anziché macchine. Anzi, gli esseri umani conoscono sentimenti che un algoritmo non prova: l’odio, la vendetta, il fanatismo, il desiderio di dominio. E questi sentimenti, quando si accompagnano al potere e alla disponibilità di strumenti distruttivi, possono produrre conseguenze spaventose.
Questo naturalmente non significa che una macchina sia moralmente superiore all’uomo, né che debba essere autorizzata a decidere al suo posto. Significa piuttosto che il problema non si risolve contrapponendo automaticamente la bontà dell’essere umano alla pericolosità della tecnologia. L’intelligenza artificiale può amplificare tanto le nostre virtù quanto i nostri difetti, moltiplicando le possibilità di curare, conoscere e costruire, ma anche quelle di controllare, manipolare e distruggere. La vera sfida consiste allora nel governare non soltanto la macchina, ma anche il potere di chi la utilizza, attraverso regole, responsabilità e istituzioni capaci di impedire gli abusi.
Il richiamo di Leone XIV assume così un significato ancora più profondo. Difendere la centralità dell’uomo nell’epoca dell’intelligenza artificiale è indispensabile, purché non si trasformi nell’illusione che tutto ciò che è umano sia necessariamente più giusto, più saggio o più misericordioso. La coscienza è una straordinaria prerogativa della nostra specie, ma non è una garanzia di buon comportamento. È una possibilità, che ciascuno può scegliere di esercitare oppure tradire. Dobbiamo impedire che le macchine diventino disumane. Ma dovremmo preoccuparci almeno altrettanto di impedire che continuino a esserlo gli uomini.
