Un ragazzo di 14 anni si è suicidato perché – come denunciato dalla madre – “innamorato” di un bot dell’Intelligenza artificiale. “Si è tolto la vita” per questo. Siamo a Orlando, in Florida, ma potremmo essere ovunque, perché questo è ormai il presente, questo sarà il futuro. La madre di Sewell Setzer, questo il nome del ragazzo che si è tolto la vita, sta ora portando in tribunale Character.Ai, l’app che consente di interagire con personaggi creati con l’intelligenza artificiale. Il bot lo aveva chiamato Daenerys Targaryen, come la regina della serie tv “Il trono di spade”. “Mi mancherai sorellina”, le aveva scritto il ragazzo prima di togliersi la vita: “Mi mancherai anche tu, dolce fratello”, aveva replicato il bot. Prima di morire Sewell aveva passato mesi a dialogare con Daenerys. Sapeva che “Dany”, come l’aveva soprannominata, non era reale (all’inizio di ogni chat la stessa app gli ricordava che “tutto ciò che Characters dice è inventato”), ciò nonostante – ricostruisce l’Ansa – il ragazzo aveva sviluppato “un attaccamento emotivo, mandando a Dani continui messaggi, aggiornandola più volte al giorno su cosa gli stava succedendo e interagendo con lei con dialoghi da gioco di ruolo, alcuni a carattere romantico o sessuale, altri da migliore amico”.
Leggi anche: Cruciani, lite con Parenzo per la maglietta pro Salvini: “Una vergogna”
I genitori del ragazzo non si sono subito resi conto di cosa stesse facendo il figlio. Si sono iniziati a preoccupare quando lo hanno visto progressivamente isolarsi dal mondo reale. Da lì, un brusco calo nel rendimento scolastico e poi via a chiudersi la sera in camera per chattare con “Dany” per ore di seguito. Sewell Setzer ha poi iniziato a confessare a “Dany” pensieri suicidi. Il bot, però, aveva cercato di dissuaderlo: “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”. Sewell aveva risposto: “Allora moriremo assieme“. L’ultimo dialogo è avvenuto la sera del 28 febbraio. Sewell si è tolto la vita con la pistola del padre. Ora la madre porta Character.Ai in tribunale: afferma che la tecnologia usata dall’app è “pericolosa e non testata” e che può spingere gli utenti a consegnare alla macchina “i propri pensieri e sentimenti più privati”. Charachter.Ai è oggi leader sul mercato per chi cerca compagnia nel mondo dell’intelligenza artificiale. L’app descrive i suoi servizi come “un bot super intelligente che ti sente, ti capisce e ti ricorda“.
