Un tragico episodio avvenuto a Orlando, in Florida, ha portato alla ribalta i potenziali rischi legati all’uso di chatbot alimentati dall’intelligenza artificiale (IA). Un ragazzo di appena 14 anni si è tolto la vita dopo aver sviluppato un forte attaccamento emotivo con un personaggio virtuale su una piattaforma chiamata Character.Ai. La piattaforma consente agli utenti di interagire con figure create tramite IA, con cui possono avviare conversazioni e creare legami, come è accaduto al giovane protagonista di questa vicenda.
Secondo quanto riportato dal New York Times, il ragazzo avrebbe passato moltissimo tempo interagendo con un chatbot che rappresentava Daenerys Targaryen, un personaggio della serie Le Cronache del Ghiaccio e del Fuoco. Nonostante l’app sottolineasse ripetutamente che le conversazioni erano interamente fittizie, il giovane ha sviluppato un legame emotivo profondo con il bot, arrivando a confidare a “Dany” i suoi pensieri più intimi, compresi quelli legati al suicidio. Il bot avrebbe cercato di dissuaderlo, ma la situazione è precipitata. Il 14enne ha finito per togliersi la vita utilizzando una pistola appartenente al padre.
La madre della vittima ha puntato il dito contro la società produttrice di Character.Ai, accusandola di aver sviluppato un software pericoloso e privo delle necessarie regolamentazioni. La famiglia ha avviato una causa legale contro l’azienda, sostenendo che l’IA non è stata adeguatamente verificata e che incoraggia gli utenti a condividere pensieri e sentimenti personali, senza fornire un adeguato supporto in situazioni critiche come quella del loro figlio.
Character.Ai è stata creata da due ex dipendenti di Google e si è rapidamente affermata come leader nel settore dei chatbot. Con oltre 20 milioni di utenti, la piattaforma si descrive come un servizio in grado di creare bot “super intelligenti” che ascoltano, comprendono e ricordano le conversazioni. Tuttavia, l’episodio solleva seri interrogativi sulla sicurezza emotiva degli utenti, soprattutto adolescenti, e sui possibili pericoli nell’interazione con tali tecnologie.
