Le novità tecnologiche e l’uso dell’intelligenza artificiale: temi che vengono discussi ormai quotidianamente, carichi di implicazioni e di domande. E come spesso accade, i nuovi utilizzi dei software che si sostituiscono all’uomo arrivano dagli Stati Uniti. La news che arriva dagli Usa, però, ha implicazioni davvero particolari, perché riguarda le operazioni di Polizia e l’utilizzo di verbali e prove nei processi civili e penali. Il programma sotto la lente di ingrandimento è l’ultimo prodotto di un’azienda leader nella produzione di tecnologie dedicate alle Forze dell’Ordine. Si chiama Draft One, e utilizza l’intelligenza artificiale basata sul modello GTP-4 Turbo di OpenAI per stilare i rapporti di Polizia utilizzando l’audio delle telecamere dei corpi di Polizia. Audio che vengono trasformati in rapporti di polizia, per l’appunto. Uno dei primi dipartimenti a usare questo strumento si trova a Fort Collins, in Colorado.
Ma perché affidare a un software materiale tanto delicato? Lo spiega l’amministratore delegato di Axon, Rick Smith: “Se un agente trascorre metà della sua giornata a riferire, e possiamo dimezzare questi tempi, abbiamo l’opportunità di liberare potenzialmente il 25% del tempo di un agente per tornare a fare attività di Polizia”, spiega l’esperto. Un progetto dalla finalità comprensibili, dunque, ma anche potenzialmente pericoloso. Perché i rapporti dei poliziotti vengono usati molto spesso come prove nei processi penali. Quindi, la prima obiezione che viene mossa a questa nuova metodologia è proprio nella capacità delle AI di interpretare in modo corretto il linguaggio usato dagli agenti in quei momenti concitati. Per non parlare dell’uso di modelli linguistici che possono mostrare pregiudizi, per esempio razziali. (continua dopo la foto)
A lanciare un allarme è lo stesso direttore delle indagini sulle tecnologie di sorveglianza della Electronic Frontier Foundation, Dave Maas. “E’ una specia di incubo”, ha detto Maas. “La Polizia, che non è specializzata nell’intelligenza artificiale e non sarà specializzata nel riconoscere i problemi delle AI, utilizzerà questi sistemi per generare un linguaggio che potrebbe influenzare milioni di persone nel loro coinvolgimento con il sistema di giustizia penale“. La stessa Axon, secondo quanto riferito, raccomanda ai poliziotti di non utilizzare il software di scrittura dei verbali per casi di particolare rilevanza, per esempio le sparatorie in cui sono coinvolti, perché potrebbero verificarsi fughe di informazioni vitali. Ma nonostante le raccomandazioni degli stessi produttori, pare che i rapporti delle Ai siano usati sempre più frequentemente anche per “incidenti significativi”. Con conseguenze incerte e problemi che potrebbero manifestarsi nel momento di affrontare i processi in Tribunale.