L’intelligenza artificiale che giudica i criminali: saprà essere veramente imparziale?

Il futuro giudiziario cinese potrebbe assomigliare a una distopia a metà strada fra Robocop e Minority Report. Dei ricercatori cinesi hanno infatti creato un’intelligenza artificiale che, secondo quanto riferito, sarebbe in grado di riconoscere i crimini, identificare a colpo sicuro il dolo nei denunciati e applicare richieste di procedimenti penali e arresti. Ma un’AI può davvero giudicare i criminali? 

L’AI che giudica i criminali

L’interfaccia AI è stata sviluppata e già testata dal Procratorate Shanghai Pudong, un grande ufficio distrettuale di pubblica accusa cinese. A detta degli sviluppatori, l’intelligenza artificiale del sistema è stata programmata per muovere accuse contro ogni tipo di criminale, e con grande professionalità e acume “legale”. La precisione del suo giudizio sarebbe superiore almeno del 97 per cento rispetto a quella dei pubblici ministeri umani. L’AI sarebbe in grado di sostituirsi a un giudice umano basandosi sui propri sospetti, ovvero su una memoria infallibile in cui sono registrati tutte le leggi distrettuali e tutti i procedimenti penali pregressi.

Il sistema, nei piani cinesi, potrebbe quindi sostituire in una certa misura i pubblici ministeri nel processo decisionale. Ma che cosa dobbiamo aspettarci nel concreto da questo giudicante? Per ora, conosciamo poco del sistema. Dalla Cina arrivano scarse informazioni. L’unica sicura è che la macchina è basata su uno strumento di intelligenza artificiale esistente che si chiama System 206.

Quindi, i pubblici ministeri in Cina stavano già utilizzando il sistema come strumento sussidiario. Lo sfruttavano insomma come applicazione con cui valutare le prove e determinare se un sospetto criminale fosse pericoloso per il popolo cinese. Da domani però, l’AI potrebbe fare tutto da sé.

Giustizia e intelligenza artificiale: l’inflessibile guardiano che giudica ogni crimine

La novità sta nel fatto che ora, con l’aggiornamento informatico, l’AI può partecipare attivamente al processo decisionale, può presentare delle accuse, suggerire sentenze, dibattere. In più, il sistema è in grado di identificare e rimuovere informazioni irrilevanti in ogni caso ed elaborare accuse in linguaggio umano. La sua rete neurale sa interpretare la lingua orale, quella scritta e il linguaggio dei segni. Quindi è aggiornata in senso NLP. A detta degli sviluppatori, è anche programmata per riconoscere le bugie.

La nuova AI utilizzata dalla pubblica accusa nel quartiere Pudong di Shanghai giudica e muove proposte penali. Ma sarà utile soprattutto in termini burocratici: saprà valutare i fascicoli, rintracciare vizi di forma, difetti e possibilità legali. Per ora, il guardiano informatico si è specializzato nella repressione di otto crimini: furto, frode con carta di credito, gioco d’azzardo, guida spericolata, aggressione intenzionale, intralcio a pubblico ufficiale, frode generica e dissenso politico. Insomma, le otto azioni criminali più frequenti in Cina.

Chi controlla i controllori?

Chiudiamo quest’articolo con una domanda antica. La stessa che veniva rivolta a Platone, quando immaginava una società retta da saggi legislatori in grado di controllare ogni aspetto della vita pubblica. Chi controlla i controllori?

POTREBBE ANCHE INTERESSARTI >>> AMECA, il robot umanoide | “Spaventoso”: così lo hanno definito i suoi creatori

Le macchine possono essere programmate, riformattate e addirittura spente. Ma l’AI, basata sull’autoapprendimento e sull’autonomia decisionale, potrebbe svincolarsi facilmente dal controllo umano, soprattutto se ci si illude o convince che il suo operato sia per forza preferibile a quello dell’uomo.

POTREBBE ANCHE INTERESSARTI >>> Chip neuromorfici Intel | L’intelligenza artificiale non sarà più la stessa

La giustizia ha bisogno di essere snellita e informatizzata, è vero. Ma un p.m. robot ci pare, per adesso, un po’ troppo! Un’AI è per definizione un’intelligenza che cerca di imitare quella umana, uno strumento accessorio, per il giudizio: fa quindi davvero strano pensare a un’AI che giudica, senza filtri, l’agire umano. Soprattutto perché il giudicare non si risolve nella mera applicazione di un codice. Si tratta di qualcosa di molto più complesso e delicato.