|
Algoritmi, predittivi o meno, in ambito giudiziario ve ne sono di diversi tipi e funzioni. Finora Avvocato4.0 si è occupato di tools e piattaforme che utilizzano Intelligenza artificiale nei settori civile, amministrativo e societario, per realizzare ricerche approfondite su testi giuridici, risolvere controversie on line, fornire supporto alla redazione di atti e sentenze, fare analisi predittive di provvedimento giudiziari o di valutazioni economiche, realizzare due diligence sui contratti, progettare chatbot per fornire informazioni retail sui procedimenti. |
Con i software predittivi della commissione di crimini la guerra ai misfatti si fa informatica.
Apriamo un secondo capitolo sugli algoritmi predittivi (dopo quello sulla Giustizia predittiva leggi Giustizia predittiva: il progetto (concreto) della Corte d’appello di Brescia, L’indiscreto fascino della giustizia predittiva: il decalogo dei giuristi italiani e Giustizia predittiva: in Francia online la prima piattaforma europea) basati su sistemi di intelligenza artificiale applicati ai domini ai quali sono interessati avvocati e magistrati e ci dedichiamo in questo articolo ai software di previsione della commissione di crimini in determinati contesti.
Citare (nuovamente) Minority Report, mi rendo conto, è veramente scontato ma mai come questa volta assolutamente pertinente, considerando che gli strumenti di cui andremo a parlare non solo sono realtà ma sono di uso nelle centrali di polizia di diverse città italiane.
KeyCrime, X Law, Gianos sono le esperienze già attive in Italia, e chissà quante ancora si stanno sperimentando e non hanno però avuto ancora l’onore della cronaca!
Polizia predittiva, di cosa si tratta
La Carta etica sull’applicazione della Intelligenza artificiale nei sistemi giudiziari (del Cepej) segnala l’aumento, sia in Europa che in Usa, di tools investigativi predittivi della commissione di reati, che sono utilizzati dai corpi di polizia a fini preventivi. Sappiamo già delle “no fly list” antiterrorismo o di sistemi per la prevenzione del riciclaggio di denaro sporco (segnalo che una lista completa è rinvenibile nel volume di Ales Zavrsnik, Big data, Crime e social control).
Per lo più, la maggior parte di questi sistemi individua il quando e il dove saranno commessi alcuni tipi di crimine, evidenziando “hot post” in una mappa geografica, ciclicamente aggiornata e controllata dai funzionari di polizia. Questo procedimento è chiamato di “predictive criminal mapping”. La maggior parte dei software in uso si basa su prove storiche relative alla localizzazione del crimine, come i rapporti di polizia, ma sono state testate anche nuove tecnologie più potenti che combinano vari dati e da diverse fonti. “Questi strumenti, che hanno tassi di efficacia molto persuasivi, si afferma anche che abbiano effetti deterrenti sulla commissione dei reati nelle aree circostanti i punti caldi, portando ad un’opinione positiva delle politiche pubbliche”, evidenzia il Cepej.
I fattori di rischio dei tools di polizia predittiva
I loro fattori di rischio sono rinvenibili nei cosiddetti “circoli viziosi” o nelle “profezie che si auto avverano”: i quartieri considerati a rischio attirano più attenzione della polizia e quindi la polizia rileva più crimine, il che porta a un’eccessiva sorveglianza sulle comunità residenti. Vi è anche il rischio di “tirannia dell’algoritmo” che potrebbe minimizzare o addirittura sostituire progressivamente il giudizio umano.
C’è da dire tuttavia che, nella scala di ammissibilità di tools predittivi nell’ambito giudiziario stilata dal Cepej in ordine al livello di “pericolosità” rispetto al rispetto dei diritti fondamentali, i tools di polizia predittiva sono considerati tra quelli che è possibile utilizzare ma con cautele metodologiche approfondite.
Tratti distintivi con i tools predittivi processuali
I tools predittivi utilizzati nel processo penale, che per il Cepej richiedono “most extreme reservations”, sono quelli che supportano i giudici nell’assunzione di certe decisioni. Per esempio, Compas (l’algoritmo oggetto della causa Loomis vs Winsconsin Court; ne abbiamo parlato diffusamente in Giustizia predittiva: il progetto (concreto) della Corte d’appello di Brescia) e HART (Harm Assessmen Risk Tool), sperimentato nel 2013 in Gran Bretagna per il calcolo della recidiva utilizzando trenta fattori alcuni dei quali non correlati al crimine commesso ma a fattori personali.
|
I reati predatori in Italia |
||
|
1° agosto 2016 – 31 luglio 2017 |
1° agosto 2017- 31 luglio 2018 |
|
|
RAPINE |
31.904 |
28.390 |
|
FURTI |
1.302.636 |
1.189.499 |
|
Fonte: Ministero dell’Interno |
||
Polizia predittiva, i software in uso in Italia
Da diverso tempo, alcuni rappresentanti dei servizi di pubblica sicurezza si sono impegnati nella progettazione di sistemi intelligenti che coadiuvino le forze di polizia nella opera di prevenzione e controllo del territorio contri i crimini tipici della vita cittadina, come i reati predatori.
Negli ultimi anni, complice anche lo sviluppo della tecnologia e della informatica, sono stati realizzati in particolate due software, oggi in uso in diverse città: Key Crime, utilizzato dal 2009 nella Questura di Milano; e XLaw, che si sta sperimentando in un territorio più ampio: dapprima Napoli, e poi Prato, Salerno, Venezia, Modena; da inizio anno anche a Parma. La sperimentazione, in realtà, non riguarda più il software ma il protocollo di utilizzo da parte dei funzionari di pubblica sicurezza. Vediamo i due tools più da vicino.
Key Crime (keycrime.com). E’ un sistema “esperto” realizzato e brevettato da Mario Venturi, un ex dipendente della Polizia di Stato ora imprenditore e Ceo della sua start up che si propone di sviluppare e commercializzare il prodotto a livello globale (Milano, il programma anti rapine diventa una startup della sicurezza). Sin dal 2007 Venturi aveva deciso di raccogliere e confrontare i dati investigativi (fino a 11mila variabili), per arrivare a prevedere il dove-quando e come sarebbero potute avvenire nuove rapine basandosi sullo studio del comportamento dell’uomo nelle serie criminali (KeyCrime software). Secondo la presentazione del tool sul sito proprietario, la proprietà principale è quella di coniugare l’approccio analitico investigativo, che di ogni rapina registra tutti gli elementi utili, compreso il profilo comportamentale dell’autore del crimine alla matematica e statistica per analizzare quegli stessi dati.
Abbiamo chiesto proprio a Venturi di illustrare il metodo: “In premessa è importante specificare che i tools che sono definiti genericamente di polizia predittiva sono di natura diversa. Keycrime si basa esclusivamente ed unicamente sui dati investigativi, raccolti sul luogo dell’accadimento del fatto criminoso, dai testimoni, siano essi vittime o spettatori dell’evento e dalle registrazioni delle telecamere di videosorveglianza. Sono gli stessi dati che ogni investigatore raccoglie per identificare nel suo insieme le caratteristiche dell’azione criminosa, compreso il profilo comportamentale del reo. La macchina propone come output il crime linking (richiama una serie criminosa già esistente) o individua una nuova serie criminosa. A Milano abbiamo utilizzato per un decennio una versione “custom”; ora reingegnerizzata e potenziata dall’introduzione dell’ AI e machine learning per un impiego più ampio”.
Su nostra richiesta, Venturi sottolinea che non si tratta di profilare presunti colpevoli ma che “l’output di KeyCrime è una indicazione probabilistica sull’evoluzione di una serie criminale isolata e proposta dall’applicativo. Più la serie è “caratterizzata, maggiore sarà la capacità previsionale. E questo ha effetti sulla organizzazione del servizio di controllo del territorio: in caso di maggiore incertezza sarà allertata la pattuglia in ronda; in casi di maggiore pericolosità si formeranno squadre ad hoc con compiti anche repressivi, di cattura”. Tra i vantaggi enumerati nel sito, oltre quelli collegati alla sicurezza del territorio, viene evidenziata anche la riduzione dei costi per l’autorità giudiziaria, che, in funzione del vincolo di continuazione del reato, ha la possibilità di unificare diversi fascicoli processuali, riportandoli ad un unico procedimento penale. Ma al momento non disponiamo di dati riguardo l’andamento processuale di questi casi, pur se Venturi evidenzia che il sistema di Keycrime è un supporto investigativo che non si sottrae alla verifica probatoria in giudizio “dove l’indizio per avere peso dovrà trasformarsi in prova nel dibattimento”.
La progettazione si è avvalsa non solo della esperienza investigativa delle forze di polizia, ovviamente di ingegneri informatici, matematici, statistici ma anche di sociologici e psicologi, ed è stato validato da una ricerca condotta dall’Università di Essex (Imagine being able to predict a crime in the future). L’idea è anche quella di sviluppare il software per l’applicazione in altre aree geografiche e ampliando l’analisi a reati quali i furti, truffe e la violenze sessuali.
Ecco i risultati che vengono riportati sul sito ufficiale di KeyCrime (fonte Questura di Milano).
XLAW. Sembrerebbe simile a Keycrime ma non lo è, perché lavora con un algoritmo euristico, cioè su base probabilistica. Anche questo sistema è frutto della esperienza dell’ispettore di polizia Elia Lombardo, ed ha vinto il premio Smau 2018. Lombardo è partito da due considerazioni: a) per prevenire un crimine bisogna predirlo; i crimini predatori urbani si compiono in luoghi precisi e in un arco temporale breve, per poter trarre il massimo profitto dalla serialità. Il luogo ha sempre due caratteristiche: 1) la prima è di tipo oggettivo: presenza di prede e target appetibili; 2) la seconda è di tipo soggettivo: presenza di vie di fuga, rifugi e copertura criminale del luogo.
Si creano così quelle che Lombardo chiama “riserve di caccia”, al cui interno esistono inoltre fasi e operazioni regolari, come entrata e uscita da abitazioni, uffici, scuole, mercati, esercizi commerciali, arrivo di treni, autobus, navi da crociera ecc. Il sistema sovrappone i crimini a queste dinamiche socio economiche, estraendo sequenze e avvenimenti in concomitanza di queste fasi e operazioni regolari.
L’AI di XLaw si basa sull’ acquisizione di caratteristiche socio ambientali del territorio in esame e dei delitti quotidiani consumati e scoperti dalle denunce di cittadini o da altre informazioni di Polizia o di attività di prossimità; lavora ricercando modelli criminali che si configurano sul territorio in maniera ciclica e stanziale, e previene la singola e regolare distribuzione spazio temporale. Il sistema è stato validato dall’ università Federico II e la Parthenope di Napoli.
La soluzione, grazie ad un sistema geografico informativo (GIS) dà al poliziotto una mappa di rischio che raffigura ogni 30 minuti i luoghi e gli orari precisi in cui si potrà consumare un crimine, con un anticipo anche di due ore: descrivendo il tipo di crimine, il modus operandi dell’autore, il tipo di preda e di target.
XLAW è stato sperimentato a Napoli dal 2004 su alcune aree urbane e dal 2011 su tutto il territorio, in comodato d’uso gratuito. Grazie al lungo impiego, ha raggiunto il massimo livello di maturità delle nuove tecnologie (TRL9 sulla scala di riferimento internazionale), ed è stato esportato in altre città quali Prato, Salerno, Venezia. Da inizio anno è in sperimentazione a Parma.
I risultati sono stati forniti in una intervista che Lombardo ha rilasciato alla RAI e che riporto nella tabella:
|
NAPOLI |
PRATO |
|
Reati – 22% |
Reati - 39% |
|
Arresti + 24% |
Arresti + 54% |
S.O.Cr.A.TE.S. Questi due tools, abbiamo visto, sono operativi. Ma altri studi e sperimentazioni sono state condotte. Per esempio S.O.Cr.A.TE.S. E’ un progetto di ricerca di intesa fra il Ministero della Difesa ed il Dipartimento Pari Opportunità e in collaborazione col DAP per la fase di ricerca scientifica con la partecipazione della popolazione detenuta, che si è svolto tra il 2008 e il 2010. La finalità era quella di costruire una matrice statistico-criminologica di criminal profiling, rappresentativa del modello comportamentale degli autori di reati efferati, violenti, senza apparente motivo e a sfondo sessuale, nonché le variabili significative che lo legano alla scena del delitto.
L’obiettivo era quello di fornire uno strumento di supporto alle indagini delle forze di polizia e alle decisioni dell’autorità giudiziaria riguardo alle misure cautelari ed ai benefici penitenziari.
Da questa spiegazione, rivenuta sul sito del ministero della Giustizia (che però ha eliminato il comunicato stampa al link), sembrerebbe simile a Compas- il sistema americano oggetto della nota sentenza Loomis vs Wisconsin.
La ricerca, svolta dall’Università di Palermo (resp. scientifico V. Caretti ) in collaborazione con l’Ufficio Studi del DAP, ha reso possibile validare su un campione di popolazione detenuta italiana il test PCL-R (Hare Psychopathy Cheklist – Revised: 2° edition) uno strumento clinico considerato gold standard per la misurazione della psicopatia in ciascuna delle sue quattro dimensioni: interpersonale affettivo stile di vita antisociale
“Lo studio di validazione italiano della PCL-R ha dimostrato che questo test è uno strumento affidabile per la misurazione della psicopatia, abbastanza agile e può essere applicato in diversi ambiti, in primis in ambito giuridico e peritale, ma anche per la maggiore conoscenza e gestione dei detenuti nel contesto carcerario, e per i soggetti psichiatrici nelle strutture per la esecuzione delle misure di sicurezza”.
Pur avendo chiesto più info al Ministero della Giustizia sull’eventuale prosieguo, non abbiamo ricevuto risposta.
HCR 20 versione 3 (hcr-20.com). Viene presentato come un software per il risk assessment e management di fatti violenti. La versione 3 dell’HCR-20 è l’ultima versione di una serie completa di linee guida professionali per la valutazione e la gestione del rischio di violenza basate sul modello di “Judgment Structured Professional” (SPJ).
La valutazione del rischio di violenza, chiamata anche valutazione della minaccia, è una parte fondamentale della fornitura di servizi in ambito sanitario, servizi sociali, giustizia criminale e ambienti professionali. È praticato da persone provenienti da diversi contesti, tra cui psicologi, psichiatri, infermieri, assistenti sociali, terapisti occupazionali e riabilitativi, ufficiali di correzione istituzionali e comunitari, ufficiali di polizia e di pubblica sicurezza, manager delle risorse umane e funzionari di sicurezza aziendali e privati. Ciò che unisce questi diversi professionisti è il desiderio di identificare i casi in cui le persone rappresentano un rischio di violenza e determinare quali misure sono necessarie per proteggere la sicurezza pubblica. L’HCR-20 è stato sviluppato per aiutare le decisioni strutturate sul rischio di violenza.
Il sito però non sembra aggiornato e non risulta che sia arrivata in Italia una traduzione della ricerca.
Gianos. In questa carrellata di tools di indagini preventive non potevamo mancare di citare Gianos, il software utilizzato dal 90% delle banche italiane sui dati della propria clientela per individuare eventuali indici di anomalia che indicano la probabilità di riciclaggio di denaro.
Anche in questo caso ci troviamo di fronte ad una nutrita base di conoscenza, difatti le anomalie sono elaborate da centinaia di regole prefissate, messe a punto da un comitato interbancario di esperti sulla base di istruzioni operative emanate della Banca d’Italia. Ci sono regole comuni a tutte le banche ed altre che ciascun intermediario può personalizzare in relazione alle proprie specificità. Ogni regola è sottoposta a lunghe sperimentazioni.
Gianos opera dal 1994 e nelle fasi di progettazione tutte le associazioni interbancarie parteciparono alle attività di studio e sperimentazione. Il programma è continuamente aggiornato, ne sono state fatte 19 versioni.
I limiti ai sistemi di polizia predittiva
In Italia non si è sviluppato un vero e proprio dibattito sull’utilizzo di questi tools e sui loro limiti, anche di rispetto dei diritti fondamentali delle persone. Non è dato sapere, al momento, se il loro utilizzo sia stato contestato dagli avvocati difensori delle persone sospette (caso diverso è se la predizione ha permesso di fermare il reo in flagranza di reato) e per quali eventuali ragioni.
Come argine normativo viene in mente la direttiva 680/2016, attuata con decreto delegato 51/2018 di cui Avvocatoquattropuntozero ha parlato in Giustizia predittiva: niente profilazione per assumere provvedimenti penali.
Il legislatore europeo, pur in un quadro di promozione del ricorso al profiling e ai tools di elaborazione e combinazione di dati in fase di investigazione, specifica che «una decisione basata unicamente su un trattamento automatizzato, compresa la profilazione, che produca effetti giuridici negativi o incida significativamente sull’interessato [debba essere] vietata». Unica eccezione è la presenza di un’autorizzazione da parte del diritto dello Stato membro o dell’Unione europea, previa concessione di adeguate tutele per l’interessato, tra cui l’ineliminabile «diritto ad ottenere l’intervento umano da parte di un titolare del trattamento».
Paolo Del Checco, esperto informatico e consulente di digital forensics, esprime qualche dubbio riguardo a questi tools: “Vedo molte criticità in sistema che prevedono la commissione di reati fisici, cioè fuori da contesti informatici. Nel digitale invece i risultati sono più evidenti e frequenti perché analizzando in rete e dai device le abitudini di soggetti più o meno sospetti, anche con sistemi non invasivi, è possibile anche prevedere la commissione di reati. Accade spesso nella lotta al terrorismo, per esempio”.
In questa breve ricostruzione manca proprio la voce degli avvocati. Abbiamo chiesto all’Unione nazionale delle Camere degli avvocati penalisti, ma per ragioni diverse non abbiamo avuto il riscontro atteso.
(Altalex, 6 maggio 2019. Articolo di Claudia Morelli)
Tutti i diritti del presente articolo sono riservati. Fonte: Altalex