Oltre Turing
In un'aula di giustizia, da qualche anno, accanto al fascicolo può comparire un numero. Un punteggio di rischio, prodotto da un sistema di elaborazione delle informazioni addestrato su decine di migliaia di casi passati, che stima la probabilità che una persona commetta un nuovo reato. Il fascicolo racconta una storia; il punteggio riassume una popolazione. Il fascicolo ha un nome e un volto; il punteggio ha un intervallo di confidenza. Le tre discipline che attraversano questo libro convergono qui come in nessun altro luogo: i big data, perché il punteggio nasce da archivi giudiziari che sono tra i più vasti e delicati depositi di dati che una società produca; i sistemi informativi, perché la giustizia contemporanea è essa stessa un grande sistema informativo, fatto di registri, fascicoli telematici e banche dati che devono garantire integrità, tracciabilità e accesso regolato; i dispositivi intelligenti, perché il corpo digitale è ormai entrato in aula, dal braccialetto elettronico che rende eseguibile una misura meno afflittiva della detenzione, fino ai dati dei dispositivi indossabili per la salute e il benessere che le parti offrono come elementi di prova. Questa serie ha attraversato la sanità, l'impresa, il corpo, la mente e persino i teatri di conflitto ponendo sempre la stessa domanda: chi è il soggetto? In nessun altro territorio la risposta pesa quanto qui, dove ciò che è in gioco non è un'offerta commerciale né una diagnosi da confermare, ma la libertà personale e l'onore di un essere umano.
Questo capitolo tratta la materia con lo stesso rigore ingegneristico dei precedenti, ma con un registro più pacato: la delicatezza dell'oggetto lo esige. E lo fa da una prospettiva precisa, che conviene dichiarare subito. Qui non si processa nessuno: non la tecnologia, che è strumento e come strumento va governata; non l'umanità di chi accusa, di chi difende e di chi giudica, che è la risorsa più preziosa dell'intero edificio; non le istituzioni, italiane e mondiali, che di quell'edificio sono le colonne. La tesi è un'altra, ed è duplice. Primo: la colpa appartiene all'ordine del giudizio, non all'ordine del calcolo, e nessun perfezionamento statistico può trasferirla dall'uno all'altro. Secondo: il giudizio umano, proprio perché umano, è esposto a condizionamenti involontari - di tutti, in ogni direzione, nulla escluso - e la civiltà giuridica è, da secoli, la più raffinata architettura di custodia del giudizio che la storia conosca. La domanda ingegneristica corretta non è dunque se l'algoritmo possa sostituire il giudice, ma se aiuti o disturbi quella custodia.
1. Il punteggio di rischio come artefatto ingegneristico
Dal punto di vista dell'ingegneria dei sistemi di elaborazione delle informazioni, uno strumento di valutazione del rischio di recidiva è una pipeline riconoscibile, ed è, nella sua essenza, un problema di big data: acquisizione di variabili (età, precedenti, contesto socio-ambientale, risposte a questionari strutturati), feature engineering, addestramento supervisionato su esiti storici, calibrazione, restituzione di un punteggio ordinale. Le cinque V incontrate nel capitolo sul dato e il soggetto vi compaiono tutte, e la più fragile è ancora una volta la veracità: il dato giudiziario storico è un archivio amministrativo, non uno specchio della realtà morale. Fin qui, un artefatto ingegneristico come quelli incontrati nei capitoli precedenti: si specifica, si versiona, si valida.
Le proprietà critiche emergono, come sempre in questa serie, alla soglia, nel punto in cui il numero incontra la persona. La prima è di natura statistica: il punteggio è un enunciato su una classe, non su un individuo. Afferma che, tra le persone con profili simili, una certa frazione ha avuto in passato un certo esito; non afferma nulla di necessario sul singolo caso, che resta, nella misura non nulla già incontrata nel capitolo sul dato e il soggetto, fuori distribuzione rispetto a qualunque insieme di addestramento. Nelle aule di giustizia sta scritto che la legge è uguale per tutti, ed è uno dei vertici della civiltà giuridica. Ma l'uguaglianza davanti alla legge non è mai stata interscambiabilità delle persone: in natura non esistono due fili d'erba identici, e non sono mai esistiti due imputati uguali. I Vangeli custodiscono la stessa verità con un'immagine ancora più audace: «anche i capelli del vostro capo sono tutti contati» (Lc 12,7) - contati perché ogni singolo è prezioso, non perché sia riducibile a un numero. Il punteggio tratta classi di casi; il giudizio tratta irripetibili. La statistica cerca i simili; la giustizia custodisce gli unici. L'uguaglianza giuridica esiste precisamente per questo: per garantire che ogni irripetibile riceva le stesse garanzie, non per ridurre la persona alla sua classe statistica.
La seconda proprietà è di natura semantica: il dato storico registra proxy, non essenze. Gli archivi codificano arresti, denunce, condanne - eventi amministrativi che dipendono anche da dove e come si è cercato - e non l'inclinazione morale di una persona. Un modello addestrato su quei dati apprende la geografia degli accertamenti insieme alla fenomenologia dei reati, e le restituisce entrambe, indistinguibilmente, sotto forma di rischio. La terza è di natura decisionale: ogni soglia applicata al punteggio genera la sua matrice di confusione, e in questo dominio l'asimmetria dell'errore - che il capitolo sul messaggio e il bersaglio ha incontrato nella sua forma estrema - ha una qualità che nessuna metrica aggregata cattura: il falso positivo è una persona che subisce una restrizione ingiustificata; il falso negativo è una vittima potenziale non protetta. Nessuno dei due errori è un numero, ed entrambi reclamano qualcosa che il modello non possiede: qualcuno che risponda.
La letteratura empirica invita del resto alla sobrietà. Il dibattito internazionale aperto dalle inchieste giornalistiche sugli strumenti attuariali di recidiva (Angwin et al. 2016) ha stimolato la ricerca che ha poi dimostrato formalmente come le diverse definizioni matematiche di equità siano tra loro incompatibili quando i tassi di base differiscono tra gruppi (Chouldechova 2017); e studi controllati hanno documentato che l'accuratezza predittiva di uno degli strumenti più diffusi risulta comparabile a quella di valutatori umani privi di preparazione specifica (Dressel e Farid 2018). Non è un argomento per demonizzare lo strumento; è un argomento per dimensionarne le pretese. Un punteggio ben calibrato può informare. Ciò che non può fare, per costruzione, è giudicare.
C'è un modo esatto per dire la differenza che attraversa tutto il capitolo, ed è il linguaggio delle variabili. Il punteggio è, in senso tecnico, una funzione riproducibile: fissati i dati in ingresso, restituisce lo stesso numero oggi, domani e in qualunque aula, come un'equazione ben scritta. È la sua forza, ed è un'oggettività autentica - la stessa delle cose matematiche, che non dipendono da chi le guarda. Il giudizio umano è una funzione di un'altra specie: dipende da innumerevoli variabili - la formazione, l'esperienza, il vissuto, il punto di vista da cui ciascuno guarda la realtà - e per questo due commissioni ugualmente competenti, due giudici ugualmente onesti, possono pesare lo stesso fatto in modo non identico. Dirlo non è un'accusa a nessuno: è la descrizione di che cosa il giudicare è, quando a giudicare sono persone e non equazioni. Ma la conclusione non è quella che il tecnocrate si aspetterebbe - sostituire la funzione dipendente con quella riproducibile - perché i due oggetti non sono della stessa specie: il punteggio è oggettivo su classi di casi; il giudizio è responsabile su persone irripetibili. E l'oggettività senza responsabilità non è ancora giustizia: è soltanto aritmetica.
2. Il giudizio come atto umano: i condizionamenti involontari e l'architettura che li custodisce
Qui il discorso deve farsi più delicato, e più onesto. Sarebbe consolante contrapporre al limite dell'algoritmo un giudizio umano immune da limiti. Non è così, e la scienza cognitiva lo documenta da mezzo secolo: la mente umana, in ogni professione e a ogni livello di eccellenza, è esposta a condizionamenti involontari. L'ancoraggio numerico descritto da Tversky e Kahneman (1974) opera anche nelle valutazioni esperte: esperimenti condotti con magistrati e giuristi di professione hanno mostrato che valori numerici presenti nel contesto - persino se dichiaratamente casuali - possono orientare, a insaputa di chi decide, la quantificazione di una richiesta (Englich, Mussweiler e Strack 2006). La disponibilità mediatica di un caso, la sequenza con cui le informazioni vengono presentate, il senno di poi che riscrive la prevedibilità degli eventi, la fatica cognitiva di ruoli che esigono centinaia di decisioni: sono fattori terzi che agiscono su chiunque - giudici, pubblici ministeri, avvocati, periti, testimoni, giurati - non per difetto di virtù, ma per il fatto stesso di essere umani. E agiscono in entrambe le direzioni, nulla escluso: possono inclinare verso la severità come verso l'indulgenza, a carico come a discarico. Riconoscerlo non è un atto d'accusa contro nessuno; è il punto di partenza di ogni epistemologia adulta del giudicare.
C'è un'immagine ingegneristica che rende visibile la ragione profonda di questa condizione. Due moduli di memoria dello stesso modello sono identici e intercambiabili: se ne sostituisce uno, e il sistema non se ne accorge, perché rispondono alla stessa specifica e non portano con sé nulla che la specifica non preveda. Non è mai esistito, e non esisterà mai, un essere umano sostituibile con un altro. In chi giudica, in chi accusa, in chi difende e in chi è giudicato agiscono, di nuovo, quelle innumerevoli variabili dipendenti che la prima sezione ha nominato - la storia personale, la memoria, la stanchezza, le convinzioni maturate in una vita - e che nessuna scheda tecnica potrà mai elencare. È la stessa unicità che la sezione precedente ha riconosciuto nell'imputato: vale, allo stesso titolo, per ogni altro attore del processo. Per questo i pregiudizi - di tutti, in ogni direzione - possono condizionare senza che nessuno lo voglia: non è una colpa, è la condizione umana. E per questo un'aula di giustizia non è un circuito che elabora casi uguali, ma un incontro di irripetibili che la procedura ha il compito di proteggere.
Ed è qui che il discorso si rovescia, perché la civiltà giuridica questo lo sa da molto prima della scienza cognitiva. L'intero edificio del processo - italiano, europeo, mondiale - può essere letto, con occhi da ingegnere, come la più antica e raffinata architettura di mitigazione dell'errore mai progettata: un sistema fault-tolerant, direbbe un progettista, costruito sapendo che ogni singolo componente può sbagliare. Il contraddittorio obbliga ogni ipotesi a sopravvivere alla sua confutazione; la terzietà del giudice separa chi accusa da chi decide; la collegialità e i gradi di giudizio sono ridondanza deliberata contro il guasto singolo; l'obbligo di motivazione è tracciabilità della decisione prima che gli ingegneri inventassero la parola audit trail; la prescrizione di giudicare oltre ogni ragionevole dubbio è una soglia di confidenza fissata dalla legge a protezione del più debole. In questa architettura l'avvocato non è un ostacolo alla verità ma una sua condizione: la funzione difensiva è il meccanismo di correzione che impedisce all'ipotesi accusatoria di verificarsi da sola. È la lezione che l'Italia ha consegnato al mondo con Beccaria, e che la migliore dottrina contemporanea chiama garantismo (Ferrajoli 1989): non fiducia ingenua nell'uomo, ma fiducia matura nelle procedure che l'uomo si è dato conoscendo sé stesso. Il giudice che si sottopone a vincoli, motiva, accetta di essere riformato in appello, è la figura più alta di questa consapevolezza: un decisore che, a differenza di qualunque modello, sa di poter sbagliare e ha scelto di operare dentro un'architettura che lo custodisce.
Se questo è vero, il punteggio algoritmico va valutato per ciò che è: l'ultimo arrivato tra i fattori terzi che possono condizionare il giudizio. La letteratura sull'automation bias (Parasuraman e Manzey 2010), già incontrata nei capitoli sanitari e militari di questa serie, mostra che l'output di un sistema automatico tende a esercitare un'autorità percepita superiore alla sua reale affidabilità, proprio perché si presenta con la veste asettica del numero. Un punteggio di rischio introdotto senza cautele non solleva il giudizio umano dai suoi condizionamenti: ne aggiunge uno, potente e travestito da oggettività. La stessa architettura che protegge il processo dall'ancoraggio di un titolo di giornale deve dunque proteggerlo dall'ancoraggio di un numero in fascicolo - ed è esattamente ciò che il diritto più recente ha cominciato a fare.
3. Il pregiudizio digitale: la memoria che non dimentica e il corpo che testimonia
C'è poi un condizionamento di nuova generazione che agisce fuori dall'aula, prima e dopo il processo, e che questa serie è particolarmente attrezzata a riconoscere: il pregiudizio digitale. I capitoli sul dato e sul profilo hanno mostrato che il record non dimentica: ciò che è stato scritto resta interrogabile, ricombinabile, riemergibile. Applicata alla giustizia, questa proprietà tecnica produce un effetto che nessun legislatore aveva previsto: l'accusa diventa perpetua per architettura. Un'iscrizione, un arresto, un rinvio a giudizio vengono indicizzati, condivisi, commentati; l'eventuale assoluzione, anni dopo, genera una frazione minima di quella visibilità. I sistemi di raccomandazione - che come si è visto nel capitolo sul cliente e il profilo ottimizzano l'engagement, non la completezza - amplificano il picco emotivo dell'accusa e ignorano la coda silenziosa del proscioglimento. Il risultato è una pena non prevista da alcun codice: la condanna reputazionale permanente, eseguita da un'infrastruttura che non conosce né il dubbio né l'appello, e che colpisce l'innocente assolto con la stessa efficienza con cui archivia il colpevole.
Nel frattempo, un secondo flusso di dati è entrato in aula dalla porta dei dispositivi intelligenti per la salute e il benessere. Il braccialetto elettronico rende tecnicamente eseguibili misure meno afflittive della detenzione, ed è l'esempio più maturo di un dispositivo indossabile posto al servizio della proporzionalità. Ma sempre più spesso sono i dispositivi nati per il benessere - l'orologio che conta i passi, il sensore che registra il battito, la posizione - a essere offerti dalle parti come elementi di prova: il corpo digitale diventa testimone. Qui vale, trasposta, la lezione dei capitoli sanitari di questa serie: come il segnale non è il sintomo, così il dato non è la prova. Un tracciato di battito cardiaco acquisito da un sensore da polso porta con sé tutta l'incertezza metrologica incontrata nel capitolo sul sensore e la soglia - rumore, artefatti, calibrazione - e diventa prova soltanto attraverso il vaglio del contraddittorio, la perizia, la valutazione del giudice: cioè attraverso l'architettura umana che trasforma un numero in un fatto processuale. Il dispositivo registra; solo il processo accerta.
Il diritto europeo ha intanto aperto un varco contro la memoria che non dimentica, con la deindicizzazione e il diritto all'oblio (Corte di giustizia UE, causa C-131/12, 2014; art. 17 del Regolamento UE 2016/679), riconoscendo che la persona non coincide con la traccia più dolorosa che la rete conserva di lei. Ma la questione che interessa questo libro è più profonda della norma, ed è la differenza ontologica che l'epilogo enumera: l'uomo può pentirsi e cambiare; il dato no. Gli ordinamenti civili conoscono da sempre istituti che danno forma giuridica a questa verità - la riabilitazione, l'estinzione degli effetti penali, il tempo che restituisce una possibilità - perché presuppongono che l'essere umano ecceda ogni suo atto, incluso il peggiore. Il profilo digitale presuppone l'esatto contrario: che la persona sia la somma dei suoi record, congelata nell'istante più infelice della propria storia. Tra queste due antropologie non c'è mediazione tecnica possibile. C'è una scelta di civiltà, e va progettata.
4. La presunzione di innocenza come sistema ideale e le regole dell'era algoritmica
La presunzione di innocenza merita di essere guardata con gli occhi con cui un matematico guarda un sistema assiomatico: una costruzione la cui logica è perfetta, se applicata perfettamente. L'assioma è enunciato con nettezza dalle carte fondamentali: l'imputato non è considerato colpevole sino alla condanna definitiva (art. 27, secondo comma, della Costituzione italiana); ogni persona accusata è presunta innocente fino a quando la colpevolezza non sia legalmente provata (art. 6, paragrafo 2, della Convenzione europea dei diritti dell'uomo); e la direttiva (UE) 2016/343 ha esteso la tutela fino alla rappresentazione pubblica dell'accusato, chiedendo che le autorità si astengano dal presentare come colpevole chi non è stato ancora giudicato. Nel sistema ideale, il teorema che ne discende è limpido: fino alla decisione definitiva, la persona andrebbe considerata - e raccontata - come innocente, perché ogni grado di giudizio esiste precisamente perché il precedente può essere riformato.
Il divario tra il sistema ideale e la sua applicazione non va misurato con le polemiche, ma con i meccanismi - e sono i meccanismi descritti nei paragrafi precedenti: i tempi mediatici, che consumano il caso nelle prime quarantotto ore mentre il processo vive di anni; le architetture dell'attenzione, che remunerano l'accusa e non l'esito; la memoria digitale, che rende permanente ciò che il diritto vorrebbe provvisorio. Di fronte a questo divario, il legislatore dell'era algoritmica ha tracciato confini che questa serie riconosce come invarianti di progetto. Il Regolamento UE 2024/1689 vieta espressamente i sistemi che valutano il rischio che una persona commetta un reato sulla base della sola profilazione o dei soli tratti della personalità (art. 5); colloca i sistemi di intelligenza artificiale destinati all'amministrazione della giustizia tra quelli ad alto rischio (Allegato III), sottoponendoli ai requisiti di gestione del rischio, trasparenza e sorveglianza umana (articoli da 9 a 15); e con l'art. 14 esige che la decisione resti effettivamente nelle mani di chi giudica. È la stessa lezione del più noto caso di scuola internazionale in materia, State v. Loomis (Corte Suprema del Wisconsin, 2016): l'uso di un punteggio attuariale può essere ammesso soltanto con cautele stringenti, e mai come fattore determinante della decisione. Il quadro converge da ogni direzione verso un unico principio di architettura: l'algoritmo può informare il giudizio; non può, in nessun punto della pipeline, sostituirlo.
5. Il resto incalcolabile: la colpa si giudica, non si calcola
Alla fine del percorso, la ragione profonda di tutti questi confini si lascia dire con semplicità. La colpa - quella vera, quella che i codici chiamano dolo e colpa, imputabilità e capacità di intendere e di volere - presuppone ciò che nessun insieme di addestramento ha mai osservato: un soggetto libero, che avrebbe potuto agire altrimenti. Il punteggio conosce correlazioni tra passati; la colpa interroga una libertà. Per questo la colpa può essere espiata, perdonata, riscattata - e il punteggio no. Le grandi tradizioni che accompagnano questo libro convergono qui con una nettezza impressionante: la teshuvah ebraica, la metanoia cristiana, la tawba islamica dicono, in tre grammatiche diverse, la stessa verità antropologica - l'uomo non coincide mai con il suo atto, nemmeno con il peggiore, perché resta capace di ritorno. Un ordinamento che conosce la riabilitazione custodisce, laicamente, la stessa verità. Un'infrastruttura che congela la persona nel suo record la nega.
E per questo, in ultimo, il giudizio penale è il luogo dove la differenza che dà il titolo a questo libro si mostra senza veli. Il giudice ha un volto e giudica un volto: la responsabilità nasce, come insegna la riflessione sul volto già incontrata nel capitolo sul corpo, da quell'incontro che nessuna interfaccia replica. L'imputato che compare davanti al suo giudice non è un vettore di feature: è un essere umano nella condizione più esposta, che l'intera architettura del processo - il contraddittorio, il difensore, il dubbio ragionevole, la motivazione - esiste per custodire. In un sistema informativo per la giustizia, allora, la dignità dell'imputato e la presunzione di innocenza non sono vincoli aggiunti a valle: sono invarianti di progetto, dal primo commit. E il sistema, qui più che in ogni altro dominio attraversato da questa serie, deve sapere quando non sa - e fermarsi.
La legge è uguale per tutti: è scritto alle spalle di ogni giudice. Ma non esistono due fili d'erba uguali, e non esistono due persone uguali: l'uguaglianza della legge è stata inventata per proteggere questa differenza, non per cancellarla. La statistica cerca i simili; la giustizia custodisce gli unici. Il punteggio si può calcolare. La colpa si deve giudicare. Non sono, e non saranno mai, la stessa cosa. In un'aula di giustizia la riga di codice più importante è quella che tace: quella che restituisce la parola, e la decisione, a un essere umano che guarda un altro essere umano negli occhi. Lì, dove l'algoritmo si arresta, non finisce la giustizia: comincia. Perché anche in tribunale - soprattutto in tribunale - abita il resto incalcolabile.
Riferimenti richiamati nel testo: Tversky A., Kahneman D. (1974), Judgment under Uncertainty: Heuristics and Biases, Science; Englich B., Mussweiler T., Strack F. (2006), Playing Dice with Criminal Sentences, Personality and Social Psychology Bulletin; Angwin J. et al. (2016), Machine Bias, ProPublica; Chouldechova A. (2017), Fair Prediction with Disparate Impact, Big Data; Dressel J., Farid H. (2018), The Accuracy, Fairness, and Limits of Predicting Recidivism, Science Advances; Parasuraman R., Manzey D. (2010), Complacency and Bias in Human Use of Automation, Human Factors; Beccaria C. (1764), Dei delitti e delle pene; Ferrajoli L. (1989), Diritto e ragione. Teoria del garantismo penale; Vangelo di Luca 12,7; Corte di giustizia UE, causa C-131/12 (2014); Corte Suprema del Wisconsin, State v. Loomis (2016); Costituzione della Repubblica Italiana, art. 27; Convenzione europea dei diritti dell'uomo, art. 6; direttiva (UE) 2016/343; Regolamento (UE) 2016/679, art. 17; Regolamento (UE) 2024/1689, art. 5, articoli da 9 a 15, Allegato III.