di Alessandro Fusillo

Abstract

Il presente articolo analizza le implicazioni filosofiche, giuridiche e teologiche dei sistemi di giustizia predittiva basati sull’intelligenza artificiale. Partendo dall’assioma misesiano dell’azione umana e passando per il dibattito interno alla Scuola Austriaca tra Hayek, Hülsmann e Hoppe, si costruisce un parallelo con il principio romanistico da mihi factum, dabo tibi ius. L’analisi integra la concezione cattolica del peccato e della giustizia retributiva, la critica distributista allo stato servile (Belloc, Chesterton), il precedente storico delle leggi inglesi sul vagabondaggio, il parallelo storico con il lombrosismo e il racial profiling algoritmico, la questione del diritto penale delle intenzioni, dell’opacità algoritmica e del rischio di una thought police tecnologica.

PREFAZIONE: «DU MUSST VIEL, VIEL GENAUER WÜNSCHEN»

Nella fortunata serie di libri per l’infanzia Das Sams di Paul Maar, protagonista è un bizzarro esserino dai capelli rossi e dai puntini blu sul viso. Ciascun puntino è un desiderio: il Sams li esaudisce per il suo papà adottivo, il timido Herr Taschenbier. Il meccanismo è infallibile e implacabile: il Sams realizza esattamente ciò che gli viene chiesto, alla lettera, senza interpretazione e senza buon senso. Quando Taschenbier desidera un’automobile, questa compare nel salotto di casa; quando vuole trovarsi «su un tetto», si ritrova su quello sbagliato. Il Sams, paziente, ripete ogni volta: «Du musst viel, viel genauer wünschen» — devi desiderare in modo molto, molto più preciso.1
L’intelligenza artificiale assomiglia straordinariamente al Sams. È uno strumento potente, capace di realizzare desideri complessi — ma lo fa con la stessa fedeltà letterale e la stessa assenza di giudizio autonomo. La sua utilità dipende interamente dalla qualità della domanda: da chi formula il desiderio, con quali valori e con quali scopi. Un algoritmo addestrato a «ridurre la criminalità» realizzerà questo desiderio nel modo più efficiente che i dati gli suggeriscono — e se quei dati riflettono secoli di discriminazione strutturale, il desiderio sarà esaudito con precisione algoritmica a spese dei più vulnerabili.
Questo articolo si occupa di uno dei campi in cui il Sams algoritmico rischia di produrre i danni più gravi: la giustizia penale predittiva. L’argomento non è che l’intelligenza artificiale sia intrinsecamente malvagia — come non lo è il Sams. L’argomento è che chi formula il desiderio determina l’esito, e che quando tale desiderio è formulato da sistemi di potere opachi gestiti da pianificatori centrali – non importa se pubblici o privati – le conseguenze ricadono sui più deboli con la precisione di una macchina che non sa sbagliare, perché non sa “wünschen” (desiderare).

1. INTRODUZIONE: IL PARADOSSO DELLA CONDANNA ANTICIPATA
La giustizia predittiva — ossia l’utilizzo di algoritmi di machine learning per valutare la probabilità che un individuo commetta un reato futuro o recidivi — pone una sfida radicale alla struttura logica del giudizio giuridico occidentale. Il principio romanistico da mihi factum, dabo tibi ius esprime in forma assiomatica quella struttura: il giudice accerta un fatto determinato e vi applica la norma. Non esiste giudizio senza fatto; non esiste imputabilità senza atto.2
I sistemi di giustizia predittiva invertono questa struttura in modo radicale: non c’è fatto — c’è una distribuzione di probabilità; non c’è individuo — c’è una classe statistica; non c’è norma applicata — c’è un output algoritmico che pretende di sostituire il giudizio. Il caso più documentato è il sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilizzato in diversi stati americani per determinare la libertà su cauzione e la durata della detenzione.3
Una simile inversione non è una distorsione tecnica correggibile: è la conseguenza logica di una confusione categoriale tra fatto e previsione, tra actus e potentia, che ha radici profonde nella filosofia dell’azione, nella teologia morale e nella storia del diritto penale.

2. L’ASSIOMA DELL’AZIONE UMANA: MISES E L’IRRIDUCIBILITÀ DEL FUTURO
Il punto di partenza teorico più solido è l’assioma dell’azione umana di Ludwig von Mises: ogni essere umano agisce, ossia impiega mezzi scarsi per conseguire fini scelti, in un contesto di incertezza radicale sul futuro.4 Il che comporta la necessaria accettazione dei concetti di costo, fine, mezzo e della coppia causa ed effetto.
Tre implicazioni sono decisive per il nostro argomento. Prima: l’azione è sempre orientata al futuro, ma giudicabile solo a posteriori, sul fatto compiuto. Seconda: il futuro è radicalmente incerto, non perché la conoscenza sia insufficiente, ma perché l’agire umano è creativo — produce novità che non sono deducibili dallo stato presente del mondo. Terza: qualsiasi tentativo di predire l’azione individuale futura con certezza è categorialmente impossibile, non tecnicamente migliorabile.5
Il diritto classico rispecchia questa struttura ontologica: il da mihi factum non è una convenzione arbitraria — è la traduzione giuridica della struttura dell’azione umana. La norma si applica a ciò che è accaduto, non a ciò che potrebbe accadere, perché solo il fatto compiuto è ontologicamente determinato.

3. IL PROBLEMA DELLA CONOSCENZA: HAYEK E I LIMITI EPISTEMOLOGICI DEL CALCOLO
Friedrich August von Hayek svolge il secondo atto di questa critica sul piano epistemologico. Il fallimento della pianificazione centralizzata non dipende dalla mancanza di potenza computazionale: dipende dalla natura stessa della conoscenza umana, che è dispersa, tacita e contestuale.6
La conoscenza rilevante per l’azione non è aggregabile in un sistema centrale perché è incorporata nelle pratiche, nei giudizi situati, nelle aspettative individuali: si manifesta solo nell’azione stessa, nel momento in cui viene esercitata. Nessun algoritmo — per quanto potente — può catturare quella conoscenza prima che si manifesti.7
Il parallelo con la giustizia predittiva è immediato: il sistema pretende di conoscere ciò che un individuo farà, ma quella conoscenza non esiste ancora — è per definizione pre-fattuale. Hayek avrebbe riconosciuto in questo l’errore categoriale del costruttivismo razionalista: confondere il modello con la realtà.8

4. LA CRITICA RADICALE: HÜLSMANN E HOPPE TRA PROPRIETÀ E CALCOLO
Il contributo teoricamente più originale per il nostro argomento viene dall’interno della Scuola Austriaca, dalla critica che Jörg Guido Hülsmann e Hans-Hermann Hoppe rivolgono alla posizione hayekiana. Secondo questi autori, il problema del socialismo — e per estensione di ogni sistema di pianificazione centralizzata — non è primariamente un problema di conoscenza, ma un problema di struttura istituzionale: senza proprietà privata non esistono prezzi, e senza prezzi non esistono i dati stessi su cui calcolare.9
Hoppe radicalizza questa posizione in chiave etica: ogni sistema che pretende di agire su basi diverse dalla proprietà privata e dall’azione individuale passata commette una violazione logica prima ancora che etica — confonde ciò che è con ciò che potrebbe essere, ciò che l’individuo ha fatto con ciò che potrebbe fare.10
Il trasferimento alla giustizia predittiva è potente: l’algoritmo non fallisce solo perché non sa abbastanza o perché non sa come usare la conoscenza — fallisce perché presuppone una struttura in cui il fatto individuale futuro è già trattato come dato presente. È la dissoluzione della distinzione ontologica tra actus e potentia perpetrata con l’autorità della formalizzazione matematica.11

5. LA STRUTTURA TEOLOGICA DELL’IMPUTABILITÀ: PECCATO, VOLONTÀ E GIUSTIZIA RETRIBUTIVA

5.1 L’actus humanus e le condizioni dell’imputabilità

La teologia morale cattolica costruisce il giudizio su una struttura identica, mutatis mutandis, al principio romanistico: non esiste peccato senza actus humanus, ossia senza atto volontario compiuto da un soggetto libero e consapevole. Tre elementi sono costitutivi del peccato formale: la materia grave (l’oggetto dell’atto), la piena avvertenza (la conoscenza) e il deliberato consenso (la libertà della volontà).12
Il Catechismo è esplicito nell’elencare le condizioni che diminuiscono o annullano l’imputabilità: «l’ignoranza, l’inavvertenza, la violenza, il timore, le abitudini, gli affetti disordinati e altri fattori psichici o sociali».13
Tommaso d’Aquino costruisce una dottrina della giustizia retributiva che è reazione proporzionata a un male compiuto, non prevenzione di un male statisticamente probabile. La pena ha senso come risposta al fatto — come ristabilimento dell’ordine turbato da un atto libero e imputabile — non come gestione attuariale del rischio.14

5.2 Il rovesciamento predittivo della struttura imputativa

La giustizia predittiva dissolve sistematicamente tutti e tre gli elementi costitutivi dell’imputabilità cattolica. L’atto deliberato è sostituito da un profilo statistico; la libertà al momento dell’atto diventa irrilevante perché la «libertà futura» è già «calcolata»; la proporzionalità della pena al fatto lascia il posto alla gestione preventiva del rischio.
Si tratta di una regressione pre-morale. Il soggetto non è giudicato per ciò che ha fatto come persona libera, ma per ciò che è — per la sua natura statistica, la sua classe di appartenenza, la sua origine socioeconomica. È esattamente ciò che la rivoluzione cristiana dell’imputabilità personale aveva superato rispetto al determinismo naturalistico antico e alla responsabilità collettiva tribale.15

6. IL DISTRIBUTISMO: PROPRIETÀ, LIBERTÀ E STATO SERVILE

6.1 La diagnosi di Belloc

Hilaire Belloc, in The Servile State (1912), costruisce una delle diagnosi più lucide della deriva del capitalismo industriale: corporativo, mercantilista e costituito da posizioni di privilegio garantite dal potere statale a determinati imprenditori destinati per tale ragione ad un gigantismo sempre più marcato.16 Il capitalismo, non essendo in equilibrio stabile, tende verso uno di due esiti: il socialismo (proprietà collettiva) oppure lo stato servile, in cui la maggioranza lavora senza proprietà, garantita nella sussistenza ma privata della libertà reale.17
G.K. Chesterton radicalizza il punto in The Outline of Sanity (1926): una società in cui la proprietà è teoricamente accessibile a tutti ma di fatto concentrata nelle mani di pochi non è una società libera. È una società in cui la libertà formale maschera una servitù sostanziale.18
Entrambi si richiamano alla dottrina sociale cattolica: la Rerum Novarum di Leone XIII (1891) e la Quadragesimo Anno di Pio XI (1931) affermano il diritto naturale alla proprietà privata diffusa come condizione della dignità e della libertà della persona.19

6.2 La profilazione algoritmica come codificazione della povertà

La connessione con la giustizia predittiva è stringente. Se la proprietà è concentrata e le condizioni sociali del nullatenente sono strutturalmente precarie, un sistema di profilazione algoritmica tenderà inevitabilmente a codificare la povertà come fattore di rischio criminale. Non si tratta di una distorsione accidentale: è la traduzione matematica di una struttura sociale ingiusta.
L’algoritmo non crea il pregiudizio di classe — lo formalizza, lo automatizza e gli conferisce l’autorità dell’oggettività scientifica. Il nullatenente di Belloc diventa nel sistema predittivo il delinquente presunto per condizione, non per atto. La profilazione socioeconomica è il nuovo status criminis.20

7. IL PRECEDENTE STORICO: ENCLOSURES, VAGABONDAGGIO E DEPORTAZIONE

7.1 La genesi strutturale del pauperismo inglese

La sequenza causale parte dalle enclosures: la progressiva recinzione delle terre comuni, accelerata dall’Enclosure Act del 1773 e dalle centinaia di Private Enclosure Acts del XVIII e XIX secolo, privò i contadini inglesi dell’accesso alle terre comuni che aveva garantito la loro sussistenza per secoli. Non fu un processo naturale: fu una redistribuzione coattiva della proprietà verso l’alto, sancita da un Parlamento dominato dai proprietari terrieri.21
Il soggetto espulso dalla terra non era un criminale: era una vittima di una trasformazione socioeconomica pianificata dall’alto. Belloc, che ricostruisce esattamente questa sequenza in The Servile State, la identifica come l’origine storica della condizione servile moderna.22

7.2 La legislazione repressiva come risposta al problema strutturale

La risposta del diritto penale inglese alla questione del vagabondaggio è una delle più eloquenti illustrazioni storiche dello status criminis. Lo Statute of Laborers (1351) fu il primo tentativo di bloccare la mobilità dei lavoratori dopo la Peste Nera. Il Vagabonds Act (1494) istituì il vagabondo come categoria penale autonoma. L’Act for the Punishment of Sturdy Vagabonds and Beggars (1536) prevedeva fustigazione, marchio a fuoco e schiavitù temporanea. Il Transportation Act del 1718 sistematizzò la deportazione come risposta penale alla povertà.23
Il Vagrancy Act del 1824, rimasto in vigore fino all’abrogazione formale prevista dalla sezione 81 del Police, Crime, Sentencing and Courts Act del 2022 (entrata in vigore subordinata all’adozione di legislazione sostitutiva), è la prova della longevità eccezionale di questo meccanismo.24

7.3 La deportazione come giustizia predittiva ante litteram

La logica della deportazione è esattamente quella della giustizia predittiva applicata a una classe sociale: non ti condanno per ciò che hai fatto, ti rimuovo per ciò che sei e per il rischio che rappresenti per l’ordine sociale. Questa struttura logica è identica a quella della giustizia predittiva contemporanea. La differenza è solo tecnica: al posto del giudice di pace che valutava empiricamente la condizione del vagabondo, abbiamo un algoritmo che assegna un punteggio di rischio su base statistica.25

8. IL DIRITTO PENALE DELLE INTENZIONI E LA MORALE ALGORITMICA

8.1 Pensieri, parole, opere e omissioni: la mappa dell’imputabilità

La formula del Confiteor — pensieri, parole, opere e omissioni — non è casuale: rispecchia la topografia completa dell’agire morale. La teologia morale cattolica punisce tutte e quattro le dimensioni perché il giudizio divino è onnisciente e conosce l’intenzione. Il peccato interno (di pensiero o desiderio) è peccato reale — come insegna il Sermone della montagna («chiunque guarda una donna per desiderarla ha già commesso adulterio con lei nel suo cuore», Mt 5,28). Il diritto penale umano, invece, opera una riduzione strutturale deliberata: punisce solo ciò che è esteriormente verificabile e causalmente rilevante.26
Il diritto penale classico riduce l’imputabilità a due soli elementi della formula liturgica: le opere (il fatto tipico, fondamento necessario) e — entro limiti tassativi — le omissioni in posizioni di garanzia. I pensieri sono irrilevanti tranne come elemento soggettivo qualificante l’atto già compiuto (dolo). Il principio di Ulpiano cogitationis poenam nemo patitur (Digesto 48.19.18) sintetizza duemila anni di tradizione: nessuno è punito per i suoi pensieri.27

8.2 La giustizia predittiva come diritto penale dell’autore

La giustizia predittiva compie esattamente ciò che il diritto penale liberale aveva escluso: punisce intenzioni e atteggiamenti presunti, non atti compiuti. Il profilo algoritmico inferisce dai comportamenti passati un «carattere» o «disposizione» dell’individuo, da cui inferisce la probabilità di un atto futuro, su cui fonda una misura restrittiva. Ciò che viene punito non è un atto: è una struttura psicologica inferita algoritmicamente.
In senso tecnico, si tratta di un diritto penale dell’autore (Täterstrafrecht) — la forma più pericolosa di diritto penale, storicamente associata ai regimi totalitari. Il diritto penale dell’autore punisce il soggetto per ciò che è, non per ciò che ha fatto. Il nazismo lo teorizzò esplicitamente (il criminale come «tipo» biologico-razziale); lo stalinismo lo praticò con la categoria del «nemico di classe». La giustizia predittiva lo ripropone in forma statistica e tecnocratica, con l’ulteriore aggravante dell’opacità algoritmica.28

8.3 Chi sceglie i principi morali dell’algoritmo?

Ogni algoritmo di giustizia predittiva incorpora una scelta di valore su ciò che conta come «fattore di rischio». Quella scelta è opaca (i sistemi proprietari come COMPAS sono protetti da segreto industriale), non logicamente fondata e soprattutto non condivisa dai soggetti del controllo (i criteri sono scelti da sviluppatori privati, non da parlamenti), auto-referenziale (l’algoritmo si addestra su dati storici che riflettono le scelte punitive passate) ed esente da revisione individuale (l’algoritmo non può essere controinterrogato).
Nel caso Loomis v. Wisconsin (2016), la Corte Suprema del Wisconsin confermò una sentenza fondata su COMPAS, nonostante l’imputato non avesse potuto esaminare i criteri dell’algoritmo. La Corte Suprema federale rifiutò di esaminare il caso. Si tratta del precedente giurisprudenziale più significativo sulla questione: sancisce che il segreto industriale dell’algoritmo può prevalere sul diritto dell’imputato a contestare le basi della propria condanna.29
Cathy O’Neil ha mostrato sistematicamente come gli algoritmi di questo tipo non riducano i pregiudizi ma li formalizzino e li moltiplichino, attribuendo loro l’autorità dell’oggettività scientifica. Frank Pasquale ha documentato come l’opacità algoritmica costituisca un problema strutturale, non un’imperfezione tecnica correggibile.30

9. LOMBROSO, IL RACIAL PROFILING E IL RITORNO DEL CRIMINALE PER NATURA

9.1 La Scuola positiva e lo spostamento dal delitto al delinquente

La giustizia predittiva algoritmica non è la prima volta nella storia del diritto penale che il giudizio si sposta dall’azione criminosa alla personalità del criminale. Cesare Lombroso, con L’uomo delinquente (1876), fondò l’antropologia criminale su una tesi radicale: il delinquente è riconoscibile per anomalie somatiche di natura atavica — stigmate fisiche (conformazione cranica, prognazia, asimmetrie facciali) che rivelerebbero una predisposizione biologica innata al crimine. Il «delinquente nato» non è punito per ciò che ha fatto: è definito pericoloso per ciò che è, per la sua struttura biologica.31
La Scuola positiva — con Lombroso, Enrico Ferri e Raffaele Garofalo — propose un rovesciamento esplicito dei fondamenti della Scuola classica di Francesco Carrara: non più analisi del reato come fattispecie astratta e giudizio sulla responsabilità morale del soggetto libero, ma studio della «storia naturale dell’uomo delinquente» e commisurazione della pena non alla gravità del delitto bensì alla pericolosità sociale del reo, intesa come probabilità empiricamente rilevabile di commettere reati futuri. Ferri elaborò in parallelo la Sociologia criminale, negando il libero arbitrio e fondando il diritto penale sulla prevenzione deterministica del crimine.32
La dottrina lombrosiana fu avversata dalla tradizione cattolica proprio perché metteva in crisi il dogma del libero arbitrio: se il crimine è determinato biologicamente, non c’è responsabilità morale, né imputabilità, né redenzione possibile. La critica tomistica all’actus humanus come fondamento del giudizio convergeva con la critica giuridica classica: entrambe rifiutavano la riduzione dell’individuo a tipo naturale predeterminato.

9.2 Il racial profiling come lombrosianismo algoritmico

La connessione tra la teoria lombrosiana e la giustizia predittiva contemporanea non è soltanto storica: è strutturale. In entrambi i casi, il soggetto è classificato come pericoloso non per un atto compiuto ma per caratteristiche ritenute indicative di una tendenza al crimine. In Lombroso, quelle caratteristiche erano somatiche e biologiche; nella giustizia predittiva, sono statistiche e socioeconomiche. Ma la logica è identica: dalla natura (biologica o statistica) si inferisce il comportamento futuro; dal comportamento futuro si giustifica la misura restrittiva presente.
Il racial profiling — l’uso della razza o dell’etnia come fattore di rischio nelle pratiche di polizia e nel sistema penale — è la forma contemporanea più esplicita di questo nesso. Nel caso dei sistemi di giustizia predittiva, la razza non è necessariamente una variabile esplicita nel modello: è una variabile proxy incorporata nei dati storici su cui l’algoritmo è addestrato. Se il sistema penale ha storicamente arrestato e condannato in misura sproporzionata le minoranze, i dati riflettono questa storia; l’algoritmo la apprende come norma e la riproduce come previsione. Come ha documentato il Rapporteur speciale ONU sul razzismo, «il bias del passato produce bias nel futuro»: le variabili socioeconomiche (zona di residenza, livello d’istruzione, condizioni economiche) funzionano da proxy per la razza, perpetuando le discriminazioni storiche con il linguaggio neutro della statistica.33
Il circolo vizioso è stato documentato empiricamente: gli algoritmi di predictive policing aumentano la sorveglianza nei quartieri a maggioranza di minoranze; la maggiore sorveglianza produce più arresti; i maggiori arresti aggiornano il modello confermando la «pericolosità» del quartiere; il modello dirige ulteriore sorveglianza. Non si tratta di un errore tecnico correggibile: è una profezia che si autoavvera strutturalmente incorporata nella logica del sistema.34

9.3 Dalla biologia alla statistica: una continuità strutturale

La differenza tra Lombroso e la giustizia predittiva algoritmica è di linguaggio e di metodo, non di struttura logica. Lombroso misurava crani e catalogava stigmate fisiche; l’algoritmo calcola punteggi di rischio su variabili socioeconomiche. Ma entrambi compiono la stessa operazione fondamentale: inferiscono la pericolosità futura dalla natura presente del soggetto, saltando la mediazione dell’atto libero e imputabile. Entrambi pretendono l’autorità della scienza: Lombroso quella dell’antropologia positivista, l’algoritmo quella del machine learning.
La critica che la Scuola classica e la tradizione cattolica mossero a Lombroso si applica con uguale forza alla giustizia predittiva. Francesco Carrara aveva identificato con precisione il nucleo del problema: il diritto penale non può prescindere dalla imputabilità morale, ossia dalla capacità del soggetto di intendere e di volere al momento dell’atto. Spostare il giudizio dalla responsabilità per il fatto compiuto alla pericolosità per la natura o le caratteristiche del soggetto significa abbandonare il diritto penale e sostituirlo con una polizia biologica o statistica — con la differenza che quella di Lombroso era almeno esplicita nei suoi presupposti, mentre quella algoritmica si presenta come neutrale e oggettiva.35

10. LIBERTÀ DI PENSIERO, CHILLING EFFECT E THOUGHT POLICE

9.1 La libertà di manifestazione del pensiero e i suoi fondamenti

La libertà di pensiero e di espressione — art. 21 Cost. italiana; art. 10 CEDU; art. 19 del Patto internazionale sui diritti civili e politici del 1966 — presuppone che il pensiero sia irrilevante per il diritto finché non si traduce in atti. John Stuart Mill, nel fondamentale On Liberty (1859), enuncia il principio del danno: il potere può limitare la libertà di un individuo solo per prevenire un danno ad altri, non per gestire la sua probabilità statistica di comportamento futuro.36
La Corte Europea dei Diritti dell’Uomo ha ribadito con costante giurisprudenza che la libertà di espressione copre anche idee che «offendono, scuotono o disturbano»: il suo nucleo essenziale non può essere sacrificato in nome della sicurezza preventiva.37

9.2 Il chilling effect come danno costituzionale

La dottrina del chilling effect — elaborata dalla Corte Suprema americana a partire dagli anni Cinquanta — riconosce che la minaccia di conseguenze legali può sopprimere l’esercizio di diritti fondamentali anche senza una proibizione esplicita. Se la giustizia predittiva associa certi tipi di espressione, certi tipi di frequentazione o certi tipi di navigazione online a profili di rischio criminale, produce esattamente questo effetto: non vieta il pensiero, ma lo rende statisticamente costoso.38
Stefano Rodotà ha individuato con grande lucidità come il controllo digitale pervasivo non operi soltanto come strumento di repressione ex post, ma come dispositivo di conformismo ex ante: le persone modificano il proprio comportamento — inclusa la propria espressione intellettuale — quando sanno o temono di essere osservate. Il panopticon digitale non ha bisogno di intervenire per essere efficace: è sufficiente che la sua presenza sia percepita come possibile.39

9.3 Il pre-crime e la thought police come esito logico

George Orwell in Nineteen Eighty-Four (1949) descrive una polizia del pensiero che interviene sul crimine prima che si manifesti: il crimethink è punito non per ciò che produce ma per ciò che è. La giustizia predittiva algoritmica riproduce questa struttura con un elemento in più: l’autorità della scienza. Il Grande Fratello orwelliano era esplicito nel suo arbitrio; l’algoritmo si presenta come neutro, oggettivo, inevitabile.40
La questione non è meramente teorica. Quattro livelli di usurpazione si sovrappongono e si compenetrano: sul piano ontologico, si punisce ciò che non è ancora accaduto; sul piano soggettivo, si punisce ciò che si è, non ciò che si ha fatto; sul piano cognitivo, si puniscono intenzioni e atteggiamenti inferiti; sul piano politico, si impone una morale senza che a tale imposizione corrisponda alcuna forma di consenso della vittima, nemmeno nella forma molto imperfetta della cosiddetta “legittimazione democratica”. La giustizia predittiva non è un errore tecnico correggibile: è la sovversione simultanea di quattro principi fondamentali del diritto liberale.41

11. SINTESI: LA LINEA STORICA DELLA CRIMINALIZZAZIONE PER CONDIZIONE

Il filo che percorre questo articolo può essere ora enunciato nella sua forma completa. Le enclosures hanno creato strutturalmente la condizione del nullatenente. Le leggi sul vagabondaggio hanno criminalizzato quella condizione. La deportazione ne ha offerto una soluzione di gestione del rischio ante litteram. Belloc e Chesterton hanno identificato questa sequenza come l’origine dello stato servile moderno. La teologia morale cattolica ha sempre insistito sull’imputabilità personale dell’atto come fondamento del giudizio. La Scuola Austriaca, da Mises a Hoppe, ha mostrato perché la previsione del comportamento individuale futuro sia categorialmente impossibile. Il diritto classico ha codificato tutto ciò nel principio da mihi factum, dabo tibi ius.
La giustizia predittiva basata sull’intelligenza artificiale dissolve sistematicamente tutti questi baluardi. Essa non è una novità tecnica: è la riproposizione con mezzi computazionali di una logica di criminalizzazione per condizione sociale. E aggiunge un nuovo livello di pericolosità: la sua vocazione alla morale algoritmica — all’imposizione di standard comportamentali e cognitivi scelti da soggetti privati senza alcuna possibilità di controllo da parte delle vittime del sistema — la trasforma potenzialmente in uno strumento di controllo del pensiero, non soltanto dell’azione.
Il rischio più grave non è l’errore tecnico — che l’algoritmo sbagli nel caso singolo. Il rischio più grave è la naturalizzazione di questa logica: che la formalizzazione matematica conferisca all’equazione socioeconomica l’autorità dell’oggettività scientifica, rendendo invisibile la scelta di valore che ne sta alla base.42

12. CONCLUSIONI: PER UNA GIUSTIZIA CHE RESTA FEDELE AL FATTO

L’analisi svolta suggerisce alcune conclusioni di metodo per il dibattito sull’uso dell’intelligenza artificiale nel sistema penale. Conclusioni ancora più importanti quando si annuncia l’introduzione prossima dell’uso sistematico dell’IA nell’attività di polizia in Italia, come annunciato recentemente dal governo.
In primo luogo, la distinzione tra fatto e previsione non è tecnica ma ontologica. Nessun miglioramento degli algoritmi può colmare questo divario, perché l’azione umana futura non è un dato nascosto da scoprire ma una realtà che non esiste ancora. Il da mihi factum non è una limitazione superabile: è la struttura logica del giudizio.
In secondo luogo, l’impiego dell’IA nella giustizia penale non è neutrale. In una società in cui la proprietà è concentrata e le condizioni socioeconomiche sono radicalmente ineguali a causa di situazioni di privilegio determinate dal denaro fiat e dalla regolamentazione statale, qualsiasi sistema di profilazione statistica tenderà a codificare quella disuguaglianza in una presunzione di pericolosità. Il problema non è correggibile con aggiustamenti tecnici: richiede una riflessione sulla struttura distributiva della società.
In terzo luogo, la tradizione — giuridica, filosofica e teologica — offre risorse critiche che sarebbe grave ignorare. Il principio romanistico dell’imputabilità per il fatto, la dottrina cattolica dell’actus humanus e dell’imputabilità personale, la critica austriaca all’impossibilità del calcolo senza proprietà privata, la denuncia distributista dello stato servile: tutti questi filoni convergono nell’indicare che una giustizia fedele alla dignità della persona non può che essere giustizia del fatto, non della previsione.
In quarto luogo, il rischio della thought police algoritmica non è fantascienza ma un’estensione logica coerente dei principi su cui la giustizia predittiva già opera. Quando un sistema inizia a inferire pericolosità da espressioni, frequentazioni e navigazioni online, il confine tra punizione dell’atto e sorveglianza del pensiero si dissolve. Il Sams di Maar esaudisce i desideri; l’algoritmo reprime i pensieri — con la stessa precisione letterale, con la stessa indifferenza verso le conseguenze.

Note

1 Paul Maar, Eine Woche voller Samstage, Verlag Friedrich Oetinger, Hamburg, 1973 (primo volume della serie Das Sams). La citazione «Du musst viel, viel genauer wünschen» ricorre nel secondo volume: Paul Maar, Am Samstag kam das Sams zurück, Verlag Friedrich Oetinger, Hamburg, 1980, p. 37. La serie conta undici romanzi e ha venduto oltre sei milioni di copie; è considerata un classico della letteratura per l’infanzia di lingua tedesca.
2 Il principio da mihi factum, dabo tibi ius è di derivazione romanistica consolidata e riassume la struttura del ragionamento giuridico classico: la norma si applica al fatto, non lo precede in termini di imputazione individuale. Cfr. Charles Perelman, Logique juridique. Nouvelle rhétorique, Dalloz, Paris, 1976.
3 Julia Angwin, Jeff Larson, Surya Mattu, Lauren Kirchner, «Machine Bias», ProPublica, 23 maggio 2016. L’inchiesta dimostrò che COMPAS sovrastimava sistematicamente il rischio di recidiva per gli imputati afroamericani rispetto ai bianchi, codificando di fatto le disuguaglianze socioeconomiche preesistenti in un verdetto apparentemente oggettivo.
4 Ludwig von Mises, Human Action: A Treatise on Economics, Yale University Press, New Haven, 1949, cap. I («Acting Man»). Edizione italiana: L’azione umana. Trattato di economia, Rubbettino, Soveria Mannelli, 2021. L’assioma è esposto anche in Ludwig von Mises, Nationalökonomie: Theorie des Handelns und Wirtschaftens, Editions Union, Genf, 1940.
5 Ludwig von Mises, Theory and History: An Interpretation of Social and Economic Evolution, Yale University Press, New Haven, 1957. Mises distingue rigorosamente tra le scienze naturali, che trattano di costanti e regolarità, e le scienze dell’azione, che trattano di scelte individuali irriducibilmente libere.
6 F.A. Hayek, «The Use of Knowledge in Society», American Economic Review, vol. 35, n. 4, 1945, pp. 519-530. Questo saggio, insieme a «Economics and Knowledge» (Economica, vol. 4, n. 13, 1937, pp. 33-54), costituisce il fondamento epistemologico della critica hayekiana al socialismo.
7 F.A. Hayek, The Counter-Revolution of Science: Studies on the Abuse of Reason, The Free Press of Glencoe, New York, 1952. Hayek vi sviluppa la critica allo «scientismo» — ossia il tentativo di applicare i metodi delle scienze naturali alle scienze sociali.
8 F.A. Hayek, Law, Legislation and Liberty, vol. I (Rules and Order), Routledge & Kegan Paul, London, 1973. Hayek distingue tra thesis (ordine costruito deliberatamente) e nomos (ordine spontaneo emergente dall’azione individuale). La giustizia predittiva appartiene alla logica della thesis, pretendendo di costruire ex ante ciò che il diritto classico può solo giudicare ex post.
9 Jörg Guido Hülsmann, «Knowledge, Judgment, and the Use of Property», Review of Austrian Economics, vol. 10, n. 1, 1997, pp. 23-48. Hülsmann argomenta che il problema del socialismo è irrisolvibile non perché l’informazione manchi, ma perché senza proprietà privata il calcolo economico razionale è strutturalmente impossibile.
10 Hans-Hermann Hoppe, A Theory of Socialism and Capitalism: Economics, Politics, and Ethics, Kluwer Academic Publishers, Boston, 1989, cap. V-VI. Cfr. anche Hans-Hermann Hoppe, The Economics and Ethics of Private Property, Kluwer Academic Publishers, Boston, 1993 (2a ed., Ludwig von Mises Institute, Auburn, 2006).
11 Hans-Hermann Hoppe, «Of Private, Common, and Public Property and the Rationale for Total Privatization», Libertarian Papers, vol. 3, n. 1, 2011. Il tema della proprietà come fondamento logico di ogni sistema di giudizio razionale è sviluppato in questo saggio in modo particolarmente rilevante per il nostro argomento.
12 Catechismo della Chiesa Cattolica, Libreria Editrice Vaticana, Città del Vaticano, 1992, §§1730-1748 (libertà e responsabilità morale) e §§1849-1876 (il peccato). Per il fondamento tomistico, cfr. Tommaso d’Aquino, Summa Theologiae, I-II, qq. 6-21 (De voluntario et involuntario).
13 Catechismo della Chiesa Cattolica, cit., §1735. La dottrina è sviluppata da Servais Pinckaers O.P., Le fonti della morale cristiana. Metodo, contenuto, storia, Ares, Milano, 1992 (prima edizione italiana dell’opera originale Les sources de la morale chrétienne, Fribourg, 1985), in particolare cap. X-XI sulla struttura dell’atto umano.
14 Tommaso d’Aquino, Summa Theologiae, II-II, q. 61 (De iustitia) e q. 108 (De vindicatione). Cfr. anche Giuseppe Graneris, Contributi tomistici alla filosofia del diritto, SEI, Torino, 1949.
15 Sant’Agostino, De libero arbitrio, studio introduttivo, testo, traduzione e commento a cura di Franco De Capitani, Vita e Pensiero, Milano, 1987 (ristampa 1994). Cfr. anche Francesco Compagnoni, Giannino Piana (a cura di), Nuovo Dizionario di Teologia Morale, Paoline, Cinisello Balsamo, 1990, voci Imputabilità e Peccato.
16 Cfr. anche Kevin Carson, Organization Theory, 2008, cap. II sull’economia di scala come risultato della distorsione determinata dall’intervento statale.
17 Hilaire Belloc, The Servile State, T.N. Foulis, London-Edinburgh, 1912. Il testo è disponibile nell’archivio del Ludwig von Mises Institute. La tesi centrale è che il capitalismo industriale non è stabile: produce inevitabilmente concentrazione della proprietà e dipendenza della maggioranza.
18 G.K. Chesterton, The Outline of Sanity, Methuen & Co., London, 1926. Cfr. anche G.K. Chesterton, What’s Wrong with the World, Cassell and Company, London, 1910. Per un’analisi sistematica del distributismo, cfr. John Médaille, Toward a Truly Free Market: A Distributist Perspective on the Role of Government, Taxes, Health Care, Deficits, and More, ISI Books, Wilmington (DE), 2010.
19 Leone XIII, Enciclica Rerum Novarum, 15 maggio 1891, §§4-14. Pio XI, Enciclica Quadragesimo Anno, 15 maggio 1931, §§105-110 sulla concentrazione della ricchezza e il principio di sussidiarietà.
20 Il concetto di status criminis — responsabilità penale fondata non sull’atto ma sulla condizione del soggetto — è analizzato criticamente in Bernard Harcourt, Against Prediction: Profiling, Policing, and Punishing in an Actuarial Age, University of Chicago Press, Chicago, 2007. Harcourt dimostra empiricamente come i sistemi attuariali tendano a concentrare la sorveglianza sulle fasce socioeconomicamente più deboli.
21 Karl Polanyi, The Great Transformation: The Political and Economic Origins of Our Time, Farrar & Rinehart, New York, 1944. Cfr. anche E.P. Thompson, The Making of the English Working Class, Victor Gollancz, London, 1963.
22 Hilaire Belloc, The Servile State, cit., cap. IV-V, dove Belloc ricostruisce come la Riforma protestante inglese — con la confisca dei beni ecclesiastici — abbia avviato il processo di concentrazione della proprietà che le enclosures avrebbero completato.
23 Per una trattazione sistematica della legislazione sul vagabondaggio, cfr. Douglas Hay, Peter Linebaugh et al., Albion’s Fatal Tree: Crime and Society in Eighteenth-Century England, Allen Lane, London, 1975. E.P. Thompson, Whigs and Hunters: The Origin of the Black Act, Allen Lane, London, 1975 analizza il Black Act del 1723, che trasformava le pratiche tradizionali dei poveri in crimini capitali. Cfr. anche A.L. Beier, Masterless Men: The Vagrancy Problem in England 1560-1640, Methuen, London, 1985.
24 Il Vagrancy Act 1824 (5 Geo. 4 c. 83): la sezione 81 del Police, Crime, Sentencing and Courts Act 2022 ne prevede l’abrogazione, condizionata all’approvazione di legislazione sostitutiva non ancora pienamente operativa. Per la storia della deportazione, cfr. Robert Hughes, The Fatal Shore: A History of the Transportation of Convicts to Australia, Collins Harvill, London, 1987.
25 Michel Foucault, Surveiller et punir: Naissance de la prison, Gallimard, Paris, 1975 (ed. it. Sorvegliare e punire, Einaudi, Torino, 1976). Foucault analizza come la nascita della prigione moderna corrisponda a una trasformazione dell’oggetto del potere punitivo: non più il corpo del condannato (supplizio), ma la sua identità e il suo carattere.
26 Tommaso d’Aquino, Summa Theologiae, I-II, q. 74 (De peccatis interioribus): Tommaso distingue il peccato di pensiero dal peccato di atto; entrambi sono peccati morali, ma la legge umana non può punire il primo. Cfr. anche I-II, q. 91, a. 4 (De lege humana): «la legge umana non può vietare tutto ciò che la legge naturale vieta… si limita a reprimere i vizi più gravi».
27 Ulpiano, Digesto, 48.19.18: «Cogitationis poenam nemo patitur». Il principio è ripreso e sistematizzato nella teoria penalistica moderna in: Claus Roxin, Strafrecht. Allgemeiner Teil, Band I, C.H. Beck, München, 4a ed. 2006, §8 (il principio del fatto, Tatstrafrecht, come fondamento del diritto penale liberale). Cfr. anche Luigi Ferrajoli, Diritto e ragione. Teoria del garantismo penale, Laterza, Roma-Bari, 1989, cap. II (il principio di materialità).
28 Claus Roxin, Strafrecht. Allgemeiner Teil, cit., §6: distinzione sistematica tra Tatstrafrecht (diritto penale del fatto) e Täterstrafrecht (diritto penale dell’autore). Cfr. Luigi Ferrajoli, Diritto e ragione, cit., cap. IV, sul «diritto penale del nemico» come derive autoritarie del sistema penale contemporaneo.
29 Loomis v. Wisconsin, 881 N.W.2d 749 (Wis. 2016), cert. denied, 137 S. Ct. 2290 (2017). Eric Loomis fu condannato a sei anni di detenzione; il giudice si avvalse del punteggio COMPAS pur affermando che non ne avrebbe fatto il fondamento esclusivo della sentenza. La Corte Suprema del Wisconsin ammise l’uso dello strumento, ma enunciò alcune cautele, riconoscendo i rischi di un sistema le cui basi metodologiche non potevano essere sottoposte a contraddittorio.
30 Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown Publishers, New York, 2016. Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge (MA), 2015.
31 Cesare Lombroso, L’uomo delinquente studiato in rapporto all’antropologia, alla medicina legale e alle discipline carcerarie, Hoepli, Milano, 1876 (prima edizione). L’opera raggiunse la quinta edizione nel 1897 (Vincenzo Bona, Torino), significativamente ampliata. Lombroso stimava che il 70% dei peggiori criminali rientrasse nella categoria del «delinquente nato», ossia individui nei quali la criminalità è insita nella natura biologica, soggetti non recuperabili da rinchiudere o sopprimere in nome della difesa sociale.
32 Enrico Ferri, Sociologia criminale, 5a ed., Utet, Torino, 1929 (prima edizione I nuovi orizzonti del diritto e della procedura penale, Zanichelli, Bologna, 1881). Raffaele Garofalo, Criminologia, Bocca, Torino, 1885. La Scuola positiva contrappose esplicitamente il proprio metodo a quello della Scuola classica: cfr. Francesco Carrara, Programma del corso di diritto criminale, Fratelli Cammelli, Firenze, 1859, dove il reato è definito come «infrazione della legge dello Stato, promulgata per proteggere la sicurezza dei cittadini, risultante da un atto esterno dell’uomo, positivo o negativo, moralmente imputabile e politicamente dannoso» — definizione che presuppone libertà, imputabilità e fatto compiuto.
33 Ashwini K.P., Rapporteur speciale delle Nazioni Unite sulle forme contemporanee di razzismo, discriminazione razziale, xenofobia e intolleranza correlata, Rapporto sul razzismo e l’intelligenza artificiale, OHCHR, 2024: «bias from the past leads to bias in the future». Cfr. anche Rashida Richardson, Jason Schultz, Kate Crawford, «Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice», New York University Law Review Online, vol. 94, 2019, pp. 15-55: lo studio documenta come numerosi sistemi di predictive policing americani siano stati addestrati su dati raccolti durante periodi di documentata discriminazione razziale sistematica da parte delle forze dell’ordine.
34 Julia Angwin, Jeff Larson, Surya Mattu, Lauren Kirchner, «Machine Bias», ProPublica, 2016, cit. Il meccanismo del feedback loop razziale negli algoritmi di predictive policing è analizzato sistematicamente in Bernard Harcourt, Against Prediction, cit., cap. V, e in Cathy O’Neil, Weapons of Math Destruction, cit., cap. 5.
35 Francesco Carrara, Programma del corso di diritto criminale, cit., §30: «Il diritto di punire sorge unicamente dal delitto commesso, e si misura dalla imputabilità dell’autore e dalla gravità del danno». La critica alla pericolosità sociale come fondamento della pena è sviluppata in Luigi Ferrajoli, Diritto e ragione, cit., cap. II-IV, dove Ferrajoli mostra come il concetto di pericolosità sociale, pur formalmente sopravvissuto nel sistema italiano nelle misure di sicurezza (artt. 202-212 c.p.), sia compatibile con il garantismo solo nella misura in cui presuppone un reato effettivamente commesso come condizione necessaria.
36 John Stuart Mill, On Liberty, John W. Parker and Son, London, 1859, cap. I. Il principio del danno (harm principle) è il fondamento liberale classico di ogni limitazione legittima della libertà individuale: il diritto interviene sul fatto produttivo di danno, non sulla disposizione psicologica che potrebbe produrlo. Cfr. anche Luigi Ferrajoli, Diritto e ragione, cit., per l’elaborazione garantista del principio nel diritto penale continentale.
37 Corte Europea dei Diritti dell’Uomo, Handyside c. Regno Unito, 7 dicembre 1976 (ric. n. 5493/72), §49: la libertà di espressione vale «not only for ‘information’ or ‘ideas’ that are favourably received or regarded as inoffensive or as a matter of indifference, but also for those that offend, shock or disturb». Cfr. anche CEDU, Oberschlick c. Austria, 23 maggio 1991.
38 Lamont v. Postmaster General, 381 U.S. 301 (1965): primo riconoscimento esplicito del chilling effect da parte della Corte Suprema americana. Cfr. Keyishian v. Board of Regents, 385 U.S. 589 (1967): il chilling effect come danno autonomo alle libertà fondamentali. La Corte di Giustizia UE ha applicato un ragionamento analogo in Digital Rights Ireland, C-293/12, 8 aprile 2014: la sorveglianza di massa come violazione della privacy con effetto deterrente sulla libertà di espressione.
39 Stefano Rodotà, Il mondo nella rete. Quali i diritti, quali i vincoli, Laterza, Roma-Bari, 2014. Rodotà, tra i maggiori studiosi europei di diritto e tecnologia, analoga la sorveglianza algoritmica al panopticon benthamiano rivisitato da Foucault: un dispositivo di controllo che funziona attraverso l’interiorizzazione della propria visibilità da parte del soggetto controllato.
40 George Orwell, Nineteen Eighty-Four, Secker & Warburg, London, 1949. Il concetto di thoughtcrime e il Newspeak come strumenti di controllo cognitivo sono analizzati in chiave politico-giuridica da molti studiosi successivi. Cfr. Philip K. Dick, The Minority Report, in Science Fiction Stories, 1956: il pre-crime come distopia narrativa che anticipa con precisione la logica della giustizia predittiva contemporanea.
41 Massimo Donini, Il volto attuale dell’illecito penale, Giuffrè, Milano, 2004, analizza la crisi del diritto penale del fatto nell’ordinamento italiano contemporaneo e le derive verso forme di diritto penale del nemico. Cfr. anche Sergio Moccia, La perenne emergenza. Tendenze autoritarie nel sistema penale, ESI, Napoli, 2a ed. 1997.
42 Antoinette Rouvroy, Thomas Berns, «Gouvernementalité algorithmique et perspectives d’émancipation: le disparate comme condition d’individuation par la relation?», Réseaux, n. 177, 2013, pp. 163-196 (DOI: 10.3917/res.177.0163). Rouvroy e Berns mostrano come la governamentalità algoritmica non si limiti a descrivere la realtà sociale, ma la produca e la normino, eludendo sistematicamente la soggettività individuale.