AI Act e Polizia Predittiva, le frontiere della regolamentazione dell’AI nella UE

L’articolo 5 del regolamento cd. AI Act prevede che i sistemi di IA che utilizzano tratti di personalità o altri indicatori psicologici per prevedere crimini futuri, siano vietati.

AI Act

Dal 2 febbraio 2025 l’Unione Europea ha posto un importante punto di riferimento nel panorama normativo internazionale con l’entrata in vigore dell’AI Act, un regolamento che disciplina l’uso dell’intelligenza artificiale (IA) all’interno del territorio europeo.

Uno degli aspetti più controversi e rilevanti di questa normativa afferisce al divieto dell’utilizzo della cd. “polizia predittiva“, una pratica che si avvale di algoritmi per prevedere crimini futuri analizzando condotte e tratti di personalità degli individui.

Cos’è la Polizia Predittiva?

La polizia predittiva si riferisce all’utilizzo di algoritmi di IA per analizzare enormi quantità di dati, che vanno dai profili sociali ai comportamenti passati, con l’obiettivo di prevedere e prevenire crimini.

Il funzionamento di questi sistemi si basa sulla concezione che, se determinati fattori o pattern di comportamento sono collegati alla commissione di reati in passato, allora è possibile, tramite l’analisi dei dati, identificare persone a rischio di delinquenza.

L’applicazione di questa tecnologia ha tuttavia sollevato serie preoccupazioni sia di ordine etico che giuridico, in particolare per quanto riguarda la discriminazione, la privacy e il diritto alla presunzione di innocenza.

Articolo 5 (1)(d)

Rubricato “Pratiche di intelligenza artificiale proibite”, l’articolo 5, al comma 1, lettera d), statuisce che l’immissione sul mercato, la messa in servizio per tale scopo specifico o l’uso di un sistema di IA per effettuare valutazioni del rischio di persone fisiche al fine di valutare o prevedere il rischio che una persona fisica commetta un reato, basandosi esclusivamente sulla profilazione di una persona fisica o sulla valutazione dei tratti e delle caratteristiche della sua personalità; tale divieto non si applica ai sistemi di IA utilizzati per supportare la valutazione umana del coinvolgimento di una persona in un’attività criminale, che si basa già su fatti oggettivi e verificabili direttamente collegati a un’attività criminale.

Motivi del divieto nell’AI Act

Con l’AI Act, l’Unione Europea ha quindi inteso vietare esplicitamente l’utilizzo della polizia predittiva, ritenendo che tale tecnologia possa violare diritti fondamentali come la libertà individuale, la privacy e il diritto a un processo giusto.

L’opzione di proibire la polizia predittiva origina da una crescente preoccupazione per l’affidabilità e l’imparzialità di tali algoritmi, che rischiano di perpetuare bias e discriminazioni sistemiche.

Numerosi studi hanno evidenziato che, quando utilizzati in assenza di adeguate misure di controllo, i sistemi di IA possono rinforzare stereotipi razziali, sociali o economici, nonché implementare la vulnerabilità di determinati gruppi, quali, ad esempio, persone provenienti da minoranze etniche, ovvero da contesti socio-economici svantaggiati.

Contesti di maggiore regolamentazione

L’AI Act è parte di un più profondo sforzo da parte dell’UE di regolamentare l’intelligenza artificiale, un ambito in rapida evoluzione, ma anche potenzialmente pericoloso se non gestito con prudenza.

Oltre alla polizia predittiva, l’AI Act impone divieti su ulteriori pratiche di IA ritenute dannose, quali l’utilizzo di sistemi di riconoscimento facciale in tempo reale nelle strade pubbliche e l’analisi delle emozioni delle persone in contesti d’istruzione e luoghi di lavoro.

La normativa si inserisce nel più vasto contesto delle politiche europee per la protezione dei dati personali e dei diritti civili.

La legislazione, infatti, si concentra nel garantire che i sistemi di IA siano utilizzati in modo trasparente, responsabile e nel rispetto della dignità umana, non soltanto per prevenire danni sociali, bensì pure per evitare una sorveglianza eccessiva che potrebbe minacciare la libertà di espressione e di associazione.

Sanzioni per le violazioni

Il rispetto dell’AI Act risulta fondamentale per le aziende e le autorità pubbliche che sviluppano o impiegano tecnologie di IA.

Le violazioni del Regolamento in parola possono comportare pesanti sanzioni economiche: le imprese potrebbero essere multate fino a 35 milioni di euro o, se l’importo è maggiore, fino al 7% del fatturato annuo globale.

Ciò evidenzia l’importanza di rispettare le norme per garantire che l’intelligenza artificiale venga utilizzata in modo etico e conforme agli standard predisposti dalla UE.

Conclusioni

L’entrata in vigore dell’AI Act rappresenta uno step significativo per una gestione più equa e sicura dell’intelligenza artificiale nell’Unione Europea.

Tramite l’imposizione del divieto della polizia predittiva, l’Europa ha lanciato un messaggio chiaro, ovvero che la tecnologia deve essere utilizzata per migliorare la società senza compromettere i diritti fondamentali dei cittadini.

La sfida, ora, risulta quella di mantenere l’equilibrio tra innovazione tecnologica e protezione dei diritti, challenge che l’AI Act si propone di affrontare mediante rigore e lungimiranza.