AI Act europeo, le prime norme al mondo con divieti all’Intelligenza Artificiale

Quelle predisposte nell’AI Act europeo, quando approvate, saranno le prime norme al mondo in tema di Intelligenza Artificiale. Proposti i divieti di sorveglianza biometrica, riconoscimento delle emozioni e polizia predittiva

Nella seconda settimana di maggio la commissione per il Mercato interno e la commissione per le Libertà civili del Parlamento europeo hanno adottato un progetto di mandato negoziale sulle prime norme in assoluto per l’intelligenza artificiale, con 84 voti a favore, 7 contrari e 12 astensioni. Nei loro emendamenti alla proposta della Commissione Ue, gli europarlamentari puntano a garantire che i sistemi di IA siano:

controllati dalle persone,
sicuri,
trasparenti,
tracciabili,
non discriminatori,
rispettosi dell’ambiente.

Si intende includere una definizione uniforme per l’IA, congegnata per essere neutrale dal punto di vista tecnologico, in modo che possa essere applicata ai sistemi di intelligenza artificiale presenti e futuri.

L’approccio basato sul rischio

L’articolato normativo segue un approccio basato sul rischio e stabilisce obblighi per fornitori e utenti a seconda del livello di rischio che l’IA può generare. I sistemi di AI con un livello di rischio inaccettabile per la sicurezza delle persone sono vietati, inclusi i sistemi che:

impiegano tecniche subliminali o intenzionalmente manipolative,
sfruttano le vulnerabilità delle persone,
sono utilizzati per il punteggio sociale (classificazione delle persone in base al loro comportamento sociale, stato socio-economico, caratteristiche).

Nel documento sono stati inclusi i divieti sugli usi intrusivi e discriminatori dei sistemi di IA, come:

sistemi di identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico;
sistemi di identificazione biometrica remota “postale”, con la sola eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
sistemi di categorizzazione biometrici che utilizzano caratteristiche sensibili, quali ad esempio, genere, razza, etnia, stato di cittadinanza, religione, orientamento politico;
sistemi di polizia predittiva, basati su profilazione, posizione o comportamento criminale passato;
sistemi di riconoscimento delle emozioni nelle forze dell’ordine, nella gestione delle frontiere, sul posto di lavoro e nelle istituzioni educative;
raschiamento indiscriminato di dati biometrici da social media o filmati CCTV per creare database di riconoscimento facciale, violando i diritti umani e il diritto alla privacy.

IA ad alto rischio

E’ stata estesa la classificazione dei settori a elevato rischio al fine di includere i danni a:

salute,
sicurezza,
diritti fondamentali,
ambiente delle persone.

All’elenco che contempla l’alto rischio sono stati aggiunti i sistemi di AI atti a influenzare gli elettori:

nelle campagne politiche,
nei sistemi di raccomandazione utilizzati dalle piattaforme di social media, con oltre 45 milioni di utenti ai sensi del Digital Services Act.

Misure di trasparenza

I deputati hanno incluso taluni obblighi per i fornitori dei sistemi, i quali dovrebbero garantire una protezione rafforzata di:

diritti fondamentali,
salute,
sicurezza,
ambiente,
democrazia,
stato di diritto.

Dovrebbero quindi:

valutare e mitigare i rischi,
rispettare i requisiti di progettazione, informazione e ambiente,
registrarsi nella banca dati dell’UE.

I modelli di base generativi, quali GPT, dovrebbero rispettare ulteriori requisiti di trasparenza, come:

rivelare che il contenuto è stato generato dall’intelligenza artificiale,
progettare il modello per impedire che generi contenuto illegale,
pubblicare riepiloghi dei dati protetti da copyright utilizzati per la formazione.

Tra innovazione e diritti dei cittadini

Al fine di promuovere l’innovazione dell’IA, allo schema normativo sono state aggiunte esenzioni alle regole per le attività di ricerca e i componenti dell’IA forniti con licenze open source. La nuova legge promuove i sandbox normativi, o ambienti controllati, istituiti dalle autorità pubbliche per testare l’AI prima della sua implementazione. I deputati intendono rafforzare il diritto dei cittadini di presentare reclami sui sistemi di IA e ricevere spiegazioni delle decisioni basate su sistemi di IA ad alto rischio che incidono in modo significativo sui loro diritti. I deputati hanno anche riformato il ruolo dell’Ufficio AI dell’UE, che si vedrebbe assegnata la funzione di monitorare l’attuazione del regolamento sull’IA.

Dichiarazioni

Tra le reazioni post voto:

“Siamo sul punto di mettere in atto una legislazione storica che deve resistere alla sfida del tempo. È fondamentale costruire la fiducia dei cittadini nello sviluppo dell’IA, definire la via europea per affrontare gli straordinari cambiamenti che stanno già avvenendo, nonché orientare il dibattito politico sull’IA a livello globale. Siamo fiduciosi che il nostro testo equilibri la protezione dei diritti fondamentali con la necessità di fornire certezza giuridica alle imprese e stimolare l’innovazione in Europa” (correlatore Brando Benifei, S&D, Italia);
“Dato il profondo impatto trasformativo che l’IA avrà sulle nostre società ed economie, la legge sull’IA è molto probabilmente l’atto legislativo più importante in questo mandato. È il primo atto legislativo di questo tipo al mondo, il che significa che l’UE può aprire la strada per rendere l’IA incentrata sull’uomo, affidabile e sicura. Abbiamo lavorato per sostenere l’innovazione dell’IA in Europa e per offrire alle start-up, alle PMI e all’industria lo spazio per crescere e innovare, proteggendo al contempo i diritti fondamentali, rafforzando il controllo democratico e garantendo un sistema maturo di governance e applicazione dell’IA.” (correlatore Dragos Tudorache, Renew, Romania).

Next steps

Prima di intraprendere i negoziati col Consiglio in ordine alla versione definitiva della legge, il progetto di mandato negoziale in questione deve essere approvato dall’intero Parlamento. Il voto risulta calendarizzato per la sessione del 12-15 giugno.