1. Introduzione all’AI ACT: l’iter legislativo
Proposto dalla Commissione Europea nell’aprile del 2021, l’AI Act (“Artificial Intelligence Act”) ha subìto un processo di approvazioni e modifiche significative, in particolare, alla fine del 2022, con la diffusione dei sistemi di Intelligenza Artificiale generativa.
Nel dicembre 2023 il Consiglio e il Parlamento europeo hanno raggiunto l’accordo politico sulla formulazione della normativa, e l’approvazione ufficiale da parte del Parlamento è arrivata il 13 marzo 2024.
Lo scorso 12 luglio 2024 è stato pubblicato sulla Gazzetta ufficiale dell’Unione europea il testo definitivo del regolamento n. 1689/2024 ed entrerà in vigore gradualmente, con un periodo di transizione previsto fino al 2026.
Art. 3 AI ACT
“Sistema di Intelligenza Artificiale"
“un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”.
2. L’obiettivo dell’AI ACT
L’AI ACT sorge dalla necessità di fornire un quadro giuridico uniforme nell’UE in materia di IA, prevenendo la frammentazione del mercato interno e al contempo promuovendo l’innovazione e favorendo la libera circolazione dei beni e dei servizi basati sull’Intelligenza Artificiale, in un’ottica antropocentrica e risk based.
L’Unione Europea ha quindi compiuto un passo storico approvando l’AI ACT, quale primo strumento legislativo, in tutto il mondo, in materia di intelligenza artificiale.
Con questo regolamento, l’Europa si pone all’avanguardia nella definizione di regole chiare per lo sviluppo e l’utilizzo dei sistemi di AI, immessi sul mercato europeo e utilizzati nell’UE, cercando di bilanciare innovazione, trasparenza, sicurezza e tutela dei diritti fondamentali e dei valori dell’unione.
3. Ambito di applicazione
Il regolamento si applica:
- ai fornitori che immettono sul mercato o mettono in servizio sistemi di IA o immettono sul mercato modelli di IA per finalità generali nell’Unione, indipendentemente dal fatto che siano stabiliti o ubicati nell’Unione o in un paese terzo;
- ai deployer dei sistemi di IA che hanno il loro luogo di stabilimento o sono situati all’interno dell’Unione;
- ai fornitori e ai deployer di sistemi di IA che hanno il loro luogo di stabilimento o sono situati in un paese terzo, laddove l’output prodotto dal sistema di IA sia utilizzato nell’Unione;
- agli importatori e ai distributori di sistemi di IA;
- ai fabbricanti di prodotti che immettono sul mercato o mettono in servizio un sistema di IA insieme al loro prodotto e con il loro nome o marchio;
- ai rappresentanti autorizzati di fornitori, non stabiliti nell’Unione;
- alle persone interessate che si trovano nell’Unione.
4. Approccio basato sul rischio
L’AI Act classifica i sistemi di intelligenza artificiale in base al loro potenziale impatto sulla società, basandosi su un approccio cd. “risk-based” che ritroviamo già in altre normative (prima tra tutte, il GDPR).
Uno degli obiettivi dell’AI Act è infatti quello di individuare i profili di rischio nell’utilizzo delle Intelligenze Artificiali, classificandoli in base al livello di pericolo che queste possano rappresentare per la salute, la sicurezza e i diritti fondamentali delle persone.
Un sistema così strutturato consente agli sviluppatori e alle aziende di valutare se e come procedere nell’implementazione delle IA.
In altre parole, maggiore è il rischio insito nell’utilizzo di un determinato sistema intelligenza artificiale, più gravose saranno le responsabilità di chi sviluppa e usa quel sistema, sino a giungere a un divieto di utilizzo delle applicazioni e delle tecnologie il cui rischio è considerato inaccettabile.
5. Classificazione dei rischi
Il regolamento introduce un sistema di classificazione univoco, suddiviso in quattro livelli di rischio:
- Rischio inaccettabile: In questa categoria si collocano tutti i sistemi di IA che possono costituire una chiara minaccia per la sicurezza, i mezzi di sussistenza e i diritti fondamentali delle persone, che possono manipolare il comportamento umano, nel tentativo di aggirare il libero arbitrio, o che consentono di attribuire un “punteggio sociale” (social scoring) da parte dei governi. Tutti questi sistemi sono espressamente vietati all’interno dell’Unione Europea.
Pratiche vietate - Sistemi AI a rischio cd. inaccettabile
- Sfruttamento di vulnerabilità o tecniche subliminali per ingannare e manipolare specifici gruppi (es. bambini, anziani o persone con disabilità) e causando seri danni;
- Categorizzazione biometrica basati su caratteristiche sensibili cd. protette (es. convinzioni politiche, religiose, filosofiche, orientamento sessuale, etc.);
- Identificazione biometrica remota in tempo reale, a fini di contrasto, in spazi accessibili al pubblico;
- Valutazione o previsione del rischio di reato individuale;
- Social scoring, ossia l’attribuzione di un punteggio sociale basato su comportamento e caratteristiche personali;
- Raccolta non mirata di immagini facciali da Internet o da telecamere a circuito chiuso (CCTV) per creare o espandere database di riconoscimento facciale;
- Riconoscimento delle emozioni sul posto di lavoro e negli istituti di istruzione.
- Rischio alto: Questa categoria comprende tutti quei sistemi che possono impattare in maniera significativa sulla vita delle persone. Si pensi a infrastrutture critiche dotate di IA e sistemi intelligenti applicati a servizi pubblici o privati essenziali. Tutti questi sistemi non saranno vietati, ma saranno soggetti a obblighi rigorosi di conformità, con adeguati sistemi di valutazione e attenuazione dei rischi.
Ambiti - Sistemi AI a rischio cd. alto
- Gestione e funzionamento di infrastrutture critiche (ad es. sistemi impiegati nella gestione del traffico stradale e dei trasporti, il cui guasto potrebbe mettere a rischio la vita e la salute dei cittadini);
- Istruzione e formazione professionale (ad es. sistemi destinati a determinare l’accesso o l’assegnazione a istituti di istruzione o formazione professionale, come il punteggio degli esami);
- Occupazione, gestione dei lavoratori e accesso al lavoro autonomo (es. i sistemi destinati a essere utilizzati per il reclutamento o la selezione di CV per l’assunzione di personale o per prendere decisioni sulla promozione e la cessazione del rapporto di lavoro);
- Accesso a servizi e benefici pubblici e/o servizi privati essenziali (ad es. sistemi per valutare l’ammissibilità delle persone fisiche a benefici e servizi di pubblica assistenza, o sistemi di IA destinati a essere utilizzati per stabilire la priorità nell’invio di servizi di primo soccorso in situazioni di emergenza, o sistemi di credit scoring che nega ai cittadini l'opportunità di ottenere un prestito);
- Forze dell’ordine e attività di contrasto, inclusi sistemi di deep fake e volti ad effettuare valutazioni sulla probabilità che un individuo commetta reati o sia soggetto a recidiva, o sulla valutazione di affidabilità delle prove, o sistemi per l'identificazione biometrica remota, il riconoscimento delle emozioni e la categorizzazione biometrica (ad es. un sistema di IA per identificare retroattivamente un taccheggiatore)
- Gestione della migrazione, della richiesta d’asilo e del controllo delle frontiere (ad es. sistemi di IA destinati ad assistere le autorità pubbliche competenti nell’esame delle domande di asilo, visti e permessi di soggiorno);
- Amministrazione della giustizia e processi democratici (ad es. sistemi di IA destinati ad assistere l’autorità giudiziaria nella ricerca e interpretazione della legge, o nella preparazione di sentenze nei tribunali).
- Rischio limitato: in questa categoria rientrano quei i sistemi con un limitato potenziale di manipolazione, soggetti a obblighi di trasparenza. Ciò comporta il dover informare una persona della sua interazione con un sistema di Intelligenza Artificiale, come nel caso dei chatbot, e segnalare contenuti generati o manipolati artificialmente.
- Rischio minimo: in questa fascia si collocano tutti i sistemi AI che invece non presentano problematiche (si pensi ai filtri spam e videogiochi). In linea di massima, un sistema AI di rischio minimo o nullo viene definito tale quando in nessuna delle categorie precedentemente individuate.
6. Requisiti per i sistemi AI ad alto rischio
L’AI Act prevede la massima supervisione e regolamentazione per le categorie ritenute inaccettabili o ad alto rischio, dedicando particolare attenzione a questi livelli.
I sistemi di IA ad alto rischio sono soggetti a obblighi rigorosi prima di poter essere immessi sul mercato:
- Adeguati sistemi di valutazione e mitigazione dei rischi.
- Alta qualità delle serie di dati che alimentano il sistema per ridurre al minimo i rischi di risultati discriminatori:
- registrazione dell’attività per garantire la tracciabilità dei risultati;
- documentazione dettagliata che fornisca tutte le informazioni necessarie sul sistema e sul suo scopo affinché le autorità ne valutino la conformità;
- informazioni chiare e adeguate per l’operatore;
- adeguate misure di sorveglianza umana;
- elevato livello di robustezza, cibersicurezza e accuratezza.
La normativa sull’IA introduce specifici obblighi di divulgazione per garantire che gli esseri umani siano informati quando necessario per preservare la fiducia.
Esistono ulteriori obblighi di trasparenza per tipi specifici di AI. A titolo esemplificativo:
- I sistemi AI destinati a interagire direttamente con le persone devono essere progettati per informare gli utenti che stanno interagendo con un sistema AI, a meno che ciò non sia ovvio considerando il contesto. Gli esseri umani dovrebbero essere consapevoli del fatto che stanno interagendo con una macchina in modo che possano prendere una decisione informata. Un chatbot, ad es., deve essere progettato per avvisare gli utenti di essere un chatbot.
- I sistemi AI che generano testo, immagini o altri contenuti devono utilizzare formati leggibili dalla macchina per contrassegnare gli output come generati o manipolati dall’AI. Ciò include, ad es., l’AI che genera deepfake, ossia immagini o video alterati per mostrare qualcuno che fa o dice qualcosa che non ha fatto o detto. I fornitori di IA generativa devono garantire che i contenuti generati dall’IA siano identificabili.
Una volta che un sistema di IA è sul mercato, le autorità sono responsabili della vigilanza del mercato, gli operatori garantiscono la sorveglianza e il monitoraggio umani e i fornitori dispongono di un sistema di monitoraggio post-commercializzazione.
I fornitori e gli operatori segnaleranno anche incidenti gravi e malfunzionamenti.
7. Valutazione d’impatto sui diritti fondamentali
È previsto l’obbligo per gli operatori di sistemi di AI ad alto rischio di effettuare una valutazione d’impatto sui diritti fondamentali prima che gli stessi siano immessi sul mercato, nonché una maggiore trasparenza per quanto riguarda l’uso dei sistemi di AI ad alto rischio.
In particolare, alcuni degli emendamenti al testo del Regolamento approvati nel giugno 2023 ipotizzerebbero la costituzione di una banca dati dell’UE per i sistemi di IA ad alto rischio.
Inoltre, nuove disposizioni pongono l’accento sull’obbligo per gli utenti di un sistema di riconoscimento delle emozioni di informare le persone fisiche quando sono esposte a tale sistema.
8. Regole per i modelli AI per scopi generali (GPAI)
L’AI Act prevede norme separate per i modelli AI per scopi generali (cd. GPAI).
I fornitori di modelli GPAI dovranno attenersi ad alcuni obblighi, tra i quali:
- Stabilire politiche per rispettare le leggi sul diritto d’autore dell’UE.
- Scrivere e rendere pubblicamente disponibili riepiloghi dettagliati dei set di dati di addestramento.
Nel caso un modello GPAI sia classificato come avente un rischio sistemico, i fornitori avranno obblighi aggiuntivi.
Il rischio sistemico è un rischio specifico delle funzionalità ad alto impatto dei modelli GPAI che hanno un impatto significativo sul mercato dell’UE a causa della loro portata o degli effetti negativi reali o ragionevolmente prevedibili sulla salute pubblica, la sicurezza, la pubblica sicurezza, i diritti fondamentali o la società nel suo complesso, che possono essere propagati su larga scala lungo tutta la catena del valore.
La legge utilizza le risorse di addestramento come uno dei criteri per individuare il rischio sistemico.
Se la quantità cumulativa di potenza di calcolo utilizzata per addestrare un modello è superiore ad una determinata soglia, si ritiene che abbia funzionalità ad alto impatto e rappresenti un rischio sistemico.
La Commissione europea può inoltre classificare un modello come avente un rischio sistemico.
I fornitori di modelli GPAI che presentano un rischio sistemico, compresi i modelli open source gratuiti, devono soddisfare alcuni obblighi aggiuntivi, come:
- Documentare e segnalare incidenti gravi all’Ufficio europeo per l’AI e alle autorità di regolamentazione nazionali pertinenti.
- Implementare una cybersecurity adeguata per proteggere il modello e la sua infrastruttura fisica.
9. Sanzioni
In caso di mancata conformità all’AI Act, é previsto un sistema di sanzioni per le aziende basato sulla percentuale del fatturato annuo globale nell’esercizio finanziario precedente della società che ha commesso la violazione o, se superiore, su un importo predeterminato:
- 35 milioni di Euro o il 7% per le violazioni relative ad applicazioni di Artificial Intelligence vietate;
- 15 milioni di Euro o il 3% per violazioni degli obblighi del regolamento sull’AI;
- 7,5 milioni di Euro o l’1,5% per la fornitura di informazioni inesatte.
L’EU AI Act prevede regole diverse per multare le startup e altre piccole e medie organizzazioni.
Ogni Stato membro dovrà istituire un’autorità di vigilanza per garantire il rispetto delle norme, segnando un passo importante verso un’applicazione uniforme in tutta l’UE.
10. Conclusione
L’IA è cresciuta raggiungendo valori record negli ultimi anni.
Con l’AI Act l’Unione europea ha segnato senza dubbio un punto di svolta per l’Europa, ponendosi come modello globale.
La sfida sarà quella di conciliare etica, diritti e crescita tecnologica, pertanto, si renderà necessario aggiornare questi regolamenti coerentemente allo stato dell’arte e allo sviluppo della tecnologia.
Solo una legislazione aggiornata ed efficace consentirà di impedire gli usi ad altissimo rischio e, in generale, di sviluppare un approccio risk-based.
