Home / Blog / IT e Innovazioni / AI Act 2023: obblighi e divieti e cosa cambierà da ora in poi

AI Act 2023: obblighi e divieti e cosa cambierà da ora in poi

3 Gennaio 2024

Il 9 dicembre scorso, è stato compiuto un passo significativo nell’ambito della regolamentazione dell’Intelligenza Artificiale in Europa. Ciò grazie all’approvazione dell’AI Act 2023 da parte della Commissione, del Consiglio e del Parlamento europeo.

Questo regolamento rappresenta un’importante pietra miliare nelle soluzioni AI, poiché si tratta del primo a livello mondiale per la sua portata e impatto. Tuttavia, va specificato che non stiamo parlando ancora di una normativa definitiva. Attualmente, i tecnici stanno lavorando alla stesura del testo finale, che sarà presto soggetto a voto definitivo da parte degli organismi europei. L’AI Act entrata in vigore è prevista tra due anni, ma solo se tutte le fasi procederanno secondo i piani.

Il cuore di questa legislazione è la salvaguardia dei diritti e delle libertà nell’ambito dello sviluppo della rivoluzionaria tecnologia dell’Intelligenza Artificiale. L’obiettivo è trovare un equilibrio tra l’innovazione e la protezione, adottando il principio fondamentale della responsabilizzazione e dell’autovalutazione. In altre parole, le aziende che produrranno Intelligenza Artificiale saranno tenute, salvo eccezioni, a dimostrare che il processo di sviluppo della tecnologia non comprometterà i diritti fondamentali delle persone e non ne costituirà un rischio.

Ma cosa dice l’AI Act testo? Scopriamolo.

Cosa dice l’AI Act 2023 e cos’è

Approvato il 14 giugno 2023 dal Parlamento Europeo con 499 voti favorevoli, 28 contrari e 93 astenuti e con l’assenso semi-definitivo da parte dell’UE nel dicembre scorso, il regolamento AI Act affronta in modo dettagliato gli obblighi e i livelli di rischio associati agli operatori e ai fornitori che operano nel campo dell’Intelligenza Artificiale. Per prima cosa, la regolamentazione stabilisce quattro livelli di rischio a cui far fronte: rischio inaccettabile, alto, medio, basso.

La categoria di rischio considerata “inaccettabile” abbraccia applicazioni capaci di manipolare i comportamenti di individui o gruppi vulnerabili, con conseguenze di rilievo sulla sicurezza, sulla salute e altre questioni di interesse pubblico. Un esempio paradigmatico riguarda i bambini. In tali circostanze, la legislazione si estende ad esempio a giocattoli interattivi alimentati da Intelligenza Artificiale e a software che adottano sistemi di classificazione basati sul comportamento o su altre caratteristiche delle persone. Questa approfondita normativa mira a proteggere i soggetti più indifesi dall’eventuale sfruttamento derivante dall’utilizzo non etico di tecnologie avanzate.

Per la categoria “Alto rischio” parliamo, invece, dei sistemi di Intelligenza Artificiale nella vita quotidiana che vengono utilizzati in strutture critiche o che forniscono servizi fondamentali per i cittadini, come pubblici uffici, trasporti e salute. Gli operatori di tali sistemi saranno soggetti a severi obblighi prima di poter immettere tali applicazioni sul mercato.

Infine, il regolamento considera le “applicazioni a rischio minore” classificate come “rischio limitato” e “rischio minimo o nullo” con regolamentazioni variabili a seconda del livello di pericolo associato a ciascuna categoria di AI. In questo caso, la legge sull’Intelligenza Artificiale stabilisce esclusivamente obblighi e vincoli di trasparenza.

AI Act Parlamento Europeo: cosa non si potrà più fare, invece?

L’AI Act 2023 introduce divieti per assicurare un utilizzo etico e responsabile dell’Intelligenza Artificiale. Innanzitutto, è vietato utilizzare l’AI per analizzare dati biometrici sensibili. In questo caso si impedisce, ad esempio, la profilazione delle persone basata su convinzioni politiche, religiose o razziali.

Anche lo “scraping” non mirato di immagini è altresì proibito: in questo contesto si evita la raccolta indiscriminata di foto da Internet per creare database di riconoscimento facciale senza scopi specifici. Un esempio concreto è la prevenzione di pratiche invasive che metterebbero a rischio la privacy delle persone, come la creazione di profili senza consenso.

Il riconoscimento delle emozioni è vietato nei luoghi di lavoro e nelle istituzioni educative, preservando la dignità e la libertà emotiva delle persone coinvolte. Ad esempio, non sarà possibile utilizzare l’AI per monitorare emotivamente i dipendenti sul posto di lavoro.

Il Social Scoring e le tecniche manipolative sono vietati, e questo impedirà l’analisi delle persone basata su comportamenti o caratteristiche personali. Questo divieto mira a proteggere le persone da decisioni discriminatorie basate su algoritmi, ad esempio nell’ambito finanziario o lavorativo.

L’utilizzo dell’AI per colpire gente più vulnerabile è severamente vietato, e si impedirà l’abuso di tecnologie su gruppi svantaggiati come anziani, persone con disabilità o in situazioni socio-economiche complicate. Un esempio è la protezione da pratiche discriminatorie nei settori dei servizi sociali o della AI nella sanità.

Queste regole dell’AI Act testo approvato valgono per tutti? Sì ma vi sono comunque alcune eccezioni.

Esiste una categoria che in via straordinaria potrà utilizzare, ad esempio, sistemi di riconoscimento biometrico. Parliamo delle forze dell’ordine. In questo caso specifico, l’impiego di questi sistemi sarà limitato a circostanze particolari, quali la presenza di minacce terroristiche imminenti, la ricerca di vittime o la persecuzione di crimini gravi.

Nel contesto delle indagini, la polizia potrà impiegare sistemi di identificazione biometrica (Rbi) per classificare le persone in categorie specifiche. Parliamo di età, sesso, colore dei capelli e degli occhi, tatuaggi, origine etnica, orientamento sessuale o politico. Per quanto riguarda l’analisi di dati relativi a crimini, invece, i sistemi di Intelligenza Artificiale dovranno operare su dati anonimi e non potranno essere utilizzati per profilare individui specifici, imponendo così significative limitazioni.

Le forze dell’ordine saranno, in aggiunta, tenute a notificare l’uso di sistemi di Intelligenza Artificiale. Questo dovrà essere fatto alle autorità preposte al controllo, garantendo sempre il rispetto di trasparenza e responsabilità.

AI Act 2023: e per quanto riguarda sistemi AI come ChatGPT?

Il regolamento AI Act impone vincoli significativi anche sui sistemi di Intelligenza Artificiale ad alto impatto, come GPT-4 di OpenAI, noto per la sua notevole potenza di calcolo. Questi modelli sono tenuti a garantire trasparenza nei processi di addestramento, e saranno obbligati a condividere la documentazione tecnica relativa ai materiali utilizzati prima di essere introdotti sul mercato.

Un requisito fondamentale è che tali modelli dovranno rendere riconoscibili i contenuti che producono (testi o immagini), mirando a contrastare il rischio di truffe e disinformazione. Queste misure non solo proteggeranno gli utenti finali ma assisteranno anche i produttori nell’affermazione dei loro diritti d’autore sulle creazioni generate da tali modelli.

Per garantire l’aderenza a tali normative, il mancato rispetto delle regole comporterà sanzioni significative per le aziende. Le imprese che non conformeranno i loro sistemi ad alto impatto alle disposizioni dell’AI Act testo potranno essere soggette a multe. Si parla di sanzioni che potranno raggiungere fino il 7% del loro fatturato.

Ciò sottolinea l’importanza che la legislazione attribuisce alla trasparenza e alla responsabilità nell’uso di potenti modelli di Intelligenza Artificiale come il GPT-4.

AI Act 2023 segna il cambiamento

In conclusione, l’approvazione da parte del Parlamento Europeo della posizione negoziale sulla legge sull’Intelligenza Artificiale segna un fondamentale passo avanti per l’Unione Europea. Con una schiacciante maggioranza di voti favorevoli, si prospetta un futuro in cui l’UE guiderà il cammino verso un impiego responsabile e sostenibile dell’Intelligenza Artificiale nel rispetto dei valori e dei diritti che definiscono il tessuto sociale europeo.