Regolamento UE su intelligenza artificiale, divieto di identificazione biometrica e riconoscimento facciale delle emozioni

Nell'ambito dell'accordo preliminare del regolamento sull'intelligenza artificiale (IA) sono stati inseriti il divieto all'identificazione biometrica real time realizzata con sistemi di intelligenza artificiale e quello di sistemi che consentono il riconoscimento di emozioni.

Sono queste le principali indicazioni dell'accordo approvato nei giorni scorsi a larga maggioranza dalle commissioni del Parlamento europeo dopo due anni di discussione e dopo un'intesa raggiunta dalle forze politiche lo scorso 27 aprile. Nel corso del mese di giugno il testo andrà in commissione plenaria e passerà quindi al vaglio finale.

L'intervento normativo in questione intende disciplinare lo sviluppo, la commercializzazione e l'uso dei sistemi di IA, divisi tra quelli a rischio basso, alto e inaccettabile, rispetto ai danni che si potrebbero provocare per i diritti fondamentali delle persone. Il regolamento prevede quindi una serie di divieti all'uso di questi sistemi, obblighi per le imprese diretti a garantire una supervisione umana e l'applicazione di regole stringenti in materia di sicurezza e privacy, il tutto presidiato da autorità in grado di applicare sanzioni di elevato importo in caso di inosservanza.

Altri elementi di novità

Tra le novità principali votate dalle commissioni spicca il divieto di monitoraggio in spazi accessibili al pubblico tramite identificazione biometrica real time realizzata con sistemi di intelligenza artificiale. Rimane possibile un uso di sistemi di identificazione biometrica remota non in tempo reale, da parte delle forze dell'ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria.

Come accennato, sono vietati i sistemi che consentono il riconoscimento di emozioni. Parliamo in questo caso del divieto di uso di sistemi che permettano alle forze dell'ordine di controllare le frontiere, l'utilizzo di sistemi IA sul posto di lavoro, ad esempio per rendere più rapida la selezione e valutazione dei candidati o in ambito scolastico, da utilizzare ad esempio per il riconoscimento di irregolarità in sede d'esame.

Sono vietati anche sistemi di categorizzazione biometrici che utilizzano caratteristiche sensibili (ad esempio genere, razza, etnia, cittadinanza, religione, orientamento politico), sistemi di polizia predittiva (basati su profilazione, posizione o comportamento criminale passato) e la raccolta massiva indiscriminata di dati biometrici da social media o filmati CCTV per creare database di riconoscimento facciale, violando i diritti umani e il diritto alla privacy.

E' stata poi trovata un'intesa sulle disposizioni che riguardano la IA utilizzata per scopi generali, i cosidetti foundation models, e che prevedono maggiori obblighi di trasparenza e verifica della correttezza dei dati utilizzati, sia per gli sviluppatori che per gli utilizzatori di sistemi di IA che dovessero apportarvi modifiche nella loro implementazione, considerata ad alto rischio.

Il concetto di "rischio significativo"

Sempre sui sistemi ad alto rischio, il testo disciplina il concetto di "rischio significativo" rispetto al danno alla salute, sicurezza o diritti fondamentali dell'individuo che l'impiego della IA potrebbe provocare. I provider dovranno valutare se il proprio sistema presenta un rischio significativo e in sua assenza se possa essere implementato in ambiente controllato. Questa autovalutazione sarà poi sottoposta al controllo delle autorità preposte.

Sarà poi necessario assicurare il rispetto del diritto d'autore: allo sviluppatore sarà richiesto di indicare quali contenuti coperti da diritto d'autore di terzi ha utilizzato per il training dei propri sistemi, ad esempio un database. E dovrà essere garantita la tutela dei dati personali nel training e implementazione dei sistemi di IA, secondo i principi contenuti nel Gdpr.

L'accelerazione di questi ultimi tempi è dovuta in particolare al crescente interesse delle imprese verso questa nuova tecnologia, che offre grandi potenzialità ma pone anche seri rischi per i diritti e le libertà dei cittadini dell'Unione (e del mondo intero). Si avvicinano le nuove elezioni europee del 2024 e si vuole pertanto raggiungere un testo definitivo entro quella data. Diversamente, ferma l'intesa fin qui raggiunta, sarà quanto meno necessario attendere il passaggio di consegne ai nuovi funzionari europei. Ma, in presenza di una tecnologia disruptive in così rapida evoluzione, un'attesa di così lungo periodo non è certamente auspicabile.

Il regolamento IA si configura infatti come il primo intervento normativo a livello mondiale e di carattere generale su questa tematica, ed è visto con grande favore dal mondo imprenditoriale digitale. Le imprese si trovano oggi nell'incertezza di come sviluppare progetti che coinvolgono l'uso di IA e pianificare i propri investimenti in questa tecnologia. L'intesa raggiunta dovrebbe quindi permettere ad imprese e utenti di arrivare più preparati al nuovo regolamento che, si ricorda, sarà direttamente applicabile in tutti gli stati membri dopo un periodo transitorio dalla sua entrata in vigore. La speranza è che un simile intervento normativo sia seguito anche da altri paesi, in particolare Stati Uniti e Cina, così che si possa avere un approccio quanto più possibile uniforme.

(Fonte: Italia Oggi del 15 maggio 2023 - di Jacopo Liguori)