Le alterazioni video tramite algoritmi di Intelligenza Artificiale

Una start up israeliana ha sviluppato un software di videoanalisi intelligente denominato “Toka”, non solo in grado di accedere a tutte le telecamere a circuito chiuso, ma anche in grado di modificare le immagini riprese in “live” e di alterare le registrazioni del passato. La start up, fondata dall’ex premier israeliano Ehud Barak e dall’ex capo della divisione cibernetica dell’esercito del Paese ebraico Yaron Rosen, opererebbe nel settore militare e i suoi clienti sarebbero i governi. Siamo in presenza di una soluzione di videoanalisi intelligente i cui impatti sui diritti e libertà fondamentali degli interessati sarebbero a dir poco devastanti. Si potrebbero creare evidenze video “false”, al fine di utilizzarle per costruire prove giudiziarie.

di Marco Soffientini - Avvocato, esperto di Privacy e Diritto delle Nuove Tecnologie edocente Ethos Academy

Sebbene l’utilizzo di questo software di videoanalisi intelligente sia appannaggio dei soli apparati militari o molto probabilmente delle forze di polizia, va ricordato che in Unione Europea si applica il Decreto Legislativo n. 680/2016 che ha disciplinato il trattamento dei dati personali da parte delle autorità competenti a fini di prevenzione, indagine, accertamento e perseguimento di reati o esecuzione di sanzioni penali. Al Considerando n.43 si afferma che una persona fisica dovrebbe avere il diritto di accedere ai dati raccolti e di verificare che siano esatti e trattati conformemente a quanto disposto dalla direttiva. L’articolo 4 della direttiva prescrive che i dati personali devono essere  “esatti e, se necessario, aggiornati; devono essere adottate tutte le misure ragionevoli per cancellare o rettificare tempestivamente i dati inesatti rispetto alle finalità per le quali sono trattati”. Come noto, la direttiva è stata recepita in Italia dal D.Lgs n.51/2018 e il secondo comma dell’articolo 4 prescrive che le autorità competenti devono adottare misure adeguate a garantire che i dati personali inesatti, incompleti o non aggiornati non siano trasmessi o resi disponibili. A tal fine ciascuna autorità competente, per quanto possibile, è tenuta a verificare la qualità dei dati personali prima che questi siano trasmessi o resi disponibili e correda la loro trasmissione delle informazioni che consentono all’autorità ricevente di valutarne il grado di esattezza, completezza, aggiornamento e affidabilità. 

Se sono artefatti come possono essere esatti?

Tornando al software israeliano di videoanalisi le poche cose che conosciamo sono il fatto che viene sfruttato un algoritmo di intelligenza artificiale di deep learning. Questa tipologia di algoritmi, per lavorare al meglio, ha bisogno da un lato di una grande quantità di dati per addestrarsi, e dall’altro di numerosi dati della persona da “riprodurre”. La combinazione di questi elementi rende il video ricostruito difficilmente smascherabile anche da parte degli analisti forensi. Ad arginare la “sete” di dati da parte di questi algoritmi è intervenuta recentemente la nostra Autorità Garante per la protezione dei dati personali. Si pensi al caso Clearview Artificial Intelligence Inc destinataria  di una sanzione da venti milioni di euro (Provv. 10 Febbraio 2022 – doc. web n. 9751362)  per aver raccolto da internet miliardi di volti di persone, al fine di addestrare un algoritmo di intelligenza artificiale con lo scopo di riconoscere qualsiasi persona.

La versione integrale dell’articolo riporta tabelle, box o figure, per visualizzarle apri il pdf allegato.