AI Act: quando la videosorveglianza rientra tra i sistemi ad AI

di Roberta Rapicavoli - Avvocato esperto in Information Technology e privacy e Docente Ethos Academy 

Sono molteplici i sistemi di videosorveglianza con intelligenza artificiale presenti sul mercato e nell’ultimo periodo, a fronte della crescente richiesta, è aumentato notevolmente l’interesse per tali sistemi da parte di sviluppatori e distributori. Ma qual è la normativa sui sistemi di intelligenza artificiale?

Quando si parla di sistemi di intelligenza artificiale occorre considerare il Regolamento UE 2024/1689 (noto anche come AI Act). Tale normativa trova applicazione per i soli sistemi che rientrano nella definizione di sistema di intelligenza artificiale fornita dal Regolamento stesso. Pertanto, per comprendere se si debba osservare quanto stabilito dalla normativa in materia di intelligenza artificiale, è fondamentale capire se il singolo sistema di videosorveglianza che si intende sviluppare, distribuire o adottare possa qualificarsi come sistema di intelligenza artificiale ai sensi dell’AI Act.

La definizione di sistema AI contenuta nell’AI Act

In base a quanto stabilito dall’art. 3 dell’AI Act, un sistema di intelligenza artificiale è “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”. Nelle Linee guida sulla definizione di intelligenza artificiale della Commissione europea del 6 febbraio 2025 si analizzano gli elementi contenuti nella definizione di sistema di intelligenza artificiale fornita dall’AI Act e si chiariscono gli aspetti che consentono, caso per caso, di comprendere se un singolo sistema, per le sue caratteristiche specifiche, possa definirsi o meno come sistema di intelligenza artificiale.

Gli elementi contenuti nella definizione di sistema di AI

Ai fini della configurabilità di un sistema quale sistema di intelligenza artificiale occorre che sussistano nel ciclo di vita del sistema, anche non contemporaneamente, i sette elementi indicati nella definizione fornita nell’art. 3 dell’AI Act.

1. Il sistema deve essere basato su macchine

L’elemento “basato sulla macchina” sottolinea il fatto che i sistemi di AI, basati su componenti hardware e software, devono essere guidati dal calcolo e basati su operazioni meccaniche.

2. Il sistema deve essere progettato per operare con diversi livelli di autonomia

I sistemi di AI devono essere progettati per funzionare con livelli di autonomia variabili, il che significa che devono disporre di un certo grado di autonomia di azione rispetto al coinvolgimento umano.

3. Il sistema può mostrare adattabilità

L’adattabilità si riferisce alle capacità di autoapprendimento, che consente al sistema di cambiare durante l’uso e di produrre risultati diversi dal sistema precedente per gli stessi input.

4. Il sistema deve perseguire obiettivi espliciti o impliciti

I sistemi di AI sono progettati per funzionare in base a uno o più obiettivi, che possono essere definiti in modo esplicito (e vengono codificati direttamente dallo sviluppatore nel sistema) o implicito (e possono essere dedotti dal comportamento o dalle ipotesi sottostanti del sistema).

5. Il sistema deve dedurre, dall’input che riceve, come generare output

Una caratteristica fondamentale dei sistemi di intelligenza artificiale è la loro capacità di inferenza, che si riferisce al processo di ottenimento degli output – quali previsioni, contenuti, raccomandazioni o decisioni – che possono influenzare gli ambienti fisici e virtuali e alla capacità dei sistemi di ricavare modelli o algoritmi, o entrambi, da input o dati.

6. Il sistema deve generare output come previsioni, contenuti, raccomandazioni o decisioni

Un elemento fondamentale che deve sussistere e che distingue i sistemi di intelligenza artificiale da altre forme di software consiste nella capacità del sistema di generare output, come previsioni, contenuti e raccomandazioni, in base agli input che riceve e utilizzando l’apprendimento automatico e la logica e gli approcci basati sulla conoscenza.

7. Gli output generati possono influenzare gli ambienti fisici o virtuali

I sistemi di intelligenza artificiale non sono passivi, ma hanno un impatto attivo sugli ambienti fisici o virtuali in cui sono utilizzati. 

Le definizioni contano 

Stabilire se il sistema di videosorveglianza indicato comunemente come “intelligente” rientri o meno nella definizione di sistema di intelligenza artificiale contenuta nel Regolamento UE 2024/1689 è fondamentale per capire se trovi o meno applicazione il suddetto regolamento. Si tratta quindi di un aspetto che deve essere sicuramente considerato da chi intende sviluppare, distribuire o utilizzare sistemi con intelligenza artificiale, per capire se si renda necessario osservare quanto stabilito dalla normativa di settore.