Cloud, AI e cambio di mindset: la sicurezza di oggi e domani

di Israel Gogol - Media Group Manager, Messe Frankfurt (H.K.) Limited, Taiwan Media Branch asmag.com

A fine 2021, la Redazione di Asmag (partner Ethos Media Group nell’International Media Security Alliance) ha realizzato un’indagine per valutare quali siano le nuove tecnologie che integratori e produttori di sistemi di sicurezza considerano oggi come più impattanti per il settore sicurezza, ossia appaiano più adatte all’implementazione nei loro progetti e mature per l’implementazione in progetti di sicurezza. Ecco i risultati.

Tra le tecnologie ritenute contemporaneamente mature e adatte rispetto alle esigenze del settore sicurezza, se ne stagliano due: la videosorveglianza come servizio cloud (fenomeno partito già 10 anni fa) e l’intelligenza artificiale (per classificare oggetti, a scopi forensi, per ridurre i falsi allarmi o per soluzioni di business intelligence).

Videosorveglianza su cloud

Tra i principali vantaggi dal punto di vista tecnologico si annoverano il controllo centralizzato, il fatto di poter aggiornare più postazioni di lavoro da una postazione centrale (senza mandare l’operatore in loco) e il controllo remoto. Funzionalità peraltro molto migliorate a causa del covid, che ha spinto la digitalizzazione. Ma il cloud ha inciso soprattutto sul modello di business, poiché ha spostato il processo di acquisto dalle spese di capitale (capex) alle spese operative (opex). Questo offre agli utenti finali maggiore flessibilità rispetto all’acquisto di tecnologia, che, di fatto viene affittata/presa in comodato d’uso in base alle necessità del momento. Questo genera flussi di entrate diverse rispetto al passato, trattandosi di canoni mensili ma continuativi: il vendor disporrà quindi di un flusso di cassa regolare e potrà fare upselling dei prodotti offrendo servizi aggiuntivi diversi. Gli stessi integratori dovranno cambiare il loro modo di fare business e soprattutto il loro mindset entrando in una logica di gestione più che di vendita. 

Intelligenza artificiale

Ma la vera star dell’indagine è ovviamente l’intelligenza artificiale. Se l’analisi video automatica permetteva di rilevare eventuali anomalie (borsa incustodita, auto parcheggiata impropriamente, attraversamento linea) allertando poi l’operatore, l’AI risolve il problema dei falsi allarmi, permettendo quindi di automatizzare i processi di sicurezza su larga scala. Ma ci sono anche delle zone d’ombra da valutare prima dell’implementazione. 

Dove si trovano i dati?

Partiamo dal cloud, dove il rischio maggiore è la localizzazione dei dati. Come possiamo esser sicuri che il cloud provider ci stia fornendo un servizio sicuro, che impedisca che i nomi degli utenti e i diritti di accesso siano condivisi all’esterno? E se una terza parte controlla i miei dati, come faccio a mitigare i costi di cambio contratto? Cosa impedirà a un fornitore di addebitarmi migliaia di euro per passare a un altro fornitore e ottenere indietro dei dati che lui ha memorizzato? O, venendo ad un esempio molto attuale, con il conflitto in Ucraina potrebbe accadere che un fornitore cloud  tagliasse improvvisamente fuori tutte le telecamere prodotte in una certa parte del mondo: ci si troverebbe con sistemi che non funzionano, privi di controllo. Tutti temi da prendere in considerazione.

Nuove domande da porsi

L’intelligenza artificiale comporta un totale cambiamento di mentalità per gli integratori di sistemi di sicurezza. Non è solo una questione di comprensione dell’hardware, ma anche di capire come funziona il software sottostante. I system integrator devono porre almeno 5 domande ai loro fornitori:

1 La prima serie di domande è volta a verificare le prestazioni dell’IA dichiarate dal produttore. La performance soddisfa i requisiti del cliente? È facile da ingannare? Cosa succede se si indossa un travestimento? Torneranno i falsi allarmi?

2 La seconda serie di domande riguarda la privacy. Come si inserisce l’IA nelle misure sulla privacy e la protezione dai dati messe in atto? Più avanzata è l’IA, più metadati vengono raccolti. Età, sesso, cosa si indossa, l’auto che si guida, marca, modello, colore: tutti questi dati vengono raccolti e memorizzati. Tutto ciò espone voi e i vostri clienti a qualche rischio in termini di compliance normativa?

3 Sapete spiegare come funziona l’IA? Si tratta di una scatola magica o è possibile spiegare perché l’algoritmo ha assunto una specifica decisione?

4 La quarta serie di domande riguarda la possibile distorsione: c’è qualche distorsione nel modo in cui l’IA controlla il risultato? Per esempio, se l’algoritmo è stato addestrato solo su soggetti caucasici, cosa farà quando avrà a che fare con tratti somatici asiatici o persone di colore? Il risultato risulterà distorto? Qual è la qualità del set di dati usato per addestrare l’IA? 

5 I produttori di telecamere che offrono IA raramente dispongono di un team interno che sviluppa algoritmi. Essi usano in genere i set di addestramento e gli algoritmi disponibili sul mercato. Pertanto, nel valutare un nuovo sistema IA, è necessario chiedere che tipo di set di dati utilizza, qual è l’origine di tale set di dati e se è stato ottenuto in modo lecito. Il caso Clearview AI la dice lunga: utilizzare una soluzione del genere può mettermi nei guai? Da dove viene il training set? Da dove viene l’algoritmo? Due fornitori potrebbero usare lo stesso training set e lo stesso algoritmo? E in questo caso, come si differenziano?

Nel mercato del futuro

Nei prossimi anni le capacità di sviluppo di software saranno il vero focus: la concorrenza tra i vendor sarà basata sulle capacità software più che sull’ampiezza del catalogo o sul prezzo. Molte aziende di IA si affacceranno sul mercato e la concorrenza tra di loro ruoterà attorno a tre elementi principali.

1 Metadati. Quale fornitore è in grado di darci una migliore estrazione di metadati dai feed video o dai sistemi di controllo degli accessi? Quanti attributi si possono estrarre dall’immagine? A quale livello di dettaglio si può arrivare?

2 Qualità dell’inferenza. Com’è noto, le stesse cose possono apparire molto diversamente al variare delle condizioni di luce. Per esempio, di notte un’auto argentata può sembrare bianca. Gli algoritmi in grado di garantire risultati più accurati e fornire una migliore inferenza dal loro motore saranno avvantaggiati.

3 Scoperta e creazione di collegamenti tra i diversi attributi. Uno degli usi chiave dell’intelligenza artificiale è oggi nella ricerca forense. Ora possiamo digitare nel sistema: “cerco un uomo con camicia blu e pantaloni neri”. Il passo successivo consentirà al sistema di identificare automaticamente in quale auto è arrivato, qual è la marca e il modello del veicolo e qual è il numero di targa. 

Intuizione artificiale

Arriviamo infine al Santo Graal delle soluzioni ad intelligenza artificiale: l’intuizione artificiale. Il cervello umano è in grado di prendere decisioni anche in situazioni totalmente nuove, grazie all’esperienza e all’istinto. Per gli algoritmi questo non è possibile. Non ancora almeno, perchè man mano che la tecnologia si evolve e le reti neurali si affinano, potremo vedere sistemi computerizzati dotati di una certa intuizione o della capacità di capire situazioni nuove e quindi decidere, in autonomia, la migliore linea d’azione. E questo aprirà naturalmente anche un tema etico.