Diminuisce la fiducia degli utenti nei confronti dell’intelligenza artificiale

Le aziende che decidono di effettuare investimenti nell’intelligenza artificiale pensando di ottimizzare i propri processi produttivi e al tempo stesso risparmiare risorse, devono fare i conti con non poche sfide, da non trascurare. Tra le più importanti: la necessità di guadagnare la fiducia degli utenti.

“The Race for ROI” è un rapporto di IBM che mette in luce come in Italia l’aumento di produttività abilitato dall’AI risulti alquanto evidente nei settori dei trasporti (67%), dell’energia (60%), della logistica (75%). Un autorevole sondaggio del Pew Research Center rivela d'altro canto che la fiducia nell’intelligenza artificiale sta diminuendo in tutto il mondo. La maggior parte delle persone adulte intervistate esprime infatti una crescente percezione negativa delle nuove tecnologie. In nessuno dei 25 paesi analizzati è stata superata la soglia del 30% di persone “più entusiaste che preoccupate”, con Stati Uniti, Italia, Australia e Brasile che hanno registrato le percentuali maggiori di adulti che sono più turbati dall’AI.

I potenziali effetti negativi sui consumatori

Soprattutto nel mercato B2C (“Business to Consumer”), le potenzialità delle performance non possono non tenere conto dei potenziali impatti negativi sui consumatori. Al fine di evitare il rischio di un pericoloso effetto boomerang, le aziende devono invertire questa tendenza alla  diffidenza nei confronti dell’AI, cercando di far sì che le soluzioni di intelligenza artificiale che propongono siano considerate utili e quindi apprezzate dai loro clienti.

Il futuro dell’intelligenza artificiale cela diverse incognite, ma un punto fermo sul quale converge tutta la comunità degli addetti ai lavori è che essa deve restare sempre al servizio dell’uomo e non viceversa. La fiducia diventa pertanto l'autentico vantaggio competitivo, dato che i consumatori sono oggi più consapevoli, più esigenti in termini di privacy, meno disposti a tollerare opacità o abusi nell’uso dei propri dati personali.

Un trattamento dei dati "trasparente"

Così come richiesto dal GDPR, l’utente deve poter percepire che i suoi dati vengono trattati in modo trasparente, e che in ogni momento può contare sull’intervento umano, conservando il diritto di non essere sottoposto a decisioni dettate soltanto dagli algoritmi, e le aziende che investono nell’intelligenza artificiale devono inoltre ricordare che “non tutto ciò che è tecnologicamente possibile è anche socialmente desiderabile, eticamente accettabile, giuridicamente legittimo”, come affermò in modo lungimirante nel 2004 Stefano Rodotà, primo illustre presidente del Garante per la protezione dei dati personali.

L’intelligenza artificiale da sola non è in grado di costruire una tale fiducia da parte degli utenti, perché non è una prerogativa delle macchine: solo degli esseri umani possono guadagnarsi la fiducia di altri esseri umani, e per questo è fondamentale che ogni progetto di AI sia concepito e portato avanti con attenzione da un team multidisciplinare, in cui siano prensenti esperti con varie competenze, capaci di dialogare e interagire in modo efficace.

La figura del DPO 

Figura di centrale importanza per un’azienda che adotta un sistema di intelligenza artificiale è il Data Protection Officer, che tra i compiti che gli sono assegnati dal GDPR ha anche quello di essere il “custode dei dati”, sorvegliando il rispetto delle regole, e fungere da referente per tutti gli interessati che necessitano di avere chiarimenti sul trattamento dei loro dati personali, oppure di esercitare i loro diritti.

La persona che ricopre questo ruolo in un’azienda che impiega l’AI, non deve essere scelta solo in base alle sue competenze tecniche e conoscenze giuridiche del GDPR, caratteristiche che da sole rischierebbero di trasformarlo in un mero burocrate, ma deve essere anche una persona assertiva, che si relaziona con gli interessati in modo chiaro e trasparente, così da permettergli di avere la fiducia degli utenti, contribuendo alla compliance dell’organizzazione e al rafforzamento della sua reputazione. La figura del Data Protection Officer non è dunque confinata alla conformità normativa, ma è parte integrante della governance etica dell’innovazione tecnologica, che rappresenta il punto di equilibrio tra efficienza dei dati e rispetto della dignità e della privacy delle persone, la cui mission non è fermare l’AI, ma assicurare che questa resti umana, trasparente e giusta.