Surveillance Pricing, come l’intelligenza artificiale usa i nostri dati personali

A molti utenti in cerca di offerte convenienti sul web sarà capitato di vedere prezzi che oscillano notevolmente a seconda dei siti che visitano o i momenti in cui fanno una determinata ricerca online. Ma se la tecnica del dynamic pricing tradizionale aggiusta i prezzi in base a fattori generali come domanda e offerta, o il periodo stagionale, c’è però un fenomeno che sta prendendo campo, molto più invasivo per la privacy e il portafoglio del consumatore, che può fargli visualizzare prezzi più alti anche del 20-25% rispetto alle tariffe standard. Si tratta del surveillance pricing, una pratica di tariffazione algoritmica con cui le aziende utilizzano l’intelligenza artificiale e tecniche avanzate di analisi dei dati personali per determinare quanto ogni singolo consumatore è disposto a pagare per beni e servizi, studiando accuratamente comportamenti individuali, e creando profili psicometrici che si basano anche su reazioni e stati emotivi.

Tra le informazioni raccolte e analizzate dagli algoritmi predittivi che operano subdolamente spesso senza alcuna consapevolezza degli utenti, vi possono essere il tipo di dispositivo utilizzato, il sistema operativo, il browser, la velocità di digitazione, il tempo di permanenza su una pagina in cui l’utente rimane ad osservare un determinato prodotto, dati di comportamento online come ricerche, cronologia, carrelli abbandonati, click, dati della posizione geografica combinati con la vicinanza al negozio fisico, e perfino movimenti del mouse, il livello di carica della batteria da cui potrebbe derivare una certa fretta nel concludere un acquisto, e identificatori dell’utente attraverso impostazioni uniche del dispositivo che permangono anche cancellando cookie e cronologia.

I fattori che determinano il "prezzo ottimale"

Tutti questi dati vengono analizzati in tempo reale per ottenere una visione granulare delle scelte, delle abitudini e persino delle emozioni dei consumatori, per costruire accurati modelli predittivi che determinano il prezzo “ottimale” da offrire a ciascun consumatore per stimare quanto egli sia disposto a pagare per il prodotto che sta osservando.

Negli Stati Uniti, la Federal Trade Commission (FTC) ha iniziato a indagare sull’uso di IA e dati personali per il pricing personalizzato, sottolineando che questa pratica può portare a differenti prezzi per lo stesso prodotto tra consumatori diversi, e spesso con conseguenze che ovviamente non vanno a vantaggio del cliente. La sorveglianza dei consumatori per impostare prezzi personalizzati solleva gravi questioni di discriminazione economica e sociale, con persone percepite come più ricche o disposte a pagare che possono essere sistematicamente penalizzate, mancanza di trasparenza nei confronti dei consumatori che non sanno quando e perché stanno pagando di più, e anche un’analisi psicologica che sfrutta segnali come esitazione su una pagina, o la fretta dovuta alla batteria scarica, per influenzare il prezzo di base allo scopo di monetizzare certe vulnerabilità degli individui.

La proposta di leggi specifiche 

Negli USA decine di stati hanno proposto leggi per regolamentare o vietare questo tipo di pricing personalizzato invasivo e non trasparente: per esempio New York ha vietato la personalizzazione dei prezzi basata su dati individuali senza esplicita informazione, e la California ha provato misure simili, anche se contrastare le lobby delle multinazionali può rivelarsi una battaglia contro i mulini a vento. Allo stato attuale, le misure difensive sono parziali e limitate, perché se si può ricorrere ad accorgimenti pratici come la modalità di navigazione privata o alla cancellazione regolare dei cookie e dei dati di navigazione, in realtà non esiste una soluzione efficace al 100% per sfuggire completamente alla sorveglianza algoritmica.

ll surveillance pricing non è quindi solo una questione tecnologica, ma anche una sfida sulla tutela dei diritti dei consumatori. Mentre l’IA promette efficienza e offerte migliori, rischia in realtà di trasformare ogni acquisto in una corsa alla ricerca dei polli da spennare, quali rischiano di diventare i consumatori se istituzioni e regolatori non interverranno tempestivamente in modo fermo e deciso per garantire trasparenza ed equità da parte delle piattaforme online.

Articolo di Nicola Bernardi, Presidente di Federprivacy