Ing. Giovanni De Marco, Avv. Gemma Forte

In un discorso tenuto durante la giornata di apertura dell’ottavo Web Summit, tenutosi a Lisbona dal 5 allo 8 novembre scorso, Tim Berners-Lee, l’ormai quasi mitologico inventore del World Wide Web, ha annunciato il suo “Contract for the Web”, una campagna globale per responsabilizzare strutture governative, soggetti economici e cittadini affinché contribuiscano, ciascuno per parte propria, “a fare del web un posto migliore”.

Per citare testualmente Sir Berners-Lee, il problema è che: “[…] The web is at a crucial point. More than half the world’s population remains offline, and the rate of new people getting connected is slowing. Those of us who are online are seeing our rights and freedoms threatened. […] We need a new Contract for the Web, with clear and tough responsibilities for those who have the power to make it better. I hope more people will join us to build the web we want.” (“[…] il web è ad un punto cruciale. Più di metà della popolazione mondiale rimane tuttora offline, ed il tasso di nuovi collegamenti di persone alla rete sta rallentando. Quelli di noi che sono online vedono i propri diritti e le proprie libertà sotto attacco. […] Abbiamo bisogno di un nuovo Contract for the Web, con chiare e rigorose responsabilità per coloro che hanno il potere di migliorarlo. Spero che altre persone si uniranno a noi per costruire il Web che vogliamo.”) (https://www.shortlist.com/tech/tim-berners-lee-save-internet-contract-web-lisbon-facebook-google-tech/376665)

La sua descrizione del Web, così come Sir Berners-Lee lo ha articolato ed immaginato, è quella di: “[…] an open platform that allows anyone to share information, access opportunities and collaborate across geographical boundaries. ([…] “una piattaforma aperta che consenta a tutti di condividere informazioni, accedere ad opportunità e collaborare attraversando i limiti geografici liberamente.”) (https://www.theguardian.com/technology/2017/nov/15/tim-berners-lee-world-wide-web-net-neutrality).
Insomma la veridicità delle sue preoccupazioni è fuori discussione.

Eppure…

Eppure qualcosa in questo suo accorato appello è subito suonato come una stonatura. Innanzitutto, senza ipocrisie, va detto che, accanto a firmatari istituzionali come il Governo francese, e associazioni civiche come Internet Sans Frontières o Access Now, sono corsi a firmare anche Facebook e Google, che di quelle minacce ai diritti ed alle libertà di chi usa la rete non possono negare di essere, a vario titolo, corresponsabili.
Ma naturalmente il problema non è soltanto questo; se così fosse il tutto si ridurrebbe ad uno scontro tra fazioni poco utile e soprattutto distorsivo di quelli che sono i problemi estremamente concreti che Sir Berners-Lee vorrebbe riuscire a risolvere tramite il suo nobile appello
#For the Web.

La questione è, difatti, assai seria e tangibile.

I rischi correlati a Big Data Analysis e Artificial Intelligence

 

Come lo stesso Garante Europeo per la Protezione dei Dati illustra e sottolinea (https://edps.europa.eu/sites/edp/files/publication/18-03-19_online_manipulation_en.pdf), l’origine degli attuali rischi che le libertà ed i diritti dei cittadini corrono nel quotidiano uso di internet e delle tecnologie che ad esso accedono, o che tramite esso riescono ad erogare i propri servizi, sta nella centralizzazione degli stessi servizi che viaggiano sul Web, e nella conseguente centralizzazione delle banche dati che tramite questi stessi servizi si originano e, con l’utilizzo stesso delle tecnologie di rete, si accrescono indefinitamente.

In altre parole la raccolta indefinita di dati personali, unita al fatto che la memorizzazione di tutti questi dati sia effettuata per la stragrande maggioranza da pochi attori privati così forti da poter di fatto sia dettare le regole del gioco (ossia concedere l’accesso ai servizi in cambio di dati personali dell’utilizzatore), sia impedire l’ingresso di nuovi attori nel mercato, è, in modo dimostrato ed argomentato (si vedano a tal proposito i numerosi riferimenti citati dal Garante Europeo nella già citata opinione sulla Data Manipulation), all’origine dei rischi ai quali i cittadini utilizzatori della rete mondiale sono oggi esposti.

Più in dettaglio i rischi per i cittadini crescono col progressivo affermarsi e diffondersi di due tecnologie le quali vivono e stanno prosperando proprio grazie all’esistenza di immense banche di dati personali a disposizione dei cosiddetti big players del Web.
A questo proposito, nel già citato parere dello EDPS del marzo scorso, si dice chiaramente che:
“[…] Big data analytics and artificial intelligence systems have made it possible to gather, combine, analyse and indefinitely store massive volumes of data. Over the past two decades, a dominant business model for most web-based services has emerged which relies on tracking people online and gathering data on their character, health, relationships and thoughts and opinions with a view to generating digital advertising revenue. These digital markets have become concentrated around a few companies that act as effective gatekeepers to the internet and command higher inflation-adjusted market capitalisation values than any companies in recorded history.” (“[…] Grazie ai sistemi di Big data analytics e di Artificial intelligence è possibile raccogliere, combinare, analizzare ed immagazzinare indefinitamente enormi volumi di dati. Negli ultimi due decenni si è imposto, per la maggior parte dei servizi web-based, un modello di business che si fonda sul tracciamento delle attività in rete delle persone e sulla raccolta di dati relativi alla loro personalità, al loro stato di salute, alle loro relazioni interpersonali ed alle loro opinioni, con lo scopo di ottenere un guadagno dalla pubblicità online. Questi mercati digitali si sono concentrati intorno a poche compagnie che agiscono come veri e propri “gestori” del web e che controllano le più cospicue capitalizzazioni di mercato - se normalizzate rispetto all’inflazione – mai registrate da qualunque altra impresa nella storia.”).

Big Data Analytics, AI ed accentramento delle banche dati

 

Dunque lo scenario attuale è quello di un World Wide Web caratterizzato dal predominio di pochi soggetti che detengono una mole enorme di dati personali. Questi dati sono stati inizialmente raccolti in modo sparso ed eterogeneo, e per lungo tempo sono rimasti tali quali essi appaiono all’occhio umano: una grandissima quantità di informazioni parzialmente prive di un filo conduttore che ne consentisse una lettura organica dalla quale poter ricavare delle deduzioni logiche di una qualche utilità.
Lo scenario è mutato nel momento in cui sono state (ovviamente non per caso) messe a punto le tecniche di
Big Data Analytics e, contestualmente, hanno avuto enorme impulso gli studi e le relative implementazioni pratiche di Artificial Intelligence. Infatti l’interazione di questi due settori di ricerca consente oggi di leggere ed interpretare quei dati prima apparentemente disomogenei e non correlati, creando un profilo estremamente dettagliato di ciascun utente del Web. Il livello di accuratezza di questi avatar fatti di dati personali è tale da consentire ai principali operatori del Web una conoscenza dei propri utenti così approfondita da superare persino quella che del singolo utente possono avere parenti ed amici più stretti.

A tale proposito il Garante Europeo osserva che: “The major social media provider is estimated to have used over 52.000 personal attributes to classify people’s interests and attributes. Statistical methods are then used to generate analytical information or to predict future behaviours or development. Automated profiling identifies patterns that are invisible to the human eye. The more user data is available about a person, and the longer a user can be profiled, the richer become the inferences which can be derived from the person’s profile.” (Si stima che il principale provider di social networking abbia adoperato oltre 52.000 attributi personali per classificare gli interessi e le caratteristiche delle persone. Quindi sono state usate delle tecniche statistiche per ricavare informazioni analitiche o per predire comportamenti o sviluppi futuri. I metodi di profilazione automatica individuano schemi che sono invisibili all’occhio umano. Quanti più dati sono disponibili su di un soggetto, e quanto più a lungo questo soggetto può essere tenuto sotto osservazione, tanto più ricche ed articolate divengono le inferenze che si possono trarre dal profilo di quel soggetto.”).
Quanto detto fin qui non esaurisce affatto l’argomento; l’opinione del Garante è lunga e circostanziata e ne consigliamo la lettura a chiunque abbia interesse a studiare questi temi: oltre a una spiegazione esauriente troverà molti utilissimi riferimenti di approfondimento; qui, invece, a chi scrive piacerebbe spostare l’attenzione su cosa sia più opportuno fare per trovare soluzioni concrete a questi serissimi problemi.

Difendersi, ma come...

 

È a questo punto che, col massimo rispetto, ci permettiamo di dissentire, motivatamente, da Sir Berners-Lee.

Come abbiamo già detto le preoccupazioni dell’inventore del World Wide Web sono esattamente le stesse di molti altri eminenti studiosi ed esperti, ma costoro discordano (ed umilmente anche noi lo facciamo) rispetto a Berners-Lee su quale sia la strategia più efficace per arginare l’attuale deriva del Web ed apportare i correttivi necessari per scongiurare l’avverarsi di scenari orwelliani dei quali si intravedono già distintamente le ombre.
Ci stiamo riferendo a due principi i quali, adottati simultaneamente e metodicamente, possono essere la soluzione al problema.
Il primo principio è quello della
Privacy by Design; ideato e proposto nel 2010 dalla professoressa (ed al tempo Garante per la Privacy per la Provincia Canadese dell’Ontario) Ann Cavoukian, questo principio si è rapidamente consolidato come uno dei cardini della moderna strategia e filosofia di Data Protection (come è forse noto è stato integrato nel nuovo Regolamento Europeo sulla protezione dei dati personali con la locuzione estesa di Privacy by design and by default – cfr. art. 25 GDPR).

Privacy by Design

 

La professoressa Cavoukian incardina il principio della PbD su sette punti che è utile illustrare (qui il link al documento dal quale sono stati presi questi estratti https://iab.org/wp-content/IAB-uploads/2011/03/fred_carter.pdf):

1. Proactive not Reactive; Preventative not Remedial (proattivo e non reattivo; preventivo e non correttivo)
[...] Privacy by Design comes before-the-fact, not after (La Privacy by Design viene prima dell’evento, non dopo).

2. Privacy as the Default (privacy per impostazione predefinita)
[...] No action is required on the part of the individual to protect their privacy - it is built into the system, by default (Non è necessaria alcuna azione da parte degli individui per proteggere la loro privacy – la protezione è integrata nel sistema, per impostazione predefinita).

3. Privacy Embedded into Design (privacy incorporata nella progettazione)
[...] Privacy is integral to the system, without diminishing functionality (La privacy è parte integrante del sistema, senza tuttavia diminuirne la funzionalità).

4. Full Functionality – Positive-Sum, not Zero-Sum (piena funzionalità - sistema a somma positiva, non a somma zero)
[…] Privacy by Design avoids the pretence of false dichotomies, such as privacy vs. security, demonstrating that it is possible, and far more desirable, to have both (La PbD evita ogni pretestuosa falsa dicotomia, come ad esempio quella che contrappone privacy e sicurezza, dimostrando che non solo è possibile, bensì è molto meglio averle entrambe).  

5. End-to-End Security – Lifecycle Protection (sicurezza integrale – protezione su tutto il ciclo di vita)
[...] Privacy by Design ensures cradle to grave, secure lifecycle management of information, end-to-end (La PbD assicura “dalla culla alla tomba”, una gestione in sicurezza delle informazioni per tutto il ciclo di vita, senza interruzione).

6. Visibility and Transparency (visibilità e trasparenza)
[...] Remember, trust but verify! (Ricordati, fidati ma verifica!)

7. Respect for User Privacy (rispetto per la privacy dell’utente)
[...] Keep it user-centric! (Mantieni l’utente al centro del sistema!)

In sintesi estrema, come si evince dai sette punti appena visti, il cambio di paradigma richiesto dalla PbD, prima ancora che nelle contromisure pratiche, sta nel ripensare completamente il concetto di privacy ponendo i diritti e le libertà dell’utente al centro del sistema. Solo in questo modo ogni azione intrapresa potrà tutelare la privacy dei cittadini a priori, nel rispetto del punto numero 1 di cui sopra.
Tra l’altro questa impostazione propria della PbD si rivela di fondamentale importanza nel fronteggiare la necessità di rendere compatibile lo sviluppo di tecnologie in rapida e forte espansione, quali
Blockchain, Internet of Things e Artificial Intelligence, con i dettami del GDPR, dato che l’approccio PbD è l’unico che permetta di salvaguardare e garantire la conformità alle norme di qualunque tecnologia, ponendo un freno all’inevitabile “squilibrio di velocità” tra il progresso tecnologico e quello normativo (si vedano a questo proposito i preziosi contributi di Nicola Fabiano https://www.nicfab.it/blockchain-data-protection/ nonché https://fardapaper.ir/mohavaha/uploads/2018/08/Fardapaper-Internet-of-Things-and-Blockchain-legal-issues-and-privacy.-The-challenge-for-a-privacy-standard.pdf).

Decentralizzazione

 

Il secondo principio, o meglio criterio, al quale vogliamo fare riferimento risponde alla domanda immediata che chiunque si avvicini per la prima volta al concetto di Privacy by Design avrebbe diritto di porsi, ovvero: come si può realizzare in pratica un sistema informatico/informativo di trattamento di dati personali che rispetti i criteri della PbD?
In proposito troviamo, ad esempio, estremamente interessanti le proposte/risposte di
Guy Zyskind e del dottor George J. Tomko; Zyskind, fondatore della blockchain decentralizzata “Enigma” (https://arxiv.org/pdf/1506.03471.pdf), ha avuto modo di dichiarare in un’intervista di essere “a favore di qualunque tipo di blockchain che soddisfi gli ideali della decentralizzazione” (https://cointelegraph.com/news/enigma-s-guy-zyskind-i-m-pro-whatever-kind-of-blockchain-fits-decentralization-ideals).
Il dottor George J. Tomko sta invece lavorando, ormai da una decina d’anni (
https://link.springer.com/content/pdf/10.1007%2Fs12394-010-0047-x.pdf) sul progetto di gestione della privacy denominato “SmartData” ed in particolare sul concetto di “SmartData Agents” (https://www.forbes.com/sites/cognitiveworld/2018/11/03/accelerating-the-future-of-privacy-through-smartdata-agents/), proprio allo scopo di elaborare e sviluppare soluzioni tecnologiche in grado di implementare in concreto i principi della PbD (non a caso egli è coautore con Ann Cavoukian del testo di riferimento “SmartData - Privacy Meets Evolutionary Robotics”).
A proposito degli “SmartData Agents” Tomko ha dichiarato: “
[…] This is the evolution of Privacy by Design, which shifts control from the organization and places it directly in the hands of the individual (the data subject) […] For SmartData to succeed, it requires a radical, new approach – with an effective separation from the centralized models which exist today.” ([…] Questa è l’evoluzione della Privacy by Design, che sposta il controllo dall’organizzazione e lo colloca direttamente nelle mani dell’individuo (ossia dell’interessato) […] Affinché il sistema SmartData abbia successo, è necessario un approccio radicalmente nuovo – che operi una reale rottura coi modelli centralizzati che esistono oggi.”).

I dettagli tecnici esulano dallo scopo e dai limiti di questo articolo, e si possono approfondire leggendo i documenti citati in precedenza. Ma al di là di questi dettagli quel che sembra piuttosto chiaro è che senza un processo di decentralizzazione dei servizi forniti ai cittadini tramite il World Wide Web (ossia un processo che vada a ribaltare completamente l’attuale modello di accentramento delle banche dati sostituendo ad esso un modello fondato su una miriade di piccoli database, proprietari e locali, dai quali inviare in rete soltanto dati già anonimizzati o pseudonimizzati), il nuovo corso della privacy, quello che realizza i principi della PbD, che è stato abbracciato e delineato dal GDPR ed ulteriormente sottolineato durante l’ultima Conferenza Internazionale dei Garanti per la Privacy e per la Protezione dei Dati Personali (https://www.privacyconference2018.org/en), resterà una chimera.

Dispostivi "intelligenti"; dal prodotto al servizio

 

Che questo punto sia di vitale importanza sembra abbastanza ovvio. Tuttavia, ad ulteriore approfondimento della questione, è utile considerare un esempio concreto di come le tecnologie di tipo Internet of Things ed Artificial Intelligence, che stanno rapidamente invadendo il mercato (si pensi ai vari voice assistant che i principali players del Web stanno commercializzando), possano facilmente mutarsi in minacce per chi le utilizza, sfruttando il fertile solco del marketing ispirato alla logica service-dominant (S-D logic).

Per spiegare cosa voglia dire logica service-dominant possiamo ricorrere all’esempio che adoperava proprio uno dei suoi due ideatori, il professor Robert Lusch, per illustrare questo concetto a suoi studenti.
Il professor Lusch descriveva quel che avveniva in un immaginario paesino abitato da contadini e pescatori. Le due “categorie” di abitanti scambiavano gli ortaggi con il pescato, e viceversa, ed in questo modo tutti riuscivano ad avere una dieta più sana ed equilibrata. Quindi il professor Lusch si chiedeva, e chiedeva al suo uditorio, cosa stesse davvero succedendo in quel paesino; in particolare si chiedeva quale fosse la reale natura dello scambio. E quindi procedeva spiegando che in realtà in quel paesino non si scambiava pesce con ortaggi, bensì si combinavano ed intrecciavano le conoscenze, l’esperienza e le competenze dell’agricoltura con le conoscenze, l’esperienza e le competenze della pesca per creare valore (ossia una dieta più sana ed equilibrata) per entrambi i gruppi.
In termini più rigorosi la teoria di Robert Lusch e
Stephen Vargo, afferma che l’impiego di competenze diverse in un processo di creazione di valore ed in un contesto di libertà darà, in generale, luogo a mercati che sono “pro-consumatore e pro-società”, e che la libertà di sviluppare e mettere in pratica competenze è “alla base dello sviluppo economico e sociale” (si veda https://www.researchgate.net/profile/John_Williams44/publication/274540551_The_logical_structure_of_the_service-dominant_logic_of_marketing/links/561ea83508aecade1accee19/The-logical-structure-of-the-service-dominant-logic-of-marketing.pdf).
I due studiosi partono dall’assunto che il modello di marketing storicamente consolidato e fondato sulla
good-dominant logic (logica dominata dal bene, ossia dal prodotto), sia in realtà il frutto di un equivoco poiché, anche se focalizziamo l’attenzione sul prodotto, il vero oggetto di scambio è quasi sempre il servizio (in una sua raccolta di slide, reperibili in rete qui, il professor Vargo scrive: “[…] Goods are not why we buy goods […] The goods/service model is inverted: goods are the special case; service is the general case” - “I beni non sono il motivo intrinseco per il quale decidiamo di acquistarli […] Il modello beni/servizi è invertito: i beni sono il caso particolare; il servizio è il caso generale”).

Questo spostamento di focus dal “bene” al “servizio”, ossia da un oggetto di scambio tangibile ad uno intangibile, è anche uno spostamento di focus dal bene materiale al cliente, il quale, posto al centro della strategia di marketing, decreterà il successo o il fallimento di una proposta commerciale in funzione dei benefici ricevuti dal servizio che quella proposta commerciale veicola.
Per certi versi in questo ragionamento si può trovare una sorta di “risonanza” con il richiamo ai principi di etica e rispetto dei diritti umani fondamentali invocati da Sir Berners-Lee nel suo appello
#For the Web: in entrambi i casi si osservano tentativi di porre al centro di un sistema le persone ed i benefici che esse da quel sistema possono trarre, sia come singoli che come comunità.

Tuttavia, proprio come col World Wide Web, gli esiti felici di queste premesse sono tutt’altro che scontati.

Difatti, in base alla S-D logic, i prodotti di tipo IoT ed AI si configurano come “il prodotto perfetto”, per la loro progressiva capacità di affinare la conoscenza dell’utente-cliente così da massimizzarne la soddisfazione (si veda ad esempio https://core.ac.uk/download/pdf/82719934.pdf), il che vuol dire perfezionare sempre più il servizio reso, che nella logica S-D sarebbe quindi una sorta di risultato ideale, un vero e proprio Sacro Graal del marketing in un modello di business service oriented.
Ora, fatta salva la buona fede e le nobilissime intenzioni degli ideatori e sostenitori della
S-D logic, sulle quali nessuno osa dubitare, ciò che non lascia tranquilli è la fertilizzazione del terreno, per così dire, che queste teorie fanno a favore di tecnologie le quali sempre più, dietro un crescente e rassicurante comfort dato dalla loro capacità di imparare, supportare e col tempo prevenire ed addirittura consigliare (o condizionare?) le scelte dell’utente-cliente, veicolano un inimmaginabile traffico di dati personali, i quali sono usati, paradossalmente per stessa scelta più o meno consapevole dell’utente, a fini di profilazione.
Tutte queste tecnologie, che funzionano in base a sistemi basati sulla
centralizzazione, sono oggetto di notevoli perplessità sulle loro caratteristiche in termini di privacy, e solo per non far torto a nessuno evitiamo di citare articoli che evidenziano i limiti di questo o quel dispositivo, ma basta cercare in rete per avere esempi su esempi dei rischi ai quali ci si espone utilizzando queste tecnologie. Ed il loro punto debole è sempre lo stesso: la gestione dei dati personali indispensabili per il funzionamento di questi dispositivi è effettuata con sistemi centralizzati.

La prudenza è d'obbligo

 

In definitiva, e tornando al punto iniziale di questo articolo, le preoccupazioni di Sir Berners-Lee sono anche le nostre ed in tutta sincerità ci sentiamo di aderire idealmente con tutti noi stessi al suo appello. Quel che ci preoccupa è la forse eccessiva fiducia che questo generoso e impagabile scienziato continua a riporre nel genere umano tutto. Anche questo è, a ben vedere, un suo enorme pregio.
Tuttavia noi abbiamo ben forte nelle orecchie il monito lanciato dalla professoressa Cavoukian al sesto dei suoi sette punti cardine della PbD:
Remember, trust but verify!
In questa ottica le strade intraprese da Zyskind e Tomko sembrano garantire il purtroppo necessario grado di autotutela che l’attuale scenario dei diritti e delle libertà nella “rete”, ancor prima che i dettami del GDPR, impongono. A meno che non ci si voglia invece fidare ciecamente di colossi multinazionali affidandogli indiscriminatamente i nostri dati personali nel mito dell’economia
service dominant, per poi ritrovarsi un bel giorno a chiedersi, “spaventati, confusi, smarriti e tutti affannati” come il Candido di Voltaire: “Se questo mondo è l’ottimo dei possibili che mai son gli altri?”.