Big Tech – Carmilla on line

Monopoli Big Tech

gioacchino toni — Sun, 14 Jul 2024 20:00:01 +0000

di Gioacchino Toni

Cory Doctorow, Come distruggere il capitalismo della sorveglianza, traduzione del Gruppo Ippolita, Mimesis, Milano-Udine, 2024, pp. 156, € 16,00

«Il monitoraggio permette ai ricchi e ai potenti di capire chi sta pensando di costruire ghigliottine e quale macchina del fango possono adoperare per screditare questi progetti prima ancora che arrivino al deposito di legname». Così scrive Cory Doctorow nel suo nuovo libro ruotante attorno alla convinzione che buona parte del successo delle Big Tech derivi dal controllo monopolistico sulla comunicazione e sul commercio; monitorare efficacemente gli utenti/clienti e controllare fette importanti del panorama dell’informazione significa intuire prima dei concorrenti cosa e come gli individui siano propensi ad acquistare. «Il dominio, cioè il fatto di diventare un monopolista (e non i dati in sé) è il fattore decisivo che rende ogni tattica degna di essere perseguita, perché il dominio monopolistico priva il suo target-cliente di una via di fuga».

Secondo Doctorow, l’analisi del capitalismo della sorveglianza di Shoshana Zuboff tende a sovrastimare la capacità di persuasione delle tecniche a cui ricorre tale sistema; l’efficacia, comunque di breve durata, di tali tecniche sarebbe in realtà ben meno rilevante di quel che gli stessi colossi tecnologici millantano. «L’industria tecnologica è stata così brava a commercializzare i propri presunti superpoteri che è facile credere che sia in grado di commercializzare tutto il resto con un’acutezza simile, ma è un errore cedere alla loro propaganda». I colossi del digitale mentono anche sull’efficacia dei loro sistemi di persuasione basati sull’apprendimento automatico. Il prodotto delle grandi aziende è la persuasione e ciò riguarda anche la loro efficacia.

A indirizzare gli utenti, sostiene Doctorow, non sono tanto le strategie messe in atto dalle Big Tech ma il loro operare in regime di sostanziale monopolio. La forza di Facebook, ad esempio, non risiede tanto nella capacità di sfruttare i dati raccolti per sottoporre agli utenti pubblicità mirate ma piuttosto nella sua capacità di trattenere per lungo tempo gli utenti così da inondarli da un flusso di informazioni sponsorizzate talmente elevato che per forza contiene annunci rispondenti ai loro interessi. Un colosso come Amazon è divenuto predominante (al di fuori della Cina) nell’e-commerce perché ha letteralmente assorbito i grandi ed i piccoli rivali conquistando così un ruolo di indubbio monopolio ed è proprio grazie al suo agire in stato di monopolio che può plasmare i mercati facendo scelte informate.

A permettere alle Big Tech di esercitare sorveglianza non è soltanto il loro essere tecnologiche ma anche – e soprattutto – il loro essere giganti. In un tale contesto, il tradizionale controllo dello Stato, sottolinea Doctorw, è però tutt’altro che un vecchio arnese del passato appartenente ad un’epoca ormai lontana in cui «il grande pericolo pubblico era quello di essere arrestati per dissidenza politica, e non di essere privati del proprio libero arbitrio grazie all’apprendimento automatico». Sorveglianza statale e sorveglianza privata sono in realtà molto più interfacciate. «Oggi l’unico modo veramente conveniente e concreto per condurre una sorveglianza di massa sulla scala praticata finora dagli Stati moderni – sia quelli “liberi” che quelli autocratici – è quello di subordinarli ai servizi commerciali».

Se gli Stati sono restii a limitare la potenza dei colossi tecnologici che operano attraverso la datificaizone è anche perché hanno bisogno di essi. Non può esserci sorveglianza statale di massa senza che vi sia sorveglianza commerciale di massa. Le premesse di tutto ciò si danno in quella svolta neoliberista di fine anni Settanta del secolo scorso che, dietro a tanta retorica, ha posto le basi per aggirare le limitazioni ai monopoli. Ronald Reagan si è avvalso di personaggi come Robert Bork, ex procuratore generale da lui nominato alla Corte d’Appello degli Stati Uniti per il Distretto di Washington. «I monopoli sono un ottimo modo per rendere i ricchi ancora più ricchi, consentendo loro di ricevere “rendite monopolistiche” (cioè maggiori profitti) e di controllare i legislatori, portando a un ambiente normativo più debole e più favorevole, con minori protezioni per i clienti, i fornitori, l’ambiente e i lavoratori».

Per dare un’idea di quanto siano aumentate le capacità di esercitare sorveglianza da parte statale, si pensi che mentre l’apparato della Stasi in Germania dell’Est controllava in maniera capillare il Paese ricorrendo ad un informatore ogni sessanta persone, oggi la NSA (National Security Agency) ricorre a un agente per monitorare 10 mila cittadini a livello mondiale e ciò è stato reso possibile dalle Big Tech.

Il controllo di massa da parte dello Stato è possibile solo grazie al capitalismo della sorveglianza e ai suoi sistemi di targeting pubblicitario a bassissimo rendimento, che richiedono un’alimentazione costante di dati personali per dirsi redditizi a malapena. Il problema principale del capitalismo della sorveglianza è rappresentato dagli annunci pubblicitari fuori tema, mentre il problema principale della sorveglianza di massa è rappresentato dalle palesi violazioni dei diritti umani, che tendono al totalitarismo (p. 81).

Non è possibile operare una netta distinzione tra sorveglianza di Stato e capitalismo della sorveglianza visto che dipendono l’una dall’altro. In un sistema sostanziamene monopolista come l’attuale, i legislatori hanno dovuto assegnare alle Big Tech compiti onerosi simili a quelli di pertinenza di uno Stato: filtrare automaticamente gli interventi degli utenti per verificare eventuali violazioni di copyright, contenuti razzisti, sessisti, violenti, discriminatori ecc. Soltanto le grandi piattaforme hanno le risorse umane e tecnologhe necessarie per tentare, almeno formalmente, di far fronte a tali obblighi ed è anche per tale motivo che si adoperano per ostacolare l’interoperabilità concorrente che potrebbe vanificare le misure di controllo.

Senza la sfera di cristallo di Amazon, Google e tutti gli altri grandi appaltatori tecnologici, la polizia statunitense non sarebbe in grado di spiare le persone di colore, l’ICE non sarebbe capace di gestire la reclusione dei bambini al confine degli Stati Uniti, e i sistemi di welfare statali non potrebbero “ripulire” le loro liste travestendo la crudeltà da empirismo, sostenendo cioè che le persone povere e vulnerabili non sono idonee all’assistenza (p. 60).

La ritrosia degli Stati a intervenire per limitare la sorveglianza deriva, almeno in parte, dalla relazione simbiotica tra le Big Tech e lo Stato. «Non c’è sorveglianza statale di massa senza sorveglianza commerciale di massa. Il monopolio è la chiave del progetto di sorveglianza statale di massa».

Il governo delle piattaforme digitali

gioacchino toni — Wed, 18 Jan 2023 21:00:16 +0000

di Gioacchino Toni

Nei confronti della “Quarta rivoluzione industriale” – modellata da informatica, telematica, robotica, Intelligenza Artificiale ecc… –, con notevole semplificazione, si tendono a contrapporre una posizione cyber-apocalittica, propria di inguaribili nostalgici del mondo analogico inclini, almeno a parole, al rifiuto se non al luddismo digitale, e una cyber-integrata, riferita a quanti sono convinti che la tecnologia risolverà ogni tipo di problemi, compresi quelli scaturiti dal suo utilizzo. Trattandosi di una polarizzazione del tutto semplicistica, utile più per ritrarre in maniera stereotipata chi manifesta nei confronti delle tecnologie posizioni ritenute distanti dalle proprie, varrebbe la pena prendere in esame la percezione che i tanti utilizzatori di Internet e dei social hanno del contesto tecnologico con cui si rapportano quotidianamente.

In un panorama come quello italiano, in cui si stima che siano oltre l’ottanta per cento coloro che navigano su Internet e accedono ai social almeno una volta al giorno, a partire da alcune delle questioni più dibattute in ambito accademico e specialistico, il volume Il governo delle piattaforme. I media digitali visti dagli italiani (Meltemi, 2022) di Alex Buriani e Gabriele Giacomini ha approfondito, su un campione rappresentativo della popolazione, cosa pensa chi vive in questo Paese a proposito di «dieta mediale, nuove forme di intermediazione e di comunicazione, fake news, profilazione, personalizzazione dei contenuti, disinformazione, polarizzazione, raccolta dei dati personali, echo chambers, rapporto tra ICT [Tecnologie dell’Informazione e della Comunicazione] e democrazia, ruolo dello Stato nei confronti di Internet e delle piattaforme, legislazione, politiche pubbliche nei confronti delle ICT, educazione e formazione» (p. 22).

Dall’indagine demoscopica condotta dai due studiosi nel periodo compreso tra il 2020 e il 2021 emerge come nonostante si critichino spesso le piattaforme digitali, soprattutto i social, non si rinunci a ricorrervi quotidianamente, ci si informa soprattutto attraverso i social media ma si teme che tale informazione sia viziata da fake news, si caricano immagini, video e pensieri personali ma si vorrebbe al tempo stesso poterli cancellare a piacimento, si accetta di concedere i propri dati alle piattaforme online pur auspicando un maggior controllo su di essi, si permette la personalizzazione dei contenuti trovando persino utile la profilazione a fini commerciali ma si desidera un universo digitale maggiormente diversificato ove poter incontrare contenuti e utenti non in linea con le proprie posizioni, si è consapevoli che con la propria presenza online si concorre a incrementare i profitti delle big tech ma si vorrebbe almeno l’imposizione nei loro confronti di una tassazione più giusta.

Secondo gli autori del volume tali posizioni manifestano come a fianco di un convinto riconoscimento dell’imprescindibilità dell’universo Internet vi sia una ferma consapevolezza della necessità di un suo miglioramento. Insomma, dall’indagine emergerebbe, secondo Buriani e Giacomini, un’estesa e trasversale volontà “riformatrice” dell’universo mediatico digitale che però non torva uno sbocco politicamente organizzato e definito.

La maggior parte dei pareri emersi dal campione interpellato non è riconducibile né a posizioni cyber-apocalittiche, né a quelle cyber-integrate, ma sembra piuttosto collocarsi tra tali due estremi; una sorta di “terza via” in cui non si intende fare a meno delle Tecnologie dell’Informazione e della Comunicazione ma piuttosto le si vorrebbe migliorarle evitando di delegare alla tecnologia le soluzioni e rivendicando, piuttosto, il diritto di partecipare a indirizzare il cambiamento verso quanto desiderato.

Tali auspici, sostengono i due studiosi, non andrebbero sottostimati leggendoli come frutto di una sorta di “ingenuità popolare”; dopotutto, ricordano Buriani e Giacomini, tutte le rivoluzioni tecnologiche hanno necessitato di essere ripensate, riformate e ricalibrate anche in funzione dei desideri, dei valori e degli interessi degli individui e delle società in cui si sono manifestate.

Le tecnologie non si sviluppano meramente assecondando le architetture pianificate da qualche oscura centrale di potere dalle idee chiare; il loro percorso è costellato di ripensamenti, ripiegamenti e variazioni improvvise derivate non solo da interessi contrastanti all’interno del sistema politico ed economico ma anche da parte dei “fruitori” che si sono rivelati “attori”, forse inattesi, del mutamento.

Buriani e Giacomini sottolineano come molte questioni poste dal campione interpellato risultano dibattute a livello politico e legislativo soprattutto a livello di Unione Europea, forse perché, a differenza degli Stati Uniti, non ospita al proprio interno le GAFAM (Google, Apple, Facebook, Amazon, Microsoft).

La storia di Internet e delle tecnologie digitali ha vissuto una prima fase prevalentemente pubblica; le infrastrutture e il linguaggio di Internet sono nati negli Stati Uniti ove il settore ha goduto di una massiccia politica di investimenti pubblici diretti o di supporto indiretto, attraverso politiche fiscali, commerciali e tecnologiche a beneficio delle aziende. Una seconda fase digitale, coincidente con gli ultimi tre decenni, ha come protagoniste le GAFAM non a caso cresciute sul terreno fertile reso disponibile dalla precedente fase pubblica statunitense. Come da tradizione, del resto, ricordano i due studiosi, il capitale privato è disposto a investire e rischiare soltanto quando si palesano le possibilità di profitto.

La “capitalizzazione” privata degli investimenti pubblici nel settore digitale corrisponde, storicamente, all’ondata neoliberista […] caratterizzata da vari processi connessi tra loro: la globalizzazione della produzione, del commercio e dei servizi pubblici, la finanziarizzazione dell’economia. Soprattutto, i governi (da destra a sinistra, da Reagan a Thatcher a Clinton, Blair e Schröder), con l’obiettivo di rafforzare le imprese private, hanno perseguito una politica di deregolamentazione, ispirata dal settecentesco principio del laissez faire, secondo cui bisognerebbe abolire ogni vincolo all’attività economica e all’iniziativa privata. Di questo approccio ha beneficiato certamente il rampante settore digitale (pp. 258-259)

Ciò ha consentito agli Stati Uniti di generare le imprese delle Tecnologie dell’Informazione e della Comunicazione più potenti al mondo. L’imposizione fiscale di favore applicata al settore digitale e le responsabilità delle sue grande piattaforme sulla sfera pubblica e sui singoli individui in termini di controllo rappresentano, secondo i due studiosi, “effetti collaterali” della deregolamentazione. «Il punto è che deregolamentare un settore significa, di fatto, regolamentarlo a favore di un gruppo di attori (nel nostro caso, le grandi piattaforme digitali) che preferiscono essere liberi da vincoli esterni. Dal punto di vista politico, le istituzioni pubbliche, pur continuando a esercitare il lor ruolo legislativo e di governo in maniera formalmente legittima, “arretrano” effettivamente a favore di altre organizzazioni » (p. 260).

Il laissez faire libertario permesso alle piattaforme nella seconda fase della diffusione del digitale sembrerebbe trasformarsi nel suo opposto. Altro che fervore concorrenziale, le gradi piattaforme stanno sfruttando la libertà loro concessa a proprio unico interesse; d’altra parte agli apologeti della libera concorrenza i monopoli non sono affatto sgraditi, basta non siano di origine pubblica. «I presupposti del laissez faire, nell’attuale fase digitale, sembrano ribaltarsi nel loro contrario. [Il] capitalismo delle piattaforme, basato sulla registrazione dei dati, afferma una forma di vita che, sotto molti aspetti, appare più vicina alla pianificazione che al libertarismo» (p. 261)

L’eterogenesi dei fini del laissez faire, suggeriscono gli autori del volume riprendendo Marco Delmastro e Antonio Nicita, Big data. Come stanno cambiando il nostro mondo (Il Mulino, 2019), «potrebbe essere stata innescata da almeno due elementi principali, presenti nell’attuale assetto dell’Internet delle piattaforme: in primo luogo, dalla “privatizzazione della mano invisibile” (effetto della posizione di gatekeeping delle big tech), in secondo luogo, dal “sostegno tecnologico alla pianificazione”» (pp. 261-262).

Nonostante le apparenze, la rivoluzione digitale non sembra andare nella «direzione di potenziare la mano invisibile di Smith e la rivelazione delle informazioni di Hayek» (p. 262), vista l’asimmetria informativa imperante nell’universo digitale. La conoscenza dei gusti e degli interessi degli individui, derivati dall’elaborazione dei dati digitali che li riguardano, avvicinano il capitalismo delle piattaforme al paradigma della pianificazione. Una pianificazione in effetti sempre più tecnicamente praticabile e capace di scavalcare l’ideale del mercato concorrenziale e trasparente.

La conoscenza del mercato non sembra più essere un bene pubblico come ai tempi della “mano invisibile” teorizzata dai liberali classici (ad esempio attraverso il sistema dei prezzi), ma resta soprattutto al servizio di un’oligarchia di enormi piattaforme, dotate degli strumenti infrastrutturali e cognitivi necessari per gestire un tale genere di conoscenza e di valore. Così, la “mano invisibile” si “nasconde”, viene privatizzata e al tempo stesso è sempre più fattibile pianificare, dando linfa al potere degli neointermediari digitali. Il paradigma del mercato “libero da vincoli” viene sfidato dall’Internet delle piattaforme sia internamente, attraverso la privatizzazione della “mano invisibile”, sia esternamente, dalla novità della praticabilità della pianificazione (pp. 264-265).

Potrebbe dunque prospettarsi, sostengono Buriani e Giacomini, una terza era digitale contraddistinta dal superamento del laissez faire precedente, una nuova fase in cui le autorità pubbliche si propongono di temperare, attraverso un’opera di regolamentazione, il capitalismo delle piattaforme. E ciò parrebbe essere in linea con la richiesta diffusa, come testimonia l’indagine svolta sul campione italiano esaminato, di una maggiore attenzione a proposito dei diritti digitali e di una più decisa regolamentazione pubblica del settore.

Il futuro “governo di Internet”, però, dipenderà anche da come i desiderata della popolazione si tradurranno in “politica effettiva”. La spinta popolare, sostengono gli autori del volume, potrebbe essere interpretata in senso “liberale classico” (es. difesa della privacy e antitrust), in senso “repubblicano” (es. tassazione a fini ridistribuivi), “autoritario” (es. eliminazione del dissenso in nome della lotta alle fake news) e “conservatore” (nel senso stretto del termine, ad es. consentendo alle piattaforme di conservare, appunto, la loro propensione espansiva senza interventi pubblici).

Per chi non si accontenta delle opzioni sopraelencate non resta che interrogarsi, anche alla luce dello scemare degli “entusiasmi alternativi” della prima ora, circa la possibilità di pensare a un “governo di Internet” in termini radicalmente altri.

Culture e pratiche di sorveglianza. Costruzione identitaria e privacy tra rassegnazione digitale e datificazione forzata

gioacchino toni — Fri, 03 Dec 2021 21:00:32 +0000

di Gioacchino Toni

Riferendosi all’età contemporanea, le scienze sociali tendono ad assegnare una certa importanza al ruolo dei social media nella “costruzione del sé”, nella “costruzione antropologica della persona”. Nel recente volume di Veronica Barassi, I figli dell’algoritmo. Sorvegliati, tracciati, profilati dalla nascita (Luiss University Press, 2021) [su Carmilla], l’autrice evidenzia come, nell’era del capitalismo della sorveglianza, con la possibilità offerta dalle piattaforme digitali di raccontare storie personali negoziando la posizione che si occupa in società, sorgano alcune importanti questioni su cui vale la pena riflettere.

Innanzitutto si opera nell’impossibilità di controllare il contesto in cui le informazioni personali vengono condivise e ciò, sottolinea la studiosa, determina il collasso dell’integrità contestuale, dunque la perdita di controllo nella costruzione del sé in quanto non si padroneggiano più le modalità con cui ci si presenta in pubblico. Si tenga presente che alla creazione dell’identità online concorrono tanto atti coscienti (materiali caricati volontariamente) che pratiche reattive (like lasciati, commenti ecc.) spesso in assenza di un’adeguata riflessione.

Nel costruire la propria identità online si concorre anche alla costruzione di quella altrui, come avviene nello sharenting, ove i genitori, insieme alla propria, concorrono a costruire l’identità online dei figli persino da prima della loro nascita. In generale si può affermare che manchi il pieno controllo sulla costruzione della propria (e altrui) identità online visto che si opera in un contesto in cui ogni traccia digitale può essere utilizzata da sistemi di intelligenza artificiale e di analisi predittiva per giudicare gli individui sin dall’infanzia.

Se a partire dalla fine degli anni Ottanta la Convenzione delle Nazioni Unite sui diritti dell’infanzia ha posto l’accento su come i bambini non debbano essere intesi come individui subordinati agli adulti e bisognosi di protezione ma piuttosto come soggetti autonomi dotati di specifici diritti, il capitalismo della sorveglianza [su Carmilla], evidenzia Barassi, li ha nei fatti privati della loro autonomia. Sia perché il “consenso dei genitori” diviene il grimaldello per trattare i loro dati che perché le loro tracce digitali sono prodotte, raccolte e condivise da altri soggetti ben al di là del consenso e del controllo genitoriale. Ciò avviene in svariati ambiti – istruzione, intrattenimento, salute… – e le tracce digitali dei bambini prodotte tanto da loro stessi quanto da altri [su Carmilla] vengono utilizzate per indagare i loro modelli comportamentali, per fare ipotesi circa le loro tendenze psicologiche e per costruire storie pubbliche relative alla loro identità.

Essendo che le tracce digitali hanno a che vedere con l’identità sociale, nell’era del capitalismo digitale, sostiene Barassi, i social media sono divenuti un terreno di conflitto e negoziazione per le famiglie. Insistere tuttavia quasi esclusivamente sulle responsabilità dei genitori smaniosi di condividere dati sui figli rischia di mettere in secondo piano le responsabilità delle multinazionali della raccolta-elaborazione dei dati. Piattaforme dedicate all’infanzia come Messanger Kids di Facebook condividono le informazioni raccolte con terzi e ciò avviene perché tutte le principali Big Tech stanno investendo parecchio nella profilazione dell’infanzia e lo stanno facendo davvero con ogni mezzo necessario aggirando facilmente le legislazioni in materia.

Sebbene a proposito dell’impatto dei social media sul benessere psicologico dei bambini vi siano posizioni differenti all’interno dell’ambito accademico, non è difficile immaginare come tali piattaforme possano perlomeno contribuire a rafforzare culture e stereotipi negativi. Alcuni studi hanno mostrato, ad esempio, come le bambine siano indotte a conformarsi a stereotipi sessualizzati al fine di essere accettate socialmente. Trattandosi di strumenti espressamente realizzati per facilitare la raccolta, il tracciamento e la cessione dei dati ad altri soggetti, non è difficile immaginare come tutto questo materiale raccolto ed elaborato possa incidere sulla vita degli individui.

In una società ad alto tasso di digitalizzazione sono molteplici le modalità con cui si raccolgono dati sui bambini. La studiosa mette in evidenza come dietro ad alcune pratiche, spesso fruite come del tutto innocue e non intrusive, si nascondano vere e proprie strategie di profilazione. Si pensi non solo ai dati raccolti sui bambini dalle piattaforme didattiche utilizzate nelle scuole, di cui non è affatto chiara la gestione da parte delle aziende fornitrici del “servizio”, al tracciamento facciale a cui sono sottoposti sin da piccoli negli aeroporti e persino all’ingresso di parchi giochi come Disneyland, ove vengono loro fotografati i volti all’ingresso motivando blandamente tale pratica, nei rarissimi casi in cui i genitori ne chiedano il motivo, come un’operazione volta alla sicurezza, come ad esempio facilitare il loro rinvenimento in caso di smarrimento. Sebbene cosa ne faccia il colosso Disney delle foto scattate ai volti dei bambini non è dato a sapere, certo è che si tratta di dati estremamente sensibili essendo la fotografia del volto a tutti gli effetti un dato biometrico unicamente riconducibile all’identità di un individuo al pari dell’impronta digitale e della voce.

Altri sistemi di profilazione con cui entrano in contatto facilmente i bambini sono i giochi scaricati sugli smartphone o su altri dispositivi – che in alcuni casi, nota la studiosa, questi continuano a carpire immagini tramite la la videocamera dell’apparecchio anche quando il gioco non è in funzione –, i dati raccolti da piattaforme di intrattenimento come Netflix che, non a caso, lavorano sulla creazione di profili ID univoci. Persino le ricerche effettuate dai genitori attraverso i motori di ricerca online a proposito di disturbi o malattie dei figli concorrono all’accumulo di dati sensibili utili alla costruzione della loro identità digitale sin da bambini.

Tutto ciò non può che porre importanti interrogativi circa il concetto di privacy tenendo presente come questo derivi da uno specifico contesto politico, sociale e culturale. Buona parte del dibattito attorno alla privacy rapportata alle nuove tecnologie ruota attorno all’idea di una necessaria e netta distinzione tra una sfera pubblica (visibile) e una privata (riservata). Se l’avvento dei social media, su cui si è indotti a esibire/condividere tutto di se stessi [su Carmilla], sembra annullare sempre più la distinzione tra pubblico e privato, conviene secondo Barassi soffermarsi sull’importanza di tale dicotomia in quanto «consente di capire la filosofia individualista – e problematica – che definisce l’approccio occidentale verso la privacy e la protezione dei dati» (p. 89). La dicotomia tra ciò che è pubblico e ciò che è privato nella cultura occidentale «suggerisce che c’è una chiara differenza tra la sfera collettiva e quella personale, tra Stato e individuo, tra ciò che è visibile e ciò che è segreto» (p. 89).

Il concetto di privacy occidentale ha le sue radici nell’idea che «che dobbiamo proteggere il nostro interesse personale e le nostre famiglie nucleari prima di pensare alla dimensione pubblica/collettiva» (p. 89). Ed è in tale filosofia individualista della privacy che secondo la studiosa si annida il vero problema:

rapportare il concetto di privacy a quello di interesse individuale porta sempre a una riduzione del suo valore una volta che la privacy viene posta di fronte all’interesse collettivo. Questo è chiaro se pensiamo ai dibattiti sul riconoscimento facciale, sul contact tracing o su altre tecnologie implementate in nome dell’interesse collettivo. Dall’altra parte, intendere la privacy come fenomeno individuale ci porta a cercare soprattutto soluzioni individualiste a problemi che sono invece di natura collettiva (p. 90).

Circa la privacy dei bambini, dall’indagine svolta da Barassi emerge con forza nei genitori una sorta di “rassegnazione digitale”, dettata dall’impressione di non aver altra scelta, di cui approfitta il capitalismo della sorveglianza che però, nota la studiosa, si avvale anche della “partecipazione digitale forzata”. I soggetti fornitori di servizi a cui ricorrono quotidianamente le famiglie, dai servizi sanitari alle istituzioni educative, sempre più si affidano alla raccolta e all’analisi dei dati personali.

È attraverso la partecipazione digitale forzata a una pluralità di istituzioni, private e non, che i bambini vengono datificati, ed è per questa ragione che dobbiamo andare oltre la privacy come interesse privato dei bambini per studiare invece cosa voglia dire crescere in una società dove siamo continuamente costretti ad accettare termini condizioni di utilizzo, e dove i dati dei nostri figli vengono raccolti e condivisi in modi che sfuggono alla nostra comprensione e la nostro controllo. Solo così riusciremo a fare luce sulle ingiustizie e sulle ineguaglianze della nostra società datificata, e sul fatto che il mondo in cui pensiamo al valore della privacy nella vita di tutti i giorni dipende spesso dalla nostra posizione sociale […] C’è qualcosa di profondamente ingiusto nel diverso impatto che queste trasformazioni hanno avuto sulle famiglie altamente istruite o ad alto reddito da un lato, e su quelle a basso reddito o meno istruite dall’altro (pp. 94-95).

La diseguaglianza sociale in effetti, sottolinea la studiosa, gioca un ruolo importante nelle modalità in cui viene vissuta e affrontata la datificazione a cui si è sottoposti quotidianamente. I sistemi automatizzati di intelligenza artificiale tendono ad amplificare tale ingiustizia. Nelle società a forte datificazione i dati raccolti ed elaborati finiscono per essere utilizzati per profilare e indirizzare le vite degli individui. Piuttosto che concentrarsi esclusivamente sul problema della privacy, occorrerebbe piuttosto indagare quanto «la sorveglianza digitale e la datificazione di massa [siano] strettamente interconnesse con la giustizia sociale» (p. 97).

Sebbene spesso si parli di profilazione riferendosi al ricorso a tecnologie e algoritmi per l’analisi predittiva, in realtà, sottolinea Barassi, si tratta innanzitutto di «un processo antropologico che si estende oltre il mondo digitale e che ha a che vedere con la classificazione e la creazione di categorie, di raggruppare persone, animali, piante e cibi sulla base delle loro similitudini e differenze. È attraverso la creazione di categorie che definiamo le regole sociali» (p. 103). Tale pratica viene utilizzata anche per identificare il rischio. «Nella società moderna la profilazione è anche storicizzatone connessa al controllo della popolazione e all’oppressione razziale e sociale» (p. 103). La profilazione ha finito per far parte della vita quotidiana tanto nel farvi ricorso quanto nell’esservi sottoposti [su Carmilla]; «la profilazione è per definizione una pratica di correlazione di dati che serve per formare un giudizio» (p. 104).

Sebbene la profilazione sia un fenomeno sociale, antropologico e personale in atto ben da prima della trasformazione digitale, è nel passaggio di millennio che si determinano cambiamenti sostanziali: l’avvento di nuove tecnologie ha comportato tanto un aumento spropositato della quantità di informazioni personali che possono essere raccolte e intrecciate, quanto di strumenti utili a ottenerle al fine di realizzare profilazioni sempre più sofisticate. Nel saggio Big Other: Surveillance Capitalism and the Prospects of an Information CIvilization (2015) pubblicato sul “Journal of Informatin Technology” (30 gennaio 2015), Shoshana Zuboff ha spiegato come a suo avviso sia più efficace indicare tale contesto come “Big Other”, piuttosto che “Big Data”, in quanto tale dicitura rende meglio l’idea dell’architettura globale – composta da computer, network, sistema di accordi e relazioni… – di cui si avvale il capitalismo della sorveglianza nello scambiare, vendere e rivendere i dati personali.

Barassi evidenzia come un ruolo centrale all’interno di tale Big Other sia svolto dai “data broker”, aziende che raccolgono informazioni personali sui consumatori, le aggregano sotto forma di profili digitali per poi venderli a terzi. La raccolta di dati avviene sia dai registri pubblici che dalle piattaforme digitali e dalle ricerche di mercato, oltre che acquistandole dalle aziende che gestiscono app e social media. Un data broker può identificare, ad esempio, un individuo anche in base al suo aver manifestato interesse all’argomento diabete non solo per vendere l’informazione a produttori di alimenti senza zucchero, ma anche alle assicurazioni che, in base a ciò, lo classificheranno come “individuo a rischio” alzando il prezzo della sua polizza. Analogamente gli individui vengono profilati sulla base del reddito, dello stile di vita, dell’etnia, della religione, dell’essere o meno socievoli o introversi e così via agendo di conseguenza nei loro confronti. La raccolta di questi dati avviene in un regime da Far West a partire dalla più tenera età così da poter aggiornare costantemente e affinare il profilo individuale.

La studiosa sottolinea anche come i dati raccolti dalle Big Tech in ambito domestico non siano soltanto personali/individuali ma raccontino anche la famiglia intesa come gruppo sociale a partire dai contesti socioeconomici, valoriali e comportamentali e tutto ciò può condurre a gravi forme di discriminazione. Un’inchiesta di ProPublica, organizzazione no-profit statunitense, ha rivelato come Facebook consentisse pubblicità mirate discriminatorie rivolte alle sole “famiglie bianche”. Barassi sottolinea come tali meccanismi possano imprigionare i bambini in stereotipi discriminatori e riduzionisti limitandone la mobilità sociale; si rischia di divenire sempre più prigionieri delle classificazioni assegnate al proprio profilo digitale.

Dal 2019 Amazon raccoglie informazioni fisiche ed emotive degli utenti attraverso la profilazione della voce, mentre Google ed Apple stanno lavorando da tempo a sensori in grado di monitorare gli stati emotivi degli individui e tutti questi dati vanno ad aggiungersi a quelli raccolti a scopo di profilazione quando si cercano informazioni sulla salute su un motore di ricerca. Come non bastasse, le Big Tech affiancano alla raccolta dati sulla salute ingenti investimenti nell’ambito dei sistemi sanitari. Qualcosa di analogo avviene nel sistema scolastico-educativo ed anche in questo caso le grandi corporation tecnologiche hanno saputo approfittare dell’emergenza sanitaria per spingere sull’acceleratore della loro entrata in pompa magna nel sistema dell’istruzione.

I media occidentali da qualche tempo danno notizia con un certo allarmismo del sofisticato sistema di sorveglianza di massa e di analisi dei dati raccolti sui singoli individui e sulle aziende messo a punto dal governo cinese tra il 2014 e il 2020 al fine di assegnare un punteggio di “affidabilità” fiscale e civica in base al quale gratificare o punire i soggetti attraverso agevolazioni o restrizioni in base al rating conseguito. All’interesse per il sistema di sorveglianza cinese non sembra però corrispondere altrettanta attenzione a proposito di ciò che accade nei paesi occidentali, ove da qualche decennio «governi e forze dell’ordine stanno utilizzando i sistemi IA per profilarci, giudicarci e determinare i nostri diritti» (p. 122), impattando in maniera importante soprattutto sul futuro delle generazioni più giovani.

Sebbene non sia certo una novità il fatto che governi e istituzioni raccolgano dati o sorveglino i comportamenti dei cittadini, la società moderna ha indubbiamente “razionalizzato” tale pratica soprattutto in funzione efficientista-produttivista rafforzando insieme alla burocrazia statale gli interessi aziendali. In apertura del nuovo millennio, scrive Barassi, anche sfruttando l’allarmismo post attentati terroristici che hanno colpito gli Stati Uniti e l’Europa, molti governi hanno iniziato ad integrare le tecnologie di sorveglianza quotidiana dei dati con i sistemi di identificazione e autenticazione degli individui.

Alcuni studi hanno dimostrato come le pratiche di profilazione digitale messe in atto in diversi paesi, oltre ad essere discriminatorie, minino alle fondamenta i sistemi legali in quanto determinano in segreto quanto un cittadino sia da considerare “un rischio” per la società senza concedergli la possibilità di usufruire di un’adeguata tutela legale. Altro che “giusto processo”; soprattutto grazie alle leggi anti-terrorismo emanate dopo l’11 settembre 2001 ci si può ritrovare “condannati” senza nemmeno conoscerne il motivo.

Barassi riporta il caso della Palantir Technologies, vero e proprio colosso privato della sorveglianza e profilazione dei cittadini, capace di offrire servizi di raccolta e analisi dei dati ai governi e alle aziende private soprattutto occidentali. Ai sevizi di tale azienda, creata nel 2003, ricorrono le principali agenzie governative statunitensi (dall’FBI alla CIA, dal’Immigration and Customs Enforcement al Department of Homeland Security ed al Department of Justice). Attiva in oltre 150 paesi nel 2010, la Palantir Technologies ha saputo sfruttare abilmente l’attuale pandemia per diffondere i sui servizi in Europa.

La profilazione digitale dei cittadini si rivela strategica per molti paesi occidentali in cui istituzioni governative e apparati di polizia ricorrono sempre più a sistemi di IA, il più delle volte gestiti direttamente da aziende private, per prendere decisioni importanti sulla vita dei cittadini. Barassi sottolinea anche come numerosi studi abbiano dimostrato come le tecniche per il riconoscimento facciale, ad esempio, siano tutt’altro che attendibili e come le stesse tecnologie per l’analisi predittiva, oltre che non affidabili, tendano ad amplificare i pregiudizi e ad alimentare la diseguaglianza sociale. Una ricerca del 2019 pubblicata su “Science”, ad esempio, ha rivelato come il sistema sanitario statunitense ricorra ad algoritmi razzisti nel prendere decisioni in merito alla salute pubblica.

«Nell’era de capitalismo della sorveglianza non esistono più dati “innocui”, perché i dati che offriamo come consumatori molto spesso vengono utilizzati per determinare i nostri diritti di cittadini» (p. 133). Il software CLEAR, ad esempio, attinge dati di oltre 400 milioni di consumatori da un’ottantina di società che si occupano di bollette domestiche di vario tipo per poi rivenderli ad istituzioni governative che si occupano di frode fiscale e sanitaria, di immigrazione e riciclaggio di denaro o di prendere decisioni relative all’affidamento di bambini. «Senza che se ne rendano conto, i dati che gli utenti […] producono in qualità di consumatori domestici possono venire incrociati, condivisi e utilizzati per investigazioni federali» (p. 134). Altro inquietante caso riportato da Barassi riguarda Clearview AI, società produttrice di software per il riconoscimento facciale. Un inchiesta del “New York Times” del 2020 ha evidenziato come in alcune giurisdizioni statunitensi le forze di polizia utilizzassero tale software per confrontare le fotografie di individui ritenuti sospetti con gli oltre tre miliardi di immagini presenti online, soprattutto sui social.

***

È di questi giorni la notizia delle sanzioni comminate in Italia dall’Autorità Garante della Concorrenza e del Mercato a due tra le maggiori Big Tech

Tra gli utenti di Apple e Google e le due aziende esiste “un rapporto di consumo, anche in assenza di esborso monetario“. Perché “la controprestazione”, cioè il pagamento, “è rappresentata dai dati che essi cedono utilizzando i servizi di Google e di Apple”. È con questa premessa che l’Antitrust ha multato i due gruppi per un totale di 20 milioni di euro – 10 ciascuno, il massimo edittale – per due violazioni del Codice del Consumo, una per carenze informative e un’altra per pratiche aggressive legate all’acquisizione e all’utilizzo dei dati dei consumatori a fini commerciali (Apple e Google, multa Antitrust da 20 milioni: “Informazioni carenti sull’uso dei dati personali degli utenti e pratiche aggressive”, “Il Fatto Quotidiano”, 26 novembre 2021.

Nel Comunicato stampa emesso dall’AGCM il 26 novembre 2021 viene evidenziato come nella fase di creazione dell’account, Google «l’accettazione da parte dell’utente al trasferimento e/o all’utilizzo dei propri dati per fini commerciali» risulti pre-impostata consentendo così «il trasferimento e l’uso dei dati da parte di Google, una volta che questi vengano generati, senza la necessità di altri passaggi in cui l’utente possa di volta in volta confermare o modificare la scelta pre-impostata dall’azienda». Nel caso di Apple, prosegue il Comunicato stampa, l’architettura di acquisizione «non rende possibile l’esercizio della propria volontà sull’utilizzo a fini commerciali dei propri dati. Dunque, il consumatore viene condizionato nella scelta di consumo e subisce la cessione delle informazioni personali, di cui Apple può disporre per le proprie finalità promozionali effettuate in modalità diverse». Nel dettaglio si vedano: Testo del provvedimento Google – Testo del provvedimento Apple

Alla luce di quanto detto in precedenza, è difficile immaginare che tutti questi dati sugli utenti raccolti subdolamente, legalmente o meno, vengano sfruttati “solo” a livello commerciale. Intanto si accumulano, poi potranno essere messi sul mercato ed essere elaborati e utilizzati per gli scopi più diversi.

È il capitalismo della sorveglianza, bellezza. E tu non ci puoi far niente! Se ci si deve per forza rassegnare a tale ennesimo adagio impotente, occorrerebbe allora riprendere anche l’efficace titolo di un recente film italiano: E noi come stronzi rimanemmo a guardare (2021, di Pierfrancesco Diliberto “Pif”).

Su Carmilla – Serie completa Culture e pratiche della sorveglianza

Culture e pratiche di sorveglianza. Tracciati e profilati fin da prima della nascita

gioacchino toni — Thu, 25 Nov 2021 21:00:39 +0000

di Gioacchino Toni

«Dal momento in cui i bambini vengono concepiti, le loro informazioni mediche sono spesso condivise su app di gravidanza o sui social media, e dopo essere venuti al mondo tutti i loro dati sanitari e educativi vengono digitalizzati, archiviati e molto spesso gestiti da società private. A man mano che crescono, ogni istante della loro vita quotidiana viene monitorato e trasformato in un dato digitale […] I dati dei nostri bambini vengono aggregati, scambiati, venduti e trasformati in profili digitali, e verranno sempre più utilizzati per giudicarli e per decidere aspetti fondamentali della loro vita» (p. 10)

Così scrive Veronica Barassi nell’ambito di una sua ricerca, pubblicata originariamente da MIT Press in lingua inglese, volta ad approfondire come la trasformazione digitale in atto, grazie anche all’apporto degli sviluppi dell’intelligenza artificiale, stia conducendo alla datificazione di ogni traccia lasciata dall’individuo sin da prima della sua nascita. Per comprendere meglio la portata di tale trasformazione secondo la studiosa conviene concentrarsi sulla prima generazione che ha subito il processo di datificazione digitale sin da prima di venire al mondo. Tale ricerca è stata tradotta e pubblicata in italiano nel volume da poco disponibile in libreria: Veronica Barassi, I figli dell’algoritmo. Sorvegliati, tracciati, profilati dalla nascita (Luiss University Press, 2021).

Se è difficile individuare un momento preciso in cui tutto ciò ha preso il via, secondo l’autrice si possono tuttavia individuare due momenti chiave che hanno permesso l’avvio di tale processo. Un primo momento può essere individuato nella svolta neoliberista thatcher-reaganiana a cavallo tra anni Settanta e Ottanta nel suo porsi alla base di quei processi di globalizzazione che, con le relative ricadute economiche, politiche e sociali, hanno fatto da premessa al secondo fenomeno che ha determinato la trasformazione di cui si sta parlando, ossia la nascita negli anni Novanta di quel capitalismo della sorveglianza di cui ormai si palesano gli effetti in termini di controllo e sfruttamento [su Carmilla].

Nonostante le tecnologie Internet siano nate nel corso degli anni Settanta da reti militari, universitarie, scientifiche, ludiche e alternative, il vero e proprio punto di svolta è riconducibile all’avvento del World Wide Web a metà anni Novanta che ha radicalmente cambiato e influenzato il modo di organizzare e rendere accessibili le informazioni in rete. È tale trasformazione ad aver permesso la nascita di quel capitalismo digitale che, con lo spostamento della produzione industriale nei paesi con un costo della forza lavoro più contenuto, ha dato vita nei paesi tecnologicamente più avanzati a un’economia sempre più incentrata sul marketing, sulla pubblicità e sulla distribuzione supportata da una sempre più marcata flessibilità dei rapporti di lavoro e da un’evidente erosione della distinzione tra tempo di lavoro e tempo libero.

Nonostante gli intenti utopistici che avevano accompagnato la nascita del web, il processo di privatizzazione non ha tardato ad arrivare sotto forma di browser e business dot.com. È dall’implosione di tale economia, naufragata con la bolla speculativa al passaggio di millennio, che è nato il web 2.0 costruito sulla partecipazione attiva degli utenti; non a caso le prime grandi piattaforme 2.0 sono state i social media (Facebook dal 2004, YouTube dal 2005, Twitter dal 2006 ecc.) e a tali standard si sono presto adeguate le piattaforme tradizionali di Google e Amazon a cui si sono poi aggiunte Airbnb (dal 2007) [su Carmilla] e Uber (dal 2009).

Sebbene a ridosso del passaggio tra primo e secondo decennio del nuovo millennio le piattaforme social hanno oggettivamente svolto un ruolo importante nel supportare numerose proteste, l’entusiasmo nei confronti delle nuove tecnologie della connettività ha dovuto fare i conti con il palesarsi del loro operare nella raccolta e nello sfruttamento dei dati personali che con la l’inadeguatezza di queste allo sviluppo duraturo di esperienze di antagonismo sociale [su Carmilla].

Se il web 2.0 ha permesso la raccolta di una quantità di dati prima inimmaginabile, occorre sottolineare come parallelamente a tutto ciò siano avanzate le ricerche nell’ambito dell’intelligenza artificiale ed è dall’intrecciarsi di questi due ambiti che è scaturita quella vera e propria riformulazione della vita quotidiana di cui forse soltanto ora ci si accorge, anche alla luce dell’emergenza pandemica.

Non è azzardato affermare che per il capitalismo della sorveglianza Google ha avuto un ruolo non dissimile da quello esercitato dalla Ford Motor Company e dalla General Motors nello sviluppo del capitalismo industriale [su Carmilla] ed è proprio attraverso colossi come Google che si è diffusa l’analisi predittiva in tutti gli ambiti dell’esistenza; dalle scuole alle banche, dalle assicurazioni alle agenzie interinali, dall’assistenza sociale agli apparati di polizia.

Nell’era del capitalismo della sorveglianza non c’è più confine tra i dati del consumatore, raccolti per proporre pubblicità personalizzate, e i dati del cittadino, raccolti per decidere se possiamo avere accesso o meno a determinati diritti […] Il Capitalismo della sorveglianza ci sta trasformando tutti in cittadini datificati e se davvero vogliamo capire questa trasformazione dobbiamo concentrarci sui bambini nati nell’ultima decade: la prima generazione datificata fin da prima della nascita (p. 19).

È pertanto sui nativi datificati che si concentra la ricerca di Veronica Barassi. Sui bambini datificati cioè sin da prima di nascere anche a causa della condotta dei genitori che condividono sui social informazioni circa il futuro nascituro, dai resoconti sull’attesa alle loro ecografie, proseguendo poi, una volta venuti al mondo, con la diffusione di immagini e racconti dettagliati dei loro istanti di vita quotidiana a cui si aggiungono i dati raccolti dalle tante app utilizzate dai genitori per monitorare la salute e la crescita dei bambini e dalle apparecchiature smart sempre più diffuse all’interno delle abitazioni [su Carmilla]. Poi il profilo dei bambini sarà aggiornato delle piattaforme educative e da tutto l’armamentario di cui dispone il capitalismo della sorveglianza.

In particolare la studiosa si sofferma su quattro tipologie principali di raccolta dati relativi ai bambini: quelli raccolti dagli “assistenti virtuali” presenti nelle abitazioni in cui vivono; quelli immagazzinati dalle scuole attraverso le piattaforme educative on line; quelli relativi alla salute aggregati tanto attraverso app private quanto attraverso l’informatizzazione del sistema sanitario pubblico; quelli raccolti dai social media. Risulta pertanto palese la volontà delle Big Tech di raccogliere il maggior numero di dati personali per poterli aggregare in profili digitali riconducibili a singoli individui attraverso sistemi, anche biomedici, di identificazione e profilazione.

La recente pandemia, ricorda Barassi, ha di certo spinto sull’acceleratore del capitalismo della sorveglianza già in atto, palesando il livello di dipendenza dalle tecnologie digitali e la sempre più difficile distinguibilità tra ambiti privati e pubblici e tra tempi e spazi lavorativi e ricreativi.

Se il tracciamento medico del nascituro non è una novità, scrive Barassi, esistono però almeno due grandi differenze rispetto al passato: un’inedita possibilità di concentrazione dei dati raccolti dalle famiglie (informazioni mediche, psicologiche e relative alla routine quotidiana, agli stili di vita e di consumo ecc.) e un’altrettanto inedita diffusione di tali dati attraverso condivisioni su app e social con ciò che ne consegue in termini di profilazione aziendale. Non a caso, come ha esplicitato l’ONG Electronic Frontier Foundation nel report di Quintin Cooper, The Pregnancy Panopticon (2017), Facebook e Google stanno investendo sulla compravendita dei dati raccolti delle app che accompagnano la gravidanza.

In generale, sostiene Barassi, le Big Tech, oltre a raccogliere dati da terzi, stanno investendo in settori pubblici come la salute e l’educazione (es. Google for Education, che la recente emergenza pandemica ha enormemente contribuito a diffondere anche nel sistema educativo italiano). Sebbene negli USA e in Europa vi siano leggi che proibiscono alle aziende private di vendere a terzi dati raccolti nell’ambito dell’educazione, non è poi così difficile per tali piattaforme aggirare i vincoli legislativi e aggregare i dati sotto un unico profilo ID in grado di seguire l’individuo lungo la sua intera esistenza.

Una ricerca del 2019 pubblicata dal “British Medical Journal” ha mostrato come buona parte delle app relative alla salute condividano i dati raccolti con fornitori di servizi che a loro volta li girano soprattutto a società di ambito tecnologico, pubblicitario e persino ad agenzie di credito: anche i dati raccolti prima della nascita possono concorrere all’ottenimento o meno di un credito in età adulta.

Circa i motivi che spingono tante famiglie a ricorrere a tali app di tracciamento, le interviste sul campo condotte da Veronica Barassi indicano come l’entusiasmo per tali applicazioni derivi soprattutto dalla sensazione di sicurezza e controllo che esse sembrano offrire. Il fenomeno del sharenting, ossia l’ossessione dei genitori di condividere sui social informazioni relative ai figli, spiega la studiosa, sembra derivare dal tentativo di sconfiggere tutte quelle ansie e quelle paure che si proiettano sull’essere genitori per la prima volta attraverso la creazione di un’identità digitale dei figli il più possibile idilliaca. Durante l’inchiesta è emerso come le medesime motivazioni di controllo e sicurezza siano alla base anche del ricorso volontario a tecnologie di tracciamento reciproco, ad esempio tramite smartphone, tra i genitori.

Alla luce dell’incremento esponenziale nell’ultimo decennio di tecnologie di intelligenza artificiale tra le pareti di casa, Barassi invita a chiedersi quale tipo di valori culturali questi dispositivi incorporino e come vengano trasmessi. «Cosa vuol dire far crescere i nostri figli con dispositivi di intelligenza artificiale che insegnano loro a relazionarsi con un oggetto come se fosse una quasi-persona? Che tipo di dati vengono raccolti da queste tecnologie e che impatto hanno sulla privacy dei nostri figli?» (p. 46).

L’idea di intelligenza artificiale, ricorda la studiosa, è nata negli anni Cinquanta del Novecento con riferimento alla possibilità di far eseguire alle macchine cose che necessiterebbero dell’intelligenza umana. Oggi si tende a parlare di intelligenza artificiale tanto in maniera “hollywoodiana” (che la vuole dotata di coscienza e autonomia, in grado di provare emozioni e ingannare l’essere umano), quanto rapportandola all’apprendimento automatico da dati esistenti, alle reti neurali e all’analisi predittiva, cioè a tutto ciò che sta realmente trasformando la realtà quotidiana. «Se davvero vogliamo capire il ruolo dell’intelligenza artificiale nelle nostre case dobbiamo cominciare proprio dalle sensazioni e dalle emozioni che proviamo quando interagiamo con “macchine intelligenti”, e da come molto spesso le nostre interazioni con queste tecnologie siano definite dall’illusione dell’intimità artificiale» (p. 52).

Diverse ricerche sul campo hanno dimostrato come gli individui si relazionino con queste tecnologie come se si trovassero di fronte a esseri umani (ad es. vi si rivolgono con forme di cortesia del tipo “per favore”, “grazie” ecc.) e si rapportano con gli “assistenti virtuali” avendo la sensazione di dialogare confidenzialmente con una persona amica. Sebbene tale sensazione venga maggiormente percepita confrontandosi con robot antropomorfici, è comunque bene presente anche nel rapporto con gli assistenti virtuali con cui sono possibili soltanto forme di interazione vocale.

A partire da tali premesse diviene importante chiedersi che tipo di relazione strutturino i bambini con agenti dotati di intelligenza artificiale. Sebbene non vi sono al momento risposte univoche da parte degli studiosi a proposito del tipo di interazione che i bambini sviluppano con l’intelligenza artificiale, quanto il rapporto possa divenire intimo e personale, di certo però occorre non dimenticare che tali tecnologie domestiche sono pianificate con preconcetti culturali e sociali, dunque è importante domandarsi quale tipo di valori trasmettano ai bambini. Di certo Alexa e Google Assistant sono progettati per incentivare e facilitare il consumo, ma quali preconcetti culturali trasmettono? La scelta della voce femminile in molto tecnologie smart, ad esempio, rafforza il pregiudizio culturale che vuole la donna “assistente” e “servizievole”.

Uno dei casi che più hanno fatto discutere, e su cui si sofferma l’autrice, riguarda Hello Barbie: una bambola rivelatasi in grado di registrare le conversazioni casalinghe per la profilazione dei bambini e dei famigliari. Non meno inquietante è stato l’uso e lo stoccaggio da parte di Amazon dei dati raccolti dai bambini attraverso Echo Dot Kids. Al di là dei prodotti appositamente realizzati per raccogliere dati sui bambini, occorre tener presente anche il rapportarsi di questi ultimi con tecnologie domotiche presenti nelle abitazioni – la studiosa ha in particolare monitorato l’uso di Amazon, Google, Apple e Samsung – che hanno accesso a informazioni relative al contesto socio-economico e agli aspetti valoriali e comportamentali della famiglia. Si tratta di raccolte che avvengono sempre più anche sfruttando la ricognizione vocale.

Un’impronta vocale è esattamente come un’impronta digitale, è un dato biometrico che può essere facilmente associato all’individuo. Questo significa che le aziende che raccolgono i dati dalle nostre case possono integrarli con informazioni biometriche da utilizzare per la creazione di profili ID unici che […] possono essere utilizzati per trarre una varietà di conclusioni sensibili sull’individuo: dal contesto socio-economico in cui vive al suo stato di salute mentale (p. 61).

Oltre a soffermarsi sull’inchiesta del 2019 condotta dalla tv belga VRT NWS venuta in possesso di un migliaio di registrazioni di Google Assistant che includevano conversazioni in camera da letto registrate senza che fosse stato pronunciato “Hey Google”, dunque all’insaputa degli utenti, Barassi riporta le inquietanti ammissioni di un impiegato di Apple rilasciate all’inglese “Guardian” nel 2020 a proposito della pratica diffusa in azienda di far ascoltare ai dipendenti le registrazioni di Siri.

Negli Stati Uniti vi sono già stati diversi casi in cui le registrazioni ottenute tramite Alexa sono state utilizzate in tribunale mentre il “Washington Post” ha ricostruito come l’Immigration and Customs Enforcement (la polizia di controllo dell’immigrazione) si avvalga del database CLEAR di proprietà di una multinazionale canadese contenente oltre 400 milioni di nominativi, indirizzi e dati vari raccolti da un’ottantina di aziende che si occupano di utenze domestiche, internet, telefonia ecc.

Il volume I figli dell’algoritmo di Veronica Barassi dedica uno spazio importante anche al ruolo dei social media nella costruzione contemporanea del sé e alla questione della privacy mettendo in luce, in quest’ultimo caso, come tale concetto sia contingente al contesto politico, sociale e culturale e come il grande limite del concetto di privacy in Occidente derivi dall’essere inteso come fenomeno individuale che induce a cercare soluzioni individualiste a problematiche in realtà di natura collettiva. Occorrerà tornare su questi ultimi aspetti affrontati dalla studiosa.

Su Carmilla – Serie completa Culture e pratiche della sorveglianza

The revolution will not be televised: immagini di una democrazia blindata

Sandro Moiso — Sun, 24 Jan 2021 22:00:59 +0000

di Sandro Moiso

L’Occidente, in posizione di Dio (di onnipotenza divina e di legittimità morale assoluta), diviene suicida e dichiara guerra a se stesso (Jean Baudrillard, 3 novembre 2001)

Più volte negli ultimi tempi, a proposito degli Stai Uniti ma non solo, si è sviluppata sulle pagine di Carmilla una riflessione sulla frantumazione dei rapporti tra Stato e cittadini e tra Stato, classi e mezze classi, destinata probabilmente, e non per conscia volontà dei secondi, a svilupparsi in una guerra civile globale. Lo Stato contro (quasi) tutti, tutti contro tutti, ma anche (quasi) tutti contro lo Stato.

Così le immagini di una Washington blindatissima e di quindicimila soldati della Guardia Nazionale schierati nelle vie deserte e accampati come bivacchi di manipoli all’interno del Congresso, a protezione dell’insediamento del neo-eletto presidente Biden, hanno ulteriormente contribuito a rafforzare tale ipotesi. Infatti, se il buongiorno si vede dal mattino, possiamo già immaginare fin da ora il destino dello scontro sociale all’interno di questo nuovo, e forse ultimo, modello di democrazia blindata, in cui i soldati si accampano nei palazzi del governo come ai tempi della guerra in Iraq e dei marines alloggiati nelle stanze che furono di Saddam Hussein.

Democrazia imperiale, muscolare e allo stesso tempo debole, che gli ultimi avanzi di una sinistra perbenista trasformatasi in nuova maggioranza silenziosa applaudono in nome di una narrazione politically correct soffocante, che sempre più assomiglia ad una nuova forma di conformismo del pensiero e di censura di qualsiasi altra opinione che possa, anche solo lontanamente, assumere aspetti di radicalismo politico o sociale.

Nel 1969, negli Stati Uniti coinvolti in una guerra nel Sud-est asiatico iniziata da due presidenti democratici, John Fitzgerald Kennedy e Lyndon Johnson, e continuata dal repubblicano Richard Nixon, il “nero” Jimi Hendrix distorceva e straziava con la sua chitarra elettrica l’inno americano trasformandolo in grido di dolore e rivolta contro la guerra in Vietnam e la repressione dei movimenti sociali di opposizione, “bianchi” e “neri”, in casa. Oggi, nell’America di Joe Biden, una stellina “bianca” caduta dal firmamento del pop, ben regolamentato da un giusto equilibrio tra ciò che si può mostrare del proprio corpo e ciò che si può dire per piacere ai potenti, avvolta in un abito che ricordava la bandiera a stelle e strisce, ha interpretato con strumentale passione e finta commozione patriottica lo stesso inno, accompagnata dal coro dei semper fidelis marines.

Una pseudo-poetessa rap ventiduenne ha declamato versi sul valore della democrazia “riconquistata” mentre i poteri bianchi e creoli si commuovevano, con il rally positivo della borsa che nel frattempo faceva aumentare la soddisfazione per il risultato elettorale e per lo “scampato pericolo”, mentre la memoria della poesia rabbiosa del ghetto dei Last Poets e di Gil Scott-Heron, il messaggio infuocato di Grand Master Flash & the Furious Five, la violenza e l’ironia dei testi dei Public Enemy, autentici profeti della rabbia di strada, e il body count di Ice T venivano definitivamente banditi e cancellati dalla storia della cultura afro-americana. All’epoca della rivolta di Los Angeles del 1991 la polizia di vari stati americani ottenne che il disco di Ice T contenente il brano Cop Killer fosse ritirato dal mercato, ma oggi sembra sufficiente la sceneggiata democratica per contribuire alla pacificazione sociale e alla negazione del conflitto. Sbiancando il contenuto dei testi, strappati alla tradizione dei griot africani e costretti nell’ambito del bon ton della borghesia progressista bianca e afroamericana. I’m black and proud! aveva ruggito James Brown, molto prima che Michael Jackson iniziasse a sbiancare la propria pelle, mentre anche la musica nera, che fin dalle origini era stata definita come “musica del diavolo” per la sua esplicita sensualità e visceralità espressiva, aveva già da tempo visto ingrigire il suo colore originario.

La componente di Black Lives Matter che sembra essersi maggiormente affidata al sogno della democrazia americana, che a guardar bene non assomiglia neppure al sogno di Martin Luther King, rischia di finire in una trappola da cui non c’è uscita poiché con questa scelta, parafrasando un vecchio rivoluzionario, rischia di far fare ai movimenti di protesta afroamericani due passi indietro e nessuno avanti. Il primo, più importante, nei confronti delle rivendicazioni del vecchio, ma per ora ancora mai superato, Black Panther Party che fondeva la questione della liberazione degli afroamericani con quella più generale della liberazione dal dominio imperialista e di classe. L’altro in direzione di un soffocante identitarismo esclusivamente razziale destinato a rilanciare soltanto le esigenze di riconoscimento sociale della upper-middle class afroamericana, la cui principale (e fallimentare) espressione si è avuta, per ora, con la presidenza Obama.
Cosicché una donna ricca e potente come Kamala Harris può fingere di essere la rappresentante autentica di tutti gli afroamericani, anche di quelli poveri, emarginati e reclusi, nelle vesti di Vice-presidente, mentre nelle strade deserte della capitale fotoreporter e giornalisti embedded mostrano i giubbotti antiproiettile per sottolineare i gravi pericoli corsi dalla democrazia americana.

Una democrazia golpista all’estero e assassina di leader politici in ogni angolo del mondo, oltre che all’interno, basata sullo sfruttamento della forza lavoro in casa e ovunque le aziende americane esportino i loro capitali per incrementarli al minor costo e col maggior profitto possibile. Una democrazia autoritaria nata dalla distruzione dei nativi e dalla schiavitù degli schiavi africani e dei loro discendenti¹ e articolata intorno ad una ripartizione della ricchezza vertiginosamente ineguale che ha sempre richiesto un enorme tributo di sangue. Una democrazia basata sulla forza del dollaro e fondata sul potere delle armi come in quasi nessun altro paese al mondo e che ora, con le truppe schierate intorno a Capitol Hill e alla Casa Bianca, in misura ben maggiore di quelle schierate nell’estate del 2020 da Trump a causa del rifiuto opposto allora dal Pentagono all’intervento dell’esercito nelle strade d’America, mostra il suo vero, unico ed ultimo volto.

Come al solito i “sinistri” embedded, di qua e di là dell’Atlantico, continueranno ad urlare al mancato colpo di stato dei sostenitori di Trump, fingendo di non vedere che, forse, il vero golpe lo porta avanti una fazione politica ed economica che dell’aria sorniona del più anziano presidente degli Stati Uniti ha fatto la sua immagine e della parziale farsa del 6 gennaio la sua stampella d’appoggio. Un anziano presidente che, però, ha immediatamente rivendicato i pieni poteri per il “contrasto al Covid” e che nel suo discorso inaugurale ha ricordato che in “democrazia” è possibile manifestare opinioni divergenti purché nel farlo non si creino o alimentino divisioni. Come se le divisioni sociali, le differenze di classe e razziali fossero semplici incidenti di percorso, create soltanto da discorsi dissennati e, sottinteso, “fascisti”.

I telegiornali del 21 gennaio, però, hanno anche trasmesso le immagini dei manifestanti, vestiti di nero, che in diverse città americane bruciavano la bandiera nazionale davanti agli edifici del governo. Infatti, in concomitanza con l’insediamento del neopresidente, hanno avuto luogo mobilitazioni per dare voce a una chiara opposizione anticapitalista all’arrivo dell’amministrazione neoliberista di Biden. D’altra parte le battaglie di strada dell’estate scorsa, dopo gli omicidi polizieschi, hanno lasciato il segno. Nella coscienza e nella volontà di procedere con la lotta di molti giovani, sia neri che bianchi e latini, ma anche in quella della borghesia sia bianca che nera. Concordi, queste ultime due, nel voler impedire qualsiasi ulteriore sviluppo organizzativo, associativo e di lotta della componente più radicale di quei movimenti².

Mentre le forze che sono attualmente l’espressione della nuova rivoluzione americana della Gig Economy (piattaforme social e di E-commerce, Big Data, Big Tech, Big Pharma) già si approntano a distribuire patenti di correttezza nell’uso del linguaggio politico, censurando ogni forma diversa di comunicazione (non ci si illuda: prima Trump e i suoi followers, poi chiunque altro intralci per davvero il cammino “progressivo” della democrazia blindata) e certificazioni vaccinali che dei cittadini, più che lo stato di salute, notificheranno l’adeguamento immediato a qualsiasi nuova norma istituita dallo Stato e dalla società dell’autoritarismo “democratico”.

Welcome to the terrordome quindi, anche se travestito da innocente luna park dell’eguaglianza dei diritti formali e proprietari, destinati a negare quelli economici, sanitari e politici reali, destinati ad essere soffocati e nascosti come polvere sotto il tappeto della democrazia parlamentare autoritaria.
Superare i pregiudizi significa allora, e prima di tutto, cercare di riunificare tutto ciò che è stato diviso ingiustamente e a favore di pochi. Ripartire dalle lotte dal basso sarà l’unico vero passaggio obbligato nell’immediato futuro e la resistenza contro la società del capitale inevitabile. Mentre tutte le banalità riconducibili ad una visione politically correct espurgata da qualsiasi riferimento allo scontro di classe e il piagnisteo democratico-parlamentare non potranno che rivelarsi inutili e dannosi; da combattere come il capitale, il fascismo (vero) e tutti gli strumenti materiali ed immaginari che ne sostengono ancora la permanenza in vita.

Sull’importanza del dominio e della separazione razziale per lo sviluppo del capitalismo statunitense, anche dopo l’emancipazione successiva alla Guerra Civile, si veda il recentissimo: Robin Blackburn, Il crogiolo americano. Schiavitù, emancipazione e diritti umani, Giulio Einaudi editore, Torino 2020 ↩
“A Portland, dopo che centinaia di persone sono scese in strada, il DHS e le truppe federali hanno attaccato violentemente e gassato una folla riunita in protesta davanti a un edificio ICE. A Seattle i manifestanti hanno attaccato le vetrine delle grandi multinazionali ed hanno gridato a gran voce che “Biden non è la soluzione”. A Denver una contromanifestazione, organizzata contro un ritrovo di estrema destra nei pressi del Campidoglio (poi annullato), ha marciato per le strade della città con determinazione. Da Los Angeles a Pittsburgh, da Minneapolis a Philadelphia, hanno avuto luogo presidi, contromanifestazioni, esposizioni di striscioni e murales.” Vedi: Insediamento di Biden: manifestazioni e scontri in varie città degli USA, INFOaut, 22 gennaio 2021 ↩

Nemico (e) immaginario. L’Intelligenza artificiale tra timori e utopie

gioacchino toni — Thu, 24 Oct 2019 21:00:04 +0000

di Gioacchino Toni

Nel saggio L’algoritmo della post-produzione. Come rinunciare al lavoro e vivere felici – contenuto nel volume D. Astrologo, A. Surbone, P. Terna, Il lavoro e il valore all’epoca dei robot. Intelligenza artificiale e non-occupazione (Meltemi, 2019) –, Dunia Astrologo apre significativamente la sua analisi circa l’incidenza dell’Intelligenza artificiale sul mondo del lavoro riportando una celebre affermazione del Moro di Treviri: “La storia di ogni società sinora esistita è storia di lotte di classi. Liberi e schiavi, patrizi e plebei, baroni e servi della gleba, membri delle corporazioni e garzoni, in una parola oppressi e oppressori sono sempre stati in contrasto fra di loro, hanno sostenuto una lotta ininterrotta, a volte nascosta, a volte palese: una lotta che finì sempre o con una trasformazione rivoluzionaria di tutta la società o con la rovina comune delle classi in lotta.” Karl Marx

La storia, di tanto in tanto, opera dei veri e propri salti di paradigma e ogni rivoluzione, continua Astrologo in apertura di analisi, ha determinato una modificazione degli stili di vita, delle condizioni economiche e dei modelli culturali. Visto che in molti casi la portata dei cambiamenti non è stata prevista, nel momento in cui ci si occupa dei mutamenti delle tecnologie, risulterebbe utile tentare di comprendere quali saranno le evoluzioni che avranno successo e quali i loro effetti sul modo di produzione, dove si concentrerà il potere economico e quale direzione politica prenderà la società nei prossimi decenni.

Sin da quando, a partire dalla metà degli anni Cinquanta, si è iniziato a parlare di Intelligenza artificiale, si è sempre palesata una certa dose d’inquietudine derivata dal timore che un prodotto dell’attività cognitiva umana possa prendere il sopravvento su chi l’ha prodotto. La letteratura ed il cinema non hanno mancato di affrontato le paure più profonde del genere umano nei confronti dell’Intelligenza artificiale concentrandosi soprattutto sul rischio di non saper distinguere l’umano dall’artificiale e sul timore che l’umanità venga soggiogata dalle macchine.

Tali paure sono ricorrenti anche nelle diverse stagioni della serie Black Mirror (dal 2011, Channel 4; Netflix) ideata da Charlie Brooker. Nell’episodio Metalhead (ep. 5, quarta serie), ad esempio, si narra di cani-robot che improvvisamente danno caccia agli esseri umani senza che si abbia alcuna informazione a proposito degli scopi per cui erano stati costruiti e dei motivi che li hanno indotti ad attaccare gli umani. Si potrebbe ipotizzare, suggeriscono Fausto Lammoglia e Selena Pastorino¹, che le macchine di Metalhead stiano semplicemente svolgendo il compito per cui sono state realizzate o che siano mosse dal timore di essere prossime allo spegnimento.

Secondo i due studiosi l’Intelligenza artificiale potrebbe essere letta come risposta all’esigenza di realizzare una sorta di umanità potenziata che sostituisca gli esseri umani nei compiti faticosi liberandoli così dalla condanna al lavoro e consentendo loro di vivere oziando. La massima espressione della tecnica umana sembrerebbe però coincidere con l’inizio della sua decadenza, visto che con il trasferimento alle macchine delle proprie facoltà, l’essere umano finisce col perderle.

L’episodio di Black Mirror intitolato San Junipero (ep. 4, terza serie), presenta un’esistenza delle coscienze totalmente dipendente dal funzionamento delle macchine che, secondo Lammoglia e Pastorino, rinvia ad un paradigma uomo-macchina ricalcante l’hegeliana dinamica servo-padrone. L’essere umano, realizzando l’Intelligenza artificiale, instaurerebbe un rapporto di signoria che lo vede padrone della macchina in quanto è colui che le ha dato vita; «la macchina riconosce e segue questa dinamica mettendosi a servizio. Ora, la macchina (che per assunto ha le stesse modalità cognitive dell’uomo, ma potenziate), riconosce che è il suo lavoro a dare la vita all’essere umano ribaltando il rapporto, con l’aggravante che gli uomini “disimparano” ad esistere: l’automa è assolutamente libero rispetto al mondo della cosalità, poiché non necessita di nulla per vivere. O comunque, la macchina è capace di produrre autonomamente ciò di cui ha bisogno. L’uomo, invece, è dipendente dalla cosalità e perde la sua autonomia poiché non ha più i mezzi [ad eccezione dell’Intelligenza artificiale stessa] per ottenere ciò che gli è necessario»².

È possibile ipotizzare una situazione in cui la macchina finisce con l’aspirare a rendersi umana liberandosi dalla dinamica di controllo per vivere libera, oppure si potrebbe vedere come l’essere umano, nel momento in cui raggiunge il vertice della sua parabola tecnologica evolutiva, finisce col porre le basi per il suo regresso ad un’epoca ingenua, in cui non è più in grado di modificare efficacemente la realtà che lo circonda.

L’essere umano tende a pensare all’Intelligenza artificiale e alla sua linea evolutiva in termini umani: essa tende ad essere collocata all’interno di una griglia di intelligenza propria dell’umanità senza che venga preso in considerazione il fatto che questa possa oltrepassarne velocemente il limite massimo. Sostiene a tal proposito Nick Bostrom che l’Intelligenza artificiale «potrebbe compiere un sbalzo in avanti apparentemente improvviso in relazione all’intelligenza soltanto a causa dell’antropofirmismo, la tendenza umana a pensare che lo “scemo del villaggio” e “Einstein” siano le estremità della scala dell’intelligenza, e non punti quasi indistinguibili sulla scala delle menti in generale»³, ma nel momento in cui l’Intelligenza artificiale supera il limite umano, continua Bostrom, si giunge ad un cambiamento radicale.

Secondo Mark O’Connell⁴ il rischio non è tanto dato dall’ostilità delle macchine intelligenti nei confronti degli esseri umani che le hanno realizzate, quanto piuttosto dalla loro possibile indifferenza. Esattamente come gli umani hanno contribuito all’estinzione di specie non per malvolenza ma perché non rientranti più nei loro piani, altrettanto una macchina intelligente potrà rivoltarsi all’essere umano se la scomparsa di quest’ultimo risulterà una condizione ottimale per il raggiungimento degli obiettivi della macchina.

Sino ad ora, sostiene Dunia Astrologo, l’Intelligenza artificiale ha avuto a che fare con sistemi di machine learning e con le capacità di apprendimento dei cyberbot nell’ambito dei processi per la realizzazione di prodotti e servizi utili alla semplificazione dell’esistenza. Al fine di evitare che tali tecnologie giungano a sottrarre libertà all’essere umano, sostiene la studiosa, occorre saper scindere la ricerca scientifica dalle sue oggettivazioni tecnologiche e valutare il ruolo che andrà ad avere l’Intelligenza artificiale nei decenni a venire, evitando di credere che per ottenere una società migliore occorra per forza contrastare le applicazioni che sostituiscono lavoro umano con macchine.

A fronte di una diminuzione della fatica lavorativa, l’automazione richiede un ampliamento delle capacità e competenze necessarie a governarne i processi. Anche ciò che fino a poco tempo fa era lavoro totalmente subordinato all’organizzazione del sistema produttivo, ora richiede un importante contributo cognitivo anche da parte di chi si occupa dei robot o delle fasi operative delle macchine governate da software. Nelle attività odierne, l’esigenza di interagire con il mercato attraverso sistemi informativi data rich da cui trarre elementi decisionali prevede «lavoratori-della-conoscenza (knowledge workers), la cui partecipazione al processo produttivo sembra non avere quasi più limiti fisici. È difficile immaginare il momento in cui un knowledge worker smette di lavorare e produrre per il suo datore di lavoro, poiché la conoscenza, che appartiene a lui e che può essere accresciuta e allargata molte volte nel corso della sua esistenza, non è un vero e proprio bene economico. Assomiglia assai più a un “bene comune”, un bene di tutti. E la nuova organizzazione dei processi di produzione di beni e servizi ne trae grandissimo vantaggio, sfruttandola senza soluzione di continuità»⁵. Anziché alleggerire l’impegno di chi lavora con l’ausilio di strumenti digitali, il nuovo modello operativo della società in rete sembrerebbe averlo di gran lunga appesantito.

Jonathan Crary⁶ ha puntualmente descritto la condizione dell’essere umano contemporaneo connesso con quei device elettronici che lo rendono costantemente disponibile all’interazione di tipo lavorativo, consumistico, formativo ecc., in definitiva in balia, più o meno consapevolmente, di un capitalismo onnipervasivo. Per certi versi, ricorda Astrologo, ciò ricorda i tempi della prima Rivoluzione industriale, quando la fatica e l’estensione oraria del lavoro manuale lasciavano un tempo irrisorio alla riproduzione della forza lavoro. Oggi, chi lavora ricorrendo soprattutto alle proprie conoscenze e competenze paga l’essersi liberato dalla necessità di presenziare in un luogo specifico di lavoro con un’estensione temporale della sua attività produttiva, tanto che, persino quando si prende una pausa lavorativa per interagire su un social o per fare acquisti su una piattaforma di e-commerce, contribuisce al processo di accumulazione dei cosiddetti Big Tech. La “presenza in internet” attraverso la mediazione di device fa sì che ogni atto, decisione, relazione, rapporto sociale ecc. sia registrato e utilizzato, immediatamente o prossimamente, per finalità non per forza di cose cose condivise. Le relazioni tra tutti questi input informativi, suggerisce la studiosa, generano una realtà complessa fatta di link tra soggetti o entità capaci di influenzare i comportamenti collettivi.

È indubbiamente diffuso il timore che l’Intelligenza artificiale, riducendo il numero di persone occupate in un lavoro produttivo, finisca col generare un fenomeno di marcata diseguaglianza tra un numero limitato di knowledge worker e una massa di individui sottopagati e sottoimpiegati, quando non totalmente espulsi dal ciclo produttivo. Il web ha determinato la scomparsa, o quasi, di molte attività tradizionali e pare che nei prossimi dieci anni metà dei lavori, sia manuali che intellettuali, possa essere sostituita da piattaforme digitali e da deep learning systems basati su raffinate proprietà computazionali in grado di sviluppare capacità cognitive simili a quelle umane. Secondo i dati riportati dal rapporto McKinsey 2017, nei settori a maggiore potenzialità di automazione circa il 47% della manodopera sarà presto sostituita. Anche prendendo in considerazione il fatto che non tutti i lavoratori e le lavoratrici possono essere rimpiazzati dalle macchine e che di pari passo alle perdite di molte attività si svilupperanno nuovi posti di lavoro nell’ambito dello sviluppo o della vendita delle app che renderanno inutili le attività più tradizionali, il saldo sembra destinato a restare decisamente negativo.

Sono state create macchine capaci di autoapprendere e di intervenire in numerosi campi applicativi che necessitano di un numero elevato di dati e, come sempre è avvenuto, chi è in grado di generare, raccogliere, organizzare il maggior numero di dati conquista una posizione di privilegio. La concentrazione di potere nelle mani delle major Big Tech (Apple, Google, Microsoft, Amazon, Facebook e Alibaba) soltanto ora inizia a essere percepita come problema con cui occorre confrontarsi al più presto. Alessandro Curioni⁷ individua proprio in tali colossi dotati di competenze tecniche di altissimo livello, avanzata capacità di analisi delle informazioni e controllo dei flussi di dati sul web, le nuove “superpotenze” dell’era della cyber war⁸.

Se molte imprese tendono a ricorrere all’Intelligenza artificiale per ridurre i costi del lavoro attraverso processi fortemente informatizzati e robotizzati, ve ne sono altre operanti in attività che, almeno nel breve periodo, non consentono di sostituire la manodopera con processi fortemente automatizzati. Vi sono poi aziende in cui i processi decisionali possono ricorrere all’ausilio di sistemi di controllo al fine di centralizzare i processi gestionali evitando così di dover ricorrere a una lunga catena di comando e consentendo a chi ha il controllo del sistema operativo di riappropriarsi totalmente dell’organizzazione di ogni fase lavorativa attraverso l’esercizio di una stretta sorveglianza. L’effetto orwelliano di tale approccio impedisce ogni permeabilità alla condivisione e allo sviluppo di saperi tecnici “taciti”, propri di chi conosce direttamente i processi aziendali e influisce sul mercato del lavoro rendendo possibile l’espulsione non solo di chi ricopre mansioni dequalificate, ma anche di coloro che hanno ruoli più specialistici.

Visto che non è ipotizzabile che in breve tempo i lavoratori e le lavoratrici sostituiti da macchine intelligenti possano acquisire capacità e competenze più elevate, secondo Astrologo, si prospetta il consolidarsi di «una logica alienante, capace di distruggere ogni forma di umanesimo del lavoro. Purtroppo questo è un modello che si sta diffondendo anche a causa della scarsa conoscenza dei reali e potenziali utilizzi dell’IA, ovvero della convinzione che l’automazione spinta dei processi operativi sia tutto quanto l’IA possa offrire, soprattutto se questa “falsa credenza” o vera ignoranza è sostenuta da una grande campagna di magnificazione delle sorti progressive di ciò che è noto come “Industry 4.0”»⁹.

É stata l’azienda tedesca Bosch ad introdurre per prima nel 2011 l’espressione Industria 4.0 intendendo indicare, spiega Stefano Zamagni, «una delle più rilevanti novità associate alla quarta rivoluzione industriale, ovvero una nuova modalità organizzativa della produzione, manifatturiera e non. Intelligenza artificiale, robotica, genomica, informatica, tra loro collegate secondo una relazione moltiplicativa, stanno letteralmente rivoluzionando sia il modo di produzione sia il senso del lavoro umano. La fusione tra mondo reale degli impianti e mondo virtuale dell’informazione, tra mondo fisico degli uomini e mondo digitale del dato ha fatto nascere un sistema misto cyber-fisico che mira a sciogliere quei nodi che i modelli del passato non erano stati in grado di realizzare: come ridurre gli sprechi, raccogliere informazioni dal processo lavorativo e rielaborarle in tempo reale, anticipare errori di progettazione per mezzo della virtualizzazione della fabbrica, valorizzare appieno la creatività del lavoratore, incorporare le specifiche richieste del cliente in tutte le fasi del processo di produzione»¹⁰.

Se l’Industria 4.0, così come si è presentata, richiede l’abbandono del modello ford-taylorista fondato sulla gerarchia e sulla specializzazione delle mansioni, allora un’azienda come Amazon, sostiene Astrologo, potrebbe invece essere definita “cyberfordista”: «tutta controllo gerarchico, catena decisionale lunga, e una moderna versione dei MTM di tayloriana memoria, finalizzati all’efficienza massima e alla riduzione del costo del lavoro»¹¹. Ad oggi l’Intelligenza artificiale tende ad essere finalizzata ad una produttività basata sulla drastica riduzione dei costi e del numero di occupati senza che siano nemmeno prese in esame le possibilità offerte dall’Intelligenza artificiale: si mira a modellare l’organizzazione alle esigenze della tecnologia e non, viceversa, a ricorrere alla tecnologia per incidere qualitativamente sull’organizzazione al fine di migliorare le condizioni dei lavoratori e delle lavoratrici.

I sistemi di Intelligenza artificiale si basano sull’elaborazione di dati posseduti, dunque tendono a concentrarsi nelle mani di chi li detiene e può elaborarli ed è in queste corporation che sembra concentrarsi il potere economico del futuro. Le macchine intelligenti possono accantonare parte della forza lavoro, materiale e intellettuale, eliminando attività e aspettative umane, e possono persino sostituirsi all’essere umano nell’elaborazione di decisioni complesse. Ad impattare per prima con tale sistema di disuguaglianze sarà la forza lavoro più debole, adibita ai mestieri meno qualificati e ciò darà luogo alla crescita esponenziale di un sottoproletariato destinato ai lavori occasionali, dequalificati e insicuri non eseguibili da macchine. Mano a mano che l’Intelligenza artificiale diventerà più raffinata, sostiene Astrologo, a pagare l’innovazione saranno quelle figure di tecnici e lavoratori che hanno svolto ruoli gestionali o mansioni specialistiche via via marginalizzate: tali figure sono destinate ad essere sostituite da macchine intelligenti e da sistemi di controllo diffusi. A mantenere le posizioni, continua la studiosa, saranno coloro che operano in ambiti in cui l’Intelligenza artificiale farà da supporto alle presa di decisione, gli addetti alla realizzazione di nuove applicazioni tecnologiche e i produttori e controllori di flussi di dati.

Che fine farà chi non rientra nelle prime due aree del mercato del lavoro (i dannati e i futuri dannati) o chi si trova tra queste e i destinati alla salvezza? A tale interrogativo Dunia Astrologo vede sostanzialmente tre possibili risposte: la prima rimanda all’arte dell’adattarsi o dello sgomitare al fine di mantenersi qualche gradino sopra gli altri; la seconda rinvia alla possibilità di lavorare in campi culturali e dell’intrattenimento che offrono servizi, riservati a chi se li potrà permettere, a cui non possono rispondere le macchine; la terza risposta rimanda a una possibile ribellione la cui portata e i cui effetti risultano al momento impossibili da prevedere.

Il diffondersi delle nuove tecnologie in sostituzione del lavoro umano pare aver determinato due diverse visioni: una propria dei tecno-ottimisti ad oltranza ed una dei tecno-pessimisti¹². Astrologo ritiene, come detto, che la diffusione nel mondo del lavoro delle tecnologie basate sull’intelligenza delle macchine più che arginata dovrebbe essere orientata al miglioramento delle condizioni di vita degli esseri umani evitando atteggiamenti deterministici, di entusiastica accettazione o d’indifferenza. Secondo la studiosa lo scenario apocalittico costruito attorno all’Intelligenza artificiale andrebbe ridimensionato alla luce delle potenzialità offerte da questa e dai Big Data per migliorare le condizioni dell’umanità in termini cultuali, partecipativi e di qualità della vita. A tale scopo l’ipotesi della fine del modello capitalistico non può che tornare ad essere presa in considerazione e qua l’autrice riprende la nota riflessione di Marx circa la possibilità dell’auto-dissoluzione del capitale come forma dominante della produzione a partire da quel Frammento sulle macchine che, sin dagli anni Sessanta, di tanto in tanto non manca di rifare capolino agitando il dibattito politico antagonista con interpretazioni e forzature più o meno utopistiche.

F. Lammoglia, S. Pastorino, Black Mirror. Narrazioni filosofiche, Mimesis, Milano-Udine, 2019. ↩
Ivi, p. 167. ↩
N. Bostrom, Superintelligenza: Tendenze, pericoli, strategie, Bollati Boringhieri, Torino, 2018, p. 119. ↩
M. O’Connell, Essere una macchina, Adelphi, Milano, 2018. ↩
D. Astrologo, L’algoritmo della post-produzione. Come rinunciare al lavoro e vivere felici, in D. Astrologo, A. Surbone, P. Terna, Il lavoro e il valore all’epoca dei robot. Intelligenza artificiale e non-occupazione, Meltemi, Milano, 2019, p. 25. ↩
J. Crary, 24/7. Il capitalismo all’assalto del sonno, Einaudi, Torino, 2015. ↩
A. Curioni, Strategie tattiche in A. Giannuli, A. Curioni, Cyber war. La guerra prossima ventura, Mimesis, Milano-Udine, 2019. ↩
G. Toni, Guerre, immagini, big data e cyber war, Il Lavoro culturale, 02/10/2019. ↩
D. Astrologo, L’algoritmo della post-produzione, cit., p. 35. ↩
Intervista a Stefano Zamagni, Lavoro e quarta rivoluzione industriale: alcune riflessioni, in Clionet. Per un senso del tempo e dei luoghi, 3 (2019) [04-06-2019]. L’intervista è a cura di Tito Menzani. ↩
D. Astrologo, L’algoritmo della post-produzione, cit., p. 37. ↩
«I tecno-ottimisti ad oltranza basano la loro visione circa gli effetti della rivoluzione digitale sulla celebre profezia di John Maynard Keynes, che diceva che le macchine avrebbero liberato gli uomini dal lavoro, per cui l’umanità avrebbe potuto dedicarsi alla coltivazione delle arti e del pensiero filosofico. Non poteva certo immaginarsi che dopo la seconda, sarebbero scoppiate due altre rivoluzioni industriali, la cui cifra è la marcata accelerazione con cui si realizza il mutamento tecnologico: da intergenerazionale a intragenerazionale. È questa iperaccelerazione che non consente una metabolizzazione del nuovo: l’avanzamento tecnico-scientifico corre più velocemente della riflessione etica. Secondariamente, il meccanismo della distruzione creatrice, colpisce più pesantemente quelle economie la cui forza lavoro è meno capace di recepire il nuovo. E infatti sono i paesi emergenti quelli che oggi più risentono dei rischi occupazionali associati alla nuova ondata di automazione. D’altro canto, i tecno-pessimisti pensano che il lavoro diventerà sempre meno importante e sempre più lavoratori saranno rimpiazzati dalle macchine. Un recente rapporto del centro di ricerca britannico Nesta pare confermare questo pessimismo quando chiarisce che non bastano più le skills specialistiche ad assicurare l’occupabilità. Quel che in più la nuova traiettoria tecnologica richiede sono abilità di tipo relazionale, quali empatia, propensione al lavoro di squadra, autonomia» Intervista a Stefano Zamagni, Lavoro e quarta rivoluzione industriale: alcune riflessioni, op. cit. ↩