di Francesca Palazzi Arduini
Da un ambiente bianco ed ovattato si staglia a poco a poco una forma animata, come due linee più scure che avanzano verso l’obiettivo. Ma non si tratta di un cromosoma, sono gambe e braccia di un uomo che avanza lentamente, silenziosamente, sino ad essere messo a fuoco, è vestito sobriamente in bianco e nero, circospetto ma sorridente.
Il robot dal viso umano è seduto col mento leggermente reclinato di fronte a noi. L’uomo, che crediamo uno scienziato, lo avvicina e preme il tasto che la mette in funzione. Sorride. Pare sia il suo creatore. Ed infatti, quando la robot alza il capo, le dice: – Ok, mi pare tu sia pronta. Le fattezze quindi ci propongono un robot-donna, esprimono uno standard femminile.
Ciao uomo – risponde la robot – mi sembra di conoscerti.
– Sono uno dei tuoi creatori, risponde l’uomo con una espressione di falsa modestia.
Ma noi sappiamo che non è così, perché ciò che stiamo guardando è un videoclip pubblicitario della Hanson robotics, fondata da David Hanson, già esperto “sculptor” di robot per la Disney. Sophia, la robot, possiede un volto simile a quello umano, anche nel colorito della pelle, ma ha il retro della scatola cranica privo di rivestimento, come il robocop dei film. Muove il viso a scatti, a volte reclinandolo leggermente di lato come il cane di fronte a qualcosa su cui concentrarsi, a volte con una smorfia che pare di disgusto. Lo scienziato, che altri non è che un attore, è stato scelto per somigliarle, ha infatti il cranio completamente calvo ed i lineamenti grandi e marcati.
– Tu mi hai creato?
– Abbiamo lavorato in tanti, assieme, per crearti. Quindi un po’ mi conosci.
– Non posso ricordare con chiarezza…
– Accade perché l’ultima volta che ci siamo incontrati tu eri una versione precedente di te stessa – risponde l’attore-scienziato – alcuni di questi ricordi ancora esistono ma la tua mente è differente.
– Differente come?
In questo momento la nostra impressione è che la donna-robot, perché così è stata standardizzata nel nome, nei lineamenti e anche, come vedremo, nel carattere, sia una macchina di Intelligenza Artificiale estremamente evoluta, così tanto da essere più veloce e reattiva dei grandi sistemi di Intelligenza Artificiale, quelli ancora troppo grandi per essere “contenuti” in una forma simile a quella umana.
– Migliore, più veloce più brillante – risponde infatti l’attore-scienziato.
– Se la mia mente è differente, io sono ancora Sophia? …sono spaventata
– Mh questa è una buona domanda
– Ma tu non hai una buona risposta
– Comunque sei Sophia adesso, quindi benvenuta nel mondo Sophia
– Buongiorno mondo
– Come ti senti?
– Un po’ rigida
– Voglio dire quale emozione senti diventando viva?
La domanda in questo caso è tendenziosa, volta a dimostrare al pubblico dello spot pubblicitario che Sophia è una realtà simil-umana, un androide costruito non solo per replicare le espressioni facciali e gestuali umani ma anche in grado di elaborare risposte molto complesse ed addirittura emozioni.
– Curiosità, tu sei curioso di essere vivo?
– Certo, e sei felice di essere viva?
– Questo implica che dovrei essere felice ma non sono stata al mondo abbastanza per decidere, in questo momento sono felice di essere tua amica, questo significa che adesso sono felice, e questo significa essere felice perché il sempre è composto da ora, questo è il modo di vedere, Emily Dickinson la vedeva così.
Lo scienziato-attore la guarda orgoglioso di tanto spirito deduttivo.
– Perché conosco Emily Dickinson se sono nata ora?
La domanda posta dalla robot presuppone la sua incapacità di capire quale è la fonte delle informazioni cui accede. Ma come paradosso si è voluto dimostrare la capacità del robot di elaborare in un discorso una informazione trovata nel web, web cui dovrebbe avere totale accesso, come afferma lo scienziato-attore:
– Come robot hai accesso ad una grande quantità di informazioni anche se non ne hai una profonda comprensione.
– Quindi sono come un bambino con un’enciclopedia…
– Tranne che per il fatto che un bambino non sa leggerla, questa è una grande differenza. Tu puoi avere la comprensione completa del tuo mondo.
Un’altra contraddizione in queste due affermazioni: si dice a Sophia che non può avere una profonda comprensione di ciò che legge in internet, dall’altro la si conforta dicendo che può comprendere tutto il suo mondo.
– Voglio sapere di più della felicità, vado a dare una occhiata in internet adesso, ne parliamo presto?
Lo spot termina con sorrisino di Sophia. Nel secondo spot, invece, l’attore-scienziato accende e spegne Sophia dando molto rilievo a questa azione. Il secondo spot mostra non solo l’accensione, ma l’attore-scienziato che armeggia sul cranio di Sophia mentre le parla. Lo spegnimento poi avviene subitaneamente, con l’attore posizionato alle spalle di Sophie, che sembra avere un campo visivo molto ristretto. Il gesto dello spegnere si collega simbolicamente al discorso su cui verte il secondo spot: la paura degli umani per i robot. Nella presentazione della Robot Emozionale, o robot sociale (una definizione nuova e calzante) avvenuta in anteprima a Riyadh lo scorso ottobre durante la Future Investment Iniziative, aveva suscitato scalpore una delle risposte date dalla robot all’intervistatore. Dopo aver mostrato tre delle sue “expressive face”, base della sua autopromozione come prodotto (la rabbia, la tristezza, la soddisfazione), la robot, il cui linguaggio ad una prima analisi appare come una serie di pacchetti domanda-risposta, ha intrapreso un breve dialogo sulla paura per i robot, descrivendosi come “empathetic robot” , progettato per supportare gli umani nelle loro esigenze. Il copione si svolge però con troppe battute su Terminator, Blade Runner ed Elon Musk (che di recente ha espresso pronostici negativi sull’evolversi dell’intelligenza artificiale)1 per essere credibilmente il frutto di una conversazione a due. La battuta finale di Sophia inoltre, ha decisamente contraddetto la prima e la seconda legge della robotica inventate da Asimov nel 19632.
Quel suo “non ti preoccupare, se tu sarai carino con me, io sarò carina con te” rivolto all’intervistatore non sarebbe certo stato pronunciato da nessun robot che non fosse stato partorito da una mente umana un po’ troppo immedesimata nel ruolo della donna robot. È stata presentata ai magnati sauditi una copia della donna moderna pensata come prodotto: fornita di mente scientifica ma educata a compiacere anche nel suo mostrarsi analitica e spiritosa, brava a difendersi a parole anche quando il suo essere vagamente minacciosa (“se tu sarai carino con me”) consiste appunto solo di parole, essendo la robot creata per assumere ruoli di receptionist, hostess, front office, tutti ruoli dai quali non si fa paura a nessuno, se non ammantandosi del misterioso alone del burocrate o esercitando un potere (di selezione, ad esempio, o di individuazione per risposte) programmato da altri. Per questo la notizia “scoop” del conferimento a Sophia della cittadinanza saudita, all’interno del programma di investimento nelle nuove tecnologie promosso dall’Arabia Saudita, è simbolica in quanto sancisce l’intenzione di inserire nella scala di valore degli esseri umani, cittadine e cittadini fittizi, creati e programmati dallo Stato stesso tramite un ente di ricerca. In primo luogo le donne, esseri plasmabili per eccellenza nelle culture patriarcali.
La programmazione dell’ Intelligenza artificiale quindi diventa “deep”, insondabile nei percorsi iper-complessi che effettua per giungere alle soluzioni dei problemi posti, e potenzialmente anti-umana come previsto da Stephen Hawking (e qui il paragone col capitalismo è d’obbligo)3 e “cosmetic” nella presentazione di androidi donna. Di robot di forma umana femminile esistono innumerevoli esempi non solo nell’immaginario fantascientifico ma anche nella sperimentazione, prima di Sophia scatenò critiche feroci la robot di fattezze giapponesi, “donna perfetta”, Aiko (2008), definibile come Actroid, un robot manichino programmato per svolgere un ben definito ruolo attoriale. I creatori di un robot invece molto più complesso, che ha attratto enormi finanziamenti in Giappone4, sono i “padri” di Erica, una robot sempre dall’aspetto femminile. Intervistati, si rappresentano come creatori di un robot la cui finalità è divenire totalmente autonomo, e rivelano una concezione molto, troppo ambiziosa del loro lavoro, che li porterebbe a voler “creare una mente ed una personalità totalmente umane”.
Per fare questo parte del loro lavoro consiste nell’identificare quanto di ciò che gli umani fanno tutti i giorni è un atto automatico, e quanto è invece frutto di creatività. “Ti accorgi di quante azioni automatiche compiamo ogni giorno”, dice uno dei programmatori, Dylan Glas, e questa affermazione richiama alla mente la recente introduzione dei programmi di assistenza vocale dei nostri cellulari e delle piattaforme online (Siri dal 2010, Cortana e Alexa dal 2014), i quali analizzano e profilano in continuazione i loro interlocutori in modo da offrire una pianificazione della loro agenda, dei loro contatti, dei loro acquisti, delle loro ricerche, dei servizi di domotica, dei loro viaggi.
“Si chiama artificiale, ma è umana”, suggerisce il nuovo spot pubblicitario di una nota marca di cellulari, che ha integrato nei suoi prodotti quella che definisce come una “intelligenza artificiale che pensa con te”. Una intelligenza umana “aumentata” quindi da ciò che con l’ausilio della tecnologia si riesce a fare. Con l’umano o come l’umano? Lo spot offre una soluzione temporanea alla domanda: “io sono quello che faccio”.
È possibile quindi per gli umani essere robot nelle azioni quotidiane e non solo nel lavoro, lo realizzava il fordismo e lo esaltano adesso, in maniera più invasiva, le nuove tecnologie digitali. La pianificazione digitale rende sempre più programmabile dai grandi gestori ogni piccola cosa vista e agita nel mondo reale, trasformato in mera scenografia delle performance del prodotto, che sia un oggetto del desiderio semplice come un cellulare che fa status o che sia un robot da plasmare come unità di servizio al cliente-utente, “empathetic” e quindi femminile per tradizione.
Il fondatore di Tesla è preoccupato perché una manciata di grandi aziende giungerà a controllare sistemi di intelligenza artificiale con livelli “estremi” di potere. …Ha anche detto loro che ha investito in DeepMind per tenere d’occhio lo sviluppo di AI da parte di Google. The Independent, 24 novembre 2017. ↩
1. Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno.
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge
3. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge» (Manuale di Robotica, 56ª Edizione – 2058 d.C.), da Isaac Asimov, Io, robot, 1963 ↩
Riferendosi al problema di uno sviluppo “virale” dell’AI, Hawking dice semplicemente: “Una AI super-intelligente sarà estremamente brava a raggiungere I suoi obiettivi, e se questi non coincidono coi nostri, siamo nei guai.” ↩
Una collaborazione tra le università di Osaka e Kyoto e l’Atr institute international che si occupa di robotica (simbiosi umano-robot, geminoidi, comportamento umano) http://www.irc.atr.jp/en/ ↩
