NET00 TECHTÈQUE / E03

Il mito dell’automa intelligente

Come è cambiata la nostra idea delle macchine che pensano

Il mito dell’automa intelligente

parole di:

immagini di:

L’8 giugno 1954, a Manchester, Alan Turing fu trovato nel suo letto privo di vita per avvelenamento da cianuro di potassio. Crittoanalista nella Grande Guerra, perseguitato per la sua omosessualità da quello stesso governo che aveva aiutato nel decodificare i messaggi della macchina nazista Enigma, Alan nel 1950 pubblicò su Mind il suo celebre Computing machinery and intelligence, articolo che si apriva con la domanda “Le macchine possono pensare?”, e rispondendo con quello che negli anni venne chiamato il test di Turing:

una macchina si può dire intelligente se è capace di ingannare un essere umano di essere un umano.

Pur sentendone parlare sempre più grazie alle promesse del capitalismo digitale, è difficile dare una definizione soddisfacente di intelligenza artificiale. Programmi capaci di imitare affettività, algoritmi che approssimano pensieri intuitivi, ma anche modelli di sistemi complessi per simulare popolazioni di organismi e altre forme di vita. Se dovessimo descrivere la storia dei metodi e dello sviluppo tecnologico di IA, allora si dovrebbe parlare di percettrone e albero decisionale, di corrente cibernetica e di computazione simbolica. Ma se quello che ci interessa è capire come sia cambiato e come si stia tuttora trasformando il ruolo dell’intelligenza artificiale nella società, dobbiamo fare tesoro di quella suggestione turingiana del rimettere al centro della definizione non uno specifico tipo di tecnologia, quanto invece la nostra concezione di essa.

Per parlare di intelligenza artificiale dobbiamo intenderla come ipotesi umana di un artefatto capace di confrontarsi e di simulare lo stesso intelletto umano. Non una tecnologia, dunque, ma un prodotto dell’immaginazione, un mito.

In Sublime Dreams of Living Machines, Minsoo Kang ripercorre gli sviluppi del mito occidentale dell’automa, considerato fin dai miti greci come la macchina “auto-movente”. Ci accorgiamo fin da questo momento che un’altra unificazione utile a tracciare linee di analisi è quella tra automazione e intelligenza artificiale. Dal punto di vista dello sviluppo ingegneristico questi sono due concetti ben distinti, ma in entrambi si leggono le stesse utopie e gli stessi timori di sostituzione del lavoro umano da parte dell’artificiale:

l’automazione sostituirebbe il lavoro manuale e industriale, l’intelligenza artificiale quello intellettuale, dei colletti bianchi.

Inoltre qui non ci stiamo focalizzando solo sulla questione lavorativa, ma anche su quella relazionale, intima, sentimentale, quindi la gestione dell’incontro-scontro con l’essere umano con il corpo-mente artificiale.
L’automa racchiude in sé fino al Rinascimento una componenente di tecnica e una di magia, e la macchina semimovente, fin dall’antichità come nel caso degli automi meccanici di Erone d’Alessandria, rappresentano una meraviglia, un punto di incontro tra uomo e natura. Come ripercorre Antonio Caronia, saggista e geniale critico della fantascienza negli anni ‘70, in vari testi (Il Cyborg, Il Corpo Virtuale, Robot tra sogno e lavoro…), è con l’arrivo della civiltà industriale e moderna che la lacerazione tra uomo e natura diventa insanabile, e inizia a fissarsi quella polarizzazione tra apocalittici e integrati che avrebbe contraddistinto il dibattito sulla macchina pensante nei secoli a venire. E così mentre nella seconda metà del diciottesimo secolo Vaucanson costruiva automi suonatori di flauto e anatre meccaniche e in giro per l’Europa andavano in voga le esibizioni dei manichini scriventi di Jaquet-Droz e Maillardet, nella prima metà dell’800 la giovane scrittrice Mary Shelley pubblicava un romanzo che avrebbe influenzato per sempre l’immaginario sull’organismo artificiale: il Moderno Prometeo, Frankeinstein.

Già erano presenti miti come quello del golem ebraico, l’uomo di argilla che il rabbino di Praga poteva animare per difendere la comunità ebraica, e che un giorno disobbedì agli ordini del creatore, prima di essere da questo messo a riposare per sempre. Ma se la ribellione del golem era una prova delle indomabili forze della natura, quello che il mito moderno della macchina introduce è una ribellione contro la natura delle stesse pulsioni distruttive umane.

Nei secoli dell’industrializzazione la meccanica diventa da strumento meraviglioso di “imitazione della natura” a mortale progetto di “dominio sulla natura”, e l’automa rappresenta la pulsione distruttiva di questo conflitto.

Fu sempre a Praga, città di Kafka, un altro autore che ha fatto proprio il tema cardine l’automazione della società, la burocrazia, nel 1921, che Karek Čapek scrisse il dramma fantascientifico R.U.R., nella quale compare per la prima volta il termine “robot”, dalla parola ceca robota (“lavoro”). Qui i robot sono androidi costituiti interamente da materia organica creati nella fabbrica del dottor Rossum per liberare l’umanità dalla fatica fisica, ma che invece si ribellano ai creatori sterminando la razza umana.

Il passaggio da automa a robot, allora, è anche un passaggio verso il politico

Non più soltanto un esemplare artificiale in rapporto con il proprio padre-costruttore, ma una popolazione di macchine fabbricate in serie, che problematizzano la loro subordinazione di schiavitù e che richiedono alla civiltà umana un confronto complesso sul piano sociale, politico, burocratico.

Negli anni ‘40 lo scrittore di fantascienza Isaac Asimov inventava nel racconto “Circolo vizioso” le famose tre leggi della robotica, che sarebbero poi comparse in varie sue opere come regole di convivenza dei robot e umani: un robot non può recare danno a un umano, deve eseguire gli ordini di un umano a patto di rispettare la prima legge, e deve autotutelarsi, a rispetto delle prime due.

Nel marzo 2018, nella periferia di Tempe, in Arizona, la 49enne Elaine Herzberg muore investita da un’automobile a guida autonoma in fase di sperimentazione da Uber. Dopo una repentina interruzione delle sperimentazioni in questo campo, a un anno di distanza una corte statunitense ha sollevato dalle responsabilità la casa automobilistica, suggerendo che probabilmente queste a breve ricadranno sulla conducente dell’automobile che al momento dell’impatto era sul veicolo per monitorare la situazione. Sempre l’anno scorso, 7000 studenti stranieri si sono visti revocare la cittadinanza britannica per una errata analisi di rilevamento automatico di frode nei testi della lingua. Vari esperimenti, dal progetto COMPAS tanto discusso a seguito del rapporto dell’associazione ProPublica, al caso dei video di sorveglianza della polizia di New York usati da IBM per sviluppare tecniche di riconoscimento facciale anche in base al colore della pelle.

È chiaro che le moderne tecniche di controllo sociale automatizzato stanno rafforzando bias razzisti, forti della presunzione di neutralità e oggettività dell’analisi dati

Esempi come questi vengono elencati nel report annuale di fine 2018 del AI Now Institute della New York University, che annualmente si propone di valutare le conseguenze sociali e politiche delle tecnologia di IA. In un capitolo del report Why Ethics is Not Enough si prende in esame anche il ruolo dell’IA in campo bellico, in particolare dopo le notizie riguardo il coinvolgimento di Google nel “Progetto Maven” che prevede la realizzazione di droni intelligenti con il Pentagono. Di risposta, il CEO di Google Sundar Pichai aveva rilasciato una lista pubblica di sette linee guida per garantire che il lavoro del colosso fosse socialmente compatibile. Tante aziende stanno recentemente sviluppando codici etici di sviluppo, mentre nelle grandi università fioccano corsi di etica dell’intelligenza artificiale. Ma già nel report dei ricercatori del Now Institute risulta chiaro che questa corsa ai ripari linguistici non risolverà nessun problema, e che le auto-regolazioni delle companies finiscono per essere parole vuote come quel “dont’ be evil” che per anni fu il motto del colosso di Larry Page.

Per quanto riguardi gli scopi di utilizzo, non c’è nulla di nuovo nelle tecnologie intelligenti rispetto al passato, con il focus maggiore verso le attività belliche, di sorveglianza, di controllo sociale.

I timori improvvisi verso l’IA sono uno specchio di timori verso un sistema economico e politico in fase accelerata, che vengono introiettati e personificati in un dispositivo che possiamo considerare responsabile, umanizzato, confrontabile con noi stessi. Gli incubi verso l’automazione riflettono le paure verso modelli sociali che una volta automatizzati sembrano prendere vita propria, compiersi definitivamente senza più la nostra intermediazione.
Anche i timori legati all’uso dei dati raccolti da queste tecnologie sono in realtà uno specchio per allodole. Il capitalismo digitale si fonda pienamente sull’analisi di informazione prodotta costantemente. Lo scandalo a scoppio ritardato di Cambridge Analytica, così come le testimonianze di lavoratori che ascoltano le nostre conversazioni con Alexa per migliorarne le capacità, sono notizie che potevamo aspettarci dal momento che usufruiamo di servizi che funzionano grazie a istantanei processi di scambio e elaborazione dati da una parte all’altra dell’oceano.

Anche per quanto riguarda l’arrivo dell’automazione nel mondo del lavoro, possiamo chiederci cosa in quella presenza artificiale stiamo interiorizzando. L’immagine distopizzata di un supermercato svuotato da lavoratori umani perché rimpiazzati da macchine, non ci sta forse mostrando quella morte che risiede nel lavoro? Non ci ricorda che liberare il lavoro dalla parvenza di vita significa liberare la vita dal lavoro? Il caso emblematico del lavoro di cura, che viene spesso citato come esempio di attività non rimpiazzabile da macchine perché incapaci di empatia, non ci porta allora a pensare che non è compatibile una società dell’empatia con una produzione del lavoro di cura che segue le leggi della precarietà, del profitto, del ricatto?
Riusciremo a sfuggire all’alternativa paralizzante fra la demonizzazione della macchina e la sua esaltazione? Caronia risponde citando Philip K. Dick: “Ogni cosa è ugualmente viva, libera e senziente, perché ogni cosa non è viva, viva a metà o morta, ma piuttosto attraversata dalla vita”.

Forse di questo si tratta allora, fare lo sforzo di superare la dicotomia tra ciò che è umano e ciò che non lo è, ma saper distinguere invece ciò che è morto, sia nell’umano che nel macchinico, da ciò che in entrambi è vita.