giovedì 16 aprile 2020

Di Westworld 3x05, di Rehoboam e di macchine predittive.


Il quinto episodio della terza stagione di Westworld  (che continua a non entusiasmarmi ma i cui livelli produttivi sono talmente alti che non mi permettono di ignorarlo) stavolta, attraverso una serie di flashback, si degna di raccontarci/spiegarci il passato di Serac e la creazione di Rehoboam con suo fratello.
Veniamo a scoprire che il sistema si chiamava Solomo (nella Bibbia padre proprio di Rehoboam) e prima ancora Saul, Davide, tutti nomi dei Re d’Israele e tutti predecessori imperfetti.
Rehoboam nasce dopo la distruzione nucleare di Parigi per mantenere un ordine e una pace mondiale: diventa una sorta di dio benefico, invisibile agli occhi ma ben presente, che lavora per un futuro perfetto.
In parole povere, lo scopo del sistema è controllare il destino dell’umanità prevedendo e soffocando le anomalie che rischiano di deviare dall’ordine costituito, controllando così la sorte di governi e nazioni. Rehoboam lavora elaborando di continuo i dati di tutti (o quasi) gli esseri umani sul pianeta, compilando proiezioni (aspettative di vita, cause di morte, carriera eccetera) per ciascuno di loro. Fino ad ora, per quanto riguarda questa terza season, è l’idea migliore partorita dagli autori – anche se non particolarmente originale, per chiunque mastichi un po’ di fantascienza.
Un sistema in possesso di una quantità di dati sufficiente – e la potenza di calcolo necessaria ad elaborarli – immagino diventi per forza di cose predittivo. Io stesso, anni fa, avevo teorizzato un’AI  applicata proprio alla speculazione borsistica: in teoria, se possiedi abbastanza informazioni sul presente e puoi consultare tutto il passato, sei in grado di prevedere con esattezza il futuro.

Un futuro prossimo, naturalmente, perché è il presente stesso (che è in continuo divenire e che si trasforma continuamente in passato) che lo determina.
Ma la previsione di un futuro prossimo estremamente attendibile è di certo meglio che nessuna previsione, e Rehoboam diventa vincente esattamente per questo.
Mercato azionario o esseri umani, per la macchina sono la stessa cosa: dati da analizzare e da cui estrapolare una proiezione. Più dati conosci, più la proiezione è attendibile.

Westworld sembra svolgersi nel 2058, anno in cui, presumibilmente, gran parte o tutta l’esistenza delle persone è digitalizzata e registrata da qualche parte (e supponiamo, pure, con totale disprezzo della privacy). Cartelle cliniche, precedenti medici familiari, spostamenti, istruzione, voti, valutazioni aziendali, messaggi sui social network, siti consultati, ricerche effettuate sul web, telefonate, conversazioni, acquisti, vacanze, fotografie. Tutte informazioni che, se messe insieme, forniscono un ritratto attendibile di ciascun essere umano, il che, messo assieme a quello di tanti altri suoi simili, permette di prevedere evoluzioni e mutamenti sociopolitici e finanziari su scala globale.
Possono essere previste guerre, crisi e rivoluzioni o anche solo se Tizio morirà suicida a 43 anni gettandosi da un certo ponte.

Come tante altre cose prima di lui, Rehoboam viene creato per intenti nobili – salvaguardare l’umanità e tenerla dentro certi binari, ma è fin troppo facile lasciarsi prendere la mano e abusare di quello che è, di fatto, una sorta di oracolo cibernetico semi-onnisciente. Il conoscere tutto di tutti da un vantaggio tattico insuperabile e può renderti in breve la persona non solo più ricca ma anche più potente del Mondo.

Inoltre, c’è il tema della profezia auto avverante: se le proiezioni di Rehoboam fossero di dominio pubblico, tutte le nostre esistenze – e quindi quella dell’intera umanità – ne sarebbero influenzate, andando automaticamente a completarle.
Il che, non è necessariamente un bene, perché – sempre in teoria – Rehoboam opera per il progresso dell’umanità e la salvaguardia della pace mondiale.
Resta infatti oscuro cosa accade quando il Sistema prevede qualcosa di catastrofico o anche solo potenzialmente distruttivo. Esiste, nel 2058 di Westworld, un organo preposto a ristabilire l’equilibrio? A rimettere di forza il treno sui binari prima che deragli? E se sì, in base a che diritto opererebbe? Chi è che decide qual è il bene comune? Quando intervenire e quando no e perché?
Probabilmente, sarebbe un tipo di decisione che nessun uomo potrebbe prendere, per quanto si sforzasse di non farsi condizionare dalla sue emotività. Ma allora, da chi, se non da Rehoboam stesso? E l’umanità accetterebbe senza discutere le sue decisioni? I suoi provvedimenti, magari impopolari, drastici o magari – inumani?
E, nel caso la risposta fosse “no”, l’alternativa quale sarebbe?

Quello di Westworld è già uno di quegli scenari immaginati dagli autori di fantascienza in cui si è arrivati ad essere così dipendenti da una certa tecnologia da non essere più in grado di sopravvivere qualora quella tecnologia dovesse sparire.
Oggi, riusciremmo a vivere senza l’elettricità? O Internet? O i computer?
Teoricamente, potremmo. Fino a duecento anni fa, relativamente poco, quindi, lo facevamo. Ma oggi potremmo? Di colpo, da un giorno all’altro? Quanti morti ci sarebbero, solo nel primo mese? Approvvigionamenti che vengono a mancare, infrastrutture azzerate, nessuna comunicazione. Niente. Zero. L’umanità sprofonderebbe in una notte buia come mai avrebbe sperimentato prima.
Spegnere le macchine, o la macchina, nel futuro (abbastanza prossimo) di Westworld sarebbe impossibile. Sarebbe buttare via il bambino insieme l’acqua sporca.

Se c’è qualcosa che serie come questa ci suggeriscono, è che la convergenza tra uomo e macchina è già iniziata parecchio tempo fa, e procede spedita in una certa direzione. E se non c’è un Rehoboam al nostro orizzonte, quasi certamente c’è qualcosa che gli assomiglia parecchio.
Related Posts Plugin for WordPress, Blogger...