Scrive Fabrizio D’Angelo recensendo le ‘Cinque Leggi Bronzee dell’Era Digitale’ su Vita: “La libertà, secondo i tecnocrati, è un dono che non si addice a quelle macchine imperfette che sono gli essere umani. L’età digitale da questo punto di vista sovverte il progetto illuminista di cittadinanza, che partiva invece da un assunto di dignità originaria e di fiducia nelle possibilità dell’uomo di coltivarsi, migliorarsi e crescere”.
E conclude: “L’uomo è anche questo, come scrive Varanini citando Goethe: è l’unico essere che è capace dell’impossibile. Fidiamoci. E costruiamo, con strumenti tecnologici, un futuro umano. Parafrasando Philip Dick: meglio un giorno da uomo, che cent’anni da pecora elettrica!”.
Qui si trova l’articolo. Comunque lo ripropongo qui di seguito.
Niente tango per il cyborg
di Fabrizio D’Angelo
14 gennaio 2021
Nel suo ultimo lavoro, “Le cinque leggi bronzee dell’era digitale”, Francesco Varanini propone una «critica umana alla dittatura delle macchine». Una riflessione che demistifica la retorica del discorso sulla tecnologia e, al tempo stesso, propone una difesa evolutiva dell’umano
In questi primi giorni del 2021 è diventato virale il video di alcuni robot che ballano. Due umanoidi, uno pseudo-cane e una specie di gallina gigante su ruote.
Sono i robot della Boston Dynamics. Il giornale che ne parla titola con enfasi: “Un’agilità impressionante”. Il mio pensiero, dopo aver guardato il video, è volato a Buenos Aires, in Plazoleta Cortázar, dove vidi per la prima volta delle coppie di anziani ballare il tango più tradizionale. Non scorderò mai quei corpi e quegli sguardi. Citando da una conferenza di Borges: “come serpenti animati da un effluvio di passione/ s’avvinghiarono…”. Il tango: passione, tristezza, gelosia, perfino rancore che si fanno ballo. Armonia e bellezza.
Davvero è possibile magnificare così il ballo dei robot? Chi lo fa ha mai davvero ballato, stringendo tra le braccia qualcuno che amava, magari senza speranza? Cosa bisogna dimenticare del nostro essere umani per potersi entusiasmare davvero dell’era digitale?
A quest’ultima, essenziale domanda risponde il magistrale scritto di Francesco Varanini, pubblicato di recente dall’editore Guerini di Milano con il titolo Le cinque leggi bronzee dell’era digitale. E perché conviene trasgredirle.
Il libro di Varanini fa tre cose fondamentali: mette in luce le regole dell’era digitale, rendendo esplicite tanto le sue premesse storiche e filosofiche quanto le sue logiche conclusioni. In questo senso è una guida preziosa alla comprensione di come è nato e dove si dirige il mondo in cui viviamo.
Varanini inoltre compie una radicale opera di demistificazione. Distingue ciò che c’è di vero, o probabile, nello sviluppo della tecnologia dalla retorica e dalla propaganda dei “tecnologi”. Permettendoci così di comprendere la radice dell’attuale esperimento tecnocratico globale e i rischi presenti e soprattutto futuri per noi esseri umani.
Infine Varanini imposta e argomenta la sua difesa dell’umano. Lanciando a tutti noi una sfida all’azione. Perché, ferree o no che siano le leggi, il futuro non è già scritto. Va detto subito: questo libro esorta a una difesa dell’umano non “negazionista” o nostalgica, ma profondamente e saggiamente evolutiva.
Dura lex, sed lex
Le leggi del mondo digitale, come le riassume Varanini, sono cinque: il linguaggio delle macchine è migliore del nostro, la macchina “intelligente” è più performante dell’uomo, conviene sempre affidarsi ai tecnici, le macchine intelligenti e gli algoritmi gestiranno il mondo meglio di noi, l’unica via per un mondo (quasi) perfetto sta nella simbiosi con le macchine, anzi nella trasformazione progressiva dell’uomo in macchina iper-intelligente.
Da questa progressione impressionante hanno origine le vicende di cronaca di questi anni: algoritmi che decidono chi assumere nelle aziende, sistemi automatici per la concessione del credito in banca, automobili che si guidano da sole, fabbriche che funzionano 24/7 senza esseri umani, piena automazione dei processi industriali, esperimenti di “fusione” dei neuroni del cervello con microchip, ricerca dell’immortalità attraverso la completa re-ingegnerizzazione del corpo umano e via delirando.
Queste “leggi” descrivono le fondamenta del piano che le punte tecnologicamente avanzate dell’umanità stanno già realizzando. Supportati da flussi impressionanti di capitali.
L’inizio di questa storia è quasi innocente: si tratta di scienziati, soprattutto matematici e logici, alle prese con i problemi del linguaggio umano e animati dal desiderio di renderlo “esatto”. Per riuscirci lo riducono a calcolo. I conti, in questo senso, tornano. Il passaggio successivo, sempre quasi innocente, è quello di definire dei criteri restrittivi di efficienza, rispetto ai quali la “macchina” guidata dal “linguaggio esatto” è manifestamente migliore dell’uomo.
Anche su questo il gioco riesce. La macchina gioca a scacchi e sconfigge il campione umano, l’allora mitico Garri Kasparov.
Da allora l’aumento della potenza di calcolo delle macchine e il disegno riduzionista di chi vede nella mente umana semplicemente uno strumento di calcolo hanno creato la narrazione in cui viviamo attualmente. Un racconto in cui il deep learning e l’artificial intelligence sono di fatto la migliore speranza dell’umanità di riuscire a mettere ordine nel caos delle cose.
Il prezzo da pagare per questo lo vediamo tutti i giorni per le strade: ragazzi, spesso di colore, che pedalano come i matti per portare in giro cibo, stando nei tempi decisi da un algoritmo.
La macchina decide i criteri di efficienza e la realtà degli uomini vi si assoggetta volontariamente. Certo, così la pizza arriva esattamente all’ora giusta. Ma a che costo umano?
La realtà disegnata dagli algoritmi costringe ormai l’uomo a seguire un criterio innaturale di efficienza in ogni circostanza. Sovvertendo lo scopo per cui la tecnologia ancora sostiene di essere nata: aiutare l’uomo a vivere meglio. Ivan Illich, forse il più acuto pensatore della modernità tecnologica, ha definito questo meccanismo “controproduttività”: il processo per cui ogni strumento tecnico oltre una certa soglia di pervasività va fuori controllo e produce effetti opposti a quelli per cui è stato progettato. Si arriva così a ospedali che producono super-batteri resistenti agli antibiotici, macchine velocissime che producono ingorghi a passo d’uomo, farmaci il cui abuso abbassa ormai l’aspettativa di vita, scuole obbligatorie che non educano più e via dicendo.
La circostanza più straordinaria di questi anni è che mi pare che la risposta all’evidente disfunzionalità di questo meccanismo consista in una richiesta univoca ed isterica: di più!
Invece di mettere in questione il sistema in base ad evidenze di buon senso, si continua a dire che il problema è che di tecnologia non ce n’è abbastanza. Fino a quando?
Tecnocrati contro cittadini
Un altro aspetto macroscopico del sistema della tecnoscienza è l’immenso potenziale di arricchimento e di controllo che esso conferisce a chi lo crea, lo possiede e lo governa. Un potenziale i cui risvolti pratici si vedono chiaramente già in atto in molte nazioni, e in modo esemplare nella Repubblica Popolare Cinese.
Il governo della Cina di oggi poggia saldamente e dichiaratamente su basi tecnocratiche: città e infrastrutture progettate ex novo sui “flussi”, cittadini controllati attraverso le app dei propri apparecchi smart, introduzione a breve di un algoritmo di “valutazione” in punti della bontà di ogni cittadino. Una specie di “quoziente sociale” che porterà a un sistema di bonus/malusnei servizi: dalle scuole al credito bancario, dal lavoro in aziende pubbliche fino alla possibile mancata concessione del passaporto. In cambio: una società “armoniosa, ricca ed efficiente”. Per chi? E, anche in questo caso, a che costo umano?
Il progetto di cittadinanza tecnologica poggia sostanzialmente su una visione negativa dell’essere umano. Solo qualcosa di sbagliato va infatti corretto, guidato, supportato, indirizzato.
La libertà, secondo i tecnocrati, è un dono che non si addice a quelle macchine imperfette che sono gli essere umani. L’età digitale da questo punto di vista sovverte il progetto illuminista di cittadinanza, che partiva invece da un assunto di dignità originaria e di fiducia nelle possibilità dell’uomo di coltivarsi, migliorarsi e crescere.
Ciò che abbiamo di fronte è dunque una vera e propria nuova religione. Potremmo per coerenza chiamarla “tecnolatrica”. I suoi sacerdoti (professori, esperti, giornalisti futurologi, imprenditori digitali, venture capitalists) venerano ed estrapolano nella tecnologia alcuni aspetti della realtà umana (efficienza, potenza, capacità tecnica, prevedibilità, ordine), assolutizzandoli e spingendoli oltre i limiti della natura.
In questa religione la natura stessa è in fondo nulla più che un problema da risolvere: malattie, morte, limiti fisici, danni all’ambiente: tutte cose che controlleremo facilmente quando avremo macchine abbastanza potenti e programmi sufficientemente intelligenti. Mi rendo conto che queste frasi possano suonare esagerate, eppure per ciascuna di queste affermazioni esiste un’ampia bibliografia e una manciata di aziende high tech che sviluppa tecnologie dedicate.
Tre passi di tango (verso l’umano)
Se la tecnolatria digitale è una nuova religione, Varanini è a pieno titolo un eretico. Non il primo forse, ma di sicuro uno dei meglio organizzati. Varanini conosce e apprezza la tecnologia, in quanto strumento dell’uomo per l’uomo. Per lui vale da sempre quanto scriveva Terenzio: “Homo sum. Humani nihil a me alienum puto”. E per questo ci suggerisce tre passi da compiere per riportare l’umano al centro del progetto dell’era digitale.
Il primo passo è quello di rimetterci, da uomini, al volante della tecnologia. Prendendo spunto dai progetti di driverless cars di Tesla, Google e altri, il richiamo è a non soggiacere ad una realtà progettata da esperti in base ad algoritmi. Una realtà in cui per design viene strutturata a monte per noi uomini una certa esperienza. È questo il gioco delle piattaforme. Che ci offrono solo alternative preconfezionate, “pillola rossa o pillola blu”.
Facendoci dimenticare che non dobbiamo scegliere. O che possiamo noi stessi configurare le nostre scelte. Esigere una tecnologia progettata per l’uomo e non per le macchine significa anzitutto riappropriarsi del senso profondo di molte esperienze umane. Viaggiare, ad esempio, non è “andare da A a B, nel tempo minore possibile”.
Il secondo passo è quello di riappropriarci, in quanto cittadini, della sovranità. Quella vera. Esigendo trasparenza, controllo pubblico delle opzioni e possibilità di imporre limiti. L’attuale disegno dei poteri reali vede il comune cittadino privato di qualsiasi voce in capitolo.
Ridotto a utente, user, in un’economia digitale quasi totalmente in mano a capitali privati e dunque fuori dalla portata dei poteri pubblici e democratici.
Il terzo passo è quello più bello e difficile. Una sorta di casquè… Si tratta infatti di recuperare e sviluppare una visione non riduzionista dell’umanità.
Una visione di saggezza. Una visione di bisogno e ricerca di armonia con la natura, tanto la nostra che quella che ci circonda. Generando per l’era digitale un’antropologia che faccia di nuovo giustizia al corporeo, allo spirituale, alla ricchezza integrale dell’esperienza umana. Un’antropologia del coraggio e della consapevolezza che ci consenta di stare nella paura, nella ferita, nel limite senza fughe deliranti nell’eden promesso dalla tecnologia.
L’uomo è anche questo, come scrive Varanini citando Goethe: è l’unico essere che è capace dell’impossibile. Fidiamoci. E costruiamo, con strumenti tecnologici, un futuro umano. Parafrasando Philip Dick (e sorvolando su altre assonanze!): meglio un giorno da uomo, che cent’anni da pecora elettrica!