Scatole nere esimenti. Le Intelligenze Artificiali alla luce delle scienze umane. Questo articolo è stato scritto nel 2024 per una rivista accademica. Ha passato il vaglio della review peer-to-peer. Ma poi mi sono ritirato di fronte ad aspettative di editintg e di formattazione del testo per me troppo onerose e fonte di perdita di tempo.
Potete leggere l’articolo qui e qui. Ma per farvi una idea forse basta un Sommario, anzi due. Scritti da me, senza l’ausilio di nessuna scatola nera.
Sommario breve
La cultura digitale, che è la sintesi e l’esaltazione della cultura STEM, ha nel concetto di Intelligenza Artificiale il suo emblema. Uno degli aspetti più significativi della cultura STEM risiede nel tentativo di di ri-definire a proprio comodo le scienze umane. In particolare la sociologia. Quando invece proprio lo sguardo sociologico permette di svelare ciò che si nasconde dietro l’immaginifico lessico che descrive e celebra la cosiddetta Digital Disruption, e l’avvento dell’AI. In particolare appare illuminante la chiave di lettura fornita dalla sociologia della conoscenza.
Osservata con occhio sociologico la ‘computer science’ appare l’estrema manifestazione del progetto logico-formale di ricerca dell’esattezza e di ‘automazione della verità’; e l’Intelligenza Artificiale Generativa appare come pallido velo che nasconde lo strumento di dominio e la repressione istinutuale. Ciò che avremmo potuto vedere, la macchina ci esime dal cercare di vederlo.
Sommario lungo
La cultura digitale, che ha nel concetto di Intelligenza Artificiale il suo emblema, appare una acritica articolazione della cultura STEM. Ciò che è è in grado di osservare lo sguardo delle scienze umane, e in particolare della sociologia, è in questo quadro ridotto all’irrilevanza. Invece, proprio lo sguardo sociologico permette di svelare ciò che si nasconde dietro l’immaginifico lessico che descrive e celebra la cosiddetta Digital Disruption.
Non esiste in realtà nessuna rottura. Chiavi di lettura e vicende storiche di cent’anni fa appaiono la miglior via per descrivere il presente.
L’informatica nasce come strumento per la gestione di sistemi politici e sociali totalmente organizzati. L’altra faccia dell’informatica -la computer science- appare l’estrema manifestazione del progetto logico-formale di ricerca dell’esattezza e di ‘automazione della verità’.
Nel clima libertario degli Anni Sessanta del secolo scorso appare però in scena un rovesciamento paradossale. Proprio tramite il codice digitale offerto dalla computazione, erede del logicismo; proprio tramite i computer, macchine progettate per assoggettare gli esseri umani al rispetto di un Libro delle Regole, abbiamo accesso allo sconfinato, sinistro, perturbante, spaesante -ma enormemente ricco- Web. Nel Web è impossibile separare nettamente le ‘credenze’ dalle ‘verità’. Ma sempre si tratta di conoscenze prodotte da esseri umani: Alles Material, tutto ciò che gli umani hanno scelto di conservare.
Siamo così invitati a muoverci nella sterminata Rete privi di certezze, mossi, nella nostra ricerca di conoscenze da dunklen Ahnungen, oscure congetture. Una situazione esistenziale che non ci esime né da pericoli né dalla fatica implicita nel sondare l’ignoto, ma ci offre in cambio un esercizio di libertà e di responsabilità. Ciò che ci era difficile vedere, ciò che rimuovevamo, la macchina ci aiuta a vederlo.
Con l’Intelligenza Artificiale Generativa questo spazio psichico e sociale torna ad essere negato.
Una porzione arbitraria di ciò che il Web contiene è arbitrariamente estratta ed affidata ad una organizzazione interna regolata da algoritmi. Viene così costruita una scatola nera, le cui logiche interne -così prevede il progetto- sono destinate a restare occulte agli stessi progettisti del sistema.
I progettisti, infatti, sono mossi dalla rimozione delle proprie pulsioni, dal tentativo di evitare la fatica del conoscersi e del conoscere. Affidano così il compito alla macchina. I problemi psichici dei progettisti si traducono in imposizione di regole ad ogni essere umano.
Alla macchina dovranno essere chieste le risposte ad ogni domanda. Fin al punto che, si afferma, se la macchina non è in grado di rispondere, o fornisce risposte errate, ciò è dovuto ad un errore degli umani, incapaci di porre le domande corrette nel modo corretto. L’Intelligenza Artificiale Generativa, così, è un pallido velo che nasconde il ritorno di un’informatica strumento di dominio e di repressione istintuale. Ciò che avremmo potuto vedere, la macchina di esime dal cercare di vederlo.