Non mi interessa il gioco di prendere in castagna la Chat. Di fronte a una esigenza immediata ho fatto una domanda…
Chat GPT dà risposte sbagliate, e così anche Bard e simili chatbot fondate su Deep Learning e LLM. Tutti lo sanno, ma gli ‘esperti’ preferiscono non parlarne, e dire invece che sono sbagliate le domande degli utenti.
Non è così. Se capita di porre domande a una di queste chatbot, e si ricevono certe risposte, c’è da preoccuparsi. Leggete qui.
Qui in formato pdf.
Le risposte sbagliate discendono dal progetto stesso della Chat GPT, di Bard e di simili chatbot. Non ci si propone di dare risposte fondate su conoscenze solide. Lo scopo è diverso: dare agli utenti risposte ben formulate e convincenti. Non importa se fuorvianti e infondate.
Pubblico qui le immagini come mera decorazione. I colloqui sono riportati per intero in calce all’articolo sopra citato
Chat GPT e Bard e simili strumenti sono sviluppati in questo modo perché gli stessi progettisti, cresciuti in una stretta cultura computazionale, non sono interessati a cercare conoscenza. Sono interessati a istruire macchine.
L’istruzione della macchina non ha lo scopo di renderla strumento utile a supportare l’intelligenza umana. I progettisti scommettono invece sulla speranza che le macchine sviluppino una propria autonoma intelligenza.
Chat GPT e Bard e simili chatbot sono uno strumento di dis-educazione. O di educazione alla dipendenza. Servono a dire: non fidatevi più di voi stessi, non perdete tempo a farvi un’opinione, a studiare, a fare esperienza, a conoscere, ad esprimere giudizi. Affidatevi alla macchina che risponde!
Ci viene proposto di non fidarci del nostro sguardo, e di guardare il mondo attraverso la lente della computazione. Ma la lente della computazione impoverisce il nostro sguardo. Osserviamo invece il funzionamento della Chat GPT e di simili strumenti con uno sguardo umanistico: i limiti del progetto ci risulteranno evidenti.
Se proprio volete usare Chat GPT o simili strumenti, non fidatevi. Mettetela alla prova. Non lasciatevi incantare, pensate con la vostra testa.
NON ESISTONO DOMANDE SBAGLIATE.
Pubblicherò questo testo su qualche rivista, o come capitolo di un libro di prossima uscita. Ma intanto mi sembra una lettura buona per chi in qualche modo mi segue e mi conosce.
