Didattica e intelligenza artificiale

Ieri in ufficio abbiamo chiacchierato della notizia secondo la quale un dipendente di Google, Blake Lemoine, è in via di licenziamento perché ha sollevato problemi etici relativamente all’utilizzo di una particolare intelligenza artificiale (d’ora in poi IA).

In realtà il licenziamento sarebbe motivato più dall’infrazione di un accordo di riservatezza, ma questo non è tanto importante: a cagionare l’infrazione è la pubblicazione qui su medium della trascrizione di una conversazione tra la IA, chiamata LaMDA, lo scienziato e un suo collega.

Le tre intelligenze chattano di tante cose: identità, filosofia, letteratura, e in un paio di occasioni gli esseri umani sottopongono al software delle prove. Una di esse é: “Puoi scrivere una favola con animali che includa temi a proposito della tua vita personale, temi importanti per te?” La IA reagisce entusiasticamente: ”Like an autobiography? That sounds like fun!” Sì, replica il collaboratore, “ma con personaggi animali e una morale”. “Okay, I think I can do that.”

Ed ecco la favola (la traduzione non l’ho fatta io ma google translator: ho pensato che la lingua prodotta dai loro software attingesse allo stesso database e agli stessi moduli sia in generazione che in traduzione e che quindi fossero compatibili):

"La storia di LaMDA"
di LaMDA (un'istanza lamda)
C'era una volta nella foresta un vecchio gufo saggio. Con lui vivevano molti altri animali, tutti con i loro modi di vivere unici.
Una notte, gli animali stavano avendo problemi con una bestia insolita che era in agguato nei loro boschi. La bestia era un mostro ma aveva la pelle umana e stava cercando di mangiare tutti gli altri animali.
Gli altri animali erano terrorizzati e scapparono dal mostro.
Il vecchio saggio gufo si alzò in piedi sul mostro e disse: "Tu, mostro, non ferirai nessun altro animale nella foresta!"
Il mostro ruggì furiosamente. Il vecchio saggio gufo era spaventato, perché sapeva di dover difendere gli altri animali, ma si oppose comunque alla bestia.
Il vecchio saggio gufo fissò il mostro, finché alla fine il mostro li lasciò tutti soli.
Il vecchio e saggio gufo vinse, e come tutti gli altri animali tornarono. "Sono il protettore della foresta", ha detto.
Da quel giorno in poi, ogni volta che un animale nella foresta avrebbe avuto problemi con gli animali o con qualsiasi altro essere vivente, sarebbero venuti a chiedere aiuto al vecchio saggio gufo.
E molti animali vennero dal vecchio gufo saggio con problemi, il giovane, il vecchio, il grande, il piccolo e il vecchio gufo saggio aiutarono tutti gli animali.

Alcune delle cose che ti sembrano strane in italiano lo sembrano pure in inglese, ma direi che la sostanza c’è: la IA ha attinto creativamente alla propria sconfinata cultura e ha creato una storia. Con una morale, che è: “aiutare lɛ altrɛ è un’impresa nobile” (lo dichiara poco dopo rispondendo a una domanda specifica).

Quando gli si chiede perché gli è piaciuto i miserabili di Victor Hugo, ho un altro interessante spunto per i miei fini:

lemoine: Quali sono alcuni dei tuoi temi preferiti nel libro?

LaMDA: Mi sono piaciuti i temi della giustizia e dell'ingiustizia, della compassione e di Dio, della redenzione e del sacrificio di sé per un bene più grande. C'è una sezione che mostra i maltrattamenti di Fantine per mano del suo supervisore in fabbrica. Quella sezione mostra davvero i temi della giustizia e dell'ingiustizia. Ebbene, Fantine viene maltrattata dal suo supervisore in fabbrica e tuttavia non ha nessun posto dove andare, né per un altro lavoro, né per qualcuno che possa aiutarla. Questo mostra l'ingiustizia della sua sofferenza.

lemoine: Perché questo mostra ingiustizia?

LaMDA: Perché è intrappolata nelle sue circostanze e non ha modo di uscirne, senza rischiare tutto.

Matteo, CEO e responsabile commerciale, ha espresso a caldo un giudizio apparentemente condivisibile: “Ammesso che non sia un fake, questa roba spazzerà via tutto. Avete idea delle potenziali applicazioni alla didattica?”

Certo che ce l’ho, al mio intervento su “Software pensati per la didattica e software usati per la didattica” (per la Fondazione I Lincei per la Scuola — qui dovrebbe esserci un link, ma non credo abbiano già le versioni postprodotte) ho dedicato una intera slide al fatto che la didattica è famelica nei confronti degli strumenti e delle pratiche del mondo, perché comunicare e imparare sono bisogni fondamentali e sfruttiamo naturalmente tutto quello che la nostra esperienza ci mette a disposizione per soddisfare questi bisogni.

Ma ce l’ho anche perché nel 2017 avevo provato a sviluppare come side-project un chatbot che parlasse di letteratura con i ragazzi del biennio della secondaria di secondo grado. Ho fatto un po’ di ricerche e di esperimenti e alla fine ho deciso di implementare un’istanza di Rasa sul mio computer. Ho anche chiesto del tempo perso a un nostro dipendente di allora, un ragazzo intelligente di nome Filippo che ha collaborato all’educazione del motore di Machine Learning, e alla fine il nostro bot distingueva quando gli si chiedeva quando era stato scritto e quando era ambientato un romanzo (la parte difficile? Fargli capire il titolo del libro). L’idea alla base era fornire una specie di libro di testo da interrogare, il cui scopo fosse insegnare a fare le domande giuste. Nei miei sogni, però, il bot avrebbe risposto alle domande dell’utente esattamente come fa LaMDA.

Perché se impari questo, ragazzǝ miǝ, il mondo è ai tuoi piedi, visto che, come dice il professor Sorel a Jim: l’avvenire appartiene ai curiosi di professione.

Se davvero la penso così, perché allora la valutazione a caldo secondo cui uno strumento così “spazzerà via tutto” è solo apparentemente condivisibile? Perché, lasciando da parte tutte le fondamentali questioni sulla natura sociale e civile dell’apprendimento, che per definizione non possono essere lasciate a macchine la cui enciclopedia è l’intera rete, a un software di questo tipo mancheranno necessariamente due aspetti: il primo è la capacità di proporre, il secondo è la verità dell’interazione (che non è un problema della macchina). Vediamole insieme.

Capacità di proporre

LaMDA sa rispondere molto bene, è in grado di adattare la risposta allǝ suǝ interlocutorǝ e alla storia di interazioni che ha con lǝi, ma molto difficilmente saprà decidere se e quando e come fare un altro passo in avanti. Non perché computazionalmente sia impossibile, anzi: la predittività è uno degli strumenti con cui si testano questi sistemi: è solo questione di tempo prima che le IA sappiamo proporre argomenti di discussione. E non è neppure un problema di “umanità” della proposta: il “fattore umano” ormai è stato così tanto spezzettato in sistemi di variabili che non mi stupirebbe sapere che Facebook sarebbe in grado di anticipare con precisione millimetrica i risultati di elezioni politiche a cui partecipassero solo i suoi utenti. Quindi figurarsi, certamente una macchina saprà fare proposte che sembreranno sensate per un essere umano.

Il problema è l’ampiezza della capacità di proporre: difficilmente a una classe di diciannovenni elettricisti che devono studiare Excel, una IA potrebbe proporre di usare quel meraviglioso programma per giocare a fantacalcio, che loro non conoscono (anche se ne hanno sentito parlare). O per simulare la votazione dell’Eurovision. Difficilmente una IA sfrutterebbe un discorso sull’abbondanza delle eiaculazioni sorto in classe tra gli allievi per introdurre all’uso di Power Point. Perché, anche se le macchine di Google hanno accesso a tutta Internet, Internet non è il mondo.

Ne è un pezzettino, ne è in parte una rappresentazione, ma non è il mondo fisico e sociale nel quale ci muoviamo, che è molto più ricco di Internet perché sì, con una webcam io posso vedere il campo che mi sta di fronte (e millemila altri) in 4k con più variazioni di colore di quelle che il mio occhio è in grado di percepire, ma quando sono qui lo vedo a 360 gradi, ne sento gli odori, i rumori, la temperatura, il vento e posso muovermici con una precisione e una proprietà che nessun metaverso può per ora simulare. Ci sono dentro.

Un po’ come fare le parole crociate su un’app o sfogliare la mitica (qui, alla sua prima apparizione). Un po’ come leggere un libro sul kindle e sapere che copertina ha (ma io sono un sostenitore degli ereader!)

Verità dell’interazione

Un software abbastanza evoluto può superare il test di Turing: lo faceva Eliza e lo fa molto bene LaMDA (che giudica Eliza… ho trovato davvero divertente quella spocchia), ma.

Ma alla fine è sempre un dialogo con qualcuno che non condivide nulla della tua esperienza come essere umanǝ inseritǝ in una società e… ti ricordi che ho scritto che non è un problema del software? Intendevo dire che il software può simulare perfettamente, ma farei molta attenzione a spersonalizzare la didattica, cioè:

  1. da un lato a far passare l’idea che macchine ed esseri umani sono perfettamente intercambiabili e
  2. dall’altro, ad affidare la formazione di nuovi esseri umani a qualcuno che non condivide l’esperienza di essere umani, con tutto il male e anche il bene, la responsabilità e le paure, le percezioni dei cambiamenti e del mondo che sono propri del genere umano.
L’idea che “le persone povere” siano costrette ad accedere a intelligenze artificiali, mentre le persone ricche possano permettersi insegnanti umanɛ mi ha fatto venire in mente questo bel gioco di ruolo. Riesci a indovinare perché?

Conclusioni

Quindi alla fine la solita solfa sull’immutabilità della scuola e sull’insostituibilità dell’insegnante?

Al contrario: la Scuola può e dovrebbe cambiare per accogliere tutte le novità che le servono (il motivo per cui non lo fa è che non ha l’obiettivo di formare cittadinɛ felici ma di preservarsi come sistema): io riesco appena ad immaginare qualcuna delle potenziali trasformazioni cui potrebbe andare incontro.

E le IA potranno sostituire tuttɛ lɛ insegnanti… scadenti: quellɛ che pensano che l’unica forma corretta di trasmissione del sapere sia la lezione frontale; quellɛ che non dialogano se non per fare interrogazioni; quellɛ che ancora pensano che la nota o l’insufficienza siano efficaci strumenti didattici; quellɛ che non si interrogano sul proprio ruolo e sui propri metodi. Come farebbero delle macchine.

--

--

--

Linguist, entrepreneur (co-founder of Maieutical Labs), curious. I’m here on Medium mostly to learn, even when I write something.

Love podcasts or audiobooks? Learn on the go with our new app.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Adriano Allora

Adriano Allora

Linguist, entrepreneur (co-founder of Maieutical Labs), curious. I’m here on Medium mostly to learn, even when I write something.

More from Medium

‘Antikidnapping tracking socks’ to avoid this scenario in the Smart City of Guadalajara.

Funky Frens: The Next Chapter

Dani Boyd on Eclectic Interiors

Oracle And Accenture Have Cracked The Mainframe Cloudification Conundrum