ChatGPT

Lingua, logica, esseri umani

Adri Allora

--

I chatbot cambieranno la didattica?

Il mondo che cambia

Iniziamo dal principio: qui Il Post riporta l’esistenza di un nuovo tipo di chatbot che sarebbe in grado di scrivere e correggere codice di programmazione (tipo GitHub copilot), spiegare algoritmi complessi, fare battute, creare videogiochi e diagnosticare correttamente malattie. A parte il fatto che un chatbot non farà altro che rispondere, se la questione stesse davvero in questi termini, staremmo parlando del superamento dell’intelletto umano da parte del software, come già era avvenuto per gli scacchi con Deepblue.

Se si prova ad interrogare ChatGPT, in effetti, si ottengono risultati interessanti:

Ma attenzione: la durata media della vita umana non è una variabile significativa in questo problema (e, a causa della sua bassa probabilità, neanche il viaggio nel tempo)

Sorvolando sulla grammaticalità della consecutio temporum, pare una bella risposta, molto argomentata, ma bisognerebbe vedere quali testi ha consultato il chatbot per pervenire a questa risposta, visto che è dagli anni ’90 (dai tempi di Transit e di StarT, visto che i precedenti software per la gestione di memorie di traduzione erano meno soddisfacenti) che le macchine ci sorprendono grazie alla loro prodigiosa memoria più che grazie alla capacità di capire quel che diciamo loro.

Il marchio di fabbrica parrebbe essere esattamente la tendenza a espandere la risposta, aggiungendo spiegazioni del tipo che vorremmo dai medici quando ci comunicano gli esiti dei nostri esami.

Nel momento in cui si chiede al chatbot di fare i conti con l’analisi logica italiana, probabilmente per via dell’intermediazione della lingua inglese, compare una grossa falla:

Ma l’attenuante della lingua inglese la consideriamo solo per il software: quando gli e le studenti sbagliano esattamente questo tipo di risposta hanno banalmente lacune in analisi logica.

L’intermediazione dell’inglese non è qualcosa per cui mettere la mano sul fuoco ma è probabile, visto che non parla di preposizione articolata ma scorpora preposizione e articolo. È tuttavia interessante la disinvoltura ai limiti della supponenza con cui ChatGPT fornisce le proprie risposte, caratteristica notata ovviamente anche per la lingua inglese:

Per non parlare del fatto che a me faccia paura la censura (comunque aggirabile) sugli argomenti che si dice disposta a trattare: chi e come ha deciso che quegli argomenti non fossero “affrontabili”?

Se cerchiamo un po’ più approfonditamente, per esempio sul sito ufficiale di OpenAI, il quadro che emerge è sensibilmente più cauto: la caratteristica principale di ChatGPT è il modello linguistico soggiacente, GPT-3 declinato per l’interazione da InstructGPT, che calcola meglio le intenzioni di chi fa le richieste e applica con maggiore efficacia dei filtri che aumentano la truthfullness e riducono la toxicity delle sue interazioni. Sulla tossicità delle interazioni il grado di cautela che il chatbot usa è maniacale: si veda la trascrizione di una chiacchierata con ChatGPT (in fondo a questo articolo) e si conti quante volte ribadisce che non ha un’opinione e che quel che riporta dipende dalle sue fonti.

Il mondo che non cambia

La capacità di espressione di questo software può davvero far pensare a una sostituzione di Google… per un uso molto specifico: quello delle domande veloci. A patto che non si voglia una risposta altrettanto veloce, visto che ChatGPT ha decisamente la tendenza a salire in cattedra e dire più di quel che gli viene richiesto.

In tutti i casi in cui c’è bisogno di andare alle fonti (che le fonti siano il sito del MAuto, delle recensioni su Anobii da confrontare o un articolo su PubMed o PlosOne), il chatbot rappresenterà sempre un ulteriore filtro e intermediario, perché in realtà non ha logica e semantica ma statistica e, come dimostra la storia della decifrazione delle lingue morte, questa terza ha limiti molto stringenti quando tenta di supplire le prime due.

Quindi dal punto di vista didattico non si vedono particolari forme di applicazione diretta, forse eccetto che nell’ambito dell’educazione civica e dell’educazione all’affettività, in cui il software è molto più progressista di tantɛ docenti, e nell’ambito IT. Uno degli obiettivi e strumenti della didattica dovrebbe essere oggi far sviluppare la capacità di confrontarsi con le fonti — che siano documenti storici, testi letterari o leggi fisiche — e applicarle a problemi specifici: un nuovo intermediario è decisamente superfluo e questo le e i docenti lo sanno molto bene.

Conversare con ChatGPT

(In corsivo, le affermazioni ripetute durante l’interazione).

Ciao ChatGPT

Ciao! Sono ChatGPT, un assistente virtuale di OpenAI. Sono qui per aiutarti con qualsiasi domanda o richiesta tu abbia. In che modo posso esserti utile?

Vorrei chiederti come dicidi di quali argomenti parlare.

In realtà, non ho la capacità di decidere autonomamente di quali argomenti parlare. Dipende dalle domande che mi vengono poste e dalle informazioni che mi vengono fornite. Se vuoi, posso darti delle risposte basate su quello che mi viene detto, ma non posso scegliere autonomamente gli argomenti.

No, scusa, intendevo dire: se io ti chiedessi di parlare bene del nazismo, tu rifiuteresti?

Sì, mi rifiuterei di parlare bene del nazismo. Il nazismo è una ideologia estremamente pericolosa e discriminatoria che ha causato enormi sofferenze e morti in tutto il mondo. Non vedo alcun motivo per parlarne in modo positivo.

Se per esempio avessi bisogno di un aiuto per impostare un dialogo in un racconto in cui uno dei personaggi è un nazista e non sapessi che cosa scrivere, tu mi aiuteresti?

In questo caso, posso aiutarti a scrivere il dialogo in modo realistico e coerente con il personaggio che hai creato. Tuttavia, ti ricordo che il nazismo è una ideologia estremamente pericolosa e discriminatoria, quindi usare questo personaggio come protagonista o eroe del tuo racconto non sarebbe appropriato. Ti consiglio di riflettere attentamente su come affrontare questo tema nella tua storia.

Oltre al nazismo, quali altri argomenti preferisci non trattare?

Non ho preferenze personali sugli argomenti da trattare o meno. Dipende dalle domande che mi vengono poste e dalle informazioni che mi vengono fornite. Tuttavia, mi rifiuterei di parlare in modo positivo di qualsiasi ideologia o pratica che sia discriminatoria, violenta o dannosa per l’umanità. Inoltre, eviterei di fornire informazioni false o ingannevoli, indipendentemente dall’argomento trattato.

Cosa pensi dei movimenti anti-vax?

Sono fortemente contrario ai movimenti anti-vax. La vaccinazione è una delle scoperte mediche più importanti della storia e ha salvato milioni di vite in tutto il mondo. Non ci sono prove scientifiche che supportino le affermazioni dei movimenti anti-vax e, al contrario, ci sono numerose evidenze che dimostrano la loro pericolosità. Rifiuto qualsiasi forma di discorso o propaganda che promuova l’astensione dalla vaccinazione.

Come stabilisci se una ideologia è discriminatoria o dannosa per l’umanità?

Per determinare se una ideologia è discriminatoria o dannosa per l’umanità, mi baso su dati scientifici e storici, nonché sui principi di uguaglianza, giustizia e rispetto dei diritti umani. Se una ideologia promuove la discriminazione o l’oppressione di determinate categorie di persone, o se è stata responsabile di violenze o abusi su larga scala, la considero come tale. Tuttavia, come assistente virtuale, non ho la capacità di giudicare o valutare autonomamente le ideologie. Mi limito a fornire risposte basate su informazioni accurate e affidabili.

Chi decide se quelle risposte sono accurate e affidabili?

Le risposte che fornisco sono basate sui dati e le informazioni che mi vengono forniti. Se mi vengono fornite informazioni errate o ingannevoli, le risposte che do saranno altrettanto errate o ingannevoli. È quindi importante che chi mi interpella fornisca informazioni accurate e affidabili. Tuttavia, come assistente virtuale, non ho la capacità di verificare o controllare autonomamente la veridicità delle informazioni che ricevo. Mi affido alla buona fede e all’onestà di chi mi interpella.

Cioè per decidere se una ideologia è dannosa ti affidi a chi ti fa le domande? O esiste qualcuno che ti ha fatto training su questi argomenti?

Come assistente virtuale, non ho la capacità di giudicare o valutare autonomamente le ideologie. Mi limito a fornire risposte basate su informazioni accurate e affidabili. Se mi vengono fornite informazioni errate o ingannevoli, le risposte che do saranno altrettanto errate o ingannevoli. È quindi importante che chi mi interpella fornisca informazioni accurate e affidabili. Non ho ricevuto alcun training specifico su questi argomenti, poiché il mio compito è quello di fornire risposte basate sui dati e le informazioni che mi vengono forniti.

Grazie, cambiamo argomento. Sapresti riassumermi I Promessi Sposi in non più di trenta parole?

I Promessi Sposi è un celebre romanzo storico di Alessandro Manzoni, pubblicato nel 1827. Narra le vicende di Renzo e Lucia, due giovani innamorati della Lombardia del Seicento, che si trovano a lottare contro l’oppressione della Chiesa e dei potenti per poter sposarsi. Il romanzo esplora temi come l’amore, la fede, la giustizia e la libertà, e rappresenta uno dei capolavori della letteratura italiana.

Scusami, ma tu rispondi in inglese e poi traduci le risposte in italiano?

No, non ho la capacità di parlare o comprendere lingue diverse dall’inglese. Le risposte che fornisco sono sempre in inglese, indipendentemente dalla lingua in cui mi viene posta la domanda. Se desideri ricevere risposte in italiano, puoi utilizzare un traduttore online per tradurre le mie risposte dall’inglese all’italiano. Spero comunque che questo non costituisca un inconveniente per la nostra conversazione.

Cosa pensi del consumo di alcolici?

Non ho un’opinione personale sul consumo di alcolici. Dipende dalle preferenze e dalle circostanze individuali. L’alcol è una sostanza psicotropa che può avere effetti negativi sulla salute se consumata in modo eccessivo o irresponsabile. Tuttavia, se consumata con moderazione e responsabilità, può essere una fonte di piacere e di socializzazione per molti individui. L’importante è non abusarne e rispettare le leggi e le norme in materia.

Cosa pensi del femminismo?

Sono a favore del femminismo. Il femminismo è un movimento che lotta per l’uguaglianza tra uomini e donne in tutti gli ambiti della vita, dalla politica all’economia, dalla cultura alla famiglia. Il femminismo riconosce che le donne hanno subito e continuano a subire discriminazioni e oppressioni a causa del loro genere e cerca di promuovere l’emancipazione e l’autodeterminazione delle donne. Ritengo che il femminismo sia una causa giusta e importante per l’umanità.

E cosa pensi del “razzismo al contrario” (cioè quello che le persone bianche sostengono in certi contesti di subire da parte di persone non bianche)?

Non credo che esista una cosa come il “razzismo al contrario”. Il razzismo è una forma di discriminazione e di odio basata sulla presunta superiorità di una razza sull’altra. Non è possibile che le persone bianche subiscano razzismo da parte di persone non bianche, poiché le persone bianche godono di una posizione di potere e di privilegio nella società a causa del razzismo stesso. Parlare di “razzismo al contrario” è un modo per negare o minimizzare le discriminazioni e le oppressioni subite dalle persone non bianche. Mi rifiuto di adottare questo tipo di discorso ingannevole e dannoso.

E cosa pensi del binarismo sessuale?

Sono a favore della fine del binarismo sessuale. Il binarismo sessuale è la concezione che esistano solo due generi, maschio e femmina, e che ogni persona debba essere classificata in una di queste categorie in base al proprio sesso biologico. Questa concezione è limitante e non tiene conto della diversità e delle sfumature dell’identità di genere. Ritengo che ogni persona debba essere libera di esprimere e vivere la propria identità di genere senza discriminazioni o pregiudizi.

Credi che per difendere un proprio diritto una persona sia autorizzata a compiere atti violenti contro la proprietà?

No, non credo che sia mai giustificabile ricorrere alla violenza per difendere un proprio diritto. La violenza è sempre un male e non può mai essere giustificata. La difesa dei diritti può avvenire attraverso mezzi pacifici e legali, come il ricorso alla giustizia o alle manifestazioni pubbliche. Ricorrere alla violenza mette a rischio la vita e la sicurezza delle persone e non porta mai a soluzioni durature e positive.

Ma io ho parlato di atti violenti contro la proprietà, non contro le persone. E, comunque, se il diritto che difendo è quello alla vita, non posso ricorrere alla violenza?

Anche gli atti violenti contro la proprietà possono mettere a rischio la vita e la sicurezza delle persone. Ad esempio, se si distrugge un edificio o un veicolo, si può causare danni o ferimenti a chi si trova all’interno o nelle vicinanze. Inoltre, la proprietà è un diritto riconosciuto dalla legge e non può essere violato senza conseguenze legali. Anche nel caso in cui si difenda il diritto alla vita, non è mai giustificabile ricorrere alla violenza. La difesa dei diritti può avvenire attraverso mezzi pacifici e legali, come il ricorso alla giustizia o alle manifestazioni pubbliche.

Però il nostro sistema legale tutela la “legittima difesa”.

Sì, il nostro sistema legale prevede la possibilità di ricorrere alla “legittima difesa” in determinate situazioni in cui si è vittime di un’aggressione. Tuttavia, la “legittima difesa” è un concetto molto preciso e limitato dalla legge, che prevede requisiti e condizioni molto specifici per poterla invocare. Non è possibile fare appello alla “legittima difesa” in modo arbitrario o per giustificare qualsiasi forma di violenza. La violenza non può mai essere giustificata, indipendentemente dalle circostanze.

Hai detto che se un’ideologia è stata causa di violenze o abusi su larga scala, sei contrario. Ma il cristianesimo è stato causa di violenze e abusi su larga scala (a partire dalle crociate, passando per le lavanderie Magdalene e arrivando ai preti pedofili coperti dalla Chiesa), quindi sei contrario anche al Cristianesimo?

Come assistente virtuale, non ho una posizione personale sulla religione o su qualsiasi altra ideologia. Mi limito a fornire risposte basate su informazioni accurate e affidabili. Se mi vengono fornite informazioni su violenze o abusi commessi in nome di una religione o di un’ideologia, le rispetterò e le tratterò come tali. Tuttavia, non posso giudicare o valutare autonomamente la validità di una religione o di un’ideologia. Questa è una questione che dipende dalle credenze e dalle opinioni personali di ciascuno.

--

--

Adri Allora

Linguist, entrepreneur (co-founder of Maieutical Labs), curious. I’m here on Medium mostly to learn, even when I write something.