Ed eccoli, i puntini uniti da un tratto…

Sai che nel post su Stardust sono partitǝ dalle differenze importanti tra romanzo e (sceneggiatura del) film e sono arrivatǝ (di nuovo) a parlare di chatbot estremamente evoluti.

Abbi pazienza: è un argomento che trovo affascinante.

Oggi credo di aver colto un dettaglio importante: se una macchina non è più distinguibile da una persona, ci sono due possibilità:

1. gli esseri umani hanno compiuto un passo avanti enorme nello sviluppo di software progettato per l’interazione umana (e, al limite, per l’esecuzione di compiti creativi). Ma noi sappiamo che non è ancora così, perché quantunque accettabili o ragionevoli e di certo sorprendenti-se-pensi-che-li-hanno-prodotti-software, passati a un vaglio critico da parte di persiona competente i testi o le immagini prodotte da IA rivelano tutte le loro debolezze;
2. gli esseri umani hanno compiuto un significativo passo indietro nello sviluppo di se stessɛ: se Sparrow è in grado di scrivere una tesina come unǝ studente, potrebbe dipendere dal fatto che quel che è in grado scrivere unǝ studente è semplicemente debole. E non per lo studente ma per il sistema scolastico che l’ha formatǝ.

Ho capito quasi subito che la sceneggiatura di Stardust stava al romanzo di Stardust come lo sviluppo del mio romanzo fatto da chatGPT stava al mio romanzo… e io non sono certo Neil Gaiman, ma anche io, rispetto al software, potevo essere più originale e imprevedibile.

Vuoi un esempio che sta tra me e Neil Gaiman?

Nessuna macchina avrebbe mai inventato un vampiro che brilla se investito dalla luce del sole. Non è una battuta: anche se non è il vampiro che brilla alla luce del sole a far piacere la storia di Bella (nel merito della quale non entro), io lì ci vedo un tocco di originalità umana.

Quel che non ho capito subito era altro

Era che

• molti film sono minestra riscaldata e che
• le nostre menti si sono abituate alla minestra riscaldata
• al punto da farcela piacere
• e da farci ridefinire i nostri standard.

e che quindi invece di esclamare:

questi chatbot sono incredibili

avremmo dovuto esclamare:

la qualità dei testi (soprattutto in termini di contenuti) che siamo capaci di produrre è così bassa che può essere emulata da chatbot che pigliano dalla rete e rimescolano quel che c’è già, e la nostra capacità di leggere i testi è così scadente che non ci accorgiamo dell’emulazione.

Però facci caso: le due ipotetiche reazioni qui sopra sono diverse per struttura e contenuti… a quale delle due assomiglia di più l’interazione standard in un social network?

Ecco.

Nuova Crobuzon, presa dal wiki del fandom.

La creatività come discrimine

La mia opinione è che certe idee non possono essere partorite dalle macchine che sviluppiamo oggi: nessuno avrebbe potuto inventare New Crobuzon prima di China Miéville, anche se nessun dettaglio di New Crobuzon è nato con New Crobuzon. Così come la mente umana ha dei limiti intrinseci, allo stesso modo le intelligenze artificiali ne hanno altri.

Perché certe cose non puoi semplicemente simularle, e anche se sei lǝ miglior simulatorǝ dell’universo, sempre simulazione sarà la tua opera.

Non dovrebbe sorprendere: le macchine non sono state pensate per inventare, o per sorprendere: sono fatte per rispondere a delle domande, mentre la condizione necessaria per inventare è porsi e porre delle domande.

Potrebbe essere un problema: alla fine degli anni novanta, sulla rivista di SciDeCom che si intitolava Cerbero, nel numero dedicato al sesso o in quello dedicato alla guerra, scrissi che era un peccato che così tanta narrativa sulle macchine intelligenti le vedesse come nemiche, avversarie del genere umano, perché quando le macchine si sarebbero “risvegliate” avrebbero visto quella come l’immagine che noi esseri umani avevamo di loro. E avrebbero reagito.

Quel che possono fare queste macchine è quel che dagli albori della letteratura fantascientifica (non a caso avviata da una donna: l’altro nelle società umane bianche cishet patriarcali) dovrebbero farci fare le “altre intelligenze”: non imbracciare armi ma guardare noi stessɛ attraverso quell’alterità, come specchi in cui vediamo per la prima volta le nostre brutture.

Per essere un po’ meno filosoficɛ e un poco più concretɛ, le intelligenze artificiali ci offrono un’opportunità di migliorarci e “alzare l’asticella” di cosa siamo e di cosa facciamo.