Dati, minorenni, privacy, previsioni
Una questione etica molto specifica
Adesso adesso
Come Maieutical Labs, che fa software didattici adattivi per le scuole, noi gestiamo dati di minorenni. Non molti, nessun dato sensibile (niente su stato di salute, convinzioni religiose o politiche, orientamento sessuale) ma tutti i più importanti dati identificativi: il nome, il cognome, l’email, la classe scolastica di appartenenza (quindi una buona approssimazione di provenienza geografica e di età). La maggior parte dei dati è costituita dai circa 5 milioni di risposte mensili alle domande dei nostri software, ma si tratta di domande di latino, greco, matematica e italiano.
In questo quadro, è abbastanza ragionevole la policy aziendale riguardo ai dati: li trattiamo solo in forma aggregata per avere feedback sui contenuti o sull’esperienza utente e non li condividiamo con nessuno. Il criterio portante, ancora prima della normativa, è quello che Teresa Torres descrive nel suo “Continuous Discovery Habits”:
se un giornale di rilevanza nazionale rendesse noto l’uso che fate dei dati dei vostri e delle vostre utenti, che cosa ne pensereste? Sarebbe un male o un bene?
(Sarebbe un bene o non cambierebbe niente.)
Qualche giorno fa, in coda a una riunione su budget, forecast e cashflow, chiacchieravo con Marco, la persona (all’interno del fondo main investor) che si piglia la colpa se non facciamo soldi, e ha sollevato alcune ipotesi molto interessanti. Il problema etico rimane, anzi paradossalmente si ingigantisce, con dei però stimolanti, che voglio condividere con te.
Prospettiva a zero problemi etici
In questo momento, l’ipotesi più realistica per sfruttare i nostri dati rimane all’interno delle nostra macchine: potremmo permettere ai software di suggerire allɛ docenti l’assegnazione di compiti aggiuntivi che colmino lacune dellɛ discenti. Questa idea ci piace perché:
- potrebbe rendere i nostri prodotti ancora più efficaci;
- permetterebbe allɛ docenti di lavorare di più facendo di meno;
- sfruttando i nostri dati aumenterebbe ancora il divario rispetto a possibili competitor nel nostro segmento di mercato;
- ci permetterebbe di dire che la formazione erogata dalle nostre macchine è potenziata dall’intelligenza artificiale, che in questo momento è una buzz word e quindi ha un valore commerciale.
Per queste implementazioni stiamo cercando finanziamenti, ma Marco mi chiedeva se esistono modi per rendere profittevoli i nostri dati comunicandoli verso l’esterno.
Prospettiva a n problemi etici
Alle attuali condizioni è impensabile: le aziende sono interessate a nomi e e indirizzi email, e noi quelli non li daremo mai e poi mai. Certo, ma, ha ipotizzato Marco, non pensare di condividere dati individuali, immagina di condividere invece solo dati aggregati, e solo dati di performance. Esatto: di latino, greco, matematica, italiano. È possibile che le risposte alle vostre domande scolastiche permettano di caratterizzare tipi di utenti e di comportamenti che si realizzeranno nel futuro?
È stato un piccolo satori.
Che cosa chiediamo nei nostri software? La terza declinazione latina, l’aoristo dei verbi in -𝛍𝛊, il grado di una disequazione, quali sono i pronomi indefiniti italiani? Sì, ma anche di comprendere un passo in italiano scritto (e qui hai visto quanto sia importante questa competenza), di trovare un’informazione in un testo, di isolare i dati rilevanti per risolvere un problema. Con MathX insegniamo a generalizzare a partire da una risoluzione guidata con tutti gli esercizi che richiedono la stessa procedura. Con Alatin istruiamo alla ricerca di soluzioni nella teoria di riferimento a partire dai propri errori. Con Itaca lavoriamo sulle implicazioni della lingua mentre apparentemente parliamo di metalingua (ovvero di descrizione della lingua).
Come tutte le competenze che si imparano a scuola (competenze, hai letto bene), vanno ben al di là delle mura scolastiche.
Sono alcune delle competenze che fanno di unǝ cittadinǝ unǝ buona cittadinǝ. Un insight su questo genere di informazioni è uno sguardo nella palla di cristallo che ti dice cosa aspettarti nel futuro: come sarà il norditalia tra dieci anni se oggi e per cinque anni lɛ ragazzɛ non riescono a individuare l’informazione essenziale in una frase, ma sono in grado di attribuire correttamente le grandezze di un certo fenomeno? Sarà diverso se invece non sono in grado di trovare la soluzione a un problema in un testo ma riescono a mettere in sequenza le fasi di un processo? (Marco suggeriva di usare l’intelligenza artificiale in questo punto, io vorrei trovare le risorse per usare anche solo l’intelligenza.)
E non hai bisogno di profilare un singolo utente, perché se pensi abbastanza in grande non punti al singolo, punti alle masse.
Chi è interessato a vedere come si muoveranno le società tra dieci anni? Banche, compagnie telefoniche, agenzie di comunicazione, ma anche le agenzie di comunicazione più pericolose di tutte: i partiti politici.
Allora il problema etico è: ammesso di poter dare a qualcuno la possibilità di prevedere movimenti di massa nel futuro, a chi vorresti dare questo potere?
