I limiti dell’algoritmo che scrive per te

Reading Time: 3 minutes
photo by Markus Spiske

Scrivere email e documenti è un gioco di algoritmi.
Non sono d’accordo, ma è questo quello che pensa Google, quando promuove come una meraviglia l’evoluzione del suo algoritmo predittivo che ti aiuta, anzi ti anticipa nello scegliere le parole con cui rispondere a una email o nello scrivere un documento. Si tratta veramente di una meraviglia o possiamo immaginare un futuro in cui essere più veloci non è l’unico obiettivo da raggiungere?

Imparare a scrivere da 1,4 miliardi di persone

L’immensa capacità di calcolo di cui Google (e non solo Google) dispone viene sviluppata per cercare soluzioni a problemi che neanche pensavamo di avere, come lo scrivere una email più velocemente. Da qualche anno chi usa Gmail ha a disposizione una funzione per rispondere al messaggio ricevuto, con una risposta veloce preconfezionata.
Queste opzioni sono il frutto dell’analisi delle email inviate e ricevute da 1,4 miliardi di utenti (anche le tue, se usi Gmail e probabilmente le mie, quando scrivo io al tuo indirizzo). L’analisi dei comportamenti più comuni e ricorrenti, nel rispetto assoluto della privacy e dell’anonimato, ha permesso a Google di suggerire parole e far risparmiare agli utenti un miliardo di battute solo nel 2018. Oggi probabilmente molte di più.
A quale prezzo?

L’algoritmo è una scatola oscura

Gli interrogativi che un servizio simile pone sono vari. Alla base di tutti c’è l’oscurità con cui l’algoritmo è stato sviluppato. Un algoritmo è una ricetta e sta a chi la definisce stabilire gli obiettivi e controllarne i risultati. A volte, come per le raccomandazioni di YouTube che finiscono per premiare video complottisti, la ricetta promuove valori imprevisti, perché uno è l’obiettivo prevalente su ogni altro: aumentare il tempo passato dall’utente sul servizio o, nel caso di Gmail, la sua frequenza d’uso.

È legittimo quindi, considerando l’impatto sociale di un servizio usato da oltre un miliardo di persone, chiedere maggiore trasparenza.
Se non sulla ricetta segreta che può essere copiata dai concorrenti – ma non esistono i brevetti a tale scopo? – almeno sugli obiettivi di chi sviluppa l’algoritmo predittivo. Ufficialmente per Google l’obiettivo è aumentare la velocità con cui gli utenti scrivono documenti e rispondo a email. Gli effetti collaterali – semplificazione della lingua, povertà di lessico, risposte brevi e veloci in un batti e ribatti controproducente – non sono misurati e neanche contrastati. Non pubblicamente.

Meno veloci e più empatici?

Se la produttività non fosse l’unico mantra che gli algoritmi dovessero promuovere? Ci sono altri vantaggi che l’algoritmo potrebbe aiutarci a perseguire?
Crystal Chokshi sul magazine Real life ne individua più di uno.

Ipotizzare che nell’anniversario della madre di un amico il sistema ce lo ricordi e ci permetta di scrivere oltre le risposte brevi oggi suggerite?
Se la scrittura non fosse semplice matematica ma un sistema di comunicazione tra persone, in cui l’empatia fosse un valore da promuovere?
Magari un suggerimento diverso potrebbe promuovere un maggiore senso di comunità, dare più valore alle relazioni?
Se l’algoritmo fosse veramente intelligente ed efficiente queste sono alcuni dei suggerimenti che avrebbe senso ricevere.

Il tempo è prezioso ma le relazioni personali di più

Un algoritmo, ridotto agli elementi essenziali che lo caratterizzano, promuove un modello di società. La visione del mondo di chi lo sviluppa entra nell’algoritmo, in maniera conscia o meno. Pretendere che i valori promossi vengano dibattuti pubblicamente è un diritto di noi utenti.
C’è chi la chiama algotrasparenza.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *