Anche la democrazia degli algoritmi deve avere una sua morale: ecco come algocrazia e algoretica vanno a braccetto, ma il dibattito è aperto per il timore di derive.
Vi sarà capitato almeno una volta nella vita di sentire parlare di algoritmo, in particolare associato a motori di ricerca come Google oppure a social network come Facebook o Instagram. Tuttavia l’intera esistenza umana è, in senso lato e con i dovuti distinguo, un algoritmo: una qualsiasi delle nostre attività è infatti regolata da un procedimento con variabili e soluzioni, dal guidare l’automobile al preparare un piatto, fino quasi anche a situazioni sociali come un bisticcio con altre persone. Questi “algoritmi” nel senso più ampio del termine sono messi in pratica da persone, mentre quelli nel senso più stretto da macchine. E c’è qualcuno che pensa che gli algoritmi delle macchine possano governare meglio degli esseri umani: un governo di questo tipo prende il nome di algocrazia, mentre ciò che è giusto oppure no in un algoritmo prende il nome di algoretica.
Come accennato, l’algocrazia consiste nel governo degli algoritmi. Sulla carta un tale governo consentirebbe un notevole risparmio in termini di spesa pubblica: sarebbero le macchine a prendere delle decisioni nei vari ambiti di potere (esecutivo, legislativo, giudiziario) con un risparmio anche in termini di burocrazia. E, come suggerisce BigThink, è possibile che questo tipo di governo possa solleticare la fantasia di persone che sostengono quanto la democrazia rappresentativa sia distaccata dalla realtà oppure corrotta. Una macchina non si può corrompere con una mazzetta, tuttavia un algoritmo si basa sulla reale esperienza umana, d’altra parte diamo continui feedback e informazioni ai social network, ai motori di ricerca e perfino agli assistenti virtuali di nostri vari device.
L’ipotesi, ma sempre restando in un ambito puramente teorico, può risultare interessante. La democrazia rappresentativa sta vivendo un momento particolare in tutto il mondo, a causa dell’avanzare dei populismi e della sfiducia delle persone nella credibilità dei governanti. Se vogliamo versarla come il poeta W.B. Yates, si tratta solo di un’alternanza di periodi storici, d’altra parte nella storia umana è capitato che una situazione analoga venisse riscontrata in una determinata nazione o impero (ora, vivendo in un mondo globalizzato, chiaramente una condizione del genere è molto più estesa è appunto globale).
Però questo avviene appunto sulla carta. Una cosa e immaginare come funzioni un algoritmo, un’altra cosa è saperlo. E non crediate che agli algoritmi manchino i bias, esattamente come gli hanno gli esseri umani. Gli algoritmi vengono infatti progettati spesso da multinazionali, le quali hanno degli interessi costitutivi nell’ottenere un guadagno: e normale, un’azienda è fatta per guadagnare, ma quando questo guadagno finisce per interessare la democrazia, e chiaro che sorgono dei problemi. Non solo: gli algoritmi possono essere aggirati. Pensiamo a cosa possa succedere qualora un algoritmo pensato per un’elezione o per una legge finisca nelle mani di qualcuno senza scrupoli, come terroristi, criminali internazionali di ogni tipo a partire dai criminali di guerra, aspiranti dittatori. E non dimentichiamo quanto spesso gli algoritmi siano in qualche modo escludenti delle minoranze: se già il riconoscimento facciale di africani o afrodiscendenti è tanto fallibile, pensiamo che cosa possa accadere su temi più importanti.
Anche in questo caso abbiamo accennato all’algoretica, nel senso dell’etica legata agli algoritmi. Cosa dovrebbe garantire l’algoretica viene spiegato in un articolo presente su Aleteia, un periodico cattolico:
Garantire che l’intelligenza artificiale rispetti i diritti umani, evitando pregiudizi che rafforzino la discriminazione. Mantenere il controllo umano sulle decisioni che influenzano la vita delle persone. Dare priorità al bene comune rispetto all’automazione orientata al profitto.
Possiamo pensarla come vogliamo sulle religioni e sulla religione cattolica in particolare (l’etica è qualcosa di trasversale alla religione, tante che perfino i filosofi mitteleuropei dell’Ottocento riconoscevano la morale negli atei), ma questo è sicuramente un punto di vista interessante e condivisibile. Alcune delle priorità che dobbiamo affrontare come società sono la parità di diritti, la lotta alla discriminazione, la priorità del bene comune. In altre parole, religione o no, tutto si risolve in questo: dobbiamo restare umani. E come si fa a restare umani di fronte all’algocrazia? Progettando algoritmi, che anziché badare al profitto, si occupino di ciò di cui hanno davvero bisogno le persone. Ma, come abbiamo già visto, questo presenta una serie di problemi.
Ovviamente queste sono ancora tutte ipotesi e speculazioni intellettuali, però questo non ci impedisce di aprire un dibattito sul futuro della democrazia alla luce di temi come il governo degli algoritmi e la morale degli algoritmi. Le macchine stanno prendendo ruoli sempre più importanti nelle nostre vita: fanno parte dell’esperienza sanitaria, ci permettono di volare in sicurezza e di avere del denaro sempre con noi, ci permettono di viaggiare senza perderci oppure di studiare o lavorare a distanza. E dobbiamo capire tutto questo senza farci prendere dal panico: negli anni ’60 in molti sperimentarono il terrore e l’alienazione che l’avvento dei computer portò con sé. Ma dietro ogni macchina c’è una persona, qualcuno che l’ha progettata, qualcuno che studia gli algoritmi, qualcuno che appunto ci potrebbe decidere come sarà il nostro futuro, se è improntato su una dittatura digitale (dietro la quale ci sono gruppi di potere economico e politico umano) oppure se davvero possiamo riuscire a restare umani.
Quante volte al giorno abbiamo a che fare con un algoritmo nel senso più stretto del termine? Tantissime: dipende dal numero di device che utilizziamo, dalle ricerche che effettuiamo, da tutte le azioni digitali che poniamo in essere, e perfino dai nostri dialoghi con amici e parenti se c’è un microfono in ascolto. Non vogliamo cadere nel luogo comune e un po’ populista che vede in atto un grande dossieraggio da parte degli algoritmi, però senza troppi allarmi è quello che succede. Quante volte vi capita di parlare con il vostro compagno o la vostra compagna del fatto di aver bisogno di una nuova libreria in casa, poi aprite Facebook e vi ritrovate con dei post sponsorizzati di negozi di mobili? Quante volte le vostre ricerche su Google influenzano quelle successive se non svuotate la cache? Sostanzialmente è quello che ci accade nella vita quotidiana. Forse per il momento non vi sarà a breve una dittatura degli algoritmi, ma forse è necessario pensare che una volta ogni tanto potremmo anche spegnere i nostri device.
Cosa ne pensi?