Benvenuti nell'algocrazia: il potere del pregiudizio algoritmico

Buona parte degli scambi di informazioni nel mondo sono il prodortto di algoritmi. A tal punto che un giorno potrebbero muovere le fila della politica...

Scritto e verificato la psicologa Valeria Sabater.

Ultimo aggiornamento: 06 marzo, 2023

Siete in cerca di un’offerta di lavoro, volete presentare un reclamo al servizio clienti; o ancora, volete chiedere un prestito o un altro prodotto bancario; volete prenotare un biglietto aereo o un albergo. Le notizie, le informazioni e le pubblicità che vediamo quando accediamo ai nostri social network sono il risultato di algoritmi… Gli algoritmi sono alla base di infinite attività quotidiane e in più settori di quanto immaginiamo. Benvenuti nell’algocrazia!

Sono quei meccanismi silenziosi che, sempre di più, muovono il mondo senza che quasi ce ne accorgiamo. E la cosa più sorprendente di tutte è che imparano dai dati che forniamo loro per essere sempre più efficaci. Si stanno adattando all’essere umano – quelli che sono codificati come “utenti” -, cercando di offrire un’esperienza sempre più personalizzata, veloce e soddisfacente in modo con il minimo sforzo.

I loro tentacoli raggiungono le applicazioni di incontri, dove possono persino mediare con la nostra scelta del partner presentandoci una serie di candidati molto specifici. Tutto questo sulla base, presumibilmente, delle nostre preferenze. La loro incursione nel quotidiano mondo digitale è tale che si stima addirittura possa mediare sulle nostre decisioni politiche…

Cos’è il bias algoritmico?

Gli algoritmi possono semplificarci la vita. Se siamo amanti della natura e difensori dell’ambiente, ad esempio, è molto probabile che nei nostri social troveremo sempre più informazioni relative a questo argomento. Tuttavia, le cose cambiano quando le nostre preoccupazioni non sono esattamente sane.

Ricordiamo il terribile caso di Molly Russell, un’adolescente in cerca di argomenti associati al suicidio. A un certo punto tutti i suoi social network mostravano e proponevano contenuti legati a quel tema. Quasi senza rendercene conto, possiamo restare prigionieri di una bolla informativa all’interno della quale non filtrano più altre tendenze e l’ossigeno di altri contenuti.

Il pregiudizio algoritmico si riferisce al nostro falso senso di controllo sulle informazioni che riceviamo e sulle decisioni che prendiamo. Perché c’è un codice inquietante che si insinua nella nostra quotidianità, offrendoci con insistenza dati quasi mai imparziali. Ma ricordiamoci, c’è quasi sempre un interesse dietro…

Non decidete voi, loro decidono per te: benvenuti nell’algocrazia

C’è un fenomeno che stiamo vedendo sempre più frequentemente nella normalizzazione dell’intelligenza artificiale. L’intelligenza artificiale ci dà un falso senso di controllo e autoefficacia. Quella sensazione aumenterà molto di più quando l’uso di ChatGPT sarà normalizzato e ci aiuterà nelle nostre tesi, nel lavoro all’università e nelle infinite attività quotidiane.

Ci sentiremo più efficienti, ma in realtà sarà proprio quel chatbot a svolgere per noi un compito che ci appartiene. Questo non deve essere negativo, ma aumenta il suddetto pregiudizio algoritmico. Cioè, la percezione che decidiamo e agiamo senza alcuna interferenza, quando non è così…

Gli algoritmi non sono equi

Cathy O’Neil è una matematica che ha scritto un libro molto popolare, Weapons of Mathematical Destruction (2016). In questo documento ha descritto gli algoritmi come “armi di distruzione di massa”. Per cominciare, questi valori computazionali non sono esenti da pregiudizi morali e culturali, per non parlare degli interessi dietro di essi.

Nel libro racconta il caso di un’insegnante licenziata a seguito di una valutazione negativa effettuata da un algoritmo su di lei. In esso sono stati analizzati i dati dai messaggi personali ai referti medici. Lo stesso accade quando si valuta la cessione di mutui o aiuti. Certi gruppi etnici, ad esempio, saranno sempre svantaggiati.

Tuttavia, la maggior parte delle aziende e delle organizzazioni si affida a queste rapide analisi. Il pregiudizio dell’algoritmo li porta a concludere che ciò che un algoritmo analizza sarà sempre valido. Anche se non è giusto e spesso questi dati non vengono nemmeno raccolti personalmente.

Algocracy, ovvero: benvenuti nell’algocrazia al servizio della politica

Diciamo spesso che i politici sono lontani dai veri problemi della gente. Mettiamo in discussione le loro idee perché non rispondono ai bisogni del cittadino. Un’altra critica è la sua spesa eccessiva per i consulenti, la sua cattiva gestione e persino i suoi errori nel decidere e persino legiferare.

Di recente, una ricerca pubblicata dalla società di consulenza “Deloitte” ci ha svelato qualcosa di eclatante. Potrebbe esserci un futuro in cui algoritmi e intelligenza artificiale si assumano buona parte dei compiti dei politici. Basterebbe analizzare i dati che le grandi aziende tecnologiche raccolgono su di noi con i nostri cellulari. In questo modo, conoscerebbero i nostri bisogni per dare risposte sociali più adeguate.

Allo stesso modo, l’intelligenza artificiale può essere addestrata in modo che tutta la gestione politica non sia fraudolenta. La sua capacità analitica sostituirebbe una moltitudine di consiglieri e risparmierebbe un’infinità di lavoro agli enti pubblici. L’algocrazia, intesa come il potere degli algoritmi di sostituire il lavoro dei politici, può sembrarci la cosa più distopica, ma è una possibilità reale.

Basta dare un dettaglio. L’Università di Utrecht ha condotto uno studio in cui ha dimostrato che consentire agli algoritmi di sostituire tutti gli aspetti burocratici delle organizzazioni governative potrebbe essere vantaggioso. La ragione? I cittadini tendono a riporre maggiore fiducia nella gestione che può fare una macchina che in quella svolta da un politico (altro evidente pregiudizio).

Benvenuti nell’algocrazia: conclusioni

Il pregiudizio algoritmico è qui per restare e sta solo diventando più forte. Continueremo a pensare che molti degli acquisti che facciamo, delle persone a cui prestiamo attenzione sui social network o delle idee a cui diamo verità siano il prodotto della nostra volontà. Continueremo a percepirci come menti libere, quando, in realtà, saremo silenziosamente sempre più condizionati.

Lo vediamo nei giovani, sempre più infelici perché vivono in un universo digitale basato sul confronto sociale. Dobbiamo capire che gli algoritmi non sono entità che nascono da soli, dietro ci sono grandi aziende che li programmano. E tale programmazione ha sempre un obiettivo.

Se si va verso un futuro in cui persone e intelligenza artificiale lavorano insieme, è necessario che chi forma e programma l’IA sia trasparente e parta da valori più etici, giusti, morali e sani. Dobbiamo regolamentare questi meccanismi che, sempre di più, stanno modificando il comportamento degli utenti. Cioè, di ognuno di noi.