The Ghost in the Algorithm: fantasmi chiamano fantasmi

Il pezzo The Ghost in the Algorithm va lodato per aver proposto uno scenario e un’analisi coerenti, ma anche criticato per le assenze e le assunzioni confuse da affermazioni. È una lettura consigliabile, ben scritta e articolata.

Sintetizzo i punti importanti del discorso di Chiusi:

• La tecnologia domina la nostra epoca.
• Siamo inforgs, secondo la definizione di Luciano Floridi, o übermensch prodotti dalle tecnologie dell’informazione.
• Siamo a rischio di una nuova forma di schiavitù nel dominio tecnologico.
• Gli algoritmi sono già così pervasivi da determinare svolte nella vita delle persone (carriera professionale, libertà, accesso al credito eccetera).
• Il soluzionismo, secondo la definizione di Evgeny Morozov, è il sintomo della convinzione che si è radicata secondo cui la tecnologia sarebbe in grado di offrire una soluzione a qualunque problema della società contemporanea.
• Il determinismo tecnologico nasconde una profonda sfiducia nelle capacità delle persone.
• Tuttavia sono persone coloro che progettano e realizzano la tecnologia che vorrebbe fare a meno del contributo umano (il che si potrebbe definire il Paradosso del Determinismo Tecnologico).
• Ogni algoritmo oggi usato per determinare aspetti fondamentali della vita di persone è lo specchio del sistema di valori e convinzioni di coloro che lo hanno progettato.
• I costituenti fondamentali dell’attuale mondo tecnologico sono elementi non tecnologici, ma umani e sociali. Il fantasma del titolo è un fantasma umano, che vaga nelle stanze nascoste della tecnologia.

Da questa serie di punti chiave deriva la tesi di Chiusi, ovvero che sia impellente l’esigenza di definire un supporto etico alla tecnologia, integrando concetti etici all’interno di astrazioni e meccanismi tecnologici. Un framework etico per il nostro presente tecnologico, invoca Chiusi, per recuperare e rimettere in primo piano la componente umana anche nel mondo tecnologico. Solo così potremo gestire le tecnologie.

Tutto questo è largamente condivisibile e lo sforzo di mettere in fila molti elementi per non nascondere la complessità del reale va lodata. Va lodata anche la ricerca di una proposta, una direzione secondo la quale correggere, se possibile, la rotta della società attuale.

Il pezzo di Chiusi è un lavoro di sintesi delle molte criticità aperte e il tentativo di uno sguardo d’insieme. È un lavoro di spessore e utile.

Per questo occorre sforzarsi di proporre un’analisi critica, non solo generiche dimostrazioni di plauso. Bisogna cercare di smontare la visione unitaria di Chiusi per capire quanto è in grado di resistere alle sollecitazioni e quindi cosa di quell’analisi è un gradino abbastanza stabile da provare a compiere il passo successivo e cosa, invece, traballa.

L’incertezza

Lo strumento col quale testare il framework etico di Chiusi è l’incertezza. La quale a sua volta richiede delle certezze, non può essere assunta a prescindere, altrimenti diventa banalizzazione concettuale e benaltrismo. Esistono indicazioni e dati per sostenere che ci troviamo in un contesto storico tanto determinato dalla tecnologia quanto dall’incertezza nelle valutazioni sulla contemporaneità. Questo è il mio assunto fondante.

Tecnologia e iperinformazione sagomano una nuova umanità incerta e spaesata.

L’uomo contemporaneo non è soltanto un inforg o un übermensch sotto steroidi informativi, ma anche una creatura spaesata che brancola in una lunga notte di buia e spessa incertezza, che si esprime nelle forme più varie. Tutti gli estremismi, con i loro portati di intolleranza e rifiuto dell’alternativa, sono figli di una condizione di dolorosa incertezza che pretende un sollievo, grossolano, ma efficace. Le svolte degli anni 2000 hanno portato con sé incertezza esistenziale e intellettiva; la nuova e inedita mole di informazioni ha determinato anche un eccesso che si è tradotto in illusione di essere informati, assenza di informazione in pratica. Questo è un effetto ben noto negli studi sull’informazione, che però non spiegano quali siano le conseguenze che stiamo vedendo realizzarsi sulla vita degli individui e sulla società.

Applichiamo allora la leva dell’incertezza al framework etico di Chiusi.

L’intepretazione

La nostra epoca è dominata dall’anti-tecnologia tanto quanto dalla tecnologia, così come esistono l’anti-intellettualismo che disprezza la cultura e pure il disprezzo per la cultura figlio di un intellettualismo degenere. Ma allora i populismi, i neofascismi, i razzismi quotidiani sono frutto del dominio della tecnologia o di un rifiuto dei principî che il mondo tecnologico voleva portare? La crisi della democrazia, ormai argomento di discussione da colazione, deriva dal dominio della tecnologia, dalla manipolazione tecnocratica disegnata in agende politiche oppure dal collasso dei sistema di valori che rappresentava il collante sociale necessario a un modello democratico?

Quando leggiamo i dati della capitalizzazione di borsa, con i grandi monopolisti del mondo digitale ai primi posti e affermiamo che quella è la dimostrazione del dominio della tecnologia nel nostro tempo, stiamo constatando un dato di fatto o filtrando la realtà secondo la nostra lente interpretativa? Da che parte dello specchio stiamo osservando? Se si cambia lato, quella diventa la fotografia della crisi dei pilastri del Novecento, l’industria del petrolio, le banche, i grandi conglomerati industriali. Il successo dei giganti digitali va di pari passo con il lento affondare degli oligopoli che hanno definito il nostro mondo. Indietreggiano gli oligopolisti e al loro posto salgono monopolisti. Questo non è il dominio della tecnologia, è il dominio del monopolio, come avveniva un secolo fa, ed è il declino dell’occidente capitalista e liberale. La cosa può piacere o non piacere, ma il problema è che non abbiamo idea di cosa venga dopo.

Il Novecento industriale ha ceduto il dominio al Duemila tecnologico e monopolista.

La critica al mondo internet-centrico ha fatto del determinismo tecnologico e del soluzionismo le sue armi migliori. Giustamente, perché sono chiavi interpretative potenti. Ma rimangono chiavi interpretative, non altro. Di certo non sono le uniche chiavi interpretative e nemmeno sono sufficienti a spiegare tutto. Infatti presentano problemi. Perché si sceglie un approccio soluzionista e si crede nel determinismo tecnologico? Rispondere a questa domanda è quasi impossibile. Esistono solo vaghe opinioni personali. Chiusi non affronta lo scoglio di questa risposta, difficilmente potrebbe anche solo abbozzarla. Ferma convinzione nei meriti della tecnologia? Rifiuto dei compromessi umani? Desiderio di semplicità? Una forma di teosofia ai tempi di Internet? Da dove nasce il soluzionismo tecnologico? Spesso le risposte sono loro stesse esempi di soluzionismo e di determinismo. Paradossi che continuano a emergere e a intrecciarsi. Noi odiamo dover convivere con dei paradossi.

I cortocircuiti

Imparentati col soluzionismo ci sono i cortocircuiti logici. Ci prendono spesso per stanchezza, soprattutto quando stiamo esercitando uno sforzo considerevole per tenere insieme una struttura multiforme. Chiusi a un certo punto scrive:

Pensate a Facebook: non sarebbe molto difficile farne un luogo migliore quanto a democrazia. Gli articoli proposti comprenderebbero pezzi politicamente schierati all’esatto opposto della nostra posizione come l’ha dedotta l’algoritmo di Facebook.

Detto in altro modo, questo si chiama cercare di mitigare la polarizzazione informativa forzando l’eterogeneità. Forzandola attraverso una soluzione tecnologica, not much difficult, che permetterebbe di migliorare la democrazia. Se non è determinismo tecnologico e soluzionismo questo, allora cosa lo è? Le trappole logiche si aprono appena ci si spinge nel ragionamento. Dal punto di vista operativo, quello che dice Chiusi ha un senso generale, ma concretamente annega nell’incertezza.

Cosa sarebbe una notizia all’esatto opposto dei valori politici che l’algoritmo di Facebook ha dedotto per voi? In un mondo perfettamente bipolare è chiaro, se siete bianchi vi mostro un po’ di nero e viceversa, ma il mondo bipolare non esiste. Nemmeno negli USA, con democratici e repubblicani, gli schieramenti sono uniformi e compatti. Se è facile profilare qualcuno secondo un certo criterio (di chiara utilità commerciale o politica), il concetto di esatto contrario è inesistente, perché tanto più la categoria è precisa, tanto più il contrario sarà vago e viceversa La soluzione, se c’é, deve essere molto più complessa e articolata.

Il framework

Da questo esercizio con lo strumento dell’incertezza giungiamo alla destinazione, il framework etico. Scrive Chiusi:

L’etica viene sacrificata in partenza: non dubiterai che questa particolare istanza di progresso tecnologico sia realmente progresso per noi umani, recita il Primo Comandamento della Silicon Valley; perché è progresso per definizione e, se non lo vedi, sei il problema.

Come dargli torto? La situazione è proprio quella, molto spesso, come minimo. E ancora scrive:

È perché molti di noi sono imbevuti di un’ideologia presupposto della quale è che il cambiamento tecnologico non dovrebbe, e non può, venire intralciato dalla politica?

Con questa domanda viene dalla mia parte, quando già mesi fa parlai dell’assenza di coscienza politica tra i tecnologi come di uno dei problemi insoluti e incompresi più seri.

I tecnologi non ricevono alcuna formazione di tipo etico, continua, in nessun corso universitario o di formazione aziendale. Eppure sono quelli poi chiamati a ridefinire i confini dell’etica nella nostra società attraverso algoritmi e soluzioni tecnologiche.

Tutto questo è vero, innegabilmente sotto gli occhi di tutti. Ed è un problema senza risposta.

L’etica

Eppure qualcosa di importante manca, continuano ad esserci una sedia vuota e un fantasma che vaga dietro questa analisi. Su cosa si può fondare un framework etico per la tecnologia se non sull’etica della società nella quale gli individui vivono? In tal caso occorre domandarsi qual è la condizione dell’impianto etico nella nostra società. Qual è la formazione etica dei docenti, dei magistrati, dei medici, dei politici, degli imprenditori e dei giornalisti, perfino dei genitori, oltre che dei tecnologi? È inesistente tanto quanto quella dei tecnologi, mentre l’impianto etico ereditato dal secondo dopoguerra si sta sfaldando.

Su quali fondamenti etici basiamo le nostre decisioni e interpretazioni? È incerto.

Non esiste un mondo tecnologico governato da algoritmi prodotti da tecnologi privi di un framework etico scisso dal mondo non tecnologico e non algoritmico. Questa separazione è illusoria e soluzionistica, secondo l’idea che sia possibile estrarre un singolo modulo dalla complessità del reale e ricodificare solo quel modulo. È il venir meno di un framework etico nella società occidentale che ha permesso la nascita del dominio tecnologico fondato sull’assenza di etica. Abbiamo liberato delle forze da dei vincoli e queste hanno prodotto risultati straordinari. Ora ci domandiamo come ricreare quei vincoli, ma non sappiamo come farlo né quali conseguenze ci saranno.

La matassa

Per questo tecnologia, algoritmi e tecnologi non sono e non saranno l’infrastruttura dominante sulla quale tutto il resto si agita e si dibatte. Non c’è questa stratificazione per certi versi confortante per la chiarezza che offre. Tutto invece si mescola e si influenza. La tecnologia influenza le professioni ed è influenzata dall’opinione pubblica, manipolata dal qualunquismo che si avvale e propugna soluzioni tecnologiche che i mercati finanziari sospingono o affossano a seconda dei venti politici e dei rapporti tra potenze globali eccetera.

Potete divertirvi a complicare la matassa ingarbugliando i fili e le traiettorie logiche a piacere. Se però cercate di sbrogliarla, allora compare subito il fantasma dell’incertezza a imbrattare le vostre semplificazioni.

Ecco perché Fabio Chiusi ha scritto un ottimo pezzo che merita di essere strattonato e sollecitato con impegno per far progredire la discussione.