La tecnologia al servizio delle ideologie conservatrici creerà nuovi regimi totalitari?

Articolo di Yuval Noah Harari* pubblicato sull’edizione in lingua francese del magazine online Slate (Stati Uniti) il 12 luglio 2019, terza parte, liberamente tradotto da Giacomo Tessaro

Il 14 luglio 2017 diversi ministri russi, tra cui il primo ministro Dmitri Medvedev, hanno assistito a una conferenza di un professore di Stanford il quale ha studiato la possibilità di determinare i tratti della personalità di qualcuno analizzando la sua attività online.

Il professore affermava di avere la prova che certi algoritmi sono in grado di determinare l’eterosessualità o l’omosessualità di una persona con una percentuale di successo del 91%, basandosi unicamente sull’analisi di alcune foto del suo viso. Se il fine della conferenza era avvertire il pubblico sui pericoli che questo genere di tecnologie costituiscono per la vita privata degli individui, c’è da scommettere che i politici russi fossero più interessati a imparare come servirsene che al modo di proteggere i diritti delle persone.

Anche se non avete mai avuto un account su Grindr, anche se non avete mai usufruito di pornografia gay sull’Internet, e non avete mai letto articoli su tematiche LGBT+, in un futuro non troppo lontano il semplice fatto di lasciar vagabondare liberamente i vostri occhi potrebbe costarvi la libertà. Nel suo libro The Age of Surveillance Capitalism Shoshana Zuboff descrive gli strumenti sempre più sofisticati che le imprese utilizzano per determinare ciò che piace ai loro clienti.

Per esempio, quando guardate una serie TV i produttori vogliono sapere quali personaggi o quali scene attirano di più la vostra attenzione, in modo da rendervi sempre più dipendenti dagli episodi che seguiranno. Chiedere l’opinione degli spettatori è un metodo fastidioso e poco affidabile, è molto più sicuro rilevare direttamente i segnali biometrici involontari, come il movimento degli occhi e la pressione arteriosa. Così facendo, il canale televisivo potrebbe per esempio venire a sapere che il 63% degli spettatori ama molto un certo personaggio secondario, e pensare quindi che sia una buona idea dargli più rilevanza nel seguito della serie.

Si tratta esattamente della medesima tecnologia di cui potrebbe servirsi una futura “polizia del genere” per accusarvi di essere in segreto “traditori del vostro genere”. Se i recettori biometrici inseriti nel televisore rilevano che un uomo che sta guardando una scena di bacio tra Jon Snow e Daenerys Targaryen fissa gli occhi più sull’eroe macho che sulla Madre dei draghi, la “polizia del genere” potrebbe benissimo bussare alla sua porta alle 2 del mattino per indagare sul fatto.

Se pensate di proteggervi non guardando mai la TV, non navigando mai l’Internet e gettando nella spazzatura lo smartphone, cosa farete quando ci saranno telecamere a tutti gli angoli di strada e verrà continuamente scrutato il comportamento di ciascuno, tanto nei bar come nelle scuole? Nel 2013 le autorità iraniane hanno ordinato ai proprietari dei caffè di installare telecamere e di tenere a disposizione delle autorità le relative registrazioni. Nel marzo 2019, in Cina, il liceo Guangya, [nella provincia del] Guangdong, avrebbe acquistato 3.500 braccialetti biometrici per sorvegliare le attività sportive degli studenti, il loro ritmo cardiaco e il numero di volte in cui alzavano la mano in classe: incrociando i dati ottenuti, le scuole del futuro saranno in grado non solo di dire se il tale studente si è addormentato durante l’ora di matematica, ma anche se si è innamorato di una professoressa.

Ora applicate questo esercizio mentale su una scala di milioni di persone. Negli ultimi anni la Cina ha trasformato la provincia dello Xinjiang nel più grande laboratorio di sorveglianza del mondo: nell’ambito di un sedicente tentativo di sradicare “l’estremismo islamico” le autorità cinesi sorvegliano di continuo milioni di musulmani. La gente è obbligata a fornire campioni del proprio DNA, del sangue, le impronte digitali, registrazioni della loro voce e scannerizzazioni del viso: questo permette al governo di controllare le attività personali con l’aiuto di una rete di telecamere di sorveglianza su scala nazionale, di apparecchi portatili, di strumenti di riconoscimento del volto e algoritmi di apprendimento automatico. I sensori sono dappertutto, dai mercati alle moschee: quando gli algoritmi rilevano comportamenti sospetti (dal ricorso alla retorica religiosa all’indossare abiti islamici tradizionali, fino forse al recarsi troppo di frequente alla moschea) il “contravvenente” può ricevere un avvertimento da parte della polizia come essere spedito in un campo di “rieducazione”, dove ci sarebbero già centinaia di migliaia di persone.

Oggi tutto questo prende di mira la minoranza musulmana dello Xinjiang, ma un domani potrebbe essere esteso a qualsiasi gruppo suscettibile di ritrovarsi nel mirino del regime. Cosa potrebbe succedere, per esempio, se i responsabili del sistema di credito sociale che sta per essere messo a punto in Cina decidessero che una storia d’amore tra due persone dello stesso sesso fosse un comportamento antisociale che equivarrebbe a una diminuzione del punteggio, e di conseguenza una ridotta capacità a entrare in università prestigiose, ottenere un prestito o acquistare un biglietto aereo?
Lo Xinjiang sembra un luogo molto lontano, ma noi viviamo in un mondo globalizzato. Agenti di vari regimi si stanno recando in massa in questa provincia per apprenderne i metodi e acquistarne le tecnologie. Il connubio tra tecnologie rivoluzionarie e ideologie conservatrici potrebbe ben presto condurre alla creazione dei regimi più totalitari della storia.

* Yuval Noah Harari, nato nel 1976, si è laureato in storia all’Università di Oxford. I suoi tre saggi (Sapiens. Da animali a dèi. Breve storia dell’umanità, Homo Deus. Breve storia del futuro e 21 lezioni per il XXI secolo, editi da Bompiani) sono dei fenomeni internazionali, tradotti in quasi cinquanta lingue e presenti in molte classifiche di bestseller in tutto il mondo.

Testo originale: Cinquante ans après Stonewall, la mise en garde de Yuval Noah Harari sur les droits des LGBT+