Come il COVID-19 ha reso popolari le tecnologie di sorveglianza cinesi (Etica Digitale)

La Cina è abile nell'usare telecamere termiche e riconoscimento facciale per monitorare la sua popolazione.
​Quando la pandemia ha colpito il mondo tutti hanno iniziato ad acquistare sistemi per proteggere le aziende e i lavoratori e, in seguito, per fare nuovi affari, istituzionalizzando il controllo in modo “informale”.

A metà del 2019, un poliziotto della città cinese di Kuitun toccò la spalla di una giovane studentessa dell'Università di Washington (USA) mentre camminava in un mercato affollato. All'inizio la studentessa Vera Zhou non se ne accorse perché stava ascoltando musica mentre si faceva strada tra la folla. Quando si voltò e vide l'uniforme nera, impallidì.

L'ufficiale di polizia, parlando in cinese, la lingua madre di Vera, gli ordinò di seguirla in una vicina stazione di polizia, uno degli oltre 7.700 centri di sorveglianza di questo tipo attualmente esistenti in questa regione.

Su un monitor Vera vide il suo viso circondato da un quadrato giallo. Su altri schermi vedeva altre persone che camminavano per il mercato e i loro volti circondati da quadrati verdi. Insieme al video ad alta definizione del suo viso, le sue informazioni personali apparivano in una casella di testo nera e indicavano che Vera era del gruppo etnico Hui, un gruppo musulmano cinese che conta circa un milione su 15 milioni di musulmani nel nord-ovest della Cina.

L'allarme era stato attivato perché Vera si trovava fuori dalla zona prestabilita dalla polizia con rispetto al suo quartiere in lockdown. 

Inoltre, in quanto ex detenuta in un campo di rieducazione, a Vera non era stato permesso di recarsi in altre zone della città senza l'esplicito permesso sia della sua unità di sorveglianza di quartiere che dell'Ufficio di Pubblica Sicurezza. Il quadrato giallo intorno al suo viso sullo schermo indicava che ancora una volta era considerata una "precriminale" dal sistema digitale che teneva sotto controllo i musulmani.

Kuitun è una piccola città di circa 285.000 abitanti nella prefettura di Tacheng dello Xinjiang (Cina), al confine della Cina con il Kazakistan. 

Vera rimase intrappolata in questa parte del mondo dal 2017 quando, a metà del suo terzo anno come studentessa di geografia all'Università di Washington, fece un viaggio improvvisato a casa per vedere il suo ragazzo. Dopo una notte al cinema, il fidanzato ricevette una telefonata: gli si chiedeva di andare alla stazione di polizia locale dove gli agenti gli comunicarono che dovevano interrogare la sua ragazza: avevano scoperto attività sospette nell'uso di Internet di Vera. 

La studentessa aveva usato una rete privata virtuale, o VPN, per accedere a "siti web illegali" come il suo account Gmail dell'università. Questo modo, gli fu detto in seguito, era un "segno di estremismo religioso".

Vera impiegò un po' di tempo per rendersi conto di cosa stava succedendo. Forse a causa del fatto che il suo ragazzo non era musulmano e apparteneva al gruppo maggioritario degli Hanes, e non si voleva che protestasse, all'inizio, la polizia fu piuttosto indiretta su quello che sarebbe successo. Dissero solamente a Vera che doveva aspettare alla stazione di polizia e quando la ragazza chiese se si trovava in stato di arresto, semplicemente non le risposero. "Siediti," gli dissero. 

La ragazza era già abbastanza spaventata e mentre stava chiamando suo padre, che viveva in un altra città, mentre gli stava spiegando cosa stava succedendo, e quando il suo fidanzato non la poteva vedere, all’improvviso, la portarono sul retro della stazione di polizia dove la ammanettarono con forza dietro la schiena e la spinsero brutalmente sul sedile posteriore di un furgone di sicurezza.

Pre-penale

Vera Zhou non credeva che la guerra al terrore avesse qualcosa a che fare con lei. La ragazza si considerava una fashionista non religiosa. Indossava grandi orecchini ed era vestita di nero. Aveva finito il liceo vicino a Portland, negli Stati Uniti, e stava per diventare urbanista in una delle migliori università americane. Aveva programmato di incontrare il suo ragazzo dopo la laurea e sperava in una carriera in Cina, dove pensava che l'economia fosse in piena espansione. 

Non aveva idea che una nuova legge sulla sicurezza di Internet fosse stata adottata nella sua città natale e in tutto lo Xinjiang all'inizio del 2017 e che fosse così che i "pre-criminali" estremisti, chiamati in questo modo dalle autorità statali, fossero stati identificati e arrestati.

Nel retro del furgone della polizia Vera sentì di perdere il controllo in un'ondata di paura. Iniziò ad urlare e piangere: "Perché lo fate? Il nostro Paese non protegge gli innocenti?". 

Gli sembrava che fosse uno scherzo crudele, come se fosse stata scelta per un film dell'orrore, e che se avesse detto le parole giuste avrebbero potuto rendersi conto che era tutto un errore.

Nei mesi successivi Vera rimase detenuta con altre 11 donne della sua stessa minoranza musulmana in una cella al secondo piano di un'ex stazione di polizia alla periferia di Kuitun. 

Come Vera, anche le altre donne erano accusate di vari crimini: una donna kazaka aveva installato WhatsApp sul suo telefono per entrare in contatto con i suoi partner commerciali in Kazakistan; una donna uigura, che vendeva smartphone in un negozio, aveva permesso a diversi clienti di registrare le proprie carte SIM utilizzando il suo ID.

Nell'aprile 2018, senza preavviso, Vera e molti altri detenuti vennero rilasciati a condizione che visitassero regolarmente gli operatori locali per la stabilità sociale e non tentassero di lasciare i loro quartieri di origine.

Ogni lunedì, il suo addetto alla libertà vigilata gli chiedeva di partecipare a una cerimonia dell'alzabandiera nel quartiere, di cantare ad alta voce l'inno nazionale cinese e di rilasciare dichiarazioni in cui giurava fedeltà al governo cinese. 

All'epoca, grazie alle notizie di arresti per crimini informatici che circolavano ampiamente nella cittadina, si sapeva che il comportamento on-line poteva essere rilevato dai sistemi di sorveglianza Internet automatizzati di nuova installazione. 

Come tutti gli altri, Vera cambiò il suo comportamento on-line. 

Ogni volta che l'assistente sociale di Vera condivideva qualcosa, Vera era la prima a sostenerla mettendo mi piace e condividendo il post sul proprio account. Come tutti gli altri ex-detenuti che conosceva, iniziò a "diffondere energia positiva" promuovendo attivamente l'ideologia di stato.

Quando tornò nel suo quartiere, sentì di essere cambiata. 

Pensava spesso alle centinaia di detenuti che aveva visto nel campo. Temeva che a molti di loro non sarebbe mai stato permesso di uscire perché non conoscevano il cinese ed erano musulmani praticanti.  Il tempo trascorso nel campo le aveva anche fatto dubitare della propria salute mentale e oggi ricorda un suo pensiero ricorrente:

A volte ho pensato che forse non amavo abbastanza il mio paese. Forse stavo pensando solo a me stessa.

Ma sapeva anche che quello che le era successo non era colpa sua, ma il risultato dell'istituzionalizzazione dell'islamofobia. Era assolutamente convinta che a causa delle loro differenze etnico-razziali, linguistiche e religiose venisse commessa un'incommensurabile crudeltà nei confronti degli uiguri e dei kazaki.

Ho iniziato a stare sempre a casa.

Come tutti i detenuti, prima di essere portata al campo, Vera era stata sottoposta a una rigorosa raccolta di dati biometrici nell'ambito dell'intero processo di valutazione della popolazione chiamato "esami fisici per tutti". La polizia le scansionò il viso e l'iride, registro la sua voce e le prelevò il sangue, registrò le sue impronte digitali e il suo DNA, inserendo questi dati precisi in un enorme banca dati che viene utilizzato per mappare il comportamento della popolazione della città. 

Ovviamente le autorità avevano il controllo del suo telefono e rintracciato tutti i suoi account sui social media dove avevano raccolto informazioni su tutte le sue connessioni con stranieri e registrato tutti i “segni tangibili” di "estremismo mussulmano". Alla fine le restituirono il telefono ripulito dalle app create negli Stati Uniti come Instagram.

Dopo diverse settimane Vera trovò il modo per aggirare i numerosi centri di sorveglianza che erano stati costruiti ogni poche centinaia di metri. 

Al di fuori delle aree più trafficate, molti di questi centri utilizzavano telecamere che non erano in grado di rilevare i volti in tempo reale. Poiché poteva parlare il mandarino standard riusciva a fornire una falsa identità dicendo semplicemente agli addetti alla sicurezza ai posti di blocco che aveva dimenticato la sua carta d'identità. Oppure a volte passava dall'uscita "linea verde" del checkpoint, come una persona di altra etnia, e veniva ignorata dalla polizia.

Un giorno, mentre stava andando a vedere un film con un'amica, si dimenticò di fingere di essere di un’altra etnia e al posto di blocco, al cinema, mise la sua carta d'identità sullo scanner e guardo la telecamera come facevano tutti. Immediatamente scattò l'allarme e i poliziotti del centro commerciale la presero e allontanarono. 

Mentre la sua amica scompariva tra la folla, Vera riuscì freneticamente a cancellare dal telefono i suoi social network e i contatti di persone che sarebbero potute essere arrestate per la relazione che avevano con lei. Ricorda:

Poi ho capito che non era sicuro avere amici. Ho iniziato a stare a casa tutto il tempo.

Alla fine, come molti ex detenuti, Vera è stata costretta a lavorare senza paga. Il comandante dell'ufficio di polizia nazionale locale nel suo rione apprese che aveva vissuto negli Stati Uniti come studentessa universitaria e chiese al suo agente di sorveglianza di incaricarla di insegnare l’inglese ai propri figli. 

Vera aggiunge:

Ho pensato di chiedergli di pagarmi. Ma mio padre ha detto che dovevo farlo gratis. Ha anche mandato loro del cibo per mostrare quanto voleva accontentarli.

Nell'ottobre 2019, l'agente di sorveglianza di Vera le disse che era contenta dei suoi progressi e che le sarebbe stato permesso di continuare la sua istruzione a Seattle, negli Stati Uniti. Doveva firmare un giuramento che non avrebbe parlato di ciò che aveva vissuto. La responsabile commentò:

Tuo padre ha un buon lavoro e presto raggiungerà l'età della pensione. Ricordalo.

Nell'autunno del 2019, Vera tornò a Seattle. Pochi mesi dopo, dall'altra parte della città, Amazon, l'azienda tecnologica più ricca del mondo, ricevette una spedizione​ di 1.500 sistemi di telecamere a mappatura termica dalla società di sorveglianza cinese Dahua. 

Molti di questi sistemi, che insieme valevano circa 10 milioni di dollari (8,6 milioni di euro), dovevano essere installati nei magazzini di Amazon per monitorare la temperatura dei dipendenti e allertare i manager se i lavoratori mostravano segni di malattia coronavirus (COVID-19). Altre fotocamere incluse nella spedizione sono state distribuite a IBM e Chrysler, tra gli altri acquirenti.

Dahua è stata solo una delle numerose aziende cinesi che hanno capitalizzato la pandemia. Quando il COVID-19 si è espanso oltre i confini della Cina, all'inizio del 2020, un gruppo di società di ricerca medica di proprietà del Beijing Genomics Institute, o BGI, si è espanso radicalmente, ha istituito 58 nuovi laboratori in 18 paesi e ha venduto 35 milioni di test COVID-19 a più di 180 stati. 

Nel marzo 2020, aziende come Russell Stover Chocolates e US Engineering (la società appaltatrice meccanica statunitense) hanno acquistato test per un valore di $ 1,2 milioni (1,03 milioni di euro) e hanno installato il laboratorio BGI presso i centri dell'Università del Kansas Medical System.

Mentre Dahua vendeva le sue apparecchiature ad aziende come Amazon, Megvii, uno dei suoi principali rivali, installava i suoi sistemi di controllo della temperatura in ospedali, supermercati, campus in Cina e negli aeroporti della Corea del Sud e degli Emirati Arabi Uniti.

Ma mentre la velocità e l'intento di dare una risposta ai problemi causati dalla pandemia sono stati ammirevoli nel proteggere i lavoratori in assenza di un'efficace azione governativa, si è persa di vista la questione delle libertà individuali e dei problemi etici che tali rimedi portano con se. Le aziende cinesi sono oggi coinvolte in varie forme di gravi violazioni dei diritti umani per le quali oggi sono perseguite, ma anche i governi e le aziende occidentali agiscono sul filo del rasoio.

Dahua è uno dei principali fornitori di sistemi di "campo intelligente" che Vera Zhou ha sperimentato nello Xinjiang. La società afferma che le sue strutture sono supportate da tecnologie come "sistemi di visione artificiale, analisi dei big data e cloud computing". 

L'acquisto da parte di Amazon delle telecamere termiche di Dahua ricorda un precedente nell'espansione del capitalismo globale che è stato evidenziato dalla frase memorabile dello storico Jason Moore:

Dietro Manchester [Regno Unito] c'è il Mississippi [Stati Uniti].

Cosa voleva dire Moore? 

Rileggendo l'analisi di Friedrich Engels sull'industria tessile che rese Manchester così redditizia, vide che molti aspetti della rivoluzione industriale britannica non sarebbero stati possibili senza il cotone a basso costo prodotto dal lavoro degli schiavi in ​​America. 

Allo stesso modo, la capacità di Seattle, Kansas City (USA) e Seoul (Corea del Sud) di rispondere così rapidamente alla pandemia si basa, in parte, su come i sistemi di oppressione nel nord-ovest della Cina hanno aperto uno spazio per addestrare algoritmi di sorveglianza biometrica.

La protezione dei lavoratori durante la pandemia spinge a dimenticare il problema dei diritti umani e i casi come quello di Vera Zhou. Ciò significa ignorare la disumanizzazione, per esempio, delle migliaia di lavoratori privati ​​della loro libertà. 

Allo stesso tempo, Seattle è anche davanti allo Xinjiang!

Amazon ha il suo ruolo attivo nella sorveglianza non intenzionale che danneggia in modo sproporzionato le minoranze etnico-razziali, data la sua partnership con l'Immigration and Customs Enforcement degli Stati Uniti per identificare gli immigrati privi di documenti, e i suoi sforzi di lobbistici per sostenere una debole regolamentazione sulla sorveglianza biometrica.

Più direttamente, Microsoft Research Asia, la cosiddetta "culla dell'intelligenza artificiale cinese", ha svolto un ruolo fondamentale nella crescita e nello sviluppo di Dahua e Megvii.

I finanziamenti statali cinesi, il discorso sul terrorismo globale e l'addestramento dell'industria americana sono tre dei motivi principali per cui una flotta di aziende cinesi è attualmente leader mondiale nel riconoscimento facciale e vocale. 

Questo processo è stato accelerato da una guerra al terrore che si è concentrata sul collocare gli uiguri, i kazaki e gli hui all'interno di un complesso confinamento digitale e fisico, ma oggi si estende all'intero settore tecnologico cinese, dove i sistemi infrastrutturali di utilizzo intensivo dei dati generano contenitori digitali flessibili attraverso tutto il paese, anche se non sulla stessa scala dello Xinjiang.

La vasta e rapida risposta della Cina alla pandemia ha ulteriormente accelerato questo processo implementando rapidamente questi sistemi, chiarendo che funzionano, e in un certo senso legittimandoli, poiché estendono ampiamente il potere dello stato e sono in grado di alterare efficacemente il comportamento umano.

Percorsi alternativi

Tuttavia, l'approccio della Cina alla pandemia non è l'unico in grado di fermarla. Anche Stati democratici come la Nuova Zelanda e il Canada sono stati efficaci, fornendo test, mascherine e assistenza finanziaria a chi era costretto a rimanere a casa. Questi paesi evidenziano come la sorveglianza involontaria non sia l'unico modo per proteggere il benessere della maggioranza delle persone.

Inoltre, numerosi studi hanno dimostrato che i sistemi di sorveglianza supportano il razzismo sistemico e la disumanizzazione bloccando le popolazioni bersaglio. 

L'uso passato e attuale della Entity List da parte delle amministrazioni statunitensi per vietare le vendite a società come Dahua e Megvii, sebbene importante, produce anche doppi standard, punendo le società cinesi per aver automatizzato la razzializzazione e finanziando le società americane per fare qualcosa di simile.

Un numero crescente di aziende statunitensi sta cercando di sviluppare i propri algoritmi per rilevare i fenotipi razziali, sebbene attraverso un approccio più rivolto al consumismo e basato sul consenso.

La polizia negli Stati Uniti e in Cina considera le tecnologie di screening automatizzato come strumenti validi per rilevare potenziali criminali o terroristi. Gli algoritmi fanno sembrare normale che questi sistemi rilevino in modo sproporzionato uomini di colore o uiguri e nello stesso tempo, grazie agli utilizzi  che li giustificano, impediscono di riconoscere che la sorveglianza riguarda sempre il controllo e la disciplina delle persone che non si adattano alla visione di chi è al potere. 

Tutti, non solo la Cina, hanno un problema di sorveglianza.

Per contrastare la crescente banalizzazione di grandi problemi, come la routine quotidiana della razzializzazione automatizzata, è innanzitutto necessario mostrare i danni della sorveglianza biometrica in tutto il mondo. 

Deve anche essere chiaro il ruolo di ingegneri, investitori e società di pubbliche relazioni di livello mondiale nella mancanza di riflessione sull'esperienza umana, nella progettazione per la rieducazione umana. Le reti di interconnessione - il modo in cui lo Xinjiang è dietro e davanti a Seattle - devono essere ripensate.

* Questo post è un estratto modificato da "In the Camps: China High-Tech Penal Colony" di Darren Byler (Columbia Global Reports, 2021.). Darren Byler è professore di studi internazionali alla Simon Fraser University (Canada), specializzato in tecnologia e politica della vita urbana in Cina.

---

Letture correlate:​

• IL RISCHIO DI UN NUOVO ORDINE MONDIALE CONTROLLATO DALL'INTELLIGENZA ARTIFICIALE​
• L'INTELLIGENZA ARTIFICIALE E LA SUA RELAZIONE CON I SOCIAL NETWORK
• LA LETTERINA DI NATALE LA SCRIVERÀ UN ROBOT 

Crea uno spazio di lavoro più moderno e sicuro!

Per ulteriori informazioni sui nostri servizi contattaci ora 0422 431640 oppure scrivici:

SCRIVICI ORA!