Opgepakt door het algoritme: hoe China met orwelliaanse technologie massaal burgers vastzet

De computer weet alles: welke websites je bezoekt, met wie je recentelijk hebt gechat, wie je kent op sociale media, welke pakketjes je hebt ontvangen en welke boeken je leest. Honderden miljoenen intelligente camera’s die gezichten en zelfs emoties herkennen, registreren al je bewegingen op straat. De computer analyseert constant al die data en produceert lange lijsten met namen van ‘verdachte’ personen die vervolgens worden gearresteerd.

Een computerbrein dat mensen met duizenden tegelijk laat opsluiten omdat ze in de toekomst een gevaar zouden kunnen gaan vormen. Het lijkt science fiction, maar het gebeurt in China, zo blijkt uit geheime overheidsdocumenten. Die werden onlangs uit onbekende bron gelekt naar een groep onderzoeksjournalisten die onder meer samenwerkt met The New York Times. De computer heet het Integrated Joint Operations Platform (IJOP), de mensen waarop het systeem wordt losgelaten zijn de inwoners van de westelijke provincie Xinjiang, thuisland van de Oeigoeren.

Deze islamitische minderheid van ruim tien miljoen mensen is het doelwit van overheidsrepressie op een schaal die zijn gelijke in de wereld niet kent. Xinjiang is al jaren het toneel van protesten door Oeigoeren, de oorspronkelijke bewoners van de provincie, die zeggen dat de Chinese regering hun identiteit probeert uit te wissen met etnische zuivering. 

Anti-Chinese rellen 

Beijing heeft miljoenen Chinezen van de etnische Han-meerderheid naar de provincie Xinjiang verhuisd, en legt het gebruik van de Oeigoerse taal, cultuur en religie aan banden. In 2009 stierven honderden mensen bij massale anti-Chinese rellen in hoofdstad Ürümqi, en Oeigoerse extremisten maken zich schuldig aan terrorisme door onder meer bomaanslagen en steekpartijen.

De reactie vanuit Beijing is om alle Oeigoeren te neutraliseren van wie niet volledig kan worden uitgesloten dat ze een potentieel gevaar zijn. Naar schatting een miljoen Oeigoeren zitten zonder proces of aanklacht vast in heropvoedingskampen, waar ze vaak jarenlang onder een uiterst rigide gevangenisregime leven terwijl de bewakers proberen hun Oeigoerse identiteit uit ze te krijgen. 

Vrijgelaten Oeigoeren vertellen dat ze hun religie moesten afzweren, hun taal niet mochten spreken, varkensvlees moesten eten (onrein voor moslims, red.), en trouw moesten zweren aan de Communistische Partij.

De dagen zijn gevuld met ‘lessen’ over de geschiedenis van het communisme, Chinees burgerschap, Mandarijn. Wie uit de pas loopt, wordt mishandeld. Volgens Beijing zijn de kampen goedaardige ‘trainingscentra’. Maar ex-gevangenen vertellen ook over waterboarding, stressposities, slaaponthouding en andere marteltechnieken.

Opsnorren

Nu blijkt dat die gevangenen deels zijn opgesloten omdat de computer dat gelastte. De IJOP-computer krijgt haar informatie van Chinese overheidssystemen, consulaten en ambassades in het buitenland, honderden miljoenen intelligente camera’s, en de veiligheidsdiensten. Onderzoek van Human Rights Watch liet zien dat politiemensen, die overal in Xinjiang checkpoints bemannen, via een IJOP-app data doorsturen van iedereen die ze staande houden: leeftijd, bloedgroep, opleiding, etniciteit, beroep, zelfs de meterstanden – alles wat ze maar opsnorren. Passanten wordt ook gedwongen spionagesoftware op hun eigen telefoons te installeren, zodat de Chinese overheid kan meelezen.

De algoritmes die de beslissingen van IJOP sturen zijn niet bekend. Maar het lijkt te gaan om mensen die in de ogen van Beijing een zorgelijke band hebben met hun religie of etniciteit, of van wie het tegendeel niet kan worden vastgesteld. Er zijn mensen opgepakt die anderen opriepen te bidden, in het buitenland zijn geweest, een baard lieten staan, een bepaalde app op hun telefoon hebben, of opvallend vaak de achterdeur van hun huis gebruikten.

De IJOP is daarmee niet alleen een machine die lijstjes fabriceert, het is een computer die aan het hoofd van de politie-commandostructuur staat en waarvan de beslissingen in de plaats zijn gekomen van een menselijk oordeel in de rechtbank.

24.412 verdachte namen

“Dat vind ik het meest afschuwelijke,” zegt Bethanny Allen-Ebrahimian, die het onderzoek naar de ‘China Cables’ leidde bij het International Consortium of Investigative Journalists. “In de documenten is geen enkele discussie over vragen als ‘Zijn deze mensen ergens aan schuldig? Is het algoritme betrouwbaar? Wat betekent de conclusie ‘verdacht’? Integendeel, in één week in juni spuugde de computer een lijst met 24.412 verdachte namen uit. Daarvan zijn er 15.683 opgepakt. De rest van het rapport gaat alleen over de vraag waarom de rest niet is gelukt, en hoe dat beter kan.’”

Onduidelijk is of uit de machine wekelijks, maandelijks, of op onregelmatige basis namenlijsten rollen. De gelekte inlichtingenrapporten zijn puzzelstukjes, zegt Allen-Ebrahimian: nummers 2, 9, 14 en 20 uit juni 2017. Gevraagd of de mensen niet snel ‘op’ zijn als de autoriteiten elke week 15.000 mensen oppakken, oftewel 780.000 mensen per jaar, is ze even stil. “De inlichtingenrapporten zijn tweeënhalf jaar oud, en de kampen hebben een capaciteit van een tot drie miljoen mensen. Bovendien bouwen ze in hoog tempo kampen bij, nog steeds. Dat suggereert dat ze meer capaciteit nodig hebben.”

Beslissende oog

“Vandaag Xinjiang, morgen Beijing”, zeggen ze in China. Xinjiang geldt als een proeftuin waarin verregaande surveillance wordt getest, doorontwikkeld, en langzaam bij het volk geïntroduceerd. Als er gewenning optreedt, wordt de schaal vergroot. Totdat, zo vrezen critici, heel China onder het alziende, alwetende, en nu ook alles beslissende oog van de supercomputer valt. 

Volgens onderzoeksgroep IPVM, die videosurveillance wereldwijd in kaart brengt, experimenteren twaalf steden buiten Xinjiang al met cameratechnologie die op straat Oeigoeren herkent. Buiten China kijken autocratische regimes met groeiende interesse naar de Chinese surveillancetechnologie. 

“Beijing promoot actief zijn ideologie van ‘voorspellend politiewerk’ in het buitenland, en verkoopt de bijbehorende systemen,” zegt Allen-Ebrahimian. “Pakistan heeft de technologie waaruit de IJOP-computer is ontstaan al in gebruik (net als Kenia, Oezbekistan, en Kirgizië, red.). Die technologie is dus niet alleen een probleem voor Chinezen; het kan ons allemaal gaan raken.”