We lezen al jaren over de surveillancestaat die de Chinese overheid creëert met behulp van A.I. toepassingen. The New York Times publiceerde op 21 juni het resultaat van een intensief onderzoek naar de omvang van deze Chinese initiatieven, gebaseerd op duizenden aanbestedingsdocumenten van de Chinese overheid, waarin zij marktpartijen om hulp vraagt bij verschillende onderdelen van deze surveillance.
Het doel van de Chinese overheid is duidelijk: het vormen van een systeem dat zo veel mogelijk informatie geeft over individuele personen. Het gaat daarbij om de identiteit, activiteiten en sociale contacten. Met als ultieme doel om het autoritaire regime in het zadel te houden.
Neem documenten waarin de politie vraagt om gezichtsherkenningssoftware. Hierin wordt expliciet gevraagd om systemen die kunnen helpen bij “het controleren en managen van mensen”. Systemen die kunnen zien wat voor geslacht en ras iemand heeft en deze gegevens gemakkelijk op kunnen slaan op servers van de overheid.
Je zou bij de gezichtsherkenningssoftware nog kunnen denken dat het niet zo erg is, omdat het alleen in publiek toegankelijke ruimtes gebeurt. Maar via de telefoon die mensen overal mee naar toe nemen houdt de overheid ook bij waar je je bevindt, of je nu in een publieke ruimte bent of gewoon thuis of in – bijvoorbeeld – een moskee. Daarnaast vroeg de politie in een aanbesteding expliciet om phone trackers die konden vaststellen of de eigenaar van de telefoon een vertalingsapp had die Oeigoers naar Chinees kan vertalen. Die informatie wordt als indicatie gebruikt dat iemand tot de Oeigoeren behoort; een onderdrukte etnische minderheid in China.
En het gaat nog verder. In een ander aanbestedingsdocument wordt door de politie gevraagd om gezichtsherkenningscamera’s die ook geluid kunnen vastleggen tot 100 meter om de camera heen. Software zou deze ‘voice prints’ (je kunt mensen herkennen aan hun stem) analyseren en vastleggen in een database om in combinatie met gezichtsherkenning nog betrouwbaarder individuele personen te kunnen identificeren. Ook irisscans en DNA worden op grote schaal vastgelegd.
De Chinese overheid geeft in haar aanbestedingsdocumenten aan dat zij uit al deze verschillende initiatieven heel veel data van burgers heeft vastgelegd, maar deze verschillende bronnen niet gemakkelijk aan elkaar kan koppelen. Juist daar is zij nu in aan het investeren. Er worden persoonlijke dossiers opgebouwd, die alle autoriteiten voor iedere burger kunnen oproepen.
Wat iemand doet met de mogelijkheden die er zijn is wat bepaalt of een techniek positief of negatief uitwerkt. Een bekend cliché is dat een hamer in de handen van een timmerman prachtige toepassingen kan hebben, maar in de handen van een inbreker juist gebruikt kan worden om zich oneigenlijk toegang tot jouw domein te verschaffen. Als het gaat om A.I. is de Chinese overheid moeilijk te vergelijken met een timmerman. En de hamers die zij heeft ontwikkeld, worden op steeds meer plaatsen gebruikt.
Michel van der List 
Geef een reactie