Een algoritme dat onschuldige jongeren aan surveillance onderwerpt, willen we dat? (Antwoord moet zijn ‘Neen!’)

Zeg je 1984, dan denkt menigeen meteen aan de beschreven dystopische maatschappij waarin iedereen precies moet doen wat Big Brother wil zien of geconfronteerd wordt met ernstige straffen. Vaak wordt naar dit boek uit 1948 verwezen als het gaat over de alom aanwezige camera’s in China, waarmee mensen continu in de gaten gehouden kunnen worden.

Er is een lijst – de zogenaamde TOP 400 lijst – waarop jongeren staan die volgens een algoritme het hoogste risico lopen om op latere leeftijd in de zware criminaliteit te belanden. Deze jongeren hoeven zelf helemaal niets op hun kerfstok te hebben. Ze hoeven zelf nog nooit met de politie in aanraking te zijn gekomen en kunnen dan tóch op deze lijst terecht komen.

Het is geen pretje om op deze lijst te staan. Je komt onder toezicht van de politie te staan, worden vaker staande gehouden en krijgt zelfs bezoek van politie aan de deur. Terwijl je misschien alleen maar iemand kent die iets verkeerds heeft gedaan en daardoor op de lijst terecht bent gekomen. Of op je 13e een keer een blikje cola hebt gestolen bij de supermarkt.

Onderzoekers stellen dat deze TOP 400 lijst jongeren stigmatiseert en discrimineert. Natuurlijk is het in ieders belang om zware criminaliteit het hoofd te bieden. Maar je wil liever niet zulke brede kaders schetsen voor een lijst met risicojongeren, dat een jongere er zonder enige eigen criminele actie of neiging al op terecht kan komen.

Deze TOP 400 lijst lijkt misschien typisch iets Chinees. Maar het is een lijst van de gemeente Amsterdam met jongeren uit de achterstandswijken van onze hoofdstad. Dat we dit in een grote Nederlandse stad hebben draaien, daar schrik ik in al mijn naïviteit heel erg van. Dit is de inzet van algoritmes op precies die manier waarvan ethici al jaren roepen dat je dat vooral NIET moet doen.

Nederland is een vrij land. Je wil niet dat een jongere die goed zijn best doet op school, nooit crimineel gedrag vertoont, maar wél buiten zijn eigen schuld om een paar vinkjes haalt in een algoritme (ouders gescheiden, vaak van school gewisseld, geboren in de Amsterdamse Diamantbuurt) te maken krijgt met speciale aandacht van de politie. Dat is een vorm van een surveillancemaatschappij waar we China juist zo vaak van betichten.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

%d bloggers liken dit: