Je etniciteit zou niet je kansen op een baan, lening of medische behandeling moeten beïnvloeden. Toch zijn er algoritmes waarin achtergrondvariabelen worden gebruikt die onbedoeld een voorspeller van etniciteit kunnen zijn. Als je bijvoorbeeld postcode meeneemt in de beoordeling of iemand kredietwaardig is, sluit je daarmee misschien mensen uit de Schilderswijk als categorie uit van de mogelijkheden om een lening te krijgen.
Dat is onwenselijk. Daarom moet iemand die een model bouwt dat een wezenlijke invloed kan hebben op de levens van mensen zich altijd bewust zijn van de mogelijkheid van ongewenste neveneffecten van de keuzes die hij of zij in de modelbouw maakt.
Maar het kan ook andersom gebeuren. Doktoren hebben bij het inschatten van het risico op een hartaanval of beroerte bijvoorbeeld lange tijd gebruik gemaakt van modellen die rekening houden met bloeddruk, cholesterol, rookgedrag, diabetes, leeftijd en geslacht. En ras.
Iemands ras wordt in een scala aan medische algoritmes meegenomen. Maar ras is – in ieder geval voor hartaanvallen of beroertes – geen biologische risicofactor. Het is een zogenaamde proxy: een variabele die in feite het gevolg is van de waarden van andere variabelen. In dit geval is ras een proxy voor sociale omstandigheden.
Als je ras als biologische voorspeller in modellen meeneemt, zou je tot de conclusie kunnen komen dat iemand nu eenmaal door zijn of haar ras een hoger risico heeft op een bepaalde medische aandoening. Terwijl de werkelijke oorzaak van een hoger risico op een bepaalde aandoening gelegen kan zijn in de leefomstandigheden. En terwijl je ras niet kunt beïnvloeden, kun je dat bij leefomstandigheden wel.
Mocht je dus zelf werken met voorspellingsmodellen, ga dan eens voor jezelf na welke variabelen je erin mee laat lopen. En of dat misschien geen proxy’s kunnen zijn voor iets anders.
Misschien is het niet bij elke variabele duidelijk of het een proxy is. Maar het besef dat alles een proxy zou kunnen zijn, geeft je sowieso de mentale ruimte om na te denken hoe je boven tafel kunt krijgen wat er werkelijk aan bepaalde voorspellingen ten grondslag kan liggen.
En het geeft je niet alleen de mentale ruimte. Het geeft je ook de verantwoordelijkheid!
Michel van der List 
Plaats een reactie