In discussies over A.I. wordt regelmatig een keuze tussen algoritmes en mensen gevraagd. Degenen die dan voor mensen kiezen, refereren daarbij vaak aan de black box die aan de uitkomsten van algoritmische besluitvorming ten grondslag liggen.
Dat argument gaat echter aan een belangrijk punt voorbij, namelijk dat menselijke besluitvorming ook uit een black box voortkomt. Bovendien zijn mensen regelmatig bevooroordeeld. Of moe. Of gespannen. Of een combinatie daarvan. We zouden de nadelen van de algoritmes van vandaag de dag moeten vergelijken met die van de mensen die anders de beslissingen zouden nemen.
Ter illustratie kunnen we naar een voorbeeld kijken uit het boek Hello World van Hannah Fry (aanrader!). Het verhaal speelt zich af in London, tijdens de rellen in 2011. In 3 dagen tijd werden meer dan 1.000 mensen gearresteerd. Onder hen waren Nicholas Robinson en Richard Johnson. Nicholas Robinson passeerde de plundering van een supermarkt, besloot zelf ook naar binnen te gaan en nam een pak mineraalwater mee. Johnson reed naar een winkel met computergames, zette een bivakmuts op, ging naar binnen en nam een handvol computergames mee.
Johnson’s diefstal had een hogere waarde en was meer met voorbedachten rade dan die van Robinson. Toch kreeg Robinson een celstraf van 6 maanden, terwijl Johnson de gevangenis niet van binnen heeft gezien. Dit verschil in straffen (uitgedeeld door menselijke rechters) ziet er, gezien de feiten, bizar uit.
Hoe kan dit? Het meest plausibele antwoord in deze casus is de timing. Robinson werd twee weken na de rellen veroordeeld, toen de situatie nog gespannen was en er heel veel aandacht voor het snelrecht was. Johnson werd pas maanden later veroordeeld, toen de herinnering aan de rellen en daarmee de maatschappelijke onrust al ver uitgedoofd was.
Een algoritme zou waarschijnlijk – omdat het de hele maatschappelijke onrust en het (later) ontbreken daarvan niet had ervaren – meer proportionele straffen hebben uitgedeeld. Menselijke rechters kregen het sentiment in de maatschappij natuurlijk wel mee en dit heeft invloed op hun vonnissen. Er is een keur aan studies die aantonen dat rechters niet altijd even consistent zijn als kleine, irrelevante details in casussen worden aangepast.
Zijn algoritmes dan altijd beter dan menselijke experts? Nee, dat is zeker niet het geval. Vaak zitten er onvolkomenheden in modellen, met name in het design of in gebrekkige data die eronder liggen. We zijn nog lang niet op een punt aangekomen waar we menselijke experts (rechters, maar bijvoorbeeld ook medisch specialisten) terzijde kunnen schuiven.
De moraal van het verhaal is dat algoritmes vitale input aan menselijke besluitvormers kunnen geven. De mensen zijn niet vervangbaar, maar kunnen best wat hulp gebruiken.
Een cliché dat onder het idee van een coöperatie ligt, is dat je in je eentje sneller gaat, maar samen veel verder kunt komen. Dit geldt ook als we moeten kiezen tussen besluitvorming door een mens of door een algoritme. Het gaat sneller als je het algoritme de besluiten alleen laat nemen, maar het wordt beter als mensen en algoritmes samenwerken.
De coöperatie van de 21e eeuw bestaat uit mensen en computers.
Michel van der List 
Geef een reactie