De A.I. Act van de Europese Unie komt er (over een aantal jaren) aan!

Er zijn voorbeelden te over van A.I. / Machine Learning die – eufemistisch gesteld – niet op de juiste manier werkten. Er zijn grappige voorbeelden van verkeerd lopende automatische prijsaanpassingsalgoritmes, suboptimaal werkende aanbevelingsalgoritmes of automatisch gegenereerde jaaroverzichten waarin minder prettige gebeurtenissen langs kunnen komen met een feestelijk muziekje eronder.

Maar ongewenste uitkomsten van modellen zijn niet altijd onschuldig. Er zijn legio voorbeelden van algoritmes die zijn ingezet op een manier die een ingrijpend negatief effect op het leven van mensen hebben gehad. Het meest in het oog springende Nederlandse voorbeeld hiervan is de toeslagenaffaire, waarbij het bouwen van het algoritme minder tijd heeft gekost dan het afhandelen van de onrechtmatige effecten ervan.

De EU ontwikkelt nieuwe wetgeving die negatieve effecten van de inzet van Artificial Intelligence in bedwang moet gaan houden: de A.I. Act. Hiermee wil de EU met één wet de volledige sector gaan reguleren op risicovolle en onacceptabele gebruikstoepassingen van A.I. Risicovolle toepassingen zijn toepassingen die mensen schade kunnen toebrengen. De definitie van onacceptabele toepassingen is nog niet heel duidelijk, maar denk hierbij aan het berekenen van betrouwbaarheidsscores van mensen op basis van beschikbare data.

Er zijn veel in het oog springende onderdelen aan de voorgestelde wet. Zo bevat deze een verbod op (of anders hele strenge restricties aan) het gebruik van gezichtsherkenning in de publieke ruimte. Tevens moeten mensen worden ingelicht als hen een deepfake wordt getoond, als zij in de buurt zijn van biometrische herkenningssystemen (waar gezichtsherkenning een voorbeeld van is) of als zij in de buurt zijn van A.I. die emoties kan herkennen.

En wat mij persoonlijk veel vreugde geeft: de inzet van zogenaamde predictive policing modellen (waarbij je op basis van een algoritme bepaalt waar je bijvoorbeeld je agenten laat surveilleren, ook de Nederlandse Politie maakt hier gebruik van) staat ook op de nominatie om binnen de EU te worden verboden.

Het kan nog jaren duren voordat de wet naar ieders tevredenheid is aangepast, goedgekeurd en ingevoerd. Zo gaan de processen in de EU nu eenmaal; een jarenlange zoektocht naar volledige consensus tussen de lidstaten. Maar mocht u zich wel eens afvragen wat we aan de EU hebben, dan is dit een treffend voorbeeld van het nut. Een overkoepelende wet die ons allemaal beschermt tegen mogelijke negatieve effecten van de inzet van A.I. Was deze wet al effectief geweest, dan was de toeslagenaffaire in haar huidige vorm onmogelijk geweest. Dat lijkt me een goed argument om deze wet toe te juichen!

Advertentie

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

%d bloggers liken dit: