Diagnoses door A.I. zijn doorgaans sneller, beter en goedkoper dan die van medisch professionals. Dat wil zeggen: zo lang de doelgroep waarop je de A.I. loslaat lijkt op de groep waar de trainingsdata uit zijn gekomen en de trainingsdata compleet en zonder bias is.
Dat is meteen de kern van een probleem met een deel van deze modellen: ze zijn gelimiteerd in gebruiksmogelijkheden en zitten juist vol bias. Ze werken bijvoorbeeld vaak minder goed bij vrouwen en bij mensen van kleur, doordat ze ontwikkeld zijn op basis van de data van blanke mannen.
De technieken hebben hun weg naar de praktijk niettemin vaak al gevonden. Dit kan volgens experts het probleem van zogenaamd A.I. paternalisme met zich meebrengen.
Paternalisme is het beperken van iemands autonomie, met diens eigen bestwil in gedachte. Maar is er nog sprake van iemands eigen bestwil als de signalen uit A.I. modellen niet zonder fouten zijn, doordat data niet foutloos en zuiver zijn?
Neem data over symptomen en uitgevoerde behandelingen. Als we een behandeling als resultante van een diagnose zien (en niet-behandeling dus als signaal dat de diagnose niet gesteld is), zullen mensen die om religieuze of culturele redenen geen behandeling accepteren als niet-gediagnosticeerd worden gezien. Terwijl ze dat wel zijn. Mensen met dezelfde symptomen uit dezelfde bevolkingsgroepen krijgen daardoor minder vaak de juiste diagnose.
Het is niet exact bekend op hoeveel plaatsen A.I. binnen de zorg al wordt gebruikt. Dat het wordt gebruikt is wel zeker. A.I. wordt op meerdere plaatsen gebruikt voor triage (het beoordelen van de ernst van de klachten van binnenkomende patiënten), diagnosestelling en het opstellen van behandelplannen.
Doktoren vertrouwen vaak op deze systemen. Maar je kunt ook in de huidige tijd ‘gewoon’ pleiten voor menselijk paternalisme. Zoals het vroeger werd gebruikt.
“De dokter weet het het beste.”
Het idee daarbij is dat een medische opleiding een dokter de beste persoon maakt om een besluit te nemen voor de patiënt, ongeacht gevoelens, geloof, cultuur of wat dan ook dat de keuzes die we maken kan beïnvloeden.
We zijn al in een tijdperk gekomen waarin het oordeel van de experts niet meer zonder meer als beste benadering van de waarheid wordt gezien. Neem de adviezen die het RIVM geeft over vaccinatie, zowel voor kinderziektes als ten tijde van Covid-19. We moeten ervoor waken dat er nog minder waarde aan het oordeel van medisch professionals wordt gehecht, doordat zij hun expertise volledig laten vervangen door A.I.
Ook de zorg is een plaats waar de mens moet samenwerken met de A.I. Het algoritme maakt een inschatting, de specialist vergelijkt deze met diens eigen beeld. En de specialist besluit wat het beste is voor de patiënt.
Michel van der List 
Geef een reactie