Is het antwoord dat deze chatbot geeft echt juist? Is de inhoud die ik op mijn social media tijdlijn langs zie komen door mensen of door A.I. gegenereerd? Is de gedetailleerde foto van de maan die ik met mijn telefoon heb genomen echt mijn verdienste of is ie een beetje voorzien van extra details door de software?
En in het verlengde van die laatste vraag: waarom sta jij ineens niet meer op de foto met de familie van je ex waar je eerst wel op stond?
Omdat je waarschijnlijk het antwoord op de laatste vraag nu het leukst vindt om te weten: Google Pixel heeft de Magic Eraser functie waarmee mensen van foto’s kunnen worden gegumd en de software met behulp van machine learning de achtergrond keurig inkleurt. Dus zeker als de familie van je ex je aan de buitenkant van de familiefoto heeft gezet (ik word daar ook altijd opgesteld!) krijg je een natuurlijk uitziende foto waar je niet meer op staat.
A.I. kan steeds meer voor ons invullen, zowel tekstueel als visueel. Ook ons wereldbeeld van wat wel en niet waar is wordt voor ons door algoritmes ingevuld. De buzz rondom ChatGPT is vrijwel niemand ontgaan, maar de keerzijde dat niet alles wat ChatGPT genereert waar is, is daarbij wat onderbelicht.
Klein voorbeeldje. Zoals je wellicht weet, werk ik in het dagelijks leven bij de grootste (en in mijn beleving beste!) verzekeraar van Nederland. Maar als ik aan ChatGPT vraag wat de beste verzekeraar van Nederland is, genereert deze een lijstje van 10 verzekeraars waar ‘wij’ niet bij staan. En wel het niet-bestaande ‘Rabobank Verzekeringen’. Daar zitten dus onvolkomenheden in de output.
A.I. genereert van alles voor ons, vaak (maar niet altijd) op ons verzoek. Het is aan ons om voorzichtig te zijn met het vertrouwen dat we stellen in door A.I. gegenereerde content of antwoorden. Omdat de content in essentie nep kan zijn of omdat de antwoorden in veel gevallen simpelweg niet kloppen.
Let wel: ‘nep’ of ‘niet kloppend’ betekent niet dat het perse niet bruikbaar is. Maar het vraagt er wel om dat we met een kritische blik naar de waarde van de output kijken. Juist het ontbreken van die kritische blik bij het interpreteren van informatie lijkt bij te dragen aan allerlei tegenstellingen in onze maatschappij.
Een kritische blik op tegenstrijdige informatie vraagt om een open blik op die informatie. En erover met elkaar in gesprek gaan. Op social media platforms zijn velen dat al helemaal vergeten. En A.I. gegenereerde content maakt het door haar ogenschijnlijke objectiviteit nog gemakkelijker om van foute informatie uit te gaan.
We moeten – ieder voor zich – grenzen stellen aan wat we A.I. aan ons laten oplepelen. Maar laten we met die opgeleverde informatie toch vooral met elkaar in gesprek blijven, mensen. Als mensen!
Michel van der List 
Geef een reactie