Waarom we chatbots niet moeten gebruiken als zoekmachine

Foto door Pavel Danilyuk op Pexels.com

Google heeft in 2021 een chatbot genaamd LaMDA gepresenteerd, die moet kunnen converseren over elk denkbaar onderwerp. Hoewel deze zich nog in de ontwikkelfase bevindt, is Google wel al aan het kijken of LaMDA ingezet kan worden bij het zoeken naar informatie; de kurk waar Google op drijft. Dat kan natuurlijk best handig zijn; een alwetende robot waar je al je vragen aan kunt stellen.

Maar de complexiteit van de werkelijkheid gaat vaak verder dan een eenvoudig algemeen antwoord op elke vraag. Het antwoord op de vraag wie de houder van het wereldrecord hot dogs eten is, staat vast. Maar op andere onderwerpen kan de werkelijkheid veel genuanceerder zijn.

Daar schuilt een gevaar in. Een toepassing van A.I. zal zelf niet weten wat ze zegt en kan niet nadenken over de mogelijke nadelige gevolgen van haar antwoorden. Zoals toen de Google Assistant miljoenen inwoners van zuidelijk India schoffeerde door hun taal Kannada als lelijkste taal van India te bestempelen.

Gebruikers van zoekmachines plaatsen zelfs nu (in de meer transactionele ‘zoekbalk-enter-resultaten’ situatie) al vaak te veel vertrouwen in de resultaten van een zoekquery. Ook in de vorm van een conversatie via voice kun je directe antwoorden verwachten, terwijl het antwoord op de meeste vragen volgens de schrijvers van een kritisch artikel over directe antwoorden juist heel anders luidt, namelijk: ‘Dat hangt er van af hoe je ernaar kijkt’.

Doordat voice nog natuurlijker aanvoelt dan ‘zoekbalk-enter’, kunnen gebruikers de directe antwoorden nog meer als de waarheid gaan zien dan wanneer een lijst met zoekresultaten wordt voorgeschoteld waar je zelf nog met een stofkammetje doorheen gaat. Hiermee is het niet ondenkbaar dat een ongenuanceerd, direct antwoord op een vraag zich verspreidt. In een uiterst geval kan dit zorgen voor polarisatie van meningen.

Kan een algoritme dienst doen als voice zoekmachine? Ja, op zich wel. Maar een vraag die je je bij elke A.I. toepassing meteen ook moet stellen, kunnen we hier ook stellen: Moet een algoritme dienst doen als voice zoekmachine? En daarop is het antwoord: ‘Dat hangt er van af hoe je ernaar kijkt’.

Advertentie

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

%d bloggers liken dit: