Verbeteringen in A.I. vragen om steeds meer behoedzaamheid

Artificial Intelligence is hot, dat weet je als lezer van deze blog ook. Maar toch zelden zo veel opwinding gezien als deze week met ChatGPT. Zelfs bij Vandaag Inside kwam het ter sprake, met Ben van den Burg. Die het uiteraard meteen gebruikt had om stoute dingen te doen.

Het vorige week gelanceerde ChatGPT is een zeer welbespraakte tekstgenerator van OpenAI (ook in te zetten als chatbot!) en heeft een ontzettend breed scala aan mogelijkheden. Het kan essays genereren over bijna elk onderwerp, kan lastige vragen beantwoorden, kan zelfs complexe coderingsvragen oplossen.

ChatGPT is – niet geheel verrassend – gebaseerd op het GPT-3 taalmodel. GPT-3 genereert teksten op basis van patronen die het in gigantische hoeveelheden tekst op het internet heeft gevonden. ChatGPT gebruikt een nieuwe variant van GPT-3 (GPT-3.5), waarmee veel meer verschillende vragen kunnen worden beantwoord. Waarbij een interface is gebouwd die bijna iedereen kan begrijpen en gebruiken. En een goede interface op een nieuwe technologie is een recept voor HYPE!!

Er zijn wel wat minpunten. Omdat modellen zoals ChatGPT menselijk taalgebruik proberen na te doen (en niet echt leren hoe de wereld werkt, maar dus alleen maar nadoen wat ze online van ons lezen), zijn deze modellen geneigd om zaken te verzinnen en om schadelijke statements en biases te herhalen. De eerste gebruikers van het systeem hebben het al voor elkaar gekregen om ChatGPT overtuigend overkomende onzin te laten producten op allerlei willekeurige onderwerpen.

Dat kan schadelijk zijn. Sinds de creatie van de allereerste chatbot in 1966 is altijd opgevallen dat zelfs hele rudimentaire communicatieve skills ervoor zorgden dat mensen de chatbot gingen antropomorfiseren (is dat een woord? Ik bedoel ermee dat mensen de chatbot meer als menselijk gingen zien en behandelen).

Maar hoe beter A.I. leert converseren, hoe beter het gebruikt kan worden om mensen te misleiden. En dat kwade genii (ja dat is het meervoud van genius, ik heb het gegoogeld!) alle mogelijke tools gebruiken om mensen geld afhandig te maken of op een andere manier te duperen, dat weten we sinds mensenheugenis. Verbetering van A.I. vraagt van mensen dus om steeds meer op hun hoede te zijn. Waarschuw uw senioren!

Advertentie

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

%d bloggers liken dit: