In de afgelopen 10 tot 15 jaar zijn de Big Tech bedrijven in een heleboel dingen heel snel heel veel beter geworden. Voorspellen en personaliseren doen we al een hele tijd, maar het genereren van beelden en vooral teksten is zo hard gegaan dat zelfs oma die foto van de paus in z’n wollige witte jas heeft gezien en weet wat ChatGPT is.
Met de grote vooruitgang zo helder voor ons, is het des te verbazingwekkender hoe slecht deze bedrijven nog steeds zijn in het opsporen, labelen en verwijderen van schadelijke content. Je kent de voorbeelden van de afgelopen jaren wel, vol samenzweringstheorieën over de Amerikaanse verkiezingen, 5G masten en coronavaccins. De echte wereld heeft te lijden onder online wanorde.
Hoe kan dat nou? Dat bedrijven zulke geweldige A.I. ontwikkelen, maar dat moderatie van content geen gelijke tred heeft gehouden met deze snelle vooruitgang? Het antwoord is – zoals zo vaak als we ons afvragen waarom bedrijven niet doen wat we zouden willen dat ze doen – dat het niet in het financiële belang van de techbedrijven is om hierin te investeren. Ze kiezen ervoor om het geld anders te besteden.
En het probleem van misinformatie kan nog veel groter worden, juist door die in essentie geweldige taalmodellen als ChatGPT. Met behulp van generatieve taalmodellen kunnen overtuigend overkomende misinformatiecampagnes op grotere schaal worden uitgeserveerd. Dat is een angstig vooruitzicht met het gebrek aan methoden om A.I.-gegenereerde content te identificeren en labelen.
Big Tech bedrijven zijn bewezen hardleers als het gaat om hun zelfreinigende vermogen. Juist daarom is het goed dat de nieuwe versie van de A.I. Act van de Europese Unie bedrijven die generatieve A.I. gebruiken gaat verplichten om aan te geven als hun content door een generatief model is gemaakt. Hopelijk is dat een begin van meer gerichte wetgeving om het probleem van misinformatie het hoofd te kunnen bieden.
En zo komen we steeds weer op een punt uit waar alleen dwang via wetgeving bedrijven in beweging kan krijgen. Waarin de Big Tech sector overigens niet uniek is; je kunt zelf vast een bedrijfstak in Nederland noemen die op dit moment op het punt staat dwangmaatregelen vanuit de overheid opgelegd te gaan krijgen. Hopelijk gooien engineers geen brandende hooibalen op de snelweg.
Het is jammer dat het nodig is, maar een kapitalistische inrichting van onze maatschappij lokt het uit dat bedrijven de keuze voor de meest lucratieve optie maken. En juist daar hebben we de wetgever voor, om bij te sturen als het mis gaat. En het liefst nog daarvoor, als het mis dreigt te gaan. Op welk van die twee punten we op dit moment zitten, is lastig te zeggen. Wél loopt de EU weer voorop in wetgeving. Dat is goed.
Michel van der List 
Geef een reactie