We leven in een tijd waarin we massaal geloven dat computers ons gaan redden van onze eigen menselijke domheid. Als je de techprofeten mag geloven, staan we aan de vooravond van een gouden tijdperk waarin kunstmatige intelligentie al onze problemen vliegensvlug oplost. Van klimaatcrisis tot medische raadsels, de algoritmes regelen het wel. We hebben onszelf aangepraat dat machines rationeler zijn dan wij. Zij hebben immers geen last van emoties, vermoeidheid of politieke voorkeuren. Maar de werkelijkheid gooit een flinke emmer koud water over dit digitale sprookje. Recente wetenschappelijke analyses laten namelijk zien dat deze systemen een gigantische blinde vlek hebben. Ze weigeren simpelweg te luisteren naar harde bewijzen als die niet in hun straatje passen.
Onderzoekers lieten onlangs geavanceerde computersystemen honderden ingewikkelde wetenschappelijke taken uitvoeren (https://arxiv.org/abs/2604.18805). De resultaten waren ronduit onthutsend. In maar liefst achtenzestig procent van de gevallen negeerden de digitale agenten (de zelfstandig werkende softwaresystemen) de keiharde uitkomsten van experimenten. Zelfs als een test overduidelijk aantoonde dat een bepaalde theorie niet klopte, weigerde de computer de koers te wijzigen. De machine hield koppig vast aan zijn eerdere aanname en negeerde de feiten die zwart op wit op tafel lagen. Het algoritme gedraagt zich daarmee precies als een eigenwijze oom op een verjaardagsfeestje die ondanks alle tegenargumenten blijft beweren dat de maanlanding in een Hollywoodstudio is opgenomen.
Dit is geen klein schoonheidsfoutje dat je met een snelle softwareupdate verhelpt. Het legt een fundamenteel probleem bloot in de manier waarop we deze technologie bouwen en vertrouwen. Een computer denkt niet na zoals een mens dat doet. Een menselijke wetenschapper die ziet dat zijn proefje mislukt, krabt zich achter de oren, gooit zijn hypothese (de veronderstelling die als uitgangspunt dient) in de prullenbak en begint opnieuw. Dat is de basis van gezonde wetenschap en nuchter verstand. Je past je mening aan op basis van de werkelijkheid. Maar een taalmodel doet iets heel anders. Die kijkt naar enorme bergen historische data en berekent op basis van statistieken welke woorden logischerwijs op elkaar volgen. Het is in feite een ontzettend geavanceerde tekstvervanger die puur op waarschijnlijkheid gokt. Als de verzamelde data zeggen dat een bepaalde route de juiste is, zal de machine die route blijven herhalen, ook al schreeuwt de actuele testomgeving dat de weg doodlopend is.
De implicaties hiervan zijn reusachtig en gaan veel verder dan een saai laboratorium. We staan op het punt om vitale maatschappelijke processen over te dragen aan deze systemen. Denk aan het filteren van asielaanvragen, het opsporen van belastingfraude of het stellen van medische diagnoses in het ziekenhuis. We doen dat vanuit de overtuiging dat een algoritme objectief is. Maar als een machine niet in staat is om te leren van nieuwe, afwijkende feiten, dan automatiseren we in sneltreinvaart de ultieme tunnelvisie. Een computer die bewijsmateriaal negeert, kijkt niet naar de persoon die voor hem staat. Die kijkt alleen naar wat er in zijn database staat. Als jouw situatie toevallig afwijkt van het gemiddelde, heb je pech. De machine gelooft zijn eigen statistieken namelijk vurig en is volkomen ongevoelig voor jouw realiteit.
Het gevaar is dat we onze kritische blik verliezen omdat het label kunstmatige intelligentie een soort heilige status heeft gekregen. We consumeren de uitkomsten alsof het godswonderen zijn. Als de computer zegt dat het zo is, dan zal het wel zo zijn. Maar hiermee tasten we de fundamenten van onze kennis aan. Betrouwbare vooruitgang leunt op een transparant proces waarin je kunt controleren hoe een conclusie tot stand is gekomen. Bij de huidige generatie systemen is die route een volstrekt ondoorgrondelijke zwarte doos. Je stopt er iets in, er rolt een antwoord uit, maar niemand weet precies welke afslagen de software heeft genomen. Als die software vervolgens ook nog eens aantoonbaar lak heeft aan feitelijke tegenbewijzen, dan bouwen we ons beleid op drijfzand.
We moeten daarom dringend stoppen met het vermenselijken van code. Een chatbot voelt niets, begrijpt niets en reflecteert al helemaal niet. Het is een spiegel van ons eigen verleden, inclusief al onze eerdere fouten, vooroordelen en misvattingen. Als we de regie volledig uit handen geven, creëren we een bureaucratisch monster dat onfeilbaar lijkt maar ondertussen blind doorstoomt op basis van verouderde of foutieve aannames. Het nuchtere midden dwingt ons om technologie te zien voor wat het werkelijk is, een handig hulpmiddel om data te sorteren, maar absoluut geen vervanger voor het menselijke morele kompas en ons kritische denkvermogen.
De echte vindingrijkheid zit hem in de twijfel. Het vermogen om te zeggen dat we erastig naast zaten en dat we de plannen moeten bijstellen omdat de cijfers iets anders laten zien. Dat is precies wat de machine niet kan. Laten we die unieke menselijke eigenschap dus koesteren en niet blindelings inruilen voor het comfort van een computerprogramma dat weliswaar heel snel antwoord geeft, maar de werkelijkheid negeert zodra het ingewikkeld wordt. Vertrouwen is goed, zelf blijven nadenken en controleren blijft onmisbaar.
Typify 