De United Nations Foundation trekt in een nieuw rapport de bel in over de gevaren van kunstmatige intelligentie. De organisatie eist onmiddellijke wereldwijde afspraken om een veilig digitaal ecosysteem (een beschermde online leefomgeving voor consumenten en bedrijven) te garanderen. Het internationale plan staat vol met ethische kaders en streng toezicht om technologische wildgroei tegen te gaan. Deze oproep is begrijpelijk, maar legt tegelijkertijd een enorme paradox bloot. Terwijl wereldleiders in grote vergaderzalen praten over ingewikkelde verdragen, denderen we op de werkvloer van de gemiddelde techorganisatie in exact de tegenovergestelde richting. De technologiesector zit gevangen in een hardnekkige cultuur die geobsedeerd is door kwantiteit boven kwaliteit. Zolang die dynamiek niet verandert, blijft elke internationale resolutie dweilen met de kraan open.
De moderne softwareindustrie (appontwikkelaars en systeembouwers) is verslaafd aan pure snelheid. De introductie van handige hulpmiddelen zoals Copilot en grote taalmodellen (software die zelfstandig teksten en computercode schrijft) heeft deze verslaving alleen maar versterkt. Het schrijven van software is in recordtempo veranderd in een bulkproces. Met één druk op de knop genereren computersystemen tegenwoordig gemakkelijk 500 regels standaardcode. Tegelijkertijd overspoelen met kunstmatige intelligentie gemaakte cv’s de vacaturesites. Deze documenten zijn specifiek ontworpen om door de automatische filters van recruitmentsystemen (de software die sollicitanten selecteert) heen te glippen. In maar liefst 70% van de gevallen kijken menselijke recruiters daardoor naar teksten die volledig automatisch zijn gegenereerd. We produceren met zijn allen meer dan ooit tevoren, maar het overzicht raakt volledig kwijt.
Het rapport van de Verenigde Naties waarschuwt specifiek voor de onvoorspelbare risico’s van systemen die zonder helder toezicht opereren. De werkelijkheid is dat veel softwareteams momenteel zelf systemen bouwen die ze nauwelijks nog begrijpen. Automatisch gegenereerde code wordt te vaak zonder controle geaccepteerd en direct naar de liveomgeving gestuurd. Dit gebeurt zodra de automatische testunit (een computerprogramma dat controleert of de code werkt) heel even een groen vinkje geeft. We bouwen in een bizar tempo een digitale infrastructuur van fastfoodkwaliteit. Het is snel klaar en goedkoop in de productie, maar het blijft op de lange termijn fundamenteel onveilig. Uit onderzoek blijkt dat al 45% van de nieuwe softwarefouten direct te herleiden is naar slecht gecontroleerde computerhulpmiddelen.
Echte controle begint niet aan een dure vergadertafel in Genève, maar bij de dagelijkse keuzes in de architectuur van software. We moeten de omslag maken van het blind genereren van data naar het kritisch filteren van informatie. De werkelijke uitdaging van dit decennium is het opruimen van de digitale ruis die we zelf veroorzaken. Het klakkeloos spugen van duizenden regels computercode is geen prestatie meer. Dat kan een simpel script ook. De echte kunst zit nu in het bouwen van minimalistische en robuuste architectuur. We hebben behoefte aan systemen die wiskundig te verifiëren zijn, waarin sterke typesystemen (programmeertalen die fouten uitsluiten voordat de software draait) problemen voorkomen en waarin elke regel code het resultaat is van een bewuste menselijke keuze.
Op de arbeidsmarkt zien we hetzelfde probleem. Bedrijven hebben geen behoefte aan nog meer programmeurs die teksten knippen en plakken en daarmee bestaande systemen vervuilen. Er is juist een schreeuwend tekort aan engineers in de puurste zin van het woord. Dit zijn denkers die complexe systemen overzien, de operationele gevolgen begrijpen en de discipline bezitten om kwaliteit boven snelheid te stellen. De markt wordt momenteel geconfronteerd met een stijging van 60% aan juniorontwikkelaars die zonder deze hulpmiddelen geen regelcode meer kunnen schrijven. Dat is een gevaarlijke ontwikkeling voor de stabiliteit van onze banken, zorgsystemen en energienetten.
De oproep van de Verenigde Naties is een moreel statement, maar moraliteit zonder technische discipline is volstrekt tandeloos. Als we willen dat digitale systemen veilig blijven, moeten we breken met de cultuur van snel bewegen en dingen kapotmaken die de techwereld al 20 jaar in haar greep houdt. We hebben een stevige schoonmaak aan de poort nodig. Dat betekent een compromisloze selectie voor zowel de code die we gebruiken als voor de mensen die we aannemen. Kwaliteit en voorspelbaarheid moeten weer de belangrijkste meetpunten worden, in plaats van de volumescores op een dashboard van het management. Beleid vanuit de Verenigde Naties biedt een mooie stip op de horizon. De fundering van een veilige wereld wordt echter gelegd door de techneuten en organisaties die vandaag weigeren mee te gaan in de waan van de massa. Geen enkel internationaal verdrag helpt ons als we de controle over onze eigen systemen al lang zijn kwijtgeraakt.