De integratie van AI in de wetenschappelijke uitgeverswereld leidt tot tragere beoordelingen, slechtere artikelen en flink hogere operationele kosten. Dat blijkt uit een analyse in het vakblad Science. Waar de techsector al jaren roept dat slimme software alles sneller, beter en goedkoper maakt, gebeurt in de academische praktijk het exacte tegendeel.
Een onderzoeker stelt met behulp van eenvoudige scripts binnen 10 seconden een achttien pagina’s tellend conceptartikel op. Inclusief een keurige inleiding, een schijnbaar solide methodologie en netjes geformatteerde tabellen. De IT-architectuur achter een groot taalmodel (een algoritme dat zoekt naar de meest waarschijnlijke opeenvolging van woorden) maalt immers niet om feitelijke precisie. Het verifiëren van zo’n gefabriceerde tekst kost een menselijke beoordelaar echter uren. De bronnen moeten handmatig worden gecontroleerd op hallucinaties, de statistiek moet worden doorgerekend en de logica moet worden getoetst.
De technische frictie aan de poort
Automatische AI-detectoren inzetten blijkt een wassen neus. Onderzoek van Stanford University laat zien dat deze hulpmiddelen technisch onbetrouwbaar zijn. Ze slaan regelmatig alarm bij teksten van niet-Engelstalige onderzoekers vanwege hun meer voorspelbare woordkeuze. Ondertussen glipjes slim geredigeerde AI-teksten er zonder problemen doorheen. Omdat het onderscheid tussen echte wetenschap en machinale ruis vervaagt, is er juist méér menselijke controle nodig.
Het probleem wordt versterkt door een oud economisch mechanisme. Wetenschappers worden afgerekend op kwantiteit. Het aantal publicaties bepaalt hun carrière. Deze druk creëerde een markt voor commerciële bureaus die tegen betaling artikelen fabriceerden. Met de komst van generatieve software hebben deze bedrijven hun complete keten geautomatiseerd. Ze draaien nu op softwaremodellen die volautomatisch artikelen produceren en indienen.
Het verdienmodel onder druk
Grote commerciële uitgevers zoals RELX, Springer Nature en Wiley draaiden historisch gezien hoge winstmarges, soms wel tussen 30% en 40%. Hun model leunde op gratis arbeid. Onderzoekers leverden hun werk kosteloos aan en de kwaliteitscontrole werd gratis uitgevoerd door vakgenoten in hun eigen tijd. Nu de instroom van teksten explodeert en de kwaliteit daalt, haken deze onbetaalde controleurs massaal af. Ze weigeren hun tijd te steken in het opschonen van geautomatiseerde concepten.
Om te voorkomen dat ze met de gebakken peren zitten, moeten uitgevers nu investeren in dure interne filterinfrastructuur. De operationele kosten stijgen scherp. Dit drijft de tarieven voor open-access publicaties en universiteitsabonnementen verder op. Onder de streep betaalt de publieke sector de rekening voor deze administratieve opstopping.
Naast de logistieke chaos spelen er juridische risico’s. Wanneer reviewers concepten uploaden in commerciële systemen om snel samenvattingen te maken, schenden zij de geheimhouding. De geüploade data kan immers worden gebruikt voor het trainen van nieuwe modellen. Bij medische studies met pseudonieme gegevens vormt dit een directe overtreding van de Europese privacywetgeving (de AVG/GDPR, oftewel de regels voor het verwerken van persoonsgegevens). Met de geleidelijke inwerkingtreding van de Europese AI Act (de nieuwe regelgeving rondom kunstmatige intelligentie) ontstaat er bovendien onduidelijkheid over aansprakelijkheid als een gehallucineerd artikel tot schadelijke toepassingen leidt.
Het grootste risico is het ontstaan van synthetische vervuiling, met een mooi woord model collapse. Als toekomstige AI-systemen worden getraind op data van het internet, en dat internet overspoeld raakt met automatisch gegenereerde artikelen, beginnen die modellen te degenereren. Wanneer academische databanken vervuild raken, bouwen toekomstige onderzoekers voort op een verweekte ondergrond.
Kwaliteitsbewaking laat zich simpelweg niet schalen als een software-startup. Generatieve software kan nuttig zijn als assistent voor vormfouten of spelling, maar het kan de menselijke blik niet vervangen. Is de huidige technologie-hausse wellicht de stresstest die het academische systeem dwingt om af te stappen van de focus op kwantiteit?
Bronnen
science.org