Moderne onzinwetenschap ziet er aan de buitenkant heel professioneel uit

In dit artikel:

Op de World Conference on Research Integrity in Vancouver, begin mei, stond de wetenschappelijke wereld stil bij een snel groeiend probleem: AI maakt het steeds makkelijker om onderzoek te vervalsen, op te blazen of automatisch te produceren. Volgens de auteur domineerde vooral het gevoel van een nieuwe “wapenwedloop”, omdat fraudeurs en controleurs elkaar met steeds slimmere technologie proberen af te troeven.

Een opvallend teken aan de wand was dat zelfs de aanvragen om op de conferentie te spreken vermoedelijk deels door AI waren geschreven, soms met verzonnen affiliaties, en vaak inclusief verzoek om reisbeurs. Dat illustreert hoe professionele ogende maar inhoudsloze tekst inmiddels moeilijk te onderscheiden is van echt werk.

De tekst schetst hoe klassieke signalen van onzin verdwenen zijn: vroeger verraadden slechte spelling en bombastische claims dubieuze manuscripten meteen, maar moderne AI-gegenereerde stukken zien er verzorgd uit. Een studie in The Lancet toonde bovendien aan dat in biomedische publicaties het aantal verzonnen literatuurverwijzingen sterk is toegenomen: van 4 naar 57 per tienduizend in drie jaar. Soms bleken zelfs grote delen van een bronnenlijst fictief.

Naast directe fraude is er volgens het artikel een groter structureel probleem: de massaproductie van artikelen die technisch kloppen, maar weinig toevoegen. AI kan op basis van openbare datasets in korte tijd complete papers genereren, bijvoorbeeld in genetisch onderzoek. Daardoor groeit de stroom publicaties sneller dan redacteuren en beoordelaars kunnen bijhouden. Paper mills, bedrijven die auteurschap verkopen onder hoge publicatiedruk, hebben hun productie eveneens geautomatiseerd.

Het ironische dieptepunt is dat sommige tijdschriften inmiddels AI inzetten om AI-gedreven overproductie te beoordelen, terwijl auteurs in preprints verborgen instructies voor de beoordelingsmachine verstoppen om alleen positieve feedback te krijgen. Als reactie nemen platforms zoals arXiv maatregelen tegen verzonnen bronnen en wordt gewerkt aan afspraken over het eerlijk melden van AI-gebruik.

De kern van het betoog is echter dat het probleem dieper ligt dan technologie alleen. Zolang onderzoekers vooral worden afgerekend op aantallen artikelen en citaties, blijven prikkels bestaan die opgeblazen of automatische output belonen. AI versnelt dat alleen. De auteur concludeert dat de wetenschap haar meetlat opnieuw moet bekijken als ze deze nieuwe informatievloed wil overleven.