Aanzienlijke toename van wetenschappelijke verwijzingen naar nepbronnen door AI

In dit artikel:

Wetenschappelijke literatuur bevat sinds de opkomst van AI beduidend meer verzonnen bronnen: het aantal academische artikelen met verwijzingen naar publicaties die helemaal niet bestaan is ongeveer vertienvoudigd, en in de biomedische vakgebieden blijkt nu één op de 275 artikelen zulke nepverwijzingen te bevatten. Dit signaleert een groeiend probleem in peer-reviewed publicaties, waar plausibel lijkende maar gefabriceerde referenties door auteurs of door geautomatiseerde schrijftools worden ingevoegd.

Oorzaken liggen vooral bij AI-systemen die informatie hallucineren en bij de bestaande druk om snel te publiceren, gecombineerd met beperkte naleving van controleprocedures voor literatuurlijsten. Voor medische wetenschappen is dat extra zorgelijk: foutieve of niet-bestaande bronnen kunnen de betrouwbaarheid van bewijs ondermijnen en gevolgen hebben voor patiëntenzorg en vervolgonderzoek.

Om de trend te keren pleiten deskundigen en uitgevers voor strengere verificatie van referenties (bijvoorbeeld automatische controle van DOIs en Crossref-records), betere training van onderzoekers in bronverificatie en aanpassingen in peer review-protocollen. Daarnaast zijn transparantie over gebruikte AI-tools en technische oplossingen om hallucinaties te detecteren belangrijke stappen om vertrouwen en reproduceerbaarheid in de wetenschap te herstellen.