Artikel over AI vol neppe AI-verwijzingen Nederlandse hoogleraar INGETROKKEN, Amsterdam UMC weigert inzage in stukken

In dit artikel:

Het artikel "Artificial intelligence to enhance hemodynamic management in the ICU", waarvan professor Alexander Vlaar (Amsterdam UMC) de hoofdauteur is, is door de hoofdredacteur van vakblad Intensive Care Medicine ingetrokken omdat de inhoud niet langer als betrouwbaar wordt gezien. De intrekking volgt op berichten — onder meer door GeenStijl — dat de referentielijst van het stuk veel niet-bestaande bronnen bevatte, vermoedelijk het gevolg van door generatieve AI veroorzaakte 'hallucinaties' bij het omzetten van PubMed‑ID’s naar opgemaakte referenties.

Het Amsterdam UMC stelt dat er een correctie met de juiste verwijzingen was ingediend en dat de onjuistheden zijn ontstaan door een opmaakfout bij gebruik van AI, iets dat volgens de richtlijnen van het tijdschrift was toegestaan. De redacteur en de uitgever meldden echter dat veel referenties niet verifieerbaar waren; de auteurs leverden timestamped bestanden aan waarmee zij wilden aantonen dat de fout voortkwam uit de AI‑conversie. Desondanks concludeerde de hoofdredacteur dat het peer‑reviewproces niet correct was doorlopen en trok hij het volledige artikel terug.

GeenStijl vroeg het UMC om publicatie van die aangeleverde bestanden om de verklaring te toetsen, maar een woordvoerder weigerde die openbaar te maken en beperkte zich tot de eerder gegeven reactie. De auteurs zelf zijn het oneens met de intrekking en vinden dat een correctie volstaan had.

De zaak werpt vragen op over transparantie en verantwoordelijkheid bij wetenschappelijke publicaties waarin AI wordt gebruikt: wie is aansprakelijk voor foutieve referenties en hoe kunnen redacties en instituten betrouwbaarheid garanderen als automatische hulpmiddelen fouten introduceren? Het incident toont dat toegestaan gebruik van AI alsnog tot fundamentele problemen in peer review en vertrouwen in de inhoud kan leiden.