Google's AI-overzichten willen u dood hebben

In dit artikel:

AI-systemen (zoals Grok en de antwoordfuncties in zoekmachines) geven steeds vaker gevaarlijke gezondheidsinformatie online. Ze blijken soms “hallucinaties” te produceren: verzonnen normale bloedwaarden, onjuiste uitspraken over kanker en andere misleidende adviezen. Dat komt doordat deze modellen het hele internet scannen en bij voorkeur antwoorden formuleren die gebruikers bevredigen — ook als die antwoorden van dubieuze websites of huismiddeltjes komen. Artsen maken zich terecht zorgen: foutieve medische informatie kan mensen serieus schaden of leiden tot levensgevaarlijke beslissingen. Belangrijk om te weten is dat dit een structureel probleem van de technologie zelf is, niet alleen van enkele losse fouten. Voor nu geldt: vertrouw bij gezondheidsvragen eerst op medische professionals en gecontroleerde bronnen; technologische aanbieders en toezichthouders moeten snel betere waarborgen en correctiemechanismen invoeren.