AI-dokters en chatbots moeten voortaan duidelijk aangeven: ik ben geen mens

In dit artikel:

Vanaf 2 augustus verplicht de Europese AI-wet bedrijven en organisaties om duidelijk te melden wanneer mensen met kunstmatig gegenereerde inhoud of een AI-systeem te maken hebben. Dat geldt onder meer voor deepfakes, AI-teksten, virtuele klantenservicemedewerkers en digitale medische assistenten. Tijdens een gesprek moet een tekstuele of gesproken melding aangeven dat de gesprekspartner geen mens is. Bij synthetische foto’s en video’s moet bovendien een herkenbaar watermerk worden toegevoegd. De Europese Unie noemt onder meer een opvallende banner als mogelijke vorm van zo’n aanduiding. Aanbieders van AI-diensten, zoals OpenAI, moeten die herkenning in hun systemen verwerken.

De regels zijn vooral bedoeld voor uitingen die het publieke belang raken, zoals medische informatie, overheidscommunicatie en materiaal waarin echte personen worden nagebootst. Een door AI gemaakte aankondiging voor een campingbarbecue of een toeristisch koelkastmagneet valt er voorlopig niet onder. Volgens Sven Stevenson, directeur van de Autoriteit Persoonsgegevens, moeten vooral minder digitaal vaardige mensen kunnen zien wanneer zij niet met een mens communiceren. Ook rond verkiezingen is herkenbaarheid belangrijk: onderzoek van de Universiteit van Amsterdam wees uit dat ongeveer negen op de tien AI-beelden bij de gemeenteraadsverkiezingen eerder dit jaar geen label hadden.

De Europese Commissie wil met de transparantie het vertrouwen in AI vergroten en het gebruik ervan binnen Europa stimuleren. Overtreders kunnen na waarschuwingen een boete tot 15 miljoen euro krijgen. De Autoriteit Persoonsgegevens kan voorlopig nog niet zelfstandig handhaven, omdat een formeel mandaat ontbreekt. De toezichthouder verwacht dat dit volgend jaar wordt geregeld; een rechtszaak tegen overtreders is nu al mogelijk.