Amsterdam verbiedt ChatGPT voor ambtenaren vanwege 'propaganda'-risico

In dit artikel:

De gemeente Amsterdam heeft recentelijk het gebruik van generatieve kunstmatige intelligentie (AI), zoals ChatGPT, door ambtenaren aan banden gelegd. Dit besluit is genomen vanwege de aanzienlijke risico's die deze technologie met zich meebrengt, zoals het verspreiden van onjuiste informatie, haatzaaiende uitingen en schendingen van privacy. Ambtenaren mogen enkel AI-tools gebruiken die voldoen aan de geldende wet- en regelgeving, zo staat in een interne communicatie van de gemeente.

Ondanks het verbod loopt er een pilotproject genaamd ‘ChatAmsterdam’ dat moet onderzoeken hoe AI op een veilige manier binnen de gemeentelijke organisatie kan worden ingezet. De gemeente streeft met haar 'Amsterdamse Visie op AI' naar betrouwbaarheid en mensgerichte toepassingen van technologie.

CDA-fractievoorzitter Rogier Havelaar heeft vragen gesteld over de uitvoerbaarheid van het verbod en de handhaving ervan. Hij bekritiseert het gebrek aan communicatie vanuit de wethouder, Hester van Buren, over deze maatregel en wijst op de risico's van stiekem gebruik van AI door ambtenaren. Eerder heeft de gemeente ook andere apps, zoals TikTok en Telegram, op werktelefoons verboden, wat aantoont dat het onderwerp van digitale hulpmiddelen al een tijd speelt in het beleid van Amsterdam.