CTIVD: beheersing AI bij diensten loopt achter bij ontwikkeling

In dit artikel:

De AIVD en MIVD hebben volgens toezichthouder CTIVD onvoldoende zicht op de ontwikkeling en het gebruik van kunstmatige intelligentie binnen hun organisaties. De diensten zetten AI onder meer in om grote hoeveelheden data te sorteren en analyseren en om samenvattingen te maken. Ze ontwikkelen systemen zelf of passen aangekochte toepassingen aan voor hun eigen werk.

De technologie ontwikkelt zich sneller dan de regels en waarborgen die het gebruik moeten sturen. Daardoor verschillen de voorschriften per afdeling, weten medewerkers niet altijd welke systemen AI gebruiken en zijn sommige regels onduidelijk. Veel verantwoordelijkheid komt hierdoor terecht bij gespecialiseerde beheerders. De CTIVD noemt die afhankelijkheid een kwetsbaarheid en pleit voor centraal vastgelegde kaders en werkwijzen. Omdat de diensten AI waarschijnlijk verder willen uitbreiden, waarschuwt de toezichthouder dat hun achterstand in regelgeving en toezicht niet groter mag worden.