ICT-organisatie SURF: 'Pas op met Microsoft Copilot'

In dit artikel:

SURF, de ICT-coöperatie voor onderwijsinstellingen, waarschuwt voor terughoudend gebruik van Microsoft Copilot, vooral omdat veel scholen Copilot via Microsoft 365 inzetten. SURF ziet de dienst als een potentieel veiligheids- en privacyrisico: hoewel Microsoft aanpassingen heeft doorgevoerd die sommige problemen verkleinen, zijn de risico’s volgens SURF nog niet volledig weggenomen.

Vorig jaar adviseerde SURF nog volledig tegen Copilot (stoplicht rood), inmiddels staat het oordeel op oranje: er zijn verbeteringen, maar onvoldoende om het groene licht te geven. SURF gebruikt Data Protection Impact Assessments (DPIA’s) om te beoordelen hoe software met data omgaat; die beoordelingen vormen de basis voor het nu voorzichtiger positieve oordeel.

Praktische aanbevelingen van SURF zijn onder meer het opstellen van een expliciet AI-gebruiksbeleid met een gedragscode, duidelijke definities van wat onder AI en algoritmes valt, een overzicht van welke tools zijn toegestaan en contactpunten voor vragen. Ook raadt SURF aan voorbeelden te geven van taken waarbij AI wel of niet ingezet mag worden en periodieke AI-audits uit te voeren om datakwaliteit en beveiliging blijvend te toetsen.

Kort gezegd: niet per se een verbod, maar wel strikte regels en controles. Voor onderwijsinstellingen betekent dat: goed documenteren welke AI-toepassingen ze gebruiken, waar gegevens naartoe gaan en regelmatig toetsen of die toepassingen voldoen aan privacy- en veiligheidseisen (zoals bij een DPIA en de onderliggende wet- en regelgeving, bijvoorbeeld GDPR).