Australische overheid lekt gegevens nadat aannemer die in ChatGPT gooide

In dit artikel:

Een afdeling van de Australische staat Nieuw-Zuid-Wales lekte recentelijk de persoonsgegevens van minstens 12.000 mensen door toedoen van een externe aannemer. De betrokkenen hadden zich aangemeld voor een overheidsprogramma dat huiseigenaren beschermt tegen overstromingen; de aannemer uploadde een Excel met namen, adressen, e‑mailadressen, telefoonnummers en gezondheidsinformatie naar de openbare versie van ChatGPT. De overheid ziet dit als een datalek omdat uploads kunnen worden gebruikt om taalmodellen verder te trainen, wat theoretisch maakt dat anderen (al is dat niet eenvoudig) delen van die informatie zouden kunnen achterhalen. Veel organisaties vermijden dit risico door afgesloten, lokale versies van taalmodellen te gebruiken of het gebruik van publieke AI-diensten voor gevoelige data te verbieden. Het incident benadrukt het belang van strikte contractuele regels, beveiligingsbeleid en training wanneer externe partijen met vertrouwelijke informatie werken.