Privacy vóór prompting: 5 harde waarheden over AI-privacy

In dit artikel:

Juridische, medische en compliance-teams gebruiken steeds vaker openbare AI-tools om documenten sneller te analyseren, maar daarmee kunnen zij vertrouwelijke gegevens blootstellen aan externe bedrijven. Die gegevens kunnen terechtkomen in promptlogs, vectordatabases, foutmeldingen of systemen van onderaannemers, ook wanneer een model ze niet voor training gebruikt.

Een federale rechtbank in New York oordeelde in United States v. Heppner dat gesprekken tussen een cliënt en Claude niet automatisch onder het verschoningsrecht vielen. Doorslaggevend waren onder meer de voorwaarden van de AI-dienst, die gegevensbewaring, modeltraining en delen met derden toestonden. In Trinidad v. OpenAI werd bovendien geoordeeld dat het delen van bedrijfsinformatie met een openbaar AI-platform de bescherming als bedrijfsgeheim kan beëindigen. Het gebruik van AI leidt dus niet per definitie tot verlies van juridische bescherming, maar de gekozen dienst en haar voorwaarden zijn wel bepalend.

De risico’s zijn extra groot in de zorg. Gegevens zoals geboortedatums, recepten, onderzoeksresultaten en zorgnotities vallen onder strenge regels zoals HIPAA en de AVG. Zelfs ogenschijnlijk anonieme datasets kunnen volgens het artikel opnieuw tot personen worden herleid wanneer meerdere kenmerken worden gecombineerd.

De voorgestelde aanpak is daarom ‘privacy vóór prompting’: gevoelige informatie wordt lokaal gemaskeerd voordat een document naar een extern model gaat. IamVERA’s Vera X-Ray vervangt bijvoorbeeld namen, adressen en exacte geboortedata op het eigen apparaat door synthetische waarden, terwijl relevante context – zoals een leeftijdscategorie, regio of juridische drempel – behouden blijft. Alleen de gemaskeerde tekst en de vraag worden naar het AI-model gestuurd; het originele document, de persoonsgegevens en de sleutelkluis blijven lokaal.

De kernboodschap is dat organisaties eerst de volledige gegevensstroom en bewaarketen van een AI-leverancier moeten beoordelen. Lokale pseudonimisering kan helpen om de efficiëntiewinst van AI te benutten zonder vertrouwelijkheid en naleving van privacyregels onnodig op het spel te zetten.