Darktrace-ceo Ed Jennings ziet autonome ai-agents als een nieuwe categorie insiderdreigingen voor organisaties. Bedrijven geven deze systemen steeds vaker brede toegang tot gevoelige data en kritieke infrastructuur.
Jennings merkt op dat cybersecurityteams moeite hebben om de snelheid van ai-integratie bij te houden. Autonome agents kunnen zelfstandig opereren en hun acties gaan soms verder dan de rollen waarvoor ze oorspronkelijk bedoeld waren.
Om deze uitdagingen aan te pakken, brengt Darktrace nieuwe mogelijkheden uit voor het volgen van shadow ai-implementaties, het verifiëren van agentidentiteiten en het analyseren van gedragspatronen. Het doel is organisaties zicht te geven op deze systemen voordat risico’s zich voordoen.
Jennings benadrukt dat gedragsmonitoring een praktische manier biedt om ai-voordelen te benutten en tegelijkertijd controle te houden. Door te begrijpen hoe agents omgaan met data en systemen, kunnen organisaties afwijkingen vroegtijdig detecteren en effectief reageren.
Hij deelde deze inzichten tijdens een optreden in Bloomberg Tech samen met presentator Ed Ludlow.