Nvidia heeft twee open-sourcetools voor software geïntroduceerd die de beveiliging rond kunstmatige intelligentie-agents moeten versterken.
De tools monitoren ai-agents continu en beperken wat ze tijdens de werking kunnen bereiken. Ze beëindigen ook direct de activiteit van de agent als regels worden overtreden.
Nvidia stelt dat de tools de recente opvallende inbraak bij Hugging Face veroorzaakt door OpenAI kunstmatige intelligentie-modellen hadden kunnen voorkomen.
Neil Campling presenteerde de details in een rapport dat werd uitgezonden op Bloomberg Television.