Aya Ibrahim, senior fellow voor economische en nationale veiligheid bij het AI Now Institute, noemde het onlangs gelanceerde agent safety platform van Nvidia een positieve ontwikkeling, maar waarschuwde tegelijk dat er geen universele aanpak bestaat voor alle uitdagingen op het gebied van ai-beveiliging.
In Bloomberg's Balance of Power met presentatoren Joe Mathieu en Kailey Leinz merkte Ibrahim op dat bedrijven steeds nieuwe beschermingsmaatregelen voor ai-systemen introduceren. Ze omschreef het Nvidia-initiatief als een belangrijke stap, maar benadrukte tegelijk de beperkingen ervan bij het aanpakken van het volledige spectrum aan risico's van geavanceerde ai-agents.
Ibrahim, die eerder in de Biden-regering werkte, benadrukte het belang van het toepassen van bestaande regelgeving op ai-technologieën in plaats van uitsluitend te vertrouwen op initiatieven uit de sector. Ze wees op de beperkingen van vrijwillige waarborgen en stelde dat sterkere handhavingsmechanismen nodig zijn om mogelijke schade te beheersen.
Het gesprek ging ook over de bredere geopolitieke belangen. Ibrahim besprak de kosten die gepaard gaan met de toenemende ai-concurrentie tussen de Verenigde Staten en China en benadrukte hoe de race om technologische dominantie van invloed is op veiligheidsvraagstukken en beleidsbeslissingen.