Jake Loosararian, ceo van Gecko Robotics, stelt dat de volgende fase van ai-veiligheid draait om het behouden van menselijk gezag terwijl autonome systemen de echte wereld betreden.
Loosararian legt uit dat veiligheidskaders mensen stevig aan het roer moeten houden nu ai-agenten fysieke robots gaan besturen. Deze aanpak geldt voor zowel militaire als industriële toepassingen waarbij robots taken uitvoeren in complexe omgevingen.
Het bedrijf werkt samen met Nvidia aan een open platform voor agentveiligheid. Het systeem moet duidelijke grenzen stellen aan hoe ai-agenten robotacties aansturen, om risico’s in kritieke omgevingen te beperken.
Loosararian benadrukt dat veiligheidsmaatregelen en snelle uitrol van nieuwe technologieën niet met elkaar in conflict hoeven te zijn. Sterke waarborgen kunnen snellere adoptie juist ondersteunen als ze vanaf het begin in het ontwerp worden meegenomen.
De ceo deelde deze inzichten tijdens een gesprek met Ed Ludlow in het programma Bloomberg Tech.