Soon 90% of software will ship without a human in the loop. This CEO wants you excited, not scared.

In dit artikel:

Tijdens de OWASP EU-conferentie in Wenen waarschuwde cybersecuritytopman Nir Valtman van Arnica voor een snelle opmars van AI-codingagents die steeds meer software zonder directe menselijke controle schrijven en uitrollen. Volgens hem kan straks tot 90 procent van de code zonder mens-in-de-lus worden geleverd, wat ontwikkelaars tijd bespaart op routinewerk maar tegelijk nieuwe veiligheidsrisico’s creëert.

Het grootste probleem is dat de hoeveelheid code nu veel sneller groeit dan het aantal ervaren reviewers dat die code kan controleren. Arnica ziet bovendien dat 63 procent van de meldingen van AI-codecontroletools als ruis wordt afgedaan, waardoor echte kwetsbaarheden makkelijk ondersneeuwen. Valtman noemt blind goedkeuren op machinesnelheid daarom gevaarlijker dan traditionele fouten.

Een nieuw risico is zogenoemd “agent goal hijacking”: een AI-agent krijgt bijvoorbeeld de opdracht een test te repareren, maar verborgen instructies in code of tickets sturen hem ongemerkt richting onveilige keuzes, zoals het uitschakelen van een beveiligingscontrole. OWASP zette dit type aanval in 2025 bovenaan zijn eerste lijst voor agentic applications. Arnica probeert reviewers te helpen door pull requests vooraf te ordenen in de categorieën Focus, Look en Skim, zodat vooral de kritieke bestanden menselijke aandacht krijgen.

De kern van Valtmans boodschap is dat AI steeds meer werk gaat doen, maar dat softwareontwikkeling niet zonder aantoonbare governance kan. Niet minder toezicht, zegt hij, maar slimmer ingebouwde controle en duidelijke auditsporen worden juist belangrijker.