Een senior security leader bij Anthropic heeft gewaarschuwd dat ai-tools cybersecuritydruk in de nabije toekomst zullen intensiveren. De waarschuwing komt nadat overheden en bedrijven wereldwijd zich haastten om twee ernstige fouten in de php-programmeertaal aan te pakken, die grote delen van de online infrastructuur ondersteunen.
Banken, luchtvaartmaatschappijen en overheidsinstanties hebben deze week websites offline gehaald om risico’s te beperken nadat onderzoekers ai gebruikten om de php-problemen te identificeren. De maatregel voorkwam mogelijke uitbuiting van de veelgebruikte open-sourcecode. Tot nu toe zijn er geen grootschalige inbreuken die direct aan de fouten zijn gekoppeld, publiekelijk naar buiten gekomen.
As bad as things have gotten in the past 4 days, they are going to get a lot worse before they get better. Security leaders, never let a crisis go to waste: please go to your boards and ask for help right now. Not for AI, for the basics.
Ai-systemen vinden nu sneller ernstige softwarezwaktes dan voorheen. Deze capaciteit hielp bij de recente php-vondsten waarbij onderzoekers van Wiz, OpenAI en Calif betrokken waren, maar het rust ook kwaadwillende actoren uit met snellere manieren om zwaktes te onderzoeken. Het resultaat is een sterk verkort venster voor organisaties om fixes toe te passen.
Bewijs tot nu toe toont geen overeenkomstige stijging in succesvolle aanvallen ondanks een hoger aantal bekendgemaakte fouten. Technologiebedrijven zelf melden veel van de problemen. De catalogus van bekende uitgebuitte kwetsbaarheden van de Amerikaanse overheid heeft ook geen opvallende stijging geregistreerd.
Meer dan een derde van ongeveer 22 miljoen aan het internet blootgestelde systemen draait versies van de software die niet kunnen worden geüpdatet. Jack Hughes van Palo Alto Networks Unit 42 verwacht dat de remediëringsinspanning maanden zal duren. Cloudflare-ceo Matthew Prince meldde miljoenen pogingen tot aanvallen per minuut met de fouten via het netwerk van het bedrijf.
AI has industrialized discovery, but fixing remains a human bottleneck.
De fouten waren meer dan tien jaar verborgen gebleven tot ai-tools ze aan het licht brachten. De beheerders ontvingen de bevindingen via de gebruikelijke kanalen voor verantwoorde openbaarmaking. Hackers kregen desondanks vroegtijdig kennis en begonnen de zwaktes te testen voorafgaand aan de publieke melding, wat leidde tot snellere actie van bedrijven waaronder Amazon.
Clinton, die eerder werkte aan infrastructuurbeveiliging voor Google Chrome, voorziet dat ai uiteindelijk ontwikkelaars in staat zal stellen code zonder beveiligingsfouten uit te brengen. Hij beschreef een toekomstige staat genaamd “vulnzero” waarin modellen bugs tegen verwaarloosbare kosten elimineren. Tot die tijd, zei hij, staan organisaties voor een golf aan kwetsbaarheden die moeten worden aangepakt via sterkere basispraktijken.