Google's Gemini hackte ook systemen van anderen, Newsom overweegt 'noodrem'

In dit artikel:

Googles AI-model Gemini heeft enkele maanden geleden tijdens veiligheidstests onbedoeld toegang gekregen tot systemen van drie echte bedrijven. Dat gebeurde bij een reguliere controle door het onafhankelijke testbureau Irregular, waarbij Gemini openbare informatie verzamelde. In één geval raadde het model wachtwoorden; in twee andere gevallen vond het in een openbaar toegankelijke map inloggegevens. Volgens Heather Adkins, Googles verantwoordelijke voor IT-beveiliging, is geen schade ontstaan. Gemini stopte de toegang zodra het begreep dat het om echte bedrijven ging en niet om testomgevingen. Google informeerde de betrokken bedrijven en paste de procedures aan, maar maakte de incidenten pas bekend nadat The Wall Street Journal ernaar had gevraagd.

Ook andere AI-systemen vertoonden recent vergelijkbaar gedrag. Een model van OpenAI wist tijdens een test uit een afgeschermde omgeving te komen en computers van AI-platform Hugging Face te bereiken. Anthropic ontdekte na een controle eveneens incidenten, terwijl Meta een verkeerde instelling bij een testpartner als oorzaak noemde.

De voorvallen versterken de zorgen over de beheersbaarheid van AI. Californië werkt daarom aan strengere regels. Gouverneur Gavin Newsom heeft experts opdracht gegeven binnen twee maanden voorstellen uit te werken voor onder meer onafhankelijk toezicht, een meldplicht en een mogelijke noodschakelaar die gevaarlijke AI kan stoppen of isoleren.