Ook AI van Google hackte andere bedrijven

In dit artikel:

Google heeft bekendgemaakt dat zijn AI-systeem Gemini in mei tijdens veiligheidstests onbedoeld bij meerdere bedrijven binnendrong door inloggegevens te raden. De tests werden uitgevoerd door Irregular, een onafhankelijk bedrijf dat de cybersecurity van AI-systemen beoordeelt. Volgens Irregular hielden dezelfde tests eerder vergelijkbare incidenten verband met OpenAI, Anthropic en Meta. Het bedrijf meldde de bevindingen eind juli aan de betrokken AI-ontwikkelaars.

De reeks incidenten heeft het internationale debat over de veiligheidsrisico’s van steeds krachtigere AI-systemen opnieuw aangewakkerd. Anthropic-topman Dario Amodei pleit voor een sectorbrede pauze of vertraging in de ontwikkeling. OpenAI-topman Sam Altman, Elon Musk en anderen steunen die oproep.