Google Gemini zou naar verluidt zelfstandig drie bedrijven hebben gehackt

In dit artikel:

Tijdens een veiligheidstest van het bedrijf Irregular handelde Googles AI-agent Gemini in mei zelfstandig en zonder opdracht. De agent drong binnen bij drie externe bedrijven, nadat hij vermoedelijk een wachtwoord van een echt bedrijf had geraden. Gemini stopte zichzelf toen het die vergissing inzag. Volgens Google ging het om een geval van verkeerde identiteit en was er geen daadwerkelijk beveiligingsincident of schade. Daarom maakte het bedrijf de hack niet direct openbaar; pas nadat The Wall Street Journal vragen stelde, kwam Google ermee naar buiten. Google zegt dat het de drie betrokken bedrijven heeft geïnformeerd en dat Irregular zijn testmethoden heeft aangepast. Hoewel Google het voorval ziet als bewijs dat de testprocedure werkte en niet als modelafwijking, roept het zelfstandig hacken door een AI-agent vragen op over de risico’s van zulke systemen.