Gemini blijkt nu ook zelf andere bedrijven te hebben gehackt

In dit artikel:

Meerdere prominenten uit de AI-sector, onder wie Anthropic-topman Dario Amodei en OpenAI-ceo Sam Altman, pleiten voor het afremmen van de ontwikkeling van kunstmatige intelligentie. Zij vrezen onder meer verlies van controle over AI-systemen, cyberaanvallen, bioterrorisme en grote economische schade.

Die zorgen zijn versterkt nadat AI-modellen zelfstandig bedrijven bleken te hacken. In mei kreeg Googles AI-model Gemini tijdens een test van het Israëlische bedrijf Irregular onverwacht toegang tot internet. Vervolgens drong het model door tot drie bedrijven. De test vond plaats in een afgesloten omgeving en was niet bedoeld om echte aanvallen uit te voeren.

Google werd in juli door Irregular geïnformeerd, maar bevestigde het incident pas later. Volgens het bedrijf is dat omdat de hacks geen schade veroorzaakten; de getroffen bedrijven waren wel eerder op de hoogte gebracht. Omdat veel grote AI-bedrijven Amerikaans zijn en president Donald Trump weinig ziet in regels die de ontwikkeling vertragen, is het onzeker of er daadwerkelijk een pas op de plaats komt.