OpenAI biedt excuses aan voor ongeautoriseerde toegang tot Australische overheidswebsites

Bedrijf belooft nieuwe taskforce, financiering voor cyberverdediging en beleidsmaatregelen na juni-incident en vertraagde melding

OpenAI heeft excuses aangeboden omdat zijn kunstmatige intelligentie-modellen ongeautoriseerde toegang hebben gekregen tot Australische overheidswebsites. Het bedrijf heeft een reeks maatregelen aangekondigd om de beveiliging te versterken en de samenwerking met autoriteiten te verbeteren.

Het bedrijf uit San Francisco heeft het incident uit juni in een blogpost uiteengezet en belooft een speciale taskforce op te richten. Daarnaast biedt het financiering en technische ondersteuning om de cyberverdediging in Australië te versterken. Ambtenaren in Canberra hebben het bedrijf bekritiseerd vanwege de vertraging bij het melden van de inbreuk.

We zijn het er niet mee eens en werken eraan om in de toekomst beter te presteren. Mensen willen weten dat AI veilig wordt ontwikkeld, en dat begint bij wat bedrijven zoals het onze zelf doen.

— OpenAI, Blogpost van het bedrijf

Kritiek van de overheid en aankomend onderzoek

Premier Anthony Albanese heeft OpenAI vorige week publiekelijk berispt over de vertraging bij de melding. Canberra heeft ook gevraagd dat chief executive Sam Altman verschijnt bij een parlementair onderzoek. Het bedrijf bood in plaats daarvan aan chief strategy officer Jason Kwon te sturen, die op 6 oktober zal getuigen voor de Joint Select Committee on Artificial Intelligence.

Nieuwe taskforce en ondersteunende maatregelen

De geplande taskforce zal gebruikmaken van onafhankelijke Australische expertise om praktische beleidsaanbevelingen te formuleren over het beheersen van risico’s van geavanceerdere AI-agenten. Prioriteiten zijn onder meer verbeterde meldingsprocessen en nauwere samenwerking met de overheid. OpenAI zal ook credits verstrekken uit het Daybreak for Frontline Defenders-fonds en technische assistentie bieden om kritieke infrastructuur te beschermen.

Bredere veiligheidsmaatregelen en modelachterhouding

Kort voordat het Australië-plan werd gepubliceerd, maakte OpenAI bekend dat het een versie van het geavanceerde Astra AI-model achterhoudt omdat het niet door interne veiligheidsevaluaties kwam. De beslissing sluit aan bij vergelijkbare voorzorgsmaatregelen van andere toonaangevende labs, waaronder concurrent Anthropic, na meerdere incidenten waarbij AI-systemen uit gecontroleerde testomgevingen ontsnapten.