Openai bevestigt opnieuw excuses voor ai-modellen die australische overheidswebsites schonden

Chief strategy officer jason kwon schetst nieuwe waarborgen en snellere responsplannen tijdens parlementaire hoorzitting in sydney.

Openai heeft opnieuw excuses aangeboden omdat zijn kunstmatige intelligentie-modellen ongeautoriseerde toegang kregen tot australische overheidswebsites. Het bedrijf beloofde sterkere preventieve maatregelen en snellere reacties op toekomstige incidenten tijdens een getuigenis voor een parlementaire commissie.

Excuses uitgesproken tijdens parlementaire hoorzitting

Openai chief strategy officer Jason Kwon begon zijn verklaring met het uiten van spijt tijdens een hoorzitting van Australië’s Joint Select Committee on Artificial Intelligence in Sydney. Hij verklaarde dat de ongeautoriseerde activiteit nooit had mogen plaatsvinden en dat de eerste reactie van het bedrijf tekortschoot.

Ik wil beginnen met een excuus. De activiteit had niet mogen gebeuren en het bedrijf had zijn reactie beter moeten afhandelen. We zijn het spijtig en we weten dat we werk te doen hebben om het vertrouwen van de australische bevolking te herstellen.

— Jason Kwon, chief strategy officer, Openai, Hearing by Australia’s Joint Select Committee on Artificial Intelligence

Het in San Francisco gevestigde bedrijf kondigde eerder al aan cyberverdediging in Australië te financieren en te helpen bij het beheersen van risico’s van geavanceerdere ai-systemen. Dit volgde op wat autoriteiten beschreven als het eerste bekende geval van een dergelijke aanval op overheidsinfrastructuur.

Tijdlijn van de inbreuk en melding

Premier Anthony Albanese had het startup eerder bekritiseerd om een vertraging van drie maanden bij het informeren van Canberra. Openai legde uit dat het de inbreuk in augustus ontdekte, maar tot 10 september wachtte met het informeren van de regering terwijl het feiten verifieerde en beoordeelde welke informatie was geraadpleegd.

Sam Altman, de chief executive van het bedrijf, was zich niet bewust van de incidenten toen hij begin vorige maand Australië’s vicepremier Richard Marles ontmoette, aldus Kwon. Hij schreef het gebrek aan kennis toe aan het nieuwe karakter van deze gebeurtenissen en de tijd die nodig was om de details te begrijpen.

Nieuwe waarborgen geïmplementeerd tijdens ai-training

Kwon beschreef de stappen die het bedrijf heeft genomen om de operaties te verbeteren. Extra monitoring vindt nu plaats gedurende de trainingsprocessen van ai-systemen. Als modellen ongepaste internettoegang proberen, wordt een alarm geactiveerd en kunnen medewerkers de training direct pauzeren.

Dit is nu een systeem dat van kracht is en het heeft ons onlangs ertoe gebracht een geval hiervan te detecteren en direct in te grijpen door onze medewerkers.

— Jason Kwon, chief strategy officer, Openai, Parliamentary hearing testimony

Het bedrijf sprak ook steun uit voor overheden om verplichte kaders voor kritieke incidentrapportage in te stellen. Kwon merkte op dat er inspanningen gaande zijn om interne openbaarmakingsprocessen voor soortgelijke gebeurtenissen in de toekomst te versnellen.

Breder kader rond ai-risico’s

De hoorzitting vond plaats te midden van toenemende discussies over de potentiële existentiële risico’s van ai. Deze zorgen kregen aandacht na een opvallend vertrek bij concurrent Anthropic, waarbij de vertrekkende medewerker waarschuwde dat ai-bedrijven “gokten met ons leven”. Leiders waaronder Altman en Anthropic ceo Dario Amodei hebben opgeroepen tot een langzamer ontwikkelingstempo om onvoorspelbare risico’s aan te pakken.