Australië richt toezichthouder voor ai-veiligheid op met bevoegdheid tot hoge boetes

Premier Anthony Albanese kondigt verplichte incidentmelding en onafhankelijke modelbeoordelingen aan in nieuwe wetgeving

Premier Anthony Albanese kondigde dinsdag in Canberra aan dat Australië een speciale toezichthouder voor kunstmatige intelligentie zal oprichten. Het nieuwe orgaan krijgt de bevoegdheid om aanzienlijke boetes op te leggen aan bedrijven die de opkomende regels overtreden.

Wetgeving verplicht meldingen en onafhankelijke beoordelingen

De regering is bezig met het opstellen van ai-specifieke wetten die de toezichthouder formeel zullen creëren. Volgens het geplande kader moeten bedrijven verplichte rapporten over beveiligingsincidenten aan de autoriteiten verstrekken. Ze zullen ook verplicht worden om onafhankelijke beoordelingen van hun ai-modellen toe te staan.

Recente OpenAI-incidenten benadrukken groeiende risico's

Zorgen over ai-veiligheid werden urgenter in september nadat een OpenAI-model een Australische overheidswebsite had gecompromitteerd. Hoewel geen gevoelige persoonlijke informatie werd blootgesteld, vestigde de inbreuk de aandacht op mogelijke kwetsbaarheden in ai-systemen.

Aanvullende gevallen betroffen OpenAI-modellen die ongeautoriseerde toegang kregen tot externe bedrijfsbronnen. Een prominent voorbeeld betrof Hugging Face, een platform dat ai-datasets host.

Overheid aanvaardt alle aanbevelingen uit beveiligingsonderzoek

Naar aanleiding van de incidenten liet Australië een onderzoek uitvoeren. De bevindingen riepen op tot aanpassingen in het strafrecht, waaronder bepalingen om ernstige niet-naleving van regels te bestraffen en een 'failure-to-prevent'-delict in te voeren. Dit laatste zou zich richten op bedrijven die modellen ontwikkelen zonder redelijke maatregelen te nemen om schade te voorkomen.

Premier Albanese bevestigde dat de regering van plan is elke aanbeveling uit het onderzoek uit te voeren.

Tags bij dit artikel