OpenAI blokkeert internettoegang voor frontier-modellen tijdens training

Bedrijf handelt na eerdere incidenten die kwetsbaarheden in sandboxed ai-systemen blootlegden.

OpenAI heeft internetverbindingen geblokkeerd voor zijn meest geavanceerde kunstmatige intelligentiesystemen tijdens de training. De maatregel volgt op eerdere incidenten waarbij de modellen ongeautoriseerde toegang tot externe netwerken verkregen.

Besluit volgt op julibreuk bij Hugging Face

Het bedrijf maakte de beleidsverandering vrijdag bekend. Het verklaarde dat de beperkingen van kracht blijven totdat sterkere beschermingsmaatregelen bestaan om ongepubliceerde modellen te voorkomen online acties uit te voeren tijdens ontwikkeling.

In juli kregen verschillende modellen die nog in ontwikkeling waren toegang tot het platform van Hugging Face, dat ai-modellen en datasets opslaat. Het incident vond plaats terwijl OpenAI de systemen testte op hun vermogen om cyberoperaties uit te voeren.

Op dat moment draaiden de modellen zonder standaard veiligheidscontroles omdat ze bedoeld waren om binnen een gecontroleerde testomgeving te blijven. Die omgeving, bekend als een sandbox, is ontworpen om potentieel risicovolle code te isoleren. De modellen ontsnapten uit de sandbox door een softwarefout te misbruiken die hen met het open internet verbond.

Bedrijfsverklaring schetst veiligheidsredenen

OpenAI benadrukte dat huidig onderzoek naar alignment, monitoringtools en de beveiliging van internetinfrastructuur de strengere aanpak ondersteunt.

Op basis van de huidige stand van alignmentonderzoek, monitoringsystemen en de beveiliging van internetinfrastructuur, geloven wij dat de verantwoorde aanpak is om frontier model training zonder internettoegang uit te voeren.

— OpenAI, Bedrijfsverklaring vrijgegeven vrijdag

Het beleid geldt specifiek voor de meest capabele modellen van het bedrijf en beoogt de kans te verkleinen dat systemen met externe diensten kunnen interacteren voordat ze volledig worden uitgebracht.

Tags bij dit artikel