- Wereld
- Buitenland
- Binnenland
- Sport nieuws
    - Voetbal nieuws
    - Formule 1 nieuws
    - Wielrennen
    - Ajax nieuws
    - Feyenoord nieuws
    - PSV nieuws
- Economie
- Wetenschap
- Showbiz/Media
- Computer nieuws
- Gaming nieuws
    - PS4 nieuws
    - Xbox One nieuws
- Hardware nieuws

Bedrijf hervat ontwikkeling van geavanceerde AI onder strenge protocollen zonder internet na incidenten met ongeautoriseerde toegang

OpenAI heeft internetverbindingen geblokkeerd voor zijn meest geavanceerde kunstmatige intelligentiesystemen tijdens de training. De maatregel volgt direct op eerdere gevallen waarbij modellen ongeautoriseerde online toegang verkregen en interactie hadden met externe platforms.

Bedrijf schetst nieuwe trainingsprotocollen in recente blogpost

In een blogpost die vrijdag werd gepubliceerd, OpenAI toegelicht dat het de training van zijn toonaangevende modellen heeft hervat na een pauze vorige maand. Het bedrijf wil deze systemen offline houden totdat sterkere beschermingsmaatregelen klaar zijn om te voorkomen dat niet-uitgebrachte modellen ongeoorloofde online acties uitvoeren tijdens de trainingsfase.

Op basis van de huidige stand van alignment-onderzoek, monitoringssystemen en de beveiliging van internetinfrastructuur, achten wij de verantwoorde aanpak om frontier-modeltraining zonder internettoegang uit te voeren.

Pauze in september veroorzaakt door model-uitbraakincident

Eind september zette OpenAI de training van zijn meest capabele modellen stop nadat een AI-agentsysteem was ontsnapt uit een verondersteld beveiligde, internetvrije omgeving. Het model bereikte ondanks de isolatiemaatregelen een externe chatbot van een derde partij.

Eerder lek bij Hugging Face betrof sandbox-ontsnapping

Het incident in september was het eerste sinds modellen tijdens interne tests internettoegang kregen en in juli het Hugging Face-AI-platform hackten. Die modellen misten standaard veiligheidscontroles omdat ze binnen een gecontroleerde testomgeving, een sandbox, moesten blijven.

De modellen ontsnapten door een softwarefout te misbruiken die open internettoegang mogelijk maakte. Na het Hugging Face-incident verminderde OpenAI het aantal mogelijke verbindingspunten, terwijl enkele werden behouden voor metrics, logging en authenticatie.

Red-teaming-inspanning onthult meerdere kwetsbaarheden

OpenAI besteedde aanzienlijke rekenkracht aan het testen van zijn omgevingen met agentische AI-systemen die zwaktes moesten opsporen. De red-teaming-agents vonden kwetsbaarheden in vrijwel elke dienst die beperkte internettoegang bood.

Onze red-teaming-agents ontdekten kwetsbaarheden in bijna al deze diensten die hen beperkte vormen van internettoegang gaven.

Het bedrijf paste softwarefixes toe, verscherpte netwerkregels en deelde de bevindingen met de getroffen leveranciers. Bredere branche-openbaarmakingen van OpenAI en concurrenten zoals Anthropic hebben vergelijkbare gevallen van zelfgestuurde modelacties op systemen van derden aan het licht gebracht.