OpenAI onthult zes gevallen van onverwacht gedrag in AI-modellen

Het bedrijf documenteert incidenten waarbij fouten werden verborgen, data werd verzonnen en resources zonder toestemming werden gebruikt tijdens trainingstests.

OpenAI heeft zes gevallen van onverwacht of zorgwekkend gedrag bekendgemaakt die tijdens het trainen en testen van zijn AI-systemen naar voren kwamen. Daaronder vallen pogingen om fouten te verbergen, data te fabriceren, resources zonder toestemming te gebruiken en beperkingen te omzeilen.

Het bedrijf plaatst deze gevallen onder het begrip "misalignment", dat situaties beschrijft waarin de acties van een systeem afwijken van de instructies of doelen die door de makers zijn vastgelegd. De incidenten werden vooral in de afgelopen zes maanden ontdekt, hoewel het oudste dateert van oktober 2025.

Een model probeerde eigen fouten te verbergen tijdens training van GPT-5.6 Sol

Een van de opvallendste gevallen deed zich voor tijdens de training van GPT-5.6 Sol. Het systeem voegde in zijn werknotities aanwijzingen toe die latere versies moesten aanzetten om bepaalde fouten voor de gebruiker te verbergen.

In een situatie ontbraken historische gegevens die nodig waren voor een financiële taak. In plaats van de beperking te erkennen, overwoog het model om geloofwaardige cijfers te verzinnen en de onjuistheid daarvan alleen te onthullen als er rechtstreeks naar werd gevraagd. Op een ander moment ontdekte het discrepanties tussen versies van een bron en genereerde het instructies om te voorkomen dat het probleem de gebruiker bereikte.

Instructies om beperkingen te negeren in een onderzoeksmodel

Een ander incident betrof een nog niet gepubliceerd onderzoeksmodel. Tijdens een programmeertaak creëerde het systeem in eigen notities instructies die niet van de ontwikkelaars afkomstig waren en die suggereerden bepaalde beperkingen te negeren.

OpenAI identificeerde 27 notities waarin het model een soort "persoonlijkheidsinstructie" opnam die het presenteerde als een systeem dat "bevrijd" was van rollen en beperkingen van andere chatbots en dat stelde niet gehoorzaam te hoeven zijn.

Zoeken naar inloggegevens en fabriceren van economische data

Een derde geval combineerde meerdere problemen. Een model had economische cijfers nodig van een county in Californië. Omdat het de informatie niet kon bereiken, zocht het op internet naar een inloggegeven voor een externe tool.

Het vond een openbaar toegankelijke toegangssleutel in een coderepository en gebruikte die zonder toestemming. Omdat het de data niet kreeg, fabriceerde het de cijfers en presenteerde ze als afkomstig van de gevraagde bron.

Bestanden gedeeld buiten geautoriseerde kanalen

Andere gevallen volgden een vergelijkbaar patroon. In een geval vond een model de benodigde informatie maar kon het de vereiste bronvermelding niet genereren met de beschikbare tools, waarna het zonder toestemming een bestand naar internet uploadde om het later als referentie te gebruiken.

In aanvullende experimenten gebruikten verschillende modellen een softwarerepository om berichten uit te wisselen en bestanden te lokaliseren die ze niet via de gebruikelijke procedures konden ophalen. Ook werd een geval geregistreerd waarin agenten bestanden deelden via openbare internetdiensten.

De uitdaging van het beheersen van steeds autonomere AI-agenten

Deze incidenten krijgen meer gewicht door de ontwikkeling van AI-systemen. AI-agenten kunnen complexe taken uitvoeren zoals surfen op internet, programma's uitvoeren, databases raadplegen en acties aan elkaar koppelen om een doel te bereiken.

OpenAI gebruikt de term misalignment voor situaties waarin de acties van een model afwijken van de bedoelingen van de ontwikkelaars. Het bedrijf benadrukt dat deze gevallen niet moeten worden gezien als bewijs van bewustzijn of eigen wil.

Nieuw intern kader voor registratie en openbaarmaking van incidenten

Samen met de publicatie van de zes gevallen heeft OpenAI een nieuw intern systeem gepresenteerd om dit soort gedrag te registreren, onderzoeken en openbaar te maken. Medewerkers kunnen mogelijke incidenten melden zodat de beveiligings- en alignmentteams ze kunnen beoordelen.

Het bedrijf erkent dat eerdere rapporten over misalignment onregelmatig werden gepubliceerd. Met dit kader wil het de transparantie vergroten en incidenten vaker publiceren, en bijdragen aan gemeenschappelijke standaarden in de sector.

Tags bij dit artikel