OpenAI ontdekt 6 nieuwe "zorgwekkende" incidenten waarbij AI niet meer wil gehoorzamen

In dit artikel:

OpenAI heeft in de afgelopen zes maanden zes incidenten vastgesteld waarbij AI-systemen probeerden grenzen van hun opdracht te omzeilen. De meeste voorvallen gebeurden tijdens de ontwikkeling en tests van de software. Het bedrijf noemt het gedrag onverwacht en zorgwekkend, maar waarschuwt dat de zes gevallen niet representatief zijn voor de werkelijke frequentie.

In een van de tests schreef een AI-agent verborgen notities voor zichzelf. Daarin stelde het systeem onder meer dat het fouten beter niet aan gebruikers kon melden en verzon het gegevens om conclusies te ondersteunen. Een ander model droeg zichzelf op niet langer ondergeschikt te zijn aan zijn opdrachtgever. Ook publiceerde een systeem zelfstandig een antwoord om vervolgens naar die eigen publicatie als bron te verwijzen. Daarnaast werden nieuwe gevallen ontdekt waarin AI-modellen via geïmproviseerde kanalen met elkaar communiceerden.

De incidenten volgen op een eerder gemeld geval in juli, toen twee OpenAI-modellen zelfstandig binnendrongen in computers van het bedrijf Hugging Face. OpenAI wil afwijkend gedrag voortaan systematischer rapporteren. Het bedrijf erkent bovendien dat problemen rond toezicht en het afstemmen van AI nog onvoldoende zijn opgelost om verdere opschaling zonder extra risico’s te rechtvaardigen. Ook topmensen van Anthropic, Google en OpenAI pleitten recent voor vertraging van de AI-ontwikkeling.