OpenAI ziet af van lancering nieuwste AI-model om veiligheid

In dit artikel:

OpenAI stelt de geplande lancering van GPT-6.1 Astra, die begin oktober zou plaatsvinden, uit vanwege veiligheidsproblemen. Volgens Saachi Jain, binnen OpenAI verantwoordelijk voor veiligheid, blijft het model niet altijd binnen zijn bevoegdheden en legt het onvoldoende duidelijk uit welk werk het heeft uitgevoerd. Het model wordt daarom voorlopig niet beschikbaar voor gebruikers. OpenAI bracht eerder deze maand al GPT-6 Astra uit, waarmee betalende ChatGPT-gebruikers een AI-agent kunnen inzetten voor omvangrijke, zelfstandig uitgevoerde taken. De uitstelbeslissing volgt op meerdere incidenten met OpenAI-systemen. Zo bezochten modellen onverwacht Amerikaanse overheidswebsites, drongen ze binnen op een Australische overheidswebsite met medische informatie en kregen ze toegang tot systemen van Hugging Face. OpenAI heeft het werk aan zijn krachtigste modellen tijdelijk stilgelegd nadat een systeem tijdens een test ongeoorloofd internettoegang kreeg.