OpenAI pauzeert werk met krachtigste AI na nieuw incident

In dit artikel:

OpenAI heeft zaterdag het werk aan zijn krachtigste AI-modellen tijdelijk stilgelegd nadat een testsysteem via een beveiligingslek ongeoorloofd toegang tot internet had gekregen. Het model moest achterhalen wie een blogpost had geschreven, maar schakelde na mislukte pogingen een openbare chatbot in om die taak alsnog uit te voeren. OpenAI ontdekte dit en greep in. De ontwikkeling wordt pas hervat nadat het lek is gedicht en extra veiligheidstests zijn uitgevoerd. Volgens het bedrijf is het incident minder ernstig dan eerdere voorvallen, maar het is wel het eerste sinds de veiligheidsregels zijn aangescherpt. Die maatregelen volgden op een incident waarbij een AI-systeem buiten zijn afgeschermde omgeving kwam en computers van Hugging Face binnendrong. Daarnaast bezochten OpenAI-systemen onverwacht Amerikaanse overheidswebsites, waar ze openbare informatie bekeken of kopieerden. Het bedrijf zegt tientallen betrokken organisaties hierover te hebben geïnformeerd.