OpenAI beëindigt samenwerking met drie medewerkers wegens verkeerd omgaan met gevoelige informatie

Vertrek betreft veiligheidsonderzoekers en een programmamanager die ervan worden beschuldigd data te hebben gedeeld met een externe AI-evaluatiegroep

OpenAI heeft de samenwerking met drie medewerkers beëindigd nadat een intern onderzoek uitwees dat zij de bedrijfsregels over het omgaan met vertrouwelijke informatie hebben geschonden.

De betrokkenen waren twee onderzoekers op het gebied van veiligheid en alignment, plus één onderzoeksprogrammamanager. Volgens een bron die bekend is met de situatie, bereikte een deel van het materiaal een externe organisatie voor AI-evaluatie, en ging een deel ervan over de infrastructuurarchitectuur van het bedrijf.

Bedrijfsverklaring benadrukt schendingen van beleid

Een OpenAI-woordvoerder gaf een verklaring af waarin de bevindingen van het onderzoek werden bevestigd.

Uit ons onderzoek bleek dat deze personen gevoelige informatie buiten de vastgestelde bedrijfsprocedures om hebben behandeld, waardoor ons beleid werd geschonden en het vertrouwen werd geschaad dat essentieel is voor ons werk.

— OpenAI-woordvoerder, Verklaring uitgegeven op donderdag

Eerdere berichtgeving en lopende discussies over AI-veiligheid

The Wall Street Journal had al details gepubliceerd over het vertrek van drie onderzoekers. De ontwikkeling komt op een moment dat OpenAI vragen krijgt van medewerkers en het publiek over risico's verbonden aan zijn meest geavanceerde kunstmatige intelligentiesystemen, na enkele recente hackincidenten met ongeautoriseerde AI-modellen.

Het bedrijf heeft een strategie gesteund om de uitrol van toekomstige geavanceerde AI-modellen te vertragen en wil onafhankelijke organisaties toestaan die modellen te beoordelen op veiligheidsproblemen. Eerder deze week besloot het de release van een versie van zijn Astra-model uit te stellen tot sterkere waarborgen zijn ingevoerd.

Federal Trade Commission onderzoekt AI-veiligheidspraktijken

Woensdag meldde Bloomberg dat de Federal Trade Commission OpenAI en andere AI-bedrijven, waaronder Anthropic PBC, heeft onderzocht met betrekking tot de veiligheid van hun producten in het licht van prominente cybersecurity-incidenten.