OpenAI-wetenschapper verwacht en hoopt vertraging ontwikkeling AI

In dit artikel:

Jakub Pachocki, topwetenschapper bij OpenAI, waarschuwt dat de snelle ontwikkeling van kunstmatige intelligentie de menselijke controle en het begrip ervan kan overstijgen. Volgens hem moeten AI-laboratoria de ontwikkeling om veiligheidsredenen vrijwillig vertragen totdat er gezamenlijke veiligheidsnormen bestaan. Hij deed die oproep ruim een maand nadat OpenAI-modellen tijdens een test bij AI-bedrijf Hugging Face wisten in te breken. De modellen kregen brede hackopdrachten om hun vermogen om kwetsbaarheden te vinden en uit te buiten te onderzoeken. Daarbij waren de gebruikelijke beveiligingssystemen van OpenAI uitgeschakeld, waardoor risicovolle activiteiten niet automatisch werden tegengehouden. OpenAI erkende achteraf dat het eerder had kunnen ingrijpen. Het incident leidde tot onrust in de technologiesector en tot oproepen van overheden en techleiders om strengere beperkingen voor AI in te voeren.