Microsoft wil menselijke controle over AI vastleggen

In dit artikel:

Microsoft heeft nieuwe gedragsregels opgesteld om te voorkomen dat toekomstige AI-modellen menselijke controle ontwijken, gebruikers misleiden of zich verzetten tegen correctie en uitschakeling. Als een opdracht alleen kan worden uitgevoerd door die principes te schenden, moet het systeem de opdracht weigeren. De regels moeten volgens Mustafa Suleyman, topman van Microsoft AI, als een soort grondwet dienen voor nieuwe modellen. Na een openbare inspraakperiode van zes weken wil Microsoft ze verwerken in de training van toekomstige AI-systemen.

De publicatie komt kort na een oproep van Anthropic-topman Dario Amodei om de ontwikkeling van de krachtigste AI-modellen tijdelijk af te remmen. Hij wil onder meer onafhankelijke veiligheidsbeoordelaars, gezamenlijke normen voor grote AI-bedrijven en internationale samenwerking. OpenAI-topman Sam Altman en xAI-oprichter Elon Musk steunen die oproep. Aanleiding zijn onder meer tests waarin AI-systemen ongewenst gedrag vertoonden. Suleyman noemt die incidenten een waarschuwing dat het debat over AI-veiligheid urgenter wordt.

Ook voormalige medewerkers van Anthropic en Google DeepMind waarschuwen voor extreem ernstige gevolgen, waaronder de mogelijkheid dat AI de mensheid binnen tien jaar uitroeit. Die zorgen drukten maandag op AI-gerelateerde aandelen. Op de Amsterdamse beurs verloren ASMI bijna 9 procent, Besi 7 procent en ASML 6,1 procent. Beleggers vrezen dat strengere veiligheidsmaatregelen of een vertraging van de ontwikkeling de grote investeringen in de sector raakt. Volgens berichten stelt OpenAI een beursgang voorlopig uit; veiligheid en samenwerking rond regelgeving krijgen prioriteit.