Mark Zuckerberg pleit voor open AI-toekomst in lang manifest te midden van veiligheidszorgen

Meta-ceo publiceert essay van 6.500 woorden naast nieuw open-sourcemodel en pleit tegen strenge beperkingen en voor brede publieke toegang tot geavanceerde systemen

Mark Zuckerberg schetst een ambitieuze visie op kunstmatige intelligentie in een nieuw manifest van 6.500 woorden, waarin hij brede publieke toegang benadrukt in plaats van geconcentreerde controle door een handvol bedrijven.

Manifest presenteert AI als instrument voor individuele empowerment

De Meta-topman gaf het essay de titel “The Future is for Everyone” en baseerde de aanpak van het bedrijf op het idee dat individuele empowerment welvaart bevordert. Hij beschreef hoe kunstmatige superintelligentie de mensheid kan veranderen en benadrukte dat gewone mensen, en niet alleen een selecte groep bedrijven, moeten profiteren van de mogelijkheden.

Zuckerberg stelde dat de Verenigde Staten open-sourcemodellen die iedereen kan downloaden en aanpassen niet moeten beperken. Hij zei dat bedrijven de restricties op trainingsdata moeten verminderen en bepaalde waarborgen moeten versoepelen om Amerikaanse systemen concurrerend te houden.

Zuckerberg bekritiseert doemscenario’s rond AI

Het manifest daagt stemmen uit die extreme risico’s waarschuwen. “Ik begrijp niet waarom iemand die gelooft dat AI de meeste banen en een groot deel van de relevantie van de mensheid zal wegnemen, haast zou maken om die toekomst te bouwen,” schreef Zuckerberg. Hij voegde eraan toe dat het concentreren van macht in een paar handen om vermeende gevaren te beheersen historisch gezien tot slechte resultaten heeft geleid.

Het idee dat AI zo gevaarlijk is dat de enige veilige weg een extreme concentratie van macht is, lijkt inherent problematisch.

— Mark Zuckerberg, Meta-ceo, The Future is for Everyone manifesto

Nieuw open-sourcemodel tegelijk met essay uitgebracht

Meta publiceerde het manifest tegelijk met de release van een open-sourceversie van het nieuwste model, Muse Glimmer. De stap volgde op de eerdere lancering van Musek Spark en kwam weken nadat Anthropic-ceo Dario Amodei uitlegde waarom zijn bedrijf weigerde een brief te ondertekenen die zich verzette tegen beperkingen op buitenlandse open-sourcemodellen.

Amodei uitte zorgen dat autoritaire overheden, met name China, voordelen zouden kunnen behalen uit onbeperkte modellen. Op dezelfde dag dat het manifest verscheen, riep senator Bernie Sanders AI-bedrijven op de ontwikkeling te pauzeren of anders met maatregelen van het Congres te maken te krijgen.

Distillatie en samenwerking met overheid benadrukt

Zuckerberg verdedigde de praktijk van distillatie, waarbij het ene model van het andere leert door prompts te genereren, als een essentieel onderdeel van hoe open ecosystemen vooruitgang boeken. Hij zei dat alle modellen uiteindelijk voortbouwen op menselijke kennis en waarschuwde dat het beperken van dit proces de Amerikaanse leidende positie zou schaden.

Het essay riep techbedrijven ook op om overheden vroegtijdig toegang te geven tot modellen in ruil voor hulp bij het versterken van cyberverdediging. Zuckerberg concludeerde dat achterblijven in de algehele AI-ontwikkeling een groter langetermijnrisico voor de veiligheid vormt dan welk afzonderlijk ontwikkelingsprobleem dan ook.

Tags bij dit artikel