Sam Altman, oprichter en chief executive van OpenAI, is van plan een visie voor wereldwijde normen voor kunstmatige intelligentie uiteen te zetten tijdens een persoonlijk adres aan de United Nations Security Council op woensdag.
De toespraak vindt plaats terwijl diplomaten aan de rand van de jaarlijkse UN General Assembly in New York bijeenkomen om de snelle ontwikkeling van AI-technologie te bespreken.
Vertegenwoordigers van het bedrijf beschreven Altmans benadering voorafgaand aan de sessie als die van een pragmatisch centrum. Het doel is volgens hen het vaststellen van gedeelde veiligheidsbenchmarks, zonder maatregelen die technologische vooruitgang vertragen of te veel invloed concentreren bij een klein aantal bedrijven.
Dario Amodei, chief executive van Anthropic, neemt naar verwachting op afstand deel aan dezelfde bijeenkomst.
De bijeenkomst vindt plaats tegen een achtergrond van toenemende bezorgdheid over ongecontroleerde AI-systemen. Die stemming werd eerder deze maand versterkt nadat een Anthropic-onderzoeker opstapte uit protest tegen wat de betrokkene beschreef als gokken met de openbare veiligheid door bedrijven.
UN Secretary-General Antonio Guterres waarschuwde dinsdag voor de mogelijke gevaren van de technologie en riep op tot sterkere internationale samenwerking.
globalist scheme
Op vragen over Trumps opmerkingen stelden woordvoerders van OpenAI dat het bedrijf geen specifiek internationaal regelgevend orgaan steunt. In plaats daarvan pleit het voor basisveiligheidsnormen in combinatie met democratische toezichtmechanismen.
Bestaande nationale AI-veiligheidsinstituten kunnen daaraan bijdragen en individuele landen moeten de mogelijkheid houden om via democratische processen eigen benaderingen te ontwikkelen, aldus de woordvoerders. De United Nations zelf zou discussies over normen kunnen faciliteren, voegden zij eraan toe.
Altman opperde het idee van een door de VS geleid internationaal orgaan al in juli. Hij werkte verwante ideeën uit in een blogpost die eerder deze week verscheen.
Anthropic gaf geen commentaar op de geplande opmerkingen van Amodei tijdens de sessie.