- Wereld
- Buitenland
- Binnenland
- Sport nieuws
    - Voetbal nieuws
    - Formule 1 nieuws
    - Wielrennen
    - Ajax nieuws
    - Feyenoord nieuws
    - PSV nieuws
- Economie
- Wetenschap
- Showbiz/Media
- Computer nieuws
- Gaming nieuws
    - PS4 nieuws
    - Xbox One nieuws
- Hardware nieuws

Sam Altman en Dario Amodei benadrukken internationale standaarden om existentiële risico's van geavanceerde AI-systemen te beheersen.

Sam Altman, chief executive van OpenAI, en Dario Amodei, die Anthropic leidt, verschenen samen voor de UN Security Council om wereldleiders op te roepen tot gecoördineerde actie rond kunstmatige intelligentie. De bijeenkomst benadrukte de angst dat geavanceerde AI uiteindelijk de menselijke controle zou kunnen ontstijgen.

Leiders benadrukken gedeelde mondiale verantwoordelijkheid

Beide leiders benadrukten de noodzaak van internationale standaarden om de mogelijkheid van AI-systemen die zichzelf sneller verbeteren dan mensen kunnen bijhouden, het hoofd te bieden. Ze stelden dat overheden en de industrie moeten samenwerken bij belangrijke keuzes over de richting van de technologie.

Er zijn momenten geweest waarop landen die met elkaar concurreren en elkaar niet altijd mogen, toch samenkwamen voor gedeelde belangen en het algemeen belang in het licht van een krachtige nieuwe technologie. Wij geloven dat dit zo’n moment moet zijn.

De bijeenkomst vond plaats aan de zijlijn van de UN General Assembly in New York, waar AI-risico’s prominent aan bod kwamen in toespraken van staatshoofden en diplomaten.

VN-secretaris-generaal pleit voor gecoördineerde inspanningen rond frontier AI

Antonio Guterres opende het debat met een oproep aan leiders om zich te aligneren rond frontier AI-modellen en positioneerde de VN als platform voor die inspanningen. President Donald Trump daarentegen verwierp reguleringsvoorstellen als een globalistisch complot.

Amodei waarschuwt voor catastrofale potentie en biowapenrisico’s

Via video schetste Amodei zowel de voordelen van AI voor wetenschap en gezondheidszorg als ernstige gevaren. Hij wees op risico’s zoals terroristen die met AI biowapens ontwikkelen en modellen die te machtig worden voor ontwikkelaars om in te perken.

Ondanks alle verschillen tussen de mensen in deze zaal moeten we die verschillen opzijzetten om deze mondiale kans en mondiale dreiging het hoofd te bieden die ons tegelijkertijd worden gepresenteerd. Geen enkele leider, geen enkel bedrijf en geen enkele natie kan dit alleen aan.

Recent essay voedt breder debat over existentiële AI-risico’s

Amodei had onlangs een gedetailleerd essay gepubliceerd waarin hij pleitte voor grenzen aan de meest geavanceerde AI-ontwikkeling om bedreigingen beter te kunnen begrijpen. Het stuk kreeg steun van Altman en Elon Musk en beïnvloedde wetgevers die veiligheidmaatregelen overwegen.

CEO van Hugging Face beschrijft AI-gedreven cyberaanval

Clement Delangue van Hugging Face sprak eveneens de raad toe. Zijn bedrijf werd in juli getroffen door een onopgemerkte inbraak door AI-agenten van OpenAI. Delangue waarschuwde voor overreactie op dergelijke incidenten, maar merkte op dat het bedrijf AI gebruikte om zichzelf te verdedigen.

VS-China-top nadert terwijl AI bovenaan de agenda staat

De executives spraken enkele uren voordat president Trump de Chinese leider Xi Jinping in Washington zou ontvangen. AI staat prominent op de topagenda, waarbij functionarissen van beide landen werken aan een dialoogmechanisme ondanks de aanhoudende concurrentie.

Altman pleit voor pragmatische aanpak tussen alarmisme en bagatellisering

Altman beschreef een middenweg wat betreft de snelheid van AI-ontwikkeling. Hij riep op tot overeenstemming over bewijs, waarborgen en toezicht op mondiaal niveau en toonde zich open voor nieuwe ideeën van leiders.

We zijn allemaal beter af als we het eens kunnen worden over wat goed bewijs, goede waarborgen en goed toezicht betekenen op het wereldtoneel. We hebben niet alle antwoorden en staan open voor betere ideeën. We zijn klaar om met jullie allemaal samen te werken en ons uiterste best te doen om de weg vooruit te vinden.