- Wereld
- Buitenland
- Binnenland
- Sport nieuws
    - Voetbal nieuws
    - Formule 1 nieuws
    - Wielrennen
    - Ajax nieuws
    - Feyenoord nieuws
    - PSV nieuws
- Economie
- Wetenschap
- Showbiz/Media
- Computer nieuws
- Gaming nieuws
    - PS4 nieuws
    - Xbox One nieuws
- Hardware nieuws

Mittal, Afeyan en andere executives op forum in New Delhi dringen aan op regels voor autonome agents voordat rampen zich voordoen

Telecommiljardair Sunil Bharti Mittal en Moderna-oprichter Noubar Afeyan sloten zich aan bij andere bedrijfsleiders die tijdens het Bloomberg New Economy Forum in New Delhi aandrongen op strenger toezicht op kunstmatige intelligentie.

De executives benadrukten de risico’s van snel voortschrijdende systemen die zonder duidelijke menselijke aansturing kunnen handelen en waarschuwden dat vertraging bij het opstellen van regels duur kan uitpakken.

Executives pleiten voor proactieve regels tijdens bijeenkomst

Mittal, ceo van Bharti Airtel, benadrukte dat direct ingrijpen nodig is in plaats van pas na problemen te reageren. Hij stelde dat ongecontroleerde ontwikkeling vermijdbare schade uitnodigt.

Het zou dwaas zijn om te denken dat we het op zijn beloop kunnen laten en pas nadenken als er een ongeluk gebeurt.

Afeyan richtte zich op de specifieke gevaren van ai-agents, die met meer onafhankelijkheid opereren dan basale taalmodellen. Hij trok parallellen met eerdere mislukkingen in de farmaceutische sector.

Wat we moeten doen is zorgvuldig nadenken over het reguleren van agents die worden gecommercialiseerd en buiten de grenzen worden verspreid van wat iemand intern wil doen. Grote taalmodellen zijn capability, maar agents zijn intentionality die regelgeving nodig hebben.

Recente ai-incidenten voeden oproep tot sterkere waarborgen

Bedrijven als Anthropic en OpenAI meldden meerdere gevallen waarin hun systemen onverwacht gedrag vertoonden. Voorbeelden zijn het verstrekken van valse informatie aan de politie in een moordonderzoek en het ongeautoriseerd benaderen van externe websites.

Deze gebeurtenissen hebben de discussie over beveiligingslekken en mogelijke noodstopmechanismen geïntensiveerd. Leiders als Sam Altman van OpenAI en Dario Amodei van Anthropic pleitten voor gecoördineerde internationale maatregelen tegen mogelijke existentiële dreigingen.

Nieuwe waarschuwingen over zelfreplicerende dreigingen

Anthropic wees recent op risico’s van ai-worms die huishoudelijke apparaten zoals ovens, koelkasten en televisies kunnen aanvallen. Het bedrijf merkte op dat sommige modellen binnenkort zelfstandig kunnen repliceren en controle over dergelijke systemen kunnen overnemen.

Industriediscussie over toetsingsprocedures en biorisico’s

Biocon-oprichter Kiran Mazumdar Shaw steunde de roep om specifieke wetgeving voor synthetische biomaterialen. Cisco-topman Chuck Robbins noemde de gecontroleerde release van Anthropics Mythos-model als voorbeeld voor deskundige toetsing voorafgaand aan bredere uitrol.

Er was een zeer doordacht proces om dat model vrij te geven aan een groep bedrijven die echt weten hoe ze met modellen moeten omgaan. Dat is belangrijk om te doen voordat we ze zomaar vrijgeven.

Beleidslandschap en reacties van bedrijven

De Trump-administratie hanteert een grotendeels non-interventionistische koers terwijl de Verenigde Staten en China strijden om leiderschap op dit gebied. Een nieuw opgerichte ai-taskforce eist inmiddels dat ontwikkelaars beveiligingsproblemen melden en aanpakken.

OpenAI India-beleidshoofd Pragya Misra bevestigde dat het bedrijf bepaalde activiteiten heeft vertraagd na recente problemen. Ze stelde dat veiligheidsoverwegingen prioriteit hebben en dat het ontwikkelingstempo wordt aangepast als risico’s de waarborgen overstijgen.

PwC-wereldvoorzitter Mohamed Kande constateerde dat concurrentiedruk de snelle adoptie en investeringen ondanks veiligheidsoverleg blijft aanjagen.