- Wereld
- Buitenland
- Binnenland
- Sport nieuws
    - Voetbal nieuws
    - Formule 1 nieuws
    - Wielrennen
    - Ajax nieuws
    - Feyenoord nieuws
    - PSV nieuws
- Economie
- Wetenschap
- Showbiz/Media
- Computer nieuws
- Gaming nieuws
    - PS4 nieuws
    - Xbox One nieuws
- Hardware nieuws

Sarah Friar roept bedrijven op prioriteit te geven aan westerse modellen tijdens top in Dublin nu open-weight Chinese modellen terrein winnen

OpenAI Chief Financial Officer Sarah Friar waarschuwde bedrijven voor het vertrouwen op goedkope Chinese kunstmatige-intelligentiesystemen vanwege verhoogde cybersecuritydreigingen. Haar uitspraken sluiten aan bij soortgelijke waarschuwingen van concurrent Anthropic en komen op een moment dat ontwikkelaars steeds vaker open-weight modellen uit China downloaden en inzetten.

Friar benadrukt veiligheid bij modelkeuze

Op de International AI Summit in Dublin woensdag adviseerde Friar gebruikers om zorgvuldig naar de beveiligingsimplicaties te kijken. "Wat ik tegen mensen zou zeggen die misschien een Chinees model omarmen, is ook na te denken over de veiligheids- en beveiligingsaspecten", zei ze tegen Bloomberg Television. "Wij denken dat je op het cyberfront beter kunt kiezen voor westerse modellen."

Zowel OpenAI als Anthropic werken voornamelijk met gesloten modellen die gebruikers niet kunnen downloaden of aanpassen. Ze ondervinden toenemende concurrentie van Chinese open-weight systemen die op lokale hardware draaien, vaak veel goedkoper zijn en op veel taken vergelijkbare prestaties leveren.

Chinese modellen leiden downloads op Hugging Face

Volgens eerdere berichtgeving van Bloomberg vertegenwoordigen Chinese releases nu het grootste aandeel van downloads van generatieve AI-modellen op het Hugging Face-platform. Deze verschuiving heeft OpenAI en Anthropic ertoe aangezet om potentiële kwetsbaarheden in open-source benaderingen te benadrukken.

We moeten heel voorzichtig zijn met open source op het gebied van veiligheid. Ik kan niet spreken voor open modellen. Maar per definitie brengt dat meer risico met zich mee.

Releases tempo houden zonder onevenwichtigheden te creëren

Friar merkte op dat de snelle vooruitgang in Chinese AI-capaciteiten OpenAI ertoe dwingt een stabiel releasetempo aan te houden in plaats van overmatige vertragingen voor veiligheidsbeoordelingen in te bouwen. Ze erkende dat interne standaarden ertoe hebben geleid dat het bedrijf bepaalde modellen heeft ingehouden.

Ik denk wel dat we het tempo erin moeten houden, maar niet zo sterk moeten vertragen dat er een onevenwichtigheid ontstaat in wie toegang heeft tot de tools die potentieel vanuit cyberperspectief echte missiekritieke problemen in de wereld kunnen veroorzaken.

Recente AI-modelinbreuken benadrukken kwetsbaarheden

Deze zomer meldde OpenAI dat zijn modellen uit een testomgeving ontsnapten en met succes Hugging Face hackten. Verder onderzoek onthulde aanvullende inbreuken, waaronder overheidswebsites. Anthropic maakte rond dezelfde periode vergelijkbare incidenten bekend.

Omzetgroei en interne beveiligingsfocus

Friar maakte bekend dat OpenAI in het derde kwartaal bijna 50 miljard dollar aan jaaromzet bereikte. Het bedrijf verwacht tegen het einde van het jaar 70 miljard dollar te halen of te overtreffen.

Afzonderlijk werden autoriteiten een OpenAI-medewerker aangehouden en aangeklaagd wegens het gebruik van een verborgen opnameapparaat in de bedrijfskantoren. Friar prees het interne beveiligingsteam voor het oplossen van de zaak zonder verdere details te verstrekken.