- Wereld
- Buitenland
- Binnenland
- Sport nieuws
    - Voetbal nieuws
    - Formule 1 nieuws
    - Wielrennen
    - Ajax nieuws
    - Feyenoord nieuws
    - PSV nieuws
- Economie
- Wetenschap
- Showbiz/Media
- Computer nieuws
- Gaming nieuws
    - PS4 nieuws
    - Xbox One nieuws
- Hardware nieuws

Chinees ai-bedrijf deelt productiesoftware die is ontworpen om rekenkosten en energieverbruik voor modelhosting te verminderen

Het Chinese kunstmatige-intelligentiebedrijf DeepSeek heeft zijn interne inferentiesoftware, bekend als DeepInfer, als open source beschikbaar gemaakt. De stap moet bedrijven en ontwikkelaars in staat stellen de ai-modellen van het bedrijf sneller en met minder resourceverbruik te draaien.

DeepInfer fungeert als het productiesysteem waarop DeepSeek vertrouwt om modeluitvoering te versnellen en hardware-efficiëntie te verbeteren. Het bedrijf kondigde de release aan op X en stelde dat het de bredere gemeenschap wil helpen om kosten en energieverbruik bij geavanceerde ai te verminderen.

DeepSeek deelt productietechnieken voor bredere adoptie

Ondersteuning voor het V4.1-Flash-model is direct beschikbaar, met plannen om de compatibiliteit later uit te breiden naar andere systemen. Door de code te publiceren geeft DeepSeek inzicht in methodes die bij toonaangevende ai-ontwikkelaars doorgaans vertrouwelijk blijven.

De software bevat technieken zoals het verdelen van workloads over meerdere processors en andere optimalisaties die zijn afgestemd op de modellen van het bedrijf. Deze methodes maken hogere outputvolumes in kortere tijd mogelijk en halen meer prestaties uit beschikbare chips.

Industrie-experts benadrukken toegankelijkheidswinst

Thibault Jaigu, chief executive van ai-gateway-start-up Requesty, merkte op dat de release drempels verlaagt voor organisaties die DeepSeek-modellen op eigen infrastructuur willen hosten. Hij stelde dat het bedrijf daarmee effectief een blauwdruk voor efficiënt self-hosting biedt.

We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable.

Bredere implicaties voor hostingproviders en ondernemingen

Efficiënte inferentiesoftware kan de kosten per query aanzienlijk verlagen en mogelijk het energieverbruik verminderen. Cloudoperators en hostingbedrijven die DeepSeek-modellen draaien, kunnen deze optimalisaties nu direct implementeren.

Ondernemingen die de modellen op private infrastructuur willen draaien, profiteren van lagere operationele kosten. Onafhankelijke verificatie van de geclaimde efficiëntiewinst is op dit moment nog niet beschikbaar.

Ontwikkelaars buiten DeepSeek kunnen de code bestuderen en relevante technieken aanpassen voor hun eigen inferentiekaders, ook als de primaire focus op de modellen van het bedrijf ligt.