- Wereld
- Buitenland
- Binnenland
- Sport nieuws
    - Voetbal nieuws
    - Formule 1 nieuws
    - Wielrennen
    - Ajax nieuws
    - Feyenoord nieuws
    - PSV nieuws
- Economie
- Wetenschap
- Showbiz/Media
- Computer nieuws
- Gaming nieuws
    - PS4 nieuws
    - Xbox One nieuws
- Hardware nieuws

OpenAI-leider zegt dat onderbenut consumentengeheugen schaarse middelen verspilt die beter aan cloudinfrastructuur kunnen worden toegewezen

Consumenten die nieuwe telefoons, laptops of gameconsoles kopen, hebben het afgelopen jaar scherpe prijsstijgingen opgemerkt. De oorzaak ligt direct bij de stijgende vraag naar geheugenchips doordat AI-bedrijven enorme datacenters uitbreiden om geavanceerde modellen te trainen en te draaien.

Sam Altman, de topman van OpenAI wiens bedrijf volgend jaar een beursgang plant, verwerpt het idee dat AI op lokale apparaten toegangskwesties zal oplossen. Hij deed zijn uitspraken tijdens een optreden in de podcast Cheeky Pint.

Altman verwerpt lokale inferentie als efficiënte oplossing

Veel enthousiastelingen verwachten dat open-source modellen direct op persoonlijke hardware draaien, waardoor de afhankelijkheid van externe servers afneemt. Altman stelt daarentegen dat deze aanpak schaarse middelen verkeerd verdeelt in een omgeving met beperkte aanvoer.

Veel mensen willen lokale inferentie. En op de een of andere manier nemen ze aan dat het probleem nu is opgelost omdat we open-source modellen krijgen, die we op onze computers kunnen draaien, zodat we al die dingen in het datacenter niet meer nodig hebben.

Globaal gebruik geeft de voorkeur aan gecentraliseerde cloudsytemen

Altman benadrukte efficiëntiecijfers. Persoonlijke computers gebruiken doorgaans slechts een klein deel van hun DRAM-capaciteit op elk moment, merkte hij op, terwijl datacenters vrijwel continu kunnen draaien.

Vanuit een globaal allocatieperspectief is het eigenlijk heel slecht als iedereen een deel van de beperkte wereldwijde voorraad DRAM in zijn eigen computer heeft zitten en dat maar vijf procent van de tijd gebruikt. Je wilt maximale benutting in de cloud als je te maken hebt met deze zeer beperkte aanvoersituatie.

Bredere implicaties voor consumententoegang en eigendom

Het standpunt wijst op een toekomst waarin geavanceerde AI-mogelijkheden vooral via de cloud worden aangeboden. Gebruikers zouden toegang krijgen via abonnementen in plaats van modellen lokaal te draaien, terwijl de geheugenprijzen voor alledaagse elektronica blijven stijgen.

Deze visie gaat verder dan eenvoudige modeltoegang. Altman verwees naar scenario’s waarin agents namens gebruikers rekenkracht onderhandelen, waardoor AI via gecentraliseerde platforms nog dieper in het dagelijks leven wordt ingebed.