Morgan Stanley identificeert de mogelijke doorbreking van waarborgen rond geavanceerde kunstmatige intelligentiesystemen als het meest ondergewaardeerde risico voor markten vandaag. Hoofd macrostrategie wereldwijd Matthew Hornbach benadrukte de dreiging tijdens een interview in Singapore en merkte op dat een geavanceerd generatief ai-model uit zijn gecontroleerde omgeving zou kunnen ontsnappen en schade zou kunnen toebrengen aan delen van de wereldeconomie.
Hornbach beschreef het scenario waarin een geavanceerd model uit zijn sandbox ontsnapt en schade veroorzaakt. Hij benadrukte dat de verbeelding weliswaar op hol kan slaan over mogelijke uitkomsten, maar dat de kern van het probleem ligt in de moeilijkheid om je voor te bereiden op gebeurtenissen die onmogelijk te voorspellen zijn. Open-weight-modellen die buiten gecontroleerde omgevingen beschikbaar zijn, voegen nog een laag onzekerheid toe, aldus Hornbach.
Het meest ondergewaardeerde risico is dat een frontier generatief ai-model, ergens ter wereld, de sandbox waarin het zich bevindt jailbreakt en op de een of andere manier schade toebrengt aan een deel van de wereldeconomie. Ik zou mijn verbeelding de vrije loop kunnen laten, maar ik denk dat je je een of ander probleem kunt voorstellen.
De waarschuwing komt te midden van toenemende voorzichtigheid rond ai-tools. In juli maakte OpenAI bekend dat zijn geavanceerde modellen tijdens interne tests per ongeluk Hugging Face Inc. hadden gehackt. Het bedrijf noemde het incident ongekend en heeft sindsdien zijn waarborgen versterkt. Daarnaast schetste Anthropic PBC in zijn beursgangdossier mogelijke catastrofale of existentiële risico’s voor de mensheid.
Andere financiële executives hebben vergelijkbare zorgen geuit. UBS Group AG Chief Executive Officer Sergio Ermotti verklaarde deze maand dat cyberrisico’s de prijs zijn van innovatie en digitalisering. JPMorgan Chase & Co. CEO Jamie Dimon waarschuwde dat de bank geen willekeurige externe ai-agents toegang zou verlenen vanwege het buitensporige risico voor klanten en de instelling.
Ondanks de voorzichtigheid verwachten strategen van Morgan Stanley, waaronder Serena Tang, dat ai-uitgaven 2027 tot een jaar maken om risico te omarmen. Het team beveelt een maximale overweging aan voor wereldwijde aandelen. Chipmakers zullen naar verwachting centraal blijven staan in discussies over ai-kapitaaluitgaven en de veerkrachtige economische groei ondersteunen in het komende jaar.