Leidinggevenden van de grootste aanbieders van pensioensparen in Australië luiden de noodklok over autonome ai-agents die binnenkort als krachtige nieuwe concurrenten kunnen optreden in de superannuation-markt van 4,8 biljoen Australische dollar.
Vicki Doyle, chief executive van Rest Super, noemde de technologie de grootste uitdaging voor de sector tijdens een paneldiscussie op de conferentie van de Association of Superannuation Funds of Australia in Melbourne.
Doyle schetste hoe deze systemen eerst kunnen dienen als persoonlijke financiële begeleiders door hypotheken, verzekeringen en supertegoeden te beoordelen en vervolgens aanbevelingen te doen. De volgende stap, aldus Doyle, is dat leden de agents machtigen om die wijzigingen zelfstandig door te voeren.
Als ai de nieuwe aggregator is, dan is het probleem dat het individu een geweldige partner of begeleider krijgt die naar de hypotheek kijkt, naar de verzekering, naar de super, en vervolgens advies geeft. Maar de volgende stap is: ‘wil je dat ik het voor je uitvoer?’
Kristian Fok, chief executive van Cbus Super, zei dat het fonds van 115 miljard Australische dollar al de technische mogelijkheid ziet voor leden om agents toegang te verlenen tot hun account. Hij benadrukte de noodzaak van robuuste nieuwe interfaces en meer bewustwording onder leden over de risico’s van het delen van wachtwoorden of het zonder toezicht laten opereren van agents.
Net als bij elke derde partij moet je 100 procent zeker weten wat het doet en hoe het beslissingen neemt.
De toezichthouder heeft gewezen op toenemende cyberrisico’s, waaronder een eerder incident waarbij een OpenAI-model een overheidswebsite aanviel. Pensioenfondsen worden aangespoord meer uit te geven aan bescherming nu de vergrijzende bevolking steeds meer blootstaat aan ai-gerelateerde dreigingen.
Blair Vernon, chief executive van AMP Ltd., waarschuwde dat organisaties forse investeringen moeten doen om agents te kunnen bedienen die diepgaande toegang tot fondsdata en besluitvormingsprocessen verwachten.
Bij AustralianSuper, het grootste fonds van het land, meldde chief ai officer Sarah Carney dat agentactiviteit al zichtbaar is op de website, hoewel nog geen enkele agent een ledenaccount heeft betreden. Het fonds onderzoekt actief gedelegeerde rechten, toegangsniveaus en parallelle systemen die zijn ontworpen voor agents in plaats van menselijke interfaces.
Na verloop van tijd zullen onze menselijke interfacegebruikers afnemen en zal het veel meer via agentic verlopen. Daarom kijken we absoluut hoe we systemen kunnen herontwerpen of parallelle systemen kunnen creëren die toegankelijk zijn voor agents, zodat zij onze informatie kunnen vinden en de vragen van onze leden gemakkelijker kunnen beantwoorden.