Geregistreerde verpleegkundigen in faciliteiten van HCA Healthcare melden dat een kunstmatig intelligent planningsprogramma opeenvolgende diensten heeft afgedwongen, verzoeken om vrije tijd heeft genegeerd en intensivecare-afdelingen in minstens één geval ernstig onderbezet heeft achtergelaten.
De bevindingen komen uit een nieuwe studie die deze week is gepubliceerd door het AI Now Institute, dat input verzamelde van vakbondsverpleegkundigen in meerdere staten. De software in kwestie, bekend als Timpani, wordt gebruikt in meer dan 130 HCA-ziekenhuizen en maakt deel uit van een bredere golf van ai-toepassingen in de klinische praktijk.
Deelnemers aan focusgroepen en workshops vertelden hoe Timpani, ontwikkeld in samenwerking met Palantir Technologies, schema’s genereert op basis van voorspelde patiëntenaantallen dertig dagen van tevoren. Verschillende verpleegkundigen zeiden dat lokaal personeel de uitkomst niet gemakkelijk kan aanpassen, omdat wijzigingen via een centraal team lopen dat alleen via de app bereikbaar is.
Een psychiatrisch verpleegkundige uit Missouri, die het pseudoniem Luke gebruikt, legde uit dat het systeem diensten plaatst zonder flexibiliteit voor aanpassingen ter plaatse. De geïnterviewde verpleegkundigen zeiden dat het hulpmiddel burn-out niet heeft verminderd en mogelijk kostenbesparing boven het welzijn van het personeel stelt.
HCA Healthcare, dat ongeveer 100.000 verpleegkundigen in dienst heeft, stelde dat het personeel jaarlijks 98 procent van de gewenste diensten haalt en wijzigingen of ruilingen rechtstreeks in de Timpani-app kan aanvragen. Het bedrijf noemde de steekproef van zestien vakbondsverpleegkundigen te beperkt om de algehele effectiviteit van de software te beoordelen.
Het rapport bespreekt ook camerasystemen die vitale functies op afstand volgen. Een verpleegkundige uit Nevada, geïdentificeerd als Alex, merkte op dat zijn faciliteit persoonlijke toezichthouders voor valrisicopatiënten heeft vervangen door een remote opstelling die door één medewerker voor meerdere locaties wordt gemonitord. Hij vergeleek de regeling met de film Minority Report.
De studie bespreekt verder Oxevision, een contactloos monitoringproduct dat nu wordt aangeboden door LIO. Hoewel geen van de geïnterviewde verpleegkundigen het had gebruikt, verwijzen de auteurs naar vier Britse sterfgevallen die met het systeem in verband worden gebracht tijdens een lopend openbaar onderzoek naar sterfgevallen in de geestelijke gezondheidszorg.
AI Comes for Nursing stelt dat ziekenhuizen kunstmatige intelligentie snel invoeren, vaak zonder verpleegkundigen te vertellen wat er is veranderd.
Co-auteur Katie Wells van het AI Now Institute benadrukte dat de kwalitatieve verhalen laten zien hoe ai, die wordt gepresenteerd als oplossing voor druk op de gezondheidszorg, in plaats daarvan de kwaliteit van het werk kan aantasten. Ze wees op het gebrek aan onafhankelijke evaluaties van deze hulpmiddelen.
Het rapport verschijnt tegen de achtergrond van groeiend publiek verzet tegen de uitbreiding van ai, waaronder recente steminitiatieven om datacenters te beperken en restricties in grote schoolbesturen. De auteurs stellen dat het narratief over het tekort aan verpleegkundigen diepere problemen van onderbezetting door kostenbesparingen maskeert.
Harvard Law-professor I. Glenn Cohen benadrukte dat zelfs gevalideerde hulpmiddelen lokale tests vereisen, omdat de prestaties per setting kunnen verschillen. Hij riep ziekenhuizen op om artsen, verpleegkundigen en patiënten te betrekken bij de selectie en implementatie van ai-systemen om onbedoelde verschuivingen in professionele verantwoordelijkheid te voorkomen.