Kunstmatige intelligentie (AI) speelt een steeds grotere rol in de gezondheidszorg, maar de integratie ervan verloopt niet altijd zonder problemen. In haar proefschrift "Broken Glass in the Clinic: Tracing the Performativity of Artificial Intelligence in Clinical Practice" onderzoekt Chiara Carboni van de Erasmus School of Health Policy & Management hoe AI de klinische praktijk beïnvloedt. Haar onderzoek benadrukt zowel de kansen als de uitdagingen van AI in de zorg en pleit ervoor dat AI de expertise van zorgverleners ondersteunt in plaats van vervangt.
Carboni voerde casestudies uit in de pathologie, op de intensive care en in de acute psychiatrie. In deze domeinen onderzoekt ze hoe AI-systemen worden ingezet en welke gevolgen dit heeft voor de dagelijkse praktijk. Hoewel AI vaak wordt gepresenteerd als een oplossing voor complexe vraagstukken, laat haar onderzoek zien dat deze technologie ook onzekerheid en nieuwe werkdruk met zich meebrengt.
In de pathologie bijvoorbeeld, schakelen ziekenhuizen over van traditionele microscooppreparaten naar digitale beelden, wat de weg vrijmaakt voor AI-gebaseerde diagnostiek. Veel pathologen vinden digitale beelden echter minder betrouwbaar en ervaren onzekerheid in hun werk. Op intensive care afdelingen worden AI-dashboards gebruikt om verpleegkundigen te helpen prioriteiten te stellen. Hoewel dit de efficiëntie kan verhogen, kan het tegelijkertijd de autonomie van zorgprofessionals ondermijnen, omdat zij het gevoel krijgen dat hun ervaring wordt vervangen door technologie.
In de psychiatrie worden voorspellende algoritmen ingezet om het risico op gewelddadig gedrag te beoordelen. Zorgverleners zijn vaak sceptisch over deze tools, omdat ze complexe en ethisch beladen fenomenen zoals geweld te veel simplificeren. Bovendien stelt Carboni dat AI niet alleen nieuwe instrumenten biedt, maar ook de manier verandert waarop zorg georganiseerd wordt. Taken worden steeds vaker aangepast aan de eisen van AI-systemen, wat soms leidt tot méér in plaats van minder werk.
Carboni benadrukt dat de focus bij AI-implementatie niet alleen op efficiëntie moet liggen, maar op het verbeteren van zorg. Zorgverleners moeten voldoende tijd krijgen om kritisch na te denken over de uitkomsten van AI. Ook pleit zij voor meer erkenning van de dataverzameling die nodig is om AI-systemen te trainen. Haar belangrijkste boodschap: AI moet een ondersteunend hulpmiddel zijn dat zorgverleners helpt betere beslissingen te nemen, zonder hun professionele autonomie aan te tasten.
Foto: Chiara Carboni | Bron: Erasmus School of Health Policy & Management
