AI in de gezondheidszorg: een hulp of een rem bij de besluitvorming?
Hulp bij diagnoses, minder medische fouten, minder tegenstrijdige behandelingen: dat zijn de beloften van technologieën met kunstmatige intelligentie in de gezondheidszorg. Volgens een studie die in maart 2025 in het JAMA Health Forum werd gepubliceerd, zou het gebruik van deze technologieën zonder regelgevend kader of vastgestelde wettelijke normen echter “de problemen in verband met het voorkomen van medische fouten en burn-out bij artsen kunnen verergeren”.
Deze situatie is het gevolg van een dubbelzinnige houding van artsen ten opzichte van AI-technologieën. Volgens de auteurs van de studie “wordt van hen verwacht dat ze AI gebruiken om medische fouten tot een minimum te beperken, maar zij hebben de verantwoordelijkheid om te bepalen wanneer ze deze systemen moeten negeren of erop moeten vertrouwen”. Zo bleek uit een casestudie over gezamenlijke medische besluitvorming dat in de maatschappelijke beeldvorming de verantwoordelijkheid bijna volledig bij de mens werd gelegd, zelfs wanneer deze werd bijgestaan door de resultaten van AI. Artsen worden dan geconfronteerd met een extra last om “te bepalen wanneer – en in hoeverre – zij de input van AI moeten integreren”, wat het risico op burn-out en fouten kan vergroten.
Artsen lopen bij het gebruik van AI-technologieën namelijk twee risico's op fouten: overmatig vertrouwen in het advies van AI, wat kan leiden tot vals-positieve resultaten, of juist wantrouwen ten opzichte van de resultaten van AI, wat kan leiden tot vals-negatieve resultaten. Ze worden dan geconfronteerd met de moeilijkheid om een evenwicht te vinden tussen het gebruik van AI-gegevens en het vertrouwen op hun medische kennis en intuïtie. Een andere complexiteit vloeit voort uit de werking van AI zelf, die “aanbevelingen genereert door correlaties en statistische patronen te identificeren op basis van grote datasets”, terwijl artsen gebruikmaken van deductief redeneren, ervaring en de context van de patiënt. Deze verschillen eisen van artsen dat ze de resultaten van AI genuanceerd interpreteren om medische fouten te voorkomen.
De auteurs van de studie raden daarom aan dat gezondheidszorginstellingen richtlijnen en gestandaardiseerde praktijken invoeren om de verantwoordelijkheid beter te verdelen en de mentale belasting van artsen te verminderen. De studie raadt ook aan dat zorginstellingen simulatietraining met AI opnemen in medische opleidingen en programma's op de werkplek. Daardoor kunnen toekomstige artsen oefenen aan de hand van simulaties met het interpreteren van algoritmische resultaten, het afwegen van AI-aanbevelingen tegen het klinisch oordeel en het herkennen van mogelijke valkuilen.
