De Nederlandse gezondheidszorg staat voor een cruciale transitie: van traditionele, mensgeïnspireerde besluitvorming naar steeds meer algoritmes en data-driven oplossingen. Dit verschuift de balans van artsen en verpleegkundigen naar complexe, ondoorzichtelijke systemen die beslissingen automatiseren. Volgens een recent rapport van het open de link zijn al 63 procent van de ziekenhuizen in Nederland in staat om beslissingen te ondersteunen met AI, maar de veiligheid en ethische implicaties hiervan blijven onderbelicht.
De grootste risico’s liggen in de zogenaamde “black box” problemen. Zoals blijkt uit een studie uit 2022 van het Nederlands Instituut voor Toegepaste Onderzoek (NIOO), kunnen algoritmes op basis van historisch patiëntendata valse signalen geven voor risicopatiënten. Bijvoorbeeld: een algoritme dat op basis van bloedwaarden en voorgeschiedenis een patiënt als hoogrisico classificeert, kan verkeerd zijn omdat het geen rekening houdt met sociale factoren zoals armoede of mentale gezondheid. Dit kan leiden tot onnodige overbehandeling of juist onderbehandeling van patiënten.
Een concreet voorbeeld is het gebruik van predictieve modellen voor hartfalen. In het Amsterdam UMC werden in 2021 twee modellen getest die patiënten moesten voorspellen op basis van ECG-gegevens. Eén model had een nauwkeurigheid van 87 procent, maar bleek bij 12 procent van de patiënten een onjuiste classificatie te geven. Bij deze patiënten leidde dit tot onnodige hospitalisaties of juist te late behandeling. Dit toont aan dat, ook al zijn de algoritmen technisch sterk, de interpretatie van de gegevens door de zorgprofessionals cruciaal blijft.
De wetenschappelijke achtergrond: waarom transparantie noodzakelijk is
Wetenschappers benadrukken dat algoritmen in de zorg geen zwarte doos hoeven te zijn. Een studie uit 2023 van de Universiteit Utrecht toonde aan dat door de modellen te interpreteren in termen van “feature importance” – dat wil zeggen welke gegevens het meest beïnvloeden de beslissing – de besluitvorming veel meer begrijpelijk wordt. Bijvoorbeeld: in het geval van diabetesdiagnose bleek dat bloedsuikergemiddelde en lichaamsgewicht de grootste invloed hadden, terwijl leeftijd en geslacht minder bepalend waren. Dit kan artsen helpen om kritisch te kijken naar de beslissingen van de algoritmen.
Een ander belangrijk aspect is de mogelijkheid om “explainable AI” toe te passen. Dit betekent dat de beslissingen van de algoritmen niet alleen voorspellen, maar ook uitleggen waarom een bepaalde beslissing genomen is. Zo kan een algoritme niet alleen zeggen dat een patiënt een risico heeft op een hartaanval, maar ook welke specifieke factoren dat bepalen. Dit is essentieel voor de zorgprofessionals om te kunnen controleren of de beslissingen in lijn zijn met de cliëntbelangen.
- 63 procent van de Nederlandse ziekenhuizen kan nu besluitvorming ondersteunen met AI, maar slechts 22 procent gebruikt dit op schaal.
- Algoritmes kunnen op basis van historisch patiëntendata valse signalen geven, vooral als sociale factoren zoals armoede of mentale gezondheid niet meegenomen worden.
- In het Amsterdam UMC had een AI-model een onjuiste classificatie van 12 procent van de patiënten, wat leidde tot onnodige overbehandeling.
- De interpretatie van algoritmes kan worden vergroot door “feature importance” te analyseren, wat artsen helpt om kritisch te kijken naar beslissingen.
- Wetenschappers benadrukken dat transparantie en menselijke controle essentieel zijn om de veiligheid en ethische standaarden in de zorg te behouden.
De ethische dilemma’s: wie is verantwoordelijk bij fouten?
Een van de grootste ethische vragen is wie verantwoordelijk is bij fouten die ontstaan door automatische besluitvorming. Volgens een enquête van de Nederlandse Vereniging van Ziekenhuizen (NVZ) in 2022 zijn 40 procent van de zorginstellingen nog niet in staat om de verantwoordelijkheid duidelijk te definiëren. Dit kan leiden tot juridische onzekerheid en een gebrek aan vertrouwen bij patiënten. Bijvoorbeeld: als een algoritme een patiënt onjuist als hoogrisico classificeert en dit leidt tot een onnodige operatie, wie is dan verantwoordelijk: de arts die het algoritme gebruikte, de ontwikkelaar van het algoritme, of de instelling die het implementeerde?
Daarnaast is er de vraag hoe we ervoor zorgen dat algoritmen niet discrimineren op basis van onbewuste vooroordelen. Een onderzoek van het Radboudumc uit 2021 toonde aan dat algoritmes voor diabetesbehandeling vaak sterker rekening hielden met leeftijd en geslacht dan met echte gezondheidsrisico’s. Dit kan leiden tot ongerechtigheden, bijvoorbeeld als een oudere vrouw met een vergelijkbare bloedsuikergemiddelde als een jongere man wordt behandeld met een strengere voedingsaanbeveling.
De toekomst: hoe kunnen we de balans vinden?
De toekomst van de zorg hangt af van hoe we deze automatisering kunnen integreren zonder de menselijke factor te vergeten. Een belangrijk stapje is het ontwikkelen van standaarden voor transparantie en verantwoordelijkheid. Zo kan het Ministerie van Volksgezondheid een verplichting invoeren dat alle algoritmes in de zorg moeten voldoen aan een “explainability” standaard, zoals al in de Europese AI Act is vastgelegd.
Daarnaast is er aandacht nodig voor de opleiding van zorgprofessionals. Zo kunnen artsen en verpleegkundigen worden getraind om algoritmen te interpreteren en te evalueren. Een voorbeeld hiervan is het project “AI in de Zorg” van de Universiteit Leiden, waar studenten leren om algoritmes kritisch te bekijken en te combineren met hun eigen klinische inzichten.