AI in de huisartsenpraktijk

Dit document gaat in op wat we verstaan onder AI, de kansen die AI biedt voor de Nederlandse huisartsenzorg, wet- en regelgeving, ethische overwegingen en risico’s. Ook de noodzaak van onderzoek wordt kort toegelicht. Dit document is bedoeld voor zowel collega’s binnen het NHG als voor NHG-leden.

Waar de term ‘huisarts’ staat, bedoelen we het hele huisartsenteam: de huisarts(en) en andere medewerkers, zoals praktijkmanagers, spreekuur- en praktijkondersteuners, doktersassistenten en triagisten.

Dit is een levend en lerend document dat wordt aangevuld op basis van nieuwe inzichten, praktijkervaringen en wetenschappelijk onderzoek. Updates zullen op de NHG-website worden geplaatst, met de wijzigingen ten aanzien van de vorige versie. Het NHG werkt daarnaast aan aanbevelingen en een overzicht van handvatten om huisartsen te ondersteunen bij de toepassing van AI in de praktijk.

De Europese Commissie hanteert de volgende definitie van AI: 

High-Level Expert Group on Artificial Intelligence: ‘Systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – in zekere mate zelfstandig – actie te ondernemen om specifieke doelstellingen te verwezenlijken.’   

Ofwel: menselijke intelligentie wordt nagebootst doordat computers, op basis van algoritmes, zelfstandig taken kunnen uitvoeren.  

De ontwikkeling van AI

Sinds de introductie van de term AI in 1956 is de technologie enorm vooruitgegaan. Aanvankelijk werden eenvoudige algoritmes gebruikt, een reeks regels en instructies. In de jaren 80 ontstond Machine Learning, waarmee systemen konden leren van data. Rond 2000 volgde Deep Learning, gebaseerd op neurale netwerken, waarmee het mogelijk werd om complexe patronen te herkennen. Vanaf 2020 werd Generatieve AI bekend bij een breed publiek, een vorm van AI die zelf nieuwe inhoud kan genereren, zoals tekst, afbeeldingen, audio en video.

Vroegere AI-systemen zijn beperkt tot vooraf gedefinieerde kennis (kennis-gedreven AI). Met de opkomst van Machine Learning (ML) is AI aanzienlijk geavanceerder geworden. Bij ML worden modellen niet meer expliciet geprogrammeerd, maar leren zij zelf patronen herkennen in data (data-gedreven AI). Denk aan systemen die leren welke symptomen vaak samengaan met bepaalde aandoeningen, of die risicoprofielen opstellen voor ziekenhuisopname. ML wordt onder meer toegepast in Natural Language Processing (NLP), waarbij medische tekst zoals consultverslagen of triagevragen, automatisch geanalyseerd wordt om belangrijke informatie of hulpvragen te achterhalen. Dit is bijvoorbeeld de technologie achter slimme symptoomcheckers.

Een belangrijke subcategorie van ML is Deep Learning (DL). DL gebruikt diepe neurale netwerken: wiskundige modellen die meerdere lagen gebruiken om complexe structuren in data te herkennen. DL is bij uitstek geschikt voor het analyseren van grote en diverse datasets, zoals medische beelden of spraak. Voorbeelden van DL zijn systemen die huidafwijkingen beoordelen op mogelijke maligniteit, of modellen die spraak omzetten naar tekst in het patiëntendossier. Door de toegenomen rekenkracht en beschikbaarheid van data is DL de motor achter veel recente innovaties.

De meest recente ontwikkeling binnen AI is generatieve AI. Deze systemen zijn niet alleen in staat bestaande informatie te analyseren, maar kunnen ook zelfstandig nieuwe content genereren: teksten, beelden of zelfs audio. De onderliggende technologie bestaat uit grote taalmodellen (Large Language Models, LLM’s), gebaseerd op Deep Learning. Deze modellen zijn getraind op enorme hoeveelheden tekst en begrijpen menselijke taal op contextueel niveau. Binnen de zorg kunnen we deze systemen inzetten voor het samenvatten van consulten, opstellen van brieven of het beantwoorden van medische vragen via chatbots.

AI heeft zich daarmee ontwikkeld van statische regelsets tot zelflerende systemen. Voor huisartsen biedt dit nieuwe kansen op het gebied van besluitvorming, efficiëntie en patiëntveiligheid. Tegelijkertijd vraagt het om inzicht in de werking en beperkingen van deze technologieën, zodat ze verantwoord en doelgericht kunnen worden ingezet in de praktijk.

Contactvoorbereiding

Het contact van de patiënt met de praktijk kan plaatsvinden via een chatbot of virtuele assistent op de website van de praktijk of in een app. Deze toepassingen zijn 24/7 beschikbaar. Ze kunnen informatie verzamelen, afspraken maken, eenvoudige vragen beantwoorden en administratieve ondersteuning bieden door klachten te noteren in het patiëntendossier. Een dergelijke toepassing kan de huisarts ondersteunen en het werkplezier vergroten. In de toekomst komen waarschijnlijk meer interactieve opties beschikbaar, bijvoorbeeld in de vorm van een avatar, ofwel een mensachtig AI-figuur op het scherm, die beweegt en reageert. 

Triage- en consultvoorbereiding

AI kan processen zoals digitale triage- en consultvoorbereiding ondersteunen. Digitale triagevoorbereiding houdt in dat een patiënt, op advies van de huisarts, gebruik maakt van een digitale toepassing die informatie verzamelt over urgentiecriteria, als voorbereiding op de (professionele) triage door de praktijk. Onder digitale consultvoorbereiding verstaan we het proces waar de patiënt, op advies van de huisarts, een digitale toepassing gebruikt die informatie verzamelt  ter verheldering van de hulpvraag, klachten en/of metingen. Het kan bijvoorbeeld gaan om glucosewaarden, bloeddrukmetingen of vragenlijsten. Deze voorbereiding kan de huisarts gebruiken tijdens het consult. Er wordt op dit moment ervaring opgedaan met verschillende AI-toepassingen die zich richten op triage- en consultvoorbereiding.  

AI kan in potentie de huisarts helpen bij het stellen van een (differentiaal)diagnose, door de informatie in het dossier te interpreteren, analyseren en samen te voegen of door interpretatie van beelddata. Uitgangspunt is dat de huisarts de diagnose stelt, AI kan hierin ondersteunen. AI kan ook worden gebruikt om te zoeken binnen richtlijnen, labuitslagen te interpreteren en een waarschuwing te geven bij een uitslag die afwijkend is en/of urgentie behoeft.  

Behandeling

AI kan mogelijk gaan bijdragen aan meer gepersonaliseerde behandelplannen door het analyseren van grote hoeveelheden data, inclusief voorgeschiedenis, contra-indicaties, allergieën en intoleranties, meetwaarden, medicatie en leefstijlfactoren. Hierdoor kunnen behandelingen in de toekomst nog beter worden afgestemd op de individuele behoeften van de patiënt.  

Begeleiding en controle

Bij het inzetten van AI in telemonitoring wordt de gezondheidssituatie van een patiënt op afstand gevolgd, waarbij uitslagen van zelfmetingen en/of antwoorden op vragenlijsten worden gedeeld met de zorgverlener, volgens afgesproken doelen en beleid. Dit kan zorgen voor vroegtijdige signalering van gezondheidsproblemen, waarmee (ernstige) ziekte of opnames voorkomen kunnen worden. Telemonitoring levert naar verwachting inzicht en regie op voor patiënten. Er zijn hierdoor mogelijk minder bezoeken aan de huisarts nodig en het inzicht in de eigen gezondheidssituatie kan zorgen voor een veilig gevoel.  

AI-systemen kunnen hulp bieden bij samenwerking met en verwijzing naar andere zorgverleners, zoals medisch specialisten, thuiszorgmedewerkers en fysiotherapeuten. Een verwijsbrief kan gegenereerd worden op basis van het dossier, waarin uitslagen van reeds uitgevoerde onderzoeken zijn opgenomen. Sommige toepassingen, die in meer of mindere mate gebruikmaken van AI, vergemakkelijken consultatie met specialisten. Wanneer een overleg plaatsvindt tussen verschillende zorgverleners, kan AI ingezet worden voor de analyse van gedeelde zorgdata, het samenvatten van het gesprek en de gemaakte afspraken. 

Communicatie

AI-toepassingen die tekst vertalen voor algemeen gebruik zijn reeds ingeburgerd. Tegenwoordig ondersteunen AI-toepassingen ook de meertalige communicatie in de praktijk.  

Verslaglegging

Er zijn veelbelovende systemen op het gebied van verslaglegging, zoals spraakgestuurd rapporteren. Deze AI-toepassingen kunnen opgenomen gesprekken tussen huisarts en patiënt omzetten naar geschreven tekst, samenvatten en verwerken in de structuur van het HIS. Dit kan de administratieve last verminderen, het contact met de patiënt verbeteren en zorgen voor meer werkplezier.  

Oproep- en waarschuwingssysteem risicovolle patiënten 

AI kan in potentie helpen bij het identificeren van patiënten met een verhoogd risico op bepaalde aandoeningen om zo preventieve zorg te verbeteren. Ook is het met AI mogelijk om te achterhalen of patiënten die behandeld worden voldoende gecontroleerd worden, om de zorg veilig te houden. Een AI-systeem kijkt verder dan een consult en voegt data samen over voorgeschiedenis, labuitslagen en symptomen. Het kan de huisarts helpen om extra alert te zijn.  

Administratie en financiën 

Ook bij de financiële registratie kan AI steun bieden. Consulten kunnen aan de juiste declaratie worden gekoppeld en er kunnen dashboards worden gegenereerd om inzicht te krijgen in trends in de praktijk. 

AI kan risicoprofielen opstellen, om op basis daarvan patiënten te attenderen op het belang van een gezonde leefstijl. Ook kan een praktijk anticiperen op de toekomstige zorgbehoefte van de praktijkpopulatie. Het kan bijvoorbeeld voorspellen welke patiënten meer zorg nodig gaan hebben als gevolg van vergrijzing of een bepaalde chronische aandoening. Er kunnen dashboards gegenereerd worden, zodat inzichtelijk wordt waar de zorg het beste ingezet kan worden.  

AI-systemen worden ontwikkeld door mensen, binnen hun sociale context met hun eigen vooroordelen, en vaak met behulp van generieke informatie van het internet. Op die manier zijn veel AI-systemen ontwikkeld met data die niet representatief zijn voor de algemene bevolking. Bijvoorbeeld met data over jonge, witte mannen, of plaatjes van een stereotypisch beeld van een zorgverlener. Als een dergelijk AI-systeem breed wordt toegepast kan dit discriminerende uitkomsten opleveren. Denk hierbij bijvoorbeeld aan een AI-systeem voor beslisondersteuning dat minder snel hartproblemen herkent bij vrouwen, omdat de trainingsdata vooral gebaseerd zijn op mannen. Het is belangrijk dat de (trainings-)data van een AI-systeem voldoende divers, consistent en actueel zijn.  

Omdat niet alle patiënten (voldoende) toegang hebben tot AI-ondersteunde zorg, kan dit tot grotere zorgongelijkheid leiden. Dit geldt bijvoorbeeld voor ouderen, mensen met beperkte gezondheidsvaardigheden of een lagere sociaaleconomische positie.  

Als systemen niet goed samenwerken, kunnen sommige patiënten niet profiteren van AI-ondersteunde gezondheidszorg. De benodigde infrastructuur voor het gebruik van AI in de zorg is nog onvoldoende. Denk aan gegevenskwaliteit en toegankelijkheid, alsook samenwerking tussen systemen (interoperabiliteit). Grote organisaties met een goede digitale infrastructuur en toegang tot data, kunnen over het algemeen beter aan de slag met AI dan kleinere organisaties, waaronder de kleinere huisartsenpraktijken.  

Veel landen hebben moeite om de noodzakelijke regels en infrastructuur voor een effectief gebruik van AI bij te houden. Er is een (toenemende) afhankelijkheid van grote, vaak buitenlandse tech-bedrijven die de AI-technologieën leveren. Ook geopolitieke ontwikkelingen hebben invloed op innovatie.  

Huisartsen werken met gevoelige en persoonlijke informatie. Het gebruik van AI vraagt vaak toegang tot grote hoeveelheden data, die (voor een deel) onder het beroepsgeheim kunnen vallen. Zorgvuldig omgaan met die gegevens is naast een morele ook een juridische plicht. AI-toepassingen zijn vaak ontwikkeld door externe bedrijven en draaien op hun eigen servers. In deze systemen is het delen van persoonlijke medische gegevens niet gewenst en zullen gegevens geanonimiseerd moeten zijn. 

Bij onvoorzichtigheid kunnen data onbedoeld gedeeld worden buiten het dossier of zelfs buiten de Europese Unie. Dit kan bijvoorbeeld gebeuren wanneer een huisarts een medische vraag voorlegt aan een externe AI-toepassing die buiten de eigen praktijkomgeving functioneert, zoals een chatbot of app, en daarbij (te) veel persoonsgegevens invoert, zoals het klachtenpatroon en een locatie. Deze data kunnen herleidbaar zijn en bovendien buiten de EU worden verwerkt. Dit is bijvoorbeeld ook het geval bij sommige spraakherkenningssystemen, waarbij het systeem data tijdelijk opslaat op servers buiten de EU. Daar gelden vaak andere en/of minder strenge regels, waardoor de privacy van patiënten minder goed beschermd kan zijn.

Trainen van AI-modellen kost veel tijd en geld. Productie van computers en ICT-netwerken vraagt om zeldzame grondstoffen en levert elektronisch afval op (e-waste: alle elektrische apparaten die worden weggegooid). Grote datacenters gebruiken veel elektriciteit. Vooral in de trainingsfase vragen AI-toepassingen een enorme rekenkracht, wat tot een hoog energieverbruik en uitstoot van broeikasgassen leidt. Voor de elektriciteitscentrales en voor het afvoeren van de hitte van de servers zijn grote hoeveelheden koelwater (zoals drinkwater) nodig. Dit kan bijdragen aan waterschaarste, zeker in regio’s waar water al schaars is.  

AI-systemen dienen op een juiste en transparante manier ontwikkeld te worden, zodat een toepassing veilig, betrouwbaar, ethisch verantwoord en bruikbaar is in de praktijk. Validatie van AI-systemen gebeurt door deze te trainen en te testen met data die transparant en van hoge kwaliteit zijn, toepasbaar op de Nederlandse huisartsenzorg en toetsbaar aan de professionele standaard. Veel algoritmes, met name Deep Learning-modellen, zijn moeilijk te doorgronden en het is vaak onduidelijk wat de oorsprong is van de gebruikte trainingsdata. Dit is de zogenoemde black box: je stopt data in een systeem en er komt een voorspelling uit, maar het is niet duidelijk wat er binnenin gebeurt.  

De huisarts is verantwoordelijk voor het beleid, ook wanneer AI wordt ingezet. Als een patiënt schade ondervindt door gebruik van AI door de huisarts, kan de huisarts aansprakelijk zijn. Dit kan het geval zijn wanneer een AI-toepassing niet op de juiste manier gebruikt is door de zorgverlener of wanneer een toepassing gebruikt is waarvan de huisarts had kunnen weten dat deze onveilig of ongeschikt was voor de desbetreffende patiëntenpopulatie. Daarnaast kan aansprakelijkheid ontstaan als patiënten onvoldoende zijn geïnformeerd over situaties waarin een toepassing niet geschikt is om te gebruiken. Hoewel de leverancier verantwoordelijk is voor de algemene kwaliteit van een AI-toepassing, blijft het de taak van de huisarts om een zorgvuldige afweging te maken over het gebruik van AI in de praktijk. Aansprakelijkheidsrisico’s zijn daarmee te beperken, maar niet volledig uit te sluiten.  

AI kan verkeerde informatie geven. Het gebruik van een AI-chatbot kan leiden tot onjuiste, misleidende of volledig verzonnen informatie. Dit wordt hallucineren genoemd en is nooit helemaal uit te sluiten. Het opstellen van een weloverwogen en zoveel mogelijk concreet uitgewerkte prompt verkleint dit risico. Een prompt is de instructie aan AI, in de vorm van geschreven of (in)gesproken tekst. Het principe van ‘garbage in, garbage out’ is belangrijk. Het geeft aan dat een systeem alleen zinnige output kan geven, als er goed is nagedacht over de input. Dit principe betreft niet alleen het opstellen van een goede prompt, maar ook het goed nadenken over en het omschrijven van de brondata die gebruikt kunnen worden voor het antwoord.

Bij sommige spraakherkenningssystemen kan het voorkomen dat, bijvoorbeeld wanneer het geluid niet duidelijk genoeg wordt opgevangen, er tekst wordt verzonnen. In alle gevallen is het van belang dat een controle van de tekst plaatsvindt, omdat er fouten in kunnen staan en nuance verloren kan gaan.

Een risico bij het inzetten van AI in de huisartsenpraktijk is dat het kan leiden tot een toename van kosten en werkdruk. Het implementeren van een AI-toepassing vraagt namelijk om een investering in tijd, geld en personeel. Hoewel het doel vaak is om huisartsen te ontlasten en meer tijd vrij te maken voor de patiënt, is dit voordeel in de praktijk voor veel toepassingen nog niet aangetoond. Bovendien kan de professionele autonomie van de huisarts onder druk komen te staan, als AI-systemen veel taken overnemen. Ook kan de patiënt het gevoel krijgen dat de computer ‘bepaalt’ en er te weinig ruimte is voor persoonlijke aandacht.