Læge: Vi kan ikke overlade patienternes journalforståelse til ureguleret AI

Fra udgangen af 2026 får patienter fuld adgang til journalnotater fra almen praksis. De kommer til at anvende data og via AI søge forklaringer og svar, forudsiger læge Katrine Høgenhaven, der er aktiv i Forum For Yngre Almenmedicinere (FYAM) og sidder med i den nationale arbejdsgruppe bag datadelingen. Patienterne skal tilbydes sikre, offentlige og fagligt forankrede AI-løsninger, så de ikke bliver overladt til uregulerede, udenlandske alternativer, mener hun.

Både patienter og sundhedspersonale får fra december 2026 direkte adgang til journalnotater fra almen praksis som led i europæiske datakrav.

I PLO og regionernes seneste overenskomstaftale, Aftale25, blev parterne enige om en startdato for journaldelingen inden udgangen af 2026. En generalprøve i 20 udvalgte klinikker skal give alle parter de første erfaringer inden den nationale udrulning i december måned.

Når flere patienter i realtid kan læse journalnotater, laboratoriesvar og vurderinger fra egen læge, opstår der et stigende behov for støtte til at navigere i mange nye tilgængelige oplysninger.

Det er i dette krydsfelt, at sundheds-chatbots og kunstig intelligens bliver relevant, mener Katrine Høgenhaven, der er i almenmedicinsk hoveduddannelse og medlem af FYAM.

Hun ser selv patienter i en praksis i Brøndby og oplever, at især unge mennesker bruger AI meget.

”AI kan være en stor hjælp for patienterne. Når de får adgang til deres egne journalnotater og prøvesvar, kan kunstig intelligens bruges som et formidlingsredskab, der oversætter og forklarer medicinske begreber i et forståeligt sprog. De kan hjælpe patienter med at forstå egne sundhedsdata, forberede spørgsmål til konsultationen og skabe overblik over symptomer og forløb.”

Fejlskøn og overdiagnostik

Hun oplever dog også, at borgere ringer og er nervøse, fordi de har tastet symptomer ind og har fået at vide, at de skal kontakte egen læge. Dette kan potentielt føre til fejlskøn, overdiagnostik og unødig belastning af sundhedsvæsnet. 

”Der er en del fejlskøn hos chatbots – den vil gerne please og imødekomme brugeren, og der er også en fare for, at den vil manipulere brugeren og favorisere bestemte behandlinger eller præparater af kommercielle årsager,” vurderer hun.

Medicinsk Tidsskrift: Det kan lyde lidt voldsomt, har vi nogen grund til at tro, at de her bots er biased positivt over for industrien? 

”Jeg tror ikke nødvendigvis, AI-modellerne bliver industri-biased, men der sker noget andet og meget mere interessant lige nu. Google har cirka 90 procent af sin forretning på søgninger og mange mediebureauer lever af SEO (Search Engine Optimization). Allerede nu er Googles search-forretning markant mindre i forhold til sidste år, da folk ikke googler så meget længere, men i stedet for spørger ChatGPT.”

Mange inden for big tech er derfor begyndt at kigge på AI-optimering, så de kan tjene penge på AI prompts, forklarer Katrine Høgenhaven.

”Eksempelvis hvis en person har symptomer, der peger på sukkersyge, kan medicinalvirksomheder som Novo Nordisk, i hvert fald meget snart, købe sig reklameplads, når eksempelvis Gemini eller ChatGPT kommer med et svar på en prompt fra brugeren. Det er skræmmende,” siger hun.

Chatbots med Klondyke-tilstande

Som led i denne udvikling er det derfor altafgørende, at danske patienter ikke bliver overladt til de nuværende generelle chatbots som eksempelvis ChatGPT, der ikke er underlagt krav til dokumentation, datasikkerhed og patientsikkerhed, mener lægen, der også er en del af Videreuddannelsesudvalget under DSAM.

Spørgsmålet er ikke, om borgere vil bruge AI til at forstå deres sundhed, mener Katrine Høgenhaven.

”Det gør de allerede, ofte uden om sundhedsvæsnet. Det egentlige spørgsmål er nærmere, om samfundet vil overlade denne udvikling til uregulerede kommercielle løsninger fra udlandet, eller om sundhedsvæsenet vil tage ansvar og tilbyde sikre, fagligt funderede og gennemsigtige alternativer.”

Katrine Høgenhaven fortsætter:

”Hvis øget transparens skal føre til bedre behandling og ikke mere utryghed, kræver det politisk mod, investeringer i digital infrastruktur og en tydelig national retning. Chatbots og AI er ikke løsningen i sig selv. Men brugt rigtigt kan de blive et nødvendigt redskab i et sundhedsvæsen, der ikke længere har råd til at lade være.”

Sundhedschatbots skyder frem internationalt

Virksomheden bag ChatGPT har annonceret en særlig sundhedschatbot (ChatGPT Health), målrettet brugere, der ønsker hjælp til at forstå deres sundhedsdata.

”Det er et teknologisk interessant initiativ, men rejser væsentlige spørgsmål om datasikkerhed, kommercielle interesser og regulering. Det er næppe tilfældigt, at løsningen i første omgang kun lanceres i USA. En tilsvarende løsning i EU ville formentlig skulle leve op til kravene i både GDPR og forordningen for medicinsk udstyr – krav, som mange kommercielle løsninger i dag ikke opfylder,” siger Katrine Høgenhaven. 

Der findes allerede teknologiske muligheder, som kan imødekomme både behovet for innovation og datasikkerhed, herunder løsninger der er GDPR-kompatible, påpeger hun.

Men chatbots er jo resultatet af omfattende udvikling og algoritmer, som firmaerne værner om. Er det ikke farligt at tro, at vi herhjemme kan bikse noget sammen i en fart, der kan fungere lige så godt som de løsninger, vi har vænnet os til at bruge?

”Politikerne har fokus på digitalisering, og i Danmark tilgår omkring 60 procent vores journaldata digitalt. Det er med til at give den sammenhæng og digitalisering, som skal være en del af sundhedsreformen. Det kunne være interessant at høre om politikerne har tænkt digitale løsninger ind i sundhedsreformen i forhold til internationale chatbots og datasikkerhed? Udviklingen inden for sundhedsdata og big tech vil bare fortsætte, især når data fra almen praksis også bliver tilgængelige,” svarer Katrine Høgenhaven.  

Det vil være et stærkt signal, hvis EU i højere grad markerer sig samlet digitalt på sundhedsområdet, mener hun.

”Der er behov for at overveje udviklingen af en europæisk AI-pendant til den amerikanske ChatGPT-løsning, som i højere grad lever op til EU’s krav om datasikkerhed, regulering og patientsikkerhed. En sådan tilgang kan samtidig give mulighed for, at de enkelte medlemslande tilpasser løsningerne til nationale retningslinjer, lovgivning og sundhedssystemer. Uden et fælles europæisk alternativ risikerer vi, at borgere og sundhedsvæsen i stigende grad bliver afhængige af uregulerede, kommercielle løsninger uden for EU.”

Hun understreger, at sundhedschatbots og egen journaladgang aldrig kan erstatte den praktiserende læge af kød og blod og med +10 års uddannelse.

”Det kliniske blik, den lægefaglige mønstergenkendelse og den objektive undersøgelse, hvor lægen har patienten fysisk foran sig, kan ikke reproduceres af kunstig intelligens. Når patienter er syge, skal de kunne blive set, undersøgt og vurderet af en læge. Men heraf følger ikke, at chatbots er uden værdi. Tværtimod kan de spille en vigtig, supplerende rolle, hvis det sker i en reguleret model”.

Initiativ til AI-chatbot på sundhed.dk

Danske Regioner er optaget af at sikre, at løsninger, der understøttes af AI, leverer præcise og valide svar, oplyser de i en mail til Medicinsk Tidsskrift. ”Blandt andet derfor er der blevet taget initiativ til at udvikle en AI-chatbot på sundhed.dk, der skal sikre, at patienterne modtager korrekte svar på deres sundhedsspørgsmål baseret på patienthåndbogen. Og ikke på tilfældige svar indsamlet af en kommerciel AI-løsning, der blandt andet trækker på ikke-videnskabelige og uverificerede data,” skriver Danske Regioner.  

Også PLO arbejder på at anskaffe en AI-løsning, som den enkelte praksisklinik kan vælge at tilkøbe.

Den konkrete løsning vil blive drevet af en selvstændig forening adskilt fra PLO og vil især fokusere på tre områder, der er rettet mod den praktiserende læges arbejde:

• dokumentation, hvor journalføring og administrative opgaver kan automatiseres
• overblik, med hurtig adgang til resuméer og struktureret information
• kommunikation, hvor AI kan hjælpe med udkast til svar, henvisninger og attester

”PLO bidrager ved at sikre udbud, kvalitet og rammer, så klinikkerne trygt kan anvende løsninger, der er både juridisk og fagligt forsvarlige,” skriver PLO i en mail.