Hacking Healthcare @damounnassehi - Tumblr Blog

Retten til menneskelig lege - kronikk i tidsskrift for den norske legeforening

Jeg har nylig skrevet en kronikk i Tidsskriftet:

«Dersom kunstig intelligens når klinisk kompetanse på nivå med menneskelige leger, reiser det spørsmål norsk helsepolitikk ikke har begynt å besvare. Retten til en menneskelig lege bør lovfestes, og medisinutdanningen må tilpasse seg allerede nå.»

Du kan lese hele kronikken hos Tidsskriftet.

Tale-til-notat i norsk allmennpraksis – nye funn

Sammen med kolleger Øystein Hetlevik og Jørgen Breivold ved UiB har jeg nettopp publisert en kvalitativ studie i Scandinavian Journal of Primary Health Care, der vi intervjuet ti norske fastleger om erfaringene med KI-baserte journalskrivere.

Vi konkluderer slik:

According to the respondents, AI scribes influence GPs daily routines and professional identity by enhancing documentation efficiency, reducing workload and enabling GPs to focus more on patient care. However, they may introduce new areas for error and subtle shifts in clinical practice, such as reliance on AI-generated text. Responsible integration requires collaborations on guidelines, training and further research to balance efficiency gains with patient centred care and address long-term impacts.

Les artikkelen her

KI som diagnostiker på akuttmottaket — et studie i Science

En ny studie publisert i Science denne uken vekker berettiget oppmerksomhet. Forskere fra Harvard, Stanford og Beth Israel Deaconess Medical Center i Boston har systematisk testet OpenAIs o1-preview – den første tekstbaserte modellen med innebygd trinnvis resonnering – mot både standardiserte kasuistikker og reelle akuttpasienter.

Studien evaluerte diagnostiske og behandlingsrelaterte resonneringsevner hos o1-serien ved å sammenligne den med hundrevis av leger og eldre KI-systemer, gjennom seks ulike eksperimenter – inkludert virkelige pasienter ved et større akuttmottak i Massachusetts.

Resultatene er slående. O1-modellen identifiserte riktig eller tilnærmet riktig diagnose i 67,1 % av tilfellene ved initial triagering, 72,4 % under legemøtet på akuttmottaket, og 81,6 % ved innleggelse på medisinsk avdeling eller intensivavdeling. Til sammenligning lå de to legene i studien på henholdsvis 55,3 % og 50,0 % ved initial triagering.

Her er det viktig å løfte frem en kontekstuell nyanse: leger på akuttmottaket har primært fokus på triagering, stabilisering og korrekte akutte tiltak – ikke nødvendigvis på å stille den mest presise endelige diagnosen. Det er i seg selv en spesialisert og krevende oppgave. At KI skårer høyere på differensialdiagnoser i en slik setting, betyr derfor ikke at den gjør legens faktiske jobb bedre – det betyr at den er god på akkurat det den ble testet på: å generere systematiske diagnostiske lister basert på journaltekst.

Referansegruppen på legesiden besto dessuten av kun to leger. Det er et spinkelt sammenligningsgrunnlag, og resultatene sier noe interessant om disse to legene i denne konteksten – men gir begrenset grunnlag for bredere generalisering.

Studien understreker da også selv at systemet ikke er klart til å erstatte menneskelig skjønn i reell klinisk praksis, og at klinisk medisin er «multifacettert og full av ikke-tekstbaserte inndata» – som pasientens stemme, kroppsspråk og billeddiagnostikk.

Det er nettopp her vi bør holde hodet kaldt. O1-preview ble testet på journaltekst alene. Den hørte ikke pasienten, så ikke ansiktsfargen, og fanget ikke den subtile uroen som erfarne klinikere gjenkjenner som magefølelse. Dette er ikke en bagatell – det er en kjernedimensjon i klinisk arbeid.

Likevel er funnene faglig viktige og oppløftende. KI var særlig sterk i den tidligste triageringsfasen, der det foreligger minst informasjon og beslutninger haster mest. Det er nettopp i slike øyeblikk at en rask, systematisk andreoppinion – uten kognitivt press – kan ha reell verdi som beslutningsstøtte for klinikeren.

Studien ble gjennomført med o1-preview i 2024, og bedre modeller er allerede tilgjengelige. Det er en påminnelse om hvor raskt feltet beveger seg – og at potensialet vi ser her sannsynligvis bare vil vokse.

Min konklusjon er at studien peker tydelig i retning av at avansert KI har et reelt potensial som beslutningsstøtte – særlig i tidlig diagnostisk fase og ved komplekse eller uklare presentasjoner. Ikke som en erstatning for klinisk skjønn, men som et verktøy som kan støtte legen der informasjonen er knapp og presset er størst. Det er akkurat den symbiosen vi bør jobbe mot.

Brodeur P et al. Performance of a large language model on the reasoning tasks of a physician. Science 2026. doi: 10.1126/science.adz4433

Automation bias: når trening ikke er nok

Et nytt enkelt-blindet randomisert studie bidrar med interessant ny viten. Leger som hadde gjennomgått 20 timers KI-opplæring – inkludert prompt engineering og kritisk vurdering av KI-generert output – viste seg likevel å være sårbare for automation bias når de brukte store språkmodeller som beslutningsstøtte [1].

44 leger ble randomisert i et enkelt-blindet design til å diagnostisere seks kliniske vignetter. Kontrollgruppen mottok umodifiserte anbefalinger fra ChatGPT-4o, mens intervensjonsgruppen fikk anbefalinger der feil bevisst var lagt inn i tre av seks caser. Deltakerne var blindet for studiens spesifikke formål.

Leger som ble eksponert for feilaktige anbefalinger, oppnådde en gjennomsnittlig diagnostisk nøyaktighet på 73 prosent, sammenlignet med 85 prosent i kontrollgruppen – en justert forskjell på 14 prosentpoeng.

Hyppige KI-brukere – de som brukte KI ukentlig eller mer – viste størst prestasjonsnedgang. Dette antyder at vanebruk av KI kan fostre kognitiv avhengighet som svekker kritisk vurdering av maskinens anbefalinger.

Automation bias kan forsterkes av kognitiv avlasting – der klinikere ubevisst reduserer sin egen kognitive innsats når de får en ferdig løsning fra maskinen.

Hva betyr dette i praksis? Det betyr at vi ikke kan slå oss til ro med at KI-opplæring er et tilstrekkelig sikkerhetstiltak. Trening øker ikke nødvendigvis motstandsdyktigheten mot bias – den kan til og med gi en falsk trygghet. Det minner oss om at problemet ikke bare er hos brukeren, men i møtet mellom menneskelig kognisjon og et overbevisende system.

Utviklere av LLM-løsninger i helsevesenet argumenterer gjerne for at "human-in-the-loop" er tilstrekkelig sikkerhet. Men når mennesker konsekvent følger maskinens vei med minst kognitiv motstand, holder ikke dette argumentet.

Dette stiller høye krav til oss som leger, men enda høyere krav til dem som utvikler og godkjenner beslutningsstøtteverktøy. CE-merking, klinisk validering og transparens om feilrater er nødvendige forutsetninger for trygg implementering.

Referanse

Automation Bias in Large Language Model Assisted Diagnostic Reasoning Among AI-Trained Physicians. NEJM AI. https://ai.nejm.org/doi/full/10.1056/AIoa2501001

Vi betaler for å trene andres algoritmer

Etter å ha lest om Silja Vases forskning på talegjenkjenning ved danske sykehus, var det særlig ett sitat som stoppet meg:

«En læges tid er enormt dyr, og det har de private udbydere fået helt gratis. Sygehuset betaler ovenikøbet licens for at få adgang til talegenkendelsen.»

Dette er noe jeg ikke selv har tenkt tilstrekkelig over. Hver gang vi retter opp en feil transkripsjon, reformulerer en setning eller godkjenner et journalutkast, trener vi en modell vi ikke eier. Vi gir fra oss klinisk ekspertise, gratis, til selskaper som selger den tilbake til oss.

Norske fastleger og sykehus bør stille tydeligere krav når de inngår avtaler med leverandørene: Hvem eier dataene? Hvem eier modellen som forbedres av vår bruk? Og hvem sitter igjen med verdien?

Det er spørsmål som bør inn i kalkylen før vi signerer kontrakten.

Les artikkelen: Læger bruger dyrebar tid på at træne en privatejet algoritme – Uniavisen

Når KI blir en venn: hvorfor regulering av emosjonelle chatbot-tjenester haster

Jeg deltar for tiden i Teknologirådets ekspertgruppe om KI-baserte vennetjenester – digitale systemer som er designet for å fungere som samtalepartnere, støttespillere eller til og med “venner”.

Temaet er nylig omtalt i en kommentar i Dagens Næringsliv:

ChatGPT er blitt en grådig god venn.

Der pekes det på et blindpunkt i regjeringens foreløpige vurdering:

Den norske regjeringen vurderer for tiden 15-årsgrense på sosiale medier, men det gjelder ikke for KI-baserte vennetjenester. Andre myndigheter går hardere til verks. I California kreves pausepåminnelser og tydelige advarsler for mindreårige, mens Kina vil innføre nødmekanismer der mennesker tar over samtalen ved tegn til selvmordstanker, og en egen mindreårig-modus med tidsgrenser og varsler.

Når følelsesmessig tilknytning blir selve forretningsmodellen, må reguleringen holde tritt med utviklingen. Og når empatiske KI-chatboter inntar barn og unges følelsesliv, kan vi ikke overlate ansvaret til markedet alene. Alternativet er at vi – igjen – lar en hel generasjon bli forsøkskaniner i et globalt teknologieksperiment.

Dette sitatet treffer etter min mening kjernen i utfordringen.

Google AMIE i klinikken: Et viktig steg fremover — men ikke helt klar for eliteserien

Det er gode nyheter at vi endelig får et prospektivt, reelt klinisk studie av en diagnostisk KI-chatbot i primærhelsetjenesten. Etter flere år med simulerte benchmark-studier er dette et viktig skifte: fra laboratoriet til faktisk klinisk arbeidsflyt.

Studien (A prospective clinical feasibility study of a conversational diagnostic AI in an ambulatory primary care clinic) rapporterer blant annet:

ingen safety-stopp under de 100 pasientinteraksjonene

diagnostisk kvalitet på nivå med leger i flere vurderinger

høy pasienttilfredshet og økt tillit til KI etter bruk

nytte for legen i forberedelse før konsultasjon

Alt dette er lovende.

Men: “zero safety stops” betyr ikke “zero risiko”

Et helt sentralt forbehold er at null safety-intervensjoner ikke betyr at det ikke var klinisk risiko. Det betyr kun at forhåndsdefinerte terskler for avbrudd ikke ble utløst.

Viktig seleksjon i pasientgrunnlaget

Dette var en tydelig selektert gruppe:

voksne pasienter

ikke-akutte problemstillinger

psykiske problemstillinger ekskludert

setting med tett overvåking

Med andre ord: mange av de mest krevende kliniske situasjonene er ikke med i datagrunnlaget.

Praktikalitet og kostnad: leger fortsatt sterkest

Et interessant funn er at leger scoret bedre enn AMIE på praktikalitet og kostnadseffektivitet. I en norsk kontekst, med sterkere fokus på bærekraft og ressursbruk enn i store deler av amerikansk helsevesen, er dette spesielt relevant.

Preprint + industridrevet forskning krever nøkternhet

Studien er foreløpig en preprint, altså ikke fagfellevurdert enda. I tillegg er den gjennomført av aktøren som utvikler teknologien. Det diskvalifiserer ikke funnene, men krever kritisk lesning. Vi kjenner fra annen medisinsk forskning at positive funn lettere finner veien til publisering enn negative.

Min vurdering

Dette er et godt og viktig steg i riktig retning.

Særlig virker pre-visit anamnese med KI som et realistisk og nyttig bruksområde: pasienten møter bedre forberedt, og legen kan bruke mer tid på klinisk vurdering og felles beslutningstaking.

Men vi er ikke klare for ukritisk bred implementering. Vi trenger flere, større og uavhengige studier før dette bør innføres som standard i klinisk praksis.

Kort sagt: lovende, men foreløpig — og absolutt verdt å følge tett.

Imponerende KI-resultater må stresstestes i virkeligheten

Store språkmodeller scorer nå nær perfekt på medisinske eksamener. Det brukes ofte som argument for at de snart er klare for klinisk bruk. OpenAI tilbyr ChatGPT Health i USA. Dette program skal veilede pasienter om medisinske problemstillinger. Samtidig er det anekdotisk bevis for at det kanskje heller er villedende.

Studien til Bean et al. i Nature Medicine undersøker hvor godt lekfolk klarer å besvare medisinske spørsmål når de bruker KI.

Da modellene ble testet alene på kliniske scenarier, identifiserte de relevante tilstander i over 90 % av tilfellene. Men da virkelige mennesker tok modellene i bruk, falt prestasjonen dramatisk. Brukerne gjorde det ikke bedre enn kontrollgruppen – og i identifikasjon av relevante tilstander var de faktisk dårligere. Konklusjonen er at modellene er ikke klare for direkte pasientbruk.

Menneske + KI ≠ bedre resultat

Et av de mest interessante funnene er at LLM alene presterte bedre enn LLM brukt av mennesker. Vi ka altså ikke automatisk forvente synergieffekt av bruk av KI.

Problemet ligger i interaksjonen:

Brukeren gir ufullstendig informasjon

Modellen genererer flere plausible alternativer men det er brukeren som gjør det endelige (feilaktige) valget

Brukeren har ikke kunnskap til å tolke resultatet

Da blir slutningen feil.

I min artikkel i Tidsskriftet argumenterer jeg for at vi i fremtiden må bli flinkere til å jobbe med KI. Jeg gir et eksempel på hvordan KI kan brukes effektivt i virkeligheten – men det forutsetter forståelse, opplæring og riktig design.

Andre utfordringer

Små variasjoner i hvordan symptomer ble formulert kunne resultere i endrede råd – fra “legg deg i et mørkt rom” til “søk akutt hjelp”.

I tillegg peker forfatterne på at utviklere kan ha insentiv til å gjøre modellene risikoaverse. Selv små forskyvninger i triageråd kan få systemeffekter dersom millioner bruker slike verktøy.

Det kan gå ut over pasienters helse og det kan resultere i at helsetjenesten ikke blir bærekraftig. Det kan altså virke mot sin hensikt å ukritisk be pasienter bruke nåværende KI modeller.

Snikinnføring av KI i helse skjer nå – hva gjør vi?

I en ny debattartikkel i Dagens Medisin retter jeg søkelyset mot en utvikling som skjer raskere enn den offentlige samtalen klarer å følge: innføringen av kunstig intelligens i helsetjenesten, ofte uten tydelig regulering eller demokratisk forankring.

«Vi må bygge systemer for samspill mellom lege og maskin – ikke stumt tillate at globale selskaper omgår våre lover og verdier. I tillegg trenger vi opplysningskampagner der gir befolkningen nødvendig kunnskap til å kunne navigere KI-landskapet».

👉 Les hele artikkelen i Dagens Medisin

Symbiotisk intelligens i helsevesenet

Jeg har reflektert over hvordan vi best kan oppnå symbiotisk intelligens ved bruk av kunstig intelligens til klinisk bruk.

Resultatet er en artikkel publisert i Tidsskrift for den norske legeforening: Symbiotisk intelligens i helsevesenet

Artikkelen er anbefalt lesing for leger og andre som skal bruke eller utvikle KI-systemer til bruk innen helsevesenet. Den diskuterer hvordan kunstig intelligens bør integreres som støtte for klinisk skjønn – ikke som erstatning – og hvordan teknologiens nytte først realiseres når den kombineres med menneskelig innsikt, kritisk refleksjon og profesjonell dømmekraft.

Jeg håper teksten kan bidra til en mer nyansert og ansvarlig tilnærming til KI i helsetjenesten.

Når pasienten møter algoritmen – tillit, fastlegen og kunstig intelligens

Hvordan opplever pasienter kunstig intelligens i helsevesenet? En nylig publisert systematisk gjennomgang i JMIR AI kaster lys over et overraskende underbelyst tema: pasientenes egne stemmer.

I en tid der kunstig intelligens (KI) blir stadig mer integrert i klinisk praksis, er det bemerkelsesverdig hvor lite vi vet om pasientenes perspektiver. Den nye systematiske gjennomgangen av Mundzic et al., publisert i JMIR AI tidligere i år [¹], forsøker å bøte på nettopp dette kunnskapsgapet. På tross av et omfattende søk som inkluderte over 1000 artikler, endte forfatterne opp med kun 6 relevante studier. Til sammen representerer disse 170 pasienter, fordelt på bare tre land: Canada, Danmark og USA.

Det lave antallet studier og deltakere i seg selv er en tydelig påminnelse: vi bygger KI-systemer for et helsevesen der pasientene knapt er hørt.

Det danske unntaket

Av de seks inkluderte studiene peker særlig ett seg ut som relevant i en norsk kontekst – det danske studiet av Mikkelsen et al., publisert i BMC Health Services Research i 2023 [²]. Her intervjuet forskerne ti pasienter i allmennpraksis om deres forhold til fastlegen, deling av helsedata og bruk av KI. Resultatene er verdt å dvele ved.

Pasientene uttrykte høy grad av tillit til fastlegen og var positive til å dele helsedata – så lenge legen forble beslutningstaker. KI ble ansett som et potensielt nyttig støtteverktøy, men ikke en erstatning for menneskelig dømmekraft. Det var et gjennomgående ønske om at teknologien skulle støtte, ikke erstatte, relasjonen til fastlegen. Flere uttrykte eksplisitt at en «maskin» ikke kunne ha et tillitsforhold på samme måte som et menneske.

Dette funnet er i tråd med hovedtemaene som Mundzic et al. trekker frem i sin syntese: pasientene er åpne for KI, men bare dersom den implementeres med forsiktighet og respekt for både autonomi og relasjonelle verdier.

Når tillit er teknologiens valuta

Det kanskje mest interessante med både den danske studien og meta-syntesen, er hvordan de setter tillit i sentrum. Ikke bare som et moralsk ideal, men som en forutsetning for at teknologien i det hele tatt skal kunne tas i bruk. Pasientene er ikke teknofobe – de er selektivt tillitsfulle. De skiller mellom ulike aktører (fastlegen, staten, kommersielle selskaper) og mellom ulike formål for datadeling (behandling, forskning, kommersiell utnyttelse).

Dette nyanserte synet på tillit peker mot en dypere innsikt: teknologisk aksept er ikke et binært spørsmål, men et etisk landskap. Og i dette landskapet er fastlegen fortsatt en nøkkelfigur – ikke bare som helsepersonell, men som tillitsforvalter.

Fra deling til forståelse

Et særlig tankevekkende funn fra Mikkelsen-studien er at pasientenes aksept for datadeling ofte var betinget av anonymisering, men også av forståelse for hvordan dataene faktisk skulle brukes. Flere pasienter ønsket innsyn i – og kontroll over – hva som skjedde med informasjonen deres. Dette peker mot et behov for større transparens og medvirkning i utviklingen av KI-løsninger for helsetjenesten.

Vi kan ikke lenger snakke om KI som noe som skjer i bakgrunnen. Når teknologien blir en del av pasientmøtet, må pasienten også bli en del av teknologien.

Hvor går veien videre?

Mundzic et al. konkluderer med at det finnes et betydelig kunnskapshull. Ingen av studiene de inkluderte tok for seg pasienters forhold til store språkmodeller (LLM) som ChatGPT, selv om slike systemer allerede er i bruk i helsetjenesten. Dette utgjør en alvorlig forskningsmessig og etisk blindsone.

Det danske studiet gir oss likevel noen holdepunkter: pasienter er åpne for KI – dersom den er transparent, støtter relasjonen til fastlegen og ikke erstatter menneskelig dømmekraft. Det er en innsikt som bør forme både fremtidig forskning og teknologiutvikling.

Avslutning

I møte med teknologisk innovasjon er det lett å glemme menneskene som teknologien er ment å tjene. Studiene til Mundzic og Mikkelsen minner oss om at tillit, relasjon og forståelse fortsatt er de bærende søylene i helsevesenet – også i KI-tiden. Skal kunstig intelligens lykkes i primærhelsetjenesten, må den bygges på pasientens premisser, ikke bare på teknologens visjoner.

Eller som pasientene i det danske studiet uttrykte det: Det må være legen som tar avgjørelsene.

Lenker og referanser

Mundzic et al. Exploring Primary Care Patients’ Perspectives on Artificial Intelligence: Systematic Literature Review and Qualitative Meta-Synthesis. JMIR AI, 2025. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC12629519/

Mikkelsen et al. Patient perspectives on data sharing regarding implementing and using artificial intelligence in general practice – a qualitative study. BMC Health Services Research, 2023. https://doi.org/10.1186/s12913-023-09324-8

Ny video: Kunstig intelligens og helsevesenet – refleksjoner fra Intelligente Bergen 2025

I forbindelse med konferansen Intelligente Bergen 2025 har jeg laget en videopresentasjon som belyser hvordan kunstig intelligens kan brukes i e-konsultasjoner mellom lege og pasient i allmenn praksis.

👉 Se videoen på YouTube 📖 Les mer om konferansen hos UiB

CE-merking eller ikke? Hvorfor vi trenger tydelige regler for KI-transkripsjon i helsevesenet

Etter å ha lest den nylige artikkelen av jurist Julia Brodshaug og analytiker Lars Kristian Morka i Lovdata om CE-merking og kunstig intelligens i journalføring, sitter jeg igjen med to følelser: takknemlighet og uro.

Takknemlighet fordi teksten er grundig, klargjørende og etterlengtet. Uro, fordi den samtidig illustrerer hvor uklart og skjønnspreget landskapet fortsatt er – og hvor stort ansvar som i praksis overlates til enkeltleger.

Regelverket er – foreløpig – tydelig i sin uklarhet

Brodshaug og Morka argumenterer overbevisende for at det per i dag ikke finnes juridisk grunnlag for å kreve CE-merking av KI-baserte transkripsjonstjenester. De begrunner dette med at slike verktøy ikke nødvendigvis faller inn under definisjonen av medisinsk utstyr i henhold til MDR (Medical Device Regulation), og at det derfor ikke automatisk utløses krav om CE-sertifisering.

Dette skaper samtidig et farlig vakuum: I mangel på eksplisitte krav overlates det til helsepersonell – og i ytterste konsekvens til den enkelte lege – å vurdere hvorvidt teknologien er forsvarlig å bruke. Det er ikke rimelig.

Fra teknologi til klinisk praksis: Hva skjer når transkripsjonen blir journal

Når en transkripsjon fra en samtale automatisk genereres og legges inn som utkast til journalnotat, går teksten fra å være en hjelpeteknologi til å bli en klinisk vurdering.

I forskningen jeg har gjort på bruk av KI i allmennpraksis, har jeg sett hvordan feil kan oppstå i KI-genererte notater. Det kan være små nyanser – som at “aldri hatt hjertesykdom” blir til “har hatt hjertesykdom” – men konsekvensene kan være store, særlig i spesialisthelsetjenesten hvor legen som leser journalen, ikke kjenner pasienten.

Forslag til minstekrav

Jeg mener at vi trenger tydelige retningslinjer og krav for KI-baserte transkripsjonstjenester i helsevesenet. Et forslag kan være:

Sporbarhet: Det må fremgå hva som er generert av maskin, og når.

Redigerbarhet: Legen må ha full kontroll over innholdet før det journalføres.

Versjonskontroll: Endringer må kunne spores – av hensyn til ansvar og dokumentasjon.

Personverngarantier: Taleopptak og transkripsjoner må lagres slik at man i etterkant kan se hva som faktisk har blitt sagt. [NB! Dette introduserer ytterligere komplikasjoner som jeg ikke skal gå i dybden med her.]

Audit-funksjonalitet: Det må være mulig å føre revisjon i ettertid dersom noe går galt.

Et steg i riktig retning

Jeg sitter ikke med alle svarene, men kan konkludere med at den refererte artikkelen er et viktig steg i rett retning. Den viser at vi trenger tydeligere rammer, og at diskusjonen om ansvar, risiko og pasientsikkerhet må løftes fra enkeltlegenivå til nasjonalt nivå.

Skepsis som ressurs – en nødvendig avslutning på en viktig debatt

I kjølvannet av kronikken min i Dagens Medisin tidligere i år har debatten om kunstig intelligens i helsetjenesten engasjert mange – både fagfolk, teknologer og helsepolitikere. Det har vært gledelig å se at spørsmål om skjønn, ansvar og tillit settes på dagsordenen, ikke minst i møte med en teknologi som stadig tar mer plass i klinisk praksis.

Nå har jeg skrevet en oppsummerende avslutning på debatten, der jeg forsøker å rydde i begrepene og løfte frem skepsis som en produktiv kraft – ikke som en bremsekloss. Vi trenger hverken naiv teknologioptimisme eller teknologifrykt, men en moden samtale om hvordan vi skal bruke disse verktøyene klokt, etisk og ansvarlig.

👉 Les innlegget i Dagens Medisin: Skepsis som ressurs – Kunstig intelligens mellom trygghet og teknologisk determinisme

📢 Ny kronikk i Dagens Medisin

Hva skjer når kunstig intelligens skriver journalen – og ingen trippelsjekker?

I mitt nyeste debattinnlegg advarer jeg mot en utvikling der KI-notater automatisk havner i pasientjournalen med mulighet for store feil.

👉 Les innlegget hos Dagens Medisin

Vestres KI-helsebot: Visjon, valgflesk eller varslet fadese?

Da helseminister Jan Christian Vestre nylig annonserte at han ønsker en nasjonal KI-helsebot, presentert som et offentlig alternativ til Google og ChatGPT, var det mange som fikk deja-vu. Vi har sett denne filmen før: store løfter om teknologiske kvantesprang, etterfulgt av forsinkelser, milliardsprekk og prosjekter som aldri helt leverer det de skulle. Axon-prosjektet er et nærliggende eksempel – på papiret en visjon, i praksis et pengesluk.

Risikoen for feilprioritering

La oss starte med det åpenbare: Norge trenger digitalisering i helsesektoren. Men vi trenger det på mange fronter, ikke bare i form av en storslått språkmodell styrt av Helsedirektoratet. Elektronisk multidose, helsekort for gravide, sømløs journalutveksling – dette er prosjekter som har direkte og umiddelbar betydning for både pasientsikkerhet og arbeidsflyt i helsetjenesten. Det som uroer meg, er at Vestres «luftskip» kan suge til seg ressurser på bekostning av disse mer jordnære, men livsnødvendige satsingene.

Kan staten konkurrere med Silicon Valley?

Vestre drømmer om et norsk svar på ChatGPT, men historien gir liten grunn til optimisme. Jeg kan faktisk ikke komme på et eneste eksempel der staten har klart å konkurrere på like vilkår med kommersielle aktører og vunnet – i et kapitalistisk kappløp.

Forskjellen ligger ikke bare i budsjett og talenttilgang, men i brukeropplevelse. ChatGPT er designet for å være sømløs, rask og intuitiv. Jeg tviler sterkt på at Helsedirektoratet kan bygge noe som matcher dette, uansett hvor edle intensjonene er. Selv om en norsk bot kunne gi mer kontekstspesifikke og riktige svar for norske forhold, vil den tape dersom den er tungvint og treg i bruk.

Den enkle, men politisk vanskelige løsningen

Det finnes faktisk en mer realistisk tilnærming: regulering. Hvis norske myndigheter lovfester at kommersielle KI-selskaper ikke har lov til å gi medisinske råd eller tilby psykologhjelp uten særskilt godkjenning, åpner man naturlig et rom for norske og europeiske aktører.

Ironisk nok hadde tidlige versjoner av ChatGPT nettopp slike sperrer – man fikk ikke lov til å stille helserelaterte spørsmål. Nå, når OpenAI er blitt et fullt profittdrevet selskap, er slusene åpnet, og grensene viskes ut. Hvorfor skal Norge kjempe mot dette med egne midler, når regulering kunne skape trygghet og marked?

At Vestre ikke velger denne åpenbare løsningen, men heller setter i gang et nytt, ressurskrevende prosjekt, lukter mer av valgkampstrategi enn av helsefaglig fornuft.

Konklusjon: Fra visjon til virkelighet?

Spørsmålet er ikke om KI kan være nyttig i helsetjenesten – det kan den, og det vet vi allerede. Spørsmålet er om staten har muskler, kultur og kompetanse til å bygge en løsning som faktisk blir brukt. Jeg tviler. Risikoen er stor for at vi står igjen med enda et prestisjeprosjekt som havarerer under sin egen tyngde.

Hvis vi virkelig vil ha en trygg og funksjonell digital helsetjeneste, må vi satse på både små og store prosjekter, og vi må bruke lovgivning der markedet løper foran oss. En nasjonal KI-helsebot kan kanskje bli et supplement – men faren er stor for at den ender opp som et nytt luftslott i norsk e-helsehistorie.

Når KI ikke lærer: Hvorfor fine-tuning av språkmodeller svikter i medisinen

“None of the models exhibited robust generalizability of the knowledge presented during fine-tuning.”

— Wu et al., NEJM AI, juli 2025

Kunstig intelligens lover mye – og språkmodeller som GPT-4o og Gemini representerer teknologiske milepæler. Men hva skjer når disse modellene møter kravet om oppdatert medisinsk kunnskap? En ny studie fra Stanford University undersøker nettopp dette – og konklusjonen er både nyansert og urovekkende.

Fine-tuning er ingen magisk oppdatering

Artikkelen fra NEJM AI setter søkelys på en utfordring som ofte overses i den kliniske KI-debatten: Når guidelines og legemiddelinformasjon endres, hvordan oppdaterer vi språkmodeller som har et innebygd "cutoff" for kunnskap?

Forskerne testet seks frontier-modeller – blant annet GPT-4o, Gemini 1.5 og LLaMA – og fine-tunet dem via kommersielle API-er med ny kunnskap fra FDA, MIMIC-IV og NEJM Journal Watch. Resultatene var tydelige:

Modellene memoriserer treningsdata, men generaliserer dårlig til nye kliniske scenarier.

GPT-4o mini gjorde det best – men klarte kun 51 % korrekt på nye legemidler og 33 % på pasientdata.

Gemini- og LLaMA-modellene bommet totalt i flere tester, med 0 % treff i enkelte tilfeller.

Dette er ikke små detaljer. Det handler om modellens evne til å forstå og anvende ny kunnskap i kontekst – for eksempel å anbefale riktig blodtrykksmål i lys av nye retningslinjer. Og der svikter fine-tuning i dag.

Liten modell, bedre læring?

Et av de mest interessante funnene er at små modeller (som GPT-4o mini) lærer bedre via fine-tuning enn større søsken som GPT-4o. Dette utfordrer en vanlig antakelse om at "større er bedre" i KI-verdenen.

Forklaringen? Antagelig handler det om arkitektur, parameterjustering og kapasitet for endring. Jo større modellen er, desto vanskeligere er det å lære noe nytt uten å glemme det gamle – et kjent problem innen catastrophic forgetting.

Men dette reiser også et praktisk spørsmål: Bør klinisk rettet KI i større grad baseres på mindre, mer spesialiserte modeller? Hvis målet er lokal tilpasning og hyppig oppdatering, kan det være en fruktbar vei.

Fine-tuning svekker annen kunnskap

Det kanskje mest urovekkende funnet er at fine-tuning ikke bare har begrenset effekt – det kan også svekke modellens evne til å besvare mer generelle medisinske spørsmål. GPT-4o mini falt fra 71,4 % til 66,4 % i nøyaktighet på MedQA etter fine-tuning.

Altså: Ved å lære noe nytt, glemmer modellen noe annet. Dette gjør at commercial fine-tuning ikke bare er ineffektiv – den kan være direkte risikabel i klinisk kontekst.

Hva betyr dette for norsk helsetjeneste?

I Norge er det stadig større interesse for å bruke kommersielle språkmodeller i kliniske verktøy – særlig til oppsummering, journalføring og beslutningsstøtte. Men funnene i denne artikkelen bør dempe forventningene.

Fine-tuning fungerer ikke godt nok for oppdatert kunnskap.

Generaliseringssvikt kan gi falsk trygghet i klinisk bruk.

Transparens i modellens oppdateringsmekanismer er helt avgjørende.

Det er verdt å merke seg at Retrieval-Augmented Generation (RAG) fortsatt ser ut til å være den tryggeste metoden for kunnskapsoppdatering. Selv om den har sine svakheter – som hallucinasjon og kontekstsvikt – er RAG i det minste reversibel og kontrollerbar.

Hva bør vi gjøre?

Regulatorer bør stille tydelige krav til hvordan oppdatering av KI skjer – og kreve dokumentasjon på at nye guidelines faktisk er inkorporert.

Utviklere må teste sine modeller med mer enn bare memorisering – generaliseringsevne er klinisk kritisk.

Klinikere bør være svært forsiktige med å stole på at fine-tunede modeller er oppdatert – og bør etterspørre transparens og evaluering.

Referanse:

Wu, E., Wu, K., & Zou, J. (2025). Limitations of Learning New and Updated Medical Knowledge with Commercial Fine-Tuning Large Language Models. NEJM AI, 2(8). https://doi.org/10.1056/AIcs2401155

Trending Blogs

Recently Viewed Blogs

Hacking Healthcare