Norsk Tech

Leger tar i bruk KI i pasientmøter: Kan hasteinnføring true pasientsikkerheten?

Flere norske sykehus og legekontorer har i det stille begynt å rulle ut kunstig intelligens for å effektivisere pasientkonsultasjoner, spesielt til å skrive journaler og oppsummere samtaler. Men nå hever tunge fagmiljøer og KI-gründere pekefingeren. De advarer om at det høye tempoet i utrullingen kan gå på bekostning av pasientsikkerheten dersom systemene ikke kvalitetssikres godt nok før de tas i bruk i klinisk praksis.

Bakgrunnen for den raske innføringen er det velkjente, enorme arbeidspresset i helsevesenet. Leger bruker i dag en uforholdsmessig stor del av arbeidsdagen på administrativt papirarbeid. Et KI-verktøy som "lytter" til samtalen og automatisk genererer et ferdig journalnotat fremstår som en ren gavepakke. Utfordringen er imidlertid at språkmodeller fortsatt kan feiltolke nyanser, utelate kritisk informasjon eller i verste fall "hallusinere" detaljer som aldri ble sagt. Hvis legen har dårlig tid og godkjenner journalen uten en ekstremt nøye sjekk, kan det i ytterste konsekvens føre til feilmedisinering.

For gründere og produktutviklere innen helseteknologi understreker denne debatten at suksess ikke bare handler om treffsikre algoritmer, men om å designe bombesikre grensesnitt for menneskelig kontroll. Systemer må bygges slik at de tvinger brukeren til å verifisere kritiske punkter, fremfor å legge opp til en rask og tankeløs godkjenning av automatisk generert tekst.

For beslutningstakere i andre sterkt regulerte bransjer – som finans, juss eller revisjon – fungerer denne saken som en viktig påminnelse om omdømmerisiko. Skal man rulle ut KI-assistenter som behandler sensitive kundedata eller gir råd, må det etableres krystallklare retningslinjer for hvem som sitter med det juridiske ansvaret når teknologien bommer. Teknologien skal avlaste de ansatte, ikke frita dem for det faglige ansvaret.

Du kan lese hele saken og intervjuene hos NRK.