Helse Bergen, sluttrapport: Kunstig intelligens i oppfølging av sårbare pasienter

Helse Bergen, sluttrapport: Kunstig intelligens i oppfølging av sårbare pasienter

Med kunstig intelligens er det mulig å peke ut hvilke pasienter som står i fare for å komme kjapt i retur til sykehuset. Ved å bruke et slikt verktøy kan helsevesenet gi bedre oppfølging på tvers av helsetjenestene, i håp om å spare pasientene (og samfunnet) for unødige innleggelser. I den regulatoriske sandkassa har Datatilsynet sammen med Helse Bergen HF utforsket hvordan et slikt verktøy bør se ut for å være i tråd med personvernregelverket. 

Sammendrag

Helse Bergen HF ønsker å benytte kunstig intelligens (KI) for å etablere et automatisert varslingssystem for pasienter med høy sannsynlighet for reinnleggelse. Varslingssystemet skal hjelpe behandlere med å identifisere pasienter som trenger ekstra oppfølging for å unngå å bli lagt inn på sykehus igjen etter kort tid. Målet med sandkasseprosjektet var å avklare lovligheten ved slik bruk av kunstig intelligens, og å utforske hvordan pasientenes rettigheter kan ivaretas.

Oppsummering av funn

  • Lovlighet: Helse Bergen HF har rettslig grunnlag etter personvernforordningen og supplerende rettsgrunnlag i helselovgivningen for å utvikle og bruke kunstig intelligens som beslutningsstøtte, som ledd i helsehjelp til pasienter.
  • Åpenhet: Det bør gis generell informasjon om at pasientopplysninger brukes til utvikling av KI-verktøy. I bruksfasen bør det lages et journalnotat som presenterer resultatet på en forståelig måte for både kliniker og pasient.
  • Rettferdighet: Skjevheter i enhver algoritme sitt datagrunnlag kan føre til diskriminering og hindre likebehandling av pasienter. For å unngå dette, skal det gjennomføres rutinemessige kvalitetskontroller av algoritmen. Varslingssystemet er et beslutningsstøttesystem, og for å sikre menneskelig kontroll av beslutningsprosessen, må det utarbeides felles retningslinjer for hvordan helsepersonell skal tolke og bruke resultater fra kunstig intelligente verktøy som anvendes i pasientbehandling.

Veien videre

Denne sluttrapporten bidrar til å belyse aktuelle personvernhensyn og risiko ved bruk av KI i klinisk pasientbehandling. Prosjektet har begrenset seg til kunstig intelligens brukt som klinisk beslutningsstøtte. Fullt autonome KI-systemer uten menneskelig innblanding vil kreve videre utredning.

Prosjektet har konkludert med at de samme kvalitetskravene må stilles til KI som til annet utstyr, programmer eller prosedyrer som gir beslutningsstøtte i klinikken, når det gjelder dokumentasjon av effekt og nytteverdi. Ved å oppfylle personvernforordningens krav til informasjon, samtykke og innsyn i egne helsedata, legger man grunnlaget for å utvikle og benytte nye verktøy i klinikken som baserer seg på KI.