Mål for sandkasseprosessen
Helse Bergen HF kom inn i sandkassa med et KI-verktøy så å si klart til bruk. På det tidspunktet var det allerede gjort grundige vurderinger av de juridiske kravene som stilles til utviklingen og bruken av verktøyet.
Prosjektets mål med sandkassedeltakelse var å:
- klarlegge Helse Bergen HFs muligheter for å benytte KI der det er lovlig og ansvarlig
- korte ned veien fra idé til implementert KI på andre områder i Helse Bergen HF spesielt og i helsesektoren generelt
Prosjektet kan med andre ord ha nytte og overføringsverdi for andre prosjekter i Helse Bergen HF og for andre helseforetak og virksomheter i offentlig sektor.
I den regulatoriske sandkassen er siktemålet å finne frem til gode, personvernvennlige løsninger for utvikling og bruk av kunstig intelligens. I dette prosjektet har vi diskutert lovligheten av å bruke taushetsbelagte helseopplysninger til utvikling av algoritmer og hvorvidt det er tillatt å bruke slike verktøy i klinisk behandling. Videre har pasientens rettigheter opptatt en stor del av agendaen. Her har vi særlig diskutert hvordan innsynsretten og retten til å bli glemt kan ivaretas i praksis samt hvilken informasjon pasienten må ha om algoritmen for å kunne medvirke i gjennomføring av helsehjelpen.
Disse diskusjonene samles og oppsummeres under sluttrapportens tre hovedproblemstillinger, som beskrives i det følgende. De tre hovedproblemstillingene er:
- Er utvikling og bruk av KI i helsehjelp lovlig?
- Hvordan bør informasjonen være tilpasset pasientene?
- Hvordan sikre at algoritmen gir et rettferdig resultat?
I andre del diskuterer vi problemstillinger knyttet til åpenhet og hvordan resultatene fra algoritmen skal forklares.
Siste del er en vurdering av Helse Bergen HFs tilnærming til kravet om at en slik modell skal være rettferdig og hvordan kravene til innebygd personvern i løsningen kan bidra til å oppnå dette.