NAV: Prediksjonsmodell for sykefravær

NAV har ønsket å bruke maskinlæring til å forutse hvilke sykmeldte brukere som vil ha behov for oppfølging to måneder frem i tid. Dette kan hjelpe veilederne med gjøre mer treffsikre vurderinger, som igjen skal spare NAV, arbeidsgivere og de sykmeldte for unødvendige møter.

Illustrasjon av prediksjon av sykefravær

NAV har en hypotese om at det holdes for mange unødvendige møter, som stjeler tid fra arbeidsgivere, sykmeldere (for eksempel leger), sykmeldte og NAVs egne veiledere. Dette var motivasjonen for å etablere KI-prosjektet som skulle ta for seg prediksjon av sykefraværsvarighet.

Målet med sandkasseprosjektet var å avklare lovligheten ved bruk av kunstig intelligens (KI) i denne sammenhengen, og utforske hvordan profileringen av sykmeldte kan gjøres på en rettferdig og åpen måte.

Hva er Datatilsynets sandkasse?

I sandkassa jobber deltakere sammen med Datatilsynet for å løse spørsmål om personvern. Målet er at tjenesten eller produktet deres følger loven og gir godt personvern.

Datatilsynet gir råd til deltakerne, men konklusjonene er ikke offisielle avgjørelser, vedtakeller godkjenninger. Deltakerne velger selv om de vil følge rådene.

Sandkassa er nyttig for å se på spørsmål der jussen har få praktiske eksempler å vise til. Vi håper rapporten kan hjelpe andre med liknende utfordringer.

Konklusjoner

Lovlighet. NAV har rettslig grunnlag for å bruke KI som støtte ved beslutning om enkeltindividers behov for oppfølging og dialogmøte. Det er usikkert om det rettslige grunnlaget åpner for å bruke personopplysninger til å utvikle selve algoritmen.
Rettferdighet. Det er viktig forskjell mellom å benytte opplysninger som allerede inngår i modellen, og å ta i bruk nye opplysninger som ikke brukes i modellen, til å sjekke for diskriminerende utfall. Det oppstår en spenning mellom personvern og rettferdighet når metoden for å avdekke og motvirke diskriminering fordrer mer behandling av personopplysninger.
Åpenhet. For at modellen skal gi ønsket verdi, er det avgjørende at NAV-veilederne stoler på algoritmen. Innsikt og forståelse i modellens virkemåte er viktig for å vurdere prediksjonen på et selvstendig og trygt grunnlag, uavhengig av om den endelige avgjørelsen blir å følge prediksjonens anbefaling eller ikke.

Veien videre

Arbeidet med NAVs prediksjonsmodell for sykefravær, har synliggjort en stor og viktig utfordring for offentlige virksomheter som ønsker å ta i bruk kunstig intelligens: Lovene som hjemler behandling av personopplysninger, er sjeldent utformet på en måte som åpner for at personopplysningene kan brukes til maskinlæring i utvikling av kunstig intelligens.

Det er viktig at lovgiver i tiden fremover legger til rette for utvikling av KI i offentlig sektor innenfor ansvarlige rammer. Dersom NAV skal utvikle modellen videre, vil det være nødvendig med et klart og tydelig supplerende rettsgrunnlag gjennom lovgivning. En lovprosess, med tilhørende høringsrunde og utredninger, vil kunne bidra til å sikre demokratisk forankring for utvikling og bruk av kunstig intelligens i offentlig forvaltning. NAVs systematiske arbeid med å utvikle en modell som imøtekommer kravene til rettferdighet og forklarbarhet, viser at offentlige virksomheter godt kan være pådrivere for en ansvarlig utvikling på KI-feltet.

Last ned

Nav, sluttrapport: Prediksjonsmodell for sykefravær (pdf)