Rapporter fra sandkassa

Med stadig flere eldre og kronisk syke, samtidig som helsepersonell blir en knapp ressurs, må vi finne nye måter å jobbe på. Digital hjemmeoppfølging er et tiltak som kan lette kapasitetstrykket på sykehusene, og gjøre pasienttilværelsen bedre. Men hvordan tilby digital hjemmeoppfølging til pasienter som ikke selv er digitale?

Kan nye krypteringsløsninger og innovativ teknologi åpne for å bruke biometriske opplysninger på måter og bruksområder Datatilsynet tidligere har vært skeptisk til? I dette sandkasseprosjektet så vi på Mobai sin løsning kalt "SALT" ("Secure privacy preserving authentication using facial biometrics to protect your identity"). 

Da Juridisk ABC lanserte LawAi i september 2023, var det med mål om å gjøre arbeidsrettslig veiledning enkel og tilgjengelig for alle gjennom generativ kunstig intelligens. Men hvordan kan man lage et generativt KI-verktøy for HR og arbeidsrett - som ofte involverer (sensitive) personopplysninger - uten å komme på kant med regelverket?

Microsoft lanserte sin KI-løsning Copilot for Office-pakken i november 2023, med potensial for å forenkle arbeidshverdagen betraktelig. Noen har tatt det i bruk, helt eller delvis. Mange sitter på gjerdet. For hva skjer egentlig når du slår på Microsoft 365 Copilot?

Kunstig intelligens (KI) kan identifisere mening i tekst og si noe om sinnsstemninger og egenskaper hos den som skriver teksten. Politihøgskolen, som leder PrevBOT-prosjektet, ønsker å utforske mulighetene for å lage et verktøy som automatisk kan patruljere det åpne internettet med formål å avsløre og forhindre forsøk på seksuell utnyttelse av mindreårige. 

Virksomheten Doorkeeper har som mål å styrke personvernet i moderne kameraovervåkningssystemer. De ønsker å oppnå dette ved å bruke intelligent videoanalyse til å sladde identifiserende opplysninger – som ansikter og menneskeformer – i videostrømmen. Videre vil de sørge for at færre opptak blir lagret sammenlignet med mer tradisjonelle overvåkningssystemer.

Kan en algoritme som skal forutse hjertesvikt, opptre diskriminerende? I dette sandkasseprosjektet har Datatilsynet, Ahus og Likestillings- og diskrimineringsombudet sett på algoritmeskjevhet og diskriminering i et kunstig intelligent beslutningsstøttesystem som er under utvikling for klinisk bruk på Ahus.

Ruter har deltatt i Datatilsynets sandkasse for ansvarlig kunstig intelligens i forbindelse med at de planlegger å bruke kunstig intelligens i sin app. I prosjektet ble det diskutert hvordan Ruter kan være åpne om behandlingen av personopplysninger som vil skje i løsningen, blant annet om formålene.

Simplifai og Datatilsynet har i sandkassa sett på om personvernreglene åpner for at offentlige aktører kan ta i bruk en maskinlæringsløsning for å journalføre og arkivere e-post. Og sammen med NVE har de utforsket hvordan offentlige aktører kan gjøre informerte valg når de skal kjøpe intelligente løsninger, som for eksempel en digital arkivmedarbeider (DAM).

Med kunstig intelligens er det mulig å peke ut hvilke pasienter som står i fare for å komme kjapt i retur til sykehuset. Ved å bruke et slikt verktøy kan helsevesenet gi bedre oppfølging på tvers av helsetjenestene, i håp om å spare pasientene (og samfunnet) for unødige innleggelser. I sandkassa har Datatilsynet sammen med Helse Bergen HF utforsket hvordan et slikt verktøy bør se ut for å være i tråd med personvernregelverket. 

Hvordan kan du lære av data du ikke har? Kan føderert læring være løsningen, når datadeling er vanskelig? I Datatilsynets sandkasse har vi utforsket utfordringer og fordeler ved føderert læring, en antatt personvernvennlig metode for maskinlæring som oppstartsvirksomheten Finterai ønsker å bruke i kampen mot hvitvasking og terrorfinansiering.

Hvordan kan man gi norske skoleelever individuell vurdering og tilpasset opplæring ved bruk av læringsanalyse, og samtidig sikre elevene godt personvern? Det har vært det sentrale spørsmålet i Datatilsynets sandkasseprosjekt sammen med KS, Utdanningsetaten i Oslo og instituttet SLATE ved Universitetet i Bergen.

Secure Practice ønsker å utvikle en tjeneste som profilerer ansatte med tanke på hvilken cybersikkerhetsrisiko de utgjør for virksomhetene. Formålet er å kunne følge opp med tilpasset sikkerhetsopplæring basert på hvilke profilkategorier de ansatte havner i.