Tre nye prosjekter i KI-sandkassa

En algoritme som peker ut de med økt risiko for hjertesvikt, en løsning som gir kollektivtransport tilpasset brukernes behov, og et forsøk på å gjøre kameraovervåkning mer personvernvennlig. Det er stikkord for prosjektene som skal utforskes i den tredje runden i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens.

Profilbilde Eilin kvadr.jpg– Det er veldig spennende å få muligheten til å være med i sandkassen. Prosjektet søkte i fjor, men ble ikke valgt ut. Derfor er det ekstra gøy at vi fikk plass i denne runden, sier Eilin Wermundsen Mork, rådgiver for informasjonssikkerhet ved Akershus universitetssykehus.

Tøff kamp om plassen

Datatilsynet fikk 11 søknader til denne tredje runden med sandkasseutforsking. Antallet var lavere enn i de to første søknadsrundene, men opptakskomiteen opplever at tallet på skikkelig gode søknader er stabilt. I den siste silingen sto det mellom åtte søkere, som alle ville kunne blitt gode og viktige sandkasseprosjekter.

Datatilsynet_Janne_181122110238-kvadr.jpg

Se oversikt over søkerne

– Vi har prioritert hardt mellom mange spennende forslag. Gratulerer til Ahus, Ruter og Doorkeeper, og stor takk til alle søkere som er med å drive satsingen framover. Vi håper å kunne følge opp med nye runder, sier fungerende direktør Janne Stang Dahl i Datatilsynet.

Vil unngå diskriminering

Ahus-prosjektet vil utvikle en algoritme som skal kunne forutsi faren for hjertesvikt. Verktøyet bygger blant annet på EKG-målinger og er tenkt brukt som beslutningsstøtte i klinikken.

– Dette vil gi bedre behandlingstilbud ved at pasienter med høy sannsynlighet for hjertesvikt får raskere utredning og behandling. I tillegg vil det kunne korte ned liggetid og redusere reinnleggelse og dødelighet, sier Wermundsen Mork.

Men – er det fare for at algoritmens anbefalinger kan være diskriminerende? Kunstig intelligens har potensial i seg til å være et nyttig verktøy mot diskriminering. Like fullt har den kunstige intelligensens barndom bydd på flere skrekkeksempler, der KI tvert imot har ført til eller forsterket uønsket forskjellsbehandling.

– Det vi ønsker å finne ut av i sandkassen er hva som må til for å unngå algoritmeskjevhet (bias) i utviklingen og etterlæringen av algoritmen, forklarer Wermundsen Mork. Hvilke juridiske hensyn og tekniske tiltak må på plass for å unngå at beslutningsstøtteverktøyet diskriminerer? Hvordan skal prinsippet om rettferdighet og ikke-diskriminering balanseres opp mot prinsippet om dataminimering?

I tråd med strategien

KDD_sigbjorn_gjelsvik_kvad.jpg- Det er bra at det jobbes med problemstillinger som er løftet fram i den nasjonale strategien for kunstig intelligens, som etisk bruk av data i KI-løsninger. Skal vi lykkes med utvikling og bruk av kunstig intelligens, er det avgjørende at løsningene ivaretar grunnleggende rettigheter som personvern og ikke-diskriminering, sier kommunal- og distriktsminister Sigbjørn Gjelsvik.

Kollektiv intelligens

Oslos kollektivselskap Ruter opplever en «dramatisk» nedgang i bruk av offentlig transport. De ønsker å bruke kunstig intelligens i forsøket på å forstå kundenes behov og bevegelsesmønstre, for igjen å kunne forbedre tilbudet av kollektivtransport eller annen delt mobilitet. Ruter-appen er nøkkelen, som både skal gi kollektivselskapet nyttig informasjon om reisevaner og samtidig gi brukerne persontilpassede tjenester.

Man kan innvende at Google allerede kan tilby slike persontilpassede reiseforslag. Samtidig er nettopp det et argument for Datatilsynet til å utforske mulighetene for en norsk tjeneste med godt, innebygd personvern. 

Personvernvennlig overvåkning

Overskriften kan virke en smule selvmotsigende, men er det mulig? Doorkeeper er et ferskt firma, som startet opp da covid-19 viste at det er et stort behov i det moderne samfunnet for berøringsfrie løsninger på alt fra adgang til betjening og handling.

Andreas bilde.jpg– Det føles veldig bra å få tillit til å utforske regelverket rundt bruk av intelligent videoanalyse, IVA, for å fremme personvernet i moderne kamerasystemer sammen med Datatilsynet, sier Andreas Svoor, CTO i Doorkeeper.

Teknologien gjør det mulig å behandle video i sanntid i selve kameraet, uten å måtte sende informasjon ut av enheten for sentral behandling og lagring. Den gir også mulighet for å sladde ansikter/mennesker i sanntid, i tillegg til at bedre deteksjon av de farlige/uønskede hendelsene gir en spissere trigging av opptak og lagring av opptak.

– Vi håper å finne ut hvordan man kan ivareta moderne krav og vestlige verdier med tanke på GDPR og personvern på en trygg måte, uten å utelukke moderne teknologi og de mulighetene den fører med seg, sier Svoor.

Stor bredde

Da sandkassa åpnet for første søknadsrunde i desember 2020, kom nær halvparten av søknadene fra helseprosjekter. Det er definitivt mye spennende som skjer rundt bruk av kunstig intelligens i helsesektoren, men samtidig gleder det Datatilsynets direktør å se en enda større sektormessig bredde i de siste søknadsrundene. 

– Vi får mange gode søknader fra både privat og offentlig sektor. Søknadene vitner om at det skjer mye spennende i kombinasjonen kunstig intelligens og personvern, avslutter Stang Dahl.