Innspill til regjeringens strategi for kunstig intelligens

Datatilsynet har nylig hatt møte med digitaliseringsminister Nikolai Astrup. Vi la blant annet frem våre innspill til regjeringens strategi for kunstig intelligens (KI).

Bildet til høyre: Digitaliseringsminister Nikolai Astrup er Datatilsynets nye statsråd. Her fra første møte med Bjørn Erik Thon i Datatilsynet 18. juni. Foto: KMD

Datatilsynet synes det er svært positivt at regjeringen vil lage en nasjonal KI-strategi. Hvordan vi skal sørge for at KI utvikles og tas i bruk på en måte som er til det beste for mennesket og samfunnet, er en stor og viktig oppgave.

- Utviklingen av kunstig intelligens har potensiale for betydelig samfunnsgevinster, men møter også juridiske og etiske dilemmaer og vil på mange områder utfordre grunnleggende personvernhensyn, sier Bjørn Erik Thon.

En vellykket utvikling og implementering av systemer basert på kunstig intelligens er avhengig av at befolkningen har tillit til at systemene håndterer opplysningene om dem på en sikker og rettferdig måte.

- Hvis folk ikke har tillit, vil de være mer forsiktige med å dele opplysningene sine, sier fagdirektør Catharina Nes.

Dårlig ivaretatt personvern i utviklingen av KI kan derfor hemme graden av innovasjon og utvikling på dette feltet. I Europa har vi fått en oppdatert personvernlovgivning, GDPR.

- Oppdateringen kom i grevens tid. Personvernforordningen er, så langt, den første i verden som regulerer utvikling og bruk av kunstig intelligens, sier Catharina Nes.

Datatilsynet har gitt følgende tre innspill til den nasjonale strategien for kunstig intelligens:

Etisk og personvernvennlig KI bygger tillit
Skal vi utnytte potensialet i KI og samtidig ivareta enkeltmenneskets grunnleggende friheter og rettigheter, må vi utvikle løsninger som er åpne og gjennomsiktige, som fatter beslutninger som lar seg forklare og som er rettferdige og ikke-diskriminerende. Den nasjonale strategien må bidra til at utvikling og bruk av KI skjer i samsvar med personvernprinsippene i personvernforordningen.
Økt satsning på personvernfremmende teknologi blir viktig for å hente ut potensialet i KI
Vi må utvikle metoder og teknologi som støtter opp under personvernprinsippene. Den nasjonale strategien må bidra til å styrke forsking på og utvikling av metoder som gjør utnyttelse av store datamengder mulig, samtidig som personvernet ivaretas. Dette innebærer blant annet utvikling av metoder for å redusere behovet for treningsdata, ivareta personvernet uten at datagrunnlaget reduseres og for å unngå svart boks-problematikken.
Effektiv håndheving ivaretar tillit – krever kompetente og kraftfulle tilsynsorgan
I tiden fremover vil vi oppleve at flere og flere av beslutningene som berører oss blir tatt ved hjelp av kunstig intelligens. Kraftfull håndheving av personvernforordningens prinsipper er viktig for å ivareta folks tillit til at beslutningene som treffes om dem er korrekte og rettferdige. Datatilsynet mener at den nasjonale strategien bør bidra til å sikre effektive og kompetente tilsynsorgan. Tilsyn med systemer basert på KI er teknisk komplekse og arbeidskrevende. Dette krever en opprustning av tilsynsmyndighetene i form av ny kompetanse og økte ressurser.