Mål for sandkasseprosjektet
Datatilsynet og Ruter har identifisert to hovedmål som knytter seg til potensielle personvernutfordringer ved henholdsvis utviklingen og bruken av Ruters KI-modell.
Mål 1: Utrede kravene til åpenhet ved bruk av personlige reiseopplysninger til å utvikle kunstig intelligens
-
Leveranse 1.1: Avklare hva som utløser de registrertes rett til informasjon om hvordan deres personopplysninger blir behandlet ved utviklingen av den kunstige intelligensen.
Det vil ta tid fra lokal innsamling av personopplysninger starter til første versjon av tjenesten kan eksponeres for brukere. Et viktig spørsmål er hva som utløser informasjonsplikten. Blant annet må det avklares når det behandles opplysninger om en identifisert eller identifiserbar fysisk person i henhold til personvernforordningen, og når Ruters behandlingsansvar trer inn. -
Leveranse 1.2: Avklare de registrertes rett til informasjon ved utviklingen av KI-modellen.
Ruter ønsker å være åpne om hvordan kundenes personopplysninger vil brukes i forbindelse med utvikling av den nye funksjonaliteten. For å sikre åpenhet er det viktig å kunne forklare formålene bak behandlingen og hvordan personopplysningene skal behandles ved utviklingen av KI. Sentrale spørsmål er hvor mye som må forklares, og hvordan man skal gi en god forklaring før man vet hvordan KI-modellen vil bli. -
Leveranse 1.3: Identifisere problemstillinger tilknyttet kravene til informasjon ved utviklingen av den kunstige intelligensen, når man bruker samtykke som rettslig grunnlag.
Noen særkrav til informasjon kommer inn ved bruk av samtykke som rettslig grunnlag. Vi ønsker å identifisere hvilken informasjon som kreves for å sikre at samtykket er gyldig.
Mål 2: Utrede kravene til åpenhet ved bruk av kunstig intelligens på personlige reiseopplysninger
-
Leveranse 2.1: Avklare hva de ulike formålene med behandlingen av personopplysninger i bruksfasen vil være, og hva som faller inn under samme formål.
Formålene skal være tydelig angitt allerede før behandlingen av personopplysninger starter. Vi ønsker å se nærmere på hvordan formålene i bruksfasen kan angis. Det kan være krevende å definere et tydelig formål for kunden, når Ruter ennå ikke kjenner det fulle potensialet av bruken av personopplysningene og maskinlæringen. -
Leveranse 2.2: Avklare de registrertes rett til informasjon i bruksfasen.
Også ved bruk av KI ønsker Ruter å være åpne om hvordan kundenes personopplysninger vil brukes. Et sentralt spørsmål er hvordan man kan gi en kortfattet, enkel forklaring til kundene og samtidig gi en god nok beskrivelse av hva som skjer. Hvor mye av logikken bak KI-modellene må og bør man opplyse om når de brukes på personopplysninger? Et annet spørsmål er om KI-modellen må tilpasses for å ivareta de ulike kravene til informasjon. -
Leveranse 2.3: Identifisere problemstillinger tilknyttet kravene til informasjon i bruksfasen, ved bruk av samtykke som rettslig grunnlag.
KI-modellen vil måtte videreutvikles parallelt med at kundene bruker den i Ruter-appen. Vi ønsker å undersøke hvilken informasjon en samtykkeerklæring må inneholde for å sikre et gyldig samtykke når modellen fortsatt er under utvikling.