Ruter, sluttrapport: I rute med kunstig intelligens

Ruter, sluttrapport: I rute med kunstig intelligens

Ruter har deltatt i Datatilsynets sandkasse for ansvarlig kunstig intelligens i forbindelse med at de planlegger å bruke kunstig intelligens i sin app. I sandkasseprosjektet har Datatilsynet og Ruter diskutert hvordan de kan være åpne om behandlingen av personopplysninger som vil skje i denne løsningen, blant annet om formålene. En spesielt interessant problemstilling er knyttet til hvor tydelig man må avgrense formålene med behandlingen på forhånd, all den tid kunstig intelligens' styrke er å oppdage nye sammenhenger og muligheter.

Sammendrag

Ruter ønsker å bruke kunstig intelligens (KI) for å gi personlig tilpassede reiseforslag til kundene sine i Ruter-appen. Reiseforslagene vil genereres ved bruk av KI. Ønsket effekt er å øke bruken av kollektivtransport, mikromobiliet, sykkel og gange, som igjen kan være et bidrag til å nå klima- og miljømål, inkludert nullvekst i personbiltransport.

For å sikre at Ruter forblir en attraktiv tilbyder av mobilitetstjenester i et stadig mer konkurransepreget marked, vil videreutvikling av tjenestene være nødvendig. Samtidig er Ruter avhengig av befolkningens tillit. Derfor har Ruter som mål at enhver anvendelse av KI på brukernes personopplysninger må være ansvarlig og rettferdig.

Sammen med økt personalisering av de digitale produktene har Ruter behov for å gi tydelig, forståelig og brukervennlig informasjon om sine tjenester. Dette sandkasseprosjektet vil utforske hvordan videreutviklingen kan gjøres på en måte som sikrer åpenhet og tillit rundt utviklingen og bruken av KI.

Hva er sandkassa?

I sandkassa utforsker deltakere sammen med Datatilsynet personvernrelaterte spørsmål, for å bidra til at tjenesten eller produktet deres etterlever regelverket og ivaretar personvernet på en god måte. 

Datatilsynet tilbyr veiledning i dialog med deltakerne, og konklusjonene fra prosjektene er ikke vedtak eller forhåndsgodkjenning. Deltakerne står fritt i valget om å følge rådene de får.

Sandkassa er en verdifull metode for å utforske problemstillinger der jussen har få praktiske eksempler å vise til, og vi håper konklusjoner og vurderinger i rapporten kan være til hjelp for andre med liknende problemstillinger.

Hovedpunkter

  • Åpenhet i utviklingsfasen: For Ruter er det avgjørende at kundene er trygge på at personopplysninger blir behandlet ansvarlig. At kundene er villige til å dele personopplysningene sine er en forutsetning for utvikling av KI-tjenesten. For at et samtykke skal være gyldig, må kundene også ha innsikt i og forståelse for hva de takker ja til, samt kunne trekke samtykke. Derfor må Ruter sørge for å gi tilstrekkelig informasjon, blant annet om hvordan KI-tjenesten kommer frem til reiseforslag, uten at det blir for komplisert å forstå. I Ruter sin tjeneste er lagvis informasjon en god løsning for å ivareta begge hensyn.
  • Formålsbegrensning: Ruter ønsker å videreutvikle både KI-tjenesten spesielt og andre tjenester generelt ved bruk av personopplysninger innsamlet ved kundenes bruk av Ruter-appen. Ruter må definere klart hva som faller inn under samme formål, og hva som er separate formål som de allerede på innsamlingstidspunktet vet at de ønsker å bruke personopplysningene til. Hvis Ruter senere ser behov for å benytte personopplysningene til nye, uforutsette formål, må de vurdere om de nye formålene vil være forenelige med opprinnelig formål.
  • Åpenhet i bruksfasen: Også når KI-tjenesten skal tas i bruk er det avgjørende med god, lagvis informasjon for å ivareta kundenes tillit og gyldig samtykke. De registrerte må informeres om hvert spesifikke formål før behandlingen av personopplysninger finner sted, og samtykke må innhentes for hvert nytt formål. Åpenhet vil være viktig for tilliten rundt bruk av KI-tjenesten.

Veien videre

Diskusjonene i sandkasseprosjektet har bidratt til å konkretisere kravene til åpenhet, som Ruter må følge ved utvikling og bruk av KI. Vurderingene i denne rapporten er også relevante for andre utviklere som vil ivareta åpenhet i sine KI-løsninger.

Ruter har sett at diskusjonene rundt åpenhet, formål og ansvar i sandkasseprosjektet har relevans også i andre prosjekter de jobber med. De ønsker derfor å sørge for videre kompetanseoverføring til andre deler av virksomheten. De kommer til å fortsette å utforske bruk av KI i tjenestene, der de ser at det kan gi en positiv forbedring av kundeopplevelsen, eller en mer effktiv drift av tilbudet. Erfaringene fra sandkasseprosjektet knyttet til åpenhet, formålsbegrensning og informasjonsplikt gjør at man er bedre rustet til å sikre at disse tjenestene utvikles i henhold til regelverket, kundenes rettigheter og forventninger.

Les mer om veien videre.