Rettferdighet og forskjellsbehandling
Personvernforordningen plasserer rettferdighet blant grunnprinsippene for behandlingen av personopplysninger i artikkel 5, og blir nevnt samtidig som åpenhet med hensyn til den registrerte, og behandlingens lovlighet.
Et lignende skille blir benyttet i EUs ekspertgruppes etiske retningslinjer for pålitelig kunstig intelligens og gjenspeiles i Nasjonal strategi for kunstig intelligens, med hovedprinsippene lovlig, etisk og sikker.
Det er fortsatt lite praksis som kan belyse det konkrete innholdet i rettferdighetsprinsippet nærmere, men det foreligger noe veiledning i personvernforordningens fortalepunkter. Det er også verdt å nevne at prinsippet om en rettferdig behandling av personopplysninger er ment å være en fleksibel rettslig standard, som kan tilpasses den konkrete behandlingssituasjonen.
Den konkrete situasjonen til den registrerte må tas i betraktning, når man vurderer om behandlingen er forenelig med forordningens krav. Man må ta hensyn til hvilke rimelige forventninger den registrerte har til beskyttelsen av sine personopplysninger, samt eventuell makt-ubalanse mellom den registrerte og den behandlingsansvarlige.
Personvernrådet fremhever i sin veiledning 4/2019 om innebygd personvern flere momenter som inngår i rettferdighetsprinsippet, blant annet ikke-diskriminering, den registrertes forventninger, behandlingens bredere etiske problemstillinger, og respekt for rettigheter og friheter. For å sikre at løsningen ble vurdert også i et videre rettferdighetsperspektiv, involverte derfor prosjektet Likestilling- og diskrimineringsombudet (LDO).
LDO presenterte i en egen workshop sammenhenger mellom personvernreglene og likestillings- og diskrimineringsloven. Ombudet ga også en innføring i hvordan en aktør kan vurdere om det skjer ulovlig diskriminering, etter likestillings- og diskrimineringsloven § 6- §9.
LDO framhevet følgende om Secure Practice’ tjeneste:
I en tidlig fase av prosjektet lanserte Secure Practice et alternativ, der de med best score i verktøyet kunne fungere som ambassadører i virksomhetene. LDO pekte da på risikoen for at ambassadørene ville få en mer positiv karriereutvikling enn andre, dersom arbeidsgiver hadde tilgang til hver enkelt score for arbeidstakerne. LDO viste også til at dersom KI-verktøyet premierte egenskaper og interesser som for eksempel er mest vanlig hos enkelte grupper, ville det foreligge en risiko for indirekte diskriminering i modellen. Indirekte diskriminering er som hovedregel ulovlig, etter likestillings- og diskrimineringsloven § 8.
Når Secure Practice nå gjør ytterligere tiltak for å sikre at arbeidsgiverne ikke får tilgang til den enkeltes score, mener LDO det er et godt grep, som reduserer risikoen for at arbeidsgiver skal kunne benytte informasjon om arbeidstakernes kunnskap om cybersikkerhet til andre formål enn tiltenkt. Samtidig mener LDO det er viktig at Secure Practice på sikt spesifiserer hvilke demografiske data som skal samles inn, hvordan disse dataene vil bli brukt, samt begrunnelsen for og sakligheten av den aktuelle databruken.
LDO oppfordrer Secure Practice til å påse at opplæringstilbudet og kurstilpasningen fungerer like godt for alle grupper; kvinner og menn, yngre og eldre, og personer med funksjonsnedsettelser osv. For å oppnå dette bør Secure Practice unngå å spille på stereotype forestillinger om ulike grupper, når opplæringen skal tilpasses de ulike arbeidstakerne. Å spille på stereotypier er ikke nødvendigvis diskriminering, men kan bidra til å bygge opp under tradisjonelle forestillinger om personer tilhørende bestemte grupper. Slike forestillinger kan være lite treffsikre, noe som vil redusere verdien av opplæringstilpasningen. Av øvrige tiltak oppfordres Secure Practice til å periodevis teste og eventuelt justere egen tjeneste, for å påse at tilpasningsfunksjonene fungerer like godt for alle brukere.
Under disse forutsetningene mener LDO at den forskjellsbehandlingen de ansatte utsettes for ved at opplæringen tilpasses den enkeltes kompetansenivå, er en saklig form for forskjellsbehandling, jf. likestillings- og diskrimineringsloven §§ 6 og 9.