Politipatruljer på nett i form av digitale roBOTar som skal avdekke mulege overgrep mot barn. Og ein ny type ansiktsgjenkjenning som skal vere meir personvernvenleg enn eksisterande biometri-metodar. Det er overskriftene til to nye prosjekt plukka ut for Datatilsynets KI-sandkasse.
– Begge prosjekta grip djupt inn i område Datatilsynet og samfunnet generelt treng mykje kunnskap og openheit om. Begge prosjekta har potensial i seg til å kunne bli både krevjande og spennande, seier avdelingsdirektør Veronica Jarnskjold Buer i Datatilsynet.
PrevBOT er eit samarbeid mellom Politihøgskolen og Universitetet i Agder. Det er eit konsept for eit verktøy for patruljering på opne sosiale medier, med formål å førebyggje seksuelle overgrep mot barn. Den KI-baserte boten skal kunne kartleggje åtferd som indikerer risiko for seksuelle overgrep, og den skal kunne peike ut sosiale arenaer det er verd å følgje ekstra med på. Den skal kunne identifisere grooming-samtalar via analyse av språk, og den skal kunne predikere alder og kjønn på dei involverte.
– Prosjektet er nybrottsarbeid, der vi manglar gode eksempel å støtte oss på. Det involverer ordensmakta og er sensitivt på mange måtar. Å få utforska prosjektet i sandkassa, er i praksis truleg eit vere eller ikkje vere for prosjektet, seier Inger Marie Sunde, professor ved forskingsavdelinga ved Politihøgskolen.
Det overordna formålet er å førebygge seksuelle overgrep mot barn. Men er det muleg å få til med PrevBOT innanfor gjeldande lover og etiske retningslinjer? Er det teknologisk muleg å få boten til å patruljere med tilstrekkeleg presisjon? Og vil den krevje ein debatt om korleis vi bør og vil bruke ny teknologi?
– For oss som jobbar med personvern rykker det automatisk litt i peikefingerrefleksen. Nettopp derfor blir det ekstra spennande å gå inn i dette prosjektet med ope sinn, og sjå om dette er noko som er muleg å få til utan at det kjem i konflikt med personvernet, seier Buer.
I det andre prosjektet ønsker oppstartselskapet Mobai å gi personvernvenleg ansiktsgjenkjenning eit ansikt. Det er ikkje hemmeleg at både det norske og europeiske datatilsynsmyndigheiter meiner ansiktsgjenkjenning – og særleg ansiktsgjenkjenning i kombinasjon med kunstig intelligent analyse – er eit krevjande og utfordrande tema med høg risiko.
– Om dette initiativet kan vere nøkkelen til personvernvenleg innovasjon, er eit spennande potensial, seier Buer.
– For oss er det heilt avgjerande å diskutere bruk av biometri med Datatilsynet, slik at vi kan utvikle ei sikker og personvernvenleg løysing for ansiktsverifikasjon som eit tiltak mot auka svindel, seier Brage Strand, CEO i Mobai.
I ryggen har Mobai solid kompetanse frå fleire hald. Med på laget er BankID, Sparebank1 Østlandet, NTNU og Centre for IT and IP Law ved Universitetet Leuven i Belgia. Dei ønsker altså å sjå på korleis ein kan gjennomføre ansiktsgjenkjenning på ein sikrare måte, som også gir brukaren meir kontroll. Løysinga skal kunne gjere det muleg å bruke ansiktsgjenkjenning for enklare og sikrare autentisering av brukarar av banktenester, og dermed redusere risikoen for svindel og misbruk.
Som alltid i sandkassa er det kort tid frå opptak til oppstart. Omtrent i takt med vårblomstringa startar den konstruktive, dialogbaserte vegleiinga i sandkassa. I Mobai er Strand mest spent på om dei har førebudd seg godt nok, slik at dei evnar å presentere prosjektet på ein enkel og forståeleg måte.
– Og ikkje minst ser vi fram til gode diskusjonar rundt utfordringane og mulegheitene saman med Datatilsynet, seier han.
Avdelingsdirektør Buer i Datatilsynet legg ikkje skjul på at begge prosjekta har element i seg som kan utfordre personvernet til enkeltindivida i samfunnet.
– Og nettopp derfor er dette utruleg viktige prosjekt. Det er framifrå at Mobai og Politihøgskolen/UiA har søkt seg til sandkassa. Det er slik vi saman får til personvernvenleg innovasjon, seier Buer.
Ho viser til at i sandkassa står Datatilsynet friare til å utforske grenser og vere konstruktiv på personvernets vegne, for sandkasseprosessen handlar ikkje om å dele ut godkjendstempel til prosjekta. Dermed er det lettare å vere opne om det som er utfordrande, og prosessen blir meir lærerik for alle partar.
– Til dei som eventuelt er bekymra på personvernets vegne: Ta det med ro, vi går inn i prosjekta med skjerpa sinn. Til verksemdene som deltek: Slapp av, vi møtes med ope sinn.