Datatilsynets regulatoriske sandkasse skal stimulere til innovasjon av ansvarlig kunstig intelligens. Sandkassa hjelper enkeltaktører med å følge regelverket og utvikle personvernvennlige løsninger.
Politipatruljer på nett i form av digitale roBOTar, som skal avdekke mulege overgrep mot barn. Og ein ny type ansiktsgjenkjenning, som skal vere meir personvernvenleg enn eksisterande biometri-metodar. Det er overskriftene til to nye prosjekt plukka ut for Datatilsynets KI-sandkasse.
– Å få utforska prosjektet i sandkassa er i praksis truleg eit vere eller ikkje vere for prosjektet, seier Inger Marie Sunde, professor ved Politihøgskolen.
Kan en algoritme, som skal forutse hjertesvikt, opptre diskriminerende? Og hva kan vi gjøre for å sikre at kunstig intelligens behandler oss rettferdig? Det var sentrale spørsmål i sandkasseprosjektet med Ahus og LDO. Og det var tema for seminaret "Hvordan holde algoritmer i øra?"
Torsdag 9. mars ble lansering av sandkasserapporten fra Simplifai-prosjektet markert med et seminar, der det ble diskutert hvordan man kan heve bestillerkompetansen i offentlig sektor når det kommer til kjøp av kunstig intelligens. Dessverre har vi ikke opptak fra arrangementet. Det skyldes menneskelig svikt KI aldri ville begått.
Men - det er tydelig at temaet vekker interesse. Det tar vi med oss i planleggingen av kommende arrangement.
En digital arkivmedarbeider, DAM, skal hjelpe saksbehandlere i offentlig sektor med å journalføre og arkivere dokumentasjon som blir sendt på e-post. Håpet er å sikre riktig og viktig arkivering.
Men hvor automatisert kan prosessen gjøres, uten at det går ut over personvernet? Nå er sluttrapporten klar fra Simplifai-prosjektet.
Bruker du kunstig intelligens på personopplysninger, stiller loven krav til åpenhet. Sandkassa har laget en rapport, basert på erfaringer fra tre sandkasseprosjekter, om hvordan du kan informere om bruk av kunstig intelligens.
Noen steder vil du helst ikke være stamgjest. For eksempel på sykehusakutten. Nå vil Helse Bergen bruke kunstig intelligens til å peke ut hvem som har økt risiko for rask retur til sykesengen. Og i sandkassa har de utforsket om det er mulig med personvernet i behold.
Samtidig som det tiande sandkasseprosjektet starta opp no i haust, kan vi hauste sandkassas første frukt – i form av eit produkt. Secure Practice var eitt av dei første prosjekta inn i sandkassa, og tenesta dei utforska saman med Datatilsynet der, er no lansert.
Følg med på det som skjer i sandkassa ved å abonnere på vårt nyhetsbrev, der du får invitasjoner og informasjon om søknadsfrister, møter, webinarer og arrangement som er relevant for alle som er opptatt av ny, ansvarlig kunstig intelligens.
Hvordan hindre diskriminering ved bruk av kunstig intelligens i offentlig sektor? Det var det sentrale spørsmålet, da Datatilsynet og Likestillings- og diskrimineringsombudet sammen inviterte til en panelsamtale om saksbehandlende algoritmer under Arendalsuka 2022.
Søknadsbunken til den første runden i sandkassa avdekket et utbredt problem: Mangel på behandlingsgrunnlag. Eller i det minste mangel på kunnskap om behovet for et behandlingsgrunnlag. I samarbeid med DigitalNorway byr vi på redningen for dere som ikke skjønte de forrige setningene: Et lynkurs i personvern for innovasjonsprosjekter.
Kurset er gratis, og tas på 20-30 minutter.