Veien videre
Dersom prosjektet lykkes i å utvikle en god prediksjonsmodell, er målet å prøve den ut i klinisk drift i starten av 2024.
Klinisk beslutningsstøtteverktøy basert på kunstig intelligens er medisinsk utstyr og må gjennomgå samsvarsvurdering, og ha samsvarserklæring om at utstyret oppfyller regelverkets krav for bruk i klinisk virksomhet.
Les mer om CE-merking av medisinsk utstyr på legemiddelverkets nettsider.
Et beslutningsstøttesystem basert på kunstig intelligens skiller seg fra annet medisinsk utstyr ved at det kan retrenes jevnlig for å forhindre at treffsikkerheten reduseres. Statens legemiddelverk har i veiledningsmøte med Ahus forklart at de ikke anser det som helt umulig å slippe medisinsk utstyr med kontinuerlig lærende algoritmer på markedet, men at det kan være utfordrende i lys av regelverkets krav slik de fremstår per i dag. Ahus har mottatt prosjektstøtte fra Live Science Growth House for å, sammen med DNV, gjøre en gap-analyse i henhold til ISO/IEC DIS 42001, som et ledd i AHUS sine forberedelser til å ta i bruk kunstig intellingens.
Arbeidet i sandkasseprosjektet har synliggjort en potensiell risiko for at EKG AI kan diskriminere enkelte pasientgrupper som i dag ikke er like godt representert i datagrunnlaget algoritmen baserer seg på. Ahus vil gjennomføre en klinisk studie for å undersøke om algoritmen gir dårligere prediksjoner for pasienter med ulik etnisk bakgrunn og eventuelt andre aktuelle diskrimineringsgrunnlag. Resultatene vil vise om det er behov for å iverksette korrigerende tiltak.
I løpet av prosjektperioden har vi sett at det ikke finnes en felles og omforent metode for å avdekke algoritmeskjevhet. Dersom vi hadde hatt mer tid i prosjektet ville vi ha utviklet en egen metode, basert på erfaringer fra prosjektperioden. I tillegg ville det ha være interessant å gå enda dypere ned i de etiske kravene knyttet til bruk av kunstig intelligens i helsesektoren.