Innspill til ny nasjonal digitaliseringsstrategi

I brev fra Direktoratet for høyrere utdanning og kompetanse, heter det blant annet: 

"Direktoratet for høyere utdanning og kompetanse (HK-dir) har fått i oppdrag fra Kunnskapsdepartementet (KD) å innhente innspill til strategiarbeidet fra en bred gruppe av virksomheter i høyere utdanning og forskning. Politisk ledelse vil bruke innspillene for å si noe om hva sektoren samlet mener det er særlig viktig at strategien ivaretar." 

HK-dir ber om innspill gjennom et kort spørreskjema, og her er spørsmålene gjengitt med påfølgende innspill fra De nasjonale forskningsetiske komiteene:

1. Kunnskapssektorens viktigste bidrag til digitalisering av arbeidsliv, næringsliv og samfunnet generelt er utdanning av relevant digital kompetanse og utvikling av ny kunnskap gjennom forskning. Hva er de viktigste utfordringene og mulighetene på disse områdene?

Digitalisering skaper nye store muligheter for forskningen, men gir også opphav til store utfordringer, for eksempel knyttet til konsekvenser og bruk av forskning og teknologi i samfunnet. Sentrale forskningsetiske utfordringer og muligheter kan blant annet knyttes til grunnleggende forskningsetiske prinsipper som respekt, gode konsekvenser og rettferdighet:

• Respekt for den enkelte forskningsdeltaker aktualiseres på flere måter med digitalisering. Koblinger mellom data fra ulike kilder kan skape utfordringer knyttet til ivaretakelsen av respekt for personer og grupper, ved å vanskeliggjøre muligheten for reelt informert samtykke og muligheten for reell anonymisering. Samtidig kan digitaliseringen også tilby løsninger som ivaretar hensyn til enkeltindivider, for eksempel ved å gi nye muligheter for inkludering og informasjon.
• Gode konsekvenser innebærer dels å unngå skade på dem som deltar i eller påvirkes av forskning og for samfunn og miljø, og et ansvar for at forskningen skal komme samfunnet til gode. Digitaliseringen går fort, det kan være stor usikkerhet om konsekvensene og det er kortere vei mellom forskning og anvendelse. Dette gjør at forskningen raskere kan komme individer, grupper og samfunn til gode, men gjør oss også mer sårbare og øker risikoen for uakseptable konsekvenser.
• Rettferdighet i denne konteksten betyr blant annet bred inkludering i utvikling av kunstig intelligens-systemer og at løsningene gjøres tilgjengelige for alle samfunnsgrupper.

Algoritmer og maskinlæringsmodeller kan medføre diskriminering, blant annet fordi teknologien ikke er grundig nok vurdert, slik dette blant annet er beskrevet i Innebygd diskrimineringsvern. En veileder for å avdekke og forebygge diskriminering i utvikling og bruk av kunstig intelligens fra Likestillings- og diskrimineringsombudet. Digitalisering kan på samme tid gi flere muligheter for bred involvering og sikre representasjon av flere stemmer.

2. Nevn de viktigste områdene ny nasjonal digitaliseringsstrategi bør adressere (inntil 3 områder)

• Overordnet mener FEK at den nye strategien må anerkjenne forskningsetikk som en essensiell del av digitaliseringen. Forskningsetikken må være med fra begynnelsen av i forskningsprosjekter og utgjøre en del av hele prosessen, frem mot bruk i samfunnet. Det er en stor satsning på kunstig intelligens-forskning, nasjonalt og internasjonalt, og dette fordrer en tilsvarende satsning på forskningsetikk. Strategien bør ta opp målet i Nasjonal strategi for kunstig intelligens om innebygget etikk og målet om at etikken skal bygges inn i algoritmene og alle utviklingsfaser av kunstig intelligens-systemer.
• FEK mener det vil være hensiktsmessig om strategien bidrar til å definere en felles forståelse av det normative rammeverket som gjelder, dvs. gjeldende regler og retningslinjer. Dersom forskning og teknologiutvikling skal skje i henhold til anerkjente forskningsetiske normer, må det være god forståelse av hvilke normer som gjelder. Samtidig er det helt essensielt at strategien peker ut hvordan digitaliseringen også må ledsages av forebyggende innsats, når det gjelder bevisstgjøring og kompetanseløft om forskningsetikk
• FEK mener det er vesentlig at strategien adresserer alle fagområder. Digitaliseringen generelt, og kunstig intelligens spesielt, påvirker forskningen i ulike fag på forskjellige måter, og kan gi opphav til ulike forskningsetiske problemstillinger.

3. Har dere konkrete forslag til tiltak som bør inngå i ny nasjonal digitaliseringsstrategi?

• Opplæring i etikk knyttet til digitalisering. Med Lov om organisering av forskningsetisk arbeid (forskningsetikkloven) har forskningsinstitusjonene fått et lovpålagt ansvar for å sikre at forskningen ved institusjonen skjer i henhold til anerkjente forskningsetiske normer, herunder å gi nødvendig opplæring av kandidater og ansatte i anerkjente forskningsetiske normer. De nasjonale forskningsetiske retningslinjene utgjør en kodifisering av slike normer innenfor ulike fagfelt og på ulike områder. Med digitalisering kommer mange forskningsetiske normer under særlig press. Dette styrker behovet for opplæring for å sikre god forskningsetisk bevissthet og kompetanseløft.
• Krav til andre forskningsutførende aktører. Forskningsinnsats på områder som kunstig intelligens og stordata innebærer gjerne samarbeid mellom forskningsinstitusjoner og offentlige og private aktører. Strategien bør anerkjenne betydningen av at andre aktører som utfører forskning på områder somkunstig intelligens og stordata også har gode rutiner og tilstrekkelig kompetanse om både personvern og forskningsetikk for å sikre at forskningen skjer i tråd med anerkjente forskningsetiske normer og for å ivareta tillit til forskning. Opplæringstiltak bør derfor gjelde på tvers av sektorer.