Kunstig intelligens i statlig sektor - 6 flagg

Sammendrag

Kunstig intelligens (KI) i statlig sektor kan bidra til effektivisering, men også til å løse samfunnsoppgaver på nye og bedre måter. I offentlig sektor kan KI-systemer benyttes til å løse så forskjellige oppgaver som å forutsi sykefravær, oppdage fall hos eldre beboere på sykehjem og overvåke av snøskred eller flom. Generativ KI, som ChatGPT, kan avhjelpe saksbehandling og øke effektiviteten.

I dette notatet ser vi på hvordan KI kan bidra til gevinster i offentlig sektor. Men KI kan ikke innføres og brukes ukritisk. Skal vi lykkes med implementeringen av dette kraftige verktøyet, må vi være oppmerksomme på en rekke faktorer. I dette notatet har vi identifisert seks områder, eller «flagg» som krever oppmerksomhet når KI skal innføres i statlig sektor i stor skala: risiko for diskriminering, utfordrende personvernregelverk, manglende kompetanse, algoritmestyrt ledelse, uklart regelverk og mangelfull medbestemmelse og involvering.

På bakgrunn av dette foreslår vi en rekke tiltak, som for eksempel en aktivitets- og redegjørelsesplikt for KI. En gjennomgang av aktuelle lover for å sikre utvikling og forsvarlig bruk av kunstig intelligens, og et statlig konsulentbyrå for KI, er tiltak som også foreslås.

Kunstig intelligens representerer en betydelig mulighet for å forbedre effektiviteten og kvaliteten på tjenester i statlig sektor. Det handler om å løse samfunnsoppgaver på nye og bedre måter, noe som krever andre arbeidsformer, og ikke minst en større grad av medbestemmelse og involvering fra ansatte.

Kunstig intelligens i statlig sektor

Kunstig intelligens kan overta arbeidsoppgaver, og gjøre arbeidsdagen enklere og mer effektiv for arbeidstakere innenfor en lang rekke områder og yrker. Riktig bruk av kunstig intelligens vil også kunne ha store effektivitetsgevinster i offentlig sektor.

Kunstig intelligens blir ofte brukt som en samlebetegnelse på avansert analyse og algoritmer, inkludert maskinlæring. Maskinlæring bruker matematiske og statistiske metoder for å lage algoritmer som er basert på analyse av data. I den nasjonale strategien for kunstig intelligens fra 2020 legges følgende definisjon til grunn: Kunstig intelligente systemer utfører handlinger basert på tolkning og behandling av strukturerte eller ustrukturerte data, med den hensikt å oppnå et gitt mål.1

Regjeringen har et uttalt mål om å øke bruken av kunstig intelligens i offentlig sektor. Nylig kom regjeringens digitaliseringsstrategi. Den setter som mål at 80 prosent av offentlige virksomheter skal ha tatt i bruk KI i løpet av 2025, og 100 prosent innen 2030.2

Mange statlige virksomheter, som Skatteetaten og Lånekassen, har flere tiårs erfaring med bruk av kunstig intelligens. En rapport fra Riksrevisjonen slår samtidig fast at det er et stort og uutnyttet potensial for å ta i bruk kunstig intelligens i statlig sektor.3

Rapporten avdekker at svært mange virksomheter er helt uten erfaring med bruk av kunstig intelligens.4 Det gjelder i overkant av halvparten av de rundt 200 statlige virksomhetene de har undersøkt. Riksrevisjonen peker også på at samordningen mellom virksomheter er svak, og at det ansvarlige departementet ikke har tatt den nødvendige pådriverrollen. Riksrevisjonen konkluderer også med at det varierer i hvilken grad de etiske prinsippene for ansvarlig bruk ivaretas, og ber om at kontrollmekanismer kommer på plass.

I dette notatet går vi først gjennom hvilke områder KI kan bli viktige innenfor i offentlig sektor. Deretter identifiserer vi det vi har kalt seks flagg som virksomheter må være ekstra oppmerksomme på når kunstig intelligens innføres i statlig sektor.

Hva kan KI brukes til?

Norge står overfor en situasjon med kraftig vekst i omsorgsoppgavene kombinert med en alvorlig mangel arbeidskraft. Kunstig intelligens kan effektivisere arbeidsoppgaver og avlaste ansatte. For eksempel kan KI brukes til å forutse og planlegge sykefravær, eller maskinlæring og sensorteknologi kan oppdage om en beboer har falt eller trenger stell.Digitale assistenter basert på språkmodeller kunne overta arbeidsoppgaver, og gjøre arbeidsdagen enklere og mer effektiv for arbeidstakere innenfor en lang rekke områder og yrker.

Eksemplene viser at bredden er stor i ulike typer oppgaver KI kan hjelpe oss med å løse. En oversikt fra Digitaliseringsdirektoratet inneholder over 130 prosjekter som i dag benytter kunstig intelligens i offentlig sektor.5

Klimakrise og naturkrise krever for eksempel nytenkning og stor innsats fra oss som fellesskap. Det er mange eksempler på at KI kan være nyttige verktøy i det arbeidet. Ved hjelp av en KI-basert felle skal det nå for eksempel bli enklere å fange pukkellaks i norske elver og vassdrag.6 Norges vassdrags- og energidirektorat (NVE) har utviklet algoritmer som henter informasjon om vann og snø for nødvarsel knyttet til snøskred og flom.7

Det er stor variasjon i hvor langt man er kommet med innføring av KI i statlig sektor. Riksrevisjonen har klassifisert KI-systemer etter fagdepartementene. 70% av KI-systemene som er rapportert inn tilhører fire fagområder og sorterer under departementene helse-, kunnskap-, finans og næring- og fiskeridepartementet. Det er med andre store variasjoner i bruken av KI. Enkelte sektorer og virksomheter, som Skatteetaten og Statens pensjonskasse, begynte tidlig med utvikling og bruk av KI, mens i andre deler av offentlig sektor er slik bruk nærmest fraværende.

Norstat har på vegne av IT-konsulentselskapet Computas spurt norske ledere i offentlig sektor om deres digitaliseringstiltak i 2024. På spørsmål om det er viktig for virksomheten å ta i bruk kunstig intelligens (KI/AI) svarer hele 57 prosent delvis eller helt enig. Undersøkelsen avdekket også en viss skepsis. Blant de som ønsker å ta i bruk KI opplever så mange som 30 prosent av virksomhetene at det er for mange hindringer for å få det til i praksis. Blant dem oppgir 62 prosent mangel på kompetanse som det største hinderet, mens 51 prosent mener de møter for mange etiske problemstillinger.

I det følgende går vi nærmere inn på seks utfordringer knyttet til innføring av kunstig intelligens i statlig sektor.

Disse svarene er utarbeidet for Forskning.no av Tom Ryen som er instituttleder ved Institutt for data- og elektroteknologi ved Universitetet i Stavanger.8

Seks flagg å være oppmerksom på

Det kan være store muligheter forbundet med å ta i bruk mer kunstig intelligens i offentlig sektor. Samtidig er det utfordringer ved implementering og bruk av KI som ansatte og tillitsvalgte bør være klar over. Vi identifiserer i dette notatet seks røde flagg eller potensielle barrierer mot innføring av KI.

• Risiko for diskriminering
• Utfordrende personvernregelverk
• Manglende kompetanse
• Algoritmestyrt ledelse
• Uklarhet om ny regulering
• Mangelfull medbestemmelse og involvering

Risiko for diskriminering

Kunstig intelligens lærer av data, og vil videreføre og ofte forsterke skjevheter som ligger i materialet. KI-systemer gjenspeiler derfor informasjonen den er trent med, på godt og vondt. Det finnes mye diskriminerende tekst på internett. En KI-modell som ukritisk er trent med denne dataen, vil dermed «være fordomsfull».

Ofte er det også slik at kunnskap og trening av AI foregår i utdanningsinstitusjoner med høyinntektsgrupper i engelsktalende land, med en tilsvarende underrepresentasjon av andre perspektiver.

Forskjellsbehandling som ikke har en tilstrekkelig begrunnelse, utgjør diskriminering og er ulovlig.9 Ifølge likestillings- og diskrimineringsloven er det ulovlig å usaklig eller urettmessig forskjellsbehandle individer eller grupper på bakgrunn «kjønn, graviditet, permisjon ved fødsel og adopsjon, omsorgsoppgaver, etnisitet, religion, livssyn, funksjonsnedsettelse, seksuell orientering, kjønnsidentitet, kjønnsuttrykk, alder, eller kombinasjoner av disse grunnlagene.»

Likestillings- og diskrimineringsloven gir et individuelt vern mot diskriminering. Denne loven sier også at offentlige myndigheter og arbeidsgivere har en plikt til «å arbeide aktivt, målrettet og planmessig for å fremme likestilling og hindre diskriminering» (Lovens §§ 24, 26 og 26a).

Forskjellsbehandling blir regnet som diskriminering hvis individer eller grupper blir behandlet dårligere enn andre, eller når de blir behandlet likt, men utfallet fører til at de blir stilt dårligere enn andre. Den første kalles direkte forskjellsbehandling og siste er indirekte forskjellsbehandling.

Diskriminering kan oppstå til tross for at KI-systemene ikke bruker gruppekjennetegn som kjønn eller etnisitet. Ved at de bruker kjennetegn som korrelerer med disse, som utdanning, bosted eller økonomi, kan resultatet likevel bli at personer utsettes for forskjellsbehandling som har sammenheng med et eller flere vernede gruppekjennetegn. Dette omtales ofte som bias.10

En stor utfordring når det gjelder å avdekke diskriminering er manglende åpenhet og innsyn i hvordan algoritmene fungerer. Det er ikke mulig å håndheve diskrimineringsvernet uten at det samtidig skaffes innsikt i, og kunnskap om, algoritmers og KI-systemers virkemåte.

I KI-systemer er det også en utfordring at det er vanskelig å få en forklaring på hvorfor systemet handlet som det gjorde. I Norge har man rett på en begrunnelse når vedtak fattes.11 Det vil være krevende når beslutningsgrunnlaget er basert på KI. Det er et krav at alle har rett til innsyn i statens dokumenter.12 Offentlighetsloven sørger for innsyn i offentlig informasjon. Prinsippet om meroffentlighet sier at offentlig informasjon skal være åpent tilgjengelig, med mindre det er tungtveiende grunner til å holde den skjult. Samtidig er det uklart hvordan disse kravene skal praktiseres når avanserte KI-systemer tas i bruk.

Manglende gjennomsiktighet i KI-modellene gjør identifisering av diskrimineringsgrunnlaget utfordrende. Manglende forklarbarhet gjør det vanskelig å forstå hvordan algoritmene fungerer og potensielt diskriminerer. I tillegg kan algoritmer håndtere flere prosesser og avgjørelser enn mennesker. Det er en risiko for diskriminering i stor skala som ikke blir oppdaget.

Bruk av kunstig intelligens krever en spesiell årvåkenhet, og vi har liten erfaring med hvordan diskriminering kan slå ut. Det bør derfor vurderes å innføre en aktivitets- og redegjørelsesplikt. Det kan for eksempel være en egen bestemmelse i likestillings- og diskrimineringsloven slik Vibeke Blaker Strand argumenterer for i en utredning hun har gjort på oppdrag fra Likestillings- og diskrimineringsombudet.13

Utfordrende personregelverk

Kunstig intelligens er avhengig av store mengder data, herunder personopplysninger. EUs personvernforordning (GDPR) regulerer behandling av personopplysninger, men er ikke tilpasset spesielt til å regulere bruk av kunstig intelligens.

Det kan i tillegg være en økt personvernrisiko ved bruk av KI dersom brukerdata behandles og lagres på serverne til kommersielle aktører uten at det foreligger en avtale med brukerens virksomhet. Spesielt utfordrende kan det være når serverne er plassert i utlandet.

I 2024 gjennomførte Riksrevisjonen en spørreundersøkelse blant 143 kontaktpersoner i statlige virksomheter om bruk av kunstig intelligens. Den viste at mange opplever det som krevende å forstå hvordan de skal forholde seg til personvernet når de tar i bruk kunstig intelligens. Rundt 40 prosent svarte at det er vanskelig å ivareta personvernhensyn i arbeidet med å utvikle systemer for kunstig intelligens.14

Datatilsynet har opprettet en regulatorisk sandkasse for at dette skal bli lettere. Her får man mulighet til å utvikle og teste KI-prosjekter på en trygg og ansvarlig måte. Hjelpen kan innebære at det blir gjennomført et uformelt digitalt «tilsyn» med virksomheten.15 Eller at man får bistand i avveiinger mellom nødvendighet og potensielle personvernulemper for brukere.

Sandkassen startet som et prøveprosjekt, men har nå fått en permanent bevilgning. Riksrevisjonens rapport viser imidlertid at erfaringene med den regulatoriske sandkassen er varierende. Siden sandkassen ble opprettet i 2020, har kun fem prosjekter fra statlig sektor deltatt.16

Arbeidet med NAVs prediksjonsmodell for sykefravær (se faktaboks), har synliggjort en stor og viktig utfordring for offentlige virksomheter som ønsker å ta i bruk kunstig intelligens: Lovene som hjemler behandling av personopplysninger er sjeldent utformet på en måte som åpner for at personopplysningene kan brukes til maskinlæring i utvikling av kunstig intelligens.

Det er viktig at lovgiver i tiden fremover legger til rette for utvikling av KI i offentlig sektor innenfor ansvarlige rammer. Dersom NAV skal utvikle modellen videre, vil det være nødvendig med et klart og tydelig supplerende rettsgrunnlag gjennom lovgivning.

NAV har jobbet systematisk over tid med å utvikle en modell som imøtekommer kravene til rettferdighet og forklarbarhet. Det viser at offentlige virksomheter godt kan være pådrivere for en ansvarlig utvikling på KI-feltet. Svært mange spørsmål knyttet til personvern lar seg løse med god praksis. Derfor er det bra at den regulatoriske sandkassen til Datatilsynet nå er gjort permanent med en fast bevilgning på statsbudsjettet fra 2023.

Manglende kompetanse

Manglende kompetanse kan være et stort hinder når ny teknologi som kunstig intelligens skal innføres.

Analysebyrået Samfunnsøkonomisk Analyse utarbeidet i 2024 en rapport på oppdrag fra NHO, Abelia, Nelfo og Finans Norge. Gjennom litteraturstudie, spørreundersøkelser og dybdeintervjuer ble manglende kompetanse pekt på som den viktigste barrieren mot å ta i bruk KI-verktøy.17 I en spørreundersøkelse gjort av Norstat for IT-konsulentselskapet Computas svarer halvparten av IT-ledere i offentlig sektor at mangel på kompetanse er det største hinderet for å ta i bruk kunstig intelligens.18 Også Riksrevisjonens rapport om bruk av kunstig intelligens i statlig sektor trekker fram mangel på kompetanse blant ledere og beslutningstakere som en av de største utfordringene.19

Når mer kompetanse etterlyses, er det på sin plass med en analyse av hva slags kompetanse det er behov for.

Innføring av KI i statlig sektor må ha som mål at arbeidsprosesser forenkles, men også at virksomheter organiserer arbeidet på bedre og mer effektive måter. Det krever kunnskap og forståelse for organisasjoner og endringer.

Det vil være behov for IT-relatert kompetanse, men også juridisk kompetanse, og innsikt i organisasjoner, styring og ledelse. Mangel på kompetanse kan også dreie seg om et behov for å koble den nødvendige kompetansen som allerede finnes på tvers av fagområder. En anbefaling vil derfor være at det nedsettes flere tverrfaglige grupper der ansatte med IT-bakgrunn jobber sammen med jurister, men også med saksbehandlere som har fagbakgrunn for sammen å utvikle KI-systemer til sitt bruk.

Dette er en arbeidsmåte som NAV og Skatteetaten rapporterer at de har gode erfaringer med.20

Riksrevisjonen peker også på at staten mangler kompetanse på bestilling av teknologiske løsninger. I mange tilfeller er statlige virksomheter prisgitt råd fra private konsulentselskaper med en kommersiell agenda. I Riksrevisjonens undersøkelse svarer rundt halvparten av informantene (av 104) at de er avhengig av innleide konsulenter eller leverandører. Det forsinker arbeidet med utvikling av kunstig intelligens, og gjør det samtidig mer kostbart.

Et sentralt «bemanningsbyrå» for kunstig intelligens ville kunne bistå statlige virksomheter på prosjektbasis, og sørge for bedre og mer effektiv innføring av kunstig intelligens.

Algoritmestyrt ledelse

Kunstig intelligens tilbyr nye verktøy for både ledere og ansatte, og vil i økende grad kunne overta oppgaver som tidligere lå til HR-avdelinger eller ledelsen. Kunstig intelligens kan brukes til rekruttering, til å plukke ut og teste kandidater, eller i arbeidshverdagen til å fordele oppgaver, måle prestasjoner, overvåke produksjon og kontrollere resultater.

Imidlertid gir også dette noen utfordringer. En rapport fra OECD (2024) har vurdert risiko forbundet med kunstig intelligens.21 Ett av punktene de peker på er «Algorithmic management» eller algoritmestyrt ledelse. For eksempel kan kunstig intelligens brukes til tildeling av arbeidsoppgaver, styring av arbeidsprosesser eller måling av resultater.

Rapporten påpeker at algoritmestyrt ledelse kan ha mange positive virkninger, både for de ansatte og for virksomheten. De viser til undersøkelser der et stort flertall av de ansatte var overveiende positivt innstilt til innføring av denne typen teknologi. Å ikke investere i slike verktøy vil være en tapt mulighet.

Samtidig advares det mot systemer som gir ansatte kontinuerlig tilbakemeldinger på prestasjoner, styrer arbeidet direkte eller gir forslag til hvordan de skal jobbe. Slik «algoritmestyrt ledelse» vil begrense ansattes autonomi og kontroll, som igjen kan utgjøre en risiko for fysisk og mental helse og sikkerhet på arbeidsplassen.22

Foundation for European Progressive Studies (FEPS) har utført en undersøkelse der Tankesmien Agenda har laget en norsk delrapport. Den viser at omfanget av algoritmestyrt ledelse i dag er betydelig. 3 av 4 respondenter i den nordiske undersøkelsen oppgir at minst en av formene for algoritmestyrt ledelse som er inkludert i studien, brukes på deres arbeidsplass. Det kan være planlegging av skift, testing av jobbsøkere, sporing av posisjon eller vurdering av innsats.

Undersøkelsen viser at bruken av algoritmestyrt ledelse kan være forbundet med en rekke negative konsekvenser som redusert jobbautonomi, økt arbeidsmengde, redusert jobbsikkerhet, lavere tillit, redusert jobbtilfredshet og motivasjon og høyere stressnivå.

Forhold på arbeidsplassen ser imidlertid ut til å ha avgjørende betydning for om ansatte opplever negative konsekvenser med algoritmestyrt ledelse.

• For det første påvirkes konsekvensene av i hvilken grad ansatte involveres og har innflytelse på arbeidsplassen.Ansatte som rapporterer at de har betydelig innflytelse på viktige beslutninger, opplever i langt mindre grad negative konsekvenser av algoritmestyrt ledelse.
• For det andre ser forholdet mellom ansatte og ledere ut til å ha betydning. Der det rapporteres om stor åpenhet omkring lederbeslutninger, er også de negative konsekvensene langt mindre fremtredende, og i noen tilfeller helt fraværende.

Algoritmestyrt ledelse innebærer å ta i bruk verktøy som i seg selv verken er iboende gode eller dårlige. De negative konsekvensene som fremheves i rapporten kan dermed bedre forstås som risiko når algoritmestyrt ledelse ikke innføres på en god måte.

Når en virksomhet tar i bruk algoritmestyrt ledelse uten å konsultere ansatte, ser det ut til å ha spesielt uheldige virkninger. Det samme gjelder når ansatte ikke har innflytelse over og innsikt i hvordan systemene brukes, samt hvordan ledelsesbeslutninger tas. Dersom virksomheten på den annen side skårer høyt når det gjelder ansattes innflytelse og åpenhet og gjennomsiktighet fra ledelsen, ser det ut til at i hvert fall noen av de negative konsekvensene kan unngås.

En god beredskap for virksomheter vil være å sikre at ansatte har innflytelse og medvirkning og at ledere praktiserer stor grad av åpenhet når nye KI-verktøy tas i bruk.

Det bør stilles tydelige krav om konsultasjon og involvering av ansatte og ansattes representanter når KI-systemer innføres. Det innebærer at kompetansen om kunstig intelligens må styrkes, både blant tillitsvalgte og ansatte. Videre innebærer det at innføring av KI og ansattes digitale rettigheter må på forhandlingsbordet.

* Det er viktig å understreke at selv om undersøkelsen påviser flere tilfeller av sterk korrelasjon, kan man strengt tatt ikke konkludere med at det er direkte kausale sammenhenger. Det betyr for eksempel at vi ikke kan være sikre på om respondentene som er mest eksponert for algoritmestyrt ledelse, jobber i bedrifter som har andre egenskaper enn algoritmestyrt ledelse som påvirker utfallsvariablene. Studien benytter imidlertid standard multivariate regresjonsmetoder for å kontrollere for dette.

Nytt regelverk

Forordningen om kunstig intelligens (KI-forordningen) er endelig vedtatt, og trådte i kraft i EU den 1. august 2024. Med det har EU en helt ny lovgivning for Kunstig intelligens. Norske myndigheter vurderer loven som EØS-relevant, og den vil få virkning i Norge i løpet av første halvdel av 2026.

Med en vid definisjon av kunstig intelligens rommer begrepet alt fra algoritmer som siler spam i epost-filteret, til avanserte former for selvlærende algoritmer. Mye bruk av kunstig intelligens vil derfor være uproblematisk og forbundet med liten risiko.KI-forordningen tar høyde for dette ved at den benytter et trafikklyssystem. For eksempel er bruk av KI-systemer for siling av kandidater ved ansettelsesprosesser kategorisert som høyrisiko.

Forordningen legger opp til at alle land må utvikle systemer for å overvåke at reglene følges nasjonalt. I Norge har Direktoratet for forvaltning og økonomistyring (DFØ) anbefalt at denne oppgaven legges til Nasjonal kommunikasjonsmyndighet (Nkom).

Det er ikke slik at Kunstig intelligens til nå har vært et uregulert område. Vi har allerede en rekke lover som også dekker kunstig intelligens, som arbeidsmiljøloven, personopplysningsloven, personvernforordningen og likestillings- og diskrimineringsloven.

Dette er imidlertid lover som er utviklet før kunstig intelligens inntok arbeidslivet, og den nye teknologien kan medføre nye problemstillinger som lovverket ikke tar høyde for.

I sin rapport om kunstig intelligens i statlig sektor, konkluderer Riksrevisjonen med at det er et stort behov for å avklare juridiske spørsmål i bruken av kunstig intelligens (s. 9). En utfordring er at statlig virksomhet er bygget opp etter sektorprinsippet, med tilsvarende sektorlovgivning. Det skaper uklarheter, og ikke minst utfordringer når behovet er en mer overordnet og tverrgående tilnærming.

*Stortinget. «Høring om utfyllende regler for KI til generelle formål.» Stortinget.no, 2024.

Mangelfull medbestemmelse og involvering

Ansatte i staten opplever mindre grad av innflytelse over arbeidshverdagen enn ansatte i privat sektor, viser en undersøkelse fra forskningsstiftelsen Fafo.23

Generelt opplever et flertall i undersøkelsen at de har høy grad av innflytelse over egen arbeidssituasjon, og dette hadde endret seg lite i perioden 2006 til 2019. Samtidig er det altså verdt å merke seg at ansatte i offentlig sektor vurderer sin innflytelse som lavere enn ansatte i privat sektor. Det gjelder også mulighet for å bestemme arbeidsmengde og arbeidstempo. Fafos analyser peker også på at arbeidstempoet har tiltatt og økonomiske resultatkrav har økt.

Fafo har også vurdert medvirkning gjennom representasjon, altså det lokale partsamarbeidet. Retten til medbestemmelse og medvirkning er forankret i Hovedavtalen mellom LO og NHO og i Arbeidsmiljøloven (se faktaboks). Men til tross for at de formelle rettighetene er på plass, konkluderer Fafo med at det er betydelige utfordringer når det gjelder praksis.

En hovedutfordring er at dagens organisering ikke stimulerer til nødvendig involvering og medvirkning, noe som er essensielt for å oppnå reell omstilling, bedre tjenester og effektiv oppgaveløsning.

I et notat fra Tankesmien Agenda diskuterer vi utfordringer med digitaliseringsprosjekter i offentlig sektor og foreslår forbedringer.

Erfaringene fra digitaliseringsprosesser i offentlig sektor de siste 10-12 årene viser at nye IT-prosjekter ofte ble forankret høyt i organisasjonene. Det ble ikke tatt tilstrekkelig hensyn til den komplekse virkeligheten ute i felten.

Generelt er utfordringen at digitaliseringsprosjekter i offentlig sektor ofte mangler forankring og medbestemmelse fra de som skal bruke systemene. Interkommunale selskaper og direktorater skaper et mellomnivå som skyver beslutningsmakten vekk fra brukerne. I tillegg er bestiller-utfører-modellen lite egnet for store og komplekse IT-prosjekter.

Innføring av KI i en virksomhet får ofte store konsekvenser for arbeidstakerne. Involvering av ansatte og tillitsvalgte er helt nødvendig for å sikre gode prosesser. For å kunne delta i prosessen og drøfte, må tillitsvalgte ha kunnskap. De må sikres involvering ved innføringen av KI, ved evaluering og i styringen. Tillitsvalgte har også behov for kunnskap for å ivareta medlemmene som påvirkes av systemene.

Digitaliseringsprosjekter i offentlig sektor har dårlige sjanser for å lykkes dersom de forankres for høyt i organisasjonen og tenkes for stort. Tillitsbasert digitalisering innebærer å involvere førstelinje- og fagfolk fra starten, begynne med små prosjekter og lage løsninger som kan bygges ut over tid. Statens rolle bør være å initiere og støtte gode utviklingsprosjekter og tilby god infrastruktur for datadeling.

Ansattes medvirkning er viktig for å sikre etisk forsvarlig bruk av KI. Det er ansatte som blir berørt av kunstig intelligens, og de bør derfor tas med på beslutninger om å innføre nye systemer. Kunstig intelligens som representerer høy risiko, som ansettelser og oppsigelser, eller overvåkning på arbeidsplassen, må gjennom en nøye vurdering og utprøving. Målet må være at ny teknologi styrker ansatte og gjør at de leverer bedre resultater, er mer effektive, og kan konsentrere seg om nye oppgaver.

De ansatte sitter i tillegg med kritisk viktig ekspertise. Det er derfor grunn til å forvente at KI-systemene også blir bedre hvis de utvikles i tett samarbeid og dialog med ansatte som sitter med fagkompetanse og saksbehandlerkompetanse.

Gjennom partssamarbeidet mellom tillitsvalgte og ledelse, kan det utvikles KI-løsninger som bidrar til innovasjon og konkurransedyktighet, samtidig som de ansattes rettigheter ivaretas.

Konklusjoner og anbefalinger

Kunstig intelligens har potensial til å effektivisere arbeidsprosesser og løse samfunnsoppgaver på nye og bedre måter. I offentlig sektor kan KI-systemer benyttes til å løse så forskjellige oppgaver som å forutsi sykefravær, oppdage fall hos eldre beboere på sykehjem og overvåke av snøskred eller flom. Generativ KI, som ChatGPT, kan avhjelpe saksbehandling og øke effektiviteten.

I dette notatet har vi identifisert seks områder, eller «flagg», som krever oppmerksomhet når KI skal innføres i statlig sektor i stor skala.

Risiko for diskriminering: KI-systemer kan forsterke eksisterende skjevheter i dataene de trenes på, noe som kan føre til algoritmisk diskriminering. Manglende åpenhet og forklarbarhet i KI-systemer gjør det vanskelig å avdekke og håndtere diskriminering.

Utfordrende personvernregelverk: KI krever store mengder data, inkludert personopplysninger, noe som skaper utfordringer i forhold til personvernforordningen (GDPR). Det er behov for klarere lovgivning som spesifikt adresserer bruk av KI.

Manglende kompetanse: Mangel på nødvendig kompetanse innen KI er en stor barriere for implementering. Dette gjelder både teknisk, juridisk og organisatorisk kompetanse. Det er behov for tverrfaglige team og bedre bestillerkompetanse i staten.

Algoritmestyrt ledelse: Bruk av KI til ledelsesoppgaver kan redusere ansattes autonomi og øke stressnivået. Det er viktig med åpenhet og involvering av ansatte for å unngå negative konsekvenser.

Uklart regelverk: Den nye KI-forordningen fra EU (AI Act) vil kreve nasjonale systemer for overvåking og etterlevelse. Det er behov for veiledning til virksomheter om juridiske og etiske problemstillinger knyttet til KI.

Mangelfull medbestemmelse og involvering: For å lykkes med digitalisering og KI-implementering er det avgjørende med involvering og medbestemmelse fra ansatte. Dette sikrer etisk forsvarlig bruk av KI og bedre resultater.

På bakgrunn av dette, foreslår vi følgende tiltak:

• Aktivitets- og redegjørelsesplikt for KI: Innføre krav om at KI-systemer må kunne forklares og at det rapporteres om hvordan de brukes.

En gjennomgang av aktuelle lover med tanke på utvikling og forsvarlig bruk av kunstig intelligens i offentlig forvaltning.

• Statlig konsulentbyrå for KI: Etablere et sentralt byrå som kan bistå med kompetanse og prosjektstøtte.
• Tverrfaglige grupper: Opprette flere tverrfaglige team som inkluderer IT-eksperter, jurister og saksbehandlere.
• Konsultasjon og involvering: Sikre at ansatte og tillitsvalgte involveres i alle faser av KI-implementeringen.
• Veiledning om juridiske og etiske spørsmål: Tilby veiledning til statlige virksomheter om hvordan de kan håndtere juridiske og etiske utfordringer knyttet til KI.

Kunstig intelligens representerer en betydelig mulighet for å forbedre effektiviteten og kvaliteten på tjenester i statlig sektor. Det handler om å løse samfunnsoppgaver på nye og bedre måter, noe som krever andre arbeidsformer, og ikke minst en større grad av medbestemmelse og involvering fra ansatte.