KI-gevinster i offentlig sektor krever innbyggernes tillit

Erlend Vestre er sjefskonsulent i Devoteam Norway. 

SYNSPUNKT. Nesten halvparten av unge nordmenn er skeptiske til bruk av kunstig intelligens (KI) i offentlige tjenester, viser Rambøll sin rapport «IT i praksis 2026». Skepsisen gjelder særlig automatiske beslutninger og personvern. Samtidig vil knappheten på arbeidskraft tvinge det offentlige til å ta i bruk mer KI. Hvordan løser vi det paradokset?

Skal KI frigjøre kapasitet som monner, holder det ikke med enkle støtteverktøy. Teknologien må inn i kjerneoppgavene for å avlaste krevende oppgaver. Omstillingen blir krevende: både Riksrevisjonen og DFØ har gjentatte ganger avdekket at offentlig sektor sliter med å omsette IT-investeringer til reell gevinstrealisering og frigjorte årsverk. Og jo nærmere KI kommer beslutningene om enkeltpersoner, desto mer avgjørende blir befolkningens tillit.

Så lenge KI brukes til avgrensede støtteoppgaver, er konsekvensene begrensede. Det er noe annet dersom teknologien påvirker hvilke saker som prioriteres, hvem som velges ut for kontroll, eller hvilke opplysninger som tillegges vekt. Dersom innbyggerne ikke har tillit til hvordan KI brukes, kan det bli vanskeligere å ta teknologien i bruk i det omfanget som kreves for å frigjøre kapasitet. Da blir tillit også en del av offentlig sektors omstillingsevne, og begrepene legalitet, legitimitet og tillit blir sentrale.

Tenk deg at en kommune bruker KI til å prioritere hvilke søknader om tjenester som skal behandles først.

• Legaliteten handler om hvorvidt kommunen har lovhjemmel til å behandle opplysningene og bruke systemet på denne måten.

• Legitimiteten handler om noe mer. Oppleves prioriteringen som rimelig? Er kriteriene relevante? Kan kommunen forklare hvilken rolle teknologien har hatt, hvordan fakta har vært vektet i forhold til kriteriene og hvem som har ansvaret?

• Tilliten handler om hvilke forventninger innbyggeren har til kommunen: at opplysningene brukes korrekt, at feil oppdages, at systemet ikke diskriminerer, og at et menneske kan gripe inn når det er nødvendig.

Kommunen kan oppfylle et juridisk minimum og likevel miste legitimitet og tillit dersom KI-systemet fremstår som en svart boks. Innbyggerne må ha grunn til å stole på systemet rundt teknologien. Det betyr blant annet at den som berøres av en beslutning, må kunne forstå hvilken rolle KI har hatt, hva vurderingen bygger på, hvem som har ansvaret og hvordan avgjørelsen kan utfordres. I offentlig sektor er dette ekstra viktig, fordi offentlig sektor ofte er monopolist, utøver myndighet, og tar beslutninger som kan få store konsekvenser for den enkelte.

Dette er ikke bare et spørsmål om etikk, men om gjeldende og kommende rett. Forvaltningsloven krever allerede at enkeltvedtak skal kunne begrunnes. EUs AI Act skjerper kravene ytterligere. Når KI brukes til offentlig myndighetsutøvelse som klassifiseres som høyrisiko, kreves det vurderinger av innbyggernes grunnleggende rettigheter, full transparens og kontinuerlig menneskelig kontroll. Ledelsesansvaret handler om å sikre at bruken av KI-systemene oppfyller disse kravene i praksis.

Tillit er derfor ikke noe som kan bygges etter at KI er skalert, den må bygges inn i den KI-drevne tjenesten. Den kan bli en forutsetning for at offentlig sektor faktisk får handlingsrom til å bruke teknologien i det omfanget kapasitetsutfordringene krever.