KI-gevinster krever mer enn en engangsplan

Erlend Vestre er sjefskonsulent i Devoteam Norway. 

SYNSPUNKT. KI-gevinster kan forvitre i alle virksomheter når datagrunnlag, modeller, bruksmønstre eller kontrollbehov endrer seg. Det betyr at for KI-systemer må gevinstrealisering forstås mindre som en lineær prosjektøvelse og mer som en kontinuerlig styringsoppgave.

Hvorfor gammel prosjektlogikk ikke er nok

Tradisjonell digitalisering handler ofte om relativt stabile løsninger: et nytt fagsystem, en automatisert regel, en digital selvbetjeningsløsning eller en forbedret arbeidsflyt. Når systemet først er satt i drift, gjør det i hovedsak det samme over tid. Feil er ofte synlige. Systemet stopper, krasjer eller gir et resultat som kan testes mot en kjent fasit.

Med KI blir dette mindre forutsigbart. Et KI-system fungerer annerledes. Datagrunnlaget og algoritmene kan endre seg. Brukerne kan endre praksis. Modellen kan oppdateres. Nye typer saker kan dukke opp. Resultatene kan bli mindre treffsikre uten at systemet «feiler» på en måte som tradisjonell drift fanger opp. En KI-løsning kan fungere godt ved innføring, men svekkes gradvis. Da blir det kritisk å hele tiden spørre om løsningen fortsatt virker godt nok, i riktig kontekst og med akseptabel risiko. Det endrer også grunnlaget for hvordan virksomheter må jobbe med gevinstrealisering. Kjernespørsmålet blir om vi fortsatt realiserer gevinstene.

Offentlig sektor må styre flere hensyn samtidig

Ulike formelle krav gjør gevinststyring mer krevende i offentlig sektor. En KI-løsning som sparer tid, men som svekker rettssikkerhet, etterprøvbarhet og likebehandling, eller øker risikoen for feil, gir ikke nødvendigvis en reell gevinst. Særlig ikke hvis KI-systemets ytelse svekkes over tid.

Derfor må risiko og gevinst styres sammen. Virksomheter må følge med på kvalitet, treffsikkerhet, avvik, bruksmønstre, tillit og behovet for menneskelig kontroll. Risikostyringen må inkludere løpende vurderinger av status og konkrete tiltak. Det er også retningen i KI-forordningen: risiko må vurderes gjennom systemets livsløp, ikke bare før innføring.

Hva ledere bør gjøre

Gevinstplaner for KI-løsninger må behandles som et levende styringsdokument. Den bør minst inneholde tre elementer: faste målepunkter for kvalitet, oversikt over nye kontrollkostnader og terskler for når løsningen må justeres, pauses eller avvikles.

Kvalitet kan måles gjennom feilrate, avvik eller behov for manuell etterkontroll. Kontrollkostnader kan være ekstra kvalitetssikring, avvikshåndtering eller mer tid brukt på dokumentasjon og begrunnelser. Terskler kan knyttes til flere feil, lavere tillit eller økt behov for manuell kontroll.

Denne styringen krever en tydelig gevinstansvarlig i linjen, med ansvar for å følge opp både gevinst, kvalitet og risiko over tid. Det krever også at ansatte forstår når KI-løsningen kan brukes, når den må kontrolleres, og når den ikke bør brukes.

KI gjør gevinstrealisering mindre egnet som en avsluttende prosjektøvelse. Det er ikke nok å konkludere med om KI-prosjektet leverte som planlagt. Det er like viktig er å spørre om gevinsten fortsatt er reell, forsvarlig og relevant seks måneder, ett år og tre år etter innføring. Det krever et skifte fra tradisjonell gevinstrealisering til gevinstforvaltning.