Når KI gjør dårlig arbeid presentabelt

Erlend Vestre er sjefskonsulent i Devoteam Norway. 

SYNSPUNKT. Vi mennesker oppfatter en tekst som er strukturert, velformulert og selvsikker, ofte som mer troverdig enn en tekst som er uferdig, rotete eller full av forbehold. KI forsterker dette. En KI-generert tekst kan ligne en ferdig analyse: god struktur, presist språk og selvsikre konklusjoner. Likevel kan den mangle kildekontroll, kontekstforståelse og faglig vurdering.

Det er kjernen i begrepet «AI workslop»: KI-generert arbeidsmateriale som ser ferdig ut, men som ikke hjelper mottakeren videre. Det er dårlig kvalitet forkledd som fremdrift. Produksjonen går raskere, men vurderingen av relevans og kvalitet gjør ikke det.

To norske saker viser at dette ikke lenger er hypotetisk. Senest i mai fikk Asker kommune kritikk etter at KI-oppdiktede høyesterettsdommer inngikk i et saksgrunnlag. I Tromsø ble et forslag om ny barnehage- og skolestruktur stanset i fjor vår etter at KI-genererte kilder viste seg ikke å eksistere. Når slike feil får plass i offentlige dokumenter, er det først og fremst et lederansvar, fordi organisasjonen ikke har på plass prosesser og rutiner som sikrer tilfredsstillende kvalitet.

Risikoen oppstår når KI-produsert tekst får status som faglig vurdering og beslutningsunderlag før noen har kontrollert grunnlaget. Slike feil svekker tilliten til beslutningsgrunnlaget, men også til organisasjonen som har brukt det uten å ha tilstrekkelig kontroll med kvaliteten. Det er naturlig å spørre: Hvor mange andre beslutningsgrunnlag inneholder KI-genererte feil ingen har oppdaget?

Workslop kan se ut som tidsbesparelse for den som produserer materialet. Men arbeidet flyttes. Kolleger må rekonstruere hva som er kilde, hva som er antakelse og hva som faktisk kan dokumenteres. Én person sparer tid, mens resten av organisasjonen får merarbeid, kvalitetsrisiko og mindre tillit til både verktøyet og avsenderen.

Godt arbeid krever friksjon. Vi må stoppe opp, teste antakelser, sjekke kilder, vurdere motargumenter og spørre om konklusjonen faktisk følger av grunnlaget. KI kan redusere unødvendig friksjon. Det er verdifullt. Men den kan også fjerne nødvendig friksjon. Når et førsteutkast ser ferdig ut, blir terskelen lavere for å sende det videre. En vurdering som er formulert selvsikkert, er lettere å akseptere. Det er her hjernen og teknologien spiller dårlig sammen: KI produserer flyt, mens kvalitet krever motstand.

Lederes oppgave er ikke å få flest mulig til å bruke KI mest mulig. Den er å sikre at KI-bruken faktisk forbedrer arbeidet. Det krever tydelige kriterier for godt KI-støttet arbeid og rutiner som sikrer kvalitet før materialet sendes videre. Kildene må være kontrollert, konteksten må være forstått, og vurderinger og konklusjoner må henge sammen. Ansvaret må legges på produsenten av teksten, ikke overlates til kolleger og ledere.

Asker og Tromsø viser hva som kan skje når KI-bruken løper foran kvalitetssikringen, og arbeidsprosessene ikke er tilpasset teknologien. KI kan gjøre arbeid raskere, men samtidig bidra til å gjøre uferdig arbeid mer troverdig. Målet bør ikke bare være at flest mulig bruker KI mest mulig, men at færre sender videre arbeid som har en kvalitet de selv ikke kan stå inne for.