KI mister ikke nattesøvnen – det er problemet

Saurav Pandey er teknisk produktleder i Izy AS og skriver om KI og ansvar på saurav.no. Synspunktene er hans egne.

SYNSPUNKT. Nesten 150 000 kroner i året. Så mye slipper vi nå å betale i lisens for et kundedialogverktøy, fordi KI hjalp oss med å bygge vår egen erstatning. KI skriver utkast til svar på kundehenvendelser, og et menneske kontrollerer dem før de sendes. Én person styrte arbeidet over noen kvelder, og det går allerede stabilt i drift. For noen år siden ville det krevd et helt team og et kvartal.

Det var ikke koden som overrasket meg. KI formet ideen og skisserte designet. Da verktøyet feilet, leste den loggene, fant årsaken og foreslo løsningen selv. Hele sløyfen, fra idé til bygging, kjøring og reparasjon, gikk rundt med KI i hvert ledd.

Jeg satt igjen med tre konklusjoner.

Programvare er ikke lenger en vollgrav

Selskapet som solgte oss programvaren, gjorde ingenting galt, men den var ikke lenger vanskelig å kopiere. Klarer én person å bygge dette på noen kvelder, klarer konkurrenten din det også.

Det som fortsatt beskytter et selskap, er tre ting ingen prompt kan lage.

• For det første: egne data eller patenter. Alle konkurrentene dine kan leie de samme KI-modellene, men ingen av dem kan leie årene dine i drift. Finn vet hva brukte sykler koster i Bergen. Vi i Izy vet hvor mange som kommer på kontoret og spiser lunsj i ukene før jul. Slik kunnskap bygges over år, ikke på en helg.

• For det andre: nettverk og signerte avtaler. En kontrakt med en gårdeier, en lisens eller en kunde som tar telefonen når du ringer.

• For det tredje: noe fysisk. Alle kan nå skrive programvare som teller flasker, men det er Tomra som har maskinene sine i butikker over hele verden.

Risiko må fortsatt bæres av noen

Norske ledere har i to år bedt folk ta i bruk KI, og den kampen er stort sett vunnet. Neste spørsmål er hvem som har ansvaret for det KI gjør. Vi gir folk ansvar uten å se dem over skulderen, men når KI gjør mer av arbeidet, må tilliten fortsatt ha noen å hvile på.

For rundt 3800 år siden slo Hammurabis lover fast at hvis et hus raste sammen og drepte eieren, skulle byggmesteren betale med livet.

Se for deg at en KI ruller ut en rettelse i en banks betalingssystem om natten. Den består alle tester, men dagen etter feiler kortbetalinger over hele landet. Modellen mister ikke nattesøvnen. Neste gang den kjøres, starter den med blanke ark.

Det gjør ikke vi mennesker. Vi har begrenset tid, en kropp som kjenner en hendelse klokken to om natten, og et omdømme å miste. Den tyngden er grunnen til at noen sjekker én gang til.

KI kan beregne en risiko. Den kan ikke bære vekten av den.

Dømmekraft er det nye konkurransefortrinnet

En modell vet bare det som er skrevet ned. Den ser ikke at den største kunden din ble stille i forrige møte: armene i kryss, de kortere svarene. Den som har sittet gjennom hundre slike møter, fanger det opp på sekunder. Det er intuisjon, opparbeidet ved å ta feil og betale for det.

De fleste organisasjoner er bygget som en stafett, med hele nivåer som koordinerer, oppsummerer, godkjenner og leverer videre. KI løper nå stafetten raskere enn noe nivå klarer, men den kan ikke eie beslutningen.

Jeg kaller løsningen søvntesten. La KI kjøre sløyfen, men still ett spørsmål ved hvert punkt der det ikke er noen vei tilbake, enten det gjelder penger, personopplysninger eller noe kunden ser: Hvem mister nattesøvnen hvis dette går galt? Er svaret et team eller en prosess, og ikke et navn, er du ikke klar.

Jeg vil gjerne høre fra norske virksomheter som allerede bruker søvntesten. Jeg mistenker at det ikke er mange.

Hammurabis byggmestere jobbet i leire. Vi jobber i prompter. Nesten fire tusen år senere er byggmesteren en annen, men noen må fortsatt betale når huset raser. Snart har alle selskaper den samme KI-en. Vinnerne blir de der et menneske fortsatt bærer vekten av hver beslutning. Bygg det den ikke kan ha: intuisjon, dømmekraft, smak og motet til å ta ansvar.

La maskinen gjøre jobben. Behold tyngden selv. Det er det lederskap betyr nå.