Det maskiner ikke kan gjøre

Truls Liland er stipendiat og høgskolelektor ved Hauge School of Management på NLA Høgskolen.

SYNSPUNKT: Joseph Weizenbaum (1923-2008) ved Massachusetts Institute of Technology (MIT) laget i 1966 programmet ELIZA. Det var programmert for å imitere en psykoterapeut og gjorde dette ved å speile brukerens setninger tilbake som spørsmål. Weizenbaum anså dette på mange måter som nærmest en parodi. Likevel la han merke til at brukerne ganske raskt begynte å tillegge maskinen både forståelse og omsorg. Dette skremte ham. I boken Computer Power and Human Reason (1976) skilte han mellom det å gjøre beregninger og å det å gjøre velfunderte valg. Det første kan en maskin gjøre. Det andre krever menneskelig dømmekraft og bør aldri overlates til maskiner.

Nå, femti år senere, er tematikken og problemene han adresserte mer aktuelle enn noen gang. KI-agenter er systemer som kan lages for å planlegge og gjennomføre oppgaver, til dels uten menneskelig innblanding. De kan forberede saker, gjøre vurderinger og til og med ta beslutninger. Dette brukes allerede, i privat, ideell og offentlig sektor.

Etikk basert på regler og prinsipper

Hvordan kan vi så sikre at dette blir gjort på en ansvarlig og etisk forsvarlig måte? Svaret så langt har i stor grad vært etiske retningslinjer, og det finnes hundrevis, kanskje tusenvis, av dem. Systematiske gjennomganger som er gjort av disse, viser en klar enighet eller konsensus om prinsipper som åpenhet, rettferdighet, ikke-skade, ansvarlighet og personvern. Men forskningen er like samstemt om at denne typen prinsipper ikke er tilstrekkelig. De er vanskelig å håndheve, de legges ofte til i etterkant av utviklingsarbeidet, og ansvaret er gjerne spredt på så mange at ingen egentlig eier det. Det er også slik at mange av retningslinjene er skrevet av selskapene som trenger å bli regulert.

Den dypere svakheten er likevel at regler beskriver handlinger og dekker på mange måter ikke aktørperspektivet. De sier hva som skal gjøres, men ingenting om den som må utøve skjønn når situasjonen ikke er dekket av noen regel. Teknologien utvikler seg raskt, og etiske vurderinger og regulering kommer ofte sent i prosessen. Noen ganger så sent at det er vanskelig, og kanskje til og med umulig, å inkludere gode og trygge etiske løsninger. 

Tillit er sårbarhet

I KI-debatten snakkes det en hel del om tillit og hvordan dette virker inn på utvikling og bruk av nye løsninger. Organisasjonsforskerne Mayer, Davis og Schoorman definerer tillit som en bevisst aksept av sårbarhet overfor en annen part. Vi forventer at den andre vil handle i vår interesse, også når vi ikke kan kontrollere utfallet eller påvirke personen. Forskerne peker på tre kilder til tillit: kompetanse, integritet og velvilje.

En maskin kan i beste fall ha kompetanse. Men integritet og velvilje har den jo ikke. Spørsmålet er derfor ikke primært om vi kan stole på KI, men om vi kan stole på menneskene og institusjonene som utvikler teknologien og løsningene, og de som tar dem i bruk. Ulike aktører og brukere kan være sårbare når de står overfor systemer de verken ser eller forstår.

Forvalterperspektiv og teknologi

Her har den kristne tradisjonen noe verdifullt å bidra med og kan dermed være en ressurs. Aristoteles snakket om fronesis, praktisk klokskap. Det handler blant annet om evnen til å gjøre det rette der ingen regel har forutsett situasjonen. Flere kristne tenkere videreutviklet senere dydsetikken. Den ble blant annet knyttet til et menneskesyn der hvert menneske har en egenverdi og ikke kun vurderes ut fra sin nytte.

Robert K. Greenleaf (1904-1990) var preget av kvekertradisjonen. I 1970 lanserte han begrepet tjenende ledelse. Han var opptatt av tjenende institusjoner, altså virksomheter som har en samfunnsnyttig og -byggende rolle. Her står også forvaltertanken sentralt. Mennesket er gitt et forvalteransvar som ikke skal overlates til andre.

Noen vil kanskje innvende at det å appellere til dyd og karakter er for vagt, og at det til og med kan brukes som unnskyldning for å slippe bindende regulering. Det kan være en berettiget innvending. Lovverk, etiske prinsipper og regler kan imidlertid også her forstås som nødvendige minstestandarder. Men de er åpenbart ikke tilstrekkelige, og alternativet med etiske prinsipper alene er allerede prøvd i stor skala. Dette må derfor suppleres med andre etiske perspektiver, som blant annet dydsetikk bidrar til.

Tre spørsmål før innføring

For virksomheter av ulik art er mange flere vurderinger knyttet til KI derfor ikke bare et IT-spørsmål. Det er et spørsmål ledelsen må ta stilling til og innebærer ofte også verdivalg. Tre spørsmål kan være nyttige å stille før en KI-agent får en plass i organisasjonen:

• Tjener KI-agenten formålet vårt, eller bidrar den kun til effektivitetsgevinster?

• Tør medarbeiderne si ifra når noe skurrer, og blir de hørt?

• Hvem hos oss står personlig til ansvar når systemet og KI-løsningene tar feil?

Weizenbaums poeng var at faren ikke ligger i maskinen, men i vår villighet til å overlate dømmekraft til den. Etiske vurderinger har en tendens til å komme sent i utviklingsløpet for ny teknologi. I mellomtiden er det vi mennesker som må velge.

- - -  

Kronikken bygger på innhold fra artikkelen «Tjenende ledelse og moralske maskiner: En etisk og tillitsbasert tilnærming til kunstig intelligens (KI) og KI-agenter», publisert i Magma 3/2026.