Arnulf og Kwei-Narh: Hva er en intelligent vekkerklokke, og vil du egentlig ha en?

Jan Ketil Arnulf er professor, Forsvarets Høyskole og Handelshøyskolen BI. Prosper Kwei-Narh er seniorforsker, PhD, Institutt for Energiteknikk og Universitet Innlandet.

SYNSPUNKT. Eller kan det være at «intelligens» er et ord vi strør om oss litt for kjapt, med litt for uklare forhåpninger? Vi prøvde oss på et tanke-eksperiment som leseren også kan prøve ut: Ta en forholdsvis enkel innretning, slik som en vekkerklokke, og spør deg selv: Hvilke kjennetegn vil klokken din ha dersom den skal fortjene merkelappen «intelligent vekkerklokke»?

Folk kommer opp med mange plausible egenskaper. For eksempel kunne den ha tilgang på din avtalebok og vite når du må eller ikke må stå opp. Den kunne kanskje vite om du er veldig trøtt og trenger litt myk vekking, eller om du hadde en svært amorøs natt og trenger å sove lenger, eller ...

Nei vent, hvor mye dyneløfting vil du egentlig at vekkerklokken din skal drive med? Skal den legge seg opp i om du bør sove, eller om du egentlig bør stå opp, eller om den skal forhindre deg fra å ødelegge din egen døgnrytme? Hva er egentlig en pålitelig intelligent vekkerklokke, er det en helvetesmaskin som får deg opp samme f…, om nødvendig med elektrosjokk, eller er den en hyggelig slubbert som skjønner det når du trenger litt ekstra skjønnhetssøvn?

Dette rører ved arbeidsfordelingen mellom menneske og maskin, vekkerklokken og deg. Er det egentlig vekkerklokken som vekker deg? Alle som har hatt tenåringsbarn vet at vekkerklokker kommer til kort dersom syvsoveren ikke selv har installert selvdisiplin i sin egen hjernebark. Nøkternt sett er det ikke vekkerklokken, men du som vekker deg selv, gjennom å kjøpe en pålitelig dings som du – ikke klokken – stiller inn i forveien. Den gir deg bare et signal for at du – ikke klokken – kan velge å stå opp og gå i gang med noe.

Det er du som er intelligent. Vekkerklokken er pålitelig fordi den er dum. Akkurat dette er en dyp sannhet i menneske-maskin-systemer som bare kommer til å bli viktigere å forstå i årene som kommer. For intelligente vesener er bygd for å være uforutsigbare aktører. Verktøy og maskiner, derimot, er bygd for å være så solide og forutsigbare som mulig.

For å sjekke dette, kan du gjøre om industriens kriterier for pålitelige høysikkerhetsprodukter om til en sjekkliste og se om den passer på deg (eller de andre som pleier å vekke deg):

• Gjør du færre enn 3 feil per million utførte oppgaver («six sigma»)?
• Opptrer du alltid helt likt og kontrollert? Går du nesten aldri og legger deg? Reagerer du bestandig og uforstyrret helt likt i samme situasjoner?
• Er du transparent og veldokumentert i alt du foretar deg?

Hvis mange slike kjennetegn beskriver deg godt, er sjansen større for at du har en diagnose enn et rykte som supersmart. Maskinmessig forutsigbarhet er et kjennetegn ved en rekke mentale forstyrrelser fra demens via tvangslidelser til avhengighets-lidelser.

Det som kjennetegner en velfungerende, intelligent aktør, er fleksibilitet og selvoppholdelse. Vi har evnen til å endre atferd for å ikke bli et lett bytte for andre. Vår atferd er ikke rigid og stereotyp fordi hjernen vår balanserer mange motstridende hensyn i en kompleks verden. Det er faktisk derfor vi kjøper vekkerklokke. Den skal være pålitelig og forutsigbar, ikke oppføre seg som – ja som for eksempel ektefellen eller ungene.

Menneskets samarbeid med maskiner er en helt annen verden enn samarbeidet mellom mennesker. Mennesker baserer seg på felles mentale modeller og felles intensjoner. Dette kan vi bare utvikle gjennom gjensidige relasjoner og tillitsbygging. Det er derfor prosesser som «teambygging» ofte er nødvendig.

For å samarbeide trenger folk å vite hvilke hensikter de andre menneskene har. Vet de nok om oss, vil de oss vel, og er de frie til å handle i vår interesse? Forestill deg at du faktisk har en intelligent vekkerklokke. Den kan ikke opptre intelligent uten å drive intensjonsbaserte tjenester. Men hvilke intensjoner har den? Og ikke minst, hvem sine intensjoner har den overtatt? Er du villig til å bruke en intelligent vekkerklokke som du fikk i julepresang av sjefen din, og ville det være bedre om den kom rett fra OpenAI, Amazon eller Tencent?

Prøv nå å erstatte den relativt enkle vekkerklokken med et atomkraftverk, et overvåkingssystem for skip langs kysten eller operasjonsplanleggingen i store militære avdelinger. Det er utvilsomt at oppgaver som må utføres feilfritt og repetert til alle døgnets tider vil gjøres best av automatiserte verktøy. Kunsten er å se når menneskelig intensjonalitet og relasjonsbasert samarbeid er påkrevet for at systemet skal være intelligent på ekte. Den eneste metoden vi kjenner for å ha tillit til maskiner, er å gjøre dem så transparente og forutsigbare som mulig. Dette er ikke «intelligens».

Dette har vi ikke utviklet gode nok felles begreper for, og det er her skoen trykker. Det hjelper lite å innføre selvkjørende biler og skip, hvis du likevel må ha en person i styrhuset hele tiden. Mange slike arbeidsplasser reduserer oppgaver til ren og skjær overvåkning. Siden overvåkerne bare sjelden griper inn, kan de belastes med administrative oppgaver som avleder oppmerksomheten deres når noe virkelig hender. Eller de kan sovne, og våkne igjen i en hage i Trondheimsfjorden.

Forsøket på å drive naturlig intelligens ut av arbeidsplasser begynte ikke med innføringen av «kunstig» intelligens. Jerngrepene for å gjøre ansatte til viljeløse roboter har vært i gang lenge. Det ville være absurd om arbeidslivet fortsetter å legge bånd på menneskene, mens maskinene utstyres med uforutsigbare intensjoner på lån fra industri-gigantene. 

Det vi trenger nå, er å fortsette utforskningen av meningsfylt samarbeid mellom mennesker.