Vi planlegger for feil tiår

Silvija Seres er teknolog og strategisk rådgiver.

SYNSPUNKT. For noen dager siden endret Google organiseringen av sitt viktigste KI-miljø. Demis Hassabis forlater den operative ledelsen av DeepMind for å konsentrere seg om AGI.  Google er et av verdens tre ledende selskaper på KI, med tilgang til forskerne, modellene, regnekraften og interne resultater som gir et unikt observasjonspunkt. De frigjør nå en av verdens fremste KI-forskere fra driften for å arbeide med AGI, og posisjonerer AGI som sitt viktigste strategiske spørsmål.

Hva betyr egentlig AGI?

AGI, artificial general intelligence, har ingen allment akseptert definisjon. For noen betyr det et system som kan utføre de fleste intellektuelle oppgaver på menneskelig nivå. Andre krever at det skal kunne lære selvstendig, overføre kunnskap mellom områder og fungere robust i ukjente situasjoner.

For virksomheter og myndigheter er den semantiske diskusjonen mindre viktig enn de operative egenskapene. Et system trenger ikke å være bevisst, ha egen vilje eller oppfylle en filosofisk definisjon av intelligens for å endre økonomien. Det holder at det kan lese, analysere, programmere, planlegge, kommunisere og gjennomføre arbeidsoppgaver raskere og billigere enn mennesker på mange områder samtidig. 

Anthropic skrev i sitt innspill til den amerikanske regjeringens KI-plan at «powerful AI» kan komme sent i 2026 eller tidlig i 2027. De beskriver systemer med intellektuelle kapabiliteter på nivå med nobelprisvinnere innen mange fag. En uklar definisjon flytter mållinjen hver gang teknologien utvikler seg, men AGI-tidshorisonten måles nå i måneder.

Når fremtiden blir en aktør

AGI-debatten låser seg ofte i spørsmålet om maskinen virkelig tenker. Samfunnet vil bli grunnleggende forandret lenge før vi har svaret. En KI trenger ingen bevissthet for å utøve makt. Den trenger tilgang til informasjon, verktøy og beslutninger. Når en agent kan analysere en situasjon, velge en handling, bruke digitale systemer og korrigere kursen underveis, er den blitt en aktør i den praktiske verden. Superintelligens sees på som en nær følgesvenn av AGI. 

Dette er kjernen i scenarioet «AI 2027”. Den viktigste mekanismen er at avanserte agenter settes til å utvikle KI. Neste generasjon modeller blir bygget med hjelp fra den forrige. Dampmaskinen kunne ikke forske på bedre dampmaskiner. Elektrisiteten kunne ikke konstruere et bedre strømnett. KI kan bidra til å utvikle algoritmene, programvaren og databrikkene som øker dens egen kapasitet. Den viktigste agenten i 2027 kan bli agenten som bygger agenten for 2028.

Amaras lov i eksponentiell tid

Fremtidsforskeren Roy Amara beskrev en vedvarende feil i vår forståelse av teknologi: Vi forventer for mye for tidlig og undervurderer endringen på lang sikt. Loven bygger på en menneskelig opplevelse av tid. Vi tenker lineært. Vi ser på dagens system, legger til en rimelig forbedring og flytter bildet noen år fremover. Eksponentiell utvikling gjør denne forestillingen upålitelig.

METR måler hvor lange programvareoppgaver KI-agenter kan gjennomføre selvstendig. Denne tidshorisonten har historisk doblet seg omtrent hver syvende måned. Fem år rommer mer enn åtte doblinger. Én norsk strategiperiode kan dermed inneholde flere teknologiske generasjoner. Amaras lange sikt befinner seg nå innenfor én stortingsperiode.

Selvbestemmelse er evnen til å velge

På Arendalsuka vil mange samtaler handle om hvordan vi kan bremse, begrense og regulere KI. Langt færre vil handle om hvor raskt Norge må bygge kunnskap og kapasitet. 

Norge kontrollerer bruken av KI innenfor norske institusjoner. Utviklingen av de fremste modellene skjer hovedsakelig i USA og Kina. Nye kapabiliteter vil nå norske brukere gjennom globale tjenester, uavhengig av norske strategiprosesser. I tidsrommet mellom deres utvikling og vår tilpasning bygges avhengighetene.

Selvbestemmelse betyr at et samfunn forstår systemene det bygger seg avhengig av. Det kan velge mellom reelle alternativer, kontrollere hvordan data brukes og forlate en leverandør uten at sentrale tjenester stanser. Når samfunnets operative intelligens leveres utenfra, blir teknologisk avhengighet politisk avhengighet.

KI-utviklingen vil ikke vente på norske budsjettsykluser, læreplaner eller utredninger. Spørsmålet på Arendalsuka bør derfor være hvor raskt vi kan gjøre Norge i stand til å møte det som kommer.