Er KI-kappløpet ute av kontroll?

Pål Aaserudseter er sikkerhetsrådgiver i Check Point Software.

SYNSPUNKT. Mange, sterke stemmer roper berettiget om viktigheten av raskere digitalisering av samfunn og næringsliv. Nå er det KI-revolusjonen det handler om. Vi bombarderes daglig av oppfordringer til å kaste oss helhjertet på KI-bølgen. Og minnes om den høye risikoen ved å la være.

I NRK Debatten nylig lovpriste oljefondssjefen teknologien. Han fortalte at samtlige 700 ansatte på oppfordring nå bruker KI i jobbhverdagen. Andre gjester fra næringslivet kunne også fortelle om viktige KI-gevinster i egen virksomhet. Liknende budskap ropes mot oss fra alle hold. Og KI-mulighetene er utvilsomt enorme.

Gjennomgående argumenter er at ansatte må bli dyktige KI-operatører for å være attraktive i arbeidsmarkedet. Og at virksomheter snarest må innlemme KI, eksperimentere mer og utnytte mulighetene. Før det er for sent og de er akterutseilt.

På den kritiske siden har debatten handlet mye om at KI kan ta over verden eller umenneskeliggjøre samfunnet. Og om bransjer og arbeidsplasser som blir borte. Innvirkning på geopolitiske maktforhold, etikk og rettighetsproblematikk diskuteres også.

I sikkerhetsbransjen har mange av oss advart om økende utnyttelse av KI i cyberangrep, hybridkrig og andre ondsinnede formål. Men det mest alvorlige har fått alt for lite oppmerksomhet. Kombinasjonen av digital tillit og KI-jag har skapt en ny og skyhøy risiko.

Undersøkelser tyder på at gjennomsnittsvirksomheten globalt nå bruker 9 ulike KI-verktøy. Selv om ledere flest nok vil si at implementering og bruk er regulert og kontrollert, tyder både sunn fornuft og undersøkelser på noe annet. Globalt er en av 28 prompter fra bedriftsnettverk forbundet med risiko for eksponering av sensitive data. Gjennomsnittsbrukeren genererer 78 prompter per måned.

Bildet er neppe helt annerledes i Norge isolert sett. KI er nå en integrert del av daglig arbeidsflyt i mange virksomheter, og mye av bruken foregår uten tilstrekkelig kontroll. Dette vil utvilsomt få alvorlige konsekvenser.

De færreste ledere ville sluppet inn fremmede på kontoret og gitt dem ukontrollert tilgang til skuffer, skap og IT-systemer. Latt dem lete frem og ta med seg all relevant informasjon for å hjelpe dem med noe. Og gitt alle ansatte anledning til å gjøre det samme.

Men med KI skjer dette hele tiden. Ansatte deler mer eller mindre sensitiv informasjon, direkte eller indirekte, og mer eller mindre bevisst, med KI-modeller og -agenter. De slippes også inn i andre IT-verktøy for å finne svar og løsninger. Dette til tross for at de færreste vet sikkert hvor dataene havner, hvordan de er sikret og hvordan de kan misbrukes.

De fleste har lenge vært klar over at det hurtigvoksende antallet nettverktøy samler og bruker dataene våre for kommersielle formål. Og at det å godta vilkårene, betyr å si fra seg kontroll over dem. At vi likevel bruker stadig flere tjenester, kan bety at vi stoler på løsningene, leverandørene og myndighetene som regulerer dem. Eller at vi mener fordelene er større enn risikoen.

Tillitskulturen er ikke særnorsk, men Norge er kjent som et høydigitalisert land der både forbrukere og organisasjoner er raske til å adoptere ny teknologi. Selv om nordmenn også er trygghetsorienterte, vinner ofte nysgjerrighet, fordeler og muligheter over risiko.

Vi applauderer teknologisk nysgjerrighet og innovasjon, og støtter alle som mener KI-revolusjonen må utnyttes. Dog på en veloverveid og kontrollert måte. Som alt annet her i verden bør alle KI-initiativ være gjenstand for en bevisst balanse mellom avkasting og risiko.

Så langt ser vi en faretruende skjevhet mellom adopsjonshastighet og gevinstjakt på den ene siden, og risiko og behov for kontroll på den andre. Både i den offentlige debatten og i store deler av samfunns- og næringslivet.