Samfunnsstyring

Chat GPT og annen kunstig intelligens står midt i en rivende utvikling. Men hvor god er sikkerheten?

Kunstig intelligens | OpenAI-toppsjef avkrefter rykter om at de er i ferd med å utvikle en ny versjon av Chat GPT

Ifølge OpenAI-toppsjef Sam Altman er de ikke i gang med å trene Chat GPT-5; neste versjon av det omdiskuterte kunstig intelligens-programmet. Men - de fortsetter å utvikle Chat GPT-4.

Publisert Sist oppdatert

­ChatGPT er en språkmodell og søketjeneste på nett som bruker kunstig intelligens og har tatt verden med storm.

Svarene du får ser ut til å være skrevet av et menneske, og når den har søkt opp data for deg kan den oppsummere og beskrive funnene på en helt annen måte enn vi har vært vant til tidligere. Den kan for eksempel legge opp reiser for deg, lage presentasjoner osv.

Teknologien bruker maskinlæring, det vil si den er trent/programmert til å justere sin egen aktivitet underveis.

Teknologien gir mange nye muligheter, også for næringslivet, men det har vist seg at teknologien også kan gjøre alvorlige feil. Og den kan presentere ting som ikke er etisk holdbart.

Det har vært til bekymring, og etter at den nyeste og forbedrede utgaven av ChatGPT-4 kom midt i mars økte bekymringen enda noen hakk. Noe av frykten har vært at det skal komme en «superintelligent» programvare, der man ikke vet nok om de mulige konsekvensene.

Bekymringsbrevet

500 av de mest innflytelsesrike teknologiekspertene i verden - deriblant Elon Musk og Steve Wosniak - sendte et bekymringsbrev der de ber selskapet som står bak, om å ta en pause i utviklingen av ChatGPT. I brever skriver de at utviklingen av teknologien går for fort og at det skaper «stor risiko for samfunnet og menneskeheten», skriver NRK i sin omtale av saken.

Det har gått rykter om at selskapet OpenAI skal være i gang med å lære opp ChatGPT-5.

Dette har toppsjefen i OpenAI, Sam Altman, nå avkreftet på en konferanse hos MIT (Massachusetts Institute of Technology), skriver det anerkjente teknologinettstedet The Verge:

«Vi gjør det ikke og det kommer til å ta litt tid før vi gjør det», sa Altman.

Men - selv om OpenAi ikke jobber på GPT-5, så betyr det ikke at de ikke fortsetter å utvikle GPT-4. De jobber blant annet med en rekke sikkerhetsspørsmål, uttalte Altman hos MIT.

The Verge mener det er vanskelig å tolke Altmans utsagn om at de ikke trener ChatGPT-5, men mener han peker på en utfordring ved kunstig intelligens-sikkerhet: vanskelighetene med å måle og spore forbedringer.

Fortsetter å utvikle Chat GPT-4

Fra forbrukerteknologien er vi blitt vant til å tro at et høyere nummer på eksempelvis telefonen, Iphone 14 etterfølger Iphone 13 osv, betyr at vi får en bedre telefon med nyere og bedre teknologi. Men dette er like mye et markedsføringsgrep, skriver The Verge, og minner om at et høyere tall ikke er noe godt «mål» på utvikling og fremgang.

Journalisten i The Verge, James Vincent, mener diskusjonene heller bør handle om hva programvaren faktisk får til, bygget på demonstrasjoner av hva systemene kan gjøre og ikke gjøre.

Altmans bekreftelse av at OpenAI for tiden ikke jobber med å utvikle GPT-5 er dermed ingen trøst for folk som bekymrer seg for kunstig intelligens-sikkerheten. Selskapet jobber fremdeles med å utvide potensialet til GPT-4, og andre selskaper i bransjen jobber også for fullt med å utvikle programvare med kunstig intelligens.

Les også:

Powered by Labrador CMS