Hvilke konkrete initiativ vil regjeringen ta, og hvilke ressurser vil den sette av, for å følge opp anbefalingen i oppropet om kontroll av frontier-KI om å utrede en internasjonal institusjon som kan sette standarder, verifisere avtaler og sammenkalle land når kapasitetsterskler overskrides?

Hvilke konkrete initiativ vil regjeringen ta, og hvilke ressurser vil den sette av, for å følge opp anbefalingen i oppropet om kontroll av frontier-KI om å utrede en internasjonal institusjon som kan sette standarder, verifisere avtaler og sammenkalle land når kapasitetsterskler overskrides?

Det er positivt at Norge, sammen med Finland, har tatt initiativ til oppropet om kontroll av frontier-KI. Anbefalingen om å utrede en internasjonal institusjon som kan sette standarder og verifisere avtaler, ofte omtalt som et «IAEA for KI», er blant de mest konkrete forslagene i internasjonal KI-styring. Forskningsmiljøer ved blant annet Oxford og Simon Institute i Genève har vist at verktøyene for verifikasjon begynner å bli modne.

Mellomstore land har tidligere spilt en viktig rolle i å bygge internasjonale institusjoner, og når Norge selv har tatt initiativet, har vi et særlig ansvar for å følge det opp.

Finlands president Alexander Stubb og statsminister Jonas Gahr Støre har tatt initiativ til et internasjonalt opprop for å sikre kontroll på utviklingen for de mest avanserte KI-modellene.
Statsledere og utenriksministre fra 29 land fra hele verden, samt EU-kommisjonens leder, har stilt seg bak oppropet som ble lansert under FNs høynivåuke i september. Flere blir nå invitert med. Initiativet inngår i regjeringens satsing på nye KI-tiltak på til sammen 121,3 millioner kroner som samlet skal gi bedre offentlige tjenester, økt produktivitet og styrket sikkerhet i Norge.

KI er den teknologien som kan få størst betydning i menneskehetens historie. Den kan styrke økonomien, bidra til gjennombrudd i forskningen, øke konkurransekraften til bedriftene våre og bidra til bedre og mer effektive tjenester i offentlig sektor. Men utviklingen av de mest avanserte KI-modellene må skje i et tempo som gjør at vi fortsatt har kontrollen. Teknologien må være sikker, følge lovverk og brukes i tråd med folkeretten. Mennesker må fortsatt ha kontroll over teknologien og vi må hindre at den brukes feil eller gjør stor skade. Dette er en utfordring ingen land kan løse alene, men som krever internasjonalt samarbeid for ansvarlig styring, åpenhet og kontroll.

Regjeringen følger nå opp oppropet gjennom bred internasjonal dialog med andre land og sentrale aktører. Arbeidet vil ses i sammenheng med pågående prosesser i FN, EU og andre multilaterale og internasjonale fora.

Foreløpig følges arbeidet opp innenfor berørte departement og eksisterende ansvarsområder og budsjett. Behov for ytterligere ressurssetting vil bli vurdert i lys av den videre internasjonale oppfølgingen. Regjeringens ambisjon er at oppropet resulterer i internasjonale tiltak i 2027.