Norge med i internasjonalt opprop for bedre kontroll på KI-utviklingen

NORGE: Finlands president Alexander Stubb og statsminister Jonas Gahr Støre har tatt initiativ til et internasjonalt opprop for å sikre kontroll på utviklingen for de mest avanserte KI-modellene. 22 ledere fra hele verden har stilt seg bak oppropet. Stubb og Støre oppfordrer flere til å stille seg bak, opplyser regjeringen i en pressemelding.

– Jeg og flere andre ledere sier nå tydelig fra om at vi må få bedre kontroll på de mest avanserte KI-modellene. KI er en ekstremt kraftig teknologi med stort potensial, men den kan også utgjøre en betydelig sikkerhetsrisiko. Å få kontroll på den risikoen krever politisk handling, og at det stilles tydelige forventninger til at tek-selskapene tar ansvar. Vi har tett kontakt med andre land om dette, og det er også noe vi vil jobbe videre med under FNs høynivåuke, sier statsminister Jonas Gahr Støre. 

FN: - Eksistensiell risiko for menneskeheten

Forskere, eksperter og lederne for de største KI-selskapene i USA har advart mot utviklingen i egne bedrifter, blant annet etter at avanserte modeller fra flere ledende utviklere brøt ut av sine testmiljøer og angrep andre virksomheter, uten at det ble oppdaget. FNs generalsekretær sier at kunstig intelligens ute av kontroll er én av tre eksistensielle risikoer menneskeheten nå står overfor, sammen med klima- og ulikhetskrisene.

– KI er den teknologien som vil få størst betydning i menneskehetens historie. Den vil påvirke vitenskapen, økonomien, politikken, sikkerheten og hvordan vi er som mennesker. Mennesker kan og bør sitte i førersetet. Vi har et valg: Vi kan konkurrere, samarbeide eller bremse utviklingen. For meg er samarbeid den beste veien videre, sier Finlands president Alexander Stubb.

Trygg bruk

– KI er en svært nyttig teknologi som kan styrke økonomien, bidra til gjennombrudd i forskningen, øke konkurransekraften til bedriftene våre og bidra til bedre og mer effektive tjenester i offentlig sektor – for å nevne noe. Men utviklingen når det gjelder de mest avanserte KI-modellene må skje i et tempo som gjør at vi fortsatt har kontrollen. Teknologien må være sikker, følge lovverk og brukes i tråd med folkeretten. Vi mennesker må fortsatt ha kontroll over teknologien og vi må hindre at den brukes til å gjøre stor skade, sier statsminister Støre.

I oppropet oppfordres det til at

• selskaper utvikler transparente sikkerhetsprotokoller, inkludert obligatorisk testing og ekstern evaluering, med kvalifiserte fagfolk som er gitt tilstrekkelig tilgang til å vurdere risiko

• myndigheter og regionale organisasjoner utvikler og koordinerer felles standarder, styrker åpenheten, blant annet ved å dele rapportering av alvorlige sikkerhetshendelser, og sørger for at land i alle regioner gis tilgang til forskning, ekspertise og uavhengig evaluering

• FNs medlemsland bygger på eksisterende internasjonale mekanismer og undersøker muligheten for å etablere en internasjonal institusjon som kan sette standarder, gjøre det mulig å verifisere og sammenkalle land når kapasitetsterskler overskrides.

Her kan du lese oppropet