1 Ekspertgruppens mandat, sammensetning og arbeid

1.1 Bakgrunn for ekspertgruppen

I «supervalgåret» 2024 gikk en historisk høy andel av jordas befolkning til valgurnene i over 60 land, herunder land som USA, Storbritannia, Frankrike, India og Pakistan. Europaparlamentsvalget, som involverte velgere i alle EUs medlemsland, ble også gjennomført. Fremveksten av KI – og særlig de nye mulighetene generativ KI innebærer– har ført til økende bekymring for negativ konsekvenser for frie og demokratiske valg. Denne teknologien endrer utfordringsbildet ikke bare for valg, men har også betydning for selve fundamentet for demokratier.

Allerede før 2024 så man eksempler på urovekkende hendelser. Særlig falske, KI-genererte lydopptak i den slovakiske valgkampen i 2023 har fått stor oppmerksomhet. Også i det norske lokalvalget i 2023 ble det avslørt en parodisk falsk nettside for den lokale listen Sørlandspartiet, hvor KI var brukt til å lage bilder av kandidater som ikke eksisterte. 1 Ved inngangen til 2024 var det derfor stor spenning knyttet til hvordan KI ville skape eller forsterke utfordringer som fikk betydning for valggjennomføring og kommunikasjon rundt valg. Fra 2024 vil ekspertgruppen særlig peke på valgene i Romania og USA som spesielt interessante, men det er også mange andre valg gjennomført i dette året som har relevans og læringsverdi for Norge. Disse er omtalt i kapittel 4.

Erfaringer fra 2024 gir Norge en unik mulighet til å lære av andre land. Derfor valgte regjeringen å sette ned en hurtigarbeidende ekspertgruppe for å komme med anbefalinger til tiltak som kan iverksettes for å redusere negative konsekvenser av KI for det kommende norske stortings- og sametingsvalget i 2025.

Ved inngangen til 2024 ble KI-generert feil- og desinformasjon av mange vurdert som en av de absolutt største globale risikoene. 2 Nasjonal sikkerhetsmyndighet (NSM) og Politiets sikkerhetstjeneste (PST) trekker i sine rapporter frem inntoget av KI som et av utviklingstrekkene som får konsekvenser for nasjonal sikkerhet. 3

I Norge har vi et velfungerende og stabilt demokratisk system som vi må ta vare på. Vårt samfunn er preget av åpenhet, tillit, en utdannet og digital kompetent befolkning, et mangfold av redaktørstyrte medier og en velutviklet infrastruktur og digital forvaltning. Dette bidrar til robusthet, og utgjør et godt utgangspunkt for å stå imot negative konsekvenser av ny teknologi, men vi kan ikke ta disse styrkene for gitt.

Utfordringene KI kan medføre for valg og demokrati strekker seg ut over Norges landegrenser. Bruk av KI reiser en rekke spørsmål, blant annet om endringer i informasjonslandskapet, etikk, personvern, sikkerhet, cybersikkerhet, opphavsrett, infrastruktur, nasjonal autonomi og menneskerettigheter. Dette krever internasjonalt samarbeid og norsk engasjement internasjonalt, men også grundige nasjonale vurderinger og tiltak.

1.2 Mandat

Ekspertgruppen ble gitt et mandat av Kommunal- og distriktsdepartementet, som er gjengitt i boks 1.1.

1.2.1 Ekspertgruppens forståelse av mandatet

Ekspertgruppen er gitt et bredt mandat og en kort arbeidsperiode. For å kunne gi aktuelle og relevante råd i tide til at eventuelle tiltak kan iverksettes eller påbegynnes før stortingsvalget i 2025, har gruppen vært nødt til å gjøre noen prioriteringer for hva som skal vektlegges i arbeidet.

I mandatet trekkes det frem at gruppen skal beskrive hvordan KI «endrer utfordringsbildet for demokratiet og hvilken betydning KI kan ha for gjennomføringen av valg». Gruppen forstår mandatet slik at det er betydningen for valg som er kjernen i oppdraget, og det er dette området som vil vektlegges tyngst. Mandatet forstås ikke som at ekspertgruppen skal gi et utfyllende bilde på betydningen KI kan ha på demokratiet «i stort». Hovedvekten legges derfor på å identifisere endringer i utfordringsbildet og hvilke tiltak som kan iverksettes for å redusere risikoen for at KI benyttes på måter som vil være skadelig for demokratiet generelt og valg spesielt.

En av hovedoppgavene i oppdraget handler om å innhente erfaringer fra andre land som gjennomførte valg i 2024. Ekspertgruppen mener det er viktig at erfaringene som innhentes kontekstualiseres med tanke på deres relevans for valg i Norge. Ekspertgruppen tar derfor utgangspunkt i norske forhold når det drøftes hvilke utfordringer nye teknologiske gjennombrudd for KI skaper eller forsterker for valg. Våre anbefalinger til tiltak vil også være rettet mot vår nasjonale kontekst.

Av mandatet fremgår det at viktige begrunnelser for arbeidet er nye eller forsterkede trusler og sårbarheter som kan knyttes til KI, særlig med tanke på risikoen for uønsket valgpåvirkning. Oppdraget er likevel ikke avgrenset til dette, men favner bredere. KI vil også kunne ha stor betydning for informasjonslandskapet i Norge, samt for det som handler om cybersikkerhet. I vårt arbeid har vi derfor valgt å forfølge tre spor når det gjelder hvilken betydning KI kan ha på valg i Norge. Hovedsporene er nærmere omtalt i kapittel 3.

Den teknologiske utviklingen beveger seg raskt, og ekspertgruppen finner det også naturlig å peke på endringer i utfordringsbildet og overordnede tiltak innenfor disse tre sporene som strekker seg utover valget i 2025.

1.3 Sammensetning

Ekspertgruppen ble oppnevnt av Kommunal- og distriktsdepartementet 6. juni 2024. Ekspertgruppen har bestått av:

• Niels Nagelhus Schia, forskningsleder og professor ved Norsk utenrikspolitisk institutt (NUPI), leder for ekspertgruppen
• Anne Sofie Molandsveen, fagansvarlig for valgobservasjon ved NORCAP – Flyktninghjelpen
• Bente Kalsnes, professor ved Institutt for kommunikasjon ved Høyskolen Kristiania
• Heidrun Åm, professor ved Institutt for sosiologi og statsvitenskap ved NTNU
• Helle Sjøvaag, professor ved Institutt for medie- og samfunnsfag ved Universitetet i Stavanger
• Julie Ane Ødegaard Borge, førsteamanuensis ved lærerutdanningen på NLA Høgskolen Bergen
• Lars Raaum, samfunns- og myndighetskontakt i Mediebedriftenes Landsforening
• Rune Karlsen, professor ved Institutt for medier og kommunikasjon ved Universitetet i Oslo

Ekspertgruppen har hatt sekretariatsbistand fra Kommunal- og distriktsdepartementet. Sekretariatet har bestått av seniorrådgiver Sissel Lian (fra juni til oktober 2024), seniorrådgiver Øyvind Kind Robertsen og konsulent Vilde Sollien (fra september 2024).

1.4 Ekspertgruppens arbeid

Ekspertgruppen hadde sitt første møte 12. juni 2024. Totalt har ekspertgruppen hatt syv heldagsmøter, samt flere kortere møter. Gruppen har fått innspill fra eksperter og aktører innen mediesektoren, sikkerhetssektoren, akademia, teknologiplattformer, teknologiske miljøer, politiske partier og valgmyndigheter. Innspillene er i hovedsak gitt i form av presentasjoner og dialog på ekspertgruppens møter og studieturer, og i noen tilfeller i egne møter.

Det har høsten 2024 blitt gjennomført tre studieturer til fire ulike destinasjoner. Det ble gjennomført en studietur til Helsinki i september, London og Brussel i oktober og Washington D.C. i november. Formålet med studieturene har vært å møte valgmyndigheter, sikkerhetsmyndigheter, forskningsinstitusjoner og andre relevante aktører, og lære om hvordan disse landene har jobbet med tematikken før, under og etter valg.

Ekspertgruppen har via Utenriksdepartementet sendt en henvendelse til Norges utenriksstasjoner og delegasjoner der det ble bedt om orienteringer om hvordan landene de følger har jobbet med KI og valg, samt eventuelle eksempler. Ekspertgruppen ba også om tips dersom ambassadene og delegasjonene kjente til relevante forskere, organisasjoner eller institusjoner som har dybdekunnskap innenfor dette temaet.

En samlet oversikt over hvem som har bidratt med innspill til ekspertgruppen ligger som vedlegg 1 til denne rapporten.

1.5 Sentrale begreper

I det følgende redegjøres det for sentrale begreper som benyttes i rapporten.

Kunstig intelligens , forkortet KI (ofte også forkortet AI), er en betegnelse som omfatter ulike teknologiske verktøy som kan brukes til ulike oppgaver. En ekspertgruppe nedsatt av EU har definert KI på følgende måte:

Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. Enkelte KI-systemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene. 5

KI er verktøy som kan brukes på måter som kan ha positiv og negativ betydning for valg og demokrati. KI benyttes i vesentlig grad i samfunnet i dag. Sosiale medier og andre teknologiplattformer benytter for eksempel KI i stor grad, blant annet gjennom algoritmene som bestemmer hvilket innhold som vises og spres til brukere.

KI som sådan er ikke et nytt fagfelt, men de siste årene har særlig utviklingen innenfor generativ KI skutt fart. Generativ KI er basert og trent på store mengder data, og kan skape innhold i ulike formater som tekst, lyd, bilde og film. Innholdet kan fremstå originalt, men innholdet skapes basert på datagrunnlaget modellen er trent på. Det kreves ikke spesifikke kunnskaper for å kunne benytte verktøyene til enkle formål, ettersom brukeren kan kommunisere med verktøyet ved hjelp av dagligtale.

Det er særlig fremveksten av generativ KI som har aktualisert en bekymring for at teknologien kan få betydning for valg og demokrati – enten det skjer gjennom bevisst misbruk eller fordi datamaterialet ikke gir et korrekt bilde. Eksempelvis har fabrikkerte bilder, filmer eller lydopptak som er laget for å ligne bestemte personer, såkalte deepfakes, fått stor oppmerksomhet. Også chatboter basert på generativ KI har fått en stor utbredelse.

Frykten for misbruk av teknologien knytter seg særlig til manipulasjon av informasjon i forbindelse med påvirkningsoperasjoner eller desinformasjonskampanjer, som kan brukes for å forstyrre valggjennomføringen og svekke tilliten til gjennomføring og resultat. I de følgende begrepene bygger ekspertgruppen på definisjoner gitt av Ytringsfrihetskommisjonen 6 og Forsvarets forskningsinstitutt 7 .

Valg – og især valgkamp – handler om å påvirke velgere. Det er en legitim del av demokratiet, og det er viktig å sikre at tiltak som skal forhindre uønsket påvirkning ikke samtidig undergraver viktige demokratiske prinsipper. Med uønsket valgpåvirkning viser vi til faktorer som påvirker individers valg eller oppfatninger på en manipulerende, uetisk, udemokratisk eller ulovlig måte, ofte gjennom bruk av desinformasjon, sosial manipulering og teknologiske verktøy. Det krenker individets rett til å ta informerte og frie valg, og kan undergrave tilliten til valgprosesser og demokratiske institusjoner.

I den offentlige debatten er det særlig påvirkningsoperasjoner fra utenlandske aktører som omtales, men en påvirkningsoperasjon kan også gjennomføres eller støttes av en innenlandsk aktør.

Desinformasjon viser derimot til spredning av bevisst falsk eller villedende informasjon, hvor hensikten nettopp er å gjøre skade eller påvirke mottakernes oppfatninger, holdninger eller handlinger.

Feilinformasjon brukes om feilaktig informasjon som spres uten skadehensikt. Her er det altså ikke snakk om et klart formål med informasjonsspredningen, og aktøren kan være uvitende om sannhetsgraden i det som deles.