6 Oppsummerende vurderinger og anbefalinger fra ekspertgruppen

KI har i stor grad satt sitt preg på «supervalgåret» 2024. Selv om det ikke er grunnlag for å si at KI har medført noen banebrytende nye trusler, har KI satt sitt preg på demokratier og valggjennomføring. KI-generert innhold har blitt produsert og spredt, og i mange tilfeller fått stor omtale. På den måten bidro KI til å forme dagsordenen rundt valg. Sosiale medier som bygger på algoritmer, altså mer «tradisjonell» KI, har allerede satt et stort preg på informasjons- og medielandskapet, som også gjør seg gjeldende for valg. Dette har ført til et endret utfordringsbilde for redaktørstyrte medier så vel som (valg)myndigheter. Erfaringene fra 2024 viser også at cybersikkerhet i valgsammenheng er blitt enda viktigere, som særlig understrekes av de dramatiske hendelsene under presidentvalget i Romania, men også av hendelser i USA.

Ekspertgruppens vurdering er at KI i størst grad bidrar til å forsterke eksisterende trusler. KI gir kraftige verktøy som forenkler og effektiviserer det som tidligere krevde tid, ressurser og kompetanse.

Sett med utgangspunkt i norske forhold, mener ekspertgruppen at Norge har gode forutsetninger for å motvirke at KI skal få negativ betydning for norske valg og den politiske samtalen. I denne sammenhengen handler det særlig om motstandskraft som bygger på høy grad av tillit og et mangfoldig medielandskap med sterke redaktørstyrte medier som synes å ha høy bevissthet om KI, valg og påvirkning, og fortsatt når ut til store deler av befolkningen. Samtidig er det utviklingstrekk det er viktig å være oppmerksomme på, særlig unges medievaner, men det gjelder også andre grupper, som innvandrere og de som ikke stemmer. Fordi dette er grupper som i mindre grad synes å benytte redaktørstyrte medier, er det særlig viktig å bidra til at de får korrekt informasjon om valg – og å sikre at alle vet hvor de kan finne slik informasjon.

Ekspertgruppen vil også peke på den store avhengigheten av utenlandske teknologi- og plattformselskaper, som alle er involvert i utviklingen av KI. Dette er en avhengighet som kan få stor betydning for det demokratiske grunnlaget for valg i Norge. Disse selskapene besitter stor makt over infrastrukturen som styrer distribusjonen av informasjon, samtidig som det er få tilgjengelige alternativer.

Muligheten for et fall i tillit er den mest alvorlige konsekvensen av de utfordringene ekspertgruppen peker på i kapittel 5. Det gjelder både tilliten til valggjennomføring og -resultat, så vel som tilliten til medier og tilliten til informasjon som sådan. I anbefalingene er det derfor lagt særlig vekt på tiltak som kan bidra til å opprettholde og bygge tillit.

Med utgangspunkt i de erfaringene vi har fra valgene i 2024 og annen relevant forskning og kunnskap, sett opp mot norske forhold, har ekspertgruppen kommet frem til anbefalinger til hvordan myndighetene kan bidra til å redusere risikoen for at KI får en negativ betydning for valg og demokrati.

I tråd med mandatet kan flere av anbefalingene implementeres før stortingsvalget i 2025. Samtidig peker flere av anbefalingene også lengre frem, og handler om et langsiktig arbeid for å ivareta og styrke de strukturene som bidrar til å bevare et godt informasjons- og medielandskap og bygge motstandskraft mot uønsket påvirkning.

Det er ikke mulig å isolere innsatsen som er nødvendig til valgmyndighetene eller enkeltsektorer alene. Innsatsen for å redusere risikoen for negativ betydning for valg og demokrati må være bred, og involvere en rekke aktører – både valgmyndigheter, mediemyndigheter og mediene selv, sikkerhets- og digitaliseringsmyndigheter og ikke minst plattform- og teknologiselskaper. Ekspertgruppen er derfor positiv til at det allerede finnes en tverrdepartemental arbeidsgruppe som jobber med hvordan det kan bygges motstandskraft mot uønsket påvirkning av valg, og er kjent med at ekspertgruppens rapport vil bli behandlet av denne gruppen.

Avslutningsvis vil ekspertgruppen understreke at trusselen KI representerer ikke må overdrives. Dersom det tegnes et overdrevet trusselbilde, vil det i seg selv bidra til å redusere tilliten til informasjon, teknologi og demokratiet. Norge har i dag et godt grunnlag for motstandskraft, som må ivaretas og styrkes.

6.1 Ekspertgruppens anbefalinger

Ekspertgruppens anbefalinger skal bidra til følgende mål:

• Velgere skal ha tilgang til korrekt informasjon om valg.
• Sikre at valggjennomføringen og digitale systemer som er viktige for valg er godt beskyttet.
• Ivareta og styrke det norske informasjons- og medielandskapet.
• Bygge motstandskraft i befolkningen og gjøre oss mindre sårbare for uønsket valgpåvirkning.

For å nå disse målene, har ekspertgruppen følgende anbefalinger:

• Sikre at valgmyndighetene har nødvendig kompetanse og kapasitet på KI og kommunikasjon. I et mer uoversiktlig informasjonslandskap, er det enda viktigere at valgmyndighetene bidrar til at velgerne er informerte. Valgmyndighetene må være hovedkilden til informasjon om valggjennomføringen. Da må også nasjonale valgmyndigheter, kommuner og fylkeskommuner ha nødvendig kompetanse og kapasitet. For å bidra til dette, vil ekspertgruppen peke på følgende:
• Valgmyndighetene må ha tilstrekkelige ressurser, inkludert ressurser som jobber med kommunikasjon slik at det kan drives et mer proaktivt informasjonsarbeid.
• Bygge kompetanse på KI og betydningen det kan ha for valg i nasjonale valgmyndigheter, slik at kommuner og fylkeskommuner kan få opplæring og nødvendig veiledning om temaet.
• Redusere grunnlag for at det kan spekuleres i feil og mangler i valggjennomføringen eller at valget er utsatt for uønsket påvirkning. Ekspertgruppen mener det er avgjørende at velgerne kan ha tillit til at valg gjennomføringen har gått rett for seg og at resultatet er korrekt. Det viktigste for å oppnå dette er at valggjennomføringen faktisk skjer i tråd med regelverk og internasjonale standarder. Videre må myndighetene bidra til å redusere mulighetene for at det kan spekuleres i at valget ikke har gått rett for seg. Ekspertgruppen anbefaler derfor følgende:
• Ha på plass reserveløsninger for viktige systemer benyttet i valggjennomføringen, særlig systemer for formidling av valgresultater til offentligheten. Reserveløsningen bør, så langt som mulig, være lik hovedløsningen.
• Fortsette med papirbaserte stemmesedler for å sikre etterprøvbarhet.
• Ha beredskap for håndtering av feil- og desinformasjon om valggjennomføringen. I forkant av valget bør rutiner og roller være avklart, slik at valgmyndigheter nasjonalt og lokalt kan bidra til at korrekt informasjon når ut.
• Etterretnings- og sikkerhetstjenestene må ha nødvendig kompetanse og bevissthet om nye utfordringer og trusler mot demokratiet som følger av KI.
• Myndighetene, herunder EOS-tjenestene, må etterstrebe å kommunisere så åpent og raskt som mulig, særlig om hendelser eller påstander om hendelser som berører valget, for å ivareta tillit.
• Anbefalinger fra Partilovnemnda om revisjon av partiloven bør følges opp for å sikre åpenhet om finansieringen av valgkamp og politiske partier.
• Det bør utvises stor forsiktighet med implementering av KI-løsninger i valgadministrasjon.
• Kontakt mellom myndighetene og teknologi- og plattformselskapene. Teknologi- og plattformselskapene har stor makt i hvordan de innretter sine tjenester, og myndighetene bør ha kontakt med dem om spørsmål som gjelder sikring av valg. Ekspertgruppen vil peke på noen områder som er særlig viktige i en slik dialog:
• Merking av KI-generert innhold i tråd med KI-forordningen, forutsatt at forordningen ikke er implementert i norsk lovverk før stortingsvalget.
• Tiltak som forhindrer spredning av feil- og desinformasjon om valget.
• Plattformer og chatboter bør vise til offisiell valginformasjon og utvise forsiktighet i omtale av valgrelaterte saker.
• Innhold fra redaktørstyrte medier bør ikke forhindres i sosiale medier.
• Avklare hvordan plattformene kan bistå ved hendelser.
• Politiske aktører bør ansvarliggjøres og støttes. Politiske aktører, herunder alle som stiller til valg, har et viktig ansvar for å bidra til et godt informasjonslandskap, og til å ikke spre feil- eller desinformasjon. Samtidig bør det være ordninger på plass som gir politiske aktører nødvendig støtte og opplæring, særlig i møte med mektige plattformer som kan være utfordrende å komme i kontakt med. Ekspertgruppen vil her trekke frem følgende:
• Det er positivt at det allerede er inngått en avtale mellom partiene på Stortinget om å beskytte stortingsvalget 2025 mot deepfakes og KI-generert desinformasjon. Slike retningslinjer skaper felles rammer på tvers av partiene, og i det videre bør politiske aktører også se på muligheten for felles retningslinjer som betrakter KI bredere.
• Etablere et kontaktpunkt for politiske partier og kandidater som de kan henvende seg til ved hendelser som hacking eller urettmessig fjerning av kontoer, og som bistår oppfølgingen med plattformselskapene.
• Prioritere rask implementering av relevante EU-lover, særlig DSA og KI-forordningen. Disse lovene gir viktige rammer, blant annet plikter til plattformer om åpenhet og tilgang, samt krav om merking av KI-generert innhold. Å prioritere implementering av disse vil være et viktig skritt i reguleringen av teknologi- og plattformselskapene i Norge.
• Føre en aktiv mediepolitikk som opprettholder frie, sterke og mangfoldige redaktørstyrte medier. Den sterke posisjonen til redaktørstyrte medier må opprettholdes ved at mediepolitikken legger til rette for at mediene er i stand til å være konkurransedyktige og innovative for å nå ut til flere grupper. I møte med en utvikling der unge i større grad bruker sosiale medier og chatboter som informasjonskilder, vil det særlig være viktig å bidra til at unge bruker redaktørstyrte medier.
• Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse. At befolkningen er i stand til å vurdere informasjon og avdekke KI-generert feil- og desinformasjon, har blitt viktigere med de mulighetene KI-verktøy har gitt og forflytningen av brukere fra redaktørstyrte medier til algoritmestyrte sosiale medier. Ekspertgruppen vil særlig peke på følgende:
• Styrke aktører i sivilsamfunnet som jobber med å bygge kildebevissthet og kritisk medieforståelse.
• Befolkningen må få informasjon om hva uønsket valgpåvirkning er, hvordan det kan skje og hvordan de kan avdekke det.
• Det er særlig viktig at informasjonstiltak retter seg mot grupper som i mindre grad benytter redaktørstyrte medier.
• Det bør lages lettlest og tilgjengelig materiell om KI og valg, som bygger på kunnskap fra blant annet denne rapporten, som kan brukes i demokratiopplæring.
• Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og teknologiselskaper. Et bredt samarbeid kan sikre at teknologien brukes ansvarlig og i tråd med demokratiske verdier, samtidig som det styrker samfunnets motstandskraft mot misbruk. Slikt samarbeid er også avgjørende for å utvikle effektive reguleringer og bygge tillit til nye løsninger. Ekspertgruppen anbefaler derfor:
• Ytterligere styrke forsknings- og kunnskapssektoren for å sikre at Norge har solide fagmiljøer på områder som er relevante for temaene i denne rapporten.
• Sikre at det forskes på temaer som uønsket valgpåvirkning, sikkerhet, teknologi og internasjonale forhold, teknologisk infrastruktur, kildebevissthet og kritisk medie-, teknologi- og KI-forståelse.
• Internasjonalt samarbeid. Utfordringene det pekes på strekker seg utover Norges grenser og utfordrer tradisjonelle internasjonale rammeverk for internasjonal politikk og kjøreregler. Ekspertgruppen mener derfor at Norge må være en pådriver for internasjonalt samarbeid med problemstillinger knyttet til KI, demokrati og valg, samt fremme en mer ambisiøs teknologipolitikk globalt, for å sikre våre demokratiske verdier og interesser.