Sammendrag

En helhetlig tilnærming til kunstig intelligens (KI) er nødvendig for å beskytte valgintegriteten og fremme demokrati i en tid preget av rask teknologisk utvikling. KI har gitt oss kraftfulle verktøy som kan brukes på mange nyttige måter, men har også et potensiale for misbruk.

Ekspertgruppen for KI og valg ble oppnevnt av Kommunal- og distriktsdepartementet for å kartlegge betydningen av KI for demokratiske valg, og for å komme med anbefalinger til tiltak for å møte utfordringene KI medfører i denne sammenheng. I arbeidet har ekspertgruppen tatt utgangspunkt i tre hovedspor: (1) informasjons- og medielandskapet, (2) fordekt valgpåvirkning og (3) valggjennomføring og cybersikkerhet.

Ekspertgruppen vil fremheve at det norske samfunnet har gode forutsetninger for motstandskraft mot demokratiske trusler, som det er viktig å bygge videre på og forsterke. Det norske mediesystemet med et mangfold av uavhengige, redaktørstyrte medier gir et godt utgangspunkt for motstandsdyktighet både mot økende polarisering og fragmentering av samfunnet, men også mot uønsket påvirkning fra KI-generert innhold generelt og KI-drevne påvirkningsoperasjoner i forbindelser med valg. Likevel ser vi også i Norge tegn til at de redaksjonelle medienes rolle er under press fra sosiale medier og endrede medievaner, særlig hos unge.

Algoritmestyrte systemer har forandret informasjonslandskapet ved å muliggjøre rask og omfattende distribusjon og spredning av innhold på sosiale medier. Det skjer på en måte som kan bidra til å forsterke personlige oppfatninger og redusere mangfoldet av synspunkter man eksponeres for. De sosiale mediene har blitt viktigere kanaler for informasjonsdeling, mens de redaktørstyrte mediene har større utfordringer med å nå ut til hele bredden i samfunnet. Det bidrar til et mer uoversiktlig informasjons- og medielandskap.

Fremskritt innen KI, særlig store språkmodeller, har vakt bekymring for deres potensiale til å generere falsk informasjon og muliggjøre mer sofistikerte og fordekte påvirkningsoperasjoner. Hittil har vi hovedsakelig sett at KI bidrar til å forsterke allerede eksisterende trusler, men ekspertgruppen mener det er viktig å sørge for nødvendig demokratisk beredskap, motstandskraft i befolkningen og KI-kompetanse hos myndighetene, herunder etterretnings- og sikkerhetstjenestene. Teknologien og trendene utvikler seg raskt – og det gjør også utfordringsbildet.

Valgene ekspertgruppen har undersøkt i 2024, viser at kombinasjonen av KI, sosiale medier og cyberoperasjoner har gitt utenlandske og innenlandske aktører nye muligheter for fordekt valgpåvirkning. Et spesielt urovekkende og illustrerende eksempel på dette er presidentvalget i Romania.

KI-generert innhold fikk stor oppmerksomhet i valgåret 2024, særlig i USA. Det viser at generativ KI kan ha en klar betydning for den politiske dagsordenen i forkant av valget. Hvorvidt innholdet faktisk er sant synes å være mindre avgjørende for om det oppnår spredning, så lenge det bidrar til å forsterke eller representere mottakerens meninger og virkelighetsoppfatninger.

Vi har ikke oversikt over rekkevidden og potensialet til teknologien, eller hvordan den vil påvirke samfunnet og individene over tid. Ekspertgruppen har i arbeidet med denne rapporten identifisert noen endringer i utfordringsbildet for norske valg. Disse følger hovedsporene og viser hvor KI i særlig grad kan endre eller forsterke utfordringer som det vil være særlig viktig å være oppmerksom på.

Med utgangspunkt i erfaringene fra valg i 2024, sammen med kunnskap om hvordan KI kan brukes og kunnskap om norske forhold, legger ekspertgruppen frem flere anbefalinger. Anbefalingene skal bidra til å redusere risikoen for at KI brukes på en måte som vil kan ha negativ betydning for valg og demokrati. For å imøtekomme endringene i utfordringsbildet har ekspertgruppen følgende overordnede anbefalinger:

• Sikre at valgmyndighetene har nødvendig kompetanse og kapasitet på KI og kommunikasjon.
• Redusere grunnlag for at det kan spekuleres i feil og mangler i valggjennomføringen eller at valget er utsatt for uønsket påvirkning.
• Kontakt mellom myndighetene og teknologi- og plattformselskapene.
• Politiske aktører bør ansvarliggjøres og støttes.
• Prioritere rask implementering av relevante EU-lover, særlig DSA og KI-forordningen.
• Føre en aktiv mediepolitikk som opprettholder frie, sterke og mangfoldige redaktørstyrte medier.
• Bygge kildebevissthet og fremme kritisk medie-, teknologi- og KI-forståelse.
• Mer forskning og samarbeid mellom myndigheter, forskere, sivilsamfunn og teknologiselskaper.
• Være en pådriver for internasjonalt samarbeid på de ovennevnte områdene.

Anbefalingene er nærmere spesifisert og omtalt i rapportens punkt 6.1.

Ekspertgruppen mener disse anbefalingene vil bidra til å bygge bevissthet og beredskap i befolkningen og i myndighetene som har en rolle i valggjennomføringen, mediene og teknologiselskapene. Samtidig vil ekspertgruppen understreke at oppmerksomheten om betydningen av KI for valg ikke må overdrives, slik at oppmerksomheten i seg selv fører til en overdreven frykt og mistenksomhet omkring hva som er sant og usant.