AI

KI – kunstig intelligens

Prompt

Instruks

Prompte

Instruere

Prompt- injection

Instruks-injeksjon (å lure assistenten til å følge andres ordre i stedet for de du selv spesifiserer)

Fine-tuning

Finjustering

Provider

Leverandør (mao. de som utvikler/leverer et KI-system ihht. KI-forordningen)

Deployer

Idriftsetter (mao. de som tar i bruk et KI-system ihht. KI-forordningen)

Kunstig Intelligens (KI)

Data-drevet KI er et samlebegrep for programvare som lærer fra data og tar beslutninger eller produserer innhold uten eksplisitte regler. I praksis betyr det alt fra bildegjenkjenning og klassifikasjon til generering av tekst. Generativ KI er en type data-drevet KI, der fokuset ligger på å generere nytt innhold på bakgrunn av veldig store datasett.

KI-system

Et KI-system er (ihht til EUs KI-forordning) et maskinbasert system som er designet for å operere med varierende nivåer av autonomi og som kan vise tilpasningsevne etter utplassering, og som, for eksplisitte eller implisitte mål, utleder, fra inndata det mottar, hvordan det skal generere utdata som prediksjoner, innhold, anbefalinger eller beslutninger som kan påvirke fysiske eller virtuelle miljøer.

KI-assistenter og KI-agenter

En KI-assistent er et verktøy som svarer på forespørsler fra mennesker (ofte via tekst eller tale)

En KI-agent kan utføre handlinger på egen hånd – f.eks. bestille varer eller oppdatere et system – basert på mål og rammer du definerer.

KI-assistentene bruker ofte KI-agenter for å utføre oppgavene de gis, så overgangen mellom dem er glidende.

Språkmodell

En språkmodell er en maskinlæringsmodell som er trent på enorme mengder tekst for å forstå og generere naturlig språk. Modellene bruker sannsynlighet og statistikk for å forutsi og generere tekst i en bestemt kontekst – og kan dermed skrive, oversette og forklare.

Store språkmodeller (LLMer) som GPT‑4 kan finjusteres eller kobles til interne dokumenter via f.eks. RAG for å bli virksomhetsspesifikke.

Token

Internt i språkmodellen brytes hvert ord ned til ett eller flere token, som gir en effektiv representasjon av språket i modellen.

Et token kan være et helt ord (f.eks. «hus»), en del av et ord (f.eks. «inn‑«, «føring»), eller et skilletegn eller mellomrom. En bruker ofte ulike metoder i ulike språk for å dele opp ord i token, slik at en kan sørge for at de fleste token har en semantisk og/eller grammatisk tolkning i språket.

Begrepet er viktig som en indikasjon på kostnader fordi plattform/system-leverandører fakturerer per token.

KI-assistent ≠ tradisjonell chatbot

Klassiske chatboter følger faste mønstre («hvis spørsmål eller tema A, svar B»). KI-assistenter analyserer hele spørsmålsteksten, trekker på bredere kunnskap som ofte også involverer dialoghistorien og brukerens profil og genererer svar på direkten. Resultatet er mer naturlig dialog – men også økt risiko for hallusinasjoner, og at samme spørsmål kan lede til ulike svar.

Hallusinasjoner – og hvordan håndtere dem

Når modellen «finner på» tekst som høres plausible ut, kalles det hallusinasjoner. Dette kan begrenses ved å: 1) hente fakta fra en verifisert kunnskapskilde via f.eks RAG, 2) gi tydelige, snevre instrukser, 3) validere svar automatisk mot andre kilder eller ved menneskelig kontroll.

Retrieval-Augmented Generation (RAG)

RAG er en (av flere) metoder som lar språkmodellen hente data fra dokumenter du definerer. Resultatet er oppdaterte, kildeforankrede svar uten at du trenger å finjustere hele modellen.

Dermed kan norske virksomheter koble KI-assistenten til interne håndbøker, rutinebeskrivelser og lover, og samtidig redusere risikoen for hallusinasjoner betraktelig. Erfaringsmessig begrenses hallusinasjoner også ved å pretrene modellen med mer tekstdata fra domenet, finjustere modellen på oppgavene den skal brukes til og tvinge modellen til å forklare hvordan den kom fram til svaret (chain-of-thought).

Bare husk på at svarene nå avhenger av at kildene du oppgir inneholder korrekt informasjon.

Forhåndstrening

Den innledende treningsfasen av en KI-modell der modellen trenes på store, generelle datasett før den eventuelt finjusteres for spesifikke bruksområder. Forhåndstreningen gir modellen en grunnleggende forståelse av språk, kontekst og generell kunnskap, og utgjør grunnlaget for videre tilpasning og spesialisering.

Finjustering

Finjustering betyr å tilpasse en trent KI-modell ved å lære den opp på et mer spesifikt datasett. Målet er å gjøre modellen bedre tilpasset en bestemt oppgave, bransje eller type innhold.

Finjustering kan skje på ulike måter, f.eks.

1. Videre forhåndstrening – å legge til mer tekst i treningsdatasettet, f.eks. tar med masse nyheter fra VG for å trene modellen til å operere på nyheter.
2. Fintrening – å trener modellen med et datasett der mennesker har laget en fasit til å gjøre en bestemt oppgave. Det kan f.eks. være massevis av spørsmål-svar-par, eller artikkel-sammendragspar.

Å finjustere modeller krever teknisk kompetanse og kontroll på hvilke data som brukes, og er mest aktuelt for større virksomheter med egne KI-miljøer.