KI-assistenter i arbeidslivet– en praktisk guide

Til innholdsfortegnelse

7 Sjekkliste for innføring av KI-assistent

Dette kapittelet inneholder en oversiktlig sjekkliste som oppsummerer viktige avklaringer ved innføring av KI-assistenter. Sjekklisten er utformet for å fungere som et praktisk hjelpemiddel, og skal bidra til at virksomheten har vurdert og ivaretatt alle nødvendige aspekter i innføringsprosessen.

Første del av sjekklisten (Tabell 12) er en oppsummering av avklaringer det er relevant å ha med i prosessen, mens vi i Tabell 14 har gitt referanse til hvor i veilederen dere finner mer informasjon om de ulike avklaringene, samt kategorisert sjekklisten etter hvilket KI-assistentnivå virksomheten har valgt – enten det er åpent, integrert eller tilpasset assistent. Målet er å sikre at alle relevante hensyn er tatt, og at organisasjonen er godt forberedt på en trygg og effektiv bruk av KI-assistenter.

Tabell 12 Sjekkliste for innføring av KI-assistenter

Avklaring

Hvorfor er det viktig

Typiske valg

Hva utløser valget?

Hvordan utføre det?

Hva ønsker vi å oppnå?

Unngå hype – ha et faktisk behov.

Definer konkret case / problemstilling

Gir retning for løsningstype, bruk og nytte

Lag en konkret problembeskrivelse og målformulering

Hva slags type oppgave skal løses?

Info, generering, automatisering → påvirker valg.

Informasjon / Generering / Automatisering

Avgjør hvilket nivå av KI-assistent som er mest relevant for dere

Klassifiser oppgaven og velg assistent-nivå utifra dette

Har du beskrevet hva KI-assistenten ikke skal bidra til

Være bevisst på scope-creep

personvern, autonomi og datatilgang

budsjett og tidsramme

beskriv avgrensningene

Er brukeren intern eller ekstern?

Påvirker språk, opplæring og krav til presisjon.

Intern / Ekstern / Begge

Påvirker krav til språk, tilsyn og datasikkerhet

Avklar hvem som skal bruke løsningen og design ut fra det

Er det et klart mål med løsningen?

Du må vite hva suksess ser ut som.

Ja / Nei (avklar først)

Uten mål → vanskelig å vurdere suksess

Skriv ned mål og hvordan de skal måles

Hvordan skal løsningen evalueres?

Sett KPI-er, ikke magefølelse.

KPI-er definert / Ikke definert

Gir grunnlag for løpende måling og forbedring

Lag KPI-er og evalueringsrutiner før pilot

Er det allerede lignende løsninger internt?

Unngå duplisering og forvirring.

Ja / Nei / Usikker (må kartlegges)

Avdekker overlapp og forbedringspotensial

Kartlegg eksisterende løsninger og brukererfaringer

Hvem eier løsningen i virksomheten?

Uten eierskap → dør i testfasen.

Avdeling / Leder / Prosjekteier

Gir eierskap og ansvar i linja

Tildel eierskap i linjeorganisasjonen, ikke prosjekt

Har du kartlagt arbeidsprosessene den skal støtte?

Du kan ikke effektivisere det du ikke forstår.

Ja / Nei (start med prosesskart)

Gjør det mulig å målrette og integrere riktig

Dokumenter nåværende arbeidsprosesser og flaskehalser

Må det gjøres organisatoriske endringer?

KI krever andre roller og kan påvirke ansvarsforhold

Nye roller, ansvar, arbeidsoppgaver

At KI støtter, fornyer og kan gjøre arbeidsoppgaver/funksjoner overflødig

kartlegg alle som påvirkes av KI-assistentene

Er opplæringstiltak for brukere på plass?

Uten relevant opplæring i muligheter og begrensninger vil ikke løsningenbli brukt

Kursing, workshops, deling av erfaringer

Behov/ønske om at KI skal skape verdi for organisasjonen

Sett av nok tid til relevante tiltak

Er løsningen forankret i ledelsen

Uten god forankring blir innføringen ukoordinert

Ledermøter, dialog

Behov/ønske om at KI skal skape verdi for organisasjonen

Involver mellomledere

Er ansatt-representanter involvert i prosessen

Det er vanligvis en lov og avtalefestet krav

ja/nei

relevant lov og avtaleverk på arbeidsplassen

involver tillitsvalgte

Hvor kommer dataene fra?

Internt, eksternt, brukerinput? Det avgjør datasikkerhet.

Internt / Eksternt / Brukerinput

Påvirker teknisk løsning og sikkerhet

Lag oversikt over datakilder og eierskap

Er datakvaliteten god nok?

Dårlig input = dårlig output.

Ja / Nei (vurder datavask)

Avgjør behov for datasanitering eller forbedring

Kjør datakvalitetsanalyse eller vurder behov for datavask

Er det sensitive eller personlige data i bruk?

GDPR og sikkerhet slår inn.

Ja / Nei

Utløser GDPR-vurderinger og ekstra ansvar

Klassifiser datasettet og bruk GDPR-veileder

Trenger du databehandleravtale?

Ja, hvis noen andre håndterer dataene dine.

Ja / Nei

Krever avtaler med tredjepartsleverandører

Inngå DPA med alle relevante aktører og lag kopi

Er det behov for anonymisering?

Et ofte oversett grep som reduserer risiko.

Ja / Nei

Reduserer risiko og gir økt kontroll

Kjør anonymisering i forkant med verktøy eller script

Hvilken risikoklasse havner løsningen i?

AI Act stiller ulike krav avhengig av nivå.

Minimal / Begrenset / Høyrisiko / Forbudt

Utløser krav under AI Act hvis høyrisiko

Bruk AI Act-veilederen og vurder alle relevante kriterier

Har du gjort DPIA (personvernvurdering)?

Påkrevd for persondata.

Ja / Nei / Ikke relevant

Lovpålagt ved persondata – gir trygghet

Bruk for eksempel Datatilsynets DPIA-verktøy

Kan løsningen diskriminere eller være biased ?

Særlig viktig ved rekruttering, helse og offentlig bruk.

Ja (test!) / Nei / Usikker

Hvis ja → krever testing og justering

Test mot scenarier som kan trigge diskriminering

Har dere planlagt testing for bias?

Red-teaming og evalueringsprosedyrer trengs.

Ja / Nei

Gir dokumentert kontroll og risikobevissthet

Planlegg og dokumenter red-teaming og evaluering

Har du «menneske i loopen» ved kritiske avgjørelser?

Påkrevd ved beslutninger som påvirker rettigheter.

Ja / Nei

Nødvendig for ansvarlig KI i sensitive områder

Bygg inn godkjenning eller manuell sjekk i prosessene

Skal assistenten bare svare – eller utføre handlinger?

Skillet mellom assistent og agent → forskjellig risiko.

Bare svare / Utføre handlinger

Avgjør om løsning er lavrisiko assistent eller høyrisiko agent

Beskriv funksjonsbehov og vurder risikonivå

Hvor stor autonomi skal agenten ha?

Skal den sende e-poster, trigge prosesser, endre data?

Lav / Moderat / Høy

Høy autonomi = KI-agent + moderat/høy risiko

Lag beslutnings-tre for hva agenten skal få lov til

Har dere tekniske sperrer mot misbruk (f.eks. instruks-injeksjon)?

KI kan manipuleres – ikke undervurder dette.

Ja / Nei

Gir bedre kontroll mot misbruk og feil

Sett opp tekniske sperrer og bruk instruks-injeksjonsfilter

Hvem har tilgang til å justere modellens kunnskap?

Kontroll = sikkerhet.

Kun Admnistrator / Fagansvarlige / Alle (risiko!)

Begrenser hvem som kan påvirke KI-opplæring

Begrens modelltilgang gjennom roller og rettigheter

Er det logg og sporbarhet på assistentens handlinger?

Kritisk ved feil eller uønskede hendelser.

Ja / Nei

Gir mulighet for etterprøving og læring

Sett opp logging og varsling i KI-løsningen

Hvilken plattform skal brukes?

Teknisk arkitektur påvirker risiko, eierskap og kostnad.

Åpen modell / SaaS / RAG / Finjustert modell

Påvirker kostnad, kontroll og risiko

Velg plattform basert på behov for kontroll og kostnad

Kreves det integrasjoner med interne systemer?

Øker kompleksitet og risiko.

Ja / Nei

Øker behov for testing og vedlikehold

Dokumenter hvilke integrasjoner som er nødvendige

Hvem er ansvarlig for teknisk drift og vedlikehold?

Trenger løpende oppfølging.

IT / Fagsystemeier / Ekstern leverandør

Trenger kontinuerlig drift og dedikert ansvarlig

Gi dedikert team ansvar for oppfølging og drift

Hvordan vil brukerne få opplæring?

God KI = god brukeropplevelse.

Kurs / Veiledning / Ingen plan (risiko)

Sikrer riktig bruk og tillit blant ansatte / brukere

Lag kort veileder eller e-læring for brukerne

Har dere intern support / hjelpelinje?

Brukerstøtte = kritisk for tillit og spredning.

Ja / Nei

Gir hjelp ved feil og øker bruksgrad

Opprett en fast supportkanal med klare roller

Er det en plan for kontinuerlig forbedring?

KI-løsninger stivner fort uten justering.

Ja / Nei

Sikrer at løsningen holdes oppdatert og trygg

Planlegg oppdateringer og hyppige evalueringer

Hva gjør dere hvis noe går galt?

Plan for feilhåndtering og kommunikasjonsberedskap.

Har kriseplan / Ingen plan (fiks det!)

Kritisk for håndtering av feil og omdømmetap

Lag beredskapsplan og kommunikasjonstiltak

Tabell 12 Relevans av sjekklistepunkter for ulike KI-assistent nivå

Avklaring

Referanse

Åpen

Integrert

Tilpasset

Hva ønsker vi å oppnå?

Kapittel 2.2

Viktig

Avgjørende

Avgjørende

Hva slags type oppgave skal løses?

Kapittel 2.5

Viktig

Avgjørende

Avgjørende

Har du beskrevet hva KI-assistenten ikke skal bidra til

Kapittel 2.3

Kan vurderes

Viktig

Avgjørende

Er brukeren intern eller ekstern?

Kapittel 2.4 og Vedlegg C

Irrelevant

Viktig

Avgjørende

Er det et klart mål med løsningen?

Kapittel 2.2

Viktig

Avgjørende

Avgjørende

Hvordan skal løsningen evalueres?

Kapittel 2.2

Kan vurderes

Viktig

Avgjørende

Er det allerede lignende løsninger internt?

Kapittel 2.2

Kan vurderes

Viktig

Avgjørende

Hvem eier løsningen i virksomheten?

Kapittel 3.2

Viktig

Avgjørende

Avgjørende

Har du kartlagt arbeidsprosessene den skal støtte?

Kapittel 3.2

Kan vurderes

Avgjørende

Avgjørende

Må det gjøres organisatoriske endringer?

Kapittel 3.2

Kan vurderes

Viktig

Avgjørende

Er opplæringstiltak for brukere på plass?

Kapittel 3.4

Kan vurderes

Viktig

Avgjørende

Er løsningen forankret i ledelsen

Kapittel 3.4

Kan vurderes

Viktig

Avgjørende

Er ansattes representanter involvert i prosessen

Kapittel 3.3

Kan vurderes

Viktig

Avgjørende

Hvor kommer dataene fra?

Kapittel 2.6

Kan vurderes

Viktig

Avgjørende

Er datakvaliteten god nok?

Kapittel 5.5

Irrelevant

Viktig

Avgjørende

Er det sensitive eller personlige data i bruk?

Kapittel 4.3 og vedlegg D

Viktig

Avgjørende

Avgjørende

Trenger du databehandleravtale?

Kapittel 4.3 og vedlegg D

Kan vurderes

Avgjørende

Avgjørende

Er det behov for anonymisering?

Kapittel 4.3 og vedlegg D

Kan vurderes

Viktig

Avgjørende

Hvilken risikoklasse havner løsningen i?

Kapittel 4.2 og vedlegg D

Irrelevant

Viktig

Avgjørende

Har du gjort DPIA (personvernvurdering)?

Kapittel 4.3 og vedlegg D

Kan vurderes

Viktig

Avgjørende

Kan løsningen diskriminere eller være biased?

Kapittel 3.5 og 6.1

Kan vurderes

Viktig

Avgjørende

Har dere planlagt testing for bias?

Kapittel 3.6 og 6.4

Irrelevant

Kan vurderes

Avgjørende

Har du «menneske i loopen» ved kritiske avgjørelser?

Kapittel 3.5

Viktig

Avgjørende

Avgjørende

Skal assistenten bare svare – eller utføre handlinger?

Kapittel 2.5

Irrelevant

Viktig

Avgjørende

Hvor stor autonomi skal agenten ha?

Kapittel 2.5

Irrelevant

Viktig

Avgjørende

Har dere tekniske sperrer mot misbruk (f.eks. instruks-injeksjon)?

Kapittel 5.3 og 6.4

Irrelevant

Avgjørende

Avgjørende

Hvem har tilgang til å justere modellens kunnskap?

Kapittel 5.2

Irrelevant

Viktig

Avgjørende

Er det logg og sporbarhet på assistentens handlinger?

Kapittel 5.3

Viktig

Avgjørende

Avgjørende

Hvilken plattform skal brukes?

Kapittel 5.2

Kan vurderes

Viktig

Avgjørende

Kreves det integrasjoner med interne systemer?

Kapittel 5.2

Irrelevant

Viktig

Avgjørende

Hvem er ansvarlig for teknisk drift og vedlikehold?

Kapittel 6.3

Kan vurderes

Viktig

Avgjørende

Hvordan vil brukerne få opplæring?

Kapittel 3.4 og 6.2

Viktig

Avgjørende

Avgjørende

Har dere intern support / hjelpelinje?

Kapittel 6.2

Viktig

Avgjørende

Avgjørende

Er det en plan for kontinuerlig forbedring?

Kapittel 6.3

Kan vurderes

Viktig

Avgjørende

Hva gjør dere hvis noe går galt?

Kapittel 6.4

Kan vurderes

Avgjørende

Avgjørende

Irrelevant

Normalt ikke aktuelt å utrede

Kan vurderes

Kan ofte hoppes over, men det anbefales å vurdere om det likevel kan være relevant

Viktig

Bør være på plass og dokumentert

Avgjørende

Må være på plass for å sikre ansvarlig og trygg bruk. Husk også dokumentasjons for hvert av punktene

Tabellen kan brukes som en risiko-basert sjekkliste . Start i venstre kolonne, og prioriter avklaringene som er merket Viktig eller Avgjørende for det aktuelle modell-nivået. Slik unngår du unødig byråkrati på en enkel hyllevare-chatbot, samtidig som du får full kontroll når virksomheten tar i bruk mer tilpassede muligheter.

KI-assistent på åpen plattform : Under trygge standardrammer kan du prioritere færre avklaringer. Datalovgivning gjelder likevel dersom brukeren taster inn persondata.

Integrert KI-assistent : Når KI-en kobles til interne prosesser eller data, øker krav til eierskap, datakvalitet, governance og tekniske kontroller.

Tilpasset KI-assistent : Fin-tuning eller egen modell gjør nesten alle punkter avgjørende – her er det både regulatorisk og omdømmemessig høy risiko hvis noe svikter.

Til forsiden