7 Sjekkliste for innføring av KI-assistent
Dette kapittelet inneholder en oversiktlig sjekkliste som oppsummerer viktige avklaringer ved innføring av KI-assistenter. Sjekklisten er utformet for å fungere som et praktisk hjelpemiddel, og skal bidra til at virksomheten har vurdert og ivaretatt alle nødvendige aspekter i innføringsprosessen.
Første del av sjekklisten (Tabell 12) er en oppsummering av avklaringer det er relevant å ha med i prosessen, mens vi i Tabell 14 har gitt referanse til hvor i veilederen dere finner mer informasjon om de ulike avklaringene, samt kategorisert sjekklisten etter hvilket KI-assistentnivå virksomheten har valgt – enten det er åpent, integrert eller tilpasset assistent. Målet er å sikre at alle relevante hensyn er tatt, og at organisasjonen er godt forberedt på en trygg og effektiv bruk av KI-assistenter.
Tabell 12 Sjekkliste for innføring av KI-assistenter
Avklaring |
Hvorfor er det viktig |
Typiske valg |
Hva utløser valget? |
Hvordan utføre det? |
---|---|---|---|---|
Hva ønsker vi å oppnå? |
Unngå hype – ha et faktisk behov. |
Definer konkret case / problemstilling |
Gir retning for løsningstype, bruk og nytte |
Lag en konkret problembeskrivelse og målformulering |
Hva slags type oppgave skal løses? |
Info, generering, automatisering → påvirker valg. |
Informasjon / Generering / Automatisering |
Avgjør hvilket nivå av KI-assistent som er mest relevant for dere |
Klassifiser oppgaven og velg assistent-nivå utifra dette |
Har du beskrevet hva KI-assistenten ikke skal bidra til |
Være bevisst på scope-creep |
personvern, autonomi og datatilgang |
budsjett og tidsramme |
beskriv avgrensningene |
Er brukeren intern eller ekstern? |
Påvirker språk, opplæring og krav til presisjon. |
Intern / Ekstern / Begge |
Påvirker krav til språk, tilsyn og datasikkerhet |
Avklar hvem som skal bruke løsningen og design ut fra det |
Er det et klart mål med løsningen? |
Du må vite hva suksess ser ut som. |
Ja / Nei (avklar først) |
Uten mål → vanskelig å vurdere suksess |
Skriv ned mål og hvordan de skal måles |
Hvordan skal løsningen evalueres? |
Sett KPI-er, ikke magefølelse. |
KPI-er definert / Ikke definert |
Gir grunnlag for løpende måling og forbedring |
Lag KPI-er og evalueringsrutiner før pilot |
Er det allerede lignende løsninger internt? |
Unngå duplisering og forvirring. |
Ja / Nei / Usikker (må kartlegges) |
Avdekker overlapp og forbedringspotensial |
Kartlegg eksisterende løsninger og brukererfaringer |
Hvem eier løsningen i virksomheten? |
Uten eierskap → dør i testfasen. |
Avdeling / Leder / Prosjekteier |
Gir eierskap og ansvar i linja |
Tildel eierskap i linjeorganisasjonen, ikke prosjekt |
Har du kartlagt arbeidsprosessene den skal støtte? |
Du kan ikke effektivisere det du ikke forstår. |
Ja / Nei (start med prosesskart) |
Gjør det mulig å målrette og integrere riktig |
Dokumenter nåværende arbeidsprosesser og flaskehalser |
Må det gjøres organisatoriske endringer? |
KI krever andre roller og kan påvirke ansvarsforhold |
Nye roller, ansvar, arbeidsoppgaver |
At KI støtter, fornyer og kan gjøre arbeidsoppgaver/funksjoner overflødig |
kartlegg alle som påvirkes av KI-assistentene |
Er opplæringstiltak for brukere på plass? |
Uten relevant opplæring i muligheter og begrensninger vil ikke løsningenbli brukt |
Kursing, workshops, deling av erfaringer |
Behov/ønske om at KI skal skape verdi for organisasjonen |
Sett av nok tid til relevante tiltak |
Er løsningen forankret i ledelsen |
Uten god forankring blir innføringen ukoordinert |
Ledermøter, dialog |
Behov/ønske om at KI skal skape verdi for organisasjonen |
Involver mellomledere |
Er ansatt-representanter involvert i prosessen |
Det er vanligvis en lov og avtalefestet krav |
ja/nei |
relevant lov og avtaleverk på arbeidsplassen |
involver tillitsvalgte |
Hvor kommer dataene fra? |
Internt, eksternt, brukerinput? Det avgjør datasikkerhet. |
Internt / Eksternt / Brukerinput |
Påvirker teknisk løsning og sikkerhet |
Lag oversikt over datakilder og eierskap |
Er datakvaliteten god nok? |
Dårlig input = dårlig output. |
Ja / Nei (vurder datavask) |
Avgjør behov for datasanitering eller forbedring |
Kjør datakvalitetsanalyse eller vurder behov for datavask |
Er det sensitive eller personlige data i bruk? |
GDPR og sikkerhet slår inn. |
Ja / Nei |
Utløser GDPR-vurderinger og ekstra ansvar |
Klassifiser datasettet og bruk GDPR-veileder |
Trenger du databehandleravtale? |
Ja, hvis noen andre håndterer dataene dine. |
Ja / Nei |
Krever avtaler med tredjepartsleverandører |
Inngå DPA med alle relevante aktører og lag kopi |
Er det behov for anonymisering? |
Et ofte oversett grep som reduserer risiko. |
Ja / Nei |
Reduserer risiko og gir økt kontroll |
Kjør anonymisering i forkant med verktøy eller script |
Hvilken risikoklasse havner løsningen i? |
AI Act stiller ulike krav avhengig av nivå. |
Minimal / Begrenset / Høyrisiko / Forbudt |
Utløser krav under AI Act hvis høyrisiko |
Bruk AI Act-veilederen og vurder alle relevante kriterier |
Har du gjort DPIA (personvernvurdering)? |
Påkrevd for persondata. |
Ja / Nei / Ikke relevant |
Lovpålagt ved persondata – gir trygghet |
Bruk for eksempel Datatilsynets DPIA-verktøy |
Kan løsningen diskriminere eller være biased ? |
Særlig viktig ved rekruttering, helse og offentlig bruk. |
Ja (test!) / Nei / Usikker |
Hvis ja → krever testing og justering |
Test mot scenarier som kan trigge diskriminering |
Har dere planlagt testing for bias? |
Red-teaming og evalueringsprosedyrer trengs. |
Ja / Nei |
Gir dokumentert kontroll og risikobevissthet |
Planlegg og dokumenter red-teaming og evaluering |
Har du «menneske i loopen» ved kritiske avgjørelser? |
Påkrevd ved beslutninger som påvirker rettigheter. |
Ja / Nei |
Nødvendig for ansvarlig KI i sensitive områder |
Bygg inn godkjenning eller manuell sjekk i prosessene |
Skal assistenten bare svare – eller utføre handlinger? |
Skillet mellom assistent og agent → forskjellig risiko. |
Bare svare / Utføre handlinger |
Avgjør om løsning er lavrisiko assistent eller høyrisiko agent |
Beskriv funksjonsbehov og vurder risikonivå |
Hvor stor autonomi skal agenten ha? |
Skal den sende e-poster, trigge prosesser, endre data? |
Lav / Moderat / Høy |
Høy autonomi = KI-agent + moderat/høy risiko |
Lag beslutnings-tre for hva agenten skal få lov til |
Har dere tekniske sperrer mot misbruk (f.eks. instruks-injeksjon)? |
KI kan manipuleres – ikke undervurder dette. |
Ja / Nei |
Gir bedre kontroll mot misbruk og feil |
Sett opp tekniske sperrer og bruk instruks-injeksjonsfilter |
Hvem har tilgang til å justere modellens kunnskap? |
Kontroll = sikkerhet. |
Kun Admnistrator / Fagansvarlige / Alle (risiko!) |
Begrenser hvem som kan påvirke KI-opplæring |
Begrens modelltilgang gjennom roller og rettigheter |
Er det logg og sporbarhet på assistentens handlinger? |
Kritisk ved feil eller uønskede hendelser. |
Ja / Nei |
Gir mulighet for etterprøving og læring |
Sett opp logging og varsling i KI-løsningen |
Hvilken plattform skal brukes? |
Teknisk arkitektur påvirker risiko, eierskap og kostnad. |
Åpen modell / SaaS / RAG / Finjustert modell |
Påvirker kostnad, kontroll og risiko |
Velg plattform basert på behov for kontroll og kostnad |
Kreves det integrasjoner med interne systemer? |
Øker kompleksitet og risiko. |
Ja / Nei |
Øker behov for testing og vedlikehold |
Dokumenter hvilke integrasjoner som er nødvendige |
Hvem er ansvarlig for teknisk drift og vedlikehold? |
Trenger løpende oppfølging. |
IT / Fagsystemeier / Ekstern leverandør |
Trenger kontinuerlig drift og dedikert ansvarlig |
Gi dedikert team ansvar for oppfølging og drift |
Hvordan vil brukerne få opplæring? |
God KI = god brukeropplevelse. |
Kurs / Veiledning / Ingen plan (risiko) |
Sikrer riktig bruk og tillit blant ansatte / brukere |
Lag kort veileder eller e-læring for brukerne |
Har dere intern support / hjelpelinje? |
Brukerstøtte = kritisk for tillit og spredning. |
Ja / Nei |
Gir hjelp ved feil og øker bruksgrad |
Opprett en fast supportkanal med klare roller |
Er det en plan for kontinuerlig forbedring? |
KI-løsninger stivner fort uten justering. |
Ja / Nei |
Sikrer at løsningen holdes oppdatert og trygg |
Planlegg oppdateringer og hyppige evalueringer |
Hva gjør dere hvis noe går galt? |
Plan for feilhåndtering og kommunikasjonsberedskap. |
Har kriseplan / Ingen plan (fiks det!) |
Kritisk for håndtering av feil og omdømmetap |
Lag beredskapsplan og kommunikasjonstiltak |
Tabell 12 Relevans av sjekklistepunkter for ulike KI-assistent nivå
Avklaring |
Referanse |
Åpen |
Integrert |
Tilpasset |
---|---|---|---|---|
Hva ønsker vi å oppnå? |
Kapittel 2.2 |
Viktig |
Avgjørende |
Avgjørende |
Hva slags type oppgave skal løses? |
Kapittel 2.5 |
Viktig |
Avgjørende |
Avgjørende |
Har du beskrevet hva KI-assistenten ikke skal bidra til |
Kapittel 2.3 |
Kan vurderes |
Viktig |
Avgjørende |
Er brukeren intern eller ekstern? |
Kapittel 2.4 og Vedlegg C |
Irrelevant |
Viktig |
Avgjørende |
Er det et klart mål med løsningen? |
Kapittel 2.2 |
Viktig |
Avgjørende |
Avgjørende |
Hvordan skal løsningen evalueres? |
Kapittel 2.2 |
Kan vurderes |
Viktig |
Avgjørende |
Er det allerede lignende løsninger internt? |
Kapittel 2.2 |
Kan vurderes |
Viktig |
Avgjørende |
Hvem eier løsningen i virksomheten? |
Kapittel 3.2 |
Viktig |
Avgjørende |
Avgjørende |
Har du kartlagt arbeidsprosessene den skal støtte? |
Kapittel 3.2 |
Kan vurderes |
Avgjørende |
Avgjørende |
Må det gjøres organisatoriske endringer? |
Kapittel 3.2 |
Kan vurderes |
Viktig |
Avgjørende |
Er opplæringstiltak for brukere på plass? |
Kapittel 3.4 |
Kan vurderes |
Viktig |
Avgjørende |
Er løsningen forankret i ledelsen |
Kapittel 3.4 |
Kan vurderes |
Viktig |
Avgjørende |
Er ansattes representanter involvert i prosessen |
Kapittel 3.3 |
Kan vurderes |
Viktig |
Avgjørende |
Hvor kommer dataene fra? |
Kapittel 2.6 |
Kan vurderes |
Viktig |
Avgjørende |
Er datakvaliteten god nok? |
Kapittel 5.5 |
Irrelevant |
Viktig |
Avgjørende |
Er det sensitive eller personlige data i bruk? |
Kapittel 4.3 og vedlegg D |
Viktig |
Avgjørende |
Avgjørende |
Trenger du databehandleravtale? |
Kapittel 4.3 og vedlegg D |
Kan vurderes |
Avgjørende |
Avgjørende |
Er det behov for anonymisering? |
Kapittel 4.3 og vedlegg D |
Kan vurderes |
Viktig |
Avgjørende |
Hvilken risikoklasse havner løsningen i? |
Kapittel 4.2 og vedlegg D |
Irrelevant |
Viktig |
Avgjørende |
Har du gjort DPIA (personvernvurdering)? |
Kapittel 4.3 og vedlegg D |
Kan vurderes |
Viktig |
Avgjørende |
Kan løsningen diskriminere eller være biased? |
Kapittel 3.5 og 6.1 |
Kan vurderes |
Viktig |
Avgjørende |
Har dere planlagt testing for bias? |
Kapittel 3.6 og 6.4 |
Irrelevant |
Kan vurderes |
Avgjørende |
Har du «menneske i loopen» ved kritiske avgjørelser? |
Kapittel 3.5 |
Viktig |
Avgjørende |
Avgjørende |
Skal assistenten bare svare – eller utføre handlinger? |
Kapittel 2.5 |
Irrelevant |
Viktig |
Avgjørende |
Hvor stor autonomi skal agenten ha? |
Kapittel 2.5 |
Irrelevant |
Viktig |
Avgjørende |
Har dere tekniske sperrer mot misbruk (f.eks. instruks-injeksjon)? |
Kapittel 5.3 og 6.4 |
Irrelevant |
Avgjørende |
Avgjørende |
Hvem har tilgang til å justere modellens kunnskap? |
Kapittel 5.2 |
Irrelevant |
Viktig |
Avgjørende |
Er det logg og sporbarhet på assistentens handlinger? |
Kapittel 5.3 |
Viktig |
Avgjørende |
Avgjørende |
Hvilken plattform skal brukes? |
Kapittel 5.2 |
Kan vurderes |
Viktig |
Avgjørende |
Kreves det integrasjoner med interne systemer? |
Kapittel 5.2 |
Irrelevant |
Viktig |
Avgjørende |
Hvem er ansvarlig for teknisk drift og vedlikehold? |
Kapittel 6.3 |
Kan vurderes |
Viktig |
Avgjørende |
Hvordan vil brukerne få opplæring? |
Kapittel 3.4 og 6.2 |
Viktig |
Avgjørende |
Avgjørende |
Har dere intern support / hjelpelinje? |
Kapittel 6.2 |
Viktig |
Avgjørende |
Avgjørende |
Er det en plan for kontinuerlig forbedring? |
Kapittel 6.3 |
Kan vurderes |
Viktig |
Avgjørende |
Hva gjør dere hvis noe går galt? |
Kapittel 6.4 |
Kan vurderes |
Avgjørende |
Avgjørende |
Irrelevant |
Normalt ikke aktuelt å utrede |
Kan vurderes |
Kan ofte hoppes over, men det anbefales å vurdere om det likevel kan være relevant |
Viktig |
Bør være på plass og dokumentert |
Avgjørende |
Må være på plass for å sikre ansvarlig og trygg bruk. Husk også dokumentasjons for hvert av punktene |
Tabellen kan brukes som en risiko-basert sjekkliste . Start i venstre kolonne, og prioriter avklaringene som er merket Viktig eller Avgjørende for det aktuelle modell-nivået. Slik unngår du unødig byråkrati på en enkel hyllevare-chatbot, samtidig som du får full kontroll når virksomheten tar i bruk mer tilpassede muligheter.
KI-assistent på åpen plattform : Under trygge standardrammer kan du prioritere færre avklaringer. Datalovgivning gjelder likevel dersom brukeren taster inn persondata.
Integrert KI-assistent : Når KI-en kobles til interne prosesser eller data, øker krav til eierskap, datakvalitet, governance og tekniske kontroller.
Tilpasset KI-assistent : Fin-tuning eller egen modell gjør nesten alle punkter avgjørende – her er det både regulatorisk og omdømmemessig høy risiko hvis noe svikter.