Generativ kunstig intelligens har på kort tid beveget seg fra å være et spennende eksperiment til å bli en etterspurt assistent i hverdagen. I Kommune-Norge opplever mange ansatte at KI kan spare dem for betydelig tid på skriving, oppsummering og dokumentasjon.
Men for kommunale ledere og IT-sjefer følger det med et krevende hodebry: Hvordan gir vi de ansatte verktøyene de ønsker seg, uten at det går ut over personvern, datasikkerhet og rettssikkerhet?
Svaret ligger i hvordan teknologien bygges og leveres, ifølge teknologileder for KI i Visma Flyt, Sindre Henriksen.
Når KI havner utenfor systemene
At ansatte oppsøker frittstående KI-verktøy i arbeidshverdagen, er lett å forstå. Problemet oppstår når kommunen mangler et godt og godkjent alternativ der oppgavene faktisk utføres.
– Å lime personopplysninger inn i et verktøy som ikke er godkjent for det, bryter med GDPR. Det handler ikke bare om å følge regelverket, men også om å ivareta innbyggerens rettigheter, sier Henriksen.
Når data flyttes ut av fagsystemene, mister kommunen kontrollen over hvor opplysningene havner og hva de brukes til. I tillegg peker Henriksen på den tekniske utfordringen med såkalte «hallusinasjoner», at generelle KI-modeller gir svar som høres overbevisende ut, men som kan være feil.
– Spør du om noe smalt og norsk, som PPT eller barnevern, siterer generelle verktøy gjerne lovparagrafer med stor selvsikkerhet. Ofte svarer de ut fra det de lærte under treningen i stedet for å slå opp i en kilde, og da kan svaret bli feil eller utdatert. I saksbehandling, der et vedtak skal kunne begrunnes, er det en reell risiko.
Hva betyr egentlig integrert KI?
For å løse utfordringene med generelle KI-verktøy må kunstig intelligens flytte inn i selve fagsystemet. I Visma Flyt sine løsninger handler integrert KI om to avgjørende prinsipper:
- Den er bygget inn i arbeidsflyten: KI bor der saksbehandleren allerede jobber, slik at ingen trenger å kopiere og lime tekster fram og tilbake.
- Den er bygget inn i det godkjente skymiljøet: Dataene forblir trygt innelåst i de samme eller tilsvarende godkjente skymiljøene i Europa som fagsystemet allerede ligger i.
– Da gir KI ingen ny datarisiko, forklarer Henriksen.
Kontekst, lovverk og kvalitetstesting
For at KI-modellene i Flyt skal gi presise svar innen kommunal saksbehandling, er de matet med riktig kontekst.
– Vi gir KI instruksjoner for fagområdet, kildene den skal holde seg til, og både nasjonale og kommunens egne retningslinjer, rutiner og maler. Den får tydelige regler for å holde seg til akkurat det materialet. Og vi kontrollerer resultatet, både med automatiske kvalitetstester og med faste sjekker, for eksempel av at lovhenvisninger er riktige og oppdaterte, sier Henriksen.
Høyeste nivå av datasikkerhet
For IT-sjefer og personvernombud er det avgjørende å vite at kommunens sensitive saksbehandlingsdata ikke blir brukt til å trene opp eksterne KI-modeller.
– Vi trener ikke KI-modeller på kundenes data, slår Henriksen fast.
– Vi styrer modellene med instruksjoner og kilder, og de kjører i godkjente europeiske skymiljøer. Sikkerheten bygger på Visma-konsernets felles rammeverk for sikker skylevering, som er uavhengig vurdert. I tillegg kjører vi flere lag med sikkerhet, blant annet jevnlige automatiske angrepstester og fortløpende oppfølging av nye KI-drevne angrepsmetoder.
Mennesket sitter alltid bak rattet
Det råder en utbredt misforståelse om at KI skal automatisere bort kommunale beslutninger eller erstatte saksbehandlere. I Visma Flyt gjelder et strengt førerprinsipp, forklarer Henriksen.
– KI tar aldri avgjørelser, den foreslår, oppsummerer og lager utkast, mens saksbehandleren vurderer, endrer og bestemmer. Ingenting lagres eller sendes uten at brukeren har godkjent det, og alt KI har laget, er tydelig merket.
I dag hjelper integrert KI saksbehandlere med oppgaver som postregistrering, transkribering og møtereferater, dokumentoppsummering og ren skrivestøtte. Framover kommer enda flere muligheter, som innsikt og statistikk ved å spørre med vanlig språk, samt utkast til sakkyndige vurderinger.
Sindres råd til kommunale ledere: – Ikke vent
Når kommunale ledere skal stake ut sin KI-strategi for de neste årene, har Henriksen ett kjernebudskap: Det er en større risiko å sitte passivt enn å ta i bruk trygg KI.
– Bygg stein på stein, men ikke vær for forsiktig. Den største risikoen er ofte å vente og gå glipp av verdien KI allerede kan gi. Det finnes trygge og pålitelige løsninger som følger regelverket, og mennesket har uansett siste ord, sier Henriksen.
Han påpeker også at KI-bruken ikke nødvendigvis forsvinner selv om kommunen velger å avvente:
– Venter dere, forsvinner ikke KI-bruken, den flytter ofte ut i verktøy dere ikke har kontroll over. Gå heller sammen med leverandører og andre i offentlig sektor for å finne gode løsninger og god praksis. Når de tas i bruk, frigjør de tid til det som alltid vil være viktigst: arbeidet mellom mennesker.
Vil du vite mer om hvordan vi bygger trygg og integrert kunstig intelligens inn i våre fagsystemer? Eller lurer du på hvilke KI-løsninger som allerede finnes i fagsystemene din kommune bruker?
