Hvordan effektivisere interne prosesser ved bruk av Generativ AI?

Alier Ajak Wuoi (til venstre) og Arvin Purdehgan, startet begge som juniorkonsulenter i Accelerate at Iver høsten 2023 etter å ha fullført en Bachelor i økonomi, teknologi og innovasjon ved Høyskolen Kristiania. De ble fort involvert i flere GenAI-prosjekter, både hos eksterne kunder og internt i Accelerate at Iver. I denne artikkelen vil Alier og Arvin fortelle om hvordan de gikk frem da de fikk i oppdrag å forenkle og effektivisere våre interne prosesser.



Fra venstre: Alier Ajak Wuoi og Arvin Purdehgan, begge konsulenter i Accelerate at Iver

Hva er Generativ AI?

Kort fortalt kan man si at generativ AI er kunstig intelligens som er trent på enorme mengder data, og baserer seg på store språkmodeller (LLMs).
Ved bruk av opptrente algoritmer og brukerens input og forespørsler vil GenAI produsere nytt innhold og data ut ifra konteksten. I dag benytter stadig flere organisasjoner teknologien til å skrive rapporter og sammendrag, genere kode til programvare, oversettelse av tekst til flere språk og for å få inspirasjon til ideer og konsepter.

Når GenAI brukes riktig kan det gi store gevinster og frigjøre mer tid til verdiskapende arbeid. Men det finnes et par ting å ha i bakhodet for å skape de rette forutsetningene:

1. Riktig bruk
   Det er enkelt å komme i gang og teste GenAI, men jo større kompetanse man har om teknologien, desto mer forståelse har man for hvilke muligheter og begrensninger teknologien gir, samt hvilke underliggende mekanismer som skal til for å utnytte teknologien på best mulig måte.
   
   
2. Tilgang på relevant data
   For at den generative modellen skal gi deg verdi er du avhengig av relevant data å fore modellen med. Jo mer konkrete rammer du gir modellen, desto bedre svar får du. Om svarene du får er riktige og relevante avhenger av rammene du setter, og hvilken data modellen har tilgang på.

En mer tilgjengelig personalhåndbok

Accelerate at Iver Norge er et IT-konsulentselskap med ca. 140 ansatte fordelt på Oslo og Trondheim. De fleste av selskapets konsulenter er engasjert i kundeoppdrag og må forholde seg til både kundenes systemer, i tillegg til våre interne IT-løsninger. Vi hadde lagt merke til at mange av medarbeiderne syntes det var tungvint å finne frem i personalhåndboken og ofte tok kontakt med nærmeste leder for å få svar i stedet for å benytte verktøyet. 

Vi ønsket derfor å gjøre personalhåndboken mer lettilgjengelige for alle ansatte ved å utvikle en HR-bot basert på generativ AI.

Utgangspunktet
Den tradisjonelle metoden der man søker og klikker rundt i ulike systemer, oppleves som tidkrevende og ineffektivt. Det kan gå lang tid mellom hver gang en enkelt ansatt benytter systemene og de fleste husker ikke nøyaktig hvor den informasjonen man søker etter, befinner seg. Ved at svarene som dukker opp i søk er relatert til det konkrete søkeordet, og ikke nødvendigvis er den informasjonen du søker, kan man i tillegg oppleve å få mange irrelevante treff.

Vi bestemte oss derfor for å undersøke hvordan en AI-drevet bot kan forenkle tilgangen til HR-relatert informasjon direkte i Teams, da Teams er et verktøy vi alle bruker daglig og er godt kjent med.

Her er det viktig å presisere at all utvikling og bruk av GPT-modeller og tilhørende verktøy skjer innenfor vår egen Microsoft tenant, slik at vi til enhver tid har kontroll på vår egen data.

Ulike teknologiske tilnærminger

Microsoft CoPilot Studio
Vi vurderte flere tilnærminger for å utvikle HR-boten. Vår første hypotese var at vi kunne laste opp personalhåndboken i PDF, lagre den i Dataverse, og la Microsoft CoPilot Studio referere til den i sine svar.

En utfordring med denne metoden var at det ble vanskelig å sikre at personalhåndboken var oppdatert. Svarene vi fikk var heller ikke imponerende, så vi besluttet å teste andre alternativer.

Low-Code/ No-Code via Power Platform
Neste løsning vi testet var å utvikle en low-code løsning. Med low-code løsninger referer vi til plattformer og verktøy som muliggjør utvikling og automatisering av applikasjoner og prosesser med lav eller ingen tradisjonell koding.

Vi brukte tjenestene i Microsoft Power Platform og kunne rast integrere løsningene med våre eksisterende systemer. Vi kombinerte Microsoft tjenestene CoPilot Studio, Power Automate og Azure og Azure AI for å utvikle en bot som enkelt lot seg integreres med Teams. Med denne løsningen fikk vi enklere tilgang til personalhåndboken som vi lastet opp i Azure Blob Storage, og svarene ble generert gjennom vektor- og nøkkelordsøk. Svarene som ble generert var mer relevante enn ved Micorosft Copilot Studio alene, men vi erfarte også at low-code løsningen har sine begrensninger. Dette er en rask løsning for organisasjoner som ønsker å implementere enkle og effektive bots, men den kommer fort til kort når det gjelder dybde og kompleksitet i spørsmål og svar.

Low-code tilnærmingen kan derimot være et godt alternativ dersom rask utrulling er viktig og hvis man ønsker ulike bots som er trent på ulikt datagrunnlag.

RAG-løsning i form av en web-applikasjon
I videreutviklingen av prosjektet deployet vi en Retrieval-Augmented Generation løsning (RAG) i form av en web-applikasjon. RAG er en AI-teknikk som kombinerer generative modeller, som GPT, med en søkefunksjon for å hente relevant informasjon fra en database. Denne informasjonen brukes deretter til å forbedre GPTens svar, noe som resulterer i mer presise svar ut ifra konteksten. Videre indekserte vi personalhåndboken og brukte AI-search (tidl. Cognitive Search) via Azure for å finne de mest relevante svarene på brukerforespørsler.

Denne løsningen viste seg å være mest effektiv og den håndterer flere komplekse forespørsler. RAG-løsningen viser til hvor i dokumentene den henter svar fra og husker konteksten av det du spør om, kontra low-code løsningen som ikke husker hva brukeren spurte om forrige gang. RAG-løsningen innebærer riktignok en mer kompleks utvikling og vil derfor ofte føre til en høyere kostnad sammenlignet med den enklere no-code/low-code løsningen.

Konklujson

Dette prosjektet har vist hvordan vi kan gjøre HR-informasjon mer tilgjengelig og relevante svar til brukerne. For oss var det viktig å få erfaring med utviklingstid, kostnader og hvilke gevinster slike løsninger kan gi. No-code/low-code løsninger kan være ideelle for rask implementering dersom behovet for skreddersydde løsninger er mindre kritisk. På den andre siden tilbyr RAG-baserte løsninger en dypere, mer tilpasset tilnærming som kan håndtere et bredere spekter av forespørsler, til tross for høyere kostnader og lengre utviklingstid.

Etter at vi lanserte vår egen HR-bot opplever vi langt færre henvendelser fra de ansatte rundt informasjon som er tilgjengelig i personalhåndboken. Løsningen er enkel og effektiv - med kun få klikk får man svar på det man lurer på.

Thomas Andersen, COO, Accelerate at Iver