Hur effektiviserar man interna processer med hjälp av generativ AI?

Alier Ajak Wuoi (t.v.) och Arvin Purdehgan (t.h.) började som juniorkonsulter på Accelerate at Iver hösten 2023 efter att ha tagit en kandidatexamen i ekonomi, teknik och innovation vid Högskolan Kristiania. De blev snabbt involverade i flera GenAI-projekt, både med externa kunder och internt på Accelerate at Iver. I den här artikeln får du ta del av hur Alier och Arvin gick till väga för att förenkla och effektivisera våra interna processer.

Från vänster: Alier Ajak Wuoi och Arvin Purdehgan, båda konsulter på Accelerate at Iver

Vad är generativ AI?

Generativ AI är en artificiell intelligens som bygger på mönster och strukturer som den har lärt sig från befintliga data och tidigare input. GenAI använder sedan modeller och algoritmer för att generera nytt innehåll eller data. Idag använder allt fler organisationer tekniken för att skriva rapporter och sammanfattningar, generera kod för programvara, översätta text till flera språk och för att få inspiration till idéer och koncept.

När GenAI används på rätt sätt kan det ge stora fördelar och frigöra mer tid för värdeskapande arbete. Men det finns ett par saker att ha i åtanke för att skapa sig rätt förutsättningar:

1. Korrekt användning
   Det är lätt att komma igång och testa GenAI, men ju mer kunskap man har om tekniken, desto bättre förstår man teknikens möjligheter och begränsningar, samt de underliggande mekanismer som behövs för att utnyttja tekniken på bästa möjliga sätt.
   
   
2. Tillgång till relevanta data
   För att den generativa modellen ska ge dig värde behöver du relevanta data att mata modellen med. Ju mer konkret ramverk du ger modellen, desto bättre svar får du. Huruvida de svar du får är korrekta och relevanta beror på vilket ramverk du sätter upp och vilka data modellen har tillgång till.

Internt use case – skapandet av en mer lättillgänglig personalhandbok

Accelerate at Iver är ett IT-konsultföretag med cirka 300 anställda i Norge och Sverige. De flesta bolagets specialistkonsulter arbetar på kunduppdrag och måste hantera såväl kundernas system som våra interna IT-lösningar. Vi märkte att många medarbetare tyckte att det var svårt att hitta i den interna personalhandboken och istället kontaktade sin närmsta chef för att få de svar som fanns tillgängliga i verktyget.

Vi ville därför göra personalhandboken mer lättillgänglig för alla medarbetare genom att utveckla en HR-bot baserad på generativ AI.

Utgångspunkten
Den traditionella metoden att söka och klicka runt i olika system upplevs som tidskrävande och ineffektiv. Det kan gå lång tid mellan gångerna en medarbetare använder systemen, och de flesta minns inte exakt var den information de söker finns. Eftersom de svar som visas i sökningar är relaterade till den specifika söktermen, och inte nödvändigtvis den information du letar efter, kan du dessutom uppleva många irrelevanta träffar.

Vi bestämde oss därför för att undersöka hur en AI-driven bot kan förenkla tillgången till HR-relaterad information direkt i Teams, eftersom Teams är ett verktyg som vi alla använder dagligen och är bekanta med.

Här är det viktigt att understryka att all utveckling och användning av GPT-modeller och tillhörande verktyg sker inom vår egen Microsoft tenant, så att vi hela tiden har kontroll över vår egna data.

Olika tekniska tillvägagångssätt

Microsoft CoPilot Studio
Vi övervägde flera tillvägagångssätt för att utveckla HR-boten. Vår första hypotes var att vi kunde ladda upp medarbetarhandboken i PDF-format, spara den i Dataverse och låta Microsoft CoPilot Studio hänvisa till den i sina svar.

En utmaning med denna metod var att det var svårt att säkerställa att medarbetarhandboken var uppdaterad. De svar vi fick var inte heller imponerande, så vi bestämde oss för att testa andra alternativ.

Låg kod/ingen kod via Power Platform
Nästa lösning vi testade var att utveckla en low-code-lösning. Med low-code-lösningar avser vi plattformar och verktyg som möjliggör utveckling och automatisering av applikationer och processer med liten, eller ingen, traditionell kodning.

Vi använde tjänsterna i Microsoft Power Platform och kunde snabbt integrera lösningarna med våra befintliga system. Vi kombinerade Microsoft-tjänsterna CoPilot Studio, Power Automate, Azure och Azure AI för att utveckla en bot som enkelt kunde integreras med Teams. Med den här lösningen fick vi enklare tillgång till personalhandboken, som vi laddade upp till Azure Blob Storage, och svaren genererades genom vektor- och nyckelordssökningar.

De svar som genererades var mer relevanta än om vi enbart hade använt Micorosft Copilot Studio, men vi lärde oss också att low-code-lösningen har sina begränsningar. Detta är en snabb lösning för organisationer som vill implementera enkla och effektiva botar, men den kommer snabbt till korta när det gäller djupet och komplexiteten i frågor och svar. Low-code-metoden kan däremot vara ett bra alternativ om det är viktigt med snabb driftsättning och om man har flera botar som tränas på olika data.

RAG-lösning i form av en webbapplikation
I den fortsatta utvecklingen av projektet använde vi en Retrieval-Augmented Generation-lösning (RAG) i form av en webbapplikation. RAG är en AI-teknik som kombinerar generativa modeller, såsom GPT, med en sökfunktion för att hämta relevant information från en databas. Denna information används sedan för att förbättra GPT:s svar, vilket resulterar i mer exakta svar baserade på sammanhanget. Dessutom indexerade vi medarbetarhandboken och använde AI-search (tidigare Cognitive Search) via Azure för att hitta de mest relevanta svaren på användarnas frågor.

Denna lösning visade sig vara den mest effektiva och den lösning som kunde hantera mer komplexa förfrågningar. RAG-lösningen hänvisar till var i dokumenten den hämtar svaren och kommer ihåg kontexten för det du frågar om, jämfört med lågkodslösningen som inte kommer ihåg vad användaren frågade om förra gången. RAG-lösningen innebär dock mer komplex utveckling och leder därför ofta till en högre kostnad jämfört med den enklare no-code/low-code-lösningen.

Slutsats

Det här projektet har visat hur vi kan göra HR-information mer tillgänglig och ge användarna relevanta svar. För oss var det viktigt att få erfarenhet av utvecklingstid, kostnader och det värde som sådana lösningar kan ge. No-code/low-code-lösningar kan vara idealiska för snabb implementering om behovet av skräddarsydda lösningar är mindre kritiskt. Å andra sidan erbjuder RAG-baserade lösningar ett djupare, mer anpassat tillvägagångssätt som kan hantera ett bredare spektrum av förfrågningar, trots högre kostnader och längre utvecklingstid.

Sedan vi lanserade vår egen HR-bot har vi fått betydligt färre förfrågningar från medarbetare om information som finns i personalhandboken. Lösningen är enkel och effektiv - med bara några klick får du svar på dina frågor.

Thomas Andersen, COO, Accelerate at Iver Norge