Lær om AI · RAG
Hvordan giver man en AI adgang til virksomhedens dokumenter?
Hvorfor træner man ikke bare AI'en på dokumenterne?
Det er det første, de fleste spørger om, og svaret er praktisk: træning er dyrt, langsomt og svært at holde opdateret. Træner I en model på jeres instrukser i marts, ved den ikke, at afsnit 4.2 blev ændret i april. Den kan heller ikke fortælle, hvor den har et svar fra, og den husker skævt på samme måde som en kollega, der læste dokumentet for et halvt år siden.
Opslag løser alle tre problemer. Dokumentet er kilden hver gang, så en rettelse slår igennem med det samme. Svaret kan pege på den side, det kommer fra. Og modellen behøver ikke at huske noget; den skal bare læse godt og skrive klart, og det er den god til.
Sådan fungerer det, trin for trin
- Spørgsmål
En medarbejder skriver sit spørgsmål, som til en kollega.
- Opslag
Systemet finder de 3–8 afsnit i jeres dokumenter, der ligner spørgsmålet mest.
- Læsning
Sprogmodellen får spørgsmålet og afsnittene, ikke hele arkivet.
- Svar med kilde
Den skriver svaret og henviser til dokument og afsnit.
Den del, der kaldes opslag, er ikke almindelig tekstsøgning. Dokumenterne er på forhånd delt op i afsnit og oversat til talrækker, der beskriver betydningen af hvert afsnit. Spørgsmålet oversættes på samme måde, og systemet finder de afsnit, hvis betydning ligger tættest på. Derfor finder det også svaret, når farmakonomen skriver "må vi udlevere uden recept", og instruksen bruger ordet "håndkøb". Teknikken bag kaldes embeddings; den får sin egen forklaring.
Et eksempel: et apotek med fire filialer
Tag et apotek med fire filialer og omkring 40 ansatte. Instrukssamlingen fylder et par hundrede sider: udlevering, substitution, dosisdispensering, kølevarer, hvad man gør med en recept fra et andet EU-land. Dertil leverandøraftaler, kampagnevilkår og de mails fra regionen, som alle har læst, og ingen kan finde igen.
En ny farmakonom på lørdagsvagt får et spørgsmål om substitution af et præparat, der er i restordre. Uden et opslagsværktøj er valget at bladre, ringe til apotekeren eller gætte. Med RAG skriver hun spørgsmålet, som hun ville stille det, og får et svar på fire linjer: hvilke regler gælder, hvad instruksen siger om netop restordre, og et link til afsnittet, så hun kan læse selv, før hun ekspederer.
- Dokumenterne samles ét sted
Instrukser, aftaler og regionsmails lægges i én mappestruktur med en ansvarlig for hvert område. Gamle versioner ryddes ud. Det er den største del af arbejdet, og det er arbejde, apoteket alligevel skyldte sig selv.
- Adgangen følger rollerne
Lønaftaler og personalesager er ikke med. Det, kun apotekeren må se, kan kun apotekeren spørge til. Reglerne er de samme som på fildrevet; de genbruges.
- 30 rigtige spørgsmål som prøve
Før nogen får adgang, testes værktøjet på 30 spørgsmål fra hverdagen med en farmaceut som dommer. Det afslører både dårlige dokumenter og dårlige svar, og det er billigere at finde dem her end på en lørdagsvagt.
- Svaret viser altid kilden
Et svar uden henvisning vises ikke. Dækker dokumenterne ikke spørgsmålet, siger værktøjet det i stedet for at digte.
Gevinsten er ikke, at AI'en ved noget, apotekeren ikke ved. Den er, at svaret er der på et halvt minut, også lørdag klokken 14, og at det peger på den instruks, der gælder i dag.
Hvad RAG er god til, og hvad den ikke er
God til
- Spørgsmål, der har et svar i et dokument: hvad siger instruksen, hvad står der i aftalen, hvordan gør vi det her
- At holde svar opdaterede: ret dokumentet, og svaret retter sig selv
- At vise kilden, så medarbejderen kan tjekke efter
- Store dokumentmængder, som ingen kan huske udenad
Ikke god til
- Spørgsmål, der kræver regning eller sammenligning på tværs af mange dokumenter
- Dokumenter, der modsiger hinanden; den vælger ikke det rigtige for jer
- Dårligt scannede PDF'er og billeder af tekst, før de er gjort læsbare
- Viden, der kun findes i hovedet på folk; den kan ikke slå op i det, der ikke er skrevet ned
Hvad det kræver hos jer
- Dokumenter i et læsbart format: Word, PDF med tekst, wiki, mails. Papir og scanninger skal først igennem tekstgenkendelse.
- En ejer af dokumentsamlingen. Ellers svarer værktøjet ud fra forældede versioner, og tilliden er væk efter tre uger.
- Klare adgangsregler: hvem må spørge til hvad. Dem har I typisk allerede på fildrevet eller intranettet, og de kan genbruges.
- Et sted at køre det: i skyen hos en europæisk udbyder, eller på en server I selv råder over, hvis dokumenterne ikke må forlade huset.
- En testsamling på 20–30 rigtige spørgsmål med facit. Den bruges igen, hver gang noget ændres.
Typiske misforståelser
| Det hører vi | Sådan hænger det sammen |
|---|---|
| AI'en lærer vores dokumenter udenad | Nej. Den slår op i dem, hver gang der spørges. Fjern et dokument, og svarene fra det forsvinder. |
| Så kan den svare på alt om virksomheden | Den kan svare på det, der står skrevet. Det, der kun findes i hovedet på jeres erfarne folk, skal først skrives ned. |
| Vores data sendes til USA | Det afhænger af, hvor modellen kører. Den kan køre hos en europæisk udbyder eller på jeres egen server. |
| Det kræver, at vi træner en model | Nej. Standardmodeller er gode nok til at læse og skrive. Arbejdet ligger i dokumenterne og i opslaget. |
| Det er bare en bedre søgefunktion | Opslaget er en bedre søgning. Forskellen er, at I får et færdigt svar med kilde i stedet for en liste af dokumenter. |
Hvad vi ville fraråde
Vi ville fraråde at starte med hele arkivet. Vælg ét område, hvor spørgsmålene er mange og dokumenterne gode, og lad værktøjet bevise sig der. Vi ville også fraråde at slå kildehenvisningen fra, fordi svarene ser pænere ud uden. Henvisningen er grunden til, at medarbejderne tør stole på værktøjet.
Ofte stillede spørgsmål
Hvor lang tid tager det at sætte op?
Selve værktøjet kan være klar på få uger. Det, der tager tid, er at rydde op i dokumenterne og få adgangsreglerne på plads, og det arbejde er alligevel nødvendigt.
Kan den læse vores gamle scannede dokumenter?
Ja, hvis de først køres gennem tekstgenkendelse (OCR). Kvaliteten af svarene følger kvaliteten af scanningen.
Hvad sker der, når vi retter et dokument?
Den nye version indekseres, og svarene følger den. Der er ingen gentræning.
Kan medarbejderne komme til at se noget, de ikke må?
Ikke hvis adgangen er bygget rigtigt. Opslaget sker kun i de dokumenter, den enkelte har ret til at se, og det er en af de ting, vi tester, før nogen får adgang.
Er RAG det samme som ChatGPT?
ChatGPT er en sprogmodel med en chat ovenpå. RAG er måden, man giver en sprogmodel adgang til jeres dokumenter. De to kan kombineres, men behøver ikke at være det.
Læs også
Vil I have hjælp til at komme fra forklaring til praksis?
Tag en uforpligtende snak med os om, hvor det giver mening at starte hos jer. Vi svarer inden 24 timer.