Lær om AI · RAG

Hvordan giver man en AI adgang til virksomhedens dokumenter?

Hvorfor træner man ikke bare AI'en på dokumenterne?

Det er det første, de fleste spørger om, og svaret er praktisk: træning er dyrt, langsomt og svært at holde opdateret. Træner I en model på jeres instrukser i marts, ved den ikke, at afsnit 4.2 blev ændret i april. Den kan heller ikke fortælle, hvor den har et svar fra, og den husker skævt på samme måde som en kollega, der læste dokumentet for et halvt år siden.

Opslag løser alle tre problemer. Dokumentet er kilden hver gang, så en rettelse slår igennem med det samme. Svaret kan pege på den side, det kommer fra. Og modellen behøver ikke at huske noget; den skal bare læse godt og skrive klart, og det er den god til.

Sådan fungerer det, trin for trin

  1. Spørgsmål

    En medarbejder skriver sit spørgsmål, som til en kollega.

  2. Opslag

    Systemet finder de 3–8 afsnit i jeres dokumenter, der ligner spørgsmålet mest.

  3. Læsning

    Sprogmodellen får spørgsmålet og afsnittene, ikke hele arkivet.

  4. Svar med kilde

    Den skriver svaret og henviser til dokument og afsnit.

RAG i ét billede: slå op først, skriv bagefter.

Den del, der kaldes opslag, er ikke almindelig tekstsøgning. Dokumenterne er på forhånd delt op i afsnit og oversat til talrækker, der beskriver betydningen af hvert afsnit. Spørgsmålet oversættes på samme måde, og systemet finder de afsnit, hvis betydning ligger tættest på. Derfor finder det også svaret, når farmakonomen skriver "må vi udlevere uden recept", og instruksen bruger ordet "håndkøb". Teknikken bag kaldes embeddings; den får sin egen forklaring.

Et eksempel: et apotek med fire filialer

Tag et apotek med fire filialer og omkring 40 ansatte. Instrukssamlingen fylder et par hundrede sider: udlevering, substitution, dosisdispensering, kølevarer, hvad man gør med en recept fra et andet EU-land. Dertil leverandøraftaler, kampagnevilkår og de mails fra regionen, som alle har læst, og ingen kan finde igen.

En ny farmakonom på lørdagsvagt får et spørgsmål om substitution af et præparat, der er i restordre. Uden et opslagsværktøj er valget at bladre, ringe til apotekeren eller gætte. Med RAG skriver hun spørgsmålet, som hun ville stille det, og får et svar på fire linjer: hvilke regler gælder, hvad instruksen siger om netop restordre, og et link til afsnittet, så hun kan læse selv, før hun ekspederer.

  1. Dokumenterne samles ét sted

    Instrukser, aftaler og regionsmails lægges i én mappestruktur med en ansvarlig for hvert område. Gamle versioner ryddes ud. Det er den største del af arbejdet, og det er arbejde, apoteket alligevel skyldte sig selv.

  2. Adgangen følger rollerne

    Lønaftaler og personalesager er ikke med. Det, kun apotekeren må se, kan kun apotekeren spørge til. Reglerne er de samme som på fildrevet; de genbruges.

  3. 30 rigtige spørgsmål som prøve

    Før nogen får adgang, testes værktøjet på 30 spørgsmål fra hverdagen med en farmaceut som dommer. Det afslører både dårlige dokumenter og dårlige svar, og det er billigere at finde dem her end på en lørdagsvagt.

  4. Svaret viser altid kilden

    Et svar uden henvisning vises ikke. Dækker dokumenterne ikke spørgsmålet, siger værktøjet det i stedet for at digte.

Gevinsten er ikke, at AI'en ved noget, apotekeren ikke ved. Den er, at svaret er der på et halvt minut, også lørdag klokken 14, og at det peger på den instruks, der gælder i dag.

Hvad RAG er god til, og hvad den ikke er

God til

  • Spørgsmål, der har et svar i et dokument: hvad siger instruksen, hvad står der i aftalen, hvordan gør vi det her
  • At holde svar opdaterede: ret dokumentet, og svaret retter sig selv
  • At vise kilden, så medarbejderen kan tjekke efter
  • Store dokumentmængder, som ingen kan huske udenad

Ikke god til

  • Spørgsmål, der kræver regning eller sammenligning på tværs af mange dokumenter
  • Dokumenter, der modsiger hinanden; den vælger ikke det rigtige for jer
  • Dårligt scannede PDF'er og billeder af tekst, før de er gjort læsbare
  • Viden, der kun findes i hovedet på folk; den kan ikke slå op i det, der ikke er skrevet ned

Hvad det kræver hos jer

  • Dokumenter i et læsbart format: Word, PDF med tekst, wiki, mails. Papir og scanninger skal først igennem tekstgenkendelse.
  • En ejer af dokumentsamlingen. Ellers svarer værktøjet ud fra forældede versioner, og tilliden er væk efter tre uger.
  • Klare adgangsregler: hvem må spørge til hvad. Dem har I typisk allerede på fildrevet eller intranettet, og de kan genbruges.
  • Et sted at køre det: i skyen hos en europæisk udbyder, eller på en server I selv råder over, hvis dokumenterne ikke må forlade huset.
  • En testsamling på 20–30 rigtige spørgsmål med facit. Den bruges igen, hver gang noget ændres.

Typiske misforståelser

Det hører viSådan hænger det sammen
AI'en lærer vores dokumenter udenadNej. Den slår op i dem, hver gang der spørges. Fjern et dokument, og svarene fra det forsvinder.
Så kan den svare på alt om virksomhedenDen kan svare på det, der står skrevet. Det, der kun findes i hovedet på jeres erfarne folk, skal først skrives ned.
Vores data sendes til USADet afhænger af, hvor modellen kører. Den kan køre hos en europæisk udbyder eller på jeres egen server.
Det kræver, at vi træner en modelNej. Standardmodeller er gode nok til at læse og skrive. Arbejdet ligger i dokumenterne og i opslaget.
Det er bare en bedre søgefunktionOpslaget er en bedre søgning. Forskellen er, at I får et færdigt svar med kilde i stedet for en liste af dokumenter.

Hvad vi ville fraråde

Vi ville fraråde at starte med hele arkivet. Vælg ét område, hvor spørgsmålene er mange og dokumenterne gode, og lad værktøjet bevise sig der. Vi ville også fraråde at slå kildehenvisningen fra, fordi svarene ser pænere ud uden. Henvisningen er grunden til, at medarbejderne tør stole på værktøjet.

Ofte stillede spørgsmål

Hvor lang tid tager det at sætte op?

Selve værktøjet kan være klar på få uger. Det, der tager tid, er at rydde op i dokumenterne og få adgangsreglerne på plads, og det arbejde er alligevel nødvendigt.

Kan den læse vores gamle scannede dokumenter?

Ja, hvis de først køres gennem tekstgenkendelse (OCR). Kvaliteten af svarene følger kvaliteten af scanningen.

Hvad sker der, når vi retter et dokument?

Den nye version indekseres, og svarene følger den. Der er ingen gentræning.

Kan medarbejderne komme til at se noget, de ikke må?

Ikke hvis adgangen er bygget rigtigt. Opslaget sker kun i de dokumenter, den enkelte har ret til at se, og det er en af de ting, vi tester, før nogen får adgang.

Er RAG det samme som ChatGPT?

ChatGPT er en sprogmodel med en chat ovenpå. RAG er måden, man giver en sprogmodel adgang til jeres dokumenter. De to kan kombineres, men behøver ikke at være det.

Vil I have hjælp til at komme fra forklaring til praksis?

Tag en uforpligtende snak med os om, hvor det giver mening at starte hos jer. Vi svarer inden 24 timer.