Onsite offline LLM med RAG: tilgangskontroll per chunk og vLLM
Et lokalt RAG-system som svarer ansatte ut fra firmaets egne kilder, med tilgangskontroll per chunk og vLLM for gjennomstrømming.
Et lokalt RAG-system som svarer ansatte ut fra firmaets egne kilder, med tilgangskontroll per chunk og vLLM for gjennomstrømming.
Engelske embedding-modeller presterer dårlig på norsk tekst, og da hjelper det ikke hvor god språkmodellen bakerst er.