Internal RAG asistent — SaaS firma
Interný asistent nad firemnou dokumentáciou s citáciami a confidence skóre. Odpovedá na otázky support tímu za zlomok ceny.
Problém
Support tím trávil hodiny hľadaním v 18 000 dokumentoch — wiki, PDF, Slack vlákna. Onboarding nového agenta trval týždne a odpovede boli nekonzistentné podľa toho, kto dvíhal ticket.
Riešenie
Embedding pipeline nad pgvector v existujúcej PostgreSQL — žiadna ďalšia databáza. RAG s citáciami a confidence skóre, primárny model Claude Sonnet s fallbackom na GPT-4. Eval suite v CI meria kvalitu výstupov na regression datasete a cost monitoring beží v Sentry.
Výsledok
Priemerná odpoveď stojí €0.0021 a vráti sa s odkazmi na zdrojové dokumenty. Čas onboardingu agenta klesol z týždňov na dni a odpovede sú konzistentné a auditovateľné.
Výsledky
- ✓18 402 zaindexovaných dokumentov
- ✓92 % priemerná confidence
- ✓€0.0021 na odpoveď
Máte podobný projekt?
Povedzte nám, čo treba postaviť. 30-minútový call, žiadny sales pitch.