QuerySense

AI chatbot využívajúci Retrieval-Augmented Generation (RAG) na odpovedanie na otázky používateľov na základe interných dokumentov. Relevantné časti textov sa vyhľadajú a pošlú do LLM modelu, ktorý vygeneruje odpoveď.

Bežné vyhľadávanie nedokázalo spoľahlivo nájsť kontextovo presné odpovede z rozsiahlych dokumentov. Cieľom bolo porozumieť obsahu aj zámeru otázky.

Použili sme embedding modely na vektorizáciu dokumentov a otázok, ktoré sme uložili do PostgreSQL s pgvector. Na generovanie odpovedí sme použili jazykový model (LLM).