RAG je postup, kdy se k dotazu nejdřív vyhledají odpovídající úryvky z vašich dokumentů a teprve ty se pošlou modelu jako podklad. Odpověď pak stojí na vašich datech, ne na paměti modelu.
Je to nejlevnější způsob, jak dostat AI k firemním datům — model se nikam netrénuje, jen dostane k otázce správné stránky. Když dokument změníte, změní se i odpovědi, bez jakéhokoli přetrénování.
Halucinace to snižuje, ale neodstraní: když vyhledávání dodá špatný úryvek, model na něm postaví sebejistou hloupost. Proto se u odpovědi vždy vyplatí zobrazit, ze kterého dokumentu a odkud pochází.
Příklad
Nahrajete 200 stran interních směrnic a ptáte se přirozeným jazykem; nástroj u odpovědi ukáže odstavec, ze kterého ji vzal.
Kde na to narazíte
NotebookLM — Nejlepší AI nástroj pro analýzu dokumentů — zdarma
Chatbase — Vlastní ChatGPT z tvých dokumentů — chatbot pro web
Perplexity AI — AI vyhledávač s citacemi — Deep Research bez halucínací
Souvisí s tím
Embedding (vektor) — Embedding je převod textu na řadu čísel, ve které si blízké významy odpovídají blízkými hodnotami.
Halucinace — Halucinace je odpověď, která zní naprosto samozřejmě, ale není pravdivá — vymyšlená citace, neexistující paragraf, smyšlené číslo.
Kontextové okno — Kontextové okno je maximum textu, které model udrží najednou — zadání, přiložené dokumenty i celou dosavadní konverzaci dohromady.