← Slovníček pojmů

Halucinace

anglicky: hallucination

Halucinace je odpověď, která zní naprosto samozřejmě, ale není pravdivá — vymyšlená citace, neexistující paragraf, smyšlené číslo. Model neví, že si vymýšlí; skládá pravděpodobné pokračování textu.

Není to porucha, kterou půjde jednou opravit. Model odhaduje, jak text pravděpodobně pokračuje, a přesvědčivá lež je často pravděpodobnější než přiznání „nevím“. Nejnáchylnější jsou přesné údaje: jména, data, čísla paragrafů, odkazy a rozpočty.

Obrana je jednoduchá a nudná: chtít zdroj, ověřit si ho a nedávat modelu úkoly, kde je jediným zdrojem pravdy on sám. Zapnuté vyhledávání na webu riziko snižuje, ale neodstraní — model může špatně přečíst i skutečnou stránku.

Příklad

Modely si běžně vymýšlejí odkazy: adresa vypadá jako platný odkaz na zákon, ale vede na chybu 404. Vždycky ho zkuste otevřít.

Kde na to narazíte

• Perplexity AI — AI vyhledávač s citacemi — Deep Research bez halucínací
• NotebookLM — Nejlepší AI nástroj pro analýzu dokumentů — zdarma

Souvisí s tím

• RAG (odpovídání nad dokumenty) — RAG je postup, kdy se k dotazu nejdřív vyhledají odpovídající úryvky z vašich dokumentů a teprve ty se pošlou modelu jako podklad.
• Znalostní uzávěrka — Znalostní uzávěrka je datum, ke kterému končí trénovací data modelu.
• Uvažování (reasoning) — Uvažující modely si před odpovědí generují vlastní pracovní postup — mezikroky, které často ani nevidíte.