RAG nad firemními dokumenty: od podkladů k odpovědi

Kdy použít RAG nad dokumenty

Retrieval-Augmented Generation, zkráceně RAG, nejprve vyhledá podklady a potom je předá jazykovému modelu jako kontext. Model z nich sestaví odpověď. Zaměstnanec tak může položit běžnou otázku místo hledání přesného názvu souboru. Microsoft popisuje tento princip v dokumentaci Azure AI Search.

Výsledek závisí na obou krocích. Dobře napsaná odpověď může vycházet ze špatného dokumentu. Správný dokument zase může model nesprávně vyložit. V návrhu proto oddělujte hodnocení vyhledávání od hodnocení odpovědi. U důležitých závěrů ukažte konkrétní dokument a místo, ze kterého tvrzení vychází.

Kdy firemní vyhledávání s AI pomůže

Při hledání čísla smlouvy obvykle potřebujete otevřít správný záznam. Začal bych proto běžným vyhledáváním. RAG doporučuji pro otázky, při kterých musíte spojit informace z několika platných dokumentů a chcete dostat odpověď se zdrojem. Rozhodujte podle toho, co lidé potřebují zjistit, když výsledky hledání otevřou.

RAG mění podklady dostupné při odpovídání, aniž by kvůli každé úpravě dokumentu bylo nutné přeučovat model. Pro jednoduchou otázku nad několika krátkými soubory přitom může stačit předat dokumenty přímo. Samostatný index je užitečný, když potřebujete vybírat relevantní části většího souboru podkladů, řídit přístupy nebo průběžně zpracovávat změny.

Začněte pořádkem v podkladech

Pro první zkoušku vyberte oblast, ve které se vyznáte. Poznáte tak starý návod i odpověď, která neodpovídá současným pravidlům. U dokumentů zapište vlastníka, platnost, verzi a skupiny uživatelů a oddělte archiv. Podívejte se také, jak aplikace přečetla PDF, tabulky a skeny. Ztracená hlavička tabulky může změnit význam čísla, přestože samotný text vypadá správně.

Při dělení textu zachovejte název kapitoly a souvislosti. Samostatná věta „platí od ledna“ bez roku a názvu předpisu není použitelný podklad. Anthropic popisuje význam kontextu při vyhledávání i kombinaci významového vyhledávání s přesnou textovou shodou. U označení výrobků, smluv nebo chybových kódů ověřte obě cesty na vlastních otázkách.

Oprávnění musí platit už při vyhledávání

Asistent má pracovat pouze s dokumenty, které smí otevřít aktuální uživatel. Přístup k aplikaci a přístup ke konkrétnímu podkladu jsou dvě různá oprávnění. Dokumentace Microsoftu ukazuje filtrování na úrovni dokumentů. Vlastní aplikace musí takové omezení skutečně vynucovat.

Podklady jiné firmy nebo oddělení se nesmějí dostat do kontextu modelu. Pokyn „nezobrazuj citlivé informace“ po jejich načtení už přístupovou hranici nenahradí. Do testů zahrňte změnu role, odebrání uživatele ze skupiny a smazání dokumentu. Ověřte i cache odpovědí: výsledek určený jednomu člověku nesmí uniknout druhému.

Jak poznat, že odpovědi obstojí

Připravte sadu skutečných pracovních otázek. Ke každé zapište správný podklad, očekávanou odpověď a přijatelné chování, když podklad chybí. Přidejte nejednoznačné dotazy, starší verze a otázky za hranicí oprávnění. Hodnoťte věcnou správnost, oporu citace a schopnost přiznat nedostatek informací.

Měřte čas člověka včetně kontroly, odezvu aplikace a cenu zpracování dokumentů i jednotlivých dotazů. Jedno působivé demo neukáže, zda systém pomáhá při běžné práci. Každou změnu modelu, vyhledávání nebo zdrojových dokumentů porovnejte se stejnou testovací sadou.

Co připravit pro první projekt

Pro zadání stačí vymezit pracovní situaci, schválené podklady, uživatele a způsob ověření výsledku. Určete člověka, který bude řešit chybné odpovědi a aktualizace. První verzi můžete provozovat pouze pro čtení a návrhy odpovědí. Zápis do dalších systémů přidejte až s jasnými pravidly.

Pro základní výběr pilotu navazuje průvodce GenAI ve firmách. Při práci s externími podklady projděte také rizika prompt injection. Pokud řešíte vlastní nástroj nad dokumenty, popište pracovní proces a dostupné podklady. Podle nich lze navrhnout rozsah první verze.