Jaký je rozdíl mezi AI agentem a workflow
Ve workflow určuje pořadí kroků program: přijmout požadavek, získat data, připravit výsledek a předat ho ke kontrole. Agent může další krok vybírat sám podle situace a výsledků nástrojů. Toto rozlišení používá Anthropic ve svém přehledu návrhu agentů. V praxi se oba přístupy mohou v jedné aplikaci kombinovat.
Pokud potřebujete každý večer přenést objednávky do druhého systému, doporučuji pevnou integraci. Znáte kroky předem a můžete je snadno kontrolovat. Agent dává větší smysl u práce, při které další postup závisí na tom, co zjistí. Tato volnost ale přidává náklady na kontrolu a řešení chyb, které je potřeba zahrnout do rozhodnutí.
Vyberte práci s ověřitelným výsledkem
Vhodný pilot má jasný vstup, dostupné nástroje a člověka, který pozná správný výsledek. Příkladem je příprava podkladů k zákaznickému požadavku: dohledat objednávku, získat servisní historii a navrhnout odpověď. Člověk pak kontroluje souhrn a rozhodne o dalším postupu.
Předem zjistěte, kolik času zabírá současný proces a kde vznikají chyby. Vyhněte se neurčitému zadání „agent bude řešit obchod“. Rozdělte ho na konkrétní úkony a u každého určete, zda systém pouze čte data, připravuje návrh, nebo něco mění. Právě poslední skupina potřebuje nejpřesnější hranice.
Jak může vypadat první řešení
První verzi bych nechal dohledat podklady a připravit návrh odpovědi. Člověk uvidí použité záznamy, opraví text a rozhodne o odeslání. Na takové verzi poznáte kvalitu dohledání i výsledku dřív, než systému svěříte změny v dalších aplikacích.
Pokud tento postup funguje s pevnými kroky, získáte užitek i bez autonomního agenta. Volbu nástrojů modelem přidejte tam, kde výsledky pilotu ukážou konkrétní potřebu. Pro hledání v návodech a pravidlech může být součástí řešení RAG nad firemními dokumenty.
Modelový příklad: zákazník dostal jinou variantu výrobku
Zákazník píše: „Objednal jsem modrou variantu, ale přišla červená.“ Pracovník podpory potřebuje podklady a návrh odpovědi.
-
Pevné workflow načte objednávku podle ověřeného zákazníka a porovná objednanou variantu s evidencí expedice.
-
Jestli údaje nesouhlasí nebo chybí, agent může z povolených nástrojů vybrat dohledání souvisejícího servisního záznamu. Při nedostatku podkladů předá případ člověku.
-
Asistent připraví souhrn a návrh dalšího postupu. Pracovník potvrdí, co zákazníkovi nabídne. Vrácení peněz se bez příslušného schválení neprovede.
Co si odnést: Pevné kroky použijte pro známý postup. Volbu dalších nástrojů přidejte až tam, kde různé situace vyžadují jiné dohledání podkladů.
Kdo schvaluje změny a jaká má agent práva
Rozdělte nástroje pro čtení a pro zápis. Vyhledání objednávky nemusí opravňovat ke změně její ceny. OWASP doporučuje omezená oprávnění nástrojů a nezávislé ověření citlivých akcí. Kontrola má proběhnout v části aplikace, která změnu skutečně vykoná.
U odeslání nabídky nebo změny finančních údajů ukažte konkrétní cíl a hodnoty. Schválení musí patřit správnému uživateli a přesně této operaci. Opakované spuštění nesmí bez kontroly vytvořit dvě stejné objednávky. Nastavte limit kroků, rozpočtu a času. Při překročení má aplikace úlohu bezpečně ukončit a předat člověku.
Co měřit vedle úspory času
Po vytvoření návrhu může zbývat dost práce: dohledat chybějící údaj, opravit odpověď nebo převzít celou úlohu. Při hodnocení proto sledujte dokončené požadavky a započítejte čas na kontrolu i opravy spolu s cenou zpracování. Srovnávejte stejné typy úloh podle předem domluvených kritérií, abyste poznali, zda agent práci zkracuje.
Testujte i běžné provozní potíže: nástroj neodpovídá, záznam chybí, uživateli se změnila oprávnění nebo úloha běží podruhé. Záznam průběhu má umožnit zjistit, co systém navrhl a co skutečně provedl. Ukládejte přitom jen údaje potřebné pro provoz a řešení chyb, s řízeným přístupem k záznamům.
Kdy pilot pustit do běžného provozu
Před nasazením určete vlastníka procesu, způsob hlášení chyb, možnost vypnutí a postup změny modelu nebo nástroje. NCSC zasazuje bezpečnost AI do celého životního cyklu. Schválení prvního pilotu proto neuzavírá práci na jeho provozu.
Rozšíření podložte výsledky, ne počtem připojených nástrojů. Řízení odpovědností popisuje také článek o ISO/IEC 42001. Pokud hledáte automatizaci konkrétního firemního procesu, pošlete příklad požadavku a dnešní postup. Nad nimi lze posoudit, zda potřebujete integraci, workflow, nebo agenta.
Ověřené zdroje
Primární zdroje a jejich vztah k článku byly zkontrolovány .