AI agent ve firmě: co zvládne, co ne a jak ho mít pod kontrolou

Co je AI agent

Běžný AI chat odpovídá na otázky. AI agent jde o krok dál: dostane úkol, sám si ho rozdělí na kroky a při jejich plnění používá nástroje. Vyhledá zákazníka v CRM, přečte e-mail, připraví nabídku nebo založí úkol. Pracuje tedy s vašimi systémy, nejen s textem.

Právě proto je užitečnější, ale i citlivější. Agent, který může něco změnit, může změnit i něco špatně. Otázka tedy nezní jen „co dokáže“, ale také „co mu dovolíme“.

Pro firmy to znamená posun od nástroje, který pomáhá psát, k pomocníkovi, který zvládne celé malé úkoly. Agent například přečte poptávku, najde zákazníka v CRM, připraví nabídku podle ceníku a předloží ji obchodníkovi ke schválení. Obchodník tak kontroluje hotový návrh, místo aby ho skládal od začátku.

Co AI agent spolehlivě zvládne už dnes

Agenti jsou dnes dobří v úkolech, které mají jasné zadání, opakují se a dají se zkontrolovat. Typicky jde o práci s textem a daty, u které člověk stráví hodně času, ale nedělá při ní zásadní rozhodnutí. Platí to hlavně u úkolů, které lidé odkládají, protože jsou zdlouhavé a nezáživné.

Tyto úkoly mají společné to, že výsledek umí člověk rychle posoudit. Agent mu ušetří čas na přípravě, ale poslední slovo zůstává na něm. Pokud je kontrola rychlá, úspora času je skutečná; pokud by měl člověk všechno předělávat, agent nepomáhá.

Agent navíc pracuje stejně v osm ráno jako v pátek večer. Poptávky, které přijdou mimo pracovní dobu, tak ráno čekají roztříděné a s připravenými návrhy. Lidé začínají den rozhodováním, ne přepisováním.

• roztřídění příchozích e-mailů a založení poptávky v CRM
• vytěžení údajů z objednávek, faktur či dodacích listů
• příprava návrhu odpovědi nebo nabídky podle aktuálního ceníku
• vyhledání informací v interních dokumentech a jejich shrnutí
• připomenutí neuzavřených úkolů a příprava týdenního přehledu

Kde má AI agent limity

AI agent se může mýlit, a to i sebevědomě. Když mu chybí informace, může si ji domyslet. U dlouhých řetězců kroků se chyba z jednoho kroku přenese do dalších, proto platí, že čím delší a méně kontrolovaný úkol, tím vyšší riziko. Agent by měl vždy uvést, z jakého podkladu vycházel, aby si to člověk mohl ověřit.

Agent také nezná vztahy, kontext firmy a nepsaná pravidla, která vaši lidé znají. Neví, že s jistým zákazníkem se o ceně nemluví e-mailem nebo že jeden dodavatel před Vánoci pravidelně nestíhá termíny, pokud mu to někdo nezapíše. Rozhodnutí o penězích, smlouvách, zaměstnancích či reklamacích s právními důsledky by proto neměl dělat sám.

Kromě toho agent potřebuje dobře připravené podklady. Pokud jsou ceníky neaktuální nebo údaje v CRM neúplné, bude pracovat s chybnými informacemi stejně ochotně jako se správnými. Kvalita jeho práce proto nebude vyšší než kvalita dat, ke kterým má přístup.

Oprávnění: jen to, co potřebuje

Prvním pravidlem je dát agentovi jen ta práva, která ke svému úkolu potřebuje. Pokud má připravovat návrhy odpovědí, nepotřebuje právo odesílat e-maily. Pokud čerpá údaje z CRM, nemusí v něm umět mazat. Ani nový zaměstnanec přece nedostane první den přístup ke všemu.

Užitečné je oddělit čtení od zápisu a zápis od nevratných kroků. Číst může agent hodně, zapisovat méně a nevratné akce, jako odeslání, platbu nebo výmaz, by měl provést až po schválení člověkem. Takové rozdělení výrazně snižuje dopad případné chyby.

Prakticky to znamená, že agent má vlastní účet s přesně nastavenými právy, ne přístup přes účet některého zaměstnance. Díky tomu je jasné, co udělal agent a co člověk, a přístup lze kdykoli omezit nebo zrušit.

Schvalování a záznam o činnosti

Nejbezpečnější model je, že agent připraví a člověk potvrdí. V praxi to znamená, že zaměstnanec vidí návrh, může ho upravit a jedním kliknutím schválit. U málo rizikových úkolů, například u zatřídění e-mailu, můžete schvalování časem vypnout, až budete mít ověřeno, že agent pracuje spolehlivě.

Každá akce agenta by se měla zapisovat: co udělal, na základě čeho a kdo to schválil. Takový záznam vám pomůže najít příčinu chyby a zároveň ukáže, kde agent šetří nejvíc času. Bez záznamu nemáte nad agentem kontrolu, jen důvěru.

Pomáhá také nastavit limity: kolik akcí může agent provést za hodinu, jakou nejvyšší částku smí navrhnout bez upozornění nebo kterým zákazníkům nesmí psát vůbec. Takové pojistky zachytí chybu dřív, než napáchá škodu.

Data a bezpečnost

Agent pracuje s firemními daty, často i s osobními údaji zákazníků. Proto je důležité vědět, kde se data zpracovávají, kdo je poskytovatelem modelu a za jakých podmínek. U citlivějších dat může být vhodné provozovat AI v prostředí, které máte pod vlastní kontrolou. Pokud agent pracuje s osobními údaji, platí pro něj stejná pravidla GDPR jako pro jakýkoli jiný systém.

Myslete i na to, že agent čte texty zvenčí, například e-maily nebo dokumenty od zákazníků. Ty mohou obsahovat skryté pokyny, které se ho snaží zmanipulovat. I to je důvod, proč by nevratné kroky neměl dělat bez člověka.

Stejně důležitá je otázka, co se stane, když agent přestane fungovat. Firma by měla umět pokračovat i bez něj, proto by se lidé neměli úplně odnaučit postupy, které agent přebírá. Jednoduchý záložní postup stačí mít popsaný na jedné straně.

Jak začít

Vyberte jeden úkol, který se opakuje a dá se snadno zkontrolovat, a nasaďte na něj agenta v režimu návrhů. Po pár týdnech vyhodnoťte, kolik návrhů lidé schválili bez úprav a kolik času se ušetřilo. Výsledky si zapisujte, aby rozhodnutí o dalším kroku stálo na číslech, ne na dojmech. Teprve pak rozšiřujte jeho oprávnění nebo přidávejte další úkoly.

Agent přináší nejvíc, když je součástí systémů, které už používáte, a ne dalším nástrojem, do kterého je třeba přepisovat údaje. Pokud ho chcete napojit na své CRM či evidenci zakázek, v Lumen Studio vám po úvodním hovoru obvykle do 24 hodin ukážeme první funkční verzi, na které uvidíte, jak by pracoval s vašimi procesy.