Přeskočit na obsah
Appitect
Blog

Jak zavést AI do firemních procesů bezpečně: hranice, oprávnění a záznam

16. listopadu 2026 · 9 min čtení

Jak zavést AI do firemních procesů bezpečně: hranice, oprávnění a záznam

AI ve firemních procesech funguje bezpečně tam, kde stroj připraví návrh a rozhodnutí zůstane člověku. U nás to vypadá takhle: do schránky přijde poptávka, během pěti minut ji systém roztřídí, u nové firmy dohledá údaje v ARES a AI připraví návrh odpovědi. Odpověď ale neodejde. Čeká, až ji někdo přečte a schválí.

Takhle to běží v systému, kterým řídíme Appitect. Nemáme to tak proto, že by AI nic neuměla. Máme to tak proto, že e-mail, který už odešel, se bere zpátky špatně.

Tento článek je o hranici mezi návrhem a rozhodnutím. Ukážeme, co smí AI udělat sama, co jen navrhnout a jak to nastavit, aby zavedení proběhlo bez nepříjemných překvapení. Přidáme i chyby, které jsme zažili v našem vlastním provozu.

Proč AI nestačí „zapnout"

Když firma chce AI zkusit, často začne nástrojem. Někdo si pořídí placený účet, začne do něj vkládat e-maily a tabulky a za týden zjistí, že výsledky jsou občas dobré a občas úplně vedle. Nikdo přesně neví, kdy je které.

Nejčastější potíže bývají stále stejné:

  • Začíná se nástrojem, ne procesem. Nikdo nepopsal, co se má stát a kdo za výsledek odpovídá.
  • AI běží mimo ostatní systémy. Člověk pak výstup kopíruje ručně. Přepisování dat se nezmenšilo, jen se přesunulo.
  • Data jsou rozházená. Ceny v jednom Excelu, zakázky v druhém, domluvy v e-mailech. AI z toho nepozná, co platí. Tady se vyplatí nejdřív udělat pořádek, viz pět signálů, že vaší firmě přestal stačit Excel.
  • Chce se změnit všechno najednou. Když se AI zavede na půl firmy současně, nikdo nepozná, co funguje a co ne.

A pak je tu zásadní rozdíl. Jedna věc je automatizace s dohledem, kde stroj připraví práci a člověk ji schválí. Druhá věc je slepé přenechání rozhodnutí. První je rozumný začátek. Druhé nedoporučujeme.

Princip: návrh připraví stroj, rozhodne člověk

Návrh je něco, co se dá zahodit bez následků. Rozhodnutí je krok, po kterém se něco stane venku: odejde e-mail, klient dostane cenu, vznikne závazek.

Na příkladu z našeho provozu:

  1. Ze schůzky s klientem máme poznámky nebo nahrávku.
  2. AI z nich připraví návrh nabídky s fázemi a cenou.
  3. Kód zkontroluje, že sedí hodiny krát sazba.
  4. Člověk nabídku přečte, upraví a schválí.
  5. Teprve potom klient dostane PDF a odkaz, kde nabídku přijme nebo odmítne.

Body 2 a 3 jsou práce stroje. Bod 4 je rozhodnutí. Schvalovací krok tu není brzda, ale pojistka. Zabere chvíli a ušetří situaci, kdy se špatná cena dostane ke klientovi.

Kdo za co odpovídá

U každého typu rozhodnutí musí být jméno, ne „oddělení". Nabídky schvaluje ten, kdo za ně ručí cenou. Odpovědi na poptávky ten, kdo s klientem komunikuje. Pokud to ve firmě nikdo nemá jasně přiřazené, AI problém nevyřeší, jen ho zrychlí.

Odpovědnost za výsledek zůstává u firmy a u člověka, který schválil. Proto nastavte proces tak, aby měl schvalující všechno potřebné před očima a nemusel nic dohledávat.

Jak poznat, co AI nechat a co ne

Pomáhají dvě otázky:

  • Jak velký je dopad, když se AI splete?
  • Dá se krok vzít zpět?

Z nich vychází jednoduchá matice:

Chyba má malý dopad Chyba má velký dopad
Krok jde vrátit AI může připravit i provést, člověk kontroluje namátkou AI připraví, člověk schvaluje každý případ
Krok nejde vrátit AI připraví, člověk schvaluje AI jen třídí a podává podklady, rozhodnutí a provedení dělá člověk

Příklad z levého horního pole: třídění došlé pošty. Špatně zařazený e-mail se přesune jinam a nic se nestane. Odeslání e-mailu nebo nabídky klientovi je naopak krok, který zpět nevezmete. Proto u nás platí jednoduché pravidlo:

Cokoli, co odchází ven, schvaluje člověk. Bez výjimky. E-mail, nabídka, článek, příspěvek.

AI smí sama jen připravovat a třídit.

Co hlídá kód a co zadání pro AI

Tohle je podle nás nejpraktičtější zásada. Do zadání pro AI se dá napsat „nikdy nevymýšlej odkazy" nebo „vždy zkontroluj výpočet". Model se tím ale řídí jen většinou času. Pravidlo, na kterém něco závisí, nemá spoléhat na „většinou".

Proto platí: co jde ověřit strojem, hlídá kód, ne zadání.

U nás kód kontroluje například:

  • výpočet hodiny krát sazba v nabídce,
  • délku textu,
  • zakázané fráze a vykání,
  • že odkazy vedou jen na naše stránky a že žádná adresa není vymyšlená.

AI může text připravit, ale jestli pravidla platí, ověřuje obyčejný program. Ten se nenechá přesvědčit a neunaví se. Člověku pak zbývá to, co stroj ověřit neumí: jestli je nabídka rozumná, jestli odpověď trefuje tón, jestli se hodí pro tohoto klienta.

Stejně to děláme u článků na blog. AI napíše koncept, druhý krok ho ohodnotí, kód hlídá pravidla a vydává vždy člověk.

Které procesy zvolit jako první

Na začátek hledejte proces, který splňuje čtyři věci:

  • Opakuje se. Je z něj dost případů na to, aby se zavedení vyplatilo.
  • Má jasný výstup. Poznáte, jestli je výsledek dobrý: nabídka, shrnutí, roztříděná zpráva.
  • Chyba nestojí moc. Špatný návrh se zahodí.
  • Krok jde vrátit. Nic se nestane, dokud člověk nepotvrdí.

V praxi to bývají:

  • třídění příchozí pošty a příprava odpovědí na poptávky,
  • návrh nabídky z poznámek,
  • shrnutí schůzky z nahrávky,
  • doplnění údajů o firmě z veřejného rejstříku, u nás z ARES.

Všechno jsou to činnosti, kde dnes někdo kopíruje, přepisuje a skládá.

Naopak nezačínáme tam, kde chyba znamená peníze nebo právní následky a kde nejde nic vrátit: automatické platby, závazná odpověď na reklamaci, cokoli s osobními údaji zaměstnanců. Tyhle procesy nejsou zakázané, ale na první pilot se nehodí.

Oprávnění, data a záznam

Jen to, co proces potřebuje

AI má mít přístup jen k datům, která potřebuje pro daný krok. Pro třídění pošty nepotřebuje účetnictví. Pro návrh nabídky nepotřebuje osobní údaje zaměstnanců. Čím užší přístup, tím menší škoda, když se něco pokazí.

Platí to i pro to, co se posílá modelu. Do zadání nepatří hesla, klíče ani interní konfigurace. Zní to samozřejmě, ale právě na tom jsme se sami spálili (viz níže).

Rozpočet a limity

Každé volání AI u nás má záznam a denní rozpočet. Když se rozpočet vyčerpá, nic se nevygeneruje. Chyba ve smyčce tak nevytvoří nečekaný účet ani spoustu nechtěných zpráv.

Záznam: co AI navrhla a kdo schválil

U každého návrhu se má dát dohledat, co AI připravila a kdo to schválil. Není to byrokracie. Když se po měsíci objeví otázka „proč jsme klientovi napsali tohle?", odpověď je v záznamu, ne v něčí paměti. A z záznamů také poznáte, kde AI chybuje opakovaně.

Chyby z našeho provozu

Nechceme tvrdit, že nám všechno vyšlo napoprvé. Tři skutečné chyby:

1. Tajný klíč se dostal do zadání pro model. Konfigurace systému obsahovala klíč webhooku a ten se dostal do textu, který jsme posílali modelu. Opravili jsme to tak, že konfiguraci pro model filtruje kód a hlídá to test. Ten test je důležitý: oprava bez testu se při další úpravě může tiše rozbít.

2. Model si vymýšlel odkazy a adresy. V textu se objevovaly adresy, které ve zdrojích vůbec nebyly. Teď je kód odmítne. Nepřidali jsme do zadání další „prosím, nevymýšlej", ale pravidlo, které vymyšlenou adresu nepustí dál.

3. Dlouhá odpověď se uřízla na limitu. Model napsal dlouhý text, limit ho uřízl uprostřed a kontrola ho správně odmítla. Limity se teď počítají podle rozsahu očekávaného výstupu.

Společný vzorec: chyba se našla, opravila se v kódu a přidal se test. Nespoléhali jsme na to, že po přepsání zadání to příště dopadne lépe.

Co dělat, když AI udělá chybu

Chyba přijde. Připravte se na ni dopředu:

  • Zachyťte ji včas. Právě proto existuje schvalování. Většina chyb se zastaví, než něco opustí firmu.
  • Určete, kdo ji řeší. Konkrétní člověk, ne „kdo si toho všimne".
  • Vraťte krok. Proto vybírejte procesy, kde to jde.
  • Opravte příčinu. Pokud jde pravidlo ověřit strojem, napište ho do kódu a přidejte test. Pokud ne, upravte zadání a postup schvalování.
  • Zapište si to. Opakující se chyba je signál, že proces nebo data nejsou v pořádku.

Jak poznat, že pilot funguje

Poctivě: u našich vlastních automatizací nemáme ušetřený čas ani chybovost změřené v číslech, a proto je neuvádíme. Neuvádíme žádná čísla, která bychom neuměli podložit.

Pokud pilot zavádíte, změřte si před začátkem a po něm to, co dává smysl:

  • čas na jednu položku, třeba nabídku nebo odpověď, včetně času na kontrolu,
  • podíl návrhů schválených bez úprav, tedy kolik návrhů člověk jen potvrdí,
  • chyby, které prošly dál, a ty, které zachytila kontrola,
  • zkušenost lidí, kteří s tím pracují.

Čas na kontrolu do výpočtu započítejte. Pokud kontrola trvá skoro stejně dlouho jako původní práce, AI nic neušetřila. Pak pilot upravte (jiné zadání, lepší data, jiný proces), nebo ho ukončete. Ukončený pilot není selhání, je to levně zjištěná informace.

Do pilotu zapojte lidi, kteří s procesem pracují. Ukažte jim, že rozhodují oni a že AI jim přebírá přepisování, ne odpovědnost.

Hotový nástroj, nebo interní systém na míru

Na běžnou agendu bez zvláštností stačí hotový software, často i hotový AI nástroj. Systém na míru dává smysl, když ušetří víc hodin, než kolik stojí. Podrobněji jsme to rozebrali v článku kdy se vyplatí interní systém na míru a kdy stačí hotový software.

U AI se potřeba vlastního systému objeví hlavně ve chvíli, kdy:

  • AI potřebuje pracovat s vašimi daty na více místech a výstup se nemá kopírovat ručně,
  • potřebujete vlastní schvalovací krok, záznam a oprávnění,
  • navazujete na účetnictví, e-shop nebo jiné nástroje, které už používáte.

Příkladem z jiné oblasti je provozní systém pro sportovní kroužky, který jsme stavěli po etapách. Přihláška sama vytvoří fakturu s QR platbou, výpis z banky ji spáruje podle variabilního symbolu a částky a docházka trenérů se propíše do výkazu pro výplaty. Klient uvádí úsporu 3–4 hodiny denně. Není to příklad AI, ale ukazuje, že hlavní užitek bývá ve spojení údajů na jednom místě, kde se každý zadá jednou. AI je až nadstavba nad takovým pořádkem.

Shrnutí

  • AI připravuje, člověk rozhoduje. Cokoli, co odchází ven, schvaluje člověk. Pravidla, která jde ověřit strojem, hlídá kód, ne zadání pro model.
  • Začněte jedním procesem s opakovaným objemem, malým dopadem chyby a krokem, který jde vrátit. Dejte AI jen minimum dat, nastavte limity a veďte záznam o tom, co navrhla a kdo schválil.
  • Měřte střízlivě. Čas včetně kontroly, podíl návrhů schválených bez úprav a chyby. Kde pilot nic nepřináší, upravte ho nebo ukončete.

Jaký bude váš první krok

Vyberte si jeden proces, který se u vás opakuje, třeba nabídky nebo třídění poptávek. Popište si ho krok za krokem a u každého kroku určete, kdo rozhoduje. Pokud to vyjde jako „vlastně nikdo", máte první úkol dřív, než přijde jakákoli AI.

Pokud chcete vědět, kolik času vaší firmě berou rutinní procesy, vyplňte šest krátkých otázek. Odhad dostanete hned a do 24 hodin pro vás připravíme konkrétní analýzu zdarma. Pokud se ukáže, že vám stačí hotový software nebo úprava procesu, řekneme vám to.

Ukažte nám, jak to u vás funguje dnes.

Napište nám, jak u vás fungují nabídky, zakázky a plánování. Ozveme se a probereme, co řešit jako první.

Kontaktujte nás
Adam Bardzák

Adam Bardzák, jednatel

hello@appitect.eu