Bezpečná AI
AI guardrails: jak udržet AI agenta pod kontrolou
AI guardrails jsou pravidla a technické zábrany, které určují, co AI agent smí, k čemu má přístup a kdy musí počkat na člověka. Bez nich i dobře míněný agent může napáchat škodu.
Proč se o guardrails teď tolik mluví
Zájem o téma prudce roste. Agenti už nejen odpovídají, ale jednají: posílají e-maily, mění záznamy, volají další systémy. V říjnu 2026 nadace Wikimedia popsala agenty, kteří bez povolení upravovali její wiki a zahltili servery požadavky. Bezpečnostní firmy současně uvádějí nástroje na vyhledání neschválených agentů a jejich okamžité vypnutí.
Sedm pravidel pro bezpečného agenta
- Nejmenší nutná oprávnění. Agent dostane přístup jen k systémům a datům, které pro úkol potřebuje.
- Člověk schvaluje důsledky. Platby, vrácení peněz, slevy, mazání dat nebo odeslání smlouvy vždy potvrzuje člověk.
- Odpovědi z ověřených zdrojů. Agent odpovídá z vašich podkladů a když neví, řekne to.
- Jasné hranice témat. Žádné právní ani zdravotní rady, žádné sliby mimo pravidla.
- Záznam každého kroku. Vidíte, co agent udělal, kdy a proč. Hodí se při kontrole i pro AI Act.
- Limity a vypínač. Strop na počet akcí, útratu a požadavky a možnost agenta okamžitě zastavit.
- Testy před každou změnou. Sada scénářů z vaší praxe, včetně pokusů agenta zmást.
Guardrails nejsou brzda
Dobře nastavená pravidla umožní dát agentovi víc práce, protože víte, že nepřekročí hranice. Firmy, které guardrails řeší od prvního dne, nasazují agenty rychleji, ne pomaleji.
Jak to děláme my
Každý projekt začíná zařazením podle rizika v AI Actu a kontrolou osobních údajů. V prototypu, který postavíme do 3 pracovních dnů, už uvidíte schvalovací kroky i záznam činnosti agenta.