AI Gateway – bezpečné zpřístupnění AI v organizaci
Zákaz používání generativní AI neřeší riziko práce s daty — jen ji přesouvá mimo dohled IT. Vývojáři potřebují Codex nebo Cursor, uživatelé chtějí chatovací rozhraní a týmy potřebují různé modely pro různé úlohy. Organizace přitom musí vědět, kdo AI používá, jaká data odesílá, kolik provoz stojí a zda se dodržují bezpečnostní pravidla.
V tomto intenzivním praktickém workshopu si v bezpečném labovém prostředí zprovozníte vlastní AI gateway. Na konkrétním řešení postaveném na LiteLLM a OpenWebUI propojíte klientské aplikace, model v cloudu i lokální model, audit a ochranné politiky. Vyzkoušíte si, jak centrálně řídit přístup k modelům, maskovat nebo blokovat citlivé údaje, reagovat na škodlivé prompty a dohledat AI operaci v logu.
Co bude výsledkem:
Workshop není produktová prezentace. Ukazuje přenositelný návrhový postup pro open-source, komerční i hybridní variantu gateway. Účastník absolvuje cestu od připraveného labu přes připojené klienty až k základnímu návrhu pro vlastní organizaci.
Po absolvování účastník umí vysvětlit architekturu, zprovoznit a otestovat základ vlastní AI gateway. V labu vytvoří funkční referenční prostředí s modelovou politikou, auditní stopou a bezpečnostními kontrolami.
1denní kurz | 9:00 - 16:00 | s obědem
Kurz bude otevřen po naplnění minimálního počtu 3 účastníků!
Lektor
Security Consultant | MDR & Incident Response | Security Architect | CISSP
Návrh bezpečnostních architektur s ohledem na technické, procesní i compliance požadavky
- Vedení týmu zajišťující poskytování služby Managed Detection & Response
- Implementace a support technologií EDR (CrowdStrike, SentinelOne, Check Point) VM (Tenable), PAM (BeyondTrust), Medigate, Aquasec Aqua Platform
- Investigace bezpečnostních incidentů
- Zabezpečení privilegovaných účtů a jejich správa
- Zabezpečení Kubernetes, implementace technologií a procesů v oblasti Workload Security a Image Assessment
- Implementace a audit ISMS dle ISO 27001:2022
- Bezpečnost a správa zdravotnických prostředků
- Školení základů kybernetické bezpečnosti pro uživatele
- Výklad v češtině
Nejde o kurz promptování pro běžné uživatele. Je zaměřen na technický návrh, integraci a bezpečný provoz společné AI platformy.
Kurz je určen především pro:
- Bezpečnostní architekty a security specialisty, kteří potřebují AI zpřístupnit s kontrolou nad daty
- Systémové, cloudové a síťové administrátory, kteří budou gateway provozovat
- DevOps a platform engineering specialisty, kteří připravují společnou AI platformu
- vývojáře a technické leady, kteří chtějí bezpečně připojit AI asistenty a interní aplikace
- IT manažery, kteří rozhodují o modelu provozu, nákladech a odpovědnostech
- Navrhnout AI gateway: určíte, kde má být kontrolní bod mezi klientem a modelem a co do něj patří
- Zprovoznit labové prostředí: nasadíte gateway, databázi pro audit a rozhraní OpenWebUI
- Připojit různé klienty: webové rozhraní, vývojový klient a interní aplikaci či agenta napojíte přes jednotné API
- Řídit přístup: nastavíte oddělené klíče pro uživatelské a aplikační použití a povolené modely
- Prosazovat guardrails: vyzkoušíte detekci a maskování citlivých údajů, blokaci rizikového požadavku a ochranu proti prompt-injection
- Řídit modely: nastavíte modelové aliasy a ukážete jednoduché směrování mezi cloudovým a lokálním modelem
- Auditovat a monitorovat: dohledáte klienta, model, tokeny, cenu a výsledek bezpečnostní politiky pro konkrétní požadavek
Pro plnohodnotné zapojení do labů očekáváme:
- běžnou orientaci v Linuxu, síti TCP/IP, DNS a HTTPS
- základy práce v příkazové řádce a s konfigurací YAML/JSON
- základní znalost kontejnerů Docker/Compose výhodou
- obecné povědomí o API, autentizaci a principech AI/LLM
Znalost LiteLLM, OpenWebUI, Codex, Cursor ani konkrétního cloudového modelu není nutná.
- Proč AI gateway: shadow AI, data, identita, audit, náklady a dodavatelská závislost. Referenční architektura a hranice gateway
- Základní lab: LiteLLM Proxy, databáze pro audit, OpenWebUI a modely. OpenAI-kompatibilní API, modelové aliasy a ověření provozu
- Klienti a přístup: OpenWebUI, Codex/Cursor nebo kompatibilní vývojový klient a jednoduchá interní aplikace. Virtuální klíče, modelová oprávnění a oddělení uživatelského a aplikačního použití
- Guardrails: DLP a citlivé údaje, maskování versus blokace, prompt-injection. Lokální versus cloudový model
- Audit a řízení provozu: request/audit log, tokeny, náklady, minimální metriky a ochrana logovaných dat
- Závěrečný mini-úkol
- Pokyny obvykle zasíláme 7 kalendářních dní před zahájením
- V objednávce uvádějte vždy jméno a příjmení účastníka, email a mobil (v případě řešení organizačních náležitostí)
- Na základě objednávky zasíláme zálohovou fakturu (pokud s objednavatelem nejsou sjednány jiné platební podmínky)
- Součástí školení je připravený LAB. Účastník nepotřebuje vlastní placené API klíče
Pro prezenční formu:
- V učebně máte připravenu veškerou potřebnou techniku
- K dispozici je poznámkový blok a psací potřeby
- Přístup k WI-FI a internetu
- Obdržíte vytištěné Osvědčení o absolvování kurzu
Pro online formu:
- Potřebujete internet, webkameru a mikrofon
- Doporučujeme dva monitory
- Před kurzem je nutné prověřit přístup k RDP protokolu či VPN (pro vzdálený přístup k LABům)
