AI inženýrství

Vytvářím AI funkce, které obstojí v provozu: jazykové modely zapojené do skutečných produktů, vyhledávání nad firemními daty, agenty, kteří bezpečně používají nástroje, a k tomu testování, bezpečnost a monitoring. Vedle toho od roku 2018 používám strojové učení v produktech pro predikce, hodnocení rizik a oceňování vozidel.

1. Integrace LLM a modelů

Volba modelu pro každou úlohu podle kvality, latence a nákladů; hostovaná API (OpenAI, Claude, Gemini, Perplexity) nebo Llama na vlastním serveru llama.cpp; záložní cesty při výpadku poskytovatele; a kontrola nákladů na funkci. Seliee umožňuje každému zákazníkovi použít vlastní klíč poskytovatele nebo připojit vlastní model.

2. Architektura RAG

Ingestion a chunking zdrojových dokumentů, vyhledávání a reranking, odpovědi s uvedením zdrojů a aktualizační úlohy, které drží znalosti aktuální. Osobní asistent na tomto webu odpovídá jen z mého portfolia a asistent v aplikaci Seliee načítá jen části znalostí odpovídající aktuální stránce a otázce.

3. Agentní AI

Volání nástrojů a orchestrace, stav držený mimo model, oprávnění pro každý nástroj a lidské schválení nevratných akcí. V AI Office v Seliee agenti spouštějí scénáře s nástroji panelu a publikování, odesílání a utrácení vždy čeká na schválení; MCP server zpřístupňuje stejné nástroje externím agentům.

4. Evaluace a kvalita

Testovací sady z reálných otázek, offline evaluace před vydáním, online kontroly po něm, regresní testy pro změny promptů a modelů a předem domluvená kritéria úspěchu. Modul AI Visibility v Seliee měří, zda odpovědi OpenAI, Claude, Gemini a Perplexity zmiňují daný web.

5. Bezpečnost

Ochrana proti prompt injection a úniku dat, izolace tenantů, autorizace při každém volání nástroje a auditní stopa akcí agentů.

6. Observabilita a provoz

Tracing, spotřeba tokenů, latence, chybovost a náklady na funkci, sledované v provozu stejnou praxí s Graylogem a Grafanou jako na platformách v Kubernetes.

Strojové učení v produktech

Predikce, hodnocení rizik, oceňování vozidel a překlad založený na NLP s TensorFlow, PyTorch a scikit-learn, napájené crawlery a datovými pipeline.