AI model není statické aktivum. Jeho hodnota se v čase mění podle kvality dat, prostředí, ve kterém funguje, i způsobu využití. Zatímco ocenění zachycuje hodnotu v konkrétním okamžiku, monitoring ukazuje, zda si model tuto hodnotu skutečně udržuje.

Model, který byl při akvizici nebo auditu vyhodnocen jako klíčové AI aktivum společnosti, se může během několika měsíců začít zhoršovat – například kvůli změně dat, poklesu přesnosti nebo neočekávanému chování. Problém přitom často není viditelný, dokud se neprojeví v podobě finančních ztrát, nespokojených zákazníků nebo regulatorních dopadů.

V roce 2026 proto k otázce „Jakou hodnotu má náš AI model?“ přibývá stejně důležitá:

„Chová se stále tak, jak jsme při jeho ocenění předpokládali?“

Od dostupnosti k důvěryhodnosti: Proč tradiční monitorování nestačí

Klasický monitoring IT systémů odpovídá na tři základní otázky:

• Běží služba?
• Jak rychle odpovídá?
• Kolik obsahuje chyb?

U systémů využívajících umělou inteligenci však tyto metriky samy o sobě nestačí. Model může bez problémů fungovat z pohledu infrastruktury, a přesto poskytovat nekvalitní výsledky. Může například halucinovat, ztrácet přesnost, volat nesprávné nástroje nebo sebevědomě generovat chybné odpovědi. Samotná dostupnost tedy nevypovídá nic o kvalitě výstupů.

AI observabilita proto sleduje čtyři různé vrstvy:

• Data – jejich kvalitu, distribuci a aktuálnost.
• Model – přesnost, drift, výskyt halucinací nebo míru jistoty jednotlivých odpovědí.
• Infrastrukturu – latenci, náklady na tokeny a využití výpočetních prostředků.
• Chování systému – zejména u agentních AI systémů také jednotlivé kroky, rozhodnutí a použité nástroje, nikoli pouze výslednou odpověď.

U agentních systémů a architektury RAG (Retrieval-Augmented Generation) navíc nestačí sledovat pouze jednotlivé požadavky na model – je potřeba vidět celý proces, kterým úloha prošla. Chyba často nevzniká v jednom kroku, ale až v kombinaci několika dílčích akcí, které samy o sobě vypadají správně.

Jako technický základ pro tento způsob monitoringu se v roce 2026 prosazuje standard OpenTelemetry, který umožňuje jednotný sběr telemetrických dat napříč různými platformami bez závislosti na konkrétním dodavateli. Konkrétní pravidla pro popis chování generativních AI systémů (GenAI Semantic Conventions) se sice stále vyvíjejí, jejich cíl je však jasný: sjednotit způsob zaznamenávání tokenů, latence i kvality výstupů napříč různými modely.

Drift jako tichý zabiják hodnoty

Jednou z největších hrozeb pro hodnotu AI aktiv je skutečnost, že jejich výkonnost se může postupně zhoršovat, aniž by došlo k jedinému zřetelnému incidentu. Odborníci tento jev popisují dvěma pojmy:

• Model drift
• Concept drift

Model drift označuje postupný pokles výkonnosti modelu v čase, zatímco Concept drift představuje změnu vztahu mezi vstupními daty a tím, co má model predikovat. V praxi to znamená, že model natrénovaný na loňských datech o chování zákazníků nebo transakčních vzorcích postupně přestává odpovídat současné realitě.

Varovné signály se přitom objevují dlouho předtím, než dojde ke skutečné škodě. Může jít například o postupný pokles přesnosti, změnu distribuce vstupních dat nebo neobvyklý nárůst určitého typu predikcí. Problém zpravidla nespočívá v nedostatku dat, ale v tom, že je nikdo průběžně nevyhodnocuje.

Osvědčený přístup k řízení driftu proto vychází z opakujícího se třífázového procesu:

• nejprve odchylku zachytit,
• následně určit její příčinu a typ,
• a nakonec model přetrénovat.

Dá se to provést buď v rámci pravidelného harmonogramu, nebo na základě předem definovaného spouštěče.

Důsledky nečinnosti přitom nejsou jen teoretické. Podle letošní analýzy vycházející z průzkumu společnosti Splunk zaznamenala přibližně polovina dotázaných organizací výpadek způsobený chybou automatizací AI nebo driftem modelu. Téměř třetina respondentů pak jako příčinu incidentu uvedla chyby související se zavedením AI do produkčního prostředí.

Stejná studie zároveň ukazuje, že po závažnějším AI incidentu klesá hodnota akcií firem v průměru o 3,4 %, průměrná výše plateb spojených s ransomwarem se blíží 40 milionům dolarů a regulatorní pokuty dosahují v průměru 51 milionů dolarů.

Zjištění zároveň naznačují, že organizacím často chybí efektivní systém monitoringu, který by drift dokázal zachytit včas, i jasně určená odpovědnost za řešení vzniklých problémů. Bez těchto dvou prvků se i drobná odchylka může postupně proměnit v nákladný incident.

Regulace mění monitoring z dobré praxe na povinnost

Od 2. srpna 2026 se monitoring AI aktiv v EU stává právní povinností. Podle článků 72 a 73 AI Actu musí poskytovatelé vysoce rizikových AI systémů zavést zdokumentovaný systém monitoringu po uvedení systému na trh. Ten zahrnuje průběžné sledování výkonu v reálném provozu, vyhodnocování zjištěných rizik a hlášení závažných incidentů příslušným dozorovým orgánům. Lhůty jsou přitom přísné a podle typu incidentu činí 2, 10 nebo 15 dní.

Plán monitoringu je zároveň součástí technické dokumentace podle přílohy IV AI Actu. Monitoring tak už není pouze doporučenou praxí IT oddělení, ale povinnou součástí compliance. Odpovědnost nesou především poskytovatelé vysoce rizikových systémů, v určitém rozsahu ale také jejich provozovatelé.

Stejný trend potvrzuje i rámec Gartner AI TRiSM (Trust, Risk and Security Management), který řadí monitoring mezi klíčové pilíře řízení AI. Zdůrazňuje přitom, že o schopnosti odhalit problém včas rozhoduje průběžné sledování systému během provozu, nikoli jednorázově vytvořené interní politiky.

Co konkrétně u AI aktiv monitorovat

Z rámců jako ISO/IEC 42001, EU AI Act nebo Gartner AI TRiSM vyplývá několik oblastí, které by firmy měly sledovat průběžně:

• Výkon modelu – přesnost, výskyt halucinací a odchylky oproti hodnotám při nasazení.
• Změny v datech – datový drift a změny oproti trénovací sadě.
• Provozní efektivitu – náklady na tokeny, výpočetní kapacitu a neobvyklé výkyvy.
• Chování systému – u agentních AI také jednotlivé kroky, použité nástroje a bezpečnostní rizika.

Poslední oblast není pouze teoretická. Podle Gartneru vzniká významná část neautorizovaných AI akcí nikoli v důsledku vnějšího útoku, ale kvůli interním chybám, například nadměrnému sdílení informací nebo nesprávnému chování systému, které nebylo včas odhaleno.

Praktický rámec pro zavedení monitoringu

Systematický monitoring AI aktiv pro vás tedy znamená zavedení čtyř základních kroků:

• Nastavte výchozí hodnoty při uvedení modelu do provozu. Bez znalosti počáteční přesnosti, latence a nákladů nelze později odlišit skutečný drift od běžného kolísání.
• Určete odpovědnost za každé AI aktivum. Model bez jasného vlastníka je rizikem, jehož problémy může jako první odhalit až zákazník nebo regulátor.
• Propojte monitoring s konkrétní reakcí. Zachycení driftu samo o sobě nestačí. Musí následovat diagnostika a případná úprava nebo přetrénování modelu.
• Dokumentujte monitoring jako součást správy AI systémů a řízení souvisejících rizik. zejména u vysoce rizikových systémů, kde to vyžaduje regulace.

Závěr

Ocenění AI aktiva je zachycením hodnoty v jednom okamžiku. Monitoring je naopak průběžný obraz toho, zda tato hodnota v čase roste, stagnuje, nebo se postupně vytrácí. Sebepřesnější ocenění AI modelu má omezenou životnost, pokud firma nesleduje, zda model svou hodnotu v čase skutečně udržuje.

Konkurenční výhodou v roce 2026 proto nebude pouze vlastnit cenné AI aktivum, ale také mít schopnost včas rozpoznat, kdy model přestává plnit svůj účel. Je potřeba odhalit případný problém dříve, než si ho všimne zákazník, investor nebo regulátor.