AI vám dává křídla. Kdo ale řídí provoz?

Autor: Unnits

Když se o AI mluví v obecné rovině, všechno vypadá poměrně jednoduše. Firmy budou rychlejší, lidé produktivnější a část práce převezmou agenti.

Jenže ve chvíli, kdy AI skutečně pustíte do firmy, začnou přicházet mnohem praktičtější otázky. Co se děje s daty? Kdo odpovídá za výstup? Jak poznáme, které nástroje lidé používají? Jak dostat AI z experimentů několika nadšenců do běžného fungování firmy? A jak vůbec poznáme, že nám přináší skutečnou hodnotu?

Právě o tom byla odborná snídaně Principal „AI vám dává křídla. Kdo řídí provoz?“, které jsme měli možnost být součástí i my.

Do programu jsme se dostali na pozvání organizátorů, kteří hledali někoho, kdo téma AI doplní o praktický pohled na bezpečnost a řízení jejího používání ve firmách. Za Unnits vystoupil náš AI Advisor Dan Charousek. Zvolený formát byl minimum teorie, maximum zkušeností z reálného provozu – co fungovalo, co nefungovalo a kde se kdo spálil.

Čtyři pohledy na jeden problém

Program postupně nabídl několik zkušeností s adopcí AI.

Stanislav Grünfeld z Českých Radiokomunikací otevřel téma AI z pohledu velké technologické organizace. Dan následně převzal praktickou část zaměřenou na bezpečné používání AI ve firmách. Po něm přišla zkušenost Tadeáše Topola s adopcí AI a automatizací uvnitř organizace a dopoledne uzavřela panelová diskuse.

Společným jmenovatelem přitom nebyla konkrétní technologie.

Bylo jím zjištění, že AI není především problém nástroje. Je to problém lidí, procesů, odpovědnosti a řízení změny.

AI pod kontrolou – AI Gateway

Dan svou prezentaci postavil na věci, kterou zná velmi dobře z vlastní vývojářské praxe: AI umí práci dramaticky urychlit, ale rychlost sama o sobě ještě neznamená kvalitu.

U vývojáře je kritickým místem především výstup. AI dokáže velmi rychle vytvořit kód, ve kterém mohou být bezpečnostní chyby, bugy nebo nevhodná architektura. Někdo jej tedy stále musí zkontrolovat, otestovat a převzít za něj odpovědnost. U netechnických uživatelů je naopak často největším rizikem vstup, tedy co člověk do AI pošle: osobní údaje, firemní know-how nebo jiné citlivé informace. A nezůstalo jen u pouček.

Dan ukázal i vlastní fuck-up z vývoje: situaci, kdy by se bez správně nastaveného procesu AI generovaný kód dostal až do produkce. Přidal známý případ Samsungu, kde během několika týdnů zaměstnanci do ChatGPT vložili proprietární zdrojový kód, algoritmy i obsah interní schůzky. Firma následně používání generativní AI omezila. Jenže úplný zákaz má vlastní problém.

Pokud zaměstnancům bezpečnou cestu příliš zkomplikujete, vytvoří si cestu vlastní. Vzniká Shadow AI: firma neví, kdo co používá, jaká data do nástrojů odcházejí ani kam. Dan to shrnul větou:

If the safe AI path is difficult, people will create an unsafe one.

Řešením proto není AI zakázat, ale vytvořit prostředí, ve kterém ji lze používat kontrolovaně.

Dan přímo na místě ukazoval živé demo AI Gateway – technické vrstvy, která může organizaci umožnit řídit přístup k AI modelům, pravidla jejich používání a práci s daty. Gateway lze navíc provozovat i tak, aby data neodcházela ke třetí straně.

Když je vývoj příliš rychlý, je potřeba na chvíli zpomalit

Prezentace Tadeáše Topola ukázala jinou stránku stejného problému.

Při rychlé adopci AI začalo nástrojů přibývat takovým tempem, že postupně přestávalo být jasné: Co vlastně používáme? Kde je to zdokumentované? Kdo má používat co? Jakým způsobem?

Ne všechny nástroje byly popsané, vzdělávání probíhalo nesystematicky po jednotlivých odděleních a ukázalo se, že dostupnost nástroje není totéž jako jeho adopce.

V jednu chvíli proto bylo potřeba paradoxně zpomalit.

Ne kvůli tomu, aby se inovace zastavila. Naopak proto, aby bylo možné určit směr, sjednotit metodiku a přestat honit každý nový nástroj, který se objeví.

Závěr této zkušenosti byl velmi praktický: je potřeba potlačit nadšení z jednoho nového nástroje a začít řešit procesy a metodiku.

Největší efekt nastává, když se spojí:

technologie + lidé + procesy + mindset.

IT za vámi nepřijde a neřekne vám, jak máte dělat obchod

Jedna z nejsilnějších myšlenek zazněla v panelové diskusi kolem rozdílné adopce AI napříč firmou.

Jiří Raška sdílel zkušenost, že ve vývoji se adopce AI pohybuje zhruba kolem 70 %, zatímco v obchodu přibližně kolem 30 %. Zároveň popsal formát interních edusedánků, kde si lidé předávají zkušenosti mezi sebou – například finančák ukazuje finančákovi, co se naučil a co mu v praxi funguje.

V debatě dále zazněla myšlenka, že byznys nemůže čekat, že za ním přijde IT a samo mu řekne, jak má AI používat. Technický tým totiž nemusí vědět, kde obchod, finance nebo jiná část firmy skutečně ztrácí čas a co potřebuje změnit. To musí umět pojmenovat samotný byznys.

„Nějak to vyřešte pomocí AI“ není zadání.

Hodnota začíná vznikat ve chvíli, kdy dokážeme říct: Co dnes děláme? Kde nás to bolí? Co chceme změnit? A podle čeho poznáme, že je nový stav lepší?

Právě proto dává smysl i sdílení zkušeností mezi lidmi ze stejné profese. Praktické know-how často nejlépe předá člověk, který zná stejnou práci, stejné problémy a dokáže ukázat konkrétní použití AI v každodenní praxi. Podobný princip zazněl už v úvodní prezentaci Stanislava Grünfelda z Českých Radiokomunikací, kde při adopci AI pracují se sítí interních ambasadorů. Nejde tedy jen o centrální školení nebo pokyn shora. Firma si uvnitř vytváří lidi, kteří AI skutečně používají, sbírají zkušenosti a pomáhají je přenášet dál do svých týmů.

Výpadek AI není výpadek mojí práce

V panelové diskusi zazněla ještě jedna důležitá myšlenka: AI se může stát běžnou součástí práce, ale neměla by se stát jedinou podmínkou, bez které člověk přestane být schopný fungovat.

S rostoucí adopcí AI si na její pomoc velmi rychle zvykáme. O to důležitější je držet si zdravou míru závislosti. Když vypadne model, služba nebo přístup k nástroji, neměla by se spolu s tím zastavit i práce samotná.

AI má práci zrychlovat, rozšiřovat možnosti a snižovat rutinu. Neměla by ale nahradit základní schopnost člověka práci pochopit a v případě potřeby ji zvládnout i bez ní.

Tohle je důležité nejen kvůli provozní odolnosti, ale i kvůli odpovědnosti. AI může být silný akcelerátor. Neměla by být single point of failure člověka ani firmy.

Nejdůležitější možná není znalost AI

Petr Hnízdil v panelu přidal další pohled.

Pro adopci podle něj nemusí být nejdůležitější hluboká znalost technologie. Důležitější může být přístup a odhodlání zkusit něco nového.

A také ochota přijmout, že experiment nemusí vyjít.

To je možná překvapivě velká součást celé AI transformace. Firmy mohou nakoupit licence, připravit infrastrukturu a proškolit zaměstnance. Pokud ale prostředí netoleruje neúspěšný experiment, skutečná inovace se rozbíhá těžko.

Jak vlastně poznáme, že AI funguje?

Panel se nakonec dostal i k otázce, na kterou dnes hledá odpověď téměř každá firma: Jak měřit návratnost AI?

Metodik a nástrojů, které to slibují, existuje mnoho. Jednoduché a univerzální řešení ale podle diskutujících zatím neexistuje.

Jedním z přístupů je sledování rychlosti změny. Ne nutně: „Kolik nám AI vydělala korun?“ Ale například:

• Jak dlouho nám dnes trvá udělat srovnatelný inkrement oproti minulosti?
• Jak rychle se dostaneme od požadavku k hotové změně?

Právě to může být mnohem praktičtější měřítko skutečné produktivity.

A zazněl i velmi jednoduchý pohled přes FTE: pokud člověk před AI dodával hodnotu odpovídající jednomu FTE, AI musí jeho výstup zvýšit natolik, aby zaplatila nejen sama sebe a své tokeny, ale ještě vytvořila dodatečnou hodnotu. Člověk s AI tedy musí udělat stejně práce, jako dříve 3 lidé. Protože jinak je AI pouze další náklad.

AI bez byznysového přínosu je mrtvá.

A co bude dál?

Závěrečná diskuse se dotkla i toho, co můžeme čekat v příštím roce.

AI hype pravděpodobně nezmizí. Změní se ale způsob, jakým se v něm firmy pohybují. Místo jednotlivých chatbotů začne být důležitější:

• řízení celého prostředí AI nástrojů,
• orchestrace agentů,
• governance,
• práce s oprávněními a daty,
• měření skutečného přínosu,
• a ekonomika provozu.

Zazněl také předpoklad, že může růst význam lokálních a on-premise modelů. U dostatečně intenzivního využití mohou začít dávat smysl nejen kvůli bezpečnosti a kontrole nad daty, ale také ekonomicky ve srovnání s neustálým voláním veřejných modelů.

Co jsme si odnesli my

Poznámek jsme si odnesli opravdu hodně. Ale jedna linka se táhla prakticky celým dopolednem:

AI už není jen otázka toho, co technologie umí. Mnohem důležitější začíná být, jak ji firma dokáže řídit.

Jak ji dostane k lidem. Jak nastaví procesy. Jak zajistí bezpečnost. Jak pozná, že vytváří hodnotu. A jak si přitom zachová schopnost experimentovat.

Děkujeme za pozvání Radovanu Pekárkovi a Blance Foglové.