Téma 2 z 11

Jak se AI skládá: vrstvy od čipu po agenta

Když řekneme „AI“, obvykle nemyslíme jednu věc, ale celou skladbu vrstev. Dole jsou čipy a elektřina, uprostřed model a jeho výcvik, nahoře aplikace, nástroje a lidé, kteří rozhodují, k čemu se to celé použije. Pochopit tyto vrstvy pomáhá odpovědět na otázky typu „proč mi chatbot jednou poradí skvěle a jindy ne“ nebo „co přesně je na novém modelu nového“.

↑ blíž člověkuLidé a pravidla: zadání, dohled, odpovědnost, zákonyLidé a pravidlazadání, dohled, odpovědnost, zákonyAgent: cíl, plán, sled kroků, oprávněníAgentcíl, plán, sled kroků, oprávněníNástroje: vyhledávání, spouštění kódu, dokumentyNástrojevyhledávání, spouštění kódu, dokumentyAplikace: rozhraní, paměť, bezpečnostní filtryAplikacerozhraní, paměť, bezpečnostní filtryReasoning: přemýšlení a ověřování před odpovědíReasoningpřemýšlení a ověřování před odpovědíDolaďování: z modelu asistent: ukázky, hodnoceníDolaďováníz modelu asistent: ukázky, hodnoceníModel: neuronová síť, miliardy parametrůModelneuronová síť, miliardy parametrůData a trénink: texty, obrázky, kód; odhad dalšího tokenuData a tréninktexty, obrázky, kód; odhad dalšího tokenuHardware: grafické čipy, datová centra, elektřinaHardwaregrafické čipy, datová centra, elektřina↓ blíž hardwaru
Zjednodušený pohled. Co označujeme jako „AI“, je celá tato skladba — a chyba nebo omezení se může objevit v kterékoli vrstvě.

Zespodu nahoru

Hardware. Trénink velkých modelů běží na tisících grafických čipů v datových centrech a spotřebuje hodně elektřiny. Proto je výpočetní výkon jedním z hlavních limitů i nákladů celého oboru.

Data a trénink. Model se učí na obrovském množství textů, obrázků a kódu. Základní úloha je překvapivě prostá: odhadnout, jaký kousek textu (token) bude následovat. Podrobnosti: Jak funguje AI.

Model. Výsledkem tréninku je neuronová síť s miliardami parametrů — „knoflíků“, ve kterých jsou rozprostřené naučené vztahy. Samotný model je jen soubor čísel; nic nedělá, dokud ho někdo nespustí.

Dolaďování. Surový model umí pokračovat v textu, ale neumí být užitečným asistentem. Dolaďování ho učí odpovídat na otázky, držet se pokynů, odmítnout nebezpečnou žádost a přiznat nejistotu — na ukázkách, hodnoceních od lidí i na úlohách, jejichž výsledek jde automaticky ověřit.

Reasoning. Novější modely se navíc naučily před odpovědí „přemýšlet“ — rozložit úlohu, zkusit postup, zkontrolovat ho a případně začít znovu. Tuto vrstvu rozebíráme podrobně níže.

Aplikace. To, s čím mluvíte v prohlížeči nebo v telefonu. Kolem modelu přidává rozhraní, historii rozhovoru, případnou paměť mezi rozhovory a bezpečnostní filtry. Dva produkty se stejným modelem se proto mohou chovat dost odlišně.

Nástroje. Model může dostat vyhledávač, kalkulačku, přístup k dokumentům nebo prostředí pro spouštění kódu. Nemusí pak všechno „vědět z hlavy“ — informaci si najde nebo výsledek spočítá. Kvalita odpovědi ale stále závisí na tom, jak dobře nástroj použije.

Agent. Když systém nejen odpovídá, ale sám plánuje a provádí sled kroků směrem k cíli, mluvíme o agentovi. Rozhodující je, jaká oprávnění dostane: číst, nebo i zapisovat, posílat, platit? Více: AI agenti.

Lidé a pravidla. Nahoře jsou ti, kdo zadávají úkoly, kontrolují výsledky a nesou odpovědnost — a zákony jako evropský AI Act. Tato vrstva rozhoduje, k čemu se schopnosti ze spodních pater skutečně použijí.

Proč na tom záleží

Když AI udělá chybu, pomáhá se zeptat, ve které vrstvě vznikla. Model danou věc nikdy neviděl? Aplikace mu nepředala důležitý dokument? Vyhledávač našel špatný zdroj? Agent měl zbytečně velká oprávnění? Každá vrstva se opravuje jinak.

Reasoning: když model nejdřív přemýšlí

Rychlá a pomalá odpověď

Zkuste si hádanku: „Pálka a míček stojí dohromady 110 Kč. Pálka je o 100 Kč dražší než míček. Kolik stojí míček?“

Většina lidí nejdřív vyhrkne 10 Kč. Jenže pak by pálka stála 110 Kč a dohromady by to dělalo 120. Správně je 5 Kč (pálka 105 Kč). Psycholog a nositel Nobelovy ceny za ekonomii Daniel Kahneman tomu v knize Myšlení rychlé a pomalé (anglicky Thinking, Fast and Slow, 2011) říkal rozdíl mezi rychlým, intuitivním myšlením a pomalým, pečlivým.

Klasický jazykový model odpovídá „rychle“: token po tokenu, bez možnosti se zastavit a vrátit. Reasoning — česky zhruba uvažování — je snaha dát mu to pomalé myšlení.

Krok za krokem

Už v roce 2022 výzkumníci ukázali, že když model požádáte, aby postupoval krok za krokem a mezivýsledky vypsal, řeší slovní a logické úlohy výrazně lépe. Metoda dostala jméno chain of thought, řetězec myšlenek. (Wei a kol., 2022)

Proč to funguje? Model „myslí“ jen tím, že vytváří text. Každý vypsaný mezikrok se stane součástí kontextu, ze kterého počítá další token — mezivýsledky si tak může „odložit na papír“, místo aby vše musel zvládnout v jediném kroku.

Modely, které se přemýšlet naučily

Další krok přišel, když se modely začaly přemýšlet učit samy. V září 2024 představila OpenAI model o1 (Learning to reason with LLMs), v lednu 2025 zveřejnil DeepSeek podrobný popis modelu R1 (DeepSeek-R1). Princip je v obou případech podobný:

  1. Model dostane úlohu, jejíž výsledek jde ověřit — matematický příklad se známým výsledkem, programátorskou úlohu s testy.
  2. Nejdřív „přemýšlí“: vypisuje postup, zkouší cesty, všímá si chyb.
  3. Za správný výsledek dostane odměnu; tento způsob tréninku se nazývá posilované učení (reinforcement learning).
  4. Po mnoha opakováních se naučí postupy, které k dobrým výsledkům vedou: rozdělit problém, zkontrolovat mezivýsledek, vrátit se, když něco nesedí.

Zajímavé je, že nikdo modelu nepředepsal, jak má přemýšlet. Delší a pečlivější postupy se objevily proto, že vedly k odměně.

Víc přemýšlení = víc výpočtů

Reasoning přináší nový knoflík: kolik výpočtu dát modelu při odpovídání. U těžkých úloh často platí, že delší přemýšlení vede k lepšímu výsledku — někdy lze tímto způsobem dosáhnout podobného zlepšení jako zvětšením modelu. (Snell a kol., 2024) Má to ale cenu: odpověď trvá déle a stojí víc energie i peněz.

Kde reasoning pomáhá — a kde ne

Pozor na „myšlenky“ na obrazovce

Některé aplikace ukazují, co model „přemýšlí“. Vypadá to jako pohled do jeho hlavy — ale nemusí to být věrný záznam toho, co odpověď skutečně způsobilo. Výzkum ukázal, že modely umějí napsat přesvědčivé zdůvodnění, které s jejich skutečným rozhodnutím nesouvisí. (Turpin a kol., 2023) Vypsaný postup je užitečný ke kontrole, ne jako důkaz.

Co z toho plyne pro superinteligenci

Vrstvy ukazují, že pokrok nemusí přijít jen z většího modelu. Schopnosti celého systému rostou i díky lepšímu přemýšlení, nástrojům, agentům a propojení s dalšími systémy. Stejně tak se ale v každé vrstvě dají stavět pojistky: omezená oprávnění, kontrola výsledků, lidské schválení důležitých kroků. Podrobněji: Bezpečnost AI.