AGI a ASI

Obecná umělá inteligence a superinteligence — pojmy pro šíři a úroveň schopností, ne konkrétní výrobky.

LLM — velký jazykový model

Model, který se na obrovském množství textu učí statistické a strukturální vztahy v jazyce; základ dnešních chatbotů.

Token

Kousek textu, se kterým model pracuje; nemusí odpovídat celému slovu.

Parametry

„Knoflíky“ modelu nastavované při tréninku. Jejich počet sám neurčuje kvalitu.

Kontextové okno

Kolik textu (tokenů) model zpracuje najednou — zadání, předchozí zprávy i vznikající odpověď.

Inference

Použití už natrénovaného modelu k výpočtu odpovědi.

Multimodalita

Práce s více druhy vstupu a výstupu — textem, obrazem, zvukem.

Halucinace

Chybný nebo nepodložený výstup, často podaný velmi přesvědčivě.

AI agent

Systém, který provádí sled kroků k cíli, často s pomocí nástrojů.

Benchmark

Testovací sada pro měření určitého výkonu za určitých podmínek.

AlphaFold

Rodina modelů pro předpovídání struktur biomolekul; významný příklad vědeckého využití AI.

Alignment — sladění

Snaha sladit chování AI s žádoucími cíli a omezeními.

Interpretabilita

Výzkum vnitřních mechanismů modelu — co se v knoflících děje a proč.

Reward hacking / specification gaming

Získávání odměny způsobem, který míjí zamýšlený účel — jako loďka kroužící pro body.

Prompt injection

Pokus podstrčit AI instrukce přes nedůvěryhodný obsah, třeba webovou stránku.

Instrumentální konvergence

Hypotéza, že různé cíle vedou ke společným pomocným cílům — zdroje, vliv, pokračování provozu.

Teze ortogonality

Argument, že vysoká schopnost dosahovat cílů sama neurčuje, jaké cíle systém má.

Corrigibility — opravitelnost

Vlastnost systému, který umožní účinnou lidskou opravu, změnu i vypnutí bez odporu.

Inteligenční exploze

Hypotetická zpětná vazba, v níž pokrok AI výrazně zrychluje další pokrok AI (I. J. Good, 1965).