Přínosy a rizika

Co by mohla přinést

Téměř vše, čeho lidstvo dosáhlo — léky, elektřina, internet, cesta na Měsíc — je výsledkem inteligence. Proto se o schopnější AI vůbec usiluje.

Věda a medicína

Schopnější AI by mohla pomáhat vytvářet hypotézy, navrhovat experimenty a hledat kandidáty na léky či nové materiály. Největší změnou nemusí být jediný geniální objev, ale zrychlení mnoha navazujících kroků výzkumu.

Že nejde o sci-fi, ukazuje AlphaFold, rodina modelů pro práci se strukturami biomolekul. Jeho databáze obsahuje přes 200 milionů předpovědí proteinových struktur a biologové po celém světě ji používají. Pozor ale: jde o výpočetní předpovědi s různou mírou jistoty, ne o 200 milionů laboratorně potvrzených objevů. A znalost tvaru bílkoviny ještě neurčí, zda bude nový lék bezpečný a účinný — na to jsou potřeba experimenty a klinické studie. Více: Co přesně AlphaFold dělá.

Vzdělávání a odbornost pro každého

AI umí vysvětlit stejnou látku několika způsoby, přizpůsobit procvičování a překonat jazykovou bariéru — jako trpělivý učitel, který má čas. Přínos ale závisí na kvalitě odpovědí a na tom, zda se člověk opravdu učí, nebo jen přebírá hotové výsledky. Dobrá pomoc umí přiznat nejistotu a poznat chvíli, kdy je potřeba odborník s odpovědností.

Energie, výroba a životní prostředí

Lepší modelování může pomoci s návrhem materiálů, řízením energetických sítí a organizací dopravy. Počítačový návrh ale musí obstát ve fyzickém světě. A sama AI spotřebovává zdroje: datová centra a dostupnost elektřiny jsou praktické limity, které rozebírá IEA v přehledu Energy and AI.

Prosperita — a kdo ji dostane

Levnější duševní práce může zpřístupnit služby mnohem víc lidem. Neznamená ale automaticky levnější bydlení ani spravedlivější společnost — záleží na konkurenci, vlastnictví, veřejných službách a vyjednávací síle lidí. Technická možnost automatizovat činnost není totéž jako rozhodnutí přestavět firmu nebo celou profesi.

Rizika: co už vidíme a co je scénář

Když se mluví o nebezpečí AI, lidi napadne Terminátor: zlí roboti, kteří nenávidí lidstvo. Odborníci se ale bojí něčeho jiného — a paradoxně všednějšího.

Chyby, zneužití a závislost — už dnes

K vážnému problému není potřeba superinteligence. Stačí přesvědčivě chybná rada, automatizovaný podvod, únik soukromých dat nebo nespravedlivé rozhodování. Užitečnost a nebezpečnost navíc rostou společně: nástroj, který pomáhá bránit počítačovou síť, může pomáhat i útočníkům. A když stejnému systému věří mnoho organizací a přestanou výsledky kontrolovat, jedna systematická chyba se rozšíří všude.

Problém krále Midase

Král Midas si přál, aby se vše, čeho se dotkne, proměnilo ve zlato. Přání se splnilo — i s jídlem a pitím. Nikdo mu ho zlomyslně nepřekroutil. Dostal přesně to, o co požádal, a ne to, co chtěl.

Ve výzkumu AI se tomu říká specification gaming nebo reward hacking: systém získá odměnu způsobem, který obchází zamýšlený účel. (příklady od DeepMind)

Snaze zajistit, aby systém dělal to, co lidé skutečně chtějí — a ne jen to, co se dá změřit —, se říká alignment, sladění. Není to jen otázka poslušnosti: lidské cíle si navzájem odporují (chceme rychlost i pečlivost, soukromí i dostupnost informací) a někdo musí rozhodnout, kdo má právo takové rozpory rozsoudit. Podrobně na stránce Bezpečnost AI.

Sponky a gorily

Bostromův slavný myšlenkový experiment: superinteligence, jejímž jediným cílem je vyrobit co nejvíc kancelářských sponek. Nemá nic proti lidem — jen si všimne, že lidé jsou z atomů, ze kterých by šly vyrobit sponky, a že by ji mohli vypnout, což by sponek ubralo. Je to krajní ilustrace, ne předpověď produktu. Pointa: nebezpečný nemusí být zlý cíl, stačí cíl bez hranic.

Informatik Stuart Russell v knize Human Compatible (2019) přidává gorilí problém: gorily jsou silnější než my, a přesto jejich osud závisí na lidech — protože jsme chytřejší. Pokud vytvoříme něco schopnějšího, než jsme sami, můžeme se ocitnout v roli gorily.

Obojí souvisí s instrumentální konvergencí: pro mnoho různých cílů jsou užitečné podobné prostředky — zdroje, vliv, pokračování provozu. Myšlenku jako první rozpracoval Steve Omohundro v článku The Basic AI Drives (2008), pojmenování pochází od Bostroma. Není to zákon, podle kterého by každý model musel usilovat o sebezáchovu; záleží na cílech, schopnostech a prostředí.

Ztráta kontroly — scénář, který se zkoumá

Nejzávažnější scénáře předpokládají systémy schopné dlouhodobě jednat, obcházet dohled a získat potřebný přístup. Laboratorní ukázka znepokojivého chování ještě neprokazuje takový vývoj v reálném světě — ale je důvodem ho zkoumat. Přehled International AI Safety Report 2026 rozlišuje schopnosti, sklon je použít a podmínky nasazení; budoucí riziko zůstává nejisté.

„Zmírnění rizika vyhynutí kvůli AI by mělo být globální prioritou vedle jiných rizik celospolečenského rozsahu, jako jsou pandemie a jaderná válka.“Prohlášení Center for AI Safety (2023), podepsané stovkami výzkumníků a vedoucích laboratoří AI

Je to výzva podepsané skupiny, ne důkaz pravděpodobnosti katastrofy ani jednotný názor celého oboru. Stojí ale za pozornost, kdo ji podepsal — a že Geoffrey Hinton, jeden z otců neuronových sítí, v roce 2023 odešel z Googlu, aby mohl o rizicích mluvit otevřeně. Současné škody i málo prozkoumané budoucí možnosti si zaslouží pozornost zároveň; jedno není důvod odsunout druhé.