Předchozí stránky ukázaly, jak rychle se AI zlepšuje a proč část odborníků čeká obecnou inteligenci možná už v příštích desetiletích. Obor ale v tomhle zdaleka nemluví jedním hlasem. Řada uznávaných výzkumníků — včetně lidí, kteří dnešní AI sami vyvíjeli — považuje superinteligenci za vzdálenou, nebo tvrdí, že k ní dnešní metody nevedou. Jejich argumenty stojí za pozornost stejně jako varování, protože pomáhají odhadnout, co je skutečný pokrok a co jen působivé číslo.
Jazykové modely podle nich nestačí
Yann LeCun, jeden z průkopníků neuronových sítí a nositel Turingovy ceny za rok 2018 (společně s Geoffreym Hintonem a Yoshuou Bengiem), dlouhodobě tvrdí, že modely učené hlavně na textu k lidské úrovni inteligence nedojdou. Jeho argument vychází z pozorování dětí a zvířat: kočka ani batole nečetly miliardy vět, a přesto rozumějí tomu, jak se věci ve světě chovají — že hrnek spadne, když ho pustíte. Podle LeCuna potřebují stroje takzvané modely světa, které se učí z pozorování a umějí předvídat důsledky činů. Svou představu popsal v textu A Path Towards Autonomous Machine Intelligence (2022).
Podobně argumentuje kognitivní vědec Gary Marcus. V roce 2018 sepsal deset výhrad k hlubokému učení: potřebuje obrovské množství dat, špatně přenáší naučené do nových situací a obtížně pracuje s abstraktními pravidly. Nepopírá jeho úspěchy, ale tvrdí, že k obecné inteligenci je potřeba ho doplnit jinými přístupy, například explicitní prací se symboly a pravidly.
Úspěch v úzké úloze není krok k obecnosti
Informatička Melanie Mitchell v eseji Why AI is Harder Than We Think (2021) popisuje čtyři omyly, kvůli kterým se podle ní pokrok AI opakovaně přeceňuje:
- Úzká inteligence leží na stejné cestě jako obecná. Když stroj zvládne šachy nebo překlad, snadno to vypadá jako první krok k obecné inteligenci. Mitchell připomíná, že tenhle „první krok“ se v historii oboru ohlašoval mnohokrát.
- Co je snadné, je snadné, a co je těžké, je těžké. Ve skutečnosti je to často naopak: porazit mistra v šachu se podařilo dřív, než naučit robota spolehlivě složit prádlo. To, co lidé zvládají bez přemýšlení, bývá pro stroje nejtěžší.
- Svůdná jména. Když se test jmenuje „porozumění textu“, svádí to k závěru, že model, který v něm uspěl, textu rozumí. Název testu ale není důkaz schopnosti.
- Inteligence je jen v mozku. Lidská inteligence podle Mitchell souvisí i s tělem, emocemi a kulturou, ve které vyrůstáme. Samotný výpočet ji nemusí stačit napodobit.
Měřit, jak rychle se stroj učí nové
François Chollet, autor populární knihovny pro hluboké učení Keras, navrhl v práci On the Measure of Intelligence (2019) jiný pohled na to, co inteligence je. Podle něj nejde o to, kolik dovedností systém ovládá — ty se dají „koupit“ obrovským množstvím tréninkových dat. Jde o to, jak rychle a s jak malým počtem příkladů se naučí něco úplně nového. K tomu vytvořil test ARC-AGI: sadu obrázkových hádanek, které lidé vyřeší bez větší námahy, ale pro AI zůstávají obtížné. Kdo chce poznat skutečný posun k obecné inteligenci, má podle Cholleta sledovat právě takové úlohy, ne rekordy v testech, na které se dá natrénovat.
Plynulá řeč není porozumění
Lingvistka Emily M. Bender, informatička Timnit Gebru a jejich spoluautorky v roce 2021 přirovnaly velké jazykové modely ke stochastickým papouškům: skládají slova podle toho, jak se v textech vyskytují pohromadě, bez vazby na to, co znamenají. Plynulost podle nich svádí lidi k tomu, aby modelům připisovali porozumění, které nemají. Autorky zároveň upozornily na problémy, které existují už dnes a nesouvisejí se superinteligencí: předsudky převzaté z tréninkových dat, spotřebu energie a soustředění moci u několika velkých firem.
Tohle je jeden z hlavních sporů v oboru. Jiní výzkumníci namítají, že modely si při tréninku vytvářejí užitečné vnitřní představy o světě (viz Jak funguje AI). Kdo má pravdu, zatím rozhodnuté není — a záleží i na tom, co přesně slovem „porozumění“ myslíme.
Technologie se zavádí pomalu
Informatici Arvind Narayanan a Sayash Kapoor z Princetonu navrhují dívat se na AI jako na „normální technologii“ (2025), podobnou elektřině nebo internetu. Rozlišují tři různě rychlé procesy: vynález nové metody, vývoj užitečné aplikace a její skutečné zavedení v lidské práci. Nejpomalejší je to poslední — firmy, úřady i lidé se přizpůsobují léta, bezpečnostní pravidla a legislativa vznikají postupně. Proto podle nich velké ekonomické dopady přijdou během desetiletí, ne náhle. Stejní autoři v knize AI Snake Oil (2024) ukazují, jak často se pod nálepkou AI prodávají produkty, které neumějí, co slibují — hlavně systémy, které mají předpovídat lidské chování.
K podobnému závěru došel ekonom Daron Acemoglu, nositel Nobelovy ceny za ekonomii 2024. Ve studii The Simple Macroeconomics of AI (2024) odhaduje, že AI během příštích deseti let zvýší celkovou produktivitu ekonomiky o méně než 0,53 %. Nepopírá užitečnost AI v jednotlivých úlohách — jen ukazuje, jak malou část celé ekonomiky tyto úlohy zatím tvoří.
Zdroje nejsou nekonečné
Dosavadní pokrok stál i na tom, že modely dostávaly stále víc textu. Výzkumníci z organizace Epoch AI odhadli, že modely budou trénované na množství odpovídajícím veškerému veřejně dostupnému textu napsanému lidmi někdy mezi lety 2026 a 2032. Sami autoři ale uvádějí i možná řešení: uměle vytvořená data, učení z jiných zdrojů a efektivnější trénink. Je to tedy limit, se kterým se bude muset obor vyrovnat, ne nutně konečná. Podobnou roli hraje elektřina a výpočetní výkon, o kterých píšeme na stránce Přínosy a rizika.
V čem se skeptici a znepokojení shodnou
Skeptické hlasy neříkají, že AI je neškodná. Bender a Gebru upozorňují hlavně na škody, které vznikají už dnes. Marcus veřejně podporuje přísnější regulaci. Spor se vede především o tempo a cestu: jestli dnešní metody stačí, jak rychle se prosadí a zda má smysl připravovat se na superinteligenci, nebo spíš řešit konkrétní problémy současných systémů.
Obě strany se ale shodnou na tom, že tvrzení o AI je potřeba ověřovat, ne jim věřit na slovo. Proto jsme na stránce Kdy a jak může přijít sepsali, jak poznat skutečný pokrok od reklamy — a to platí pro optimistické i skeptické předpovědi.