Na úvodní stránce jsme si tři pojmy představili jako tři patra jednoho domu. Tady se podíváme blíž na to, co se v jednotlivých patrech skrývá, proč se odborníci neshodnou, kde přesně končí první patro, a jak podle toho číst zprávy o „dosažení AGI“.
AI je víc než chatbot
Umělá inteligence je s námi déle, než se zdá. Filtr, který třídí spam, navigace hledající nejrychlejší trasu, doporučení dalšího filmu, program, který na rentgenovém snímku označí podezřelé místo — to všechno je AI, a nic z toho si s vámi nepovídá. Obor zahrnuje velmi různé metody. Některé se učí z dat (strojové učení, na kterém stojí dnešní modely), jiné pracují podle pravidel zapsaných člověkem nebo systematicky prohledávají možnosti jako šachový program.
Pozor také na záměnu podobných slov. Generativní AI je taková, která vytváří obsah: text, obrázek, hudbu. Obecná AI je taková, která zvládne široké spektrum různých úloh. Chatbot generuje text, a přesto nemusí být obecný; naopak systém, který negeneruje nic, může být v mnoha úlohách velmi schopný.
Co znamená AGI
Zkratka AGI, artificial general intelligence, označuje obecnou umělou inteligenci. Potíž je v tom, že každý pod ní vidí něco trochu jiného — už samotných definic inteligence posbírali výzkumníci Shane Legg a Marcus Hutter přes sedmdesát. Jedni myslí schopnost učit se a uvažovat v jakékoli oblasti jako člověk. Druzí, například OpenAI ve své zakládací listině, mluví o systémech, které překonají lidi ve většině ekonomicky hodnotné práce. Třetí zdůrazňují, že se systém musí umět naučit novou úlohu, na kterou nebyl připravený.
V tomto průvodci používáme AGI pro systém, který zvládá široké spektrum úloh zhruba na úrovni člověka a dokáže se učit nové. Je to pracovní vymezení, ne norma. A právě proto nemá smysl otázka „už je model X AGI?“, dokud neřekneme, které úlohy, ve srovnání s kým a za jakých podmínek. Hodnotit šíři, úroveň výkonu a samostatnost každou zvlášť navrhuje například Levels of AGI od výzkumníků z Google DeepMind; i to je návrh do diskuse, ne závazná stupnice.
Co znamená ASI
ASI, artificial superintelligence, je superinteligence: výrazná převaha nad nejlepšími lidmi v prakticky všech významných poznávacích oblastech. Nestačí počítat rychleji než matematik nebo vyhrát jeden test — to umí kalkulačka a šachový program už dnes. Podrobné vymezení najdete u Bostroma.
Definice mluví jen o schopnostech. Superinteligence by nepotřebovala lidské tělo, lidskou povahu ani vědomí. A nebyla by neomylná: i nejchytřejší systém potřebuje data, která někdy chybí, a budoucnost zůstává nejistá i pro něj.
Rozdíl mezi AGI a ASI je tedy hlavně v úrovni široce použitelného výkonu. A z toho, že by vznikla obecná AI, neplyne žádný termín, kdy by přišla superinteligence.
Čtyři otázky místo jedné nálepky
Když chcete konkrétní systém posoudit, pomůže rozdělit si ho na čtyři otázky:
- Šíře: kolik různých druhů úloh zvládá?
- Úroveň: jak dobře je řeší ve srovnání s lidmi, kteří je dělají profesionálně?
- Spolehlivost: uspěje opakovaně a pozná vlastní chybu?
- Samostatnost: kolik práce udělá bez lidského vedení?
Model může být výborný matematik a zároveň špatný organizátor. Jiný spolehlivě zpracuje hromadu administrativy, ale ve vědě na špičku nedosáhne. Jedna nálepka „AGI ano/ne“ tyhle rozdíly zakryje, čtyři otázky je ukážou.
Samostatnost navíc není pravomoc. Systém může umět naplánovat nákup, a přesto nemá právo ho provést — to záleží na tom, jaká oprávnění mu lidé dají. Víc na stránce AI agenti.
Co si s AGI neplést
- Vědomí je subjektivní prožívání. Schopnost řešit úlohy o něm nic neříká, ani v jednom směru.
- Agentnost je jednání směřující k cíli. Úzce zaměřený agent může být velmi samostatný, a přitom vůbec ne obecný.
- Obecně použitelný model je technické a v EU i právní označení modelu s širokým využitím. Neznamená, že by podle zákona něco „dosáhlo AGI“.
Jak číst zprávy o „dosažení AGI“
Až uvidíte titulek, že někdo AGI dosáhl, hledejte tři věci: jakou definici použil, jaké konkrétní důkazy předložil a kdo je nezávisle ověřil. Často zjistíte, že se lidé přou o slovo, zatímco na tom, co systém skutečně umí, se shodnou. Jak poznat skutečný pokrok od reklamy, rozebíráme na stránce Kdy a jak může přijít.