Kdy a jak může přijít

Jak by superinteligence mohla vzniknout

Cesta 1: víc prostředků a lepší metody

Od roku 2012 rostou schopnosti AI díky kombinaci výpočetního výkonu, kvalitnějších dat, lepších algoritmů a účinnějšího tréninku. Samotný počet parametrů není měřítkem schopností — výzkum výpočetně optimálního tréninku ukázal, jak záleží na poměru velikosti modelu a množství dat. Pomoci může i lepší paměť, práce s nástroji, učení z ověřitelných výsledků a plánování. Zda bude stačit rozvíjet dnešní přístupy, nebo budou potřeba zásadně nové principy, je otevřené — odborníci se tu opravdu neshodnou.

Cesta 2: AI pomáhá vyvíjet další AI

Britský matematik I. J. Good, který za války pracoval s Alanem Turingem na luštění šifer, domyslel v roce 1965 jednoduchou úvahu: stroj chytřejší než člověk bude lepší i v navrhování strojů. Navrhne tedy chytřejší stroj, ten zase chytřejší — a lidská inteligence rychle zůstane pozadu. První takový stroj nazval „posledním vynálezem, který člověk kdy bude muset udělat“, s dovětkem: pokud bude dost poslušný, aby nám řekl, jak ho udržet pod kontrolou. (Goodův text)

Dnes to nemusí znamenat program, který si za běhu přepisuje vlastní kód. Stačí, když AI urychlí celý proces: návrh modelů, přípravu experimentů, vyhodnocování výsledků. Psaní kódu je ale jen část výzkumu — je potřeba poznat dobrý nápad, navrhnout poctivý experiment a prokázat, že zlepšení funguje i mimo testovací sadu. Nový hardware se musí vyrobit a velké experimenty něco stojí.

Rychlá inteligenční exploze je proto scénář s předpoklady, ne automatický důsledek toho, že existují AI asistenti. Možný je i postupný pokrok, střídání průlomů a stagnace nebo dlouhodobé limity některých schopností.

Další cesty

Uvažuje se o emulaci mozku (simulaci biologické nervové soustavy v počítači) nebo o propojení lidí a strojů. Samotná mapa nervových spojů ale ještě není recept na lidskou mysl a rozhraní mozek–počítač není automaticky zesilovač inteligence. A velké změny může přinést i kolektiv lidí a AI bez jediného všestranně nadlidského modelu — pro společnost může být podstatnější výkon celé organizace než spor o nálepku jejího softwaru.

Kdy může přijít?

Spolehlivé datum nemáme — a pozor na každého, kdo tvrdí opak. Nejdřív je navíc potřeba říct, co se předpovídá: obecná inteligence, automatizace povolání, nebo výrazná převaha nad nejlepšími lidmi?

Jak ta čísla číst:

• Jde o souhrn pravděpodobnostních odhadů, ne o rok, který zvolila polovina respondentů.
• Obě otázky mířily na proveditelnost, ne na skutečné nasazení v ekonomice. Mezi „stroj to umí“ a „stroje to všude dělají“ leží zákony, cena, důvěra a spousta lidských rozhodnutí.
• Autoři sami upozorňují, že výsledky silně závisejí na formulaci otázek — proto se dva podobné cíle liší o 70 let.
• Není to termín příchodu ASI ani měřená pravděpodobnost. (průzkum a metodika)

Šéfové některých předních laboratoří veřejně mluví o mnohem kratších horizontech; jiní uznávaní vědci, například Yann LeCun, pochybují, že dnešní jazykové modely samy k obecné inteligenci vedou. Jejich argumenty shrnuje stránka Skeptické hlasy. Rozumné plánování proto počítá s více možnostmi: krátký horizont dává smysl rychlé přípravě a testování, delší dává víc času, ale neruší dnešní problémy. A i kdyby ASI nikdy nevznikla, schopnější specializované systémy mohou výrazně změnit ekonomiku i bezpečnost.

Jak poznat skutečný pokrok

Když model dosáhne rekordního skóre, vyplatí se zjistit, co se vlastně měřilo. Benchmark je soubor testovacích úloh — ne univerzální vysvědčení.

Model, který skvěle opravuje krátké programy, ještě nemusí zvládnout převzít cizí projekt, vyjasnit neúplné zadání, opravit chybu a nasadit změnu, aniž by něco rozbil. Skutečná práce obsahuje nečekané situace, koordinaci a odpovědnost. U každého výsledku proto hledejte:

• Novost úloh — nemohl model test nebo řešení vidět při tréninku?
• Podmínky — měl nástroje, mnoho pokusů nebo lidskou pomoc?
• Spolehlivost — vyřeší úkol opakovaně, nebo uspěl jeden pokus z mnoha?
• Cena a čas — kolik zdrojů výsledek stál?
• Přenos — vydrží výkon při změně prostředí a zadání?

Organizace METR měří agenty podle toho, jak dlouhé úlohy (v čase, který by potřeboval lidský odborník) zvládnou s danou úspěšností, například 50 %. Tento „časový horizont“ není čas přemýšlení modelu ani měřítko všech profesí. (metodika METR)