Nástup AGI = začátek konce dominance člověka?

Datum 11.01.2025

Foto: kjpargeter/Freepik

Ještě před nástupem covidové pandemie zněla otázka nástupu obecné umělé inteligence, nebo-li AGI (Artificial General Intelligence) hodně jako sci-fi budoucnosti. Tedy budoucnosti, která určitě nepřijde dříve než ke konci tohoto století… pokud vůbec.

A právě ona pandemie možná poněkud zrychlila tok času ve vývoji AI a pro zrození obecné umělé inteligence (AGI), která je jednoduše řečeno označována jako lidská inteligence, tento čas výrazně zkrátila. Umělá inteligence je tady s námi již nějakou dobu a velké jazykové modely jako ChatGPT (nejnověji ve verzi 5) nebo Claude ukazují, že se učí velmi rychle. Stále se však nejedná o AGI. Ta by, na rozdíl od této velmi úzce zaměřené umělé inteligence, mohla být autonomní a zároveň mít, podobně jako člověk, schopnosti přizpůsobit se a přežít.

Jestliže jsme před pandemií Covid-19 tipovali nástup této člověku podobné a člověkem vytvořené inteligence na více než půl století, teď se odhady smrskly na pouhou desetinu původně odhadované doby. Hovoří se o horizontu čtyř let. Právě rok 2029 zmínil ve své knize můj velmi oblíbený americký futurolog Ray Kurzweil. Mimochodem knihu The Singularity Is Near: When Humans Transcend Biology, (Singularita je blízko: Když lidé překonají biologii) kde popisuje technologickou singularitu právě s nástupem AGI, napsal už před dvaceti lety.

Technologická singularita je hypotetický časový bod někdy v budoucnu, v němž se technologický růst stane nekontrolovatelným a nezvratným, což bude mít na naši civilizaci zdaleka ten největší a nejzásadnější dopad za celou dobu naší existence – právě v tom smyslu, že člověk může ztratit svou dominanci v tomto světě. Dominanci, kterou si postupem dlouhého vývoje “vybojoval” svou inteligencí a postavil se tak na vrchol potravního řetězce, kde největším možným predátorem člověka, je člověk sám.

Knihu The Age of Spiritual Machines (Věk duchovních strojů) odkazující právě na rok 2029, kdy podle jeho predikce systém umělé inteligence přesvědčivě projde “Turingovým testem” – tj. testem, ve kterém stroj dokáže přesvědčit člověka, že je také člověk – napsal dokonce už v roce 1999, tedy 30 let před rokem 2029. Zdá se že tohoto milníku je už dosaženo nyní.

Před pěti lety bychom události, kterými jsme za tu dobu prošli a stále procházíme, zařadili spíše do filmového či knižního žánru apokalyptické budoucnosti. Koronavirovou pandemii (kterou média a politici silně zaútočili na emoce společnosti) vystřídala po jeho ústupu ruská vojenská invaze na Ukrajinu. Události na sebe navazující jako v nějakém (bujarém) scénáři holy­woo­dského filmu.

Světovým politikům dochází, že strategická položka určující dominanci států či aliancí těchto států už není ropa jako v minulosti (i když ta bude potřeba ještě dlouho), ale jsou to čipy. Právě čipy, jejichž nedostatek měl v postcovidové době na svědomí dočasné zastavování výroby automobilů. Výroba čipů se tehdy nesnížila. Právě naopak. Jenže obrovská poptávka po nich v IT sektoru, která začala v covidovém období prostě “přebila” cenu a automotive se tak rázem dostal na vedlejší kolej.

Hodnota společností vyrábějící čipy roste astronomickou rychlostí. Nvidia s kapitálovou hodnotou společnosti přes tři biliony dolarů je toho dobrým příkladem. Obor AI je obrovským lákadlem pro investory a stává se tak pro mnohé investicí, kterou už vzhledem k množství nainvestova­ných peněz nejde jen tak opustit.

Tlaky na akceleraci vývoje umělé inteligence, zvláště toho vyššího levelu AGI, jsou obrovské. Sami nedokážeme řešit problémy ve zdravotnictví nebo energetice nebo (a teď mě asi velká část čtenářů prokleje) i v oblasti efektivní obrany proti nepříteli. Tedy zdaleka ne tak rychle jak s našim biologickým mozkem chceme. Neustálým zdokonalováním svých algoritmů učení a tvořivosti by se sebezdokonalující AGI mohla stávat stále přizpůsobivější a nekonečně schopnější v orientaci a řešení složitostí světa kolem nás. AGI prostě potřebujeme, to musí uznat i skeptici tvrdící, že tento pokrok s sebou nese i jistá rizika.

Ano, jisté obavy jsou na místě. Sebezdokonalující se AGI překoná pravděpodobně časem lidské chápání a bu­de sledovat cíle, které možná nejsou v souladu s našimi současnými hodnotami a zažitými představami o prioritách. Zajímavá úvaha přechodu od předem natrénovaných systémů k umělé inteligenci založené na uvažování od jednoho z nejrespektovanějších lidí v oboru – Ilye Sutskevera byla zveřejněna ke konci loňského roku.

Změny, které AGI přinese, určitě nedokážeme nyní ještě plně předvídat. Nemusí to však být nutně na škodu člověka, i když právě lidé se často uchylují k těm nejčernějším scénářům budoucnosti. Ano, svět do kterého my lidé stvoříme takovouto novou entitu, se v budoucnu pravděpodobně stane také světem, ve kterém můžeme, z našeho pohledu, ztratit jistou dominanci, jež jsme doposud brali jako naprosto samozřejmou. Pokud nám ztráta naší dominance více otevře oči a posune hranice lidského chápání, bude to jen ku prospěchu.

René Pajurek

EPM 700 x 200 px

Napsat komentář