Oppenheimerův moment v umělé inteligenci je za dveřmi

Datum 17.03.2024

Foto: Tara Winstead, Pexels

Spolu s Nolanovým filmem Oppenheimer, který minulou neděli zaslouženě získal sedm Oskarů, se v souvislosti s vývojem umělé inteligence začal používat nový výraz, tzv. Oppenheimerův moment. Poukazuje se v něm především na rychlý rozvoj umělé inteligence mimo jiné i pro vojenské účely. Zde je jistá podobnost s atomovou bombou vyvinutou během druhé světové války Oppenheimerovým týmem v Los Alamos v Novém Mexiku. Spojené státy díky ní získaly výraznou vojenskou převahu na Japonskem, které po shození druhé bomby na Nagasaki kapitulovalo.

Oppenheimerův moment je klíčová událost, při níž přelomová technologie nebo vědecký objev dosáhne úrovně pokroku, která má dalekosáhlé důsledky pro společnost, etiku a lidstvo. Jaderná technologie byla sice použita v boji a měla za následek statisíce lidských životů, ale také dramaticky změnila svět ve 20. století. Bez energie z jádra bychom si dnes těžko dokázali představit naší energetiku.

A co má Oppenheimerův moment společného s umělou inteligencí? Stejně jako jaderná technologie dramaticky změnila svět v minulém století, může rozvoj umělé inteligence potenciálně způsobit revoluci v průmyslu a společnosti v tomto století a stoletích následujících. V případě AI může jít ještě o něco daleko většího, nebo spíše natolik sofistikovaného, co změní vývoj lidstva ještě významněji, než bylo využití jaderného štěpení pro rychlý zvrat ve válce a pak následné smysluplnější využití této technologie v mírových dobách pro blaho lidstva.

Vývoj umělé inteligence s sebou přináší významné etické aspekty. Jaderná éra vyvolala hluboké otázky týkající se odpovědného používání jaderných zbraní a významu mezinárodních dohod o kontrole zbrojení. Podobně to bude i s érou umělé inteligence… s jednou zásadní změnou či spíše proměnnou: vývoj a výroba nukleárních zbraní vždy byla a je pod kontrolou lidí. Lidé je vyvíjejí, vyrábějí a … můžou je také použít. Můžeme to říct i o vývoji umělé inteligence, řekněme v časovém rozsahu příštích deseti let?

Bude člověk stále tím nejinteligentnějším tvorem planety, jak tomu bylo posledních několik set tisíc let od jeho vývoje? Jistota, která byla neotřesitelná a po celou dobu naší existence naprosto nezpochybnitelná? Ne, tohle přestane už brzy platit s nástupem ChatGPT 5 někdy koncem tohoto roku nebo v roce příštím. Podle vývojářů IQ této další verze velkého jazykového modelu (LLM) výrazně překročí lidský průměr. Ano, ChatGPT5 nedokáže opravit auto, postavit dům nebo excelovat v pracech, kde je člověk (zatím) nenahraditelný. Využití této (a budoucí) inteligence ve zhmotnělém humanoidním těle ale už není takový nepřekonatelný problém, jaký si lidé myslí, že je.

Alex Karp, šéf společnosti Palantir specializující se na softwarové platformy pro analýzu velkých dat, které využívají především americké ozbrojené síly a také armády NATO, nedávno tvrdil, že v souvislosti s vývojem umělé inteligence pro vojenské využití právě prožíváme takovýto “Oppenheimerův moment” a že jiná cesta pro svobodné demokratické státy než pokračovat ve vývoje technologie umělé inteligence není, byť představuje pro lidstvo určité riziko, protože ostatní (nedemokratické) země svůj vývoj AI určitě nezastaví.

V případě umělé inteligence převládá názor, že technologický vývoj předbíhá mezinárodní právo. Vytvoření mezinárodního práva, které by komplexně upravovalo umělou inteligenci, je nezbytné k zajištění nerušeného mírového použití a snížení rizika náhodné nebo neúmyslné války. To je obzvláště důležité pro otázku technologické konkurence mezi Spojenými státy a Čínou, píše portál Lowy Institutu.

Spojené státy uvedly, že se s Čínou dohodly mimo jiné na “spolupráci při posuzování hrozeb, které představuje AI“, což se v Americe netěší velkému nadšení z řad republikánů. Ti tvrdí, že Bidenova administrativa Číně ustupuje.

Spojené státy také nedávno schválily zákon o národní obraně, který zahrnuje pětiletý plán implementace umělé inteligence pro urychlení rozhodování, a to jak pro zvýšení efektivity jak v podnikatelské sféře, tak i v bojových schopnostech. Něco podobného zveřejnila i Čína. Právě obavy z použití technologie umělé inteligence v armádní oblasti celosvětově rostou a poukazují se na neostré hranice mezi vojenskou a civilní oblastí. Američané spolu s Číňany však chtějí vytvořit jakýsi etický rámec při vývoji umělé inteligence, kterými by se řídili.

Naznačuje to, že hlavní mocnosti – byť jsou obchodními (a z části také vojenskými) rivaly – uznávají potenciální hrozbu umělé inteligence při řízení autonomních zbraní. Rychle rozvíjející se technologie umělé inteligence nedávají vrcholovým politikům světových mocností tak velké časový rámec k jednání, jako v případě vývoje a následné výroby nukleárních zbraní.

René Pajurek
zdroj: Lowy Institute

Výstava Volty 700 x 200 px

Komentáře k článku (2)

  1. Tak ale platí to i pro strojové učení? Jelikož tu zatím žádnou umělou intleigenci nemáme, jakkoli se tak módně označuje ledasco.

    Odpovědět

  2. Blábol. Inteligence je především vědomí a žádné umělé vědomí nemáme a nikdy mít nebudeme.

    Odpovědět

Napsat komentář