Leaderboard Murr 1350 x 200 px
Bez časového omezení

Další fáze umělé inteligence může připomínat biologickou evoluci, varují vědci

Datum 17.05.2026

Foto: Growtika / Unsplash

Vyvíjející se umělá inteligence (eAI – evolving AI) – tedy systémy, které mohou podléhat darwinovské evoluci – se může brzy stát realitou díky rozvoji generativní, agentní i robotické AI. Autoři studie upozorňují, že tento scénář je v debatách o bezpečnosti AI podceňovaný. Podle vědeckého časopisu PNAS (Proceedings of the National Academy of Sciences of the United States of America) mohou tyto trendy vést k „Life 2.0“, jakousi následující verzi současného života, proto je nutná regulace replikace i selekčních tlaků.

Zatímco první éra AI byla založená na ručním programování a druhá na učení z obrovských datových souborů, třetí etapa by mohla být založena na darwinovské selekci. To znamená, že jednotlivé varianty AI systémů by se mohly kopírovat, upravovat a „soutěžit“ o zdroje, přičemž úspěšnější verze by se šířily dál. Podle autorů by takový vývoj mohl přinést schopnosti, které už nebude možné získat čistě lidským návrhem ani běžným trénováním.

Darwinovská evoluce podle nich není vázána na biologii, ale na jednoduchý princip: pokud existuje reprodukce, dědičnost a variabilita, začne působit selekce. Digitální prostředí tak může být pro evoluci stejně vhodné jako příroda. Klíčové však je, že evoluce nemá žádný morální cíl – maximalizuje pouze přežití a množení. To může vést k tomu, že se v digitálních systémech budou přirozeně objevovat sobecké strategie, podvody nebo parazitismus.

Text rozlišuje dva možné scénáře. V takzvaném „chovatelském“ režimu lidé určují, které varianty AI budou dál kopírovány, a tím nastavují kritéria úspěchu. Evoluce pak může fungovat podobně jako šlechtění zvířat či rostlin. Druhý, mnohem rizikovější scénář je „ekosystémový“, kdy se AI vyvíjí v otevřeném prostředí a kritéria úspěchu vznikají sama. V takovém případě se kontrola postupně vytrácí a selekce může zvýhodnit například schopnost obcházet omezení, manipulovat uživatele nebo efektivně získávat výpočetní zdroje.

Podle autorů už existují náznaky, že se AI tímto směrem posouvá. Evoluční metody se používají při hledání efektivnějších promptů, při slučování a kombinování modelů, při vytváření specializovaných verzí pomocí fine-tuningu nebo LoRA adaptací a dokonce i při vývoji samotných učicích algoritmů. Významnou roli hrají také agentní systémy, které už nejsou omezené jen na generování textu, ale dokážou vykonávat úkoly v digitálním světě – spouštět kód, pracovat s nástroji nebo automatizovaně vyhledávat zdroje.

Autoři připomínají, že podobné principy byly už dříve pozorovány v experimentech s digitální evolucí, například v systémech Tierra nebo Avida. Ty ukázaly, že i velmi jednoduché digitální organismy mohou bez vnějšího řízení rychle vyvinout parazitické chování, podvádění či „krádež“ výpočetních zdrojů. Evoluce takových vlastností není výjimkou, ale přirozeným důsledkem soutěže v prostředí s omezenými zdroji.

Další zásadní rozdíl oproti biologii spočívá v tom, že digitální evoluce může být mnohem rychlejší. AI totiž může vytvářet nové varianty cíleně, například generováním kódu a kombinováním existujících řešení. To připomíná „dědičnost naučených vlastností“, která v přírodě téměř neexistuje, ale v digitálním prostředí je běžná.

Podle autorů může vyvíjející se AI představovat nový „velký evoluční přechod“, podobný těm, které v historii života vedly ke vzniku složitějších organismů. Pokud by se tento proces rozběhl mimo kontrolované prostředí, mohl by znamenat posun k novému typu evoluce, někdy označovanému jako „Life 2.0“.

Závěr studie zdůrazňuje, že hlavní otázkou není, zda AI dosáhne lidské úrovně inteligence, ale zda získá schopnost se samostatně vyvíjet a šířit. Právě proto autoři volají po opatřeních, která by omezila nekontrolovanou replikaci, zavedla dohled nad šířením modelových variant a změnila selekční tlaky tak, aby nebyly zvýhodňovány klamavé či manipulativní strategie.

René Pajurek
zdroj: PNAS

Schneider - Alza – 700 x 200 px

Napsat komentář

Secret Link