Kmotr umělé inteligence opustil Google, aby mohl mluvit o nebezpečích AI

Datum 02.05.2023

Foto: BoliviaInteligente, Unsplash

Kmotrem umělé inteligence je nazýván Geoffrey Hinton. Ten včera potvrdil, že minulý týden opustil svou pozici ve společnosti Google. Chce totiž svět varovat před nebezpečím technologie, kterou pomáhal vyvíjet. Informoval o tom včera New York Times. Jeho průkopnická práce na neuronových sítích formovala systémy umělé inteligence. V Googlu posledních deset let pracoval na vývoji AI. Postupem času se však této technologie začal obávat a zároveň začal přehodnocovat svou roli v jejím rozvoji.

“Utěšuji se normální výmluvou: kdybych to neudělal já, udělal by to někdo jiný,” řekl Hinton listu New York Times, který o jeho rozhodnutí informoval jako první.

Jeff Dean, hlavní vědecký pracovník společnosti Google, uvedl, že Hinton “učinil zásadní průlomy v oblasti umělé inteligence”, a vyjádřil uznání za Hintonův “desetiletý přínos ve společnosti Google”.

“Jsme i nadále odhodláni k odpovědnému přístupu k umělé inteligenci,” uvedl Dean v prohlášení poskytnutém CNN. “Neustále se učíme, abychom porozuměli vznikajícím rizikům a zároveň odvážně inovovali.”

Hintonovo rozhodnutí odstoupit ze společnosti a vyjádřit se k této technologii přichází v době, kdy rostoucí počet zákonodárců, skupin na ochranu práv a technologických odborníků vyvolává obavy z potenciálu nové generace chatbotů s umělou inteligencí šířit dezinformace. Významní hráči ve vývoji chatbotů jsou společnosti OpenAI, Google a Microsoft, ale na podobných technologiích pracují i IBM nebo Amazon.

V březnu podepsaly některé významné osobnosti z této branže výzvu k zastavení výcviku nejvýkonnějších systémů AI s odkazem na “obrovská rizika pro společnost a lidstvo”. Výzva, kterou zveřejnil Future of Life Institute, nezisková organizace podporovaná Elonem Muskem, přišel jen dva týdny poté, co OpenAI oznámila novou verzi chatovacího robota GPT-4. V prvních testech a firemní ukázce byla GPT-4 použita k vypracování soudních žalob, složení standardizovaných zkoušek a vytvoření funkční webové stránky z ručně nakresleného náčrtku.

V rozhovoru pro New York Times Hinton zopakoval obavy z potenciálu umělé inteligence vytvořit svět, ve kterém mnozí “už nebudou schopni poznat, co je pravda”. Poukázal také na ohromující tempo pokroku, které daleko přesahuje to, co on i ostatní očekávali.

“Představa, že by tato věc mohla být skutečně chytřejší než lidé – tomu věřilo jen málo lidí,” řekl Hinton v rozhovoru. “Ale většina lidí si myslela, že je to daleko. A já jsem si myslel, že je to hodně mimo. Myslel jsem si, že je to vzdálené 30 až 50 let nebo ještě déle. To už si samozřejmě nemyslím.”

Ještě před odchodem ze společnosti Google Hinton veřejně hovořil o potenciálu umělé inteligence škodit i prospívat. Hinton není prvním zaměstnancem společnosti Google, který v souvislosti s umělou inteligencí vztyčil červenou vlajku. Loni v červenci tato společnost propustila svého pracovníka podílejícího se na vývoji AI, který tvrdil, že dosud nezveřejněný systém vyvíjené umělé inteligence se stal vnímavým. Mnozí členové komunity AI se proti jeho tvrzení však ostře ohradili.

Petr Svoboda
zdroj: CNN, New York Times