Anthropic šlape OpenAI na paty. Do svých LLM zabudovali ‘řídící ústavu’

Datum 18.08.2024

Foto: CanStock

Americký start-up Anthropic PBC zaměřený na umělou inteligenci byl založen již v roce 2021, ale v posledních dnech do ní přechází čím dál více lidí z konkurenčních firem v oboru včetně Open AI. Anthropic hlásá podobné cíle své práce jako kdysi Open AI, tj. zabývat se výzkumem a vývojem umělé inteligence s cílem “studovat její bezpečnostní vlastnosti na technologické hranici” a využít tento výzkum k nasazení bezpečných a spolehlivých modelů pro veřejnost.

Do povědomí jak odborné tak i laické veřejnosti se nedávno dostal se svým velkým jazykovým modelem (LLM) s názvem Claude. Ten má představovat konkurenci pro ChatGPT společnosti OpenAI a Gemini od Google. A pokud jde o takového giganta jako Google, ten ztrácí dech na Anthropic ještě rychleji. Někdejší šéf Googlu Eric Schmidt to přičítá také poměrně benevolentním podmínkám využívání home office pro jeho zaměstnance, kde přímo tvrdí, že “politika práce z domova poškozuje konkurenceschopnost společnosti” a že se “Google rozhodl, že rovnováha mezi pracovním a soukromým životem, brzké odchody domů a práce z domova jsou důležitější než vítězství a důvod, proč startupy fungují, je ten, že tam lidé pracují jako o život”.

Počáteční kapitál Anthropicu je i od zkrachovalé kryptoburzy FTX

Jedny z prvních velkých peněz do začátku získal Anthropic už v dubnu 2022 od společnosti FTX pod vedením Sama Bankmana-Frieda. Ten do ní nainvestoval rovnou 500 milionů dolarů. Pokud se zajímáte o kryptoměnu, tak FTX byla ještě v listopadu 2022, tedy těsně před jeho krachem, třetí největší burzou digitálních měn s aktivním objemem obchodů 10 miliard USD. Vrcholoví manažeři FTX v čele Bankmanem-Friedem si však žili nad poměry na Bahamách, kdy se firma se potýkala s obrovskými finančními problémy a neustála konkurenční tlaky. Bankman-Fried byl zatčen na Bahamách, kde sídlila společnost FTX, a v prosinci 2022 vydán do USA. Byl obviněn z několika trestných činů podvodu. Samozřejmě firma šla i s miliardami dolarů z kryptoměn od svých klientů do insolvence. Proč se ale o tom tak rozepisuju?

V rámci insolvence FTX, byl 500 mil. podíl v Anthropicu prodán letos v březnu, mj. i do Spojených arabských emirátů za 884 milionů dolarů. Podíl FTX v Anthropicu představoval 8 % firmy. Největší podíl má společnost ATIC Third International Investment Co. se sídlem v Abu Dhabi a státní investiční fond ve Spojených arabských emirátech. O část podílu FTX ve společnosti Anthropic údajně usilovalo více státních investičních fondů. I když proti Spojeným arabským emirátům nebyly výhrady, Saúdská Arábie byla výslovně vyloučena z důvodu obav o národní bezpečnost. Druhým největším kupcem v této transakci s Anthropicem je Jane Street, firma zabývající se kvantitativním obchodováním, ve které pracoval zakladatel FTX Sam Bankman-Fried, než se vydal na vlastní pěst.

Samozřejmě, že Anthropic nemá investiční peníze pouze od FTX. Loni v září oznámila společnost Amazon uzavření partnerství se společností Anthropic. Ta do Anthropicu investovala 1,25 miliardy dolarů. V rámci dohody by Anthropic využíval Amazon Web Services (AWS) jako svého hlavního poskytovatele cloudu a zpřístupnil by své modely umělé inteligence zákazníkům AWS. Letos v březnu Amazon investoval do společnosti Anthropic dalších 2,75 miliardy amerických dolarů, čímž dokončila svou investici ve výši 4 miliard dolarů.

Jaké je poslání Anthropicu?

Anthropic má podobnou strukturu jako tradiční společnost. Podle magazínu Time, však Anthropic využívá zvláštní prvek korporátního práva státu Delaware. Nejedná se o společnost s ručením omezeným, ale o veřejně prospěšnou společnost, což znamená, že kromě povinnosti zvyšovat zisky akcionářů má její správní rada také právní prostor pro sledování samostatného poslání: zajistit, aby “transformativní umělá inteligence pomáhala lidem a společnosti vzkvétat”. To v podstatě znamená, že pro akcionáře by bylo obtížnější žalovat představenstvo společnosti Anthropic, pokud by se představenstvo rozhodlo upřednostnit bezpečnost před zvyšováním zisku, píše se v článku magazínu Time.

Společnost Anthropic totiž zvolila poněkud jiný přístup k vytváření velkých jazykových modelů než Open AI. Ten nazývá „konstituční umělá inteligence“. Podle magazínu Forbes zakódovali do svých LLM řídící ústavu, jejímž cílem je „vyhnout se toxickým nebo diskriminačním výstupům, nepomáhat člověku v nezákonných nebo neetických činnostech a obecně vytvořit systém AI, který je užitečný, čestný a neškodný“. Současná ústava čerpá z řady zdrojů, které reprezentují západní i nezápadní perspektivy, včetně Deklarace lidských práv OSN a zásad navržených vlastními i jinými výzkumnými laboratořemi AI.

Lidé v Anthropicu si samozřejme také uvědomují omylnost své ústavy a opatření v ní zahrnuta se budou muset časem vyvíjet a měnit. Očekává také, že časem zapojí více subjektů, které pomohou překonat její nedostatky. V každém případě je dnes Athropic významným a díky silné investiční struktuře i světovým hráčem v oblasti umělé inteligence, se kterým se bude muset v budoucnu počítat.

René Pajurek
zdroje: Business Insider, CNBC, Time, Forbes, Wikipedia

Stego 700 x 200 px

Napsat komentář