###### 17. září 2024



Meta, stejně jako mnoho dalších předních technologických společností, vyvinula svůj vlastní generativní model umělé inteligence známý jako [Llama](https://llama.meta.com/). To, co odlišuje Llamu, je její otevřenost, která umožňuje vývojářům ji stahovat a používat se značnou svobodou, i když je třeba mít na paměti určité podmínky. Tento přístup kontrastuje s modely jako Claude od Anthropic, [OpenAI GPT-4o](https://openai.com/index/hello-gpt-4o/) (motor stojící za [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) a Gemini společnosti Google, které jsou dostupné výhradně prostřednictvím rozhraní API.

Aby vývojáři měli větší flexibilitu, navázala společnost Meta partnerství s poskytovateli cloudových služeb, jako jsou AWS, Google Cloud a Microsoft Azure, aby nabídli cloudové verze Llama. Meta navíc vytvořila nástroje, které vývojářům zjednodušují proces dolaďování a přizpůsobení modelu tak, aby vyhovoval jejich specifickým požadavkům.

Níže je podrobný popis Llamy, včetně toho, co umí, různé verze, které nabízí, a jak ji můžete efektivně používat.

## Co je lama?

Lama není jen jeden model; zahrnuje řadu modelů, např.

- Lama 8B

- Lama 70B

- Lama 405B

Nejnovější verze (Llama 3.1 8B, Llama 3.1 70B a Llama 3.1 405B) byly vydány v červenci 2024. Tyto modely jsou trénovány na široké škále zdrojů dat, jako jsou webové stránky v různých jazycích, veřejný kód, soubory dostupné online a syntetická data vytvořená jinými systémy umělé inteligence.

Llama 3.1 8B a 70B jsou kompaktní modely, které mohou provozovat různá zařízení od notebooků po servery. Na druhé straně Llama 3.1 405B je model ve velkém měřítku, který obvykle vyžaduje hardware datového centra. I když menší modely nemusí být tak výkonné jako 405B, nabízejí vyšší výkon a jsou optimalizovány pro snížení úložiště a latence.

Všechny modely Llama mají kontextové okno se 128 000 tokeny, které jim umožňuje zpracovat přibližně 100 000 slov (nebo 300 stránek textu). To je zhruba délka knih jako Bouřlivé výšiny nebo Harry Potter a vězeň z Azkabanu. Dlouhé kontextové okno pomáhá modelu uchovávat informace z posledních dokumentů a dat, čímž se snižuje riziko, že se odchýlí od tématu.

## Co umí lama?

Stejně jako jiné generativní modely umělé inteligence může Llama pomoci s řadou úkolů, jako je kódování, odpovídání na jednoduché matematické otázky a shrnutí dokumentů v osmi jazycích: angličtině, němčině, francouzštině, italštině, portugalštině, hindštině, španělštině a thajštině. Zvládne většinu textových úloh, jako je analýza souborů, jako jsou soubory PDF a tabulky, ale v současné době nemá schopnost generovat nebo zpracovávat obrázky – něco, co by se mohlo v budoucnu změnit.

Modely Llama lze integrovat s aplikacemi, nástroji a rozhraními API třetích stran a provádět různé úkoly. Jsou nakonfigurovány pro použití Brave Search k zodpovězení otázek o aktuálních událostech, Wolfram Alpha API pro matematické a vědecké dotazy a Python interpret pro validaci kódu. Podle Meta může Llama 3.1 dokonce používat některé nástroje, na které nebyla výslovně vyškolena, ačkoli spolehlivost této funkce je stále nejistá.

## Kde můžete použít lamu?

Pokud se chcete spojit přímo s Llamou, je funkce chatbota Meta AI podporována na platformách jako Facebook Messenger, WhatsApp, Instagram, Oculus a Meta.ai.

Pro vývojáře je Llama k dispozici ke stažení a lze ji škálovat na několik populárních cloudových platforem. Meta spolupracuje s více než 25 společnostmi, aby hostila Llamu, včetně Nvidia, Databricks, Groq, Dell a Snowflake. Mnoho z těchto partnerů poskytuje další nástroje, které Llamě umožňují přístup k proprietárním datům nebo efektivnější provoz.

Meta navrhuje používat menší modely Llama, konkrétně 8B a 70B, pro obecné účely, jako je spouštění chatbotů nebo vytváření kódu. Na druhou stranu je větší Llama 405B vhodnější pro úkoly, jako je modelová destilace, která zahrnuje přenos znalostí z většího modelu na menší, stejně jako generování syntetických dat pro trénování jiných modelů.

Vývojáři provozující aplikace s více než 700 miliony uživatelů měsíčně musí získat speciální licenci od společnosti Meta pro přístup k Llamě, která bude udělena podle uvážení společnosti Meta.

## Jaké nástroje nabízí Meta pro lamu?

Meta zavedla několik nástrojů pro zlepšení zabezpečení Llamy:

1. **Llama Guard:** Rámec pro moderování, který identifikuje problematický obsah, jako jsou projevy nenávisti, sebepoškozování a porušování autorských práv.

2. **Prompt Guard:** Nástroj speciálně navržený k ochraně Llama před škodlivými zprávami, které se snaží obejít jeho bezpečnostní opatření.

3. **CyberSecEval:** Sada pro hodnocení rizik kybernetické bezpečnosti, která vyhodnocuje zabezpečení modelu se zaměřením na hrozby, jako je automatizované sociální inženýrství a útočné kybernetické aktivity.

Například Llama Guard dokáže detekovat škodlivý nebo nelegální obsah, který je zadán nebo generován do Llama, což umožňuje vývojářům přizpůsobit, které kategorie jsou blokovány. Prompt Guard se zaměřuje na obranu proti „útokům injekce zpráv“, které se pokoušejí manipulovat s modelem. CyberSecEval nabízí benchmarky pro hodnocení bezpečnostních rizik spojených s modely Llama.

## Lamova omezení

Llama, stejně jako ostatní generativní modely umělé inteligence, má svá omezení a potenciální rizika. Jedním z hlavních problémů je, zda Meta použila materiály chráněné autorskými právy k výcviku lámy. V takovém případě by uživatelé mohli nést odpovědnost za jakýkoli obsah chráněný autorským právem, který model generuje.

Nedávné zprávy naznačují, že Meta používá e-knihy chráněné autorským právem pro školení AI, přestože obdržela právní varování. Společnost také do svých modelových školení začleňuje obsah z Instagramu a Facebooku, takže je pro uživatele obtížné se odhlásit. Meta čelí několika žalobám, včetně jednoho od autorů, jako je Sarah Silverman, kteří tvrdí, že společnost použila materiál chráněný autorskými právy bez povolení.

Důležitým aspektem je programování, protože Llama by mohla produkovat chybný nebo nebezpečný kód. Je důležité, aby vývojáři měli k dispozici odborníka, který zkontroloval jakýkoli kód vygenerovaný umělou inteligencí, než jej implementuje do svých aplikací.

I když model Llama od společnosti Meta nabízí značnou flexibilitu a příležitosti pro vývojáře, je důležité rozpoznat potenciální rizika a omezení, která s tím přicházejí.

–

_Přináší vám Akademie Code Labs – váš vedoucí_ [_Online Coding Bootcamp_](/) _pro Future Tech Innovators._



###### Obrazové kredity: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Co je Meta Llama? Komplexní pohled na model otevřené umělé inteligence pro vývojáře

###### 17. září 2024

Jacob Jackson, ještě jako student informatiky na University of Waterloo, spoluzaložil [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BVyhledávání:Značka%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=43111111377126sa_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\\30jg_wisource=3\30jwKwisource=AhsAKaD2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), společnost zabývající se asistenty kódování AI, začínající svou kariéru v AI brzy . V roce 2019, když Jackson končil závěrečné zkoušky, Tabnine získal asi 60 milionů $ v rizikovém kapitálu a byl prodán společnosti Codata. Poté začal pracovat jako stážista v [OpenAI](https://openai.com/) až do roku 2022, kdy se rozhodl založit novou společnost, která by zlepšila vývojářské pracovní postupy.

Jackson vyvinul [Supermaven](https://supermaven.com/), platformu pro kódování umělé inteligence, která rozšiřuje jeho zkušenosti s Tabnine, ale obsahuje velká technologická vylepšení, a to díky jeho inspiraci vývojem nástrojů umělé inteligence, jako je ChatGPT a GitHub Copilot. Babble, vlastní model umělé inteligence Supermaven, má vyskakovací okno s milionem tokenů, které mu umožňuje analyzovat velké množství kódu najednou. Díky tomu je model spolehlivější při vytváření přesného kódu, protože mu umožňuje zpracovávat velké vstupy, aniž by „zapomněl“ nedávná data nebo se odchýlil od tématu.

Supermaven se shoduje s konkurenty, jako je Google Code Assist, s 1 milionem [tokenů](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), a to navzdory skutečnosti že některé platformy pro kódování AI, jako je Magic, nabízejí podstatně větší vyskakovací okna (Magic podporuje 100 milionů tokenů). Podle Jacksona je jedinečným prodejním argumentem Supermaven jeho snížená latence, kterou umožňuje inovativní vnitřní neuronová architektura. Platformě navíc zabere pouhých 10–20 sekund, než zpracuje úložiště kódu vývojáře, naučí se pravidla kódování a rozhraní API, takže může rychle běžet i s velkými kódovými bázemi.

Očekává se, že trh s nástroji pro kódování AI rychle poroste a do roku 2032 dosáhne 27,17 miliardy dolarů [podle prognóz](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Více než 1,8 milionu uživatelů GitHub Copilot patří k mnoha vývojářům, kteří již integrovali AI do svých procesů. Toto odvětví však musí překonat mnoho překážek, zejména pokud jde o duševní vlastnictví a soukromí dat. Mnoho společností se bojí prozradit PIN a váhá s použitím nástrojů pro kódování AI. Kromě toho je známo, že kód chráněný autorskými právy je v některých případech vyvracen modely AI, což vývojáře vystavuje právnímu nebezpečí, pokud jej zahrnou do své práce, aniž by si to uvědomovali. .

Jackson [v rozhovoru s Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/), že zatímco Supermaven uchovává data po krátkou dobu, aby maximalizoval výkon systému, nepoužívá spotřebitelská data k vytváření svých modelů. Snížením vystavení nebezpečnému obsahu během školení zdůraznil, že důraz byl kladen na veřejně přístupný kód, ale zcela nevyloučil možnost, že Babble bude vyučován na kódu chráněném IP.

Popularita Supermaven navzdory těmto překážkám výrazně vzrostla, přičemž platformu používá více než 35 000 vývojářů. Od uvedení společnosti v únoru se její uživatelská základna ztrojnásobila a mnoho z těchto zákazníků se přihlásilo k prémiovým plánům. Roční opakující se příjmy společnosti dosáhly 1 milionu USD.

Vzhledem k úspěchu platformy berou investoři na vědomí. Nedávno Supermaven odhalil, že společnost dokončila své první externí investiční kolo a získala 12 milionů dolarů od andělských investorů a Bessemer Venture Partners, mezi které patřili spoluzakladatelé Perplexity a OpenAI John Schulman a Denis Yarats. Peníze budou použity na vylepšení textového editoru Supermaven, který je v současné době v beta verzi, a na najmutí dalších vývojářů, čímž společnost zajistí dlouhodobý úspěch na rychle rostoucím poli počítačového kódování umělé inteligence.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven získává podporu investorů: Nástroj AI optimalizující vývojářské pracovní postupy

###### 13. září 2024



Meta [aktualizuje](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) svůj přístup k označování obsahu, který má byly upraveny nebo upraveny nástroji AI na Instagramu, Facebooku a vláknech. Štítek „AI Insights“, který se dříve objevoval přímo pod jménem uživatele, se nyní přesune do nabídky příspěvků pro obsah, který byl upraven pomocí AI.

Společnost uvedla, že štítek se bude i nadále objevovat u obsahu, který Meta identifikuje jako zcela vytvořený AI. I když může být štítek méně viditelný u obsahu, který byl upraven pomocí nástrojů AI, bude stále jasně viditelný u obsahu, který byl vytvořen výhradně pomocí vstupu AI.

Společnost Meta oznámila, že bude nabízet informace o tom, zda je obsah označen na základě standardních signálů v oboru nebo zveřejnění informací uživateli. Tato změna, která bude implementována příští týden, si klade za cíl „lépe odrážet rozsah AI používané v obsahu“ na všech jejích platformách.

Snížením důležitosti informačního štítku AI existuje obava, že by uživatelé mohli být snáze oklamáni obsahem upravovaným umělou inteligencí, zejména když jsou nástroje pro úpravy stále sofistikovanější.

Není to poprvé, co Meta změnila způsob, jakým označuje obsah související s umělou inteligencí. V červenci společnost změnila štítek z „Made with AI“ na „Information from AI“ poté, co obdržela stížnosti od fotografů, kteří měli pocit, že štítek byl nesprávně aplikován na skutečné fotografie. Meta připustila, že původní formulace byla matoucí a mohla být interpretována tak, že určité obrázky byly zcela vytvořeny AI, i když byly upraveny pouze pomocí nástrojů AI.

—

_Přináší vám Akademie Code Labs – váš vedoucí_ [_Online Coding Bootcamp_](/) _pro Future Tech Innovators._



###### Obrazové kredity: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta mění označování umělou inteligencí na sociálních platformách pro upravený obsah a obsah generovaný umělou inteligencí

###### 13. září 2024

Ačkoli názory na to, zda je nová HR firma Rajeeva Behery [Every](https://www.every.io/) vysoce rizikovým podnikem nebo skvělým nápadem, jsou různé, startup dělá vlny. Pro malé firmy integruje platforma vše v jednom mzdy, onboarding a správu výdajů. Tento trh je již přeplněný zavedenými hráči, jako jsou Gusto, Rippling a Deel, stejně jako rozvíjejícími se společnostmi jako Mercury a Brex. Zdá se však, že Beherovi podporovatelé jsou si jisti, že jeho strategie je jedinečná. Nedávno společnost Every získala 22,5 milionu dolarů v kole získávání finančních prostředků série A, které vedly společnosti Okta Ventures, Base10 Partners, Y Combinator a Redpoint Ventures.

Behera klade důraz na firmy v rané fázi a výraznou nabídkovou strategii, co odlišuje jeho vizi. Každý z nich poskytuje malým firmám bezplatné služby založení a poté si založí obchodní bankovní účty a poskytne zásadní podporu back-office. Mezibankovní poplatky a SaaS poplatky za extra moduly, jako je účetnictví, generují příjmy.

[Behera vysvětlila](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/), že společnost Every vyvinula pokročilé nástroje pro mzdovou agendu, bankovnictví a správu výdajů. Aby přilákali zakladatele hned na začátku, nabízejí nyní bezplatné služby založení. Po přihlášení prostřednictvím personalizovaného sezení získají startupy přístup ke komplexnímu systému zahrnujícímu bankovnictví, mzdy, HR, účetnictví, daně a dodržování předpisů. Zakladatelé navíc těží z vyhrazeného kanálu Slack, kde se mohou propojit a sdílet poznatky s ostatními podnikateli.

Po dokončení začlenění pomocí Every se zákazníci obvykle drží, místo aby používali konkurenční platformy, jako je Rippling. S nástroji určenými k podpoře jejich růstu během prvních pěti let se Every's zaměřuje na společnosti s méně než 200 lidmi.

Beherův přístup je jedinečný v tom, že předpokládá, že jeho nejziskovější klienti budou nakonec vyžadovat více služeb od Every – alespoň do té doby, než se Every vyvine do fintech ve fázi růstu, které mohou pomáhat větším společnostem.

Vztah Behery s [Y Combinator](https://www.ycombinator.com/) (YC) byl zásadní součástí rozvoje společnosti Everybody. Behera, zkušená podnikatelka, využila síť akcelerátoru a všichni byli součástí kohorty YC Summer 2023. Reflextive, jeho předchozí obchodní činnost, byla zakoupena v roce 2021 po navýšení kapitálu ve výši více než 100 milionů dolarů. Kromě toho, YC poradce Surbhi Sarna, jeho manželka, je také úspěšná podnikatelka. Z tohoto důvodu asi polovina klientely Every přišla přes rozsáhlou startovací síť YC.

Přestože Rippling, Gusto a Deel – tři další startupy podporované YC – s nimi soutěží, úzké vazby společnosti Every na ekosystém YC jsou významnou výhodou. To přilákalo investory spolu s praktickým přístupem společnosti Behera k vytváření komponent platformy od základů.

Behera najala další zaměstnance poté, co osobně dohlížela na zákaznický prodej, podporu a design produktů pro prvních 50 klientů firmy, s pomocí Alexe Barda z Redpointu, který dohlížel na kolo získávání finančních prostředků série A. Po přečtení nadšených svědectví od firem, které již používaly Every, udělali totéž i další venture kapitalisté.

Za méně než dva týdny byly peníze série A zajištěny, aniž by Behera aktivně hledala nové investory. Přestože hodnota společnosti nebyla zveřejněna, odhady ji odhadují na 112,5 milionu dolarů. Dodatečné finanční prostředky budou použity na podporu bezplatných služeb začlenění a onboardingu, které jsou hnacím motorem raného úspěchu společnosti Every, a také na růst technického personálu, který nyní čítá zhruba 20 lidí.

Co je Meta Llama? Komplexní pohled na model otevřené umělé inteligence pro vývojáře

Supermaven získává podporu investorů: Nástroj AI optimalizující vývojářské pracovní postupy

Meta mění označování umělou inteligencí na sociálních platformách pro upravený obsah a obsah generovaný umělou inteligencí

HR Startup every zajistí financování série A ve výši 22,5 milionů dolarů a rozšíří tým inženýrů za pouhé dva týdny