###### 17. septembra 2024



Meta, rovnako ako mnoho iných popredných technologických spoločností, vyvinula svoj vlastný generatívny model AI známy ako [Llama](https://llama.meta.com/). To, čo odlišuje Llamu, je jej otvorená povaha, ktorá umožňuje vývojárom sťahovať a používať ju so značnou voľnosťou, aj keď existujú určité podmienky, ktoré treba mať na pamäti. Tento prístup kontrastuje s modelmi ako Claude od Anthropic, [OpenAI GPT-4o](https://openai.com/index/hello-gpt-4o/) (motor stojaci za [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) a Gemini od spoločnosti Google, ktoré sú dostupné výhradne prostredníctvom rozhraní API.

S cieľom poskytnúť vývojárom väčšiu flexibilitu sa spoločnosť Meta spojila s poskytovateľmi cloudových služieb, ako sú AWS, Google Cloud a Microsoft Azure, aby ponúkli verzie Llama hostované v cloude. Meta navyše vytvorila nástroje, ktoré vývojárom zjednodušujú proces dolaďovania a prispôsobovania modelu tak, aby vyhovoval ich špecifickým požiadavkám.

Nižšie je podrobný popis Llamy vrátane toho, čo dokáže, rôznych verzií, ktoré ponúka a ako ju môžete efektívne používať.

## Čo je to láma?

Lama nie je len jeden model; zahŕňa celý rad modelov, ako napríklad:

- Lama 8B

- Lama 70B

- Lama 405B

Najnovšie verzie (Llama 3.1 8B, Llama 3.1 70B a Llama 3.1 405B) boli vydané v júli 2024. Tieto modely sú trénované na širokej škále zdrojov údajov, ako sú webové stránky v rôznych jazykoch, verejný kód, súbory dostupné online a syntetické údaje vytvorené inými systémami AI.

Llama 3.1 8B a 70B sú kompaktné modely, ktoré dokážu prevádzkovať rôzne zariadenia od notebookov po servery. Na druhej strane Llama 3.1 405B je rozsiahly model, ktorý zvyčajne vyžaduje hardvér dátového centra. Aj keď menšie modely nemusia byť také výkonné ako 405B, ponúkajú vyšší výkon a sú optimalizované na zníženie úložiska a latencie.

Všetky modely Llama obsahujú kontextové okno so 128 000 tokenmi, čo im umožňuje spracovať približne 100 000 slov (alebo 300 strán textu). To je zhruba dĺžka kníh ako Búrlivé výšiny alebo Harry Potter a väzeň z Azkabanu. Dlhé kontextové okno pomáha modelu uchovávať informácie z najnovších dokumentov a údajov, čím sa znižuje riziko odbočenia od témy.

## Čo dokáže lama?

Rovnako ako iné generatívne modely AI, aj Llama môže pomôcť s rôznymi úlohami, ako je kódovanie, odpovedanie na jednoduché matematické otázky a sumarizácia dokumentov v ôsmich jazykoch: angličtine, nemčine, francúzštine, taliančine, portugalčine, hindčine, španielčine a thajčine. Dokáže zvládnuť väčšinu textových úloh, ako je analýza súborov, ako sú súbory PDF a tabuľky, ale v súčasnosti nemá schopnosť generovať ani spracovávať obrázky – niečo, čo by sa mohlo v budúcnosti zmeniť.

Modely Llama sa môžu integrovať s aplikáciami, nástrojmi a rozhraniami API tretích strán na vykonávanie rôznych úloh. Sú nakonfigurované tak, aby používali Brave Search na zodpovedanie otázok o aktuálnych udalostiach, API Wolfram Alpha pre matematické a vedecké otázky a tlmočníka Pythonu na overenie kódu. Podľa Meta môže Llama 3.1 dokonca používať niektoré nástroje, na ktoré nebola explicitne vyškolená, hoci spoľahlivosť tejto funkcie je stále neistá.

## Kde môžete použiť lámu?

Ak sa chcete spojiť priamo s Llamou, chatbot Meta AI je podporovaný na platformách ako Facebook Messenger, WhatsApp, Instagram, Oculus a Meta.ai.

Pre vývojárov je Llama k dispozícii na stiahnutie a možno ju škálovať na niekoľko populárnych cloudových platforiem. Meta sa spojila s viac ako 25 spoločnosťami, aby hostila Llamu, vrátane Nvidia, Databricks, Groq, Dell a Snowflake. Mnohí z týchto partnerov poskytujú dodatočné nástroje, ktoré Llame umožňujú prístup k vlastným údajom alebo efektívnejšie fungovanie.

Meta navrhuje používať menšie modely Llama, konkrétne 8B a 70B, na všeobecné účely, ako je spustenie chatbotov alebo vytváranie kódu. Na druhej strane väčšia Llama 405B je vhodnejšia pre úlohy, ako je modelová destilácia, ktorá zahŕňa prenos znalostí z väčšieho modelu na menší, ako aj generovanie syntetických dát na trénovanie iných modelov.

Vývojári prevádzkujúci aplikácie s viac ako 700 miliónmi používateľov mesačne musia na prístup k Llame získať špeciálnu licenciu od spoločnosti Meta, ktorá bude udelená podľa uváženia spoločnosti Meta.

## Aké nástroje ponúka Meta pre lámu?

Meta zaviedla niekoľko nástrojov na zlepšenie bezpečnosti Llama:

1. **Llama Guard:** Rámec moderovania, ktorý identifikuje problematický obsah, ako sú nenávistné prejavy, sebapoškodzovanie a porušovanie autorských práv.

2. **Prompt Guard:** Nástroj špeciálne navrhnutý na ochranu Llama pred škodlivými správami, ktoré sa snažia obísť jeho bezpečnostné opatrenia.

3. **CyberSecEval:** Súprava na hodnotenie rizík kybernetickej bezpečnosti, ktorá hodnotí bezpečnosť modelu so zameraním na hrozby, ako je automatizované sociálne inžinierstvo a útočné kybernetické aktivity.

Napríklad Llama Guard dokáže odhaliť škodlivý alebo nelegálny obsah, ktorý je zadaný alebo generovaný do Llama, čo umožňuje vývojárom prispôsobiť, ktoré kategórie sú blokované. Prompt Guard sa zameriava na obranu pred „útokmi vstrekovania správ“, ktoré sa pokúšajú manipulovať s modelom. CyberSecEval ponúka benchmarky na hodnotenie bezpečnostných rizík spojených s modelmi Llama.

## Obmedzenia lamy

Llama, podobne ako iné generatívne modely AI, má svoje obmedzenia a potenciálne riziká. Jednou z hlavných obáv je, či Meta použila materiály chránené autorskými právami na výcvik lám. Ak je to tak, používatelia môžu niesť zodpovednosť za akýkoľvek obsah chránený autorskými právami, ktorý model generuje.

Nedávne správy naznačujú, že Meta používa e-knihy chránené autorskými právami na školenia AI, napriek tomu, že dostala právne upozornenia. Spoločnosť do svojich modelových školení začleňuje aj obsah z Instagramu a Facebooku, čo používateľom sťažuje možnosť odhlásiť sa. Meta čelí viacerým žalobám, vrátane jedného od autorov ako Sarah Silverman, ktorí tvrdia, že spoločnosť použila materiál chránený autorskými právami bez povolenia.

Dôležitým aspektom je programovanie, pretože Llama môže produkovať chybný alebo nebezpečný kód. Je dôležité, aby vývojári mali k dispozícii ľudského odborníka, ktorý skontroloval akýkoľvek kód vygenerovaný AI pred jeho implementáciou do svojich aplikácií.

Zatiaľ čo Meta's Llama model ponúka značnú flexibilitu a príležitosti pre vývojárov, je dôležité rozpoznať potenciálne riziká a obmedzenia, ktoré s tým prichádzajú.

–

_Prináša vám Akadémia Code Labs – vaša vedúca_ [_Online Coding Bootcamp_](/) _pre Future Tech Innovators._



###### Poďakovanie za obrázok: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Čo je Meta Llama? Komplexný pohľad na otvorený model AI pre vývojárov

###### 17. septembra 2024

Jacob Jackson ešte ako študent informatiky na University of Waterloo spoluzakladal [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BHľadať:Značka%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=431111113cam=43111111767126sa_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&0jwKw3source=Ah\0jg_wisource=Ah\3wKwisource=Ahsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\CjwKw3source=3AKaD2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), spoločnosť zaoberajúca sa asistentom kódovania AI, ktorá začala svoju kariéru v oblasti AI čoskoro . V roku 2019, keď Jackson dokončoval svoje záverečné skúšky, Tabnine získal asi 60 miliónov dolárov rizikového kapitálu a bol predaný spoločnosti Codata. Potom začal pracovať ako stážista v [OpenAI](https://openai.com/) až do roku 2022, kedy sa rozhodol založiť novú spoločnosť, ktorá by zlepšila pracovné postupy vývojárov.

Jackson vyvinul [Supermaven](https://supermaven.com/), platformu na kódovanie AI, ktorá rozširuje jeho skúsenosti s Tabnine, no obsahuje veľké technologické vylepšenia vďaka jeho inšpirácii vývojom nástrojov AI, ako sú ChatGPT a GitHub Copilot. Babble, interný model AI spoločnosti Supermaven, má vyskakovacie okno s miliónmi tokenov, ktoré mu umožňuje analyzovať veľa kódu naraz. Vďaka tomu je model pri vytváraní presného kódu spoľahlivejší, pretože mu umožňuje spracovávať veľké vstupy bez „zabudnutia“ nedávnych údajov alebo odbočenia od témy.

Supermaven zápasí s konkurentmi, ako je napríklad Google's Code Assist, s 1 miliónom [tokenov](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), napriek tomu že niektoré kódovacie platformy AI, ako napríklad Magic, ponúkajú podstatne väčšie vyskakovacie okná (Magic podporuje 100 miliónov tokenov). Podľa Jacksona je jedinečným predajným bodom Supermaven jeho znížená latencia, ktorú umožňuje inovatívna vnútorná neurónová architektúra. Platforme navyše trvá len 10 – 20 sekúnd, kým spracuje úložisko kódu vývojára, naučí sa pravidlá kódovania a rozhrania API, aby mohla fungovať rýchlo, dokonca aj s veľkými kódovými základňami.

Očakáva sa, že trh s nástrojmi na kódovanie AI bude rýchlo rásť a do roku 2032 dosiahne 27,17 miliardy USD, [podľa prognóz](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Viac ako 1,8 milióna používateľov GitHub Copilot patrí medzi mnohých vývojárov, ktorí už integrovali AI do svojich procesov. Tento sektor však musí prekonať mnohé prekážky, najmä pokiaľ ide o duševné vlastníctvo a súkromie údajov. Mnohé spoločnosti sa obávajú zverejnenia kódu PIN a váhajú s použitím nástrojov na kódovanie AI. Okrem toho je známe, že kód chránený autorskými právami je v niektorých prípadoch modelmi AI regurgitovaný, čo vývojárov vystavuje právnemu riziku, ak ho zahrnú do svojej práce bez toho, aby si to uvedomovali. .

Jackson zdôraznil [v rozhovore s Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/), že zatiaľ čo Supermaven uchováva údaje na krátku dobu, aby maximalizoval výkon systému, nepoužíva spotrebiteľské údaje na zostavovanie svojich modelov. Znížením vystavenia nebezpečnému obsahu počas školenia zdôraznil, že dôraz sa kladie na verejne prístupný kód, ale úplne nevylúčil možnosť, že Babble sa bude učiť na kóde chránenom IP.

Popularita Supermaven napriek týmto prekážkam výrazne vzrástla, pričom platformu používa viac ako 35 000 vývojárov. Od spustenia spoločnosti vo februári sa jej používateľská základňa strojnásobila a mnohí z týchto zákazníkov sa prihlasujú na prémiové plány. Ročné opakujúce sa príjmy spoločnosti dosiahli 1 milión USD.

Vzhľadom na úspech platformy to investori berú na vedomie. Nedávno spoločnosť Supermaven odhalila, že spoločnosť dokončila svoje prvé externé investičné kolo a získala 12 miliónov dolárov od anjelských investorov a Bessemer Venture Partners, medzi ktoré patrili spoluzakladatelia Perplexity a OpenAI John Schulman a Denis Yarats. Peniaze sa použijú na vylepšenie textového editora Supermaven, ktorý je momentálne v beta verzii, a na najatie ďalších vývojárov, čím sa spoločnosť pripraví na dlhodobý úspech v rýchlo rastúcej oblasti počítačového kódovania AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven získava podporu investorov: Nástroj AI na optimalizáciu pracovných postupov vývojárov

###### 13. septembra 2024



Meta [aktualizuje](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) svoj prístup k označovaniu obsahu, ktorý má boli upravené alebo upravené nástrojmi AI na Instagrame, Facebooku a Threads. Štítok „AI Insights“, ktorý sa predtým zobrazoval priamo pod menom používateľa, sa teraz presunie do ponuky príspevkov pre obsah, ktorý bol upravený pomocou AI.

Spoločnosť uviedla, že označenie sa bude aj naďalej zobrazovať pri obsahu, ktorý Meta identifikuje ako úplne vytvorený AI. Hoci štítok môže byť menej viditeľný na obsahu, ktorý bol upravený pomocou nástrojov AI, bude stále jasne viditeľný na obsahu, ktorý bol vytvorený výlučne pomocou vstupu AI.

Meta oznámila, že bude ponúkať informácie o tom, či je obsah označený na základe štandardných signálov v odvetví alebo zverejnenia používateľov. Cieľom tejto zmeny, ktorá bude implementovaná budúci týždeň, je „lepšie odrážať rozsah AI používanej v obsahu“ na všetkých jej platformách.

Znížením významu informačného štítku AI existuje obava, že používatelia by mohli byť ľahšie oklamaní obsahom upraveným AI, najmä keď sú nástroje na úpravu čoraz sofistikovanejšie.

Nie je to prvýkrát, čo Meta zmenila spôsob, akým označuje obsah súvisiaci s AI. V júli spoločnosť zmenila štítok z „Made with AI“ na „Information from AI“ po tom, čo dostala sťažnosti od fotografov, ktorí sa domnievali, že štítok bol nesprávne aplikovaný na skutočné fotografie. Meta pripustila, že pôvodné znenie bolo mätúce a mohlo sa interpretovať tak, že určité obrázky boli úplne vygenerované AI, aj keď boli upravené iba pomocou nástrojov AI.

—

_Prináša vám Akadémia Code Labs – vaša vedúca_ [_Online Coding Bootcamp_](/) _pre Future Tech Innovators._



###### Poďakovanie za obrázok: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta mení označovanie AI na sociálnych platformách pre upravený obsah a obsah generovaný AI

###### 13. septembra 2024

Hoci názory na to, či je nová HR firma Rajeeva Beheru, [Every](https://www.every.io/), vysoko rizikový podnik alebo skvelý nápad, sú rôzne, startup robí vlny. Pre malé firmy integruje platforma všetko v jednom mzdy, onboarding a správu výdavkov. Tento trh je už preplnený etablovanými hráčmi, ako sú Gusto, Rippling a Deel, ako aj rozvíjajúcimi sa spoločnosťami ako Mercury a Brex. Zdá sa však, že Beherovi podporovatelia sú si istí, že jeho stratégia je jedinečná. Nedávno spoločnosť Every vyzbierala 22,5 milióna dolárov v kole fundraisingu série A, ktorý viedli Okta Ventures, Base10 Partners, Y Combinator a Redpoint Ventures.

Behera kladie dôraz na firmy v počiatočnom štádiu a výraznú stratégiu ponuky, čo odlišuje jeho víziu. Každý z nich poskytuje malým firmám bezplatné služby založenia, potom si založia obchodné bankové účty a poskytujú kľúčovú podporu back-office. Výmenné poplatky a poplatky SaaS za extra moduly, ako je účtovníctvo, generujú príjmy.

[Behera vysvetlila](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/), že spoločnosť Every vyvinula pokročilé nástroje pre mzdy, bankovníctvo a riadenie výdavkov. Aby prilákali zakladateľov na začiatku, teraz ponúkajú bezplatné služby založenia. Po zaregistrovaní prostredníctvom personalizovanej relácie získajú startupy prístup ku komplexnému systému pokrývajúcemu bankovníctvo, mzdy, HR, účtovníctvo, dane a dodržiavanie predpisov. Zakladatelia navyše profitujú zo špeciálneho kanála Slack, kde sa môžu spojiť a zdieľať poznatky s inými podnikateľmi.

Po dokončení ich začlenenia pomocou Every sa zákazníci zvyčajne držia namiesto toho, aby používali konkurenčné platformy, ako je Rippling. S nástrojmi určenými na podporu ich rastu počas prvých piatich rokov sa spoločnosť Every zameriava na spoločnosti s menej ako 200 ľuďmi.

Beherov prístup je jedinečný v tom, že predpokladá, že jeho najziskovejší klienti budú nakoniec vyžadovať viac služieb od Every – aspoň dovtedy, kým sa Every nevyvinie na fintech vo fáze rastu, ktorý môže pomáhať väčším spoločnostiam.

Vzťah Behery s [Y Combinator](https://www.ycombinator.com/) (YC) bol dôležitou súčasťou rozvoja spoločnosti Everybody. Behera, skúsený podnikateľ, využil sieť akcelerátora a každý bol súčasťou kohorty YC Summer 2023. Reflektive, jeho predchádzajúce obchodné úsilie, bolo zakúpené v roku 2021 po navýšení kapitálu o viac ako 100 miliónov dolárov. Okrem toho, poradkyňa YC Surbhi Sarna, jeho manželka, je tiež úspešnou podnikateľkou. Z tohto dôvodu asi polovica klientely Every prišla cez rozsiahlu sieť startupov YC.

Aj keď Rippling, Gusto a Deel – tri ďalšie startupy podporované YC – s nimi súťažia, úzke väzby spoločnosti Every s ekosystémom YC sú významnou výhodou. To prilákalo investorov spolu s praktickým prístupom spoločnosti Behera k vytváraniu komponentov platformy od základov.

Behera najala viac zamestnancov po tom, čo osobne dohliadala na zákaznícky predaj, podporu a dizajn produktov pre prvých 50 klientov podniku, s pomocou Alexa Barda zo spoločnosti Redpoint, ktorý dohliadal na kolo získavania finančných prostriedkov série A. Po prečítaní žiarivých svedectiev od firiem, ktoré už používali Every, urobili to isté aj ostatní venture kapitalisti.

Za menej ako dva týždne boli peniaze série A zabezpečené bez toho, aby Behera aktívne hľadala nových investorov. Hoci hodnota spoločnosti nebola zverejnená, odhady ju uvádzajú na 112,5 milióna dolárov. Dodatočné finančné prostriedky sa použijú na podporu bezplatných služieb začlenenia a integrácie, ktoré vedú k skorému úspechu spoločnosti Every, ako aj na rast technického personálu, ktorý v súčasnosti tvorí približne 20 ľudí.

Čo je Meta Llama? Komplexný pohľad na otvorený model AI pre vývojárov

Supermaven získava podporu investorov: Nástroj AI na optimalizáciu pracovných postupov vývojárov

Meta mení označovanie AI na sociálnych platformách pre upravený obsah a obsah generovaný AI

HR Startup Every zabezpečuje financovanie série A vo výške 22,5 milióna dolárov a rozširuje tím inžinierov len za dva týždne