###### 17. september 2024



Meta je, tako kot mnoga druga vodilna tehnološka podjetja, razvila lasten generativni model umetne inteligence, znan kot [Llama](https://llama.meta.com/). Tisto, kar ločuje Llamo, je njena odprta narava, ki razvijalcem omogoča, da jo prenesejo in uporabljajo z veliko svobodo, čeprav je treba upoštevati nekatere pogoje. Ta pristop je v nasprotju z modeli, kot je Anthropicov Claude, [GPT-4o OpenAI](https://openai.com/index/hello-gpt-4o/) (motor za [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) in Googlov Gemini, ki sta na voljo izključno prek API-jev.

Da bi razvijalcem omogočili večjo prilagodljivost, je Meta sodelovala s ponudniki storitev v oblaku, kot so AWS, Google Cloud in Microsoft Azure, da bi ponudila različice Llame, ki gostujejo v oblaku. Poleg tega je Meta zgradila orodja, ki razvijalcem poenostavljajo postopek za natančno nastavitev in prilagajanje modela, da ustreza njihovim posebnim zahtevam.

Spodaj je podroben opis Llame, vključno s tem, kaj zmore, različne različice, ki jih ponuja, in kako jo lahko učinkovito uporabljate.

## Kaj je Llama?

Llama ni le en model; zajema vrsto modelov, kot so:

- Lama 8B

- Lama 70B

- Lama 405B

Najnovejše različice (Llama 3.1 8B, Llama 3.1 70B in Llama 3.1 405B) so bile izdane julija 2024. Ti modeli se usposabljajo na številnih virih podatkov, kot so spletne strani v različnih jezikih, javna koda, datoteke, dostopne na spletu., in sintetični podatki, ki jih ustvarijo drugi sistemi AI.

Llama 3.1 8B in 70B sta kompaktna modela, ki lahko poganjata različne naprave od prenosnikov do strežnikov. Llama 3.1 405B pa je obsežen model, ki običajno zahteva strojno opremo podatkovnega centra. Medtem ko manjši modeli morda niso tako zmogljivi kot 405B, ponujajo hitrejše delovanje in so optimizirani za zmanjšano shranjevanje in zakasnitev.

Vsi modeli Llama imajo kontekstno okno s 128.000 žetoni, kar jim omogoča obdelavo približno 100.000 besed (ali 300 strani besedila). To je približno dolžina knjig, kot sta Wuthering Heights ali Harry Potter in jetnik iz Azkabana. Dolgo kontekstno okno pomaga modelu ohraniti informacije iz nedavnih dokumentov in podatkov, kar zmanjša tveganje, da bi zašli s teme.

## Kaj lahko naredi Llama?

Tako kot drugi generativni modeli umetne inteligence lahko tudi Llama pomaga pri različnih nalogah, kot so kodiranje, odgovarjanje na preprosta matematična vprašanja in povzemanje dokumentov v osmih jezikih: angleščini, nemščini, francoščini, italijanščini, portugalščini, hindijščini, španščini in tajščini. Lahko obravnava večino besedilnih nalog, kot je analiza datotek, kot so PDF-ji in preglednice, vendar trenutno nima možnosti ustvarjanja ali obdelave slik – nekaj, kar bi se lahko spremenilo v prihodnosti.

Modeli Llama se lahko integrirajo z aplikacijami, orodji in API-ji tretjih oseb za izvajanje različnih nalog. Konfigurirani so tako, da uporabljajo Brave Search za odgovarjanje na vprašanja o aktualnih dogodkih, Wolfram Alpha API za matematične in naravoslovne poizvedbe ter tolmač Python za preverjanje kode. Po besedah ​​​​Mete lahko Llama 3.1 celo uporablja nekatera orodja, za katera ni bil izrecno usposobljen, čeprav je zanesljivost te funkcije še vedno negotova.

## Kje lahko uporabite Llamo?

Če se želite neposredno povezati z Llamo, je izkušnja klepetalnega robota Meta AI podprta na platformah, kot so Facebook Messenger, WhatsApp, Instagram, Oculus in Meta.ai.

Za razvijalce je Llama na voljo za prenos in se lahko razširi na več priljubljenih platform v oblaku. Meta je sodelovala z več kot 25 podjetji za gostovanje Llame, vključno z Nvidia, Databricks, Groq, Dell in Snowflake. Mnogi od teh partnerjev ponujajo dodatna orodja, ki Llami omogočajo dostop do lastniških podatkov ali učinkovitejše delovanje.

Meta predlaga uporabo manjših modelov Llama, zlasti 8B in 70B, za splošne namene, kot je zagon chatbotov ali ustvarjanje kode. Po drugi strani pa je večja Llama 405B primernejša za naloge, kot je destilacija modela, ki vključuje prenos znanja iz večjega modela v manjšega, kot tudi generiranje sintetičnih podatkov za usposabljanje drugih modelov.

Razvijalci, ki upravljajo aplikacije z več kot 700 milijoni mesečnih uporabnikov, morajo od Mete pridobiti posebno licenco za dostop do Llame, ki jo bo Meta podelila po lastni presoji.

## Kakšna orodja ponuja Meta za Llamo?

Meta je predstavila več orodij za izboljšanje varnosti Llame:

1. **Llama Guard:** okvir za moderiranje, ki identificira problematično vsebino, kot je sovražni govor, samopoškodovanje in kršitev avtorskih pravic.

2. **Prompt Guard:** Orodje, posebej zasnovano za zaščito Llame pred škodljivimi sporočili, ki poskušajo zaobiti njene varnostne ukrepe.

3. **CyberSecEval:** Paket za oceno tveganja kibernetske varnosti, ki ocenjuje varnost modela in se osredotoča na grožnje, kot so avtomatiziran socialni inženiring in žaljive kibernetske dejavnosti.

Llama Guard lahko na primer zazna škodljivo ali nezakonito vsebino, ki je vnesena ali ustvarjena v Llamo, kar razvijalcem omogoča, da prilagodijo, katere kategorije so blokirane. Prompt Guard se osredotoča na obrambo pred "napadi z vbrizgavanjem sporočil", ki poskušajo manipulirati z modelom. CyberSecEval ponuja merila za ocenjevanje varnostnih tveganj, povezanih z modeli Llama.

## Llamine omejitve

Llama ima, tako kot drugi generativni modeli umetne inteligence, svoje omejitve in potencialna tveganja. Eden glavnih pomislekov je, ali je Meta uporabila avtorsko zaščiteno gradivo za treniranje Llame. Če je temu tako, se lahko uporabniki soočijo z odgovornostjo za avtorsko zaščiteno vsebino, ki jo ustvari model.

Nedavna poročila kažejo, da je Meta uporabljala avtorsko zaščitene e-knjige za usposabljanje AI, čeprav je prejela pravna opozorila. Podjetje prav tako vključuje vsebino iz Instagrama in Facebooka v svoje usposabljanje modelov, kar uporabnikom otežuje odjavo. Meta se sooča s številnimi tožbami, vključno s tožbo avtorjev, kot je Sarah Silverman, ki trdijo, da je podjetje brez dovoljenja uporabilo avtorsko zaščiteno gradivo.

Pomemben dejavnik je programiranje, saj lahko Llama ustvari napako ali nevarno kodo. Ključnega pomena je, da imajo razvijalci človeški strokovnjak, ki pregleda vsako kodo, ustvarjeno z umetno inteligenco, preden jo implementira v svoje aplikacije.

Medtem ko Metin model Llama ponuja precejšnjo prilagodljivost in priložnosti za razvijalce, je pomembno prepoznati morebitna tveganja in omejitve, ki prihajajo z njim.

–

_Prinaša Code Labs Academy – Vaš vodilni_ [_Spletni tečaj za kodiranje_](/) _za prihodnje tehnološke inovatorje._



###### Avtorstvo slike: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Kaj je Meta Llama? Celovit pogled na odprti model AI za razvijalce

###### 17. september 2024

Ko je bil še študent računalništva na Univerzi Waterloo, je Jacob Jackson soustanovil [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126\&hsa_cam=21073527735\&hsa_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gclid=CjwKCAjw0aS3BhA3EiwAKaD2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), podjetje za pomoč pri kodiranju AI, ki je zgodaj začel svojo kariero v AI . Leta 2019, ko je Jackson zaključeval zadnje izpite, je Tabnine zbral približno 60 milijonov dolarjev tveganega kapitala in bil prodan Codati. Po tem je začel delati kot pripravnik pri [OpenAI](https://openai.com/) do leta 2022, ko se je odločil ustanoviti novo podjetje, ki bi izboljšalo potek dela razvijalcev.

Jackson je razvil [Supermaven](https://supermaven.com/), platformo za kodiranje z umetno inteligenco, ki razširja njegove izkušnje s Tabnine, vendar vključuje velike tehnološke izboljšave, zahvaljujoč njegovemu navdihu pri razvoju orodij za umetno inteligenco, kot sta ChatGPT in GitHub Copilot. Babble, interni model umetne inteligence podjetja Supermaven, ima pojavno okno z milijoni žetonov, ki mu omogoča analizo velike količine kode hkrati. Zaradi tega je model bolj zanesljiv pri ustvarjanju natančne kode, saj mu omogoča obdelavo velikih vnosov, ne da bi »pozabil« nedavne podatke ali se oddaljil od teme.

Supermaven se ujema s tekmeci, kot je Googlov Code Assist, z 1 milijonom [žetonov](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), kljub dejstvu da nekatere platforme za kodiranje AI, kot je Magic, ponujajo precej večja pojavna okna (Magic podpira 100 milijonov žetonov). Po mnenju Jacksona je edinstvena prodajna točka Supermaven njegova zmanjšana zakasnitev, ki jo omogoča inovativna notranja nevronska arhitektura. Poleg tega platforma potrebuje samo 10–20 sekund za obdelavo razvijalčevega skladišča kode, učenje pravil kodiranja in API-jev, tako da lahko še naprej deluje hitro, tudi z velikimi bazami kod.

Pričakuje se, da bo trg orodij za kodiranje AI hitro rasel in do leta 2032 dosegel 27,17 milijarde $ [po napovedih](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Več kot 1,8 milijona uporabnikov GitHub Copilot je med številnimi razvijalci, ki so že integrirali AI v svoje procese. Toda sektor mora premagati številne ovire, zlasti ko gre za intelektualno lastnino in zasebnost podatkov. Zaradi strahu pred razkritjem kode PIN se številna podjetja obotavljajo uporabljati orodja za kodiranje z umetno inteligenco. Poleg tega je znano, da modeli umetne inteligence v nekaterih primerih povrnejo avtorsko zaščiteno kodo, zaradi česar so razvijalci pravno ogroženi, če jo vključijo v svoje delo, ne da bi se tega zavedali. .

Jackson je poudaril [v pogovoru za Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/), da je Supermaven hrani podatke za kratek čas, da poveča zmogljivost sistema, ne uporablja potrošniških podatkov za izdelavo svojih modelov. Pri zmanjševanju izpostavljenosti nevarni vsebini med usposabljanjem je poudaril, da je bil poudarek na javno dostopni kodi, ni pa povsem izključil možnosti, da bi se Babble učil na kodi, zaščiteni z IP.

Priljubljenost Supermavena je kljub tem oviram močno narasla, platformo uporablja več kot 35.000 razvijalcev. Od ustanovitve podjetja februarja se je njegova baza uporabnikov potrojila in mnoge od teh strank se prijavljajo na premium načrte. Letni prihodki podjetja so dosegli milijon dolarjev.

Zaradi uspeha platforme vlagatelji to upoštevajo. Pred kratkim je Supermaven razkril, da je podjetje zaključilo svoj prvi krog zunanjih naložb in zbralo 12 milijonov dolarjev od angelskih vlagateljev in Bessemer Venture Partners, med katerimi sta bila soustanovitelja Perplexity in OpenAI John Schulman in Denis Yarats. Denar bo porabljen za izboljšanje Supermavenovega urejevalnika besedil, ki je trenutno v različici beta, in za najem več razvijalcev, s čimer bo podjetje dolgoročno pripravljeno na uspeh na hitro rastočem področju računalniške umetne inteligence kodiranja.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven pridobi podporo vlagateljev: Orodje AI optimizira delovne tokove razvijalcev

###### 13. september 2024



Meta [posodablja](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) svoj pristop k označevanju vsebine, ki je je bilo urejeno ali spremenjeno z orodji AI na Instagramu, Facebooku in Threads. Oznaka »AI Insights«, ki se je prej pojavljala neposredno pod imenom uporabnika, se bo zdaj premaknila v meni objav za vsebino, ki je bila spremenjena z AI.

Družba je dejala, da se bo oznaka še naprej pojavljala na vsebini, za katero Meta meni, da je v celoti ustvarjena z umetno inteligenco. Medtem ko je oznaka morda manj vidna na vsebini, ki je bila urejena z orodji AI, bo še vedno jasno vidna na vsebini, ki je bila v celoti ustvarjena z vnosom AI.

Meta je napovedala, da bo ponudila informacije o tem, ali je vsebina označena na podlagi industrijskih standardnih signalov ali razkritja uporabnikov. Ta sprememba, ki bo uvedena naslednji teden, želi "bolje odražati obseg umetne inteligence, ki se uporablja v vsebini" na vseh njegovih platformah.

Z zmanjševanjem pomembnosti oznake z informacijami o umetni inteligenci obstaja skrb, da bi lahko uporabnike lažje preslepili vsebine, urejene z umetno inteligenco, zlasti ker postajajo orodja za urejanje vse bolj izpopolnjena.

To ni prvič, da je Meta spremenila način označevanja vsebine, povezane z umetno inteligenco. Julija je podjetje spremenilo oznako iz »Made with AI« v »Informacije iz AI«, potem ko je prejelo pritožbe fotografov, ki so menili, da je bila oznaka nepravilno uporabljena za prave fotografije. Meta je priznal, da je bilo prvotno besedilo zmedeno in bi ga lahko razlagali tako, da je nekatere slike v celoti ustvarila umetna inteligenca, tudi če so bile urejene samo z orodji umetne inteligence.

—

_Prinaša Code Labs Academy – Vaš vodilni_ [_Spletni tečaj za kodiranje_](/) _za prihodnje tehnološke inovatorje._



###### Avtorstvo slike: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta spremembe označevanja z umetno inteligenco na družbenih platformah za urejeno in z umetno inteligenco ustvarjeno vsebino

###### 13. september 2024

Čeprav so mnenja o tem, ali je novo kadrovsko podjetje Rajeeva Behere, [Every](https://www.every.io/), visoko tvegan podvig ali briljantna ideja, različna, zagonsko podjetje povzroča valove. Za mala podjetja platforma vse-v-enem združuje obračun plač, pripravo na delo in upravljanje izdatkov. Ta trg je že preobremenjen z uveljavljenimi igralci, kot so Gusto, Rippling in Deel, ter obetajočimi se podjetji, kot sta Mercury in Brex. Vendar se zdi, da so podporniki Behere prepričani, da je njegova strategija edinstvena. Nedavno je Every zbral 22,5 milijona dolarjev v krogu zbiranja sredstev serije A, ki so ga vodili Okta Ventures, Base10 Partners, Y Combinator in Redpoint Ventures.

Beherin poudarek na podjetjih v zgodnji fazi in značilni ponudbeni strategiji sta tisto, kar odlikuje njegovo vizijo. Vsak malim podjetjem nudi brezplačne storitve ustanovitve, nato pa vzpostavijo poslovne bančne račune in zagotovijo ključno podporo zalednih pisarn. Provizije za izmenjavo in provizije za SaaS za dodatne module, kot je računovodstvo, ustvarjajo prihodek.

[Behera je pojasnil](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/), da je Every razvil napredna orodja za obračun plač, bančništvo in upravljanje stroškov. Da bi že zgodaj pritegnili ustanovitelje, zdaj ponujajo brezplačne storitve ustanovitve. Ko so startupi vključeni prek prilagojene seje, pridobijo dostop do celovitega sistema, ki zajema bančništvo, obračun plač, kadrovske službe, knjigovodstvo, davke in skladnost z državno zakonodajo. Poleg tega imajo ustanovitelji koristi od namenskega kanala Slack, kjer se lahko povežejo in delijo vpoglede z drugimi podjetniki.

Po zaključku ustanovitve z uporabo Every se stranke običajno držijo tega, namesto da bi uporabljale konkurenčne platforme, kot je Rippling. Z orodji, namenjenimi spodbujanju njihove rasti v prvih petih letih, se Every osredotoča na podjetja z manj kot 200 zaposlenimi.

Beherin pristop je edinstven v tem, da predvideva, da bodo njegove najbolj dobičkonosne stranke sčasoma zahtevale več storitev podjetja Every – vsaj dokler se Every ne razvije v fintech v fazi rasti, ki lahko pomaga večjim podjetjem.

Beherin odnos z [Y Combinator](https://www.ycombinator.com/) (YC) je bil bistvena sestavina razvoja Everybody. Behera, izkušena podjetnica, je izkoristila mrežo pospeševalnika in vsi so bili del kohorte YC Summer 2023. Reflektive, njegovo predhodno poslovno prizadevanje, je kupil leta 2021 po povečanju kapitala v višini več kot 100 milijonov dolarjev. Poleg tega je svetovalka YC Surbhi Sarna, njegova žena, prav tako uspešna podjetnica. Zaradi tega je približno polovica strank podjetja Every prišla prek obsežnega omrežja zagonskih podjetij YC.

Čeprav Rippling, Gusto in Deel – tri druga zagonska podjetja, ki jih podpira YC – tekmujejo z njimi, so tesne vezi Everyja z ekosistemom YC pomembna prednost. To je pritegnilo vlagatelje, skupaj z Beherinim praktičnim pristopom k ustvarjanju komponent platforme od začetka.

Behera je zaposlila več osebja, potem ko je osebno nadzirala prodajo strankam, podporo in oblikovanje izdelkov za prvih 50 strank podjetja, s pomočjo Alexa Barda iz Redpointa, ki je nadziral krog zbiranja sredstev serije A. Po branju sijajnih pričevanj podjetij, ki so že uporabljala Vsako, so drugi vlagatelji tveganega kapitala storili enako.

V manj kot dveh tednih je bil denar serije A zagotovljen, ne da bi Behera aktivno iskala nove vlagatelje. Čeprav vrednost podjetja ni bila javno objavljena, je ocenjena na 112,5 milijona dolarjev. Dodatno financiranje bo porabljeno za podporo brezplačnim storitvam za ustanovitev in vkrcanje, ki spodbujajo zgodnji uspeh podjetja Every, ter za povečanje inženirskega osebja, ki zdaj šteje približno 20 ljudi.

Kaj je Meta Llama? Celovit pogled na odprti model AI za razvijalce

Supermaven pridobi podporo vlagateljev: Orodje AI optimizira delovne tokove razvijalcev

Meta spremembe označevanja z umetno inteligenco na družbenih platformah za urejeno in z umetno inteligenco ustvarjeno vsebino

HR Startup Every zagotovi 22,5 milijona dolarjev financiranja serije A in razširi inženirsko ekipo v samo dveh tednih