###### Setyembre 17, 2024



Ang Meta, tulad ng maraming iba pang nangungunang kumpanya ng tech, ay bumuo ng sarili nitong generative AI model na kilala bilang [Llama](https://llama.meta.com/). Ang pinagkaiba ng Llama ay ang pagiging bukas nito, na nagbibigay-daan sa mga developer na i-download at gamitin ito nang may malaking kalayaan, kahit na may ilang kundisyon na dapat tandaan. Ang diskarte na ito ay kaibahan sa mga modelo tulad ng Anthropic's Claude, [OpenAI's GPT-4o](https://openai.com/index/hello-gpt-4o/) (ang makina sa likod ng [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)), at Gemini ng Google, na magagamit lamang sa pamamagitan ng mga API.

Para bigyan ang mga developer ng higit na flexibility, nakipagsosyo ang Meta sa mga cloud service provider gaya ng AWS, Google Cloud, at Microsoft Azure para mag-alok ng mga cloud-host na bersyon ng Llama. Bukod pa rito, bumuo ang Meta ng mga tool na nagpapasimple sa proseso para sa mga developer na maayos at maiangkop ang modelo upang matugunan ang kanilang mga partikular na kinakailangan.

Nasa ibaba ang isang detalyadong paglalarawan ng Llama, kabilang ang kung ano ang magagawa nito, ang iba't ibang bersyon na inaalok nito, at kung paano mo ito magagamit nang epektibo.

## Ano ang Llama?

Ang Llama ay hindi lamang isang modelo; ito ay sumasaklaw sa isang hanay ng mga modelo, tulad ng:

- Llama 8B

- Llama 70B

- Llama 405B

Ang mga pinakabagong bersyon (Llama 3.1 8B, Llama 3.1 70B, at Llama 3.1 405B) ay inilabas noong Hulyo 2024. Ang mga modelong ito ay sinanay sa malawak na hanay ng mga pinagmumulan ng data, gaya ng mga web page sa iba't ibang wika, pampublikong code, mga file na available online, at sintetikong data na ginawa ng iba pang mga AI system.

Ang Llama 3.1 8B at 70B ay mga compact na modelo na maaaring magpatakbo ng iba't ibang device mula sa mga laptop hanggang sa mga server. Ang Llama 3.1 405B, sa kabilang banda, ay isang malakihang modelo na karaniwang nangangailangan ng hardware ng data center. Bagama't ang mas maliliit na modelo ay maaaring hindi kasing lakas ng 405B, nag-aalok ang mga ito ng mas mabilis na performance at na-optimize para sa pinababang storage at latency.

Nagtatampok ang lahat ng modelo ng Llama ng context window ng 128,000 token, na nagbibigay-daan sa kanila na humawak ng humigit-kumulang 100,000 salita (o 300 na pahina ng teksto). Ito ay halos ang haba ng mga aklat tulad ng Wuthering Heights o Harry Potter and the Prisoner of Azkaban. Ang isang mahabang window ng konteksto ay tumutulong sa modelo na mapanatili ang impormasyon mula sa mga kamakailang dokumento at data, na binabawasan ang panganib na malihis sa labas ng paksa.

## Ano ang Magagawa ni Llama?

Tulad ng iba pang generative AI models, makakatulong si Llama sa iba't ibang gawain, gaya ng coding, pagsagot sa mga simpleng tanong sa matematika at pagbubuod ng mga dokumento sa walong wika: English, German, French, Italian, Portuguese, Hindi, Spanish at Thai. Maaari nitong pangasiwaan ang karamihan sa mga gawaing nakabatay sa text, gaya ng pagsusuri ng mga file tulad ng mga PDF at spreadsheet, ngunit sa kasalukuyan ay wala itong kakayahang bumuo o magproseso ng mga larawan — isang bagay na maaaring magbago sa hinaharap.

Maaaring isama ang mga modelong Llama sa mga third-party na app, tool, at API para magsagawa ng iba't ibang gawain. Naka-configure ang mga ito na gumamit ng Brave Search upang sagutin ang mga tanong tungkol sa mga kasalukuyang kaganapan, ang Wolfram Alpha API para sa mga query sa matematika at agham, at isang Python interpreter para sa pagpapatunay ng code. Ayon sa Meta, ang Llama 3.1 ay maaaring gumamit ng ilang mga tool na hindi pa tahasang sinanay, kahit na ang pagiging maaasahan ng tampok na ito ay hindi pa rin sigurado.

## Saan Mo Magagamit ang Llama?

Kung gusto mong direktang kumonekta kay Llama, sinusuportahan ang Meta AI chatbot na karanasan sa mga platform tulad ng Facebook Messenger, WhatsApp, Instagram, Oculus, at Meta.ai.

Para sa mga developer, available ang Llama para sa pag-download at maaaring i-scale sa ilang sikat na cloud platform. Nakipagsosyo ang Meta sa mahigit 25 kumpanya para mag-host ng Llama, kabilang ang Nvidia, Databricks, Groq, Dell, at Snowflake. Marami sa mga partner na ito ang nagbibigay ng mga karagdagang tool na nagbibigay-daan sa Llama na ma-access ang pagmamay-ari na data o tumakbo nang mas mahusay.

Iminumungkahi ng Meta ang paggamit ng mas maliliit na modelo ng Llama, partikular ang 8B at 70B, para sa mga pangkalahatang layunin tulad ng pagpapatakbo ng mga chatbot o paggawa ng code. Sa kabilang banda, ang mas malaking Llama 405B ay mas angkop para sa mga gawain tulad ng model distillation, na kinabibilangan ng paglilipat ng kaalaman mula sa isang mas malaking modelo patungo sa isang mas maliit, pati na rin sa pagbuo ng sintetikong data upang sanayin ang iba pang mga modelo.

Ang mga developer na nagpapatakbo ng mga application na may higit sa 700 milyong buwanang mga gumagamit ay dapat kumuha ng isang espesyal na lisensya mula sa Meta upang ma-access ang Llama, at ito ay ibibigay sa pagpapasya ng Meta.

## Anong Mga Tool ang Inaalok ng Meta para sa Llama?

Ipinakilala ng Meta ang ilang mga tool upang mapabuti ang seguridad ni Llama:

1. **Llama Guard:** Isang moderation framework na tumutukoy sa may problemang content gaya ng hate speech, pananakit sa sarili, at paglabag sa copyright.

2. **Prompt Guard:** Isang tool na partikular na idinisenyo upang protektahan ang Llama mula sa mga nakakapinsalang mensahe na naglalayong laktawan ang mga hakbang sa seguridad nito.

3. **CyberSecEval:** Isang cybersecurity risk assessment suite na sinusuri ang seguridad ng modelo, na tumutuon sa mga banta gaya ng automated social engineering at mga nakakasakit na aktibidad sa cyber.

Halimbawa, ang Llama Guard ay maaaring makakita ng mapaminsalang o ilegal na nilalaman na ipinasok o nabuo sa Llama, na nagpapahintulot sa mga developer na i-customize kung aling mga kategorya ang naka-block. Nakatuon ang Prompt Guard sa pagtatanggol laban sa "mga pag-atake sa iniksyon ng mensahe" na nagtatangkang manipulahin ang modelo. Nag-aalok ang CyberSecEval ng mga benchmark para sa pagtatasa ng mga panganib sa seguridad na nauugnay sa mga modelo ng Llama.

## Mga Limitasyon ni Llama

Ang Llama, tulad ng iba pang mga generative na modelo ng AI, ay may mga limitasyon at potensyal na panganib. Isa sa mga pangunahing alalahanin ay kung ang Meta ay gumamit ng mga naka-copyright na materyales upang sanayin si Llama. Kung ganoon ang sitwasyon, maaaring maharap ang mga user ng pananagutan para sa anumang naka-copyright na content na nabuo ng modelo.

Isinasaad ng mga kamakailang ulat na ang Meta ay gumagamit ng mga naka-copyright na e-book para sa pagsasanay sa AI, sa kabila ng nakatanggap ng mga legal na babala. Isinasama rin ng kumpanya ang nilalaman mula sa Instagram at Facebook sa pagsasanay ng modelo nito, na nagpapahirap sa mga user na mag-opt out. Ang Meta ay nahaharap sa maraming demanda, kabilang ang isa mula sa mga may-akda tulad ni Sarah Silverman, na nagsasabing ang kumpanya ay gumamit ng naka-copyright na materyal nang walang pahintulot.

Ang isang mahalagang pagsasaalang-alang ay ang programming, dahil maaaring gumawa si Llama ng buggy o hindi ligtas na code. Napakahalaga na ang mga developer ay magkaroon ng isang eksperto sa tao na suriin ang anumang code na binuo ng AI bago ito ipatupad sa kanilang mga application.

Bagama't nag-aalok ang modelo ng Llama ng Meta ng malaking flexibility at mga pagkakataon para sa mga developer, mahalagang kilalanin ang mga potensyal na panganib at limitasyon na kaakibat nito.

–

_Inihatid sa iyo ng Code Labs Academy – Ang Iyong Nangunguna_ [_Online Coding Bootcamp_](/) _para sa Future Tech Innovators._



###### Mga Kredito ng Larawan: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Ano ang Meta Llama? Isang Komprehensibong Pagtingin sa Open AI Model para sa Mga Developer

###### Setyembre 17, 2024

Noong isang computer science student pa sa University of Waterloo, si Jacob Jackson ay nagtatag ng [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736&hsa_acc=4311736125=4311736125=4311736125grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gc3ZhSj2Bwj04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), isang AI coding assistant company, na maagang naglulunsad ng kanyang karera sa AI . Noong 2019, habang tinatapos ni Jackson ang kanyang mga huling pagsusulit, nakalikom si Tabnine ng humigit-kumulang $60 milyon sa venture capital at naibenta sa Codata. Pagkatapos noon, nagsimula siyang magtrabaho bilang intern sa [OpenAI](https://openai.com/) hanggang 2022, nang magpasya siyang magsimula ng bagong kumpanya na magpapahusay sa mga workflow ng developer.

Binuo ni Jackson ang [Supermaven](https://supermaven.com/), isang AI coding platform na nagpapalawak sa kanyang karanasan sa Tabnine ngunit nagtatampok ng mga pangunahing pagpapahusay ng teknolohiya, salamat sa kanyang inspirasyon mula sa mga pagpapaunlad ng AI tool gaya ng ChatGPT at GitHub Copilot. Ang Babble, ang in-house na modelo ng AI ng Supermaven, ay may isang milyong-token na pop-up na nagbibigay-daan dito na magsuri ng maraming code nang sabay-sabay. Ginagawa nitong mas maaasahan ang modelo sa paggawa ng tumpak na code sa pamamagitan ng pagpayag dito na pangasiwaan ang malalaking input nang hindi "nakalimutan" ang kamakailang data o naliligaw sa paksa.

Tinutugma ng Supermaven ang mga kakumpitensya tulad ng Google's Code Assist na may 1 milyon [tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), sa kabila ng katotohanan na ang ilang AI coding platform, tulad ng Magic, ay nag-aalok ng mas malalaking pop-up (Sinusuportahan ng Magic ang 100 milyong token). Ayon kay Jackson, ang natatanging selling point ng Supermaven ay ang pinababang latency nito, na ginawang posible ng isang makabagong internal neural architecture. Bukod pa rito, ang platform ay tumatagal lamang ng 10-20 segundo upang iproseso ang repository ng code ng developer, pag-aaral ng mga panuntunan sa pag-coding at mga API upang patuloy itong tumakbo nang mabilis, kahit na may malalaking code base.

Ang merkado ng mga tool sa AI coding ay inaasahang lalago nang mabilis at umabot sa $27.17 bilyon pagsapit ng 2032, [ayon sa mga pagtataya](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Mahigit sa 1.8 milyong gumagamit ng GitHub Copilot ang kabilang sa maraming developer na nakapagsama na ng AI sa kanilang mga proseso. Ngunit ang sektor ay may maraming mga hadlang na dapat pagtagumpayan, lalo na pagdating sa intelektwal na pag-aari at privacy ng data. Dahil sa takot na ibunyag ang PIN, maraming kumpanya ang nag-aalangan na gumamit ng mga tool sa AI coding. Bilang karagdagan, ang naka-copyright na code ay kilala na nire-regurgitate ng mga modelo ng AI sa ilang mga kaso, na naglalagay sa mga developer sa legal na panganib kung isasama nila ito sa kanilang trabaho nang hindi namamalayan. .

Binigyang-diin ni Jackson [sa isang pakikipag-usap sa Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) na habang ang Supermaven nagpapanatili ng data para sa isang maikling panahon upang i-maximize ang pagganap ng system, hindi ito gumagamit ng data ng consumer upang bumuo ng mga modelo nito. Binabawasan ang pagkakalantad sa mapanganib na nilalaman sa panahon ng pagsasanay, binigyang-diin niya na ang pokus ay nasa code na naa-access ng publiko, ngunit hindi niya ganap na inalis ang posibilidad na ituro ang Babble sa IP-protected code.

Ang Supermaven ay lumago nang malaki sa katanyagan sa kabila ng mga hadlang na ito, na may higit sa 35,000 mga developer na gumagamit ng platform. Mula noong inilunsad ang kumpanya noong Pebrero, ang user base nito ay triple at marami sa mga customer na iyon ang nagsa-sign up para sa mga premium na plano. Ang taunang umuulit na kita ng kumpanya ay umabot sa $1 milyon.

Dahil sa tagumpay ng platform, binibigyang pansin ng mga mamumuhunan. Kamakailan lamang, inihayag ng Supermaven na natapos na ng kumpanya ang unang panlabas na investment round nito, na nakalikom ng $12 milyon mula sa mga angel investors at Bessemer Venture Partners, na kinabibilangan ng Perplexity at OpenAI na mga co-founder na sina John Schulman at Denis Yarats. Gagamitin ang pera para pahusayin ang text editor ng Supermaven, na kasalukuyang nasa beta, at para kumuha ng higit pang mga developer, na itinakda ang kumpanya para sa pangmatagalang tagumpay sa mabilis na lumalagong larangan ng computer coding AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Nakuha ng Supermaven ang Suporta sa Investor: AI Tool Optimizing Developer Workflows

###### Setyembre 13, 2024



Ang Meta ay [ina-update](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) ang diskarte nito sa pag-label ng content na may na-edit o binago ng mga tool ng AI sa Instagram, Facebook, at Mga Thread. Ang label na “AI Insights,” na dating direktang lumabas sa ibaba ng pangalan ng isang user, ay lilipat na ngayon sa menu ng mga post para sa content na binago gamit ang AI.

Sinabi ng kumpanya na ang label ay patuloy na lalabas sa nilalaman na kinikilala ng Meta bilang ganap na binuo ng AI. Bagama't maaaring hindi gaanong nakikita ang label sa content na na-edit gamit ang AI tools, malinaw pa rin itong makikita sa content na ganap na ginawa gamit ang AI input.

Inanunsyo ng Meta na mag-aalok ito ng impormasyon kung ang nilalaman ay may label na batay sa mga signal na pamantayan sa industriya o pagsisiwalat ng user. Ang pagbabagong ito, na ipapatupad sa susunod na linggo, ay naglalayong "mas mahusay na ipakita ang saklaw ng AI na ginagamit sa nilalaman" sa lahat ng mga platform nito.

Sa pamamagitan ng pagbabawas ng katanyagan ng label ng impormasyon ng AI, may pag-aalala na ang mga user ay maaaring mas madaling malinlang ng nilalamang na-edit ng AI, lalo na habang ang mga tool sa pag-edit ay nagiging mas sopistikado.

Hindi ito ang unang pagkakataon na binago ng Meta ang paraan ng pag-label nito sa nilalamang nauugnay sa AI. Noong Hulyo, binago ng kumpanya ang label mula sa "Ginawa gamit ang AI" sa "Impormasyon mula sa AI" pagkatapos makatanggap ng mga reklamo mula sa mga photographer na nadama na ang label ay hindi wastong inilapat sa mga tunay na larawan. Inamin ng Meta na ang orihinal na mga salita ay nakakalito at maaaring bigyang-kahulugan na ang ilang mga larawan ay ganap na binuo ng AI, kahit na ang mga ito ay na-edit lamang gamit ang mga tool ng AI.

—

_Inihatid sa iyo ng Code Labs Academy – Ang Iyong Nangunguna_ [_Online Coding Bootcamp_](/) _para sa Future Tech Innovators._



###### Mga Kredito ng Larawan: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Binabago ng Meta ang Pag-label ng AI sa Mga Social Platform para sa Nilalaman na Na-edit at Binuo ng AI

###### Setyembre 13, 2024

Kahit na ang mga opinyon sa kung ang bagong HR firm ni Rajeev Behera, [Every](https://www.every.io/), ay isang high-risk venture o isang napakahusay na ideya ay iba-iba, ang startup ay gumagawa ng mga wave. Para sa maliliit na kumpanya, isinasama ng all-in-one na platform ang payroll, onboarding, at pamamahala sa paggasta. Ang market na ito ay siksikan na sa mga matatag na manlalaro tulad ng Gusto, Rippling, at Deel pati na rin ang mga paparating na kumpanya tulad ng Mercury at Brex. Gayunpaman, mukhang sigurado ang mga tagasuporta ni Behera na kakaiba ang kanyang diskarte. Kamakailan, nakalikom ng $22.5 milyon ang Every sa isang Series A fundraising round na pinamumunuan ng Okta Ventures, Base10 Partners, Y Combinator, at Redpoint Ventures.

Ang pagbibigay-diin ni Behera sa maagang yugto ng mga kumpanya at natatanging diskarte sa pag-aalok ang siyang nagpapakilala sa kanyang pananaw. Ang bawat isa ay nagbibigay ng mga libreng serbisyo sa pagsasama sa maliliit na kumpanya, at pagkatapos ay nag-set up sila ng mga business bank account at nagbibigay ng mahalagang suporta sa back-office. Ang mga bayad sa pagpapalit at mga bayarin sa SaaS para sa mga karagdagang module tulad ng accounting ay nakakakuha ng kita.

[Ipinaliwanag ni Behera](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) na Ang Bawat ay nakabuo ng mga advanced na tool para sa payroll, pagbabangko, at pamamahala ng gastos. Upang maakit ang mga tagapagtatag nang maaga, nag-aalok sila ngayon ng mga libreng serbisyo sa pagsasama. Kapag na-onboard sa pamamagitan ng isang personalized na session, ang mga startup ay magkakaroon ng access sa isang komprehensibong sistema na sumasaklaw sa pagbabangko, payroll, HR, bookkeeping, buwis, at pagsunod ng estado. Bukod pa rito, nakikinabang ang mga founder mula sa isang nakatuong channel ng Slack kung saan maaari silang kumonekta at magbahagi ng mga insight sa iba pang mga negosyante.

Pagkatapos makumpleto ang kanilang pagsasama gamit ang Every, ang mga customer ay karaniwang nananatili dito sa halip na gumamit ng mga platform ng mga kakumpitensya tulad ng Rippling. Sa mga tool na nilalayong isulong ang kanilang paglago sa unang limang taon, ang konsentrasyon ng Every ay nasa mga kumpanyang may mas mababa sa 200 katao.

Ang diskarte ni Behera ay natatangi dahil inaasahan niya na ang kanyang mga kliyente na pinakakumikita ay kalaunan ay mangangailangan ng higit pang mga serbisyo mula sa Every—kahit na hanggang sa ang Every ay maging isang growth-stage na fintech na maaaring tumulong sa mas malalaking kumpanya.

Ang relasyon ni Behera sa [Y Combinator](https://www.ycombinator.com/) (YC) ay naging mahalagang bahagi ng pag-unlad ng Lahat. Ginamit ni Behera, isang makaranasang negosyante, ang network ng accelerator, at lahat ay bahagi ng Summer 2023 cohort ng YC. Ang Reflektive, ang kanyang naunang pagsisikap sa negosyo, ay binili noong 2021 kasunod ng pagtaas ng kapital na higit sa $100 milyon. Bilang karagdagan, ang tagapayo ng YC na si Surbhi Sarna, ang kanyang asawa, ay isa ring matagumpay na negosyante. Dahil dito, humigit-kumulang kalahati ng mga kliyente ng Every ang dumating sa pamamagitan ng malawak na startup network ng YC.

Kahit na ang Rippling, Gusto, at Deel—tatlong iba pang startup na sinusuportahan ng YC—ay nakikipagkumpitensya sa kanila, malaking bentahe ang malapit na kaugnayan ng Every sa YC ecosystem. Nakaakit ito ng mga mamumuhunan, kasama ang hands-on na diskarte ni Behera sa paglikha ng mga bahagi ng platform mula sa simula.

Nag-hire ng mas maraming staff si Behera pagkatapos personal na pangasiwaan ang mga benta ng customer, suporta, at disenyo ng produkto para sa unang 50 kliyente ng negosyo, sa tulong ng Alex Bard ng Redpoint, na nangasiwa sa Series A fundraising round. Matapos basahin ang mga kumikinang na testimonial mula sa mga kumpanyang gumagamit na ng Every, ginawa rin ng ibang venture capitalists.

Sa wala pang dalawang linggo, nakuha ang pera ng Serye A nang hindi aktibong naghahanap ng mga bagong mamumuhunan si Behera. Bagama't hindi isinapubliko ang halaga ng kumpanya, inilagay ito sa mga pagtatantya sa $112.5 milyon. Gagamitin ang karagdagang pagpopondo upang suportahan ang libreng pagsasama at mga serbisyo sa onboarding na nagtutulak sa maagang tagumpay ng Every, gayundin sa pagpapalaki ng kawani ng engineering, na ngayon ay humigit-kumulang 20 katao.

Ano ang Meta Llama? Isang Komprehensibong Pagtingin sa Open AI Model para sa Mga Developer

Nakuha ng Supermaven ang Suporta sa Investor: AI Tool Optimizing Developer Workflows

Binabago ng Meta ang Pag-label ng AI sa Mga Social Platform para sa Nilalaman na Na-edit at Binuo ng AI

Ang HR Startup Every Secures $22.5M Series A Funding at Pinapalawak ang Engineering Team sa Dalawang Linggo Lang