###### 17 september 2024



Meta har, liksom många andra ledande teknikföretag, utvecklat sin egen generativa AI-modell känd som [Llama](https://llama.meta.com/). Det som skiljer Llama är dess öppna natur, vilket gör att utvecklare kan ladda ner och använda den med stor frihet, även om det finns vissa villkor att tänka på. Detta tillvägagångssätt står i kontrast till modeller som Anthropics Claude, [OpenAI:s GPT-4o](https://openai.com/index/hello-gpt-4o/) (motorn bakom [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)), och Googles Gemini, som endast är tillgängliga via API:er.

För att ge utvecklare mer flexibilitet har Meta samarbetat med molntjänstleverantörer som AWS, Google Cloud och Microsoft Azure för att erbjuda molnbaserade versioner av Llama. Dessutom har Meta byggt verktyg som förenklar processen för utvecklare att finjustera och anpassa modellen för att möta deras specifika krav.

Nedan finns en detaljerad beskrivning av Llama, inklusive vad den kan göra, de olika versionerna den erbjuder och hur du kan använda den effektivt.

## Vad är lama?

Lama är inte bara en modell; den omfattar en rad modeller, såsom:

- Lama 8B

- Lama 70B

- Lama 405B

De senaste versionerna (Llama 3.1 8B, Llama 3.1 70B och Llama 3.1 405B) släpptes i juli 2024. Dessa modeller är utbildade på ett brett utbud av datakällor, såsom webbsidor på olika språk, offentlig kod, filer tillgängliga online, och syntetisk data producerad av andra AI-system.

Llama 3.1 8B och 70B är kompakta modeller som kan köra en mängd olika enheter från bärbara datorer till servrar. Llama 3.1 405B, å andra sidan, är en storskalig modell som vanligtvis kräver datacenterhårdvara. Även om de mindre modellerna kanske inte är lika kraftfulla som 405B, erbjuder de snabbare prestanda och är optimerade för minskad lagring och fördröjning.

Alla Llama-modeller har ett sammanhangsfönster på 128 000 tokens, vilket gör att de kan hantera cirka 100 000 ord (eller 300 sidor text). Detta är ungefär längden på böcker som Wuthering Heights eller Harry Potter and the Prisoner of Azkaban. Ett långt sammanhangsfönster hjälper modellen att behålla information från senaste dokument och data, vilket minskar risken för att avvika från ämnet.

## Vad kan lama göra?

Liksom andra generativa AI-modeller kan Llama hjälpa till med en mängd olika uppgifter, som att koda, svara på enkla matematikfrågor och sammanfatta dokument på åtta språk: engelska, tyska, franska, italienska, portugisiska, hindi, spanska och thailändska. Den kan hantera de flesta textbaserade uppgifter, som att analysera filer som PDF-filer och kalkylblad, men den har för närvarande inte förmågan att generera eller bearbeta bilder - något som kan förändras i framtiden.

Lamamodeller kan integreras med appar, verktyg och API:er från tredje part för att utföra en mängd olika uppgifter. De är konfigurerade att använda Brave Search för att svara på frågor om aktuella händelser, Wolfram Alpha API för matematik och naturvetenskapliga frågor och en Python-tolk för kodvalidering. Enligt Meta kan Llama 3.1 till och med använda vissa verktyg som den inte explicit har tränats på, även om tillförlitligheten av denna funktion fortfarande är osäker.

## Var kan du använda lama?

Om du vill ansluta direkt till Llama, stöds Meta AI-chatbotupplevelsen på plattformar som Facebook Messenger, WhatsApp, Instagram, Oculus och Meta.ai.

För utvecklare är Llama tillgänglig för nedladdning och kan skalas till flera populära molnplattformar. Meta har samarbetat med över 25 företag för att vara värd för Llama, inklusive Nvidia, Databricks, Groq, Dell och Snowflake. Många av dessa partners tillhandahåller ytterligare verktyg som gör att Llama kan komma åt egen data eller köra mer effektivt.

Meta föreslår att man använder de mindre Llama-modellerna, speciellt 8B och 70B, för allmänna ändamål som att köra chatbots eller skapa kod. Å andra sidan är den större Llama 405B mer lämplig för uppgifter som modelldestillation, vilket innebär att överföra kunskap från en större modell till en mindre, samt att generera syntetisk data för att träna andra modeller.

Utvecklare som använder applikationer med mer än 700 miljoner användare per månad måste skaffa en speciell licens från Meta för att få åtkomst till Llama, och detta kommer att beviljas efter Metas gottfinnande.

## Vilka verktyg erbjuder Meta för lama?

Meta har introducerat flera verktyg för att förbättra Llamas säkerhet:

1. **Llama Guard:** Ett modereringsramverk som identifierar problematiskt innehåll som hatretorik, självskada och upphovsrättsintrång.

2. **Prompt Guard:** Ett verktyg speciellt utformat för att skydda Llama från skadliga meddelanden som försöker kringgå dess säkerhetsåtgärder.

3. **CyberSecEval:** En svit för cybersäkerhetsriskbedömning som utvärderar modellsäkerhet, med fokus på hot som automatiserad social ingenjörskonst och offensiva cyberaktiviteter.

Till exempel kan Llama Guard upptäcka skadligt eller olagligt innehåll som matas in eller genereras i Llama, vilket gör att utvecklare kan anpassa vilka kategorier som blockeras. Prompt Guard fokuserar på att försvara sig mot "meddelandeinjektionsattacker" som försöker manipulera modellen. CyberSecEval erbjuder riktmärken för att bedöma säkerhetsrisker förknippade med lamamodeller.

## Lamas begränsningar

Llama, liksom andra generativa AI-modeller, har sina begränsningar och potentiella risker. En av de största problemen är om Meta använde upphovsrättsskyddat material för att träna Lama. Om så är fallet kan användarna stå inför ansvar för allt upphovsrättsskyddat innehåll som modellen genererar.

De senaste rapporterna indikerar att Meta har använt upphovsrättsskyddade e-böcker för AI-utbildning, trots att de fått juridiska varningar. Företaget införlivar också innehåll från Instagram och Facebook i sin modellutbildning, vilket gör det svårt för användare att välja bort. Meta står inför flera stämningar, inklusive en från författare som Sarah Silverman, som hävdar att företaget har använt upphovsrättsskyddat material utan tillstånd.

En viktig faktor är programmering, eftersom Llama kan producera buggig eller osäker kod. Det är viktigt att utvecklare låter en mänsklig expert granska all AI-genererad kod innan de implementerar den i sina applikationer.

Även om Metas Llama-modell erbjuder avsevärd flexibilitet och möjligheter för utvecklare, är det viktigt att inse de potentiella riskerna och begränsningarna som följer med den.

–

_Tillverkad av Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Bildkrediter: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Vad är Meta Lama? En omfattande titt på den öppna AI-modellen för utvecklare

###### 17 september 2024

Medan han fortfarande studerade i datavetenskap vid University of Waterloo, var Jacob Jackson med och grundade [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126=4311736126=4311736126=4311736126\2h_sa_camp5\2h_sa_camp5&70_sa_camp5\2h_sa_camp5&7000159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gCAj_kw=tabnine04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), ett AI-kodningsassistentföretag, som tidigt startade sin karriär inom AI . 2019, när Jackson avslutade sina slutprov, samlade Tabnine in cirka 60 miljoner dollar i riskkapital och såldes till Codata. Efter det började han arbeta som praktikant på [OpenAI](https://openai.com/) fram till 2022, då han tog beslutet att starta ett nytt företag som skulle förbättra arbetsflöden för utvecklare.

Jackson utvecklade [Supermaven](https://supermaven.com/), en AI-kodningsplattform som utökar hans erfarenhet av Tabnine men har stora tekniska förbättringar, tack vare hans inspiration från AI-verktygsutvecklingar som ChatGPT och GitHub Copilot. Babble, Supermavens interna AI-modell, har en popup-fönster med miljoner token som gör att den kan analysera mycket kod på en gång. Detta gör modellen mer tillförlitlig när det gäller att producera korrekt kod genom att tillåta den att hantera stora indata utan att "glömma" senaste data eller avvika från ämnet.

Supermaven matchar konkurrenter som Googles Code Assist med 1 miljon [tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), trots det faktum att vissa AI-kodningsplattformar, som Magic, erbjuder betydligt större popup-fönster (Magic stöder 100 miljoner tokens). Enligt Jackson är Supermavens unika försäljningsargument dess reducerade latens, möjliggjort av en innovativ intern neural arkitektur. Dessutom tar plattformen bara 10-20 sekunder att bearbeta en utvecklares kodlager, lära sig kodningsregler och API:er så att den kan fortsätta köras snabbt, även med stora kodbaser.

Marknaden för AI-kodningsverktyg förväntas växa snabbt och nå 27,17 miljarder dollar till 2032, [enligt prognoser](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Mer än 1,8 miljoner GitHub Copilot-användare är bland de många utvecklare som redan har integrerat AI i sina processer. Men sektorn har många hinder att övervinna, särskilt när det gäller immateriella rättigheter och datasekretess. Många företag är rädda för att avslöja PIN-kod och tvekar att använda AI-kodningsverktyg. Dessutom har upphovsrättsskyddad kod varit känd för att i vissa fall återuppstå av AI-modeller, vilket sätter utvecklare i juridisk fara om de inkluderar den i sitt arbete utan att inse det. .

Jackson betonade [i ett samtal med Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) att medan Supermaven behåller data under en kort period för att maximera systemets prestanda, den använder inte konsumentdata för att bygga sina modeller. Genom att minska exponeringen för farligt innehåll under träningen betonade han att fokus låg på allmänt tillgänglig kod, men han uteslöt inte helt möjligheten att Babble skulle läras ut i IP-skyddad kod.

Supermaven har växt avsevärt i popularitet trots dessa hinder, med över 35 000 utvecklare som använder plattformen. Sedan företaget lanserades i februari har dess användarbas tredubblats och många av dessa kunder registrerar sig för premiumplaner. Företagets årliga återkommande intäkter nådde 1 miljon dollar.

På grund av plattformens framgång noterar investerarna. Nyligen avslöjade Supermaven att företaget hade slutfört sin första externa investeringsrunda och samlat in 12 miljoner dollar från ängelinvesterare och Bessemer Venture Partners, som inkluderade Perplexity och OpenAI medgrundare John Schulman och Denis Yarats. Pengarna kommer att användas för att förbättra Supermavens textredigerare, som för närvarande är i beta, och för att anställa fler utvecklare, vilket gör företaget redo för långsiktig framgång inom det snabbt växande området datorkodning AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven får investerarstöd: AI-verktyg som optimerar arbetsflöden för utvecklare

###### 13 september 2024



Meta [uppdaterar](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) sin metod för att märka innehåll som har har redigerats eller modifierats av AI-verktyg på Instagram, Facebook och Threads. Etiketten "AI Insights", som tidigare dök upp direkt under en användares namn, flyttas nu till inläggsmenyn för innehåll som har modifierats med AI.

Företaget sa att etiketten kommer att fortsätta att visas på innehåll som Meta identifierar som helt AI-genererat. Även om etiketten kan vara mindre synlig på innehåll som har redigerats med AI-verktyg, kommer den fortfarande att vara tydligt synlig på innehåll som har skapats helt med AI-indata.

Meta har meddelat att de kommer att erbjuda information om huruvida innehåll är märkt baserat på industristandardsignaler eller användaravslöjande. Denna förändring, som kommer att implementeras nästa vecka, syftar till att "bättre spegla omfattningen av AI som används i innehåll" på alla dess plattformar.

Genom att minska framträdandet av AI-informationsetiketten finns det oro för att användare lättare kan luras av AI-redigerat innehåll, särskilt eftersom redigeringsverktygen blir allt mer sofistikerade.

Det här är inte första gången Meta har ändrat sättet att märka AI-relaterat innehåll. I juli ändrade företaget etiketten från "Made with AI" till "Information from AI" efter att ha fått klagomål från fotografer som ansåg att etiketten var felaktigt applicerad på riktiga foton. Meta medgav att den ursprungliga formuleringen var förvirrande och kunde ha tolkats som att vissa bilder helt och hållet var AI-genererade, även om de bara hade redigerats med AI-verktyg.

—

_Tillverkad av Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Bildkrediter: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Metaändrar AI-märkning på sociala plattformar för redigerat och AI-genererat innehåll

###### 13 september 2024

Även om åsikterna om huruvida Rajeev Beheras nya HR-företag, [Every](https://www.every.io/), är en högrisksatsning eller en briljant idé är olika, skapar startupen vågor. För små företag integrerar allt-i-ett-plattformen lönehantering, introduktion och utgiftshantering. Denna marknad är redan överbelastad med etablerade aktörer som Gusto, Rippling och Deel såväl som kommande företag som Mercury och Brex. Men Beheras supportrar verkar vara säkra på att hans strategi är unik. Nyligen samlade Every in $22,5 miljoner i en serie A-insamlingsrunda ledd av Okta Ventures, Base10 Partners, Y Combinator och Redpoint Ventures.

Beheras betoning på företag i ett tidigt skede och distinkt erbjudandestrategi är det som utmärker hans vision. Varje tillhandahåller gratis inkorporeringstjänster till små företag, och sedan skapar de affärsbankkonton och ger avgörande backoffice-stöd. Förmedlingsavgifter och SaaS-avgifter för extra moduler som redovisning genererar intäkter.

[Behera förklarade](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) att Every har utvecklat avancerade verktyg för löne-, bank- och kostnadshantering. För att tidigt attrahera grundare erbjuder de nu gratis inkorporeringstjänster. Väl ombord på en personlig session får startups tillgång till ett omfattande system som täcker bank, löner, HR, bokföring, skatter och statlig efterlevnad. Dessutom drar grundare nytta av en dedikerad Slack-kanal där de kan ansluta och dela insikter med andra entreprenörer.

Efter att ha slutfört sin inkorporering med Every, brukar kunderna hålla fast vid det istället för att använda konkurrenters plattformar som Rippling. Med verktyg avsedda att främja deras tillväxt under de första fem åren är Everys koncentration på företag med mindre än 200 personer.

Beheras tillvägagångssätt är unikt genom att han förväntar sig att hans mest lönsamma kunder så småningom kommer att kräva fler tjänster från Every – åtminstone tills Every utvecklas till en fintech i tillväxtfas som kan hjälpa större företag.

Beheras relation med [Y Combinator](https://www.ycombinator.com/) (YC) har varit en viktig komponent i Everybodys utveckling. Behera, en erfaren entreprenör, använde sig av acceleratorns nätverk, och alla var en del av YC:s Sommar 2023-kohort. Reflektive, hans tidigare affärsverksamhet, köptes 2021 efter en kapitalhöjning på mer än 100 miljoner dollar. Dessutom är YC-rådgivaren Surbhi Sarna, hans fru, också en framgångsrik entreprenör. På grund av detta kom ungefär hälften av Everys kundkrets via YC:s omfattande startup-nätverk.

Även om Rippling, Gusto och Deel – tre andra YC-stödda startups – konkurrerar med dem, är Everys nära band till YC-ekosystemet en betydande fördel. Detta har lockat investerare, tillsammans med Beheras praktiska tillvägagångssätt för att skapa plattformens komponenter från grunden.

Behera anställde mer personal efter att personligen ha övervakat kundförsäljning, support och produktdesign för företagets första 50 kunder, med hjälp av Redpoints Alex Bard, som övervakade serie A-insamlingsrundan. Efter att ha läst lysande vittnesmål från företag som redan använde Every, gjorde andra riskkapitalister detsamma.

På mindre än två veckor var Serie A-pengarna säkrade utan att Behera aktivt sökte nya investerare. Även om företagets värde inte offentliggjordes, uppskattas det till 112,5 miljoner dollar. Den extra finansieringen kommer att användas för att stödja de kostnadsfria inkorporerings- och onboardingtjänsterna som driver Everys tidiga framgång, samt för att utöka ingenjörspersonalen, som nu uppgår till cirka 20 personer.

Vad är Meta Lama? En omfattande titt på den öppna AI-modellen för utvecklare

Supermaven får investerarstöd: AI-verktyg som optimerar arbetsflöden för utvecklare

Metaändrar AI-märkning på sociala plattformar för redigerat och AI-genererat innehåll

HR Startup Every säkrar $22,5 miljoner Series A-finansiering och utökar teknikteamet på bara två veckor