###### 17. september 2024



Meta har ligesom mange andre førende teknologivirksomheder udviklet sin egen generative AI-model kendt som [Llama](https://llama.meta.com/). Det, der adskiller Llama, er dens åbne natur, som giver udviklere mulighed for at downloade og bruge den med stor frihed, selvom der er nogle betingelser at huske på. Denne tilgang står i kontrast til modeller som Anthropics Claude, [OpenAI's GPT-4o](https://openai.com/index/hello-gpt-4o/) (motoren bag [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)), og Googles Gemini, som udelukkende er tilgængelige via API'er.

For at give udviklere mere fleksibilitet har Meta indgået partnerskab med cloud-tjenesteudbydere som AWS, Google Cloud og Microsoft Azure for at tilbyde cloud-hostede versioner af Llama. Derudover har Meta bygget værktøjer, der forenkler processen for udviklere til at finjustere og tilpasse modellen til at opfylde deres specifikke krav.

Nedenfor er en detaljeret beskrivelse af Llama, herunder hvad den kan, de forskellige versioner, den tilbyder, og hvordan du kan bruge den effektivt.

## Hvad er lama?

Lama er ikke kun én model; den omfatter en række modeller, såsom:

- Lama 8B

- Lama 70B

- Lama 405B

De seneste versioner (Llama 3.1 8B, Llama 3.1 70B og Llama 3.1 405B) blev udgivet i juli 2024. Disse modeller er trænet på en lang række datakilder, såsom websider på forskellige sprog, offentlig kode, filer tilgængelige online, og syntetiske data produceret af andre AI-systemer.

Llama 3.1 8B og 70B er kompakte modeller, der kan køre en række forskellige enheder fra bærbare computere til servere. Llama 3.1 405B er derimod en storstilet model, der typisk kræver datacenterhardware. Selvom de mindre modeller måske ikke er så kraftfulde som 405B, tilbyder de hurtigere ydeevne og er optimeret til reduceret lagring og latens.

Alle Llama-modeller har et kontekstvindue på 128.000 tokens, hvilket giver dem mulighed for at håndtere omkring 100.000 ord (eller 300 sider tekst). Dette er nogenlunde længden af ​​bøger som Wuthering Heights eller Harry Potter and the Prisoner of Azkaban. Et langt kontekstvindue hjælper modellen med at bevare information fra nyere dokumenter og data, hvilket reducerer risikoen for at komme uden for emnet.

## Hvad kan lamaer gøre?

Som andre generative AI-modeller kan Llama hjælpe med en række opgaver, såsom kodning, besvarelse af simple matematiske spørgsmål og opsummering af dokumenter på otte sprog: engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Det kan håndtere de fleste tekstbaserede opgaver, såsom at analysere filer som PDF'er og regneark, men det har i øjeblikket ikke mulighed for at generere eller behandle billeder - noget der kan ændre sig i fremtiden.

Lama-modeller kan integreres med tredjeparts apps, værktøjer og API'er for at udføre en række opgaver. De er konfigureret til at bruge Brave Search til at besvare spørgsmål om aktuelle begivenheder, Wolfram Alpha API til matematik og naturvidenskabelige forespørgsler og en Python-fortolker til kodevalidering. Ifølge Meta kan Llama 3.1 endda bruge nogle værktøjer, som den ikke eksplicit er blevet trænet i, selvom pålideligheden af ​​denne funktion stadig er usikker.

## Hvor kan du bruge lama?

Hvis du vil oprette forbindelse direkte til Llama, understøttes Meta AI-chatbot-oplevelsen på platforme som Facebook Messenger, WhatsApp, Instagram, Oculus og Meta.ai.

For udviklere er Llama tilgængelig til download og kan skaleres til flere populære cloud-platforme. Meta har indgået partnerskab med over 25 virksomheder for at være vært for Llama, herunder Nvidia, Databricks, Groq, Dell og Snowflake. Mange af disse partnere leverer yderligere værktøjer, der giver Llama adgang til proprietære data eller kører mere effektivt.

Meta foreslår at bruge de mindre Llama-modeller, specifikt 8B og 70B, til generelle formål såsom at køre chatbots eller oprette kode. På den anden side er den større Llama 405B mere velegnet til opgaver som modeldestillation, som involverer overførsel af viden fra en større model til en mindre, samt generering af syntetiske data for at træne andre modeller.

Udviklere, der betjener applikationer med mere end 700 millioner månedlige brugere, skal erhverve en særlig licens fra Meta for at få adgang til Llama, og dette vil blive givet efter Metas skøn.

## Hvilke værktøjer tilbyder Meta til lamaer?

Meta har introduceret flere værktøjer til at forbedre Llamas sikkerhed:

1. **Llama Guard:** En moderationsramme, der identificerer problematisk indhold såsom hadefulde ytringer, selvskade og krænkelse af ophavsret.

2. **Prompt Guard:** Et værktøj specielt designet til at beskytte Llama mod skadelige beskeder, der søger at omgå dens sikkerhedsforanstaltninger.

3. **CyberSecEval:** En cybersikkerhedsrisikovurderingspakke, der evaluerer modelsikkerhed med fokus på trusler såsom automatiseret social engineering og stødende cyberaktiviteter.

For eksempel kan Llama Guard opdage skadeligt eller ulovligt indhold, der indtastes eller genereres i Llama, hvilket giver udviklere mulighed for at tilpasse, hvilke kategorier der blokeres. Prompt Guard fokuserer på at forsvare sig mod "beskedindsprøjtningsangreb", der forsøger at manipulere modellen. CyberSecEval tilbyder benchmarks til vurdering af sikkerhedsrisici forbundet med Llama-modeller.

## Lamas begrænsninger

Llama har ligesom andre generative AI-modeller sine begrænsninger og potentielle risici. En af de største bekymringer er, om Meta brugte ophavsretligt beskyttet materiale til at træne Llama. Hvis det er tilfældet, kan brugere blive stillet til ansvar for ethvert ophavsretligt beskyttet indhold, som modellen genererer.

Nylige rapporter indikerer, at Meta har brugt ophavsretligt beskyttede e-bøger til AI-træning, på trods af at have modtaget juridiske advarsler. Virksomheden inkorporerer også indhold fra Instagram og Facebook i sin modeltræning, hvilket gør det svært for brugerne at fravælge. Meta står over for flere retssager, herunder en fra forfattere som Sarah Silverman, der hævder, at virksomheden har brugt ophavsretligt beskyttet materiale uden tilladelse.

En vigtig overvejelse er programmering, da Lama kan producere buggy eller usikker kode. Det er afgørende, at udviklere får en menneskelig ekspert til at gennemgå enhver AI-genereret kode, før de implementerer den i deres applikationer.

Mens Metas Llama-model tilbyder betydelig fleksibilitet og muligheder for udviklere, er det vigtigt at erkende de potentielle risici og begrænsninger, der følger med den.

–

_Bruget til dig af Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Billedkreditering: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Hvad er Meta Lama? Et omfattende kig på den åbne AI-model for udviklere

###### 17. september 2024

Mens han stadig var datalogistuderende ved University of Waterloo, var Jacob Jackson medstifter af [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126=4311736126=4311736126=4311736126=4311736126\2h_sa_camp5&7p_hsa_camp5&311736126159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\ZawSiW_AwSwE3SwSwE3SwSwE3SwSwE04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), et AI-kodningsassistentfirma, der tidligt lancerede sin karriere inden for AI . I 2019, da Jackson var ved at afslutte sine afsluttende eksamener, rejste Tabnine omkring $60 millioner i risikovillig kapital og blev solgt til Codata. Derefter begyndte han at arbejde som praktikant hos [OpenAI](https://openai.com/) indtil 2022, hvor han tog beslutningen om at starte en ny virksomhed, der ville forbedre udviklerarbejdsgange.

Jackson udviklede [Supermaven](https://supermaven.com/), en AI-kodningsplatform, der udvider hans erfaring med Tabnine, men som byder på store teknologiforbedringer, takket være hans inspiration fra AI-værktøjsudviklinger såsom ChatGPT og GitHub Copilot. Babble, Supermavens in-house AI-model, har en million-token pop-up, der giver den mulighed for at analysere en masse kode på én gang. Dette gør modellen mere pålidelig til at producere nøjagtig kode ved at tillade den at håndtere store input uden at "glemme" nyere data eller afvige fra emnet.

Supermaven matcher konkurrenter som Googles Code Assist med 1 million [tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), på trods af det faktum at nogle AI-kodningsplatforme, som Magic, tilbyder betydeligt større pop-ups (Magic understøtter 100 millioner tokens). Ifølge Jackson er Supermavens unikke salgsargument dens reducerede latenstid, muliggjort af en innovativ intern neural arkitektur. Derudover tager platformen kun 10-20 sekunder at behandle en udviklers kodelager, lære kodningsregler og API'er, så den kan fortsætte med at køre hurtigt, selv med store kodebaser.

Markedet for AI-kodningsværktøjer forventes at vokse hurtigt og nå $27,17 milliarder i 2032, [ifølge prognoser](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Mere end 1,8 millioner GitHub Copilot-brugere er blandt de mange udviklere, der allerede har integreret AI i deres processer. Men sektoren har mange forhindringer at overvinde, især når det kommer til intellektuel ejendomsret og databeskyttelse. Mange virksomheder er bange for at afsløre PIN-kode og tøver med at bruge AI-kodningsværktøjer. Derudover har ophavsretsligt beskyttet kode været kendt for at blive genvundet af AI-modeller i nogle tilfælde, hvilket sætter udviklere i juridisk fare, hvis de inkluderer det i deres arbejde uden at være klar over det. .

Jackson understregede [i en snak med Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/), at mens Supermaven bevarer data i en kort periode for at maksimere systemets ydeevne, den bruger ikke forbrugerdata til at bygge sine modeller. Ved at reducere eksponeringen for farligt indhold under træningen understregede han, at fokus var på offentligt tilgængelig kode, men han udelukkede ikke helt muligheden for, at Babble ville blive undervist i IP-beskyttet kode.

Supermaven er vokset betydeligt i popularitet på trods af disse forhindringer, med over 35.000 udviklere, der bruger platformen. Siden virksomheden blev lanceret i februar, er dens brugerbase tredoblet, og mange af disse kunder tilmelder sig premium-planer. Virksomhedens årlige tilbagevendende omsætning nåede $1 mio.

På grund af platformens succes noterer investorerne sig. For nylig afslørede Supermaven, at virksomheden havde afsluttet sin første eksterne investeringsrunde og rejste $12 millioner fra engleinvestorer og Bessemer Venture Partners, som inkluderede Perplexity og OpenAI medstifterne John Schulman og Denis Yarats. Pengene vil blive brugt til at forbedre Supermavens teksteditor, som i øjeblikket er i beta, og til at ansætte flere udviklere, hvilket gør virksomheden klar til langsigtet succes inden for det hurtigt voksende område med computerkodning AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven får investorstøtte: AI-værktøj til optimering af udviklerarbejdsgange

###### 13. september 2024



Meta [opdaterer](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) sin tilgang til mærkning af indhold, der har blevet redigeret eller ændret af AI-værktøjer på Instagram, Facebook og Threads. Etiketten "AI Insights", som tidligere dukkede op direkte under en brugers navn, vil nu flytte til indlægsmenuen for indhold, der er blevet ændret ved hjælp af AI.

Virksomheden sagde, at etiketten fortsat vil blive vist på indhold, som Meta identificerer som værende udelukkende AI-genereret. Selvom etiketten kan være mindre synlig på indhold, der er blevet redigeret ved hjælp af AI-værktøjer, vil den stadig være tydeligt synlig på indhold, der er blevet oprettet udelukkende med AI-input.

Meta har annonceret, at de vil tilbyde information om, hvorvidt indhold er mærket baseret på industristandardsignaler eller brugeroplysning. Denne ændring, som vil blive implementeret i næste uge, har til formål at "bedre afspejle omfanget af AI brugt i indhold" på tværs af alle dets platforme.

Ved at reducere AI-informationsmærkets fremtrædende plads er der bekymring for, at brugere lettere kan blive narre af AI-redigeret indhold, især da redigeringsværktøjer bliver mere og mere sofistikerede.

Det er ikke første gang, Meta har ændret den måde, det mærker AI-relateret indhold på. I juli ændrede virksomheden etiketten fra "Made with AI" til "Information from AI" efter at have modtaget klager fra fotografer, der mente, at etiketten var forkert anvendt på rigtige billeder. Meta indrømmede, at den originale ordlyd var forvirrende og kunne have været fortolket til at betyde, at visse billeder udelukkende var AI-genererede, selvom de kun var blevet redigeret med AI-værktøjer.

—

_Bruget til dig af Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Billedkreditering: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Metaændrer AI-mærkning på sociale platforme for redigeret og AI-genereret indhold

###### 13. september 2024

Selvom meningerne om, hvorvidt Rajeev Beheras nye HR-firma, [Every](https://www.every.io/), er et højrisikoprojekt eller en genial idé, er forskellige, så laver opstarten bølger. For små virksomheder integrerer alt-i-én-platformen løn, onboarding og udgiftsstyring. Dette marked er allerede overbelastet med etablerede spillere som Gusto, Rippling og Deel samt kommende virksomheder som Mercury og Brex. Beheras bagmænd ser dog ud til at være sikre på, at hans strategi er unik. For nylig rejste Every $22,5 millioner i en serie A-indsamlingsrunde ledet af Okta Ventures, Base10 Partners, Y Combinator og Redpoint Ventures.

Beheras vægt på firmaer i tidlige stadier og karakteristiske tilbudsstrategi er det, der kendetegner hans vision. Hver tilbyder gratis inkorporeringstjenester til små firmaer, og så opretter de forretningsbankkonti og yder afgørende backoffice-support. Interchangegebyrer og SaaS-gebyrer for ekstra moduler som regnskab genererer indtægter.

[Behera forklarede](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/), at Every har udviklet avancerede værktøjer til løn-, bank- og udgiftsstyring. For at tiltrække stiftere tidligt tilbyder de nu gratis inkorporeringstjenester. Når de er kommet ombord gennem en personlig session, får startups adgang til et omfattende system, der dækker bank, løn, HR, bogføring, skatter og overholdelse af staten. Derudover drager grundlæggere fordel af en dedikeret Slack-kanal, hvor de kan forbinde og dele indsigt med andre iværksættere.

Efter at have afsluttet deres inkorporering med Every, holder kunderne normalt fast i det i stedet for at bruge konkurrenternes platforme som Rippling. Med værktøjer beregnet til at fremme deres vækst i løbet af de første fem år, er Everys koncentration på virksomheder med mindre end 200 medarbejdere.

Beheras tilgang er unik, idet han forventer, at hans mest profitable kunder i sidste ende vil kræve flere tjenester fra Every – i hvert fald indtil Every udvikler sig til en fintech i vækststadiet, der kan hjælpe større virksomheder.

Beheras forhold til [Y Combinator](https://www.ycombinator.com/) (YC) har været en vital komponent i Everybodys udvikling. Behera, en erfaren iværksætter, gjorde brug af acceleratorens netværk, og alle var en del af YC's sommer 2023-kohorte. Reflektive, hans tidligere forretningsbestræbelse, blev købt i 2021 efter en kapitalforhøjelse på mere end $100 millioner. Derudover er YC-rådgiver Surbhi Sarna, hans kone, også en succesfuld iværksætter. På grund af dette kom omkring halvdelen af ​​Everys klientel via YC's omfattende startup-netværk.

Selvom Rippling, Gusto og Deel – tre andre YC-støttede startups – konkurrerer med dem, er Everys tætte bånd til YC-økosystemet en væsentlig fordel. Dette har tiltrukket investorer sammen med Beheras praktiske tilgang til at skabe platformens komponenter fra bunden.

Behera hyrede flere medarbejdere efter personligt at have overvåget kundesalg, support og produktdesign for de første 50 kunder i virksomheden, med hjælp fra Redpoints Alex Bard, som overvågede Series A fundraising-runden. Efter at have læst lysende udtalelser fra firmaer, der allerede brugte Every, gjorde andre venturekapitalister det samme.

På mindre end to uger blev serie A-pengene sikret, uden at Behera aktivt søgte nye investorer. Selvom virksomhedens værdi ikke blev offentliggjort, anslår den til 112,5 millioner dollars. Den ekstra finansiering vil blive brugt til at støtte de gratis inkorporerings- og onboarding-tjenester, der driver Everys tidlige succes, samt til at udvide ingeniørpersonalet, som nu tæller omkring 20 personer.

Hvad er Meta Lama? Et omfattende kig på den åbne AI-model for udviklere

Supermaven får investorstøtte: AI-værktøj til optimering af udviklerarbejdsgange

Metaændrer AI-mærkning på sociale platforme for redigeret og AI-genereret indhold

HR Startup Every sikrer $22.5M Series A-finansiering og udvider ingeniørteamet på kun to uger