###### 17. september 2024



Meta, som mange andre ledende teknologiselskaper, har utviklet sin egen generative AI-modell kjent som [Llama](https://llama.meta.com/). Det som skiller Llama er dens åpne natur, som lar utviklere laste ned og bruke den med betydelig frihet, selv om det er noen forhold å huske på. Denne tilnærmingen står i kontrast til modeller som Anthropics Claude, [OpenAIs GPT-4o](https://openai.com/index/hello-gpt-4o/) (motoren bak [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)), og Googles Gemini, som kun er tilgjengelig via APIer.

For å gi utviklere mer fleksibilitet, har Meta inngått samarbeid med skytjenesteleverandører som AWS, Google Cloud og Microsoft Azure for å tilby skybaserte versjoner av Llama. I tillegg har Meta bygget verktøy som forenkler prosessen for utviklere å finjustere og tilpasse modellen for å møte deres spesifikke krav.

Nedenfor er en detaljert beskrivelse av Llama, inkludert hva den kan gjøre, de forskjellige versjonene den tilbyr, og hvordan du kan bruke den effektivt.

## Hva er lama?

Lama er ikke bare én modell; den omfatter en rekke modeller, for eksempel:

- Lama 8B

- Lama 70B

- Lama 405B

De nyeste versjonene (Llama 3.1 8B, Llama 3.1 70B og Llama 3.1 405B) ble utgitt i juli 2024. Disse modellene er trent på et bredt spekter av datakilder, for eksempel nettsider på forskjellige språk, offentlig kode, filer tilgjengelig på nettet, og syntetiske data produsert av andre AI-systemer.

Llama 3.1 8B og 70B er kompakte modeller som kan kjøre en rekke enheter fra bærbare datamaskiner til servere. Llama 3.1 405B, derimot, er en storskala modell som vanligvis krever datasentermaskinvare. Selv om de mindre modellene kanskje ikke er like kraftige som 405B, tilbyr de raskere ytelse og er optimert for redusert lagring og ventetid.

Alle Llama-modeller har et kontekstvindu på 128 000 tokens, slik at de kan håndtere rundt 100 000 ord (eller 300 sider med tekst). Dette er omtrent lengden på bøker som Wuthering Heights eller Harry Potter and the Prisoner of Azkaban. Et langt kontekstvindu hjelper modellen med å beholde informasjon fra nyere dokumenter og data, noe som reduserer risikoen for å komme utenfor temaet.

## Hva kan lama gjøre?

I likhet med andre generative AI-modeller kan Llama hjelpe med en rekke oppgaver, som koding, svare på enkle matematikkspørsmål og oppsummere dokumenter på åtte språk: engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai. Den kan håndtere de fleste tekstbaserte oppgaver, for eksempel å analysere filer som PDF-er og regneark, men den har for øyeblikket ikke muligheten til å generere eller behandle bilder - noe som kan endre seg i fremtiden.

Lama-modeller kan integreres med tredjepartsapper, verktøy og API-er for å utføre en rekke oppgaver. De er konfigurert til å bruke Brave Search for å svare på spørsmål om aktuelle hendelser, Wolfram Alpha API for matematikk- og naturfagspørringer, og en Python-tolk for kodevalidering. I følge Meta kan Llama 3.1 til og med bruke noen verktøy den ikke har blitt eksplisitt trent på, selv om påliteligheten til denne funksjonen fortsatt er usikker.

## Hvor kan du bruke lama?

Hvis du vil koble deg direkte til Llama, støttes Meta AI chatbot-opplevelsen på plattformer som Facebook Messenger, WhatsApp, Instagram, Oculus og Meta.ai.

For utviklere er Llama tilgjengelig for nedlasting og kan skaleres til flere populære skyplattformer. Meta har inngått samarbeid med over 25 selskaper for å være vert for Llama, inkludert Nvidia, Databricks, Groq, Dell og Snowflake. Mange av disse partnerne tilbyr tilleggsverktøy som lar Llama få tilgang til proprietære data eller kjøre mer effektivt.

Meta foreslår å bruke de mindre Llama-modellene, spesielt 8B og 70B, til generelle formål som å kjøre chatbots eller lage kode. På den annen side er den større Llama 405B mer passende for oppgaver som modelldestillasjon, som innebærer å overføre kunnskap fra en større modell til en mindre, samt generere syntetiske data for å trene opp andre modeller.

Utviklere som driver applikasjoner med mer enn 700 millioner månedlige brukere må anskaffe en spesiell lisens fra Meta for å få tilgang til Llama, og dette vil bli gitt etter Metas skjønn.

## Hvilke verktøy tilbyr Meta for lama?

Meta har introdusert flere verktøy for å forbedre Llamas sikkerhet:

1. **Llama Guard:** Et modereringsrammeverk som identifiserer problematisk innhold som hatytringer, selvskading og brudd på opphavsrett.

2. **Prompt Guard:** Et verktøy spesielt utviklet for å beskytte Llama mot skadelige meldinger som prøver å omgå sikkerhetstiltakene.

3. **CyberSecEval:** En pakke for vurdering av cybersikkerhetsrisiko som evaluerer modellsikkerhet, med fokus på trusler som automatisert sosial utvikling og støtende cyberaktiviteter.

For eksempel kan Llama Guard oppdage skadelig eller ulovlig innhold som legges inn eller genereres i Llama, slik at utviklere kan tilpasse hvilke kategorier som er blokkert. Prompt Guard fokuserer på å forsvare seg mot "meldingsinjeksjonsangrep" som forsøker å manipulere modellen. CyberSecEval tilbyr benchmarks for å vurdere sikkerhetsrisikoer knyttet til Llama-modeller.

## Lamas begrensninger

Llama, som andre generative AI-modeller, har sine begrensninger og potensielle risikoer. En av de største bekymringene er om Meta brukte opphavsrettsbeskyttet materiale for å trene Llama. Hvis det er tilfelle, kan brukere bli ansvarlige for opphavsrettsbeskyttet innhold modellen genererer.

Nylige rapporter indikerer at Meta har brukt opphavsrettsbeskyttede e-bøker for AI-opplæring, til tross for at de har mottatt juridiske advarsler. Selskapet inkorporerer også innhold fra Instagram og Facebook i modellopplæringen, noe som gjør det vanskelig for brukere å melde seg ut. Meta står overfor flere søksmål, inkludert en fra forfattere som Sarah Silverman, som hevder at selskapet har brukt opphavsrettsbeskyttet materiale uten tillatelse.

En viktig vurdering er programmering, da Llama kan produsere buggy eller usikker kode. Det er avgjørende at utviklere får en menneskelig ekspert til å gjennomgå all AI-generert kode før de implementerer den i applikasjonene sine.

Mens Metas Llama-modell tilbyr betydelig fleksibilitet og muligheter for utviklere, er det viktig å gjenkjenne de potensielle risikoene og begrensningene som følger med den.

–

_Brukt til deg av Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Bildekreditt: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Hva er Meta Llama? En omfattende titt på den åpne AI-modellen for utviklere

###### 17. september 2024

Mens han fortsatt var informatikkstudent ved University of Waterloo, var Jacob Jackson medstifter av [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126=4311736126=4311736126=4311736126\2h_grsa_camp3&2h_sa_camp5&2h_hsa_camp3=2hsa_acc=4311736126159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&kCAj_kw=tabnine04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), et AI-kodeassistentselskap, som startet sin karriere innen AI tidlig . I 2019, da Jackson var ferdig med sine avsluttende eksamener, samlet Tabnine inn rundt 60 millioner dollar i risikokapital og ble solgt til Codata. Etter det begynte han å jobbe som praktikant hos [OpenAI](https://openai.com/) til 2022, da han tok beslutningen om å starte et nytt selskap som ville forbedre arbeidsflytene for utviklere.

Jackson utviklet [Supermaven](https://supermaven.com/), en AI-kodeplattform som utvider erfaringen hans med Tabnine, men som har store teknologiforbedringer, takket være inspirasjonen hans fra AI-verktøyutviklinger som ChatGPT og GitHub Copilot. Babble, Supermavens interne AI-modell, har en popup-vindu med millioner token som lar den analysere mye kode på en gang. Dette gjør modellen mer pålitelig når det gjelder å produsere nøyaktig kode ved å la den håndtere store inndata uten å "glemme" nyere data eller avvike fra emnet.

Supermaven matcher konkurrenter som Googles Code Assist med 1 million [tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), til tross for at at noen AI-kodeplattformer, som Magic, tilbyr betydelig større popup-vinduer (Magic støtter 100 millioner tokens). Ifølge Jackson er Supermavens unike salgsargument dens reduserte ventetid, muliggjort av en innovativ intern nevrale arkitektur. I tillegg tar plattformen bare 10-20 sekunder å behandle en utvikleres kodelager, lære kodingsregler og APIer slik at den kan fortsette å kjøre raskt, selv med store kodebaser.

Markedet for AI-kodeverktøy forventes å vokse raskt og nå $27,17 milliarder innen 2032, [ifølge prognoser](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Mer enn 1,8 millioner GitHub Copilot-brukere er blant de mange utviklerne som allerede har integrert AI i prosessene sine. Men sektoren har mange hindringer å overvinne, spesielt når det gjelder åndsverk og personvern. Mange selskaper er redde for å avsløre PIN-koden, og er nølende med å bruke AI-kodeverktøy. I tillegg har opphavsrettsbeskyttet kode vært kjent for å bli regurgitert av AI-modeller i noen tilfeller, og setter utviklere i juridisk fare hvis de inkluderer den i arbeidet sitt uten å være klar over det. .

Jackson understreket [i en samtale med Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) at mens Supermaven beholder data i en kort periode for å maksimere systemytelsen, den bruker ikke forbrukerdata til å bygge sine modeller. Ved å redusere eksponeringen for farlig innhold under trening, understreket han at fokuset var på offentlig tilgjengelig kode, men han utelukket ikke helt muligheten for at Babble ville bli undervist på IP-beskyttet kode.

Supermaven har vokst betydelig i popularitet til tross for disse hindringene, med over 35 000 utviklere som bruker plattformen. Siden selskapet ble lansert i februar har brukerbasen tredoblet seg, og mange av disse kundene registrerer seg for premiumplaner. Selskapets årlige tilbakevendende inntekt nådde 1 million dollar.

På grunn av suksessen til plattformen, tar investorer det til etterretning. Nylig avslørte Supermaven at selskapet hadde fullført sin første eksterne investeringsrunde, og samlet inn 12 millioner dollar fra engleinvestorer og Bessemer Venture Partners, som inkluderte Perplexity og OpenAI-medgründerne John Schulman og Denis Yarats. Pengene skal brukes til å forbedre Supermavens tekstredigeringsprogram, som for øyeblikket er i beta, og til å ansette flere utviklere, noe som gjør selskapet klar for langsiktig suksess innen det raskt voksende feltet med datakoding AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven får investorstøtte: AI-verktøy som optimaliserer arbeidsflyter for utviklere

###### 13. september 2024



Meta [oppdaterer](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) sin tilnærming til å merke innhold som har blitt redigert eller modifisert av AI-verktøy på Instagram, Facebook og Threads. «AI Insights»-etiketten, som tidligere dukket opp rett under en brukers navn, vil nå flytte til innleggsmenyen for innhold som har blitt endret med AI.

Selskapet sa at etiketten vil fortsette å vises på innhold som Meta identifiserer som fullstendig AI-generert. Selv om etiketten kan være mindre synlig på innhold som har blitt redigert ved hjelp av AI-verktøy, vil den fortsatt være tydelig synlig på innhold som er opprettet utelukkende med AI-inndata.

Meta har annonsert at de vil tilby informasjon om hvorvidt innhold er merket basert på industristandardsignaler eller brukeravsløring. Denne endringen, som vil bli implementert neste uke, har som mål å "bedre reflektere omfanget av AI brukt i innhold" på alle plattformene.

Ved å redusere prominensen til AI-informasjonsetiketten, er det bekymring for at brukere lettere kan bli lurt av AI-redigert innhold, spesielt ettersom redigeringsverktøyene blir stadig mer sofistikerte.

Dette er ikke første gang Meta har endret måten den merker AI-relatert innhold på. I juli endret selskapet etiketten fra «Made with AI» til «Information from AI» etter å ha mottatt klager fra fotografer som mente at etiketten var feilaktig brukt på ekte bilder. Meta innrømmet at den opprinnelige formuleringen var forvirrende og kunne ha blitt tolket til å bety at enkelte bilder var fullstendig AI-generert, selv om de bare hadde blitt redigert med AI-verktøy.

—

_Brukt til deg av Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Bildekreditt: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Metaendrer AI-merking på sosiale plattformer for redigert og AI-generert innhold

###### 13. september 2024

Selv om meningene om Rajeev Beheras nye HR-firma, [Every](https://www.every.io/), er en høyrisikosatsing eller en genial idé er varierte, skaper oppstarten bølger. For små firmaer integrerer alt-i-ett-plattformen lønn, onboarding og utgiftsstyring. Dette markedet er allerede overbelastet med etablerte aktører som Gusto, Rippling og Deel, så vel som kommende selskaper som Mercury og Brex. Beheras støttespillere ser imidlertid ut til å være sikre på at strategien hans er unik. Nylig samlet Every inn $22,5 millioner i en serie A-innsamlingsrunde ledet av Okta Ventures, Base10 Partners, Y Combinator og Redpoint Ventures.

Beheras vektlegging av bedrifter i tidlig fase og særegne tilbudsstrategi er det som kjennetegner hans visjon. Hver tilbyr gratis inkorporeringstjenester til små firmaer, og deretter oppretter de forretningsbankkontoer og gir viktig backoffice-støtte. Formidlingsgebyrer og SaaS-avgifter for ekstra moduler som regnskap genererer inntekter.

[Behera forklarte](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) at Every har utviklet avanserte verktøy for lønns-, bank- og utgiftsstyring. For å tiltrekke seg grunnleggere tidlig, tilbyr de nå gratis inkorporeringstjenester. Når de er ombord på en personlig økt, får startups tilgang til et omfattende system som dekker bank, lønn, HR, bokføring, skatter og overholdelse av staten. I tillegg drar grunnleggere nytte av en dedikert Slack-kanal hvor de kan koble seg til og dele innsikt med andre gründere.

Etter å ha fullført inkorporeringen med Every, holder kundene seg vanligvis til det i stedet for å bruke konkurrenters plattformer som Rippling. Med verktøy ment å fremme deres vekst i løpet av de første fem årene, fokuserer Every på selskaper med mindre enn 200 personer.

Beheras tilnærming er unik ved at han forventer at hans mest lønnsomme kunder etter hvert vil kreve flere tjenester fra Every – i hvert fall inntil Every utvikler seg til en fintech i vekststadiet som kan hjelpe større selskaper.

Beheras forhold til [Y Combinator](https://www.ycombinator.com/) (YC) har vært en viktig komponent i Everybodys utvikling. Behera, en erfaren gründer, benyttet seg av akseleratorens nettverk, og alle var en del av YCs sommer 2023-kohort. Reflektive, hans tidligere virksomhet, ble kjøpt i 2021 etter en kapitalinnhenting på mer enn 100 millioner dollar. I tillegg er YC-rådgiver Surbhi Sarna, hans kone, også en vellykket gründer. På grunn av dette kom omtrent halvparten av Everys klientell via YCs omfattende oppstartsnettverk.

Selv om Rippling, Gusto og Deel – tre andre YC-støttede startups – konkurrerer med dem, er Everys nære bånd til YC-økosystemet en betydelig fordel. Dette har tiltrukket investorer, sammen med Beheras praktiske tilnærming til å lage plattformens komponenter fra grunnen av.

Behera ansatte flere ansatte etter å ha personlig overvåket kundesalg, support og produktdesign for de første 50 kundene til virksomheten, med hjelp av Redpoints Alex Bard, som hadde tilsyn med Series A-innsamlingsrunden. Etter å ha lest strålende attester fra firmaer som allerede brukte Every, gjorde andre venturekapitalister det samme.

På mindre enn to uker ble serie A-pengene sikret uten at Behera aktivt søkte nye investorer. Selv om selskapets verdi ikke ble offentliggjort, anslår det til 112,5 millioner dollar. Tilleggsfinansieringen vil bli brukt til å støtte de gratis inkorporerings- og ombordstigningstjenestene som driver Everys tidlige suksess, samt å utvide ingeniørstaben, som nå teller omtrent 20 personer.

Hva er Meta Llama? En omfattende titt på den åpne AI-modellen for utviklere

Supermaven får investorstøtte: AI-verktøy som optimaliserer arbeidsflyter for utviklere

Metaendrer AI-merking på sosiale plattformer for redigert og AI-generert innhold

HR Startup Every sikrer $22,5M Series A-finansiering og utvider ingeniørteamet på bare to uker