###### 17 September 2024



Meta het, soos baie ander toonaangewende tegnologiemaatskappye, sy eie generatiewe KI-model ontwikkel, bekend as [Llama](https://llama.meta.com/). Wat Llama onderskei, is die oop aard daarvan, wat ontwikkelaars in staat stel om dit met aansienlike vryheid af te laai en te gebruik, hoewel daar sekere voorwaardes is om in gedagte te hou. Hierdie benadering kontrasteer met modelle soos Anthropic se Claude, [OpenAI se GPT-4o](https://openai.com/index/hello-gpt-4o/) (die enjin agter [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)), en Google se Gemini, wat slegs deur API's beskikbaar is.

Om ontwikkelaars meer buigsaamheid te gee, het Meta 'n vennootskap met wolkdiensverskaffers soos AWS, Google Cloud en Microsoft Azure aangegaan om weergawes van Llama wat deur die wolk aangebied word, aan te bied. Daarbenewens het Meta nutsgoed gebou wat die proses vir ontwikkelaars vereenvoudig om die model te verfyn en aan te pas om aan hul spesifieke vereistes te voldoen.

Hieronder is 'n gedetailleerde beskrywing van Llama, insluitend wat dit kan doen, die verskillende weergawes wat dit bied, en hoe jy dit effektief kan gebruik.

## Wat is Lama?

Lama is nie net een model nie; dit sluit 'n reeks modelle in, soos:

- Lama 8B

- Lama 70B

- Lama 405B

Die mees onlangse weergawes (Llama 3.1 8B, Llama 3.1 70B en Llama 3.1 405B) is in Julie 2024 vrygestel. Hierdie modelle is opgelei op 'n wye verskeidenheid databronne, soos webblaaie in verskillende tale, publieke kode, lêers wat aanlyn beskikbaar is, en sintetiese data wat deur ander KI-stelsels geproduseer word.

Die Llama 3.1 8B en 70B is kompakte modelle wat 'n verskeidenheid toestelle van skootrekenaars tot bedieners kan gebruik. Die Llama 3.1 405B, aan die ander kant, is 'n grootskaalse model wat tipies datasentrum hardeware benodig. Alhoewel die kleiner modelle dalk nie so kragtig soos die 405B is nie, bied hulle vinniger werkverrigting en is dit geoptimaliseer vir verminderde berging en latensie.

Alle Llama-modelle het 'n konteksvenster van 128 000 tekens, wat hulle in staat stel om ongeveer 100 000 woorde (of 300 bladsye teks) te hanteer. Dit is ongeveer die lengte van boeke soos Wuthering Heights of Harry Potter and the Prisoner of Azkaban. 'n Lang konteksvenster help die model om inligting uit onlangse dokumente en data te behou, wat die risiko verminder om van die onderwerp af te dwaal.

## Wat kan lama doen?

Soos ander generatiewe KI-modelle, kan Llama help met 'n verskeidenheid take, soos kodering, beantwoording van eenvoudige wiskundevrae en opsomming van dokumente in agt tale: Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thai. Dit kan die meeste teksgebaseerde take hanteer, soos die ontleding van lêers soos PDF's en sigblaaie, maar dit het tans nie die vermoë om beelde te genereer of te verwerk nie - iets wat in die toekoms kan verander.

Lama-modelle kan met derdeparty-toepassings, -nutsmiddels en API's integreer om 'n verskeidenheid take uit te voer. Hulle is opgestel om Brave Search te gebruik om vrae oor huidige gebeure te beantwoord, die Wolfram Alpha API vir wiskunde- en wetenskapnavrae, en 'n Python-tolk vir kodevalidering. Volgens Meta kan Llama 3.1 selfs sommige gereedskap gebruik waarop dit nie uitdruklik opgelei is nie, hoewel die betroubaarheid van hierdie kenmerk nog onseker is.

## Waar kan jy Lama gebruik?

As jy direk met Llama wil koppel, word die Meta AI-kletsbot-ervaring ondersteun op platforms soos Facebook Messenger, WhatsApp, Instagram, Oculus en Meta.ai.

Vir ontwikkelaars is Llama beskikbaar vir aflaai en kan dit na verskeie gewilde wolkplatforms geskaal word. Meta het met meer as 25 maatskappye saamgewerk om Llama aan te bied, insluitend Nvidia, Databricks, Groq, Dell en Snowflake. Baie van hierdie vennote verskaf bykomende gereedskap wat Llama toelaat om toegang tot eie data te verkry of meer doeltreffend te werk.

Meta stel voor om die kleiner Llama-modelle, spesifiek die 8B en 70B, te gebruik vir algemene doeleindes soos om kletsbotte te laat loop of kode te skep. Aan die ander kant is die groter Llama 405B meer geskik vir take soos modeldistillasie, wat die oordrag van kennis van 'n groter model na 'n kleiner een behels, asook die generering van sintetiese data om ander modelle op te lei.

Ontwikkelaars wat toepassings met meer as 700 miljoen maandelikse gebruikers bedryf, moet 'n spesiale lisensie van Meta verkry om toegang tot Llama te verkry, en dit sal na Meta se diskresie toegestaan ​​word.

## Watter gereedskap bied Meta vir Lama?

Meta het verskeie instrumente bekendgestel om Llama se sekuriteit te verbeter:

1. **Llama Guard:** 'n Modereringsraamwerk wat problematiese inhoud soos haatspraak, selfbesering en kopieregskending identifiseer.

2. **Prompt Guard:** 'n Gereedskap wat spesifiek ontwerp is om Llama te beskerm teen skadelike boodskappe wat probeer om sy sekuriteitsmaatreëls te omseil.

3. **CyberSecEval:** 'n Kuberveiligheidsrisiko-assesseringspakket wat modelsekuriteit evalueer, met die fokus op bedreigings soos outomatiese sosiale ingenieurswese en aanstootlike kuberaktiwiteite.

Byvoorbeeld, Llama Guard kan skadelike of onwettige inhoud opspoor wat in Llama ingevoer of gegenereer word, wat ontwikkelaars in staat stel om aan te pas watter kategorieë geblokkeer word. Prompt Guard fokus daarop om te verdedig teen "boodskap-inspuitingsaanvalle" wat probeer om die model te manipuleer. CyberSecEval bied maatstawwe vir die beoordeling van sekuriteitsrisiko's wat met Lama-modelle geassosieer word.

## Lama se beperkings

Lama, soos ander generatiewe KI-modelle, het sy beperkings en potensiële risiko's. Een van die grootste bekommernisse is of Meta materiaal met kopiereg gebruik het om Lama op te lei. As dit die geval is, kan gebruikers aanspreeklikheid in die gesig staar vir enige kopiereg-inhoud wat die model genereer.

Onlangse verslae dui daarop dat Meta kopieregbeskermde e-boeke vir KI-opleiding gebruik het, ondanks wetlike waarskuwings. Die maatskappy inkorporeer ook inhoud van Instagram en Facebook in sy modelopleiding, wat dit moeilik maak vir gebruikers om te onttrek. Meta staar verskeie regsgedinge in die gesig, insluitend een van skrywers soos Sarah Silverman, wat beweer dat die maatskappy kopieregmateriaal sonder toestemming gebruik het.

'n Belangrike oorweging is programmering, aangesien Lama 'n karretjie of onveilige kode kan produseer. Dit is van kritieke belang dat ontwikkelaars 'n menslike deskundige enige KI-gegenereerde kode laat hersien voordat dit in hul toepassings geïmplementeer word.

Terwyl Meta se Llama-model aansienlike buigsaamheid en geleenthede vir ontwikkelaars bied, is dit belangrik om die potensiële risiko's en beperkings wat daarmee gepaardgaan, te erken.

–

_Aan jou gebring deur Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Beeldkrediete: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Wat is Meta Lama? 'n Omvattende blik op die oop AI-model vir ontwikkelaars

###### 17 September 2024

Terwyl hy nog 'n rekenaarwetenskapstudent aan die Universiteit van Waterloo was, was Jacob Jackson medestigter van [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126=4311736126=4311736126=4311736126\2hsa_35&7p=4311736126\2hsa_37\2hsa_37\7p159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gCAjBaD30A30SwE2SwSwSwSwSwSwSwSwE3SwSwSwSwE04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), 'n KI-koderingsassistentmaatskappy, wat sy loopbaan in KI vroeg begin . In 2019, toe Jackson sy eindeksamen voltooi het, het Tabnine sowat $60 miljoen in waagkapitaal ingesamel en is dit aan Codata verkoop. Daarna het hy as 'n intern by [OpenAI](https://openai.com/) begin werk tot 2022, toe hy die besluit geneem het om 'n nuwe maatskappy te begin wat ontwikkelaarwerkvloeie sou verbeter.

Jackson het [Supermaven](https://supermaven.com/), 'n KI-koderingsplatform ontwikkel wat sy ervaring met Tabnine uitbrei, maar groot tegnologieverbeterings bevat, danksy sy inspirasie uit KI-instrumentontwikkelings soos ChatGPT en GitHub Copilot. Babble, Supermaven se interne KI-model, het 'n miljoen-teken-opspringer wat dit toelaat om baie kode gelyktydig te ontleed. Dit maak die model meer betroubaar in die vervaardiging van akkurate kode deur dit toe te laat om groot insette te hanteer sonder om onlangse data te "vergeet" of van die onderwerp af te dwaal.

Supermaven pas mededingers soos Google se Code Assist met 1 miljoen [tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), ten spyte van die feit dat sommige KI-koderingsplatforms, soos Magic, aansienlik groter pop-ups bied (Magic ondersteun 100 miljoen tokens). Volgens Jackson is Supermaven se unieke verkoopspunt sy verminderde latensie, moontlik gemaak deur 'n innoverende interne neurale argitektuur. Daarbenewens neem die platform net 10-20 sekondes om 'n ontwikkelaar se kodebewaarplek te verwerk, koderingsreëls en API's te leer sodat dit vinnig kan aanhou loop, selfs met groot kodebasisse.

Die mark vir KI-koderingsgereedskap sal na verwagting vinnig groei en $27,17 miljard teen 2032 bereik, [volgens voorspellings](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Meer as 1,8 miljoen GitHub Copilot-gebruikers is onder die vele ontwikkelaars wat reeds KI in hul prosesse geïntegreer het. Maar die sektor het baie struikelblokke om te oorkom, veral wanneer dit kom by intellektuele eiendom en dataprivaatheid. Baie maatskappye is bang om PIN bekend te maak, en is huiwerig om KI-koderingsinstrumente te gebruik. Boonop is dit bekend dat kode met kopiereg in sommige gevalle deur KI-modelle opgelaai word, wat ontwikkelaars in wetlike gevaar plaas as hulle dit by hul werk insluit sonder om dit te besef. .

Jackson het [in 'n gesprek met Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) beklemtoon dat terwyl Supermaven behou data vir 'n kort tydperk om stelselwerkverrigting te maksimeer, dit gebruik nie verbruikersdata om sy modelle te bou nie. Deur blootstelling aan gevaarlike inhoud tydens opleiding te verminder, het hy beklemtoon dat die fokus op publiek toeganklike kode was, maar hy het nie die moontlikheid heeltemal uitgesluit dat Babble op IP-beskermde kode geleer sou word nie.

Supermaven het aansienlik gegroei in gewildheid ten spyte van hierdie struikelblokke, met meer as 35 000 ontwikkelaars wat die platform gebruik. Sedert die maatskappy in Februarie van stapel gestuur is, het sy gebruikersbasis verdriedubbel en baie van daardie kliënte teken aan vir premiumplanne. Die maatskappy se jaarlikse herhalende inkomste het $1 miljoen bereik.

Weens die sukses van die platform neem beleggers kennis. Onlangs het Supermaven onthul dat die maatskappy sy eerste eksterne beleggingsronde voltooi het en $12 miljoen ingesamel het van engelbeleggers en Bessemer Venture Partners, wat Perplexity en OpenAI medestigters John Schulman en Denis Yarats ingesluit het. Die geld sal gebruik word om Supermaven se teksredigeerder, wat tans in beta is, te verbeter en om meer ontwikkelaars aan te stel, wat die maatskappy voorberei vir langtermyn sukses in die vinnig groeiende veld van rekenaarkodering AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven kry beleggersondersteuning: KI-instrument wat ontwikkelaarswerkstrome optimaliseer

###### 13 September 2024



Meta [werk](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) sy benadering tot etikettering van inhoud wat geredigeer of gewysig deur KI-nutsgoed op Instagram, Facebook en Threads. Die "AI Insights"-etiket, wat voorheen direk onder 'n gebruiker se naam verskyn het, sal nou na die plasingskieslys skuif vir inhoud wat met KI gewysig is.

Die maatskappy het gesê die etiket sal voortgaan om te verskyn op inhoud wat Meta identifiseer as heeltemal KI-gegenereer. Alhoewel die etiket minder sigbaar kan wees op inhoud wat met KI-nutsgoed geredigeer is, sal dit steeds duidelik sigbaar wees op inhoud wat geheel en al met KI-invoer geskep is.

Meta het aangekondig dat dit inligting sal bied oor of inhoud gemerk is op grond van industriestandaard seine of gebruiker-openbaarmaking. Hierdie verandering, wat volgende week geïmplementeer sal word, het ten doel om "die omvang van KI wat in inhoud gebruik word beter te weerspieël" oor al sy platforms.

Deur die prominensie van die KI-inligtingsetiket te verminder, is daar kommer dat gebruikers makliker geflous kan word deur KI-geredigeerde inhoud, veral omdat redigeerinstrumente al hoe meer gesofistikeerd word.

Dit is nie die eerste keer dat Meta die manier verander waarop dit KI-verwante inhoud etiketteer nie. In Julie het die maatskappy die etiket verander van "Made with AI" na "Information from AI" nadat hulle klagtes ontvang het van fotograwe wat gevoel het die etiket is verkeerd op regte foto's aangebring. Meta het erken dat die oorspronklike bewoording verwarrend was en geïnterpreteer kon word om te beteken dat sekere beelde heeltemal KI-gegenereer is, selfs al is dit net met KI-nutsgoed geredigeer.

—

_Aan jou gebring deur Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _for Future Tech Innovators._



###### Beeldkrediete: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta verander KI-etikettering op sosiale platforms vir geredigeerde en KI-gegenereerde inhoud

###### 13 September 2024

Alhoewel menings oor die vraag of Rajeev Behera se nuwe HR-firma, [Every](https://www.every.io/), 'n hoërisiko-onderneming of 'n briljante idee is, verskillend is, maak die begin opslae. Vir klein firmas integreer die alles-in-een-platform betaalstaat, aanboord en uitgawebestuur. Hierdie mark is reeds oorlaai met gevestigde spelers soos Gusto, Rippling en Deel, sowel as opkomende maatskappye soos Mercury en Brex. Dit lyk egter of Behera se ondersteuners seker is dat sy strategie uniek is. Onlangs het Every $22.5 miljoen ingesamel in 'n reeks A-fondsinsamelingsronde onder leiding van Okta Ventures, Base10 Partners, Y Combinator en Redpoint Ventures.

Behera se klem op vroeë-stadium-firmas en kenmerkende aanbiedingstrategie is wat sy visie onderskei. Elke verskaf gratis inlywingsdienste aan klein firmas, en dan stel hulle besigheidsbankrekeninge op en bied deurslaggewende back-office-ondersteuning. Wisselfooie en SaaS-fooie vir ekstra modules soos rekeningkunde genereer inkomste.

[Behera het verduidelik](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) dat Every gevorderde nutsmiddels ontwikkel het vir betaalstaat, bankwese en uitgawebestuur. Om stigters vroegtydig te lok, bied hulle nou gratis inlywingsdienste aan. Sodra hulle deur 'n persoonlike sessie aan boord gekom het, kry beginondernemings toegang tot 'n omvattende stelsel wat bankwese, betaalstaat, HR, boekhouding, belasting en staatsnakoming dek. Boonop vind stigters baat by 'n toegewyde Slack-kanaal waar hulle kan skakel en insigte met ander entrepreneurs kan deel.

Nadat hulle hul inlywing met Every voltooi het, hou klante gewoonlik daarby in plaas van om mededingers se platforms soos Rippling te gebruik. Met gereedskap wat bedoel is om hul groei gedurende die eerste vyf jaar te bevorder, is Every se konsentrasie op maatskappye met minder as 200 mense.

Behera se benadering is uniek deurdat hy verwag dat sy mees winsgewende kliënte uiteindelik meer dienste van Every sal benodig—ten minste totdat Every ontwikkel in 'n groeistadium-fintech wat groter maatskappye kan bystaan.

Behera se verhouding met [Y Combinator](https://www.ycombinator.com/) (YC) was 'n belangrike komponent van Almal se ontwikkeling. Behera, 'n ervare entrepreneur, het van die versneller se netwerk gebruik gemaak, en almal was deel van YC se Somer 2023-kohort. Reflektive, sy vorige besigheidspoging, is in 2021 gekoop na 'n kapitaalverhoging van meer as $100 miljoen. Daarbenewens is YC-adviseur Surbhi Sarna, sy vrou, ook 'n suksesvolle entrepreneur. As gevolg hiervan het ongeveer die helfte van Every se kliënte via YC se uitgebreide opstartnetwerk gekom.

Alhoewel Rippling, Gusto en Deel - drie ander YC-gesteunde opstartondernemings - met hulle meeding, is Every se noue bande met die YC-ekosisteem 'n beduidende voordeel. Dit het beleggers gelok, tesame met Behera se praktiese benadering om die platform se komponente van die grond af te skep.

Behera het meer personeel aangestel nadat hy persoonlik toesig gehou het oor klantverkope, ondersteuning en produkontwerp vir die eerste 50 kliënte van die onderneming, met die hulp van Redpoint se Alex Bard, wat toesig gehou het oor die reeks A-fondsinsamelingsronde. Nadat hulle gloeiende getuigskrifte gelees het van firmas wat reeds Every gebruik het, het ander waagkapitaliste dieselfde gedoen.

In minder as twee weke is die reeks A-geld verseker sonder dat Behera aktief nuwe beleggers gesoek het. Alhoewel die maatskappy se waarde nie bekend gemaak is nie, word dit geraam op $112,5 miljoen. Die bykomende befondsing sal gebruik word om die gratis inlywing- en aanboorddienste te ondersteun wat Every se vroeë sukses dryf, asook om die ingenieurspersoneel, wat nou ongeveer 20 mense tel, te laat groei.

Wat is Meta Lama? 'n Omvattende blik op die oop AI-model vir ontwikkelaars

Supermaven kry beleggersondersteuning: KI-instrument wat ontwikkelaarswerkstrome optimaliseer

Meta verander KI-etikettering op sosiale platforms vir geredigeerde en KI-gegenereerde inhoud

HR Startup Every verseker $22.5M Series A-befondsing en brei ingenieurspan uit in net twee weke