###### 17 september 2024



Meta heeft, net als veel andere toonaangevende technologiebedrijven, zijn eigen generatieve AI-model ontwikkeld, bekend als [Llama](https://llama.meta.com/). Wat Llama onderscheidt is het open karakter ervan, waardoor ontwikkelaars het met aanzienlijke vrijheid kunnen downloaden en gebruiken, hoewel er wel enkele voorwaarden zijn waarmee ze rekening moeten houden. Deze aanpak staat in contrast met modellen als Claude van Anthropic, [OpenAI's GPT-4o](https://openai.com/index/hello-gpt-4o/) (de motor achter [ChatGPT](/news/ai-at-your-Fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) en Google's Gemini, die uitsluitend beschikbaar zijn via API's.

Om ontwikkelaars meer flexibiliteit te geven, werkt Meta samen met cloudserviceproviders zoals AWS, Google Cloud en Microsoft Azure om in de cloud gehoste versies van Llama aan te bieden. Daarnaast heeft Meta tools gebouwd die het proces voor ontwikkelaars vereenvoudigen om het model te verfijnen en aan te passen aan hun specifieke vereisten.

Hieronder vindt u een gedetailleerde beschrijving van Llama, inclusief wat het kan doen, de verschillende versies die het biedt en hoe u het effectief kunt gebruiken.

## Wat is lama?

Lama is niet slechts één model; het omvat een reeks modellen, zoals:

- Lama 8B

- Lama 70B

- Lama 405B

De meest recente versies (Llama 3.1 8B, Llama 3.1 70B en Llama 3.1 405B) zijn uitgebracht in juli 2024. Deze modellen zijn getraind op een breed scala aan gegevensbronnen, zoals webpagina's in verschillende talen, openbare code, bestanden die online beschikbaar zijn en synthetische gegevens geproduceerd door andere AI-systemen.

De Llama 3.1 8B en 70B zijn compacte modellen die een verscheidenheid aan apparaten kunnen gebruiken, van laptops tot servers. De Llama 3.1 405B daarentegen is een grootschalig model waarvoor doorgaans datacenterhardware vereist is. Hoewel de kleinere modellen misschien niet zo krachtig zijn als de 405B, bieden ze snellere prestaties en zijn ze geoptimaliseerd voor verminderde opslag en latentie.

Alle Llama-modellen beschikken over een contextvenster van 128.000 tokens, waardoor ze ongeveer 100.000 woorden (of 300 pagina's tekst) kunnen verwerken. Dit is ongeveer de lengte van boeken als Wuthering Heights of Harry Potter en de Gevangene van Azkaban. Een lang contextvenster helpt het model informatie uit recente documenten en gegevens vast te houden, waardoor het risico wordt verkleind dat het van het onderwerp afdwaalt.

## Wat kan lama doen?

Net als andere generatieve AI-modellen kan Llama helpen met een verscheidenheid aan taken, zoals coderen, het beantwoorden van eenvoudige wiskundevragen en het samenvatten van documenten in acht talen: Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thais. Het kan de meeste op tekst gebaseerde taken aan, zoals het analyseren van bestanden zoals PDF's en spreadsheets, maar het heeft momenteel niet de mogelijkheid om afbeeldingen te genereren of te verwerken - iets dat in de toekomst zou kunnen veranderen.

Lama-modellen kunnen worden geïntegreerd met apps, tools en API's van derden om een ​​verscheidenheid aan taken uit te voeren. Ze zijn geconfigureerd om Brave Search te gebruiken om vragen over actuele gebeurtenissen te beantwoorden, de Wolfram Alpha API voor wiskunde- en wetenschappelijke vragen en een Python-interpreter voor codevalidatie. Volgens Meta kan Llama 3.1 zelfs bepaalde tools gebruiken waarvoor het niet expliciet is getraind, hoewel de betrouwbaarheid van deze functie nog steeds onzeker is.

## Waar kun je lama gebruiken?

Als je rechtstreeks verbinding wilt maken met Llama, wordt de Meta AI-chatbotervaring ondersteund op platforms zoals Facebook Messenger, WhatsApp, Instagram, Oculus en Meta.ai.

Voor ontwikkelaars is Llama beschikbaar om te downloaden en kan worden geschaald naar verschillende populaire cloudplatforms. Meta werkt samen met meer dan 25 bedrijven om Llama te hosten, waaronder Nvidia, Databricks, Groq, Dell en Snowflake. Veel van deze partners bieden aanvullende tools waarmee Llama toegang kan krijgen tot bedrijfseigen gegevens of efficiënter kan werken.

Meta stelt voor om de kleinere Llama-modellen te gebruiken, met name de 8B en 70B, voor algemene doeleinden, zoals het uitvoeren van chatbots of het maken van code. Aan de andere kant is de grotere Llama 405B geschikter voor taken zoals modeldestillatie, waarbij kennis van een groter model naar een kleiner model wordt overgebracht, en synthetische gegevens worden gegenereerd om andere modellen te trainen.

Ontwikkelaars die applicaties gebruiken met meer dan 700 miljoen maandelijkse gebruikers moeten een speciale licentie van Meta aanschaffen om toegang te krijgen tot Llama, en deze zal naar goeddunken van Meta worden verleend.

## Welke hulpmiddelen biedt Meta voor lama's?

Meta heeft verschillende tools geïntroduceerd om de veiligheid van Llama te verbeteren:

1. **Llama Guard:** Een moderatiekader dat problematische inhoud identificeert, zoals haatzaaiende uitlatingen, zelfbeschadiging en inbreuk op het auteursrecht.

2. **Prompt Guard:** Een hulpmiddel dat speciaal is ontworpen om Llama te beschermen tegen schadelijke berichten die de beveiligingsmaatregelen proberen te omzeilen.

3. **CyberSecEval:** Een cyberbeveiligingsrisicobeoordelingspakket dat de modelbeveiliging evalueert, waarbij de nadruk ligt op bedreigingen zoals geautomatiseerde social engineering en offensieve cyberactiviteiten.

Llama Guard kan bijvoorbeeld schadelijke of illegale inhoud detecteren die in Llama wordt ingevoerd of gegenereerd, waardoor ontwikkelaars kunnen aanpassen welke categorieën worden geblokkeerd. Prompt Guard richt zich op de verdediging tegen 'berichtinjectie-aanvallen' die proberen het model te manipuleren. CyberSecEval biedt benchmarks voor het beoordelen van beveiligingsrisico's die verband houden met Llama-modellen.

## Lama's beperkingen

Lama heeft, net als andere generatieve AI-modellen, zijn beperkingen en potentiële risico's. Een van de belangrijkste zorgen is of Meta auteursrechtelijk beschermd materiaal heeft gebruikt om lama's te trainen. Als dat het geval is, kunnen gebruikers aansprakelijk worden gesteld voor auteursrechtelijk beschermde inhoud die het model genereert.

Recente rapporten geven aan dat Meta auteursrechtelijk beschermde e-books gebruikt voor AI-training, ondanks juridische waarschuwingen. Het bedrijf neemt ook inhoud van Instagram en Facebook op in zijn modeltraining, waardoor het voor gebruikers moeilijk wordt om zich af te melden. Meta wordt geconfronteerd met meerdere rechtszaken, waaronder een van auteurs als Sarah Silverman, die beweren dat het bedrijf zonder toestemming auteursrechtelijk beschermd materiaal heeft gebruikt.

Een belangrijke overweging is programmeren, omdat Llama buggy- of onveilige code kan produceren. Het is van cruciaal belang dat ontwikkelaars elke door AI gegenereerde code door een menselijke expert laten beoordelen voordat ze deze in hun applicaties implementeren.

Hoewel Meta's Llama-model ontwikkelaars aanzienlijke flexibiliteit en kansen biedt, is het belangrijk om de potentiële risico's en beperkingen die daarmee gepaard gaan te onderkennen.

–

_Aangeboden door Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _voor toekomstige tech-innovators._



###### Afbeeldingscredits: meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Wat is meta-lama? Een uitgebreide blik op het Open AI-model voor ontwikkelaars

###### 17 september 2024

Terwijl hij nog computerwetenschappen studeerde aan de Universiteit van Waterloo, was Jacob Jackson medeoprichter van [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BZoeken:Merk%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126\&hsa_cam=21073527735\&hsa_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gclid=CjwKCAjw0aS3BhA3EiwAKaD2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), een AI-coderingsassistentbedrijf, dat zijn carrière in AI al vroeg lanceerde . In 2019, toen Jackson zijn eindexamen afrondde, haalde Tabnine ongeveer $ 60 miljoen aan durfkapitaal op en werd hij verkocht aan Codata. Daarna begon hij te werken als stagiair bij [OpenAI](https://openai.com/) tot 2022, toen hij de beslissing nam om een ​​nieuw bedrijf te starten dat de workflows van ontwikkelaars zou verbeteren.

Jackson ontwikkelde [Supermaven](https://supermaven.com/), een AI-coderingsplatform dat voortbouwt op zijn ervaring met Tabnine, maar ook belangrijke technologische verbeteringen bevat, dankzij zijn inspiratie uit AI-toolontwikkelingen zoals ChatGPT en GitHub Copilot. Babble, het interne AI-model van Supermaven, heeft een pop-up met een miljoen tokens waarmee het veel code in één keer kan analyseren. Dit maakt het model betrouwbaarder bij het produceren van nauwkeurige code doordat het grote invoer kan verwerken zonder recente gegevens te ‘vergeten’ of van het onderwerp af te dwalen.

Supermaven evenaart concurrenten als Google's Code Assist met 1 miljoen [tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), ondanks het feit dat sommige AI-coderingsplatforms, zoals Magic, aanzienlijk grotere pop-ups bieden (Magic ondersteunt 100 miljoen tokens). Volgens Jackson is het unieke verkoopargument van Supermaven de verminderde latentie, mogelijk gemaakt door een innovatieve interne neurale architectuur. Bovendien heeft het platform slechts 10 tot 20 seconden nodig om de coderepository van een ontwikkelaar te verwerken en codeerregels en API's te leren, zodat het snel kan blijven werken, zelfs met grote codebases.

De markt voor AI-coderingstools zal naar verwachting snel groeien en in 2032 27,17 miljard dollar bereiken, [volgens prognoses](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Meer dan 1,8 miljoen GitHub Copilot-gebruikers behoren tot de vele ontwikkelaars die AI al in hun processen hebben geïntegreerd. Maar de sector moet nog veel obstakels overwinnen, vooral als het gaat om intellectueel eigendom en gegevensprivacy. Veel bedrijven zijn bang om de pincode vrij te geven en aarzelen om AI-coderingstools te gebruiken. Bovendien is het bekend dat auteursrechtelijk beschermde code in sommige gevallen door AI-modellen wordt uitgebraakt, waardoor ontwikkelaars juridisch in gevaar komen als ze deze in hun werk opnemen zonder het te beseffen. .

Jackson benadrukte [in een gesprek met Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) dat, hoewel Supermaven bewaart gegevens gedurende een korte periode om de systeemprestaties te maximaliseren; het gebruikt geen consumentengegevens om zijn modellen te bouwen. Om de blootstelling aan gevaarlijke inhoud tijdens de training te verminderen, benadrukte hij dat de nadruk lag op publiek toegankelijke code, maar hij sloot de mogelijkheid niet volledig uit dat Babble les zou krijgen in IP-beveiligde code.

Ondanks deze obstakels is Supermaven aanzienlijk in populariteit gegroeid: meer dan 35.000 ontwikkelaars gebruiken het platform. Sinds de lancering van het bedrijf in februari is het gebruikersbestand verdrievoudigd en veel van die klanten melden zich aan voor premiumplannen. De jaarlijkse terugkerende omzet van het bedrijf bedroeg $ 1 miljoen.

Vanwege het succes van het platform merken beleggers dit op. Onlangs onthulde Supermaven dat het bedrijf zijn eerste externe investeringsronde had afgerond, waarbij $12 miljoen werd opgehaald bij engelinvesteerders en Bessemer Venture Partners, waaronder de medeoprichters van Perplexity en OpenAI, John Schulman en Denis Yarats. Het geld zal worden gebruikt om de teksteditor van Supermaven, die momenteel in bèta is, te verbeteren en om meer ontwikkelaars aan te nemen, waardoor het bedrijf succes op de lange termijn kan boeken op het snelgroeiende gebied van computercodering AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven krijgt steun van investeerders: AI-tool die de workflows van ontwikkelaars optimaliseert

###### 13 september 2024



Meta is zijn aanpak voor het labelen van inhoud die zijn bewerkt of aangepast door AI-tools op Instagram, Facebook en Threads. Het label ‘AI Insights’, dat voorheen direct onder de naam van een gebruiker verscheen, wordt nu verplaatst naar het berichtenmenu voor inhoud die is aangepast met behulp van AI.

Het bedrijf zei dat het label zal blijven verschijnen op inhoud die Meta identificeert als volledig door AI gegenereerd. Hoewel het label mogelijk minder zichtbaar is bij inhoud die is bewerkt met behulp van AI-tools, zal het nog steeds duidelijk zichtbaar zijn bij inhoud die volledig met AI-invoer is gemaakt.

Meta heeft aangekondigd dat het informatie zal aanbieden over de vraag of inhoud is gelabeld op basis van industriestandaardsignalen of openbaarmaking door gebruikers. Deze wijziging, die volgende week zal worden doorgevoerd, heeft tot doel “de reikwijdte van de AI die in de inhoud wordt gebruikt” op al zijn platforms beter weer te geven.

Door de bekendheid van het AI-informatielabel te verminderen, bestaat er bezorgdheid dat gebruikers gemakkelijker voor de gek kunnen worden gehouden door AI-bewerkte inhoud, vooral omdat bewerkingstools steeds geavanceerder worden.

Dit is niet de eerste keer dat Meta de manier verandert waarop het AI-gerelateerde inhoud labelt. In juli veranderde het bedrijf het label van ‘Made with AI’ in ‘Information from AI’ nadat het klachten had ontvangen van fotografen die vonden dat het label ten onrechte op echte foto’s was toegepast. Meta gaf toe dat de oorspronkelijke bewoording verwarrend was en geïnterpreteerd had kunnen worden dat bepaalde afbeeldingen volledig door AI waren gegenereerd, zelfs als ze alleen met AI-tools waren bewerkt.

—

_Aangeboden door Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _voor toekomstige tech-innovators._



###### Afbeeldingscredits: meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta verandert AI-labeling op sociale platforms voor bewerkte en door AI gegenereerde inhoud

###### 13 september 2024

Hoewel de meningen over de vraag of het nieuwe HR-bedrijf van Rajeev Behera, [Every](https://www.every.io/), een risicovolle onderneming of een briljant idee is, uiteenlopen, maakt de startup furore. Voor kleine bedrijven integreert het alles-in-één platform salarisadministratie, onboarding en uitgavenbeheer. Deze markt is al overbelast door gevestigde spelers als Gusto, Rippled en Deel, maar ook door opkomende bedrijven als Mercury en Brex. De achterban van Behera lijkt er echter zeker van te zijn dat zijn strategie uniek is. Onlangs heeft Every $22,5 miljoen opgehaald in een serie A-fondsenwervingsronde onder leiding van Okta Ventures, Base10 Partners, Y Combinator en Redpoint Ventures.

Behera's nadruk op beginnende bedrijven en een onderscheidende aanbodstrategie zijn wat zijn visie onderscheidt. Elke onderneming biedt gratis oprichtingsdiensten aan kleine bedrijven, en vervolgens zetten ze zakelijke bankrekeningen op en bieden ze cruciale backoffice-ondersteuning. Interactiekosten en SaaS-kosten voor extra modules zoals boekhouding genereren inkomsten.

[Behera legde uit](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) dat Every geavanceerde tools heeft ontwikkeld voor salarisadministratie, bankieren en onkostenbeheer. Om oprichters al vroeg aan te trekken, bieden ze nu gratis oprichtingsdiensten aan. Eenmaal aan boord via een gepersonaliseerde sessie krijgen startups toegang tot een uitgebreid systeem voor bankieren, salarisadministratie, HR, boekhouding, belastingen en naleving van de regelgeving. Bovendien profiteren oprichters van een speciaal Slack-kanaal waar ze verbinding kunnen maken en inzichten kunnen delen met andere ondernemers.

Nadat ze hun integratie met Every hebben voltooid, blijven klanten er meestal bij in plaats van de platforms van concurrenten zoals Rippleing te gebruiken. Met tools die bedoeld zijn om hun groei gedurende de eerste vijf jaar te bevorderen, concentreert Every zich op bedrijven met minder dan 200 mensen.

De aanpak van Behera is uniek omdat hij verwacht dat zijn meest winstgevende klanten uiteindelijk meer diensten van Every zullen nodig hebben – tenminste totdat Every zich ontwikkelt tot een fintech in de groeifase die grotere bedrijven kan helpen.

Behera's relatie met [Y Combinator](https://www.ycombinator.com/) (YC) is een essentieel onderdeel geweest van de ontwikkeling van Everybody. Behera, een ervaren ondernemer, maakte gebruik van het netwerk van de accelerator en iedereen maakte deel uit van YC's Zomer 2023-cohort. Reflektive, zijn eerdere zakelijke onderneming, werd in 2021 gekocht na een kapitaalverhoging van meer dan $ 100 miljoen. Daarnaast is YC-adviseur Surbhi Sarna, zijn vrouw, ook een succesvol ondernemer. Hierdoor kwam ongeveer de helft van Every's klantenkring via het uitgebreide startupnetwerk van YC.

Hoewel Ripple, Gusto en Deel – drie andere door YC gesteunde startups – met hen concurreren, zijn de nauwe banden van Every met het YC-ecosysteem een ​​aanzienlijk voordeel. Dit heeft investeerders aangetrokken, samen met Behera's praktische aanpak om de componenten van het platform vanaf de grond af aan te creëren.

Behera nam meer personeel aan nadat ze persoonlijk toezicht had gehouden op de verkoop aan klanten, de ondersteuning en het productontwerp voor de eerste 50 klanten van het bedrijf, met de hulp van Alex Bard van Redpoint, die toezicht hield op de Series A-fondsenwervingsronde. Na het lezen van lovende getuigenissen van bedrijven die al gebruik maakten van Every, deden andere durfkapitalisten hetzelfde.

In minder dan twee weken werd het Series A-geld veiliggesteld zonder dat Behera actief op zoek ging naar nieuwe investeerders. Hoewel de waarde van het bedrijf niet openbaar is gemaakt, schatten schattingen deze op $ 112,5 miljoen. De aanvullende financiering zal worden gebruikt ter ondersteuning van de gratis oprichtings- en onboardingdiensten die aan de basis liggen van het vroege succes van Every, en om het technische personeel uit te breiden, dat nu ongeveer twintig mensen telt.

Wat is meta-lama? Een uitgebreide blik op het Open AI-model voor ontwikkelaars

Supermaven krijgt steun van investeerders: AI-tool die de workflows van ontwikkelaars optimaliseert

Meta verandert AI-labeling op sociale platforms voor bewerkte en door AI gegenereerde inhoud

HR Startup Every stelt $22,5 miljoen Series A-financiering veilig en breidt het engineeringteam uit in slechts twee weken