17 september 2024
Meta heeft, net als veel andere toonaangevende technologiebedrijven, zijn eigen generatieve AI-model ontwikkeld, bekend als Llama. Wat Llama onderscheidt is het open karakter ervan, waardoor ontwikkelaars het met aanzienlijke vrijheid kunnen downloaden en gebruiken, hoewel er wel enkele voorwaarden zijn waarmee ze rekening moeten houden. Deze aanpak staat in contrast met modellen als Claude van Anthropic, OpenAI's GPT-4o (de motor achter ChatGPT) en Google's Gemini, die uitsluitend beschikbaar zijn via API's.
Om ontwikkelaars meer flexibiliteit te geven, werkt Meta samen met cloudserviceproviders zoals AWS, Google Cloud en Microsoft Azure om in de cloud gehoste versies van Llama aan te bieden. Daarnaast heeft Meta tools gebouwd die het proces voor ontwikkelaars vereenvoudigen om het model te verfijnen en aan te passen aan hun specifieke vereisten.
Hieronder vindt u een gedetailleerde beschrijving van Llama, inclusief wat het kan doen, de verschillende versies die het biedt en hoe u het effectief kunt gebruiken.
Wat is lama?
Lama is niet slechts één model; het omvat een reeks modellen, zoals:
-
Lama 8B
-
Lama 70B
-
Lama 405B
De meest recente versies (Llama 3.1 8B, Llama 3.1 70B en Llama 3.1 405B) zijn uitgebracht in juli 2024. Deze modellen zijn getraind op een breed scala aan gegevensbronnen, zoals webpagina's in verschillende talen, openbare code, bestanden die online beschikbaar zijn en synthetische gegevens geproduceerd door andere AI-systemen.
De Llama 3.1 8B en 70B zijn compacte modellen die een verscheidenheid aan apparaten kunnen gebruiken, van laptops tot servers. De Llama 3.1 405B daarentegen is een grootschalig model waarvoor doorgaans datacenterhardware vereist is. Hoewel de kleinere modellen misschien niet zo krachtig zijn als de 405B, bieden ze snellere prestaties en zijn ze geoptimaliseerd voor verminderde opslag en latentie.
Alle Llama-modellen beschikken over een contextvenster van 128.000 tokens, waardoor ze ongeveer 100.000 woorden (of 300 pagina's tekst) kunnen verwerken. Dit is ongeveer de lengte van boeken als Wuthering Heights of Harry Potter en de Gevangene van Azkaban. Een lang contextvenster helpt het model informatie uit recente documenten en gegevens vast te houden, waardoor het risico wordt verkleind dat het van het onderwerp afdwaalt.
Wat kan lama doen?
Net als andere generatieve AI-modellen kan Llama helpen met een verscheidenheid aan taken, zoals coderen, het beantwoorden van eenvoudige wiskundevragen en het samenvatten van documenten in acht talen: Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thais. Het kan de meeste op tekst gebaseerde taken aan, zoals het analyseren van bestanden zoals PDF's en spreadsheets, maar het heeft momenteel niet de mogelijkheid om afbeeldingen te genereren of te verwerken - iets dat in de toekomst zou kunnen veranderen.
Lama-modellen kunnen worden geïntegreerd met apps, tools en API's van derden om een verscheidenheid aan taken uit te voeren. Ze zijn geconfigureerd om Brave Search te gebruiken om vragen over actuele gebeurtenissen te beantwoorden, de Wolfram Alpha API voor wiskunde- en wetenschappelijke vragen en een Python-interpreter voor codevalidatie. Volgens Meta kan Llama 3.1 zelfs bepaalde tools gebruiken waarvoor het niet expliciet is getraind, hoewel de betrouwbaarheid van deze functie nog steeds onzeker is.
Waar kun je lama gebruiken?
Als je rechtstreeks verbinding wilt maken met Llama, wordt de Meta AI-chatbotervaring ondersteund op platforms zoals Facebook Messenger, WhatsApp, Instagram, Oculus en Meta.ai.
Voor ontwikkelaars is Llama beschikbaar om te downloaden en kan worden geschaald naar verschillende populaire cloudplatforms. Meta werkt samen met meer dan 25 bedrijven om Llama te hosten, waaronder Nvidia, Databricks, Groq, Dell en Snowflake. Veel van deze partners bieden aanvullende tools waarmee Llama toegang kan krijgen tot bedrijfseigen gegevens of efficiënter kan werken.
Meta stelt voor om de kleinere Llama-modellen te gebruiken, met name de 8B en 70B, voor algemene doeleinden, zoals het uitvoeren van chatbots of het maken van code. Aan de andere kant is de grotere Llama 405B geschikter voor taken zoals modeldestillatie, waarbij kennis van een groter model naar een kleiner model wordt overgebracht, en synthetische gegevens worden gegenereerd om andere modellen te trainen.
Ontwikkelaars die applicaties gebruiken met meer dan 700 miljoen maandelijkse gebruikers moeten een speciale licentie van Meta aanschaffen om toegang te krijgen tot Llama, en deze zal naar goeddunken van Meta worden verleend.
Welke hulpmiddelen biedt Meta voor lama's?
Meta heeft verschillende tools geïntroduceerd om de veiligheid van Llama te verbeteren:
-
Llama Guard: Een moderatiekader dat problematische inhoud identificeert, zoals haatzaaiende uitlatingen, zelfbeschadiging en inbreuk op het auteursrecht.
-
Prompt Guard: Een hulpmiddel dat speciaal is ontworpen om Llama te beschermen tegen schadelijke berichten die de beveiligingsmaatregelen proberen te omzeilen.
-
CyberSecEval: Een cyberbeveiligingsrisicobeoordelingspakket dat de modelbeveiliging evalueert, waarbij de nadruk ligt op bedreigingen zoals geautomatiseerde social engineering en offensieve cyberactiviteiten.
Llama Guard kan bijvoorbeeld schadelijke of illegale inhoud detecteren die in Llama wordt ingevoerd of gegenereerd, waardoor ontwikkelaars kunnen aanpassen welke categorieën worden geblokkeerd. Prompt Guard richt zich op de verdediging tegen 'berichtinjectie-aanvallen' die proberen het model te manipuleren. CyberSecEval biedt benchmarks voor het beoordelen van beveiligingsrisico's die verband houden met Llama-modellen.
Lama's beperkingen
Lama heeft, net als andere generatieve AI-modellen, zijn beperkingen en potentiële risico's. Een van de belangrijkste zorgen is of Meta auteursrechtelijk beschermd materiaal heeft gebruikt om lama's te trainen. Als dat het geval is, kunnen gebruikers aansprakelijk worden gesteld voor auteursrechtelijk beschermde inhoud die het model genereert.
Recente rapporten geven aan dat Meta auteursrechtelijk beschermde e-books gebruikt voor AI-training, ondanks juridische waarschuwingen. Het bedrijf neemt ook inhoud van Instagram en Facebook op in zijn modeltraining, waardoor het voor gebruikers moeilijk wordt om zich af te melden. Meta wordt geconfronteerd met meerdere rechtszaken, waaronder een van auteurs als Sarah Silverman, die beweren dat het bedrijf zonder toestemming auteursrechtelijk beschermd materiaal heeft gebruikt.
Een belangrijke overweging is programmeren, omdat Llama buggy- of onveilige code kan produceren. Het is van cruciaal belang dat ontwikkelaars elke door AI gegenereerde code door een menselijke expert laten beoordelen voordat ze deze in hun applicaties implementeren.
Hoewel Meta's Llama-model ontwikkelaars aanzienlijke flexibiliteit en kansen biedt, is het belangrijk om de potentiële risico's en beperkingen die daarmee gepaard gaan te onderkennen.
–
Aangeboden door Code Labs Academy – Your Leading Online Coding Bootcamp voor toekomstige tech-innovators.