17 September 2024
Meta het, soos baie ander toonaangewende tegnologiemaatskappye, sy eie generatiewe KI-model ontwikkel, bekend as Llama. Wat Llama onderskei, is die oop aard daarvan, wat ontwikkelaars in staat stel om dit met aansienlike vryheid af te laai en te gebruik, hoewel daar sekere voorwaardes is om in gedagte te hou. Hierdie benadering kontrasteer met modelle soos Anthropic se Claude, OpenAI se GPT-4o (die enjin agter ChatGPT), en Google se Gemini, wat slegs deur API's beskikbaar is.
Om ontwikkelaars meer buigsaamheid te gee, het Meta 'n vennootskap met wolkdiensverskaffers soos AWS, Google Cloud en Microsoft Azure aangegaan om weergawes van Llama wat deur die wolk aangebied word, aan te bied. Daarbenewens het Meta nutsgoed gebou wat die proses vir ontwikkelaars vereenvoudig om die model te verfyn en aan te pas om aan hul spesifieke vereistes te voldoen.
Hieronder is 'n gedetailleerde beskrywing van Llama, insluitend wat dit kan doen, die verskillende weergawes wat dit bied, en hoe jy dit effektief kan gebruik.
Wat is Lama?
Lama is nie net een model nie; dit sluit 'n reeks modelle in, soos:
-
Lama 8B
-
Lama 70B
-
Lama 405B
Die mees onlangse weergawes (Llama 3.1 8B, Llama 3.1 70B en Llama 3.1 405B) is in Julie 2024 vrygestel. Hierdie modelle is opgelei op 'n wye verskeidenheid databronne, soos webblaaie in verskillende tale, publieke kode, lêers wat aanlyn beskikbaar is, en sintetiese data wat deur ander KI-stelsels geproduseer word.
Die Llama 3.1 8B en 70B is kompakte modelle wat 'n verskeidenheid toestelle van skootrekenaars tot bedieners kan gebruik. Die Llama 3.1 405B, aan die ander kant, is 'n grootskaalse model wat tipies datasentrum hardeware benodig. Alhoewel die kleiner modelle dalk nie so kragtig soos die 405B is nie, bied hulle vinniger werkverrigting en is dit geoptimaliseer vir verminderde berging en latensie.
Alle Llama-modelle het 'n konteksvenster van 128 000 tekens, wat hulle in staat stel om ongeveer 100 000 woorde (of 300 bladsye teks) te hanteer. Dit is ongeveer die lengte van boeke soos Wuthering Heights of Harry Potter and the Prisoner of Azkaban. 'n Lang konteksvenster help die model om inligting uit onlangse dokumente en data te behou, wat die risiko verminder om van die onderwerp af te dwaal.
Wat kan lama doen?
Soos ander generatiewe KI-modelle, kan Llama help met 'n verskeidenheid take, soos kodering, beantwoording van eenvoudige wiskundevrae en opsomming van dokumente in agt tale: Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thai. Dit kan die meeste teksgebaseerde take hanteer, soos die ontleding van lêers soos PDF's en sigblaaie, maar dit het tans nie die vermoë om beelde te genereer of te verwerk nie - iets wat in die toekoms kan verander.
Lama-modelle kan met derdeparty-toepassings, -nutsmiddels en API's integreer om 'n verskeidenheid take uit te voer. Hulle is opgestel om Brave Search te gebruik om vrae oor huidige gebeure te beantwoord, die Wolfram Alpha API vir wiskunde- en wetenskapnavrae, en 'n Python-tolk vir kodevalidering. Volgens Meta kan Llama 3.1 selfs sommige gereedskap gebruik waarop dit nie uitdruklik opgelei is nie, hoewel die betroubaarheid van hierdie kenmerk nog onseker is.
Waar kan jy Lama gebruik?
As jy direk met Llama wil koppel, word die Meta AI-kletsbot-ervaring ondersteun op platforms soos Facebook Messenger, WhatsApp, Instagram, Oculus en Meta.ai.
Vir ontwikkelaars is Llama beskikbaar vir aflaai en kan dit na verskeie gewilde wolkplatforms geskaal word. Meta het met meer as 25 maatskappye saamgewerk om Llama aan te bied, insluitend Nvidia, Databricks, Groq, Dell en Snowflake. Baie van hierdie vennote verskaf bykomende gereedskap wat Llama toelaat om toegang tot eie data te verkry of meer doeltreffend te werk.
Meta stel voor om die kleiner Llama-modelle, spesifiek die 8B en 70B, te gebruik vir algemene doeleindes soos om kletsbotte te laat loop of kode te skep. Aan die ander kant is die groter Llama 405B meer geskik vir take soos modeldistillasie, wat die oordrag van kennis van 'n groter model na 'n kleiner een behels, asook die generering van sintetiese data om ander modelle op te lei.
Ontwikkelaars wat toepassings met meer as 700 miljoen maandelikse gebruikers bedryf, moet 'n spesiale lisensie van Meta verkry om toegang tot Llama te verkry, en dit sal na Meta se diskresie toegestaan word.
Watter gereedskap bied Meta vir Lama?
Meta het verskeie instrumente bekendgestel om Llama se sekuriteit te verbeter:
-
Llama Guard: 'n Modereringsraamwerk wat problematiese inhoud soos haatspraak, selfbesering en kopieregskending identifiseer.
-
Prompt Guard: 'n Gereedskap wat spesifiek ontwerp is om Llama te beskerm teen skadelike boodskappe wat probeer om sy sekuriteitsmaatreëls te omseil.
-
CyberSecEval: 'n Kuberveiligheidsrisiko-assesseringspakket wat modelsekuriteit evalueer, met die fokus op bedreigings soos outomatiese sosiale ingenieurswese en aanstootlike kuberaktiwiteite.
Byvoorbeeld, Llama Guard kan skadelike of onwettige inhoud opspoor wat in Llama ingevoer of gegenereer word, wat ontwikkelaars in staat stel om aan te pas watter kategorieë geblokkeer word. Prompt Guard fokus daarop om te verdedig teen "boodskap-inspuitingsaanvalle" wat probeer om die model te manipuleer. CyberSecEval bied maatstawwe vir die beoordeling van sekuriteitsrisiko's wat met Lama-modelle geassosieer word.
Lama se beperkings
Lama, soos ander generatiewe KI-modelle, het sy beperkings en potensiële risiko's. Een van die grootste bekommernisse is of Meta materiaal met kopiereg gebruik het om Lama op te lei. As dit die geval is, kan gebruikers aanspreeklikheid in die gesig staar vir enige kopiereg-inhoud wat die model genereer.
Onlangse verslae dui daarop dat Meta kopieregbeskermde e-boeke vir KI-opleiding gebruik het, ondanks wetlike waarskuwings. Die maatskappy inkorporeer ook inhoud van Instagram en Facebook in sy modelopleiding, wat dit moeilik maak vir gebruikers om te onttrek. Meta staar verskeie regsgedinge in die gesig, insluitend een van skrywers soos Sarah Silverman, wat beweer dat die maatskappy kopieregmateriaal sonder toestemming gebruik het.
'n Belangrike oorweging is programmering, aangesien Lama 'n karretjie of onveilige kode kan produseer. Dit is van kritieke belang dat ontwikkelaars 'n menslike deskundige enige KI-gegenereerde kode laat hersien voordat dit in hul toepassings geïmplementeer word.
Terwyl Meta se Llama-model aansienlike buigsaamheid en geleenthede vir ontwikkelaars bied, is dit belangrik om die potensiële risiko's en beperkings wat daarmee gepaardgaan, te erken.
–
Aan jou gebring deur Code Labs Academy – Your Leading Online Coding Bootcamp for Future Tech Innovators.