###### 2024. szeptember 17



A Meta sok más vezető technológiai vállalathoz hasonlóan kifejlesztette saját generatív mesterséges intelligencia modelljét, amelyet [Llama] néven ismerünk (https://llama.meta.com/). A Llamát nyitott természete különbözteti meg egymástól, amely lehetővé teszi a fejlesztők számára, hogy jelentős szabadsággal tölthessék le és használhassák, bár néhány feltételt szem előtt kell tartani. Ez a megközelítés ellentétben áll az olyan modellekkel, mint az Anthropic's Claude, [OpenAI's GPT-4o](https://openai.com/index/hello-gpt-4o/) (a [ChatGPT](/news/ai-at-your-) motorja fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) és a Google Gemini, amelyek kizárólag API-kon keresztül érhetők el.

A fejlesztők rugalmasabbá tétele érdekében a Meta olyan felhőszolgáltatókkal társult, mint az AWS, a Google Cloud és a Microsoft Azure, hogy a Llama felhőalapú verzióit kínálja. Ezenkívül a Meta olyan eszközöket épített, amelyek leegyszerűsítik a fejlesztők számára a modell finomhangolását és adaptálását sajátos igényeiknek megfelelően.

Az alábbiakban a Llama részletes leírása található, beleértve, hogy mire képes, milyen változatokat kínál, és hogyan használhatja hatékonyan.

## Mi az a láma?

A láma nem csupán egy modell; modellek sorát öleli fel, mint például:

- Láma 8B

- Láma 70B

- Láma 405B

A legfrissebb verziók (Llama 3.1 8B, Llama 3.1 70B és Llama 3.1 405B) 2024 júliusában jelentek meg. Ezeket a modelleket sokféle adatforrásra tanítják, mint például a különböző nyelvű weboldalak, nyilvános kódok, online elérhető fájlok és más AI-rendszerek által előállított szintetikus adatok.

A Llama 3.1 8B és 70B kompakt modellek, amelyek számos eszközt képesek futtatni a laptopoktól a szerverekig. A Llama 3.1 405B viszont egy nagyszabású modell, amely jellemzően adatközponti hardvert igényel. Bár a kisebb modellek nem biztos, hogy olyan erősek, mint a 405B, gyorsabb teljesítményt kínálnak, és a tárhely és a késleltetés csökkentése érdekében vannak optimalizálva.

Minden Llama modell rendelkezik egy 128 000 tokenből álló kontextusablakkal, amely lehetővé teszi körülbelül 100 000 szó (vagy 300 oldalas szöveg) kezelését. Ez nagyjából olyan könyvek hossza, mint a Wuthering Heights vagy a Harry Potter és az azkabani fogoly. A hosszú kontextusablak segít a modellnek megőrizni a legutóbbi dokumentumokból és adatokból származó információkat, csökkentve a témától való eltérés kockázatát.

## Mit tehet a láma?

A többi generatív mesterségesintelligencia-modellhez hasonlóan a Llama is sokféle feladatban segíthet, például kódolásban, egyszerű matematikai kérdések megválaszolásában és dokumentumok összefoglalásában nyolc nyelven: angol, német, francia, olasz, portugál, hindi, spanyol és thai nyelven. A legtöbb szövegalapú feladatot képes kezelni, például fájlok, például PDF-ek és táblázatok elemzését, de jelenleg nem képes képeket generálni vagy feldolgozni – ami a jövőben változhat.

A Llama modellek integrálhatók harmadik féltől származó alkalmazásokkal, eszközökkel és API-kkal, hogy különféle feladatokat hajtsanak végre. Úgy vannak beállítva, hogy a Brave Search segítségével válaszoljanak az aktuális eseményekkel kapcsolatos kérdésekre, a Wolfram Alpha API-val a matematikai és a természettudományos lekérdezésekre, valamint a Python értelmezővel a kódellenőrzésre. A Meta szerint a Llama 3.1 még olyan eszközöket is tud használni, amelyekre nincs kifejezetten betanítva, bár ennek a funkciónak a megbízhatósága még mindig bizonytalan.

## Hol használhatod a lámát?

Ha közvetlenül szeretne kapcsolatba lépni Llamával, a Meta AI chatbot-élmény olyan platformokon támogatott, mint a Facebook Messenger, WhatsApp, Instagram, Oculus és Meta.ai.

A fejlesztők számára a Llama letölthető, és számos népszerű felhőplatformra méretezhető. A Meta több mint 25 céggel kötött partnerséget a Llama házigazdája érdekében, köztük az Nvidia, a Databricks, a Groq, a Dell és a Snowflake. Sok ilyen partner további eszközöket biztosít, amelyek lehetővé teszik a Llama számára, hogy hozzáférjen a védett adatokhoz vagy hatékonyabban működjön.

A Meta a kisebb Llama modellek, különösen a 8B és 70B használatát javasolja általános célokra, például chatbotok futtatására vagy kód létrehozására. Másrészt a nagyobb Llama 405B alkalmasabb olyan feladatokra, mint például a modell desztillációja, amely magában foglalja a tudás átadását egy nagyobb modellről egy kisebbre, valamint szintetikus adatokat generál más modellek betanításához.

A több mint 700 millió havi felhasználóval rendelkező alkalmazásokat üzemeltető fejlesztőknek speciális licencet kell beszerezniük a Metától a Llama eléréséhez, és ezt a Meta saját belátása szerint adja meg.

## Milyen eszközöket kínál a Meta a láma számára?

A Meta számos eszközt vezetett be a Llama biztonságának javítására:

1. **Llama Guard:** Moderálási keretrendszer, amely azonosítja a problémás tartalmakat, például a gyűlöletbeszédet, az önsértést és a szerzői jogok megsértését.

2. **Prompt Guard:** Egy olyan eszköz, amelyet kifejezetten arra terveztek, hogy megvédje a Lámát a biztonsági intézkedéseit megkerülni szándékozó káros üzenetektől.

3. **CyberSecEval:** Kiberbiztonsági kockázatelemző csomag, amely a modellbiztonságot értékeli, olyan fenyegetésekre összpontosítva, mint az automatizált társadalmi tervezés és a támadó kibertevékenységek.

Például a Llama Guard képes észlelni a Llamába bevitt vagy generált káros vagy illegális tartalmakat, így a fejlesztők személyre szabhatják, hogy mely kategóriákat blokkolják. A Prompt Guard az "üzenetbefecskendezési támadások" elleni védekezésre összpontosít, amelyek megpróbálják manipulálni a modellt. A CyberSecEval benchmarkokat kínál a Llama modellekhez kapcsolódó biztonsági kockázatok felméréséhez.

## A láma korlátai

A lámának, mint a többi generatív AI-modellnek, megvannak a maga korlátai és lehetséges kockázatai. Az egyik fő probléma az, hogy a Meta felhasznált-e szerzői jog által védett anyagokat a láma képzésére. Ha ez a helyzet, a felhasználók felelősséget vállalhatnak a modell által generált szerzői joggal védett tartalomért.

A legújabb jelentések azt mutatják, hogy a Meta szerzői jogvédelem alatt álló e-könyveket használt mesterséges intelligencia képzésére, annak ellenére, hogy jogi figyelmeztetéseket kapott. A cég az Instagram és a Facebook tartalmait is beépíti modellképzésébe, ami megnehezíti a felhasználók számára a leiratkozást. A Metának több per is van folyamatban, köztük olyan szerzőktől, mint Sarah Silverman, akik azt állítják, hogy a cég engedély nélkül használt fel szerzői joggal védett anyagokat.

Fontos szempont a programozás, mivel a Llama hibás vagy nem biztonságos kódot állíthat elő. Nagyon fontos, hogy a fejlesztők humán szakértővel vizsgálják át az AI által generált kódokat, mielőtt implementálnák az alkalmazásaikba.

Míg a Meta Llama modellje jelentős rugalmasságot és lehetőségeket kínál a fejlesztők számára, fontos felismerni a vele járó lehetséges kockázatokat és korlátokat.

–

_A Code Labs Academy – az Ön vezető vezetője_ [_Online Coding Bootcamp_](/) _a Future Tech Innovators számára._



###### Kép forrása: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Mi az a Meta Llama? Átfogó pillantás a nyílt mesterséges intelligencia modelljére fejlesztőknek

###### 2024. szeptember 17

A Waterloo Egyetem informatikus hallgatójaként Jacob Jackson társalapítója a [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126=4311736126\7&2hsa_35_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&KwiCAJBh3D2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), egy mesterséges intelligencia kódoló asszisztens cég, korán elindítja karrierjét a mesterséges intelligencia területén . 2019-ben, amikor Jackson befejezte a záróvizsgáit, Tabnine mintegy 60 millió dollár kockázati tőkét gyűjtött, és eladták a Codatának. Ezt követően gyakornokként kezdett dolgozni az [OpenAI](https://openai.com/)-nál 2022-ig, amikor elhatározta, hogy új céget alapít, amely javítja a fejlesztői munkafolyamatokat.

Jackson kifejlesztette a [Supermaven](https://supermaven.com/) mesterséges intelligencia kódoló platformot, amely kibővíti a Tabnine-nal kapcsolatos tapasztalatait, de jelentős technológiai fejlesztéseket tartalmaz, köszönhetően az olyan mesterséges intelligenciaeszközök fejlesztéseinek, mint a ChatGPT és a GitHub Copilot. A Babble, a Supermaven házon belüli mesterséges intelligencia modellje egy millió token felugró ablakkal rendelkezik, amely lehetővé teszi, hogy egyszerre sok kódot elemezzen. Ez megbízhatóbbá teszi a modellt a pontos kód előállításában, mivel lehetővé teszi a nagy bemenetek kezelését anélkül, hogy „elfelejti” a legutóbbi adatokat vagy elkalandozik a témától.

A Supermaven 1 millió [tokennel] méri össze az olyan versenytársakat, mint a Google Code Assist (https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), annak ellenére, hogy hogy egyes mesterséges intelligencia kódoló platformok, mint például a Magic, lényegesen nagyobb előugró ablakokat kínálnak (a Magic 100 millió tokent támogat). Jackson szerint a Supermaven egyedülálló értékesítési pontja a csökkentett késleltetés, amelyet egy innovatív belső neurális architektúra tesz lehetővé. Ezenkívül a platform mindössze 10-20 másodpercet vesz igénybe a fejlesztő kódtárának feldolgozása, a kódolási szabályok és API-k megtanulása, így még nagy kódbázisokkal is gyorsan futhat.

Az AI-kódolóeszközök piaca várhatóan gyorsan növekszik, és 2032-re eléri a 27,17 milliárd dollárt [az előrejelzések szerint](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Több mint 1,8 millió GitHub Copilot felhasználó tartozik azon fejlesztők közé, akik már integrálták az AI-t folyamataikba. Az ágazatnak azonban számos akadályt kell leküzdenie, különösen ami a szellemi tulajdont és az adatvédelmet illeti. A PIN-kód nyilvánosságra hozatalától tartva sok vállalat tétovázik az AI kódoló eszközök használatától. Ezenkívül a szerzői jog által védett kódot bizonyos esetekben az AI-modellek visszatorlaszolják, ami jogi veszélybe sodorja a fejlesztőket, ha észrevétlenül beépítik azt a munkájukba. .

Jackson [a Techcrunch-cal folytatott beszélgetésen](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) hangsúlyozta, hogy míg a Supermaven rövid ideig megőrzi az adatokat a rendszer teljesítményének maximalizálása érdekében, nem használja fel a fogyasztói adatokat a modellek felépítéséhez. A veszélyes tartalomnak való kitettség csökkentésével a képzés során hangsúlyozta, hogy a hangsúly a nyilvánosan elérhető kódon van, de azt sem zárta ki teljesen, hogy a Babble-t IP-védett kódon tanítsák.

A Supermaven népszerűsége ezen akadályok ellenére jelentősen nőtt, és több mint 35 000 fejlesztő használja a platformot. A cég februári indulása óta felhasználói bázisa megháromszorozódott, és ezek közül sokan prémium csomagokra jelentkeznek. A cég éves rendszeres bevétele elérte az 1 millió dollárt.

A platform sikere miatt a befektetők tudomásul veszik. Nemrég a Supermaven felfedte, hogy a vállalat befejezte első külső befektetési körét, 12 millió dollárt gyűjtött be angyalbefektetőktől és a Bessemer Venture Partnerstől, köztük a Perplexity és az OpenAI társalapítóitól, John Schulmantól és Denis Yaratstól. A pénzt a Supermaven jelenleg béta verziójú szövegszerkesztőjének fejlesztésére, valamint további fejlesztők felvételére fordítják, így a cég hosszú távú sikereket érhet el a gyorsan növekvő számítógépes kódoló mesterséges intelligencia területén.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

A Supermaven befektetői támogatást nyer: AI-eszköz a fejlesztői munkafolyamatok optimalizálására

###### 2024. szeptember 13



A Meta [frissíti](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) az olyan tartalmak címkézésére vonatkozó megközelítését, AI eszközök szerkesztették vagy módosították az Instagramon, a Facebookon és a Threads-en. Az „AI Insights” címke, amely korábban közvetlenül a felhasználó neve alatt jelent meg, mostantól a mesterséges intelligencia segítségével módosított tartalmak bejegyzések menüjébe kerül.

A cég tájékoztatása szerint a címke továbbra is megjelenik azokon a tartalmakon, amelyeket a Meta teljes mértékben mesterséges intelligencia által generáltként azonosít. Bár a címke kevésbé látható az AI-eszközökkel szerkesztett tartalmakon, továbbra is jól látható lesz azokon a tartalmakon, amelyeket teljes egészében AI-bemenettel hoztak létre.

A Meta bejelentette, hogy tájékoztatást ad arról, hogy a tartalom az iparági szabvány jelzései vagy a felhasználói nyilatkozat alapján van-e címkézve. A jövő héten bevezetett változás célja, hogy „jobban tükrözze a tartalomban használt mesterséges intelligencia hatókörét” az összes platformon.

Az AI információs címke feltűnőségének csökkentése miatt aggodalomra ad okot, hogy a felhasználókat könnyebben becsaphatják az AI által szerkesztett tartalmak, különösen a szerkesztőeszközök egyre kifinomultabbá válása miatt.

Nem ez az első alkalom, hogy a Meta megváltoztatta az AI-val kapcsolatos tartalmak címkézésének módját. Júliusban a vállalat megváltoztatta a „Made with AI” címkét az „Information from AI” feliratra, miután panaszokat kapott olyan fotósoktól, akik úgy vélték, hogy a címkét helytelenül alkalmazták valódi fényképeken. Meta elismerte, hogy az eredeti megfogalmazás zavaró volt, és úgy is értelmezhető lett volna, hogy bizonyos képeket teljes egészében mesterséges intelligencia generáltak, még akkor is, ha csak mesterséges intelligencia eszközökkel szerkesztették őket.

—

_A Code Labs Academy – az Ön vezető vezetője_ [_Online Coding Bootcamp_](/) _a Future Tech Innovators számára._



###### Kép forrása: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

A meta megváltoztatja az AI-címkézést a közösségi platformokon a szerkesztett és mesterséges intelligencia által generált tartalmaknál

###### 2024. szeptember 13

Bár megoszlanak a vélemények arról, hogy Rajeev Behera új HR-cége, az [Every](https://www.every.io/) magas kockázatú vállalkozás vagy zseniális ötlet, a startup hullámokat ver. A kisvállalkozások számára az all-in-one platform integrálja a bérszámfejtést, a belépést és a kiadáskezelést. Ez a piac már zsúfolt olyan bevált szereplőkkel, mint a Gusto, Rippling és Deel, valamint olyan feltörekvő társaságokkal, mint a Mercury és a Brex. Úgy tűnik azonban, hogy Behera támogatói biztosak abban, hogy stratégiája egyedülálló. A közelmúltban Every 22,5 millió dollárt gyűjtött egy A sorozatú adománygyűjtő körben, amelyet az Okta Ventures, a Base10 Partners, az Y Combinator és a Redpoint Ventures vezetett.

Behera a korai szakaszban lévő cégekre helyezi a hangsúlyt és a sajátos ajánlati stratégiát, ami megkülönbözteti elképzelését. Mindegyik ingyenes alapítási szolgáltatásokat nyújt kis cégeknek, majd üzleti bankszámlákat hoznak létre, és kulcsfontosságú háttértámogatást nyújtanak. A bankközi díjak és az extra modulok (például a könyvelés) SaaS-díjai bevételt generálnak.

[Behera elmagyarázta](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/), hogy Every fejlett eszközöket fejlesztett ki bérszámfejtésre, banki és költségkezelésre. Az alapítók korai vonzására most ingyenes alapítási szolgáltatásokat kínálnak. A személyre szabott munkameneten keresztül a startupok egy átfogó rendszerhez férhetnek hozzá, amely lefedi a banki, bérszámfejtési, HR-es, könyvelési, adózási és állami megfelelést. Ezenkívül az alapítók egy dedikált Slack csatornát is élvezhetnek, ahol kapcsolatba léphetnek és megoszthatják tapasztalataikat más vállalkozókkal.

Az Every segítségével történő beépítésük után az ügyfelek általában ragaszkodnak hozzá, ahelyett, hogy a versenytársak platformjait, például a Ripplinget használnák. Azokkal az eszközökkel, amelyek célja a növekedésük elősegítése az első öt évben, Every's a 200 főnél kevesebbet foglalkoztató vállalatokra koncentrál.

Behera megközelítése egyedülálló abban a tekintetben, hogy arra számít, hogy a legjövedelmezőbb ügyfelei idővel több szolgáltatást igényelnek majd Every-tól – legalábbis addig, amíg az Every egy olyan növekedési szakaszban lévő fintech-vé nem fejlődik, amely a nagyobb vállalatokat segítheti.

Behera és [Y Combinator](https://www.ycombinator.com/) (YC) kapcsolata létfontosságú eleme az Everybody's fejlődésének. Behera, egy tapasztalt vállalkozó kihasználta az akcelerátor hálózatát, és mindenki tagja volt a YC 2023 nyár kohorszának. A Reflektive-t, korábbi üzleti törekvését 2021-ben vásárolta meg több mint 100 millió dolláros tőkeemelést követően. Emellett Surbhi Sarna, a YC tanácsadója, a felesége is sikeres vállalkozó. Emiatt Every ügyfélkörének mintegy fele az YC kiterjedt startup hálózatán keresztül érkezett.

Annak ellenére, hogy a Rippling, a Gusto és a Deel – három másik, YC által támogatott startup – versenyez velük, a YC ökoszisztémával való szoros kapcsolata jelentős előnyt jelent. Ez vonzotta a befektetőket, valamint a Behera gyakorlatias megközelítése a platform összetevőinek az alapoktól kezdve.

A Behera további alkalmazottakat vett fel, miután személyesen felügyelte az üzlet első 50 ügyfelének ügyfélértékesítését, támogatását és terméktervezését, a Redpoint Alex Bardjának segítségével, aki felügyelte az A sorozatú adománygyűjtési kört. Miután elolvasta a már korábban is használt cégek ragyogó beszámolóit, a többi kockázati tőkés is így tett.

Kevesebb mint két hét alatt az A sorozat pénzét megszerezték anélkül, hogy a Behera aktívan keresett volna új befektetőket. Bár a cég vagyonát nem hozták nyilvánosságra, a becslések szerint 112,5 millió dollár. A további finanszírozást az Every korai sikereinek hajtóerejeként szolgáló ingyenes alapítási és beépítési szolgáltatások támogatására, valamint a jelenleg nagyjából 20 fős mérnöki állomány bővítésére fordítják.

Mi az a Meta Llama? Átfogó pillantás a nyílt mesterséges intelligencia modelljére fejlesztőknek

A Supermaven befektetői támogatást nyer: AI-eszköz a fejlesztői munkafolyamatok optimalizálására

A meta megváltoztatja az AI-címkézést a közösségi platformokon a szerkesztett és mesterséges intelligencia által generált tartalmaknál

A HR Startup Every 22,5 millió dolláros A sorozat finanszírozását és a mérnöki csapat bővülését mindössze két hét alatt