###### 17 septembrie 2024



Meta, la fel ca multe alte companii tehnologice de top, și-a dezvoltat propriul model AI generativ cunoscut sub numele de [Llama](https://llama.meta.com/). Ceea ce diferențiază Llama este natura sa deschisă, permițând dezvoltatorilor să o descarce și să o utilizeze cu o libertate considerabilă, deși există anumite condiții de reținut. Această abordare contrastează cu modele precum Claude de la Anthropic, [GPT-4o de la OpenAI](https://openai.com/index/hello-gpt-4o/) (motorul din spatele [ChatGPT](/news/ai-at-your-fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) și Google's Gemini, care sunt disponibile numai prin intermediul API-urilor.

Pentru a oferi dezvoltatorilor mai multă flexibilitate, Meta a colaborat cu furnizori de servicii cloud precum AWS, Google Cloud și Microsoft Azure pentru a oferi versiuni Llama găzduite în cloud. În plus, Meta a construit instrumente care simplifică procesul pentru dezvoltatori de a ajusta și adapta modelul pentru a satisface cerințele lor specifice.

Mai jos este o descriere detaliată a Llama, inclusiv ce poate face, diferitele versiuni pe care le oferă și modul în care îl puteți utiliza eficient.

## Ce este Llama?

Lama nu este doar un model; cuprinde o gamă largă de modele, cum ar fi:

- Lama 8B

- Lama 70B

- Lama 405B

Cele mai recente versiuni (Llama 3.1 8B, Llama 3.1 70B și Llama 3.1 405B) au fost lansate în iulie 2024. Aceste modele sunt instruite pe o gamă largă de surse de date, cum ar fi pagini web în diferite limbi, cod public, fișiere disponibile online și date sintetice produse de alte sisteme AI.

Llama 3.1 8B și 70B sunt modele compacte care pot rula o varietate de dispozitive, de la laptopuri la servere. Llama 3.1 405B, pe de altă parte, este un model la scară mare care necesită de obicei hardware pentru centrul de date. Deși modelele mai mici ar putea să nu fie la fel de puternice ca 405B, ele oferă performanțe mai rapide și sunt optimizate pentru stocare și latență reduse.

Toate modelele Llama au o fereastră de context de 128.000 de jetoane, permițându-le să gestioneze aproximativ 100.000 de cuvinte (sau 300 de pagini de text). Aceasta este aproximativ lungimea cărților precum Wuthering Heights sau Harry Potter și prizonierul din Azkaban. O fereastră de context lungă ajută modelul să rețină informațiile din documente și date recente, reducând riscul de a se îndepărta de subiect.

## Ce poate face Llama?

Ca și alte modele AI generative, Llama poate ajuta la o varietate de sarcini, cum ar fi codificarea, răspunsul la întrebări simple de matematică și rezumarea documentelor în opt limbi: engleză, germană, franceză, italiană, portugheză, hindi, spaniolă și thailandeză. Poate gestiona majoritatea sarcinilor bazate pe text, cum ar fi analiza fișierelor precum PDF-uri și foi de calcul, dar în prezent nu are capacitatea de a genera sau procesa imagini - ceva ce s-ar putea schimba în viitor.

Modelele Llama se pot integra cu aplicații, instrumente și API-uri terță parte pentru a efectua o varietate de sarcini. Acestea sunt configurate să folosească Brave Search pentru a răspunde la întrebări despre evenimentele curente, API-ul Wolfram Alpha pentru interogări la matematică și știință și un interpret Python pentru validarea codului. Potrivit Meta, Llama 3.1 poate folosi chiar unele instrumente pentru care nu a fost instruit în mod explicit, deși fiabilitatea acestei caracteristici este încă incertă.

## Unde poți folosi lama?

Dacă doriți să vă conectați direct cu Llama, experiența de chatbot Meta AI este acceptată pe platforme precum Facebook Messenger, WhatsApp, Instagram, Oculus și Meta.ai.

Pentru dezvoltatori, Llama este disponibil pentru descărcare și poate fi scalat pe mai multe platforme cloud populare. Meta a colaborat cu peste 25 de companii pentru a găzdui Llama, inclusiv Nvidia, Databricks, Groq, Dell și Snowflake. Mulți dintre acești parteneri oferă instrumente suplimentare care permit Llama să acceseze date proprietare sau să ruleze mai eficient.

Meta sugerează utilizarea modelelor mai mici Llama, în special 8B și 70B, în scopuri generale, cum ar fi rularea chatbot-urilor sau crearea de cod. Pe de altă parte, Llama 405B mai mare este mai potrivit pentru sarcini precum distilarea modelului, care implică transferul de cunoștințe de la un model mai mare la unul mai mic, precum și generarea de date sintetice pentru a antrena alte modele.

Dezvoltatorii care operează aplicații cu peste 700 de milioane de utilizatori lunari trebuie să obțină o licență specială de la Meta pentru a accesa Llama, iar aceasta va fi acordată la discreția Meta.

## Ce instrumente oferă Meta pentru Llama?

Meta a introdus mai multe instrumente pentru a îmbunătăți securitatea lui Llama:

1. **Llama Guard:** un cadru de moderare care identifică conținut problematic, cum ar fi discursul instigator la ură, autovătămarea și încălcarea drepturilor de autor.

2. **Prompt Guard:** Un instrument special conceput pentru a proteja Llama de mesajele dăunătoare care încearcă să ocolească măsurile sale de securitate.

3. **CyberSecEval:** O suită de evaluare a riscurilor de securitate cibernetică care evaluează securitatea modelului, concentrându-se pe amenințări precum ingineria socială automatizată și activitățile cibernetice ofensive.

De exemplu, Llama Guard poate detecta conținut dăunător sau ilegal care este introdus sau generat în Llama, permițând dezvoltatorilor să personalizeze ce categorii sunt blocate. Prompt Guard se concentrează pe apărarea împotriva „atacurilor prin injectare de mesaje” care încearcă să manipuleze modelul. CyberSecEval oferă repere pentru evaluarea riscurilor de securitate asociate cu modelele Llama.

## Limitările lamei

Lama, ca și alte modele generative de IA, are limitările și riscurile potențiale. Una dintre principalele preocupări este dacă Meta a folosit materiale protejate prin drepturi de autor pentru a antrena Llama. Dacă acesta este cazul, utilizatorii ar putea răspunde pentru orice conținut protejat de drepturi de autor pe care modelul îl generează.

Rapoarte recente indică faptul că Meta a folosit cărți electronice protejate prin drepturi de autor pentru instruirea AI, în ciuda faptului că a primit avertismente legale. Compania încorporează, de asemenea, conținut de pe Instagram și Facebook în formarea modelului său, ceea ce face dificilă renunțarea utilizatorilor. Meta se confruntă cu mai multe procese, inclusiv unul din partea unor autori precum Sarah Silverman, care susțin că compania a folosit materiale protejate prin drepturi de autor fără permisiune.

Un aspect important este programarea, deoarece Llama ar putea produce coduri cu erori sau nesigure. Este esențial ca dezvoltatorii să solicite unui expert uman să examineze orice cod generat de AI înainte de a-l implementa în aplicațiile lor.

În timp ce modelul Llama de la Meta oferă o flexibilitate și oportunități considerabile pentru dezvoltatori, este important să recunoaștem potențialele riscuri și limitări care vin cu acesta.

–

_Produs de Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _pentru viitorii inovatori tehnologici._



###### Credite de imagine: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Ce este Meta Llama? O privire cuprinzătoare asupra modelului Open AI pentru dezvoltatori

###### 17 septembrie 2024

În timp ce era încă student în informatică la Universitatea din Waterloo, Jacob Jackson a co-fondat [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:Brand%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=431117236325\&hsa_43117230727200000_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gad_source=1\&gcclid=Cj3Z3BcAjAwA03Z3BcAih_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), o companie de asistent de codare AI, care și-a lansat devreme cariera în AI . În 2019, când Jackson își termina examenele finale, Tabnine a strâns aproximativ 60 de milioane de dolari în capital de risc și a fost vândut către Codata. După aceea, a început să lucreze ca stagiar la [OpenAI](https://openai.com/) până în 2022, când a luat decizia de a înființa o nouă companie care să îmbunătățească fluxurile de lucru pentru dezvoltatori.

Jackson a dezvoltat [Supermaven](https://supermaven.com/), o platformă de codare AI care își extinde experiența cu Tabnine, dar prezintă îmbunătățiri tehnologice majore, datorită inspirației sale din dezvoltarea instrumentelor AI, cum ar fi ChatGPT și GitHub Copilot. Babble, modelul AI intern al Supermaven, are o fereastră pop-up de milioane de jetoane care îi permite să analizeze o mulțime de coduri simultan. Acest lucru face modelul mai fiabil în producerea unui cod precis, permițându-i să gestioneze intrări mari fără a „uita” datele recente sau a se îndepărta de subiect.

Supermaven se potrivește concurenților precum Code Assist de la Google cu 1 milion de [jetoane](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-the-them), în ciuda faptului că că unele platforme de codare AI, cum ar fi Magic, oferă ferestre pop-up considerabil mai mari (Magic acceptă 100 de milioane de jetoane). Potrivit lui Jackson, punctul unic de vânzare al lui Supermaven este latența sa redusă, posibilă de o arhitectură neuronală internă inovatoare. În plus, platforma durează doar 10-20 de secunde pentru a procesa depozitul de cod al unui dezvoltator, pentru a învăța regulile de codare și API-urile, astfel încât să poată continua să ruleze rapid, chiar și cu baze de cod mari.

Piața instrumentelor de codificare AI este de așteptat să crească rapid și să atingă 27,17 miliarde USD până în 2032, [conform previziunilor](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market). Peste 1,8 milioane de utilizatori GitHub Copilot se numără printre mulți dezvoltatori care au integrat deja AI în procesele lor. Dar sectorul are multe obstacole de depășit, în special când vine vorba de proprietatea intelectuală și confidențialitatea datelor. De teamă să nu dezvăluie codul PIN, multe companii ezită să folosească instrumente de codare AI. În plus, se știe că codul protejat prin drepturi de autor este regurgitat de modelele AI în unele cazuri, punând dezvoltatorii în pericol legal dacă îl includ în munca lor fără să-și dea seama. .

Jackson a subliniat [într-o discuție cu Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) că, în timp ce Supermaven reține datele pentru o perioadă scurtă pentru a maximiza performanța sistemului, nu folosește datele consumatorilor pentru a-și construi modelele. Reducerea expunerii la conținut periculos în timpul antrenamentului, el a subliniat că accentul s-a pus pe codul accesibil publicului, dar nu a exclus complet posibilitatea ca Babble să fie predat pe cod protejat prin IP.

Supermaven a crescut semnificativ în popularitate în ciuda acestor obstacole, peste 35.000 de dezvoltatori folosind platforma. De la lansarea companiei în februarie, baza sa de utilizatori s-a triplat și mulți dintre acești clienți se înscriu pentru planuri premium. Venitul anual recurent al companiei a ajuns la 1 milion de dolari.

Datorită succesului platformei, investitorii iau notă. Recent, Supermaven a dezvăluit că compania a finalizat prima rundă de investiții externe, strângând 12 milioane de dolari de la investitori îngeri și de la Bessemer Venture Partners, care includeau co-fondatorii Perplexity și OpenAI, John Schulman și Denis Yarats. Banii vor fi folosiți pentru a îmbunătăți editorul de text al lui Supermaven, care este în prezent în versiune beta, și pentru a angaja mai mulți dezvoltatori, pregătind compania pentru succesul pe termen lung în domeniul în creștere rapidă al codificării computerelor AI.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven câștigă sprijin pentru investitori: instrumentul AI care optimizează fluxurile de lucru pentru dezvoltatori

###### 13 septembrie 2024



Meta [actualizează](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) abordarea sa pentru etichetarea conținutului care are a fost editat sau modificat de instrumentele AI pe Instagram, Facebook și Threads. Eticheta „Insights AI”, care apărea anterior direct sub numele unui utilizator, se va muta acum în meniul de postări pentru conținutul care a fost modificat folosind AI.

Compania a spus că eticheta va continua să apară pe conținutul pe care Meta îl identifică ca fiind în întregime generat de AI. Deși eticheta poate fi mai puțin vizibilă pe conținutul care a fost editat folosind instrumente AI, ea va fi totuși vizibilă clar pe conținutul care a fost creat în întregime cu ajutorul AI.

Meta a anunțat că va oferi informații despre dacă conținutul este etichetat pe baza semnalelor standard din industrie sau a dezvăluirii utilizatorilor. Această schimbare, care va fi implementată săptămâna viitoare, urmărește „să reflecte mai bine domeniul de aplicare al AI utilizat în conținut” pe toate platformele sale.

Prin reducerea proeminenței etichetei de informații AI, există îngrijorarea că utilizatorii ar putea fi păcăliți mai ușor de conținutul editat prin AI, mai ales pe măsură ce instrumentele de editare devin din ce în ce mai sofisticate.

Nu este prima dată când Meta schimbă modul în care etichetează conținutul legat de inteligența artificială. În iulie, compania a schimbat eticheta din „Made with AI” în „Informații din AI” după ce a primit plângeri de la fotografi care considerau că eticheta a fost aplicată incorect fotografiilor reale. Meta a recunoscut că formularea originală era confuză și ar fi putut fi interpretată ca însemnând că anumite imagini au fost în întregime generate de AI, chiar dacă au fost editate doar cu instrumente AI.

—

_Produs de Code Labs Academy – Your Leading_ [_Online Coding Bootcamp_](/) _pentru viitorii inovatori tehnologici._



###### Credite de imagine: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta modifică etichetarea AI pe platformele sociale pentru conținutul editat și generat de IA

###### 13 septembrie 2024

Deși părerile despre noua firmă de resurse umane a lui Rajeev Behera, [Every](https://www.every.io/), este o afacere cu risc ridicat sau o idee genială sunt variate, startup-ul face furori. Pentru firmele mici, platforma all-in-one integrează salarizarea, integrarea și gestionarea cheltuielilor. Această piață este deja aglomerată de jucători consacrați precum Gusto, Rippling și Deel, precum și de companii emergente precum Mercury și Brex. Cu toate acestea, susținătorii lui Behera par să fie siguri că strategia lui este unică. Recent, Every a strâns 22,5 milioane USD într-o rundă de strângere de fonduri din seria A condusă de Okta Ventures, Base10 Partners, Y Combinator și Redpoint Ventures.

Accentul lui Behera pe firmele aflate în stadiu incipient și strategia de ofertă distinctivă sunt ceea ce îi distinge viziunea. Fiecare oferă servicii gratuite de încorporare firmelor mici, apoi creează conturi bancare de afaceri și oferă suport de back-office crucial. Taxele de interschimb și taxele SaaS pentru module suplimentare, cum ar fi contabilitatea, generează venituri.

[Behera a explicat](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) că Every a dezvoltat instrumente avansate pentru salarizare, servicii bancare și gestionarea cheltuielilor. Pentru a atrage fondatori de la început, aceștia oferă acum servicii gratuite de încorporare. Odată îmbarcate printr-o sesiune personalizată, startup-urile obțin acces la un sistem cuprinzător care acoperă servicii bancare, salarizare, resurse umane, contabilitate, impozite și conformitatea statului. În plus, fondatorii beneficiază de un canal dedicat Slack unde se pot conecta și împărtăși informații cu alți antreprenori.

După ce și-au finalizat încorporarea folosind Every, clienții rămân de obicei cu acesta în loc să folosească platformele concurenților precum Rippling. Cu instrumente menite să le promoveze creșterea în primii cinci ani, Every's se concentrează asupra companiilor cu mai puțin de 200 de oameni.

Abordarea lui Behera este unică prin faptul că anticipează că cei mai profitabili clienți ai săi vor avea nevoie, în cele din urmă, de mai multe servicii de la Every, cel puțin până când Every se va dezvolta într-o fază de dezvoltare fintech care poate ajuta companiile mai mari.

Relația lui Behera cu [Y Combinator](https://www.ycombinator.com/) (YC) a fost o componentă vitală a dezvoltării tuturor. Behera, un antreprenor cu experiență, a folosit rețeaua acceleratorului și toată lumea făcea parte din cohorta YC Summer 2023. Reflektive, demersul său de afaceri anterior, a fost achiziționat în 2021, în urma unei majorări de capital de peste 100 de milioane de dolari. În plus, consilierul YC Surbhi Sarna, soția sa, este și un antreprenor de succes. Din această cauză, aproximativ jumătate din clientela lui Every a venit prin intermediul rețelei extinse de startup a YC.

Chiar dacă Rippling, Gusto și Deel — alte trei startup-uri susținute de YC — concurează cu ei, legăturile strânse ale Every cu ecosistemul YC reprezintă un avantaj semnificativ. Acest lucru a atras investitori, împreună cu abordarea practică a Beherei de a crea componentele platformei de la zero.

Behera a angajat mai mult personal după ce a supravegheat personal vânzările pentru clienți, asistența și proiectarea produselor pentru primii 50 de clienți ai afacerii, cu ajutorul lui Alex Bard de la Redpoint, care a supravegheat runda de strângere de fonduri din seria A. După ce au citit mărturii strălucitoare de la firme care deja foloseau Every, alți capitaliști de risc au făcut același lucru.

În mai puțin de două săptămâni, banii din seria A au fost asigurați fără ca Behera să caute în mod activ noi investitori. Deși valoarea companiei nu a fost făcută publică, estimările o situează la 112,5 milioane de dolari. Finanțarea suplimentară va fi folosită pentru a sprijini serviciile gratuite de încorporare și de integrare care conduc la succesul timpuriu al Every, precum și pentru a crește personalul de inginerie, care acum numără aproximativ 20 de persoane.

Ce este Meta Llama? O privire cuprinzătoare asupra modelului Open AI pentru dezvoltatori

Supermaven câștigă sprijin pentru investitori: instrumentul AI care optimizează fluxurile de lucru pentru dezvoltatori

Meta modifică etichetarea AI pe platformele sociale pentru conținutul editat și generat de IA

HR Startup Every asigură o finanțare de 22,5 milioane USD seria A și extinde echipa de inginerie în doar două săptămâni