###### 2024년 9월 17일



다른 선도적인 기술 기업과 마찬가지로 Meta는 [Llama](https://llama.meta.com/)라는 자체 생성 AI 모델을 개발했습니다. Llama를 차별화하는 점은 개방형 특성으로 개발자가 상당히 자유롭게 다운로드하고 사용할 수 있다는 점입니다. 단, 몇 가지 염두에 두어야 할 조건이 있습니다. 이 접근 방식은 Anthropic의 Claude, [OpenAI의 GPT-4o](https://openai.com/index/hello-gpt-4o/)([ChatGPT](/news/ai-at-your-의엔진)와 같은 모델과 대조됩니다. Fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) 및 Google의 Gemini는 API를 통해서만 사용할 수 있습니다.

개발자에게 더 많은 유연성을 제공하기 위해 Meta는 AWS, Google Cloud 및 Microsoft Azure와 같은 클라우드 서비스 제공업체와 제휴하여 클라우드 호스팅 버전의 Llama를 제공했습니다. 또한 Meta는 개발자가 특정 요구 사항에 맞게 모델을 미세 조정하고 조정할 수 있는 프로세스를 단순화하는 도구를 구축했습니다.

다음은 Llama가 수행할 수 있는 작업, 제공되는 다양한 버전, 효과적으로 사용하는 방법을 포함하여 Llama에 대한 자세한 설명입니다.

## 라마란 무엇인가요?

라마는 단지 하나의 모델이 아닙니다. 이는 다음과 같은 다양한 모델을 포함합니다.

- 라마 8B

- 라마 70B

- 라마 405B

최신 버전(Llama 3.1 8B, Llama 3.1 70B 및 Llama 3.1 405B)은 2024년 7월에 출시되었습니다. 이러한 모델은 다양한 언어로 된 웹 페이지, 공개 코드, 온라인에서 사용 가능한 파일과 같은 광범위한 데이터 소스에 대해 학습되었습니다., 기타 AI 시스템에서 생성된 합성 데이터.

Llama 3.1 8B 및 70B는 노트북부터 서버까지 다양한 장치를 실행할 수 있는 컴팩트 모델입니다. 반면 Llama 3.1 405B는 일반적으로 데이터 센터 하드웨어가 필요한 대규모 모델입니다. 소형 모델은 405B만큼 강력하지 않을 수 있지만 더 빠른 성능을 제공하고 저장 공간과 대기 시간을 줄이는 데 최적화되어 있습니다.

모든 Llama 모델은 128,000개 토큰의 컨텍스트 창을 갖추고 있어 약 100,000단어(또는 300페이지의 텍스트)를 처리할 수 있습니다. 이것은 대략 Wuthering Heights나 Harry Potter와 Azkaban의 죄수와 같은 책의 길이입니다. 긴 컨텍스트 창은 모델이 최근 문서와 데이터의 정보를 유지하는 데 도움이 되어 주제에서 벗어날 위험을 줄여줍니다.

## 라마는 무엇을 할 수 있나요?

다른 생성 AI 모델과 마찬가지로 Llama는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어 등 8개 언어로 코딩, 간단한 수학 질문에 답하기, 문서 요약 등 다양한 작업에 도움을 줄 수 있습니다. PDF 및 스프레드시트와 같은 파일 분석과 같은 대부분의 텍스트 기반 작업을 처리할 수 있지만 현재는 이미지를 생성하거나 처리하는 기능이 없습니다. 이는 향후 변경될 수 있습니다.

Llama 모델은 타사 앱, 도구 및 API와 통합되어 다양한 작업을 수행할 수 있습니다. Brave Search를 사용하여 현재 사건에 대한 질문에 답변하고, Wolfram Alpha API를 통해 수학 및 과학 쿼리를 수행하고, Python 인터프리터를 사용하여 코드 검증을 수행하도록 구성되어 있습니다. Meta에 따르면 Llama 3.1은 명시적으로 교육받지 않은 일부 도구도 사용할 수 있지만 이 기능의 신뢰성은 여전히 ​​불확실합니다.

## 라마는 어디에 사용할 수 있나요?

Llama와 직접 연결하려는 경우 Facebook Messenger, WhatsApp, Instagram, Oculus 및 Meta.ai와 같은 플랫폼에서 Meta AI 챗봇 경험이 지원됩니다.

개발자의 경우 Llama를 다운로드할 수 있으며 여러 인기 클라우드 플랫폼으로 확장할 수 있습니다. Meta는 Nvidia, Databricks, Groq, Dell 및 Snowflake를 포함하여 Llama를 호스팅하기 위해 25개가 넘는 회사와 파트너십을 맺었습니다. 이러한 파트너 중 다수는 Llama가 독점 데이터에 액세스하거나 보다 효율적으로 실행할 수 있도록 하는 추가 도구를 제공합니다.

Meta는 챗봇 실행이나 코드 생성과 같은 일반적인 목적으로 더 작은 Llama 모델, 특히 8B 및 70B를 사용할 것을 제안합니다. 반면, 더 큰 Llama 405B는 더 큰 모델에서 더 작은 모델로 지식을 전달하고 다른 모델을 훈련하기 위한 합성 데이터를 생성하는 모델 증류와 같은 작업에 더 적합합니다.

월간 사용자 수가 7억 명 이상인 애플리케이션을 운영하는 개발자가 Llama에 액세스하려면 Meta로부터 특별 라이센스를 취득해야 하며 이는 Meta의 재량에 따라 부여됩니다.

## Meta는 Llama에 어떤 도구를 제공하나요?

Meta는 Llama의 보안을 향상하기 위해 여러 가지 도구를 도입했습니다.

1. **Llama Guard:** 증오심 표현, 자해, 저작권 침해 등 문제가 있는 콘텐츠를 식별하는 조정 프레임워크입니다.

2. **Prompt Guard:** 보안 조치를 우회하려는 유해한 메시지로부터 Llama를 보호하기 위해 특별히 설계된 도구입니다.

3. **CyberSecEval:** 자동화된 사회 공학 및 공격적인 사이버 활동과 같은 위협에 중점을 두고 모델 보안을 평가하는 사이버 보안 위험 평가 제품군입니다.

예를 들어 Llama Guard는 Llama에 입력되거나 생성된 유해하거나 불법적인 콘텐츠를 감지하여 개발자가 차단할 카테고리를 사용자 정의할 수 있도록 합니다. Prompt Guard는 모델을 조작하려는 "메시지 주입 공격"을 방어하는 데 중점을 둡니다. CyberSecEval은 Llama 모델과 관련된 보안 위험을 평가하기 위한 벤치마크를 제공합니다.

## 라마의 한계

다른 생성 AI 모델과 마찬가지로 Llama에도 한계와 잠재적인 위험이 있습니다. 주요 관심사 중 하나는 Meta가 Llama를 훈련시키기 위해 저작권이 있는 자료를 사용했는지 여부입니다. 이 경우 사용자는 모델이 생성한 저작권이 있는 콘텐츠에 대해 책임을 질 수 있습니다.

최근 보고서에 따르면 Meta는 법적 경고를 받았음에도 불구하고 AI 교육을 위해 저작권이 있는 전자책을 사용해 왔습니다. 또한 회사는 Instagram과 Facebook의 콘텐츠를 모델 교육에 통합하여 사용자가 거부하기 어렵게 만듭니다. Meta는 회사가 저작권이 있는 자료를 허가 없이 사용했다고 주장하는 Sarah Silverman과 같은 작가의 소송을 포함하여 여러 소송에 직면해 있습니다.

Llama는 버그가 있거나 안전하지 않은 코드를 생성할 수 있으므로 중요한 고려 사항은 프로그래밍입니다. 개발자가 AI 생성 코드를 애플리케이션에 구현하기 전에 인간 전문가가 검토하도록 하는 것이 중요합니다.

Meta의 Llama 모델은 개발자에게 상당한 유연성과 기회를 제공하지만 그에 수반되는 잠재적인 위험과 한계를 인식하는 것이 중요합니다.

–

_Code Labs Academy에서 제공 – 귀하의 선도_ [_온라인 코딩 부트캠프_](/) _미래 기술 혁신가를 위한._



###### 이미지 크레딧: 메타

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

메타 라마란 무엇인가요? 개발자를 위한 Open AI 모델에 대한 종합적인 살펴보기

###### 2024년 9월 17일

Jacob Jackson은 워털루 대학교에서 컴퓨터 과학을 전공하는 동안 [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS)을 공동 창립했습니다. %5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:브랜드%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126\&hsa_cam=21073527735\&hsa_grp =159292934283\&hsa_ad =713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gclid=CjwKCAjw0aS3BhA3EiwAKaD2ZSi AI 코딩 어시스턴트 기업 _B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE)가 AI 분야에서 일찍 경력을 시작했습니다. . 2019년, 잭슨이 기말고사를 마무리할 무렵, 태나인은 벤처캐피탈로 약 6천만 달러를 모금했고 코다타(Codata)에 매각되었습니다. 그 후 그는 2022년까지 [OpenAI](https://openai.com/)에서 인턴으로 일하기 시작했고, 그때 개발자 워크플로를 개선할 새로운 회사를 시작하기로 결정했습니다.

Jackson은 ChatGPT 및 GitHub Copilot과 같은 AI 도구 개발에서 영감을 받아 Tabnine에 대한 경험을 확장하면서도 주요 기술 향상 기능을 갖춘 AI 코딩 플랫폼인 [Supermaven](https://supermaven.com/)을 개발했습니다. Supermaven의 내부 AI 모델인 Babble에는 많은 코드를 한 번에 분석할 수 있는 백만 개의 토큰 팝업이 있습니다. 이를 통해 최신 데이터를 "잊거나" 주제에서 벗어나지 않고 대규모 입력을 처리할 수 있으므로 모델이 정확한 코드를 생성하는 데 있어 더욱 안정적입니다.

Supermaven은 Google의 Code Assist와 같은 경쟁업체와 100만 개의 [토큰](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them)을 비교합니다. Magic과 같은 일부 AI 코딩 플랫폼은 훨씬 더 큰 팝업을 제공합니다(Magic은 1억 개의 토큰을 지원합니다). Jackson에 따르면 Supermaven의 독특한 판매 포인트는 혁신적인 내부 신경 아키텍처를 통해 가능해진 대기 시간 감소입니다. 또한 이 플랫폼은 개발자의 코드 저장소를 처리하고 코딩 규칙과 API를 학습하는 데 10~20초밖에 걸리지 않으므로 대규모 코드 베이스가 있어도 계속 빠르게 실행할 수 있습니다.

AI 코딩 도구 시장은 2032년까지 빠르게 성장해 271억7000만 달러 규모에 이를 것으로 예상된다. 이미 AI를 프로세스에 통합한 많은 개발자 중에는 180만 명이 넘는 GitHub Copilot 사용자가 포함되어 있습니다. 그러나 이 분야에는 극복해야 할 장애물이 많이 있으며, 특히 지적 재산 및 데이터 개인 정보 보호와 관련하여 더욱 그렇습니다. PIN 공개를 두려워하는 많은 기업에서는 AI 코딩 도구 사용을 주저하고 있습니다. 또한 저작권이 있는 코드는 경우에 따라 AI 모델에 의해 역류되어 개발자가 이를 인지하지 못한 채 작업에 포함할 경우 법적 위험에 처할 수 있는 것으로 알려져 있습니다. .

Jackson은 [Techcrunch와의 대화에서](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/)라고 강조했습니다. 시스템 성능을 극대화하기 위해 짧은 기간 동안 데이터를 보관하지만 모델을 구축하기 위해 소비자 데이터를 사용하지 않습니다. 그는 훈련 중 위험한 콘텐츠에 대한 노출을 줄이면서 공개적으로 접근 가능한 코드에 중점을 두고 있음을 강조했지만 Babble이 IP 보호 코드로 교육될 가능성을 완전히 배제하지는 않았습니다.

Supermaven은 이러한 장애물에도 불구하고 35,000명이 넘는 개발자가 플랫폼을 사용하면서 인기가 크게 높아졌습니다. 회사가 2월에 출시된 이후 사용자 기반이 3배로 늘어났으며 많은 고객이 프리미엄 요금제에 가입하고 있습니다. 회사의 연간 반복 수익은 100만 달러에 달했습니다.

플랫폼의 성공으로 인해 투자자들이 주목하고 있습니다. 최근 Supermaven은 회사가 Perplexity 및 OpenAI 공동 창업자인 John Schulman 및 Denis Yarats를 포함한 엔젤 투자자 및 Bessemer Venture Partners로부터 1,200만 달러를 모금하여 첫 번째 외부 투자 라운드를 완료했다고 밝혔습니다. 이 자금은 현재 베타 버전인 Supermaven의 텍스트 편집기를 개선하고 더 많은 개발자를 고용하여 빠르게 성장하는 컴퓨터 코딩 AI 분야에서 회사가 장기적인 성공을 거둘 수 있도록 하는 데 사용될 것입니다.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven, 투자자 지원 확보: 개발자 워크플로우를 최적화하는 AI 도구

###### 2024년 9월 13일



Meta는 콘텐츠에 라벨을 붙이는 접근 방식을 [업데이트](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/)하고 있습니다. Instagram, Facebook 및 Threads의 AI 도구로 편집되거나 수정되었습니다. 기존에는 사용자 이름 바로 아래에 표시되던 'AI 인사이트' 라벨이 이제 AI를 사용해 수정된 콘텐츠의 게시물 메뉴로 이동됩니다.

회사는 Meta가 완전히 AI로 생성된 것으로 식별하는 콘텐츠에 이 라벨이 계속 표시될 것이라고 말했습니다. AI 도구를 사용하여 편집한 콘텐츠에서는 라벨이 덜 눈에 띄게 보일 수 있지만, 전적으로 AI 입력으로 생성된 콘텐츠에서는 여전히 명확하게 표시됩니다.

Meta는 업계 표준 신호 또는 사용자 공개를 기반으로 콘텐츠에 라벨이 지정되었는지 여부에 대한 정보를 제공할 것이라고 발표했습니다. 다음 주에 시행될 이번 변화는 모든 플랫폼에 걸쳐 "콘텐츠에 사용되는 AI의 범위를 더 잘 반영"하는 것을 목표로 합니다.

AI 정보 라벨의 중요성을 줄임으로써 특히 편집 도구가 점점 정교해짐에 따라 AI가 편집한 콘텐츠에 사용자가 더 쉽게 속일 수 있다는 우려가 있습니다.

Meta가 AI 관련 콘텐츠에 라벨을 지정하는 방식을 변경한 것은 이번이 처음이 아닙니다. 지난 7월, 회사는 실제 사진에 라벨이 잘못 적용됐다는 사진작가들의 불만을 접수해 라벨을 'Made with AI'에서 'Information from AI'로 변경했다. 메타는 원래 문구가 혼란스럽고 특정 이미지가 AI 도구로만 편집되었더라도 완전히 AI로 생성되었다는 의미로 해석될 수 있음을 인정했습니다.

—

_Code Labs Academy에서 제공 – 귀하의 선도_ [_온라인 코딩 부트캠프_](/) _미래 기술 혁신가를 위한._



###### 이미지 크레딧: 메타

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta는 편집 및 AI 생성 콘텐츠에 대한 소셜 플랫폼의 AI 라벨링을 변경합니다.

###### 2024년 9월 13일

Rajeev Behera의 새로운 HR 회사인 [Every](https://www.every.io/)가 위험성이 높은 벤처인지 아니면 기발한 아이디어인지에 대한 의견은 다양하지만 스타트업이 파장을 일으키고 있습니다. 소규모 기업의 경우 올인원 플랫폼은 급여, 온보딩 및 지출 관리를 통합합니다. 이 시장은 이미 Gusto, Rippling, Deel과 같은 기존 기업뿐만 아니라 Mercury 및 Brex와 같은 신흥 기업으로 혼잡합니다. 그러나 Behera의 후원자들은 그의 전략이 독특하다고 확신하는 것 같습니다. 최근 Every는 Okta Ventures, Base10 Partners, Y Combinator 및 Redpoint Ventures가 이끄는 시리즈 A 자금 조달 라운드에서 2,250만 달러를 모금했습니다.

Behera는 초기 단계의 기업과 차별화된 제안 전략에 중점을 두어 그의 비전을 차별화합니다. 모든 회사는 소규모 회사에 무료 법인 설립 서비스를 제공하고 비즈니스 은행 계좌를 설정하고 중요한 백오피스 지원을 제공합니다. 회계와 같은 추가 모듈에 대한 교환 수수료 및 SaaS 수수료는 수익을 창출합니다.

[Behera 설명](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) Every가 고급 도구를 개발했다고 급여, 은행 업무, 비용 관리를 위한 것입니다. 초기에 창업자를 유치하기 위해 그들은 이제 무료 통합 서비스를 제공하고 있습니다. 개인화된 세션을 통해 온보딩되면 스타트업은 은행 업무, 급여, HR, 장부 관리, 세금 및 주정부 규정 준수를 다루는 포괄적인 시스템에 액세스할 수 있습니다. 또한 창업자는 다른 기업가와 연결하고 통찰력을 공유할 수 있는 전용 Slack 채널의 혜택을 누릴 수 있습니다.

Every를 사용하여 통합을 완료한 후 고객은 일반적으로 Rippling과 같은 경쟁사의 플랫폼을 사용하는 대신 이를 고수합니다. 처음 5년 동안 성장을 촉진하기 위한 도구를 갖춘 Every는 직원 수가 200명 미만인 회사에 집중합니다.

Behera의 접근 방식은 가장 수익성이 높은 고객이 결국 Every에서 더 많은 서비스를 필요로 할 것이라고 예상한다는 점에서 독특합니다. 적어도 Every가 더 큰 회사를 지원할 수 있는 성장 단계의 핀테크로 발전할 때까지는 말입니다.

Behera와 [Y Combinator](https://www.ycombinator.com/)(YC)의 관계는 모두의 발전에 중요한 요소였습니다. 경험이 풍부한 기업가인 Behera는 액셀러레이터의 네트워크를 활용했으며 모두가 YC의 2023년 여름 코호트의 일부였습니다. 그가 이전에 사업을 진행했던 Reflektive는 1억 달러 이상의 자본금을 조달한 후 2021년에 인수되었습니다. 또한 그의 아내인 YC 고문 수르비 사르나(Surbhi Sarna) 역시 성공적인 기업가이다. 이로 인해 Every의 고객 중 약 절반이 YC의 광범위한 스타트업 네트워크를 통해 왔습니다.

Rippling, Gusto 및 Deel(YC가 지원하는 다른 세 개의 스타트업)이 그들과 경쟁하더라도 Every와 YC 생태계와의 긴밀한 관계는 중요한 이점입니다. 이는 처음부터 플랫폼의 구성 요소를 생성하는 Behera의 실제 접근 방식과 함께 투자자를 끌어 모았습니다.

Behera는 시리즈 A 자금 조달 라운드를 감독한 Redpoint의 Alex Bard의 도움을 받아 비즈니스의 첫 50개 고객을 위한 고객 판매, 지원 및 제품 디자인을 개인적으로 감독한 후 더 많은 직원을 고용했습니다. 이미 Every를 사용하고 있는 회사의 빛나는 평가를 읽은 후 다른 벤처 캐피탈리스트도 똑같이 했습니다.

Behera가 적극적으로 새로운 투자자를 찾지 않고도 2주도 안 되어 시리즈 A 자금이 확보되었습니다. 회사의 가치는 공개되지 않았지만 추정치는 1억 1250만 달러로 추정됩니다. 추가 자금은 Every의 초기 성공을 이끄는 무료 통합 및 온보딩 서비스를 지원하고 현재 약 20명에 달하는 엔지니어링 직원을 늘리는 데 사용될 것입니다.

메타 라마란 무엇인가요? 개발자를 위한 Open AI 모델에 대한 종합적인 살펴보기

Supermaven, 투자자 지원 확보: 개발자 워크플로우를 최적화하는 AI 도구

Meta는 편집 및 AI 생성 콘텐츠에 대한 소셜 플랫폼의 AI 라벨링을 변경합니다.

HR Startup Every는 단 2주 만에 2,250만 달러의 시리즈 A 자금을 확보하고 엔지니어링 팀을 확장했습니다.