###### 2024 年 9 月 17 日



与许多其他领先科技公司一样，Meta 开发了自己的生成式人工智能模型，称为 [Llama](https://llama.meta.com/)。 Llama 的与众不同之处在于它的开放性，允许开发人员以相当大的自由度下载和使用它，尽管有一些条件需要记住。这种方法与 Anthropic 的 Claude、[OpenAI 的 GPT-4o](https://openai.com/index/hello-gpt-4o/)（[ChatGPT](/news/ai-at-your-Fingertips-chatgpt-app-now-available-for-mac-2024-07-02)) 和 Google 的 Gemini，只能通过 API 获得。

为了给开发人员提供更大的灵活性，Meta 与 AWS、Google Cloud 和 Microsoft Azure 等云服务提供商合作，提供 Llama 的云托管版本。此外，Meta 还构建了一些工具，可以简化开发人员微调和调整模型以满足其特定要求的流程。

下面是 Llama 的详细描述，包括它的功能、它提供的不同版本以及如何有效地使用它。

## 骆驼是什么？

Llama 不仅仅是一种模型；它也是一种模型。它包含一系列模型，例如：

- 骆驼 8B

- 骆驼 70B

- 骆驼 405B

最新版本（Llama 3.1 8B、Llama 3.1 70B 和 Llama 3.1 405B）于 2024 年 7 月发布。这些模型在各种数据源上进行训练，例如不同语言的网页、公共代码、在线可用文件，以及其他人工智能系统产生的合成数据。

Llama 3.1 8B 和 70B 是紧凑型型号，可以运行从笔记本电脑到服务器的各种设备。另一方面，Llama 3.1 405B 是一种大型型号，通常需要数据中心硬件。虽然较小的型号可能不如 405B 强大，但它们提供更快的性能，并针对减少存储和延迟进行了优化。

所有 Llama 模型都具有包含 128,000 个标记的上下文窗口，允许它们处理大约 100,000 个单词（或 300 页文本）。这大约相当于《呼啸山庄》或《哈利·波特与阿兹卡班的囚徒》等书籍的长度。长上下文窗口有助于模型保留最近文档和数据中的信息，从而降低偏离主题的风险。

## 骆驼能做什么？

与其他生成式 AI 模型一样，Llama 可以帮助完成各种任务，例如编码、回答简单的数学问题以及总结八种语言的文档：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。它可以处理大多数基于文本的任务，例如分析 PDF 和电子表格等文件，但它目前不具备生成或处理图像的能力 - 这在未来可能会发生变化。

Llama 模型可以与第三方应用程序、工具和 API 集成来执行各种任务。它们被配置为使用 Brave Search 来回答有关当前事件的问题，使用 Wolfram Alpha API 进行数学和科学查询，以及使用 Python 解释器进行代码验证。据 Meta 称，Llama 3.1 甚至可以使用一些尚未经过明确训练的工具，尽管该功能的可靠性仍不确定。

## 在哪里可以使用 Llama？

如果您想直接与 Llama 联系，Facebook Messenger、WhatsApp、Instagram、Oculus 和 Meta.ai 等平台都支持 Meta AI 聊天机器人体验。

对于开发人员来说，Llama 可供下载，并且可以扩展到多个流行的云平台。 Meta 已与超过 25 家公司合作托管 Llama，其中包括 Nvidia、Databricks、Groq、Dell 和 Snowflake。许多合作伙伴提供了额外的工具，使 Llama 能够访问专有数据或更高效地运行。

Meta 建议使用较小的 Llama 模型，特别是 8B 和 70B，用于一般用途，例如运行聊天机器人或创建代码。另一方面，较大的 Llama 405B 更适合模型蒸馏等任务，其中涉及将知识从较大模型转移到较小模型，以及生成合成数据来训练其他模型。

运营每月用户超过 7 亿的应用程序的开发人员必须从 Meta 获得特殊许可证才能访问 Llama，这将由 Meta 自行决定是否授予。

## Meta 为 Llama 提供哪些工具？

Meta 推出了多种工具来提高 Llama 的安全性：

1. **Llama Guard：** 一个审核框架，可识别有问题的内容，例如仇恨言论、自残和侵犯版权。

2. **Prompt Guard：** 专门设计用于保护 Llama 免受试图绕过其安全措施的有害消息的影响的工具。

3. **Cyber​​SecEval：** 网络安全风险评估套件，用于评估模型安全性，重点关注自动化社会工程和攻击性网络活动等威胁。

例如，Llama Guard 可以检测输入或生成到 Llama 中的有害或非法内容，从而允许开发人员自定义阻止哪些类别。 Prompt Guard 专注于防御试图操纵模型的“消息注入攻击”。 Cyber​​SecEval 提供了用于评估与 Llama 模型相关的安全风险的基准。

## Llama 的局限性

与其他生成型人工智能模型一样，Llama 也有其局限性和潜在风险。主要关注点之一是 Meta 是否使用受版权保护的材料来训练 Llama。如果是这种情况，用户可能会对模型生成的任何受版权保护的内容承担责任。

最近的报告表明，Meta 一直在使用受版权保护的电子书进行人工智能培训，尽管收到了法律警告。该公司还将 Instagram 和 Facebook 的内容纳入其模型训练中，让用户很难选择退出。 Meta 面临多起诉讼，其中包括莎拉·西尔弗曼 (Sarah Silverman) 等作者提起的诉讼，他们声称该公司未经许可使用了受版权保护的材料。

一个重要的考虑因素是编程，因为 Llama 可能会产生有错误或不安全的代码。开发人员在应用程序中实施人工智能生成的代码之前，必须让人类专家对其进行审查，这一点至关重要。

虽然 Meta 的 Llama 模型为开发人员提供了相当大的灵活性和机会，但认识到它带来的潜在风险和限制也很重要。

–

_由 Code Labs Academy 为您提供 - Yourleading_ [_在线编码训练营_](/) _面向未来的技术创新者。_



###### 图片来源：Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

什么是元骆驼？全面了解面向开发者的开放人工智能模型

###### 2024 年 9 月 17 日

当 Jacob Jackson 还是滑铁卢大学计算机科学专业的学生时，Jacob Jackson 与他人共同创立了 [Tabnine](https://www.tabnine.com/get-free-90-day-Trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BSearch:品牌%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126\&hsa_cam=21073527735\&hsa_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gclid=CjwKCAjw0aS3BhA3EiwAKaD2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE)，一家AI编码助手公司，很早就开始了自己的AI职业生涯。 2019 年，当杰克逊完成期末考试时，Tabnine 筹集了约 6000 万美元的风险投资，并被出售给了 Codata。之后，他开始在 [OpenAI](https://openai.com/) 实习，直到 2022 年，当时他决定创办一家新公司，以改善开发人员的工作流程。

Jackson 开发了 [Supermaven](https://supermaven.com/)，这是一个 AI 编码平台，它扩展了他在 Tabnine 方面的经验，但由于受到 ChatGPT 和 GitHub Copilot 等 AI 工具开发的启发，它具有重大的技术增强功能。 Babble 是 Supermaven 的内部人工智能模型，有一个百万个令牌的弹出窗口，可以同时分析大量代码。这使得模型能够更可靠地生成准确的代码，允许其处理大量输入，而不会“忘记”最近的数据或偏离主题。

Supermaven 与 Google 的 Code Assist 等竞争对手匹配了 100 万个 [tokens](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them)，尽管事实如此一些人工智能编码平台，如 Magic，提供相当大的弹出窗口（Magic 支持 1 亿个代币）。 Jackson 表示，Supermaven 的独特卖点是通过创新的内部神经架构减少延迟。此外，该平台只需 10-20 秒即可处理开发人员的代码存储库、学习编码规则和 API，因此即使有大型代码库，它也能保持快速运行。

AI编码工具市场预计将快速增长，到2032年将达到271.7亿美元，[根据预测](https://www.polarismarketresearch.com/press-releases/ai-code-tools-market)。许多开发人员已经将 AI 集成到他们的流程中，其中包括超过 180 万 GitHub Copilot 用户。但该行业还有许多障碍需要克服，特别是在知识产权和数据隐私方面。由于担心泄露 PIN，许多公司对使用人工智能编码工具犹豫不决。此外，众所周知，在某些情况下，人工智能模型会复制受版权保护的代码，如果开发人员在没有意识到的情况下将其包含在自己的作品中，就会面临法律风险。 。

Jackson [在与 Techcrunch 的谈话中](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-Founders/) 强调，虽然 Supermaven短期保留数据以最大限度地提高系统性能，它不使用消费者数据来构建模型。在培训期间减少接触危险内容时，他强调重点是可公开访问的代码，但他并没有完全排除在 Babble 上教授受 IP 保护的代码的可能性。

尽管存在这些障碍，Supermaven 的受欢迎程度仍显着提高，有超过 35,000 名开发人员使用该平台。自该公司于二月份推出以来，其用户群增加了两倍，其中许多客户正在签署高级计划。公司的年度经常性收入达到100万美元。

由于该平台的成功，投资者正在关注。最近，Supermaven 透露，该公司已完成第一轮外部投资，从天使投资者和 Bessemer Venture Partners 筹集了 1200 万美元，其中包括 Perplexity 和 OpenAI 联合创始人 John Schulman 和 Denis Yarats。这笔资金将用于改进 Supermaven 的文本编辑器（目前处于测试阶段），并雇用更多开发人员，为公司在快速增长的计算机编码人工智能领域取得长期成功做好准备。

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven 获得投资者支持：AI 工具优化开发者工作流程

###### 2024 年 9 月 13 日



Meta 正在[更新](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/)其标记内容的方法已被 Instagram、Facebook 和 Threads 上的 AI 工具编辑或修改。之前出现在用户姓名正下方的“AI Insights”标签现在将移至帖子菜单，以显示已使用 AI 修改的内容。

该公司表示，该标签将继续出现在 Meta 认为完全由人工智能生成的内容上。虽然标签在使用 AI 工具编辑的内容上可能不太明显，但在完全使用 AI 输入创建的内容上仍然清晰可见。

Meta 宣布将提供有关内容是否根据行业标准信号或用户披露进行标记的信息。这一变化将于下周实施，旨在在其所有平台上“更好地反映人工智能在内容中使用的范围”。

通过降低人工智能信息标签的显着性，人们担心用户可能更容易被人工智能编辑的内容所愚弄，特别是在编辑工具变得越来越复杂的情况下。

这并不是 Meta 第一次改变人工智能相关内容的标签方式。今年 7 月，在收到摄影师的投诉后，该公司将标签从“人工智能制造”更改为“人工智能信息”，他们认为该标签被错误地应用于真实照片。 Meta 承认，最初的措辞令人困惑，可能被解释为某些图像完全是人工智能生成的，即使它们只是用人工智能工具编辑过的。

—

_由 Code Labs Academy 为您提供 - Yourleading_ [_在线编码训练营_](/) _面向未来的技术创新者。_



###### 图片来源：Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Meta 改变了社交平台上编辑和 AI 生成内容的 AI 标签

###### 2024 年 9 月 13 日

尽管对于拉吉夫·贝赫拉 (Rajeev Behera) 的新人力资源公司 [Every](https://www.every.io/) 是高风险企业还是绝妙创意的看法各不相同，但这家初创公司正在掀起波澜。对于小型企业来说，这一一体化平台集成了薪资、入职和支出管理。这个市场已经挤满了 Gusto、Rippling 和 Deel 等老牌公司，以及 Mercury 和 Brex 等新兴公司。然而，贝赫拉的支持者似乎确信他的策略是独一无二的。最近，Every 在由 Okta Ventures、Base10 Partners、Y Combinator 和 Redpoint Ventures 领投的 A 轮融资中筹集了 2250 万美元。

贝赫拉对早期公司的重视和独特的产品策略是他的愿景的独特之处。每个公司都为小公司提供免费的注册服务，然后他们设立商业银行账户并提供重要的后台支持。会计等额外模块的交换费和 SaaS 费可以产生收入。

[Behera 解释](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) Every 开发了先进的工具用于薪资、银行业务和费用管理。为了尽早吸引创始人，他们现在提供免费的注册服务。一旦通过个性化会议入职，初创公司就可以访问涵盖银行、工资、人力资源、簿记、税务和国家合规性的综合系统。此外，创始人还受益于专用的 Slack 渠道，他们可以在其中与其他企业家联系并分享见解。

在使用 Every 完成注册后，客户通常会坚持使用它，而不是使用竞争对手的平台，例如 Rippling。 Every 的重点是员工人数少于 200 人的公司，并提供旨在促进前五年发展的工具。

Behera 的方法是独特的，因为他预计他最赚钱的客户最终将需要 Every 提供更多服务，至少直到 Every 发展成为可以帮助更大公司的成长阶段金融科技。

Behera 与 [Y Combinator](https://www.ycombinator.com/) (YC) 的关系一直是Everybody 发展的重要组成部分。 Behera 是一位经验丰富的企业家，他利用了加速器的网络，每个人都是 YC 2023 年夏季团队的一部分。他之前的业务 Reflektive 在筹集了超过 1 亿美元的资金后于 2021 年被收购。此外，他的妻子YC顾问Surbhi Sarna也是一位成功的企业家。因此，Every 大约一半的客户来自 YC 广泛的初创公司网络。

尽管 Rippling、Gusto 和 Deel（另外三家 YC 支持的初创公司）与他们竞争，但 Every 与 YC 生态系统的密切联系是一个显着的优势。这以及 Behera 从头开始​​创建平台组件的实践方法吸引了投资者。

Behera 在 Redpoint 的 Alex Bard 的帮助下，在负责 A 系列筹款的 Redpoint 的 Alex Bard 的帮助下，亲自监督了该公司前 50 名客户的客户销售、支持和产品设计，之后聘请了更多员工。在阅读了已经使用 Every 的公司的热烈推荐后，其他风险投资家也做了同样的事情。

在不到两周的时间里，Behera 没有积极寻找新投资者，就获得了 A 轮融资。尽管该公司的价值并未公开，但估计其价值为 1.125 亿美元。额外的资金将用于支持推动 Every 早期成功的免费注册和入职服务，以及扩大工程人员队伍（目前约有 20 人）。

什么是元骆驼？全面了解面向开发者的开放人工智能模型

Supermaven 获得投资者支持：AI 工具优化开发者工作流程

Meta 改变了社交平台上编辑和 AI 生成内容的 AI 标签

HR 初创公司在短短两周内就获得了 2250 万美元的 A 轮融资并扩大了工程团队