###### Ngày 17 tháng 9 năm 2024



Meta, giống như nhiều công ty công nghệ hàng đầu khác, đã phát triển mô hình AI tổng quát của riêng mình có tên là [Llama](https://llama.meta.com/). Điều khiến Llama trở nên khác biệt là tính chất mở của nó, cho phép các nhà phát triển tải xuống và sử dụng nó một cách tự do đáng kể, mặc dù có một số điều kiện cần lưu ý. Cách tiếp cận này trái ngược với các mô hình như Claude của Anthropic, [GPT-4o của OpenAI](https://openai.com/index/hello-gpt-4o/) (công cụ đằng sau [ChatGPT](/news/ai-at-your-trongtầmtay-chatgpt-app-now-available-for-mac-2024-07-02)) và Gemini của Google, chỉ khả dụng thông qua API.

Để giúp các nhà phát triển linh hoạt hơn, Meta đã hợp tác với các nhà cung cấp dịch vụ đám mây như AWS, Google Cloud và Microsoft Azure để cung cấp các phiên bản Llama được lưu trữ trên đám mây. Ngoài ra, Meta đã xây dựng các công cụ giúp đơn giản hóa quy trình để các nhà phát triển tinh chỉnh và điều chỉnh mô hình để đáp ứng các yêu cầu cụ thể của họ.

Dưới đây là mô tả chi tiết về Llama, bao gồm những gì nó có thể làm, các phiên bản khác nhau mà nó cung cấp và cách bạn có thể sử dụng nó một cách hiệu quả.

## Llama là gì?

Llama không chỉ đơn thuần là một hình mẫu; nó bao gồm một loạt các mô hình, chẳng hạn như:

- Lâm 8B

- Lâm 70B

- Lạc đà 405B

Các phiên bản mới nhất (Llama 3.1 8B, Llama 3.1 70B và Llama 3.1 405B) được phát hành vào tháng 7 năm 2024. Các mô hình này được đào tạo trên nhiều nguồn dữ liệu, chẳng hạn như các trang web bằng nhiều ngôn ngữ khác nhau, mã công khai, các tệp có sẵn trực tuyến và dữ liệu tổng hợp do các hệ thống AI khác tạo ra.

Llama 3.1 8B và 70B là những model nhỏ gọn có thể chạy nhiều loại thiết bị từ máy tính xách tay đến máy chủ. Mặt khác, Llama 3.1 405B là mô hình quy mô lớn thường yêu cầu phần cứng trung tâm dữ liệu. Mặc dù các mẫu nhỏ hơn có thể không mạnh bằng 405B nhưng chúng mang lại hiệu suất nhanh hơn và được tối ưu hóa để giảm độ trễ và dung lượng lưu trữ.

Tất cả các mô hình Llama đều có cửa sổ ngữ cảnh gồm 128.000 mã thông báo, cho phép chúng xử lý khoảng 100.000 từ (hoặc 300 trang văn bản). Đây gần bằng độ dài của những cuốn sách như Đồi gió hú hay Harry Potter và Tù nhân ngục Azkaban. Cửa sổ ngữ cảnh dài giúp mô hình lưu giữ thông tin từ các tài liệu và dữ liệu gần đây, giảm nguy cơ lạc đề.

## Llama có thể làm gì?

Giống như các mô hình AI tổng quát khác, Llama có thể trợ giúp thực hiện nhiều nhiệm vụ khác nhau, chẳng hạn như viết mã, trả lời các câu hỏi toán học đơn giản và tóm tắt tài liệu bằng 8 ngôn ngữ: tiếng Anh, tiếng Đức, tiếng Pháp, tiếng Ý, tiếng Bồ Đào Nha, tiếng Hindi, tiếng Tây Ban Nha và tiếng Thái. Nó có thể xử lý hầu hết các tác vụ dựa trên văn bản, chẳng hạn như phân tích các tệp như PDF và bảng tính, nhưng hiện tại nó không có khả năng tạo hoặc xử lý hình ảnh – điều này có thể thay đổi trong tương lai.

Mô hình Llama có thể tích hợp với các ứng dụng, công cụ và API của bên thứ ba để thực hiện nhiều tác vụ khác nhau. Chúng được định cấu hình để sử dụng Brave Search để trả lời các câu hỏi về các sự kiện hiện tại, API Wolfram Alpha cho các truy vấn toán học và khoa học cũng như trình thông dịch Python để xác thực mã. Theo Meta, Llama 3.1 thậm chí có thể sử dụng một số công cụ mà nó chưa được đào tạo rõ ràng, mặc dù độ tin cậy của tính năng này vẫn chưa chắc chắn.

## Bạn có thể sử dụng Llama ở đâu?

Nếu bạn muốn kết nối trực tiếp với Llama, trải nghiệm chatbot Meta AI được hỗ trợ trên các nền tảng như Facebook Messenger, WhatsApp, Instagram, Oculus và Meta.ai.

Đối với các nhà phát triển, Llama có sẵn để tải xuống và có thể mở rộng quy mô sang một số nền tảng đám mây phổ biến. Meta đã hợp tác với hơn 25 công ty để tổ chức Llama, bao gồm Nvidia, Databricks, Groq, Dell và Snowflake. Nhiều đối tác trong số này cung cấp các công cụ bổ sung cho phép Llama truy cập dữ liệu độc quyền hoặc hoạt động hiệu quả hơn.

Meta đề xuất sử dụng các mô hình Llama nhỏ hơn, cụ thể là 8B và 70B, cho các mục đích chung như chạy chatbot hoặc tạo mã. Mặt khác, Llama 405B lớn hơn sẽ phù hợp hơn cho các nhiệm vụ như chắt lọc mô hình, bao gồm việc chuyển kiến ​​thức từ mô hình lớn hơn sang mô hình nhỏ hơn, cũng như tạo ra dữ liệu tổng hợp để huấn luyện các mô hình khác.

Các nhà phát triển vận hành các ứng dụng có hơn 700 triệu người dùng hàng tháng phải có giấy phép đặc biệt từ Meta để truy cập Llama và điều này sẽ được cấp theo quyết định riêng của Meta.

## Meta cung cấp những công cụ gì cho Llama?

Meta đã giới thiệu một số công cụ để cải thiện tính bảo mật của Llama:

1. **Llama Guard:** Khung kiểm duyệt xác định nội dung có vấn đề như lời nói căm thù, hành vi tự làm hại bản thân và vi phạm bản quyền.

2. **Prompt Guard:** Một công cụ được thiết kế đặc biệt để bảo vệ Llama khỏi các tin nhắn có hại tìm cách vượt qua các biện pháp bảo mật của nó.

3. **CyberSecEval:** Bộ đánh giá rủi ro an ninh mạng giúp đánh giá mức độ bảo mật của mô hình, tập trung vào các mối đe dọa như kỹ nghệ xã hội tự động và các hoạt động tấn công mạng.

Ví dụ: Llama Guard có thể phát hiện nội dung có hại hoặc bất hợp pháp được nhập hoặc tạo vào Llama, cho phép nhà phát triển tùy chỉnh danh mục nào bị chặn. Nhắc bảo vệ tập trung vào việc bảo vệ chống lại "các cuộc tấn công tiêm tin nhắn" cố gắng thao túng mô hình. CyberSecEval cung cấp điểm chuẩn để đánh giá rủi ro bảo mật liên quan đến mô hình Llama.

## Hạn chế của Llama

Llama, giống như các mô hình AI khác, có những hạn chế và rủi ro tiềm ẩn. Một trong những mối quan tâm chính là liệu Meta có sử dụng tài liệu có bản quyền để đào tạo Llama hay không. Nếu đúng như vậy, người dùng có thể phải chịu trách nhiệm pháp lý đối với mọi nội dung có bản quyền mà mô hình tạo ra.

Các báo cáo gần đây chỉ ra rằng Meta đã sử dụng sách điện tử có bản quyền để đào tạo AI, mặc dù đã nhận được cảnh báo pháp lý. Công ty cũng kết hợp nội dung từ Instagram và Facebook vào chương trình đào tạo người mẫu của mình, khiến người dùng khó từ chối. Meta đang phải đối mặt với nhiều vụ kiện, trong đó có vụ kiện từ các tác giả như Sarah Silverman, người cho rằng công ty đã sử dụng tài liệu có bản quyền mà không được phép.

Một điều quan trọng cần cân nhắc là lập trình, vì Llama có thể tạo ra mã có lỗi hoặc không an toàn. Điều quan trọng là các nhà phát triển phải có chuyên gia con người xem xét mọi mã do AI tạo ra trước khi triển khai mã đó trong ứng dụng của họ.

Mặc dù mô hình Llama của Meta mang lại sự linh hoạt và cơ hội đáng kể cho các nhà phát triển, nhưng điều quan trọng là phải nhận ra những rủi ro và hạn chế tiềm ẩn đi kèm với nó.

–

_Được Học viện Code Labs – Hàng đầu của bạn mang đến cho bạn_ [_Online Coding Bootcamp_](/) _dành cho những Nhà đổi mới công nghệ tương lai._



###### Nguồn hình ảnh: Meta

thumbnail_Llama-Use-Case_Header_16x9-1.webp

Llama-Use-Case_Header_16x9-1.webp

Meta Llama là gì? Cái nhìn toàn diện về Mô hình AI mở dành cho nhà phát triển

###### Ngày 17 tháng 9 năm 2024

Khi vẫn còn là sinh viên khoa học máy tính tại Đại học Waterloo, Jacob Jackson đã đồng sáng lập [Tabnine](https://www.tabnine.com/get-free-90-day-trial/?utm_term=tabnine\&utm_campaign=%5BUS%5D+%7C+%5Ben%5D+%7C+%5Bdesktop%5D+%7C+%5BTìmkiếm:Thươnghiệu%5D+%7C+%5BTabnine%5D\&utm_source=adwords\&utm_medium=ppc\&hsa_acc=4311736126\&hsa_cam=21073527735\&hsa_grp=159292934283\&hsa_ad=713438295758\&hsa_src=g\&hsa_tgt=kwd-915660947489\&hsa_kw=tabnine\&hsa_mt=e\&hsa_net=adwords\&hsa_ver=3\&gad_source=1\&gclid=CjwKCAjw0aS3BhA3EiwAKaD2ZSi_B04PfNmu2pEw62uZL71RUlGpSu2J1k_0CDSFuIosfG5tgV4fVRoCod8QAvD_BwE), một công ty trợ lý mã hóa AI, bắt đầu sự nghiệp của mình trong lĩnh vực AI từ rất sớm . Vào năm 2019, khi Jackson đang hoàn thành kỳ thi cuối kỳ, Tabnine đã huy động được khoảng 60 triệu USD vốn đầu tư mạo hiểm và được bán cho Codata. Sau đó, anh bắt đầu làm thực tập sinh tại [OpenAI](https://openai.com/) cho đến năm 2022, khi anh đưa ra quyết định thành lập một công ty mới nhằm cải thiện quy trình làm việc của nhà phát triển.

Jackson đã phát triển [Supermaven](https://supermaven.com/), một nền tảng mã hóa AI mở rộng trải nghiệm của anh ấy với Tabnine nhưng có những cải tiến lớn về công nghệ, nhờ nguồn cảm hứng từ sự phát triển công cụ AI như ChatGPT và GitHub Copilot. Babble, mô hình AI nội bộ của Supermaven, có cửa sổ bật lên chứa hàng triệu mã thông báo cho phép nó phân tích nhiều mã cùng một lúc. Điều này làm cho mô hình trở nên đáng tin cậy hơn trong việc tạo ra mã chính xác bằng cách cho phép nó xử lý các đầu vào lớn mà không “quên” dữ liệu gần đây hoặc lạc khỏi chủ đề.

Supermaven sánh ngang với các đối thủ cạnh tranh như Code Assist của Google với 1 triệu [mã thông báo](https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them), bất chấp thực tế là rằng một số nền tảng mã hóa AI, như Magic, cung cấp cửa sổ bật lên lớn hơn đáng kể (Magic hỗ trợ 100 triệu mã thông báo). Theo Jackson, điểm bán hàng độc đáo của Supermaven là độ trễ giảm xuống nhờ kiến ​​trúc thần kinh bên trong đầy sáng tạo. Ngoài ra, nền tảng này chỉ mất 10-20 giây để xử lý kho lưu trữ mã của nhà phát triển, tìm hiểu các quy tắc mã hóa và API để có thể tiếp tục chạy nhanh chóng, ngay cả với cơ sở mã lớn.

Thị trường công cụ mã hóa AI dự kiến ​​sẽ phát triển nhanh chóng và đạt 27,17 tỷ USD vào năm 2032, [theo dự báo](https://www.Polarismarketresearch.com/press-releases/ai-code-tools-market). Hơn 1,8 triệu người dùng GitHub Copilot nằm trong số nhiều nhà phát triển đã tích hợp AI vào quy trình của họ. Tuy nhiên, lĩnh vực này còn nhiều trở ngại cần vượt qua, đặc biệt là liên quan đến sở hữu trí tuệ và quyền riêng tư dữ liệu. Sợ lộ mã PIN, nhiều công ty ngần ngại sử dụng công cụ mã hóa AI. Ngoài ra, mã có bản quyền được cho là đã bị các mô hình AI lấy lại trong một số trường hợp, khiến các nhà phát triển gặp nguy hiểm về mặt pháp lý nếu họ đưa nó vào công việc của mình mà không nhận ra. .

Jackson nhấn mạnh [trong cuộc nói chuyện với Techcrunch](https://techcrunch.com/2024/09/16/ai-coding-assistant-supermaven-raises-cash-from-openai-and-perplexity-founders/) rằng trong khi Supermaven lưu giữ dữ liệu trong một thời gian ngắn để tối đa hóa hiệu suất hệ thống, nó không sử dụng dữ liệu của người tiêu dùng để xây dựng mô hình của mình. Giảm khả năng tiếp xúc với nội dung nguy hiểm trong quá trình đào tạo, ông nhấn mạnh rằng trọng tâm là mã có thể truy cập công khai, nhưng ông không loại trừ hoàn toàn khả năng Babble sẽ được dạy về mã được bảo vệ IP.

Supermaven đã trở nên phổ biến đáng kể bất chấp những trở ngại này, với hơn 35.000 nhà phát triển sử dụng nền tảng này. Kể từ khi công ty ra mắt vào tháng 2, số lượng người dùng của công ty đã tăng gấp ba lần và nhiều khách hàng trong số đó đang đăng ký các gói trả phí. Doanh thu định kỳ hàng năm của công ty đạt 1 triệu USD.

Do sự thành công của nền tảng này, các nhà đầu tư đang lưu ý. Gần đây, Supermaven tiết lộ rằng công ty đã hoàn thành vòng đầu tư bên ngoài đầu tiên, huy động được 12 triệu USD từ các nhà đầu tư thiên thần và Đối tác liên doanh Bessemer, bao gồm những người đồng sáng lập Perplexity và OpenAI, John Schulman và Denis Yarats. Số tiền này sẽ được sử dụng để cải thiện trình soạn thảo văn bản của Supermaven, hiện đang trong giai đoạn thử nghiệm và thuê thêm nhà phát triển, giúp công ty đạt được thành công lâu dài trong lĩnh vực mã hóa máy tính AI đang phát triển nhanh chóng.

thumbnail_charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

charlesdeluvio-pjAH2Ax4uWk-unsplash (1) (1).webp

Supermaven nhận được sự hỗ trợ của nhà đầu tư: Công cụ AI tối ưu hóa quy trình làm việc của nhà phát triển

###### Ngày 13 tháng 9 năm 2024



Meta đang [đang cập nhật](https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/) cách tiếp cận của mình để gắn nhãn nội dung có đã được chỉnh sửa hoặc sửa đổi bởi các công cụ AI trên Instagram, Facebook và Threads. Nhãn “AI Insights”, trước đây xuất hiện ngay bên dưới tên người dùng, giờ đây sẽ chuyển sang menu bài đăng cho nội dung đã được sửa đổi bằng AI.

Công ty cho biết nhãn này sẽ tiếp tục xuất hiện trên nội dung mà Meta xác định là hoàn toàn do AI tạo ra. Mặc dù nhãn có thể ít hiển thị hơn trên nội dung đã được chỉnh sửa bằng công cụ AI nhưng nó vẫn sẽ hiển thị rõ ràng trên nội dung được tạo hoàn toàn bằng đầu vào AI.

Meta đã thông báo rằng họ sẽ cung cấp thông tin về việc nội dung có được gắn nhãn dựa trên các tín hiệu tiêu chuẩn ngành hay tiết lộ của người dùng hay không. Thay đổi này sẽ được triển khai vào tuần tới nhằm mục đích “phản ánh tốt hơn phạm vi AI được sử dụng trong nội dung” trên tất cả các nền tảng của nó.

Bằng cách giảm sự nổi bật của nhãn thông tin AI, có lo ngại rằng người dùng có thể dễ dàng bị đánh lừa hơn bởi nội dung do AI chỉnh sửa, đặc biệt khi các công cụ chỉnh sửa ngày càng trở nên tinh vi.

Đây không phải là lần đầu tiên Meta thay đổi cách gắn nhãn nội dung liên quan đến AI. Vào tháng 7, công ty đã thay đổi nhãn từ “Được tạo bằng AI” thành “Thông tin từ AI” sau khi nhận được khiếu nại từ các nhiếp ảnh gia cho rằng nhãn này được áp dụng không chính xác cho ảnh thật. Meta thừa nhận rằng cách diễn đạt ban đầu khó hiểu và có thể được hiểu theo nghĩa là một số hình ảnh nhất định hoàn toàn do AI tạo ra, ngay cả khi chúng chỉ được chỉnh sửa bằng các công cụ AI.

—

_Được Học viện Code Labs – Hàng đầu của bạn mang đến cho bạn_ [_Online Coding Bootcamp_](/) _dành cho những Nhà đổi mới công nghệ tương lai._



###### Nguồn hình ảnh: Meta

thumbnail_meta-ai-web.webp

meta-ai-web.webp

Ghi nhãn AI thay đổi meta trên nền tảng xã hội cho nội dung được chỉnh sửa và do AI tạo

###### Ngày 13 tháng 9 năm 2024

Mặc dù có nhiều ý kiến ​​​​về việc công ty nhân sự mới của Rajeev Behera, [Every](https://www.every.io/), là một dự án mạo hiểm có rủi ro cao hay một ý tưởng tuyệt vời, nhưng công ty khởi nghiệp này đang tạo nên làn sóng. Đối với các công ty nhỏ, nền tảng tất cả trong một tích hợp quản lý bảng lương, giới thiệu và chi tiêu. Thị trường này đã quá đông đúc với những công ty đã thành danh như Gusto, Rippling và Deel cũng như các công ty mới nổi như Mercury và Brex. Tuy nhiên, những người ủng hộ Behera dường như chắc chắn rằng chiến lược của ông là độc nhất. Gần đây, Every đã huy động được 22,5 triệu USD trong vòng gây quỹ Series A do Okta Ventures, Base10 Partners, Y Combinator và Redpoint Ventures đứng đầu.

Sự nhấn mạnh của Behera vào các công ty ở giai đoạn đầu và chiến lược chào bán đặc biệt là những điều tạo nên sự khác biệt cho tầm nhìn của ông. Every cung cấp dịch vụ thành lập công ty miễn phí cho các công ty nhỏ, sau đó họ thiết lập tài khoản ngân hàng cho doanh nghiệp và cung cấp hỗ trợ quan trọng tại văn phòng. Phí trao đổi và phí SaaS cho các mô-đun bổ sung như kế toán tạo ra doanh thu.

[Behera giải thích](https://techcrunch.com/2024/09/12/why-y-combinator-companies-are-flocking-to-new-banking-hr-startup-every/) rằng Every đã phát triển các công cụ tiên tiến cho việc trả lương, ngân hàng và quản lý chi phí. Để thu hút những người sáng lập sớm, họ hiện đang cung cấp dịch vụ thành lập công ty miễn phí. Sau khi tham gia phiên được cá nhân hóa, các công ty khởi nghiệp có quyền truy cập vào hệ thống toàn diện bao gồm ngân hàng, bảng lương, nhân sự, sổ sách kế toán, thuế và tuân thủ nhà nước. Ngoài ra, những người sáng lập được hưởng lợi từ kênh Slack chuyên dụng nơi họ có thể kết nối và chia sẻ thông tin chuyên sâu với các doanh nhân khác.

Sau khi hoàn tất việc hợp nhất bằng Every, khách hàng thường gắn bó với nó thay vì sử dụng nền tảng của đối thủ cạnh tranh như Rippling. Với các công cụ nhằm thúc đẩy sự phát triển của họ trong 5 năm đầu tiên, Every tập trung vào các công ty có dưới 200 người.

Cách tiếp cận của Behera độc đáo ở chỗ anh dự đoán những khách hàng mang lại lợi nhuận cao nhất của mình cuối cùng sẽ yêu cầu nhiều dịch vụ hơn từ Every—ít nhất là cho đến khi Every phát triển thành một công ty công nghệ tài chính ở giai đoạn tăng trưởng có thể hỗ trợ các công ty lớn hơn.

Mối quan hệ của Behera với [Y Combinator](https://www.ycombinator.com/) (YC) là một phần quan trọng trong sự phát triển của Mọi người. Behera, một doanh nhân giàu kinh nghiệm, đã sử dụng mạng của máy gia tốc và mọi người đều là thành viên của nhóm thuần tập Mùa hè năm 2023 của YC. Reflektive, nỗ lực kinh doanh trước đây của ông, đã được mua vào năm 2021 sau đợt huy động vốn hơn 100 triệu USD. Ngoài ra, cố vấn YC Surbhi Sarna, vợ ông, cũng là một doanh nhân thành đạt. Vì điều này, khoảng một nửa số khách hàng của Every đến từ mạng lưới khởi nghiệp rộng khắp của YC.

Mặc dù Rippling, Gusto và Deel—ba công ty khởi nghiệp khác được YC hậu thuẫn—cạnh tranh với họ, mối quan hệ chặt chẽ của Every với hệ sinh thái YC là một lợi thế đáng kể. Điều này đã thu hút các nhà đầu tư, cùng với cách tiếp cận thực tế của Behera để tạo ra các thành phần của nền tảng ngay từ đầu.

Behera đã thuê thêm nhân viên sau khi đích thân giám sát việc bán hàng, hỗ trợ và thiết kế sản phẩm cho 50 khách hàng đầu tiên của doanh nghiệp, với sự giúp đỡ của Alex Bard của Redpoint, người giám sát vòng gây quỹ Series A. Sau khi đọc những lời chứng thực tích cực từ các công ty đã sử dụng Every, các nhà đầu tư mạo hiểm khác cũng làm như vậy.

Trong vòng chưa đầy hai tuần, số tiền Series A đã được đảm bảo mà Behera không cần tích cực tìm kiếm nhà đầu tư mới. Mặc dù giá trị của công ty không được công khai nhưng ước tính nó ở mức 112,5 triệu USD. Khoản tài trợ bổ sung sẽ được sử dụng để hỗ trợ các dịch vụ thành lập và giới thiệu miễn phí đang thúc đẩy thành công ban đầu của Every, cũng như để phát triển đội ngũ kỹ sư, hiện có khoảng 20 người.

Meta Llama là gì? Cái nhìn toàn diện về Mô hình AI mở dành cho nhà phát triển

Supermaven nhận được sự hỗ trợ của nhà đầu tư: Công cụ AI tối ưu hóa quy trình làm việc của nhà phát triển

Ghi nhãn AI thay đổi meta trên nền tảng xã hội cho nội dung được chỉnh sửa và do AI tạo

Công ty khởi nghiệp nhân sự mỗi công ty đều đảm bảo nguồn tài trợ Series A trị giá 22,5 triệu đô la và mở rộng đội ngũ kỹ thuật chỉ sau hai tuần