Ngày 17 tháng 9 năm 2024
Meta, giống như nhiều công ty công nghệ hàng đầu khác, đã phát triển mô hình AI tổng quát của riêng mình có tên là Llama. Điều khiến Llama trở nên khác biệt là tính chất mở của nó, cho phép các nhà phát triển tải xuống và sử dụng nó một cách tự do đáng kể, mặc dù có một số điều kiện cần lưu ý. Cách tiếp cận này trái ngược với các mô hình như Claude của Anthropic, GPT-4o của OpenAI (công cụ đằng sau ChatGPT) và Gemini của Google, chỉ khả dụng thông qua API.
Để giúp các nhà phát triển linh hoạt hơn, Meta đã hợp tác với các nhà cung cấp dịch vụ đám mây như AWS, Google Cloud và Microsoft Azure để cung cấp các phiên bản Llama được lưu trữ trên đám mây. Ngoài ra, Meta đã xây dựng các công cụ giúp đơn giản hóa quy trình để các nhà phát triển tinh chỉnh và điều chỉnh mô hình để đáp ứng các yêu cầu cụ thể của họ.
Dưới đây là mô tả chi tiết về Llama, bao gồm những gì nó có thể làm, các phiên bản khác nhau mà nó cung cấp và cách bạn có thể sử dụng nó một cách hiệu quả.
Llama là gì?
Llama không chỉ đơn thuần là một hình mẫu; nó bao gồm một loạt các mô hình, chẳng hạn như:
-
Lâm 8B
-
Lâm 70B
-
Lạc đà 405B
Các phiên bản mới nhất (Llama 3.1 8B, Llama 3.1 70B và Llama 3.1 405B) được phát hành vào tháng 7 năm 2024. Các mô hình này được đào tạo trên nhiều nguồn dữ liệu, chẳng hạn như các trang web bằng nhiều ngôn ngữ khác nhau, mã công khai, các tệp có sẵn trực tuyến và dữ liệu tổng hợp do các hệ thống AI khác tạo ra.
Llama 3.1 8B và 70B là những model nhỏ gọn có thể chạy nhiều loại thiết bị từ máy tính xách tay đến máy chủ. Mặt khác, Llama 3.1 405B là mô hình quy mô lớn thường yêu cầu phần cứng trung tâm dữ liệu. Mặc dù các mẫu nhỏ hơn có thể không mạnh bằng 405B nhưng chúng mang lại hiệu suất nhanh hơn và được tối ưu hóa để giảm độ trễ và dung lượng lưu trữ.
Tất cả các mô hình Llama đều có cửa sổ ngữ cảnh gồm 128.000 mã thông báo, cho phép chúng xử lý khoảng 100.000 từ (hoặc 300 trang văn bản). Đây gần bằng độ dài của những cuốn sách như Đồi gió hú hay Harry Potter và Tù nhân ngục Azkaban. Cửa sổ ngữ cảnh dài giúp mô hình lưu giữ thông tin từ các tài liệu và dữ liệu gần đây, giảm nguy cơ lạc đề.
Llama có thể làm gì?
Giống như các mô hình AI tổng quát khác, Llama có thể trợ giúp thực hiện nhiều nhiệm vụ khác nhau, chẳng hạn như viết mã, trả lời các câu hỏi toán học đơn giản và tóm tắt tài liệu bằng 8 ngôn ngữ: tiếng Anh, tiếng Đức, tiếng Pháp, tiếng Ý, tiếng Bồ Đào Nha, tiếng Hindi, tiếng Tây Ban Nha và tiếng Thái. Nó có thể xử lý hầu hết các tác vụ dựa trên văn bản, chẳng hạn như phân tích các tệp như PDF và bảng tính, nhưng hiện tại nó không có khả năng tạo hoặc xử lý hình ảnh – điều này có thể thay đổi trong tương lai.
Mô hình Llama có thể tích hợp với các ứng dụng, công cụ và API của bên thứ ba để thực hiện nhiều tác vụ khác nhau. Chúng được định cấu hình để sử dụng Brave Search để trả lời các câu hỏi về các sự kiện hiện tại, API Wolfram Alpha cho các truy vấn toán học và khoa học cũng như trình thông dịch Python để xác thực mã. Theo Meta, Llama 3.1 thậm chí có thể sử dụng một số công cụ mà nó chưa được đào tạo rõ ràng, mặc dù độ tin cậy của tính năng này vẫn chưa chắc chắn.
Bạn có thể sử dụng Llama ở đâu?
Nếu bạn muốn kết nối trực tiếp với Llama, trải nghiệm chatbot Meta AI được hỗ trợ trên các nền tảng như Facebook Messenger, WhatsApp, Instagram, Oculus và Meta.ai.
Đối với các nhà phát triển, Llama có sẵn để tải xuống và có thể mở rộng quy mô sang một số nền tảng đám mây phổ biến. Meta đã hợp tác với hơn 25 công ty để tổ chức Llama, bao gồm Nvidia, Databricks, Groq, Dell và Snowflake. Nhiều đối tác trong số này cung cấp các công cụ bổ sung cho phép Llama truy cập dữ liệu độc quyền hoặc hoạt động hiệu quả hơn.
Meta đề xuất sử dụng các mô hình Llama nhỏ hơn, cụ thể là 8B và 70B, cho các mục đích chung như chạy chatbot hoặc tạo mã. Mặt khác, Llama 405B lớn hơn sẽ phù hợp hơn cho các nhiệm vụ như chắt lọc mô hình, bao gồm việc chuyển kiến thức từ mô hình lớn hơn sang mô hình nhỏ hơn, cũng như tạo ra dữ liệu tổng hợp để huấn luyện các mô hình khác.
Các nhà phát triển vận hành các ứng dụng có hơn 700 triệu người dùng hàng tháng phải có giấy phép đặc biệt từ Meta để truy cập Llama và điều này sẽ được cấp theo quyết định riêng của Meta.
Meta cung cấp những công cụ gì cho Llama?
Meta đã giới thiệu một số công cụ để cải thiện tính bảo mật của Llama:
-
Llama Guard: Khung kiểm duyệt xác định nội dung có vấn đề như lời nói căm thù, hành vi tự làm hại bản thân và vi phạm bản quyền.
-
Prompt Guard: Một công cụ được thiết kế đặc biệt để bảo vệ Llama khỏi các tin nhắn có hại tìm cách vượt qua các biện pháp bảo mật của nó.
-
CyberSecEval: Bộ đánh giá rủi ro an ninh mạng giúp đánh giá mức độ bảo mật của mô hình, tập trung vào các mối đe dọa như kỹ nghệ xã hội tự động và các hoạt động tấn công mạng.
Ví dụ: Llama Guard có thể phát hiện nội dung có hại hoặc bất hợp pháp được nhập hoặc tạo vào Llama, cho phép nhà phát triển tùy chỉnh danh mục nào bị chặn. Nhắc bảo vệ tập trung vào việc bảo vệ chống lại "các cuộc tấn công tiêm tin nhắn" cố gắng thao túng mô hình. CyberSecEval cung cấp điểm chuẩn để đánh giá rủi ro bảo mật liên quan đến mô hình Llama.
Hạn chế của Llama
Llama, giống như các mô hình AI khác, có những hạn chế và rủi ro tiềm ẩn. Một trong những mối quan tâm chính là liệu Meta có sử dụng tài liệu có bản quyền để đào tạo Llama hay không. Nếu đúng như vậy, người dùng có thể phải chịu trách nhiệm pháp lý đối với mọi nội dung có bản quyền mà mô hình tạo ra.
Các báo cáo gần đây chỉ ra rằng Meta đã sử dụng sách điện tử có bản quyền để đào tạo AI, mặc dù đã nhận được cảnh báo pháp lý. Công ty cũng kết hợp nội dung từ Instagram và Facebook vào chương trình đào tạo người mẫu của mình, khiến người dùng khó từ chối. Meta đang phải đối mặt với nhiều vụ kiện, trong đó có vụ kiện từ các tác giả như Sarah Silverman, người cho rằng công ty đã sử dụng tài liệu có bản quyền mà không được phép.
Một điều quan trọng cần cân nhắc là lập trình, vì Llama có thể tạo ra mã có lỗi hoặc không an toàn. Điều quan trọng là các nhà phát triển phải có chuyên gia con người xem xét mọi mã do AI tạo ra trước khi triển khai mã đó trong ứng dụng của họ.
Mặc dù mô hình Llama của Meta mang lại sự linh hoạt và cơ hội đáng kể cho các nhà phát triển, nhưng điều quan trọng là phải nhận ra những rủi ro và hạn chế tiềm ẩn đi kèm với nó.
–
Được Học viện Code Labs – Hàng đầu của bạn mang đến cho bạn Online Coding Bootcamp dành cho những Nhà đổi mới công nghệ tương lai.