OpenAI vừa có một động thái bất ngờ khi phát hành các mô hình ngôn ngữ lớn (LLM) mã nguồn mở sau nhiều năm, cho phép người dùng Mac có thể chạy AI giống ChatGPT trực tiếp trên máy của mình. Điều này đồng nghĩa với việc bạn có thể tận hưởng sức mạnh của AI mà không cần đăng ký gói dịch vụ, không cần kết nối internet và đảm bảo tuyệt đối về quyền riêng tư.

gpt-oss: “Món quà” của OpenAI cho cộng đồng

Vào ngày 5 tháng 8, OpenAI đã ra mắt hai mô hình mã nguồn mở mới là gpt-oss-20b và gpt-oss-120b. Các mô hình này có thể hoạt động hiệu quả trên các máy Mac chạy chip Apple Silicon, vốn nổi tiếng với khả năng xử lý AI cục bộ.

Với mô hình gpt-oss-20b, bạn có thể thực hiện nhiều tác vụ như:

• Viết và tóm tắt văn bản.
• Trả lời các câu hỏi thông thường.
• Tạo và gỡ lỗi code.
• Hỗ trợ các công việc lập trình phức tạp.

Yêu cầu cấu hình và hiệu suất

Để chạy mô hình này một cách mượt mà, bài viết khuyến nghị cấu hình tối thiểu như sau:

• Chip: Apple Silicon M2 trở lên.
• RAM (bộ nhớ hợp nhất): Tối thiểu 16GB. Các dòng máy có chip M1 Max hoặc M1 Ultra, cùng với các dòng Mac Studio có hệ thống tản nhiệt tốt, sẽ mang lại trải nghiệm tốt nhất.

Mặc dù có thể chạy được trên MacBook Air M3 16GB, nhưng mô hình sẽ làm máy nóng lên và tốc độ phản hồi chậm hơn so với phiên bản GPT-4o trên nền tảng đám mây. Tuy nhiên, ưu điểm lớn nhất là bạn không cần kết nối internet và dữ liệu của bạn sẽ hoàn toàn riêng tư.

Hướng dẫn cài đặt dễ dàng

Để bắt đầu, bạn cần cài đặt một trong hai công cụ sau:

• LM Studio: Một ứng dụng miễn phí với giao diện đồ họa thân thiện, dễ sử dụng cho người mới bắt đầu.
• Ollama: Một công cụ dòng lệnh nhẹ, phù hợp với các nhà phát triển và người dùng chuyên nghiệp.

Với Ollama, bạn chỉ cần thực hiện hai bước đơn giản:

1. Cài đặt Ollama từ trang web chính thức ollama.com.
2. Mở Terminal và chạy lệnh ollama run gpt-oss-20b để tải xuống và khởi chạy mô hình.

Quá trình tải xuống mô hình gpt-oss-20b có dung lượng khoảng 12GB và sẽ tự động tối ưu hóa để phù hợp với cấu hình máy của bạn.

Lợi ích của việc chạy AI cục bộ

• Bảo mật tuyệt đối: Dữ liệu của bạn không bao giờ rời khỏi thiết bị, đảm bảo quyền riêng tư.
• Miễn phí và linh hoạt: Bạn không phải trả phí thuê bao hay API, đồng thời có thể tùy chỉnh mô hình theo nhu cầu riêng.
• Không cần internet: Mô hình hoạt động hoàn toàn ngoại tuyến, rất hữu ích khi bạn làm việc ở những nơi không có kết nối mạng.

Tóm lại, mô hình gpt-oss-20b là một lựa chọn tuyệt vời cho những ai cần một công cụ AI mạnh mẽ, riêng tư và đáng tin cậy. Mặc dù tốc độ có thể chậm hơn các mô hình đám mây, nhưng sự tiện lợi và an toàn mà nó mang lại là vô giá.