gpt-oss-20b ra mắt ngày 05/08/2025 cùng gpt-oss-120b, dưới giấy phép Apache 2.0. Model hướng tới suy luận cục bộ, thiết bị biên và thử nghiệm nhanh khi tài nguyên hạn chế. Mở trọng số cho phép chủ động triển khai, nhưng không đồng nghĩa miễn phí vận hành hoặc công bố toàn bộ dữ liệu huấn luyện.
21 tỷ tham số tổng, 3,6 tỷ hoạt động
Theo công bố OpenAI, kiến trúc Transformer mixture-of-experts có 21 tỷ tham số tổng và kích hoạt 3,6 tỷ mỗi token. Tên 20b là nhãn model, không phải con số chính xác. Giảm tham số hoạt động giúp giảm tính toán, nhưng không có nghĩa chỉ cần lưu phần tham số hoạt động trong bộ nhớ.
Model hỗ trợ ngữ cảnh tới 128k. Dữ liệu huấn luyện chủ yếu bằng tiếng Anh và chỉ văn bản, tập trung STEM, lập trình và kiến thức chung. Đây không phải model nhận ảnh hoặc âm thanh; khả năng đa phương thức của các sản phẩm OpenAI khác không tự chuyển sang gpt-oss.
Mốc 16 GB cần đọc đúng
OpenAI nêu model có thể chạy trên thiết bị với 16 GB bộ nhớ. Không nên biến mốc đó thành bảo đảm mọi backend, ngữ cảnh 128k và nhiều phiên đồng thời đều vừa. Bộ đệm ngữ cảnh, phần mềm phục vụ và cấu hình biểu diễn trọng số ảnh hưởng bộ nhớ thực tế.
Khả năng nạp model khác với khả năng đáp ứng ứng dụng ở tốc độ chấp nhận được. Người triển khai cần đo độ trễ, thông lượng và bộ nhớ tại độ dài đầu vào thực, thay vì chọn chỉ theo dung lượng ghi trên thiết bị.
So với o3-mini và bản 120b
Hãng mô tả kết quả tương tự o3-mini trên các benchmark thông dụng, có một số đánh giá toán và sức khỏe tốt hơn. Đây là so sánh trong phạm vi đánh giá công bố, không có nghĩa ngang bằng mọi tác vụ hoặc đủ an toàn để tự ra quyết định y khoa.
gpt-oss-120b có tổng tham số và yêu cầu phần cứng khác. Cả hai hỗ trợ low, medium và high reasoning effort. So chất lượng cần giữ điều kiện công cụ và ngân sách suy luận; nhãn nhỏ hơn không chứng minh luôn nhanh hơn ở mọi hệ thống phục vụ.
Chi phí tự chạy không bằng không
Apache 2.0 cho phép sử dụng và tùy chỉnh theo điều khoản giấy phép. Chi phí thực vẫn gồm thiết bị, điện, bộ nhớ, lưu trữ và vận hành. Không suy đơn giá mỗi yêu cầu từ số tham số, cũng không gán giá API o3-mini cho model mở trọng số.
Chạy cục bộ có thể giảm phụ thuộc nhà cung cấp và hỗ trợ kiểm soát dữ liệu, nhưng nhật ký và công cụ bên ngoài vẫn cần quản lý. Một model chạy trong mạng riêng không tự bảo đảm mọi dữ liệu ở lại mạng riêng.
Công cụ và an toàn thuộc cả hệ thống
Model được thiết kế cho gọi hàm và đầu ra có cấu trúc; ứng dụng phải cung cấp công cụ, thực thi và kiểm tra kết quả. Trọng số không tự mang quyền tìm web hay chạy Python. Fine-tune cũng có thể thay đổi hành vi an toàn so với bản gốc.
OpenAI cảnh báo không hiển thị trực tiếp chuỗi suy luận vì có thể chứa nội dung sai hoặc có hại. Khả năng quan sát nội bộ hữu ích cho nghiên cứu không thay thế kiểm chứng câu trả lời cuối. Lựa chọn 20b hợp lý khi chất lượng đủ cho dữ liệu đại diện và lợi ích triển khai cục bộ vượt chi phí quản trị.
Nguồn: OpenAI, Introducing gpt-oss, 05/08/2025.
Tác giả
Chăm Sóc Khách Hàng
