gpt-oss-120b: năng lực, chi phí và giới hạn qua nguồn chính thức

gpt-oss-120b được OpenAI công bố ngày 05/08/2025, cùng gpt-oss-20b, dưới giấy phép Apache 2.0. Đây là model ngôn ngữ mở trọng số cho suy luận và sử dụng công cụ, hướng tới tổ chức muốn tự chạy hoặc tùy chỉnh trên hạ tầng riêng. Mở trọng số không đồng nghĩa toàn bộ dữ liệu và quy trình huấn luyện đều được công bố.

117 tỷ tham số tổng, 5,1 tỷ hoạt động mỗi token

Theo thông cáo OpenAI, model dùng Transformer mixture-of-experts, có 117 tỷ tham số tổng và kích hoạt 5,1 tỷ tham số mỗi token. Tên 120b là tên sản phẩm, không phải con số tham số chính xác. Số tham số hoạt động thấp giúp giảm tính toán nhưng không có nghĩa chỉ cần lưu 5,1 tỷ tham số trong bộ nhớ.

Kiến trúc dùng attention dày xen kẽ attention thưa cục bộ, grouped multi-query attention và RoPE; hỗ trợ ngữ cảnh tới 128k. Dữ liệu huấn luyện chủ yếu là tiếng Anh, chỉ văn bản, tập trung STEM, lập trình và kiến thức chung. Không nên gán năng lực nhận ảnh hoặc audio cho model chỉ vì các model OpenAI khác hỗ trợ đa phương thức.

Một GPU 80 GB không phải cam kết mọi cấu hình

OpenAI mô tả model chạy hiệu quả trên một GPU 80 GB. Đây là mốc triển khai được hãng nêu, không phải bảo đảm mọi backend, độ dài ngữ cảnh hoặc số yêu cầu đồng thời đều vừa bộ nhớ. Bộ đệm ngữ cảnh và phần mềm phục vụ còn tiêu tốn tài nguyên ngoài trọng số.

Vì vậy, khả năng nạp model và khả năng phục vụ ổn định là hai điều khác nhau. Hạ tầng thực tế cần đo bộ nhớ, độ trễ và thông lượng theo cấu hình sử dụng, thay vì lấy dung lượng GPU làm thước đo duy nhất.

So sánh benchmark phải giữ phạm vi

Hãng mô tả gpt-oss-120b gần ngang o4-mini trên các benchmark suy luận cốt lõi; một số đánh giá toán, công cụ và sức khỏe có kết quả tốt hơn. Không chuyển mô tả đó thành ngang bằng trên mọi tác vụ. HealthBench cũng không phải chứng nhận an toàn để tự chẩn đoán hay ra quyết định y khoa.

Model hỗ trợ low, medium và high reasoning effort, đánh đổi độ trễ với chất lượng. So điểm cần giữ cùng điều kiện công cụ và ngân sách suy luận; kết quả do nhà phát triển công bố chưa thay thế đánh giá trên dữ liệu riêng.

Mở trọng số thay đổi cấu trúc chi phí

Giấy phép Apache 2.0 tạo điều kiện sử dụng và tùy chỉnh theo các điều khoản của giấy phép, nhưng tự vận hành không miễn phí. Chi phí gồm GPU, bộ nhớ, điện, lưu trữ, phần mềm phục vụ và nhân sự. Không suy giá tiền mỗi yêu cầu từ số tham số hoặc gán đơn giá API của o4-mini cho model này.

Tự lưu trữ có thể hỗ trợ mục tiêu kiểm soát dữ liệu, nhưng không tự bảo đảm riêng tư. Nhật ký, quyền truy cập và các công cụ bên ngoài vẫn có thể làm dữ liệu rời hệ thống. Mở trọng số là quyền triển khai, không phải chứng nhận bảo mật.

Công cụ và an toàn vẫn cần lớp ứng dụng

Model được thiết kế cho gọi hàm và đầu ra có cấu trúc. Ứng dụng phải cung cấp công cụ và giới hạn quyền; không có sẵn quyền tìm web hay chạy Python chỉ từ trọng số. OpenAI cũng cảnh báo không hiển thị trực tiếp chuỗi suy luận cho người dùng vì có thể chứa nội dung sai hoặc có hại.

Đánh giá an toàn của hãng gồm thử fine-tune đối kháng và tham vấn chuyên gia. Kết quả trong phạm vi kiểm thử không loại bỏ rủi ro từ mọi bản tùy chỉnh. So với GPT-2, đây là mốc mở trọng số mới của dòng ngôn ngữ OpenAI, nhưng quyền kiểm soát đi kèm trách nhiệm vận hành lớn hơn.

Nguồn: OpenAI, Introducing gpt-oss, 05/08/2025; model card được liên kết trong thông cáo.