gpt-oss-safeguard-120b ra mắt ngày 29/10/2025 dưới dạng research preview. Đây là model mở trọng số chuyên phân loại an toàn theo chính sách do nhà phát triển cung cấp, không phải một lớp bảo vệ tự động bảo đảm mọi nội dung đều an toàn.
Chính sách được đưa vào lúc suy luận
Theo công bố OpenAI, model nhận đồng thời chính sách và nội dung cần phân loại: tin nhắn người dùng, câu trả lời hoặc toàn bộ hội thoại. Đầu ra gồm kết luận phân loại cùng phần giải thích. Nhà phát triển quyết định có sử dụng kết luận đó trong pipeline an toàn hay không.
Khác với cách huấn luyện bộ phân loại từ nhiều mẫu gán nhãn để học ranh giới quyết định, chính sách ở đây có thể sửa trực tiếp trong đầu vào. Điều này thuận tiện khi rủi ro thay đổi nhanh hoặc tổ chức chưa có đủ mẫu huấn luyện. Nhưng chính sách mơ hồ hoặc mâu thuẫn vẫn có thể tạo ra kết quả không nhất quán.
Fine-tune từ gpt-oss, không đồng nhất hai model
OpenAI mô tả safeguard là các bản fine-tune từ họ gpt-oss, với hai kích cỡ 120b và 20b. gpt-oss-120b là nền tảng liên quan, nhưng không thể tự chuyển toàn bộ điểm đánh giá hoặc đặc tính triển khai của bản nền sang bản chuyên phân loại. Tên 120b cũng không tự chứng minh mức chính xác trên dữ liệu riêng.
Khi nào cách tiếp cận này hữu ích?
Hãng nêu các tình huống có rủi ro mới, miền nội dung nhiều sắc thái, ít mẫu gán nhãn hoặc ưu tiên nhãn chất lượng hơn độ trễ. Ví dụ là diễn đàn trò chơi muốn nhận diện thảo luận gian lận hay trang đánh giá muốn sàng lọc nội dung có dấu hiệu giả. Phân loại theo chính sách không phải bằng chứng xác định một người thực sự gian lận.
Phần giải thích có thể hỗ trợ kiểm tra cách diễn giải chính sách, nhưng không chứng minh nhãn đúng. Cần kiểm tra cả false positive và false negative trên dữ liệu đại diện; với quyết định ảnh hưởng người dùng, nên có cơ chế xem xét và khiếu nại thay vì xử phạt chỉ dựa trên một lần gọi model.
Giấy phép và chi phí tự vận hành
Model được phát hành theo Apache 2.0 và có thể tải từ Hugging Face theo liên kết chính thức. Quyền dùng, sửa và triển khai không đồng nghĩa chi phí bằng không. Hạ tầng tính toán, lưu trữ, độ dài chính sách và số nội dung cần phân loại đều ảnh hưởng tổng chi phí.
Thông cáo được dẫn không cung cấp đơn giá API riêng để quy đổi thành giá mỗi lượt phân loại. Không suy giá từ kích cỡ 120b hoặc gán giá của model thương mại khác. Lựa chọn giữa bản lớn và bản nhỏ cần dựa trên chất lượng nhãn và độ trễ thực tế, không chỉ tên gọi.
Giới hạn của research preview
OpenAI phát hành bản xem trước để thu nhận phản hồi và tiếp tục cải thiện, phối hợp với ROOST về nhu cầu triển khai và tài liệu. Đây không phải chứng nhận tuân thủ pháp luật hay thay thế toàn bộ hệ thống kiểm duyệt. Chính sách, kiểm soát dữ liệu và trách nhiệm quyết định vẫn thuộc tổ chức sử dụng.
Nguồn: OpenAI, Introducing gpt-oss-safeguard, 29/10/2025.
Tác giả
Chăm Sóc Khách Hàng
