Claude 2.1 ra mắt ngày 21/11/2023, bổ sung cửa sổ ngữ cảnh 200.000 token, system prompt và tool use beta. Phiên bản này hướng đến xử lý tài liệu dài và tích hợp AI vào quy trình doanh nghiệp.[1]
Năng lực và thông số
Cửa sổ 200K token; Anthropic báo cáo tỷ lệ phát biểu sai giảm còn một nửa so với Claude 2.0 trong phép đánh giá của hãng, tỷ lệ câu trả lời sai trong đánh giá hiểu và tóm tắt tài liệu giảm 30%. Có system prompts và tool use beta.[1]
Truy cập khi ra mắt
API Console và claude.ai ở cả free/Pro; thông cáo lưu ý cửa sổ 200K dành cho Pro trên claude.ai.[1]
Giá lịch sử tại ngày ra mắt
Giá lịch sử tháng 11/2023: 8 USD/triệu token đầu vào và 24 USD/triệu token đầu ra, theo PDF được thông cáo liên kết.[2]
200K và độ trung thực: hai vấn đề khác nhau
Claude 2.1 tăng lượng thông tin đưa vào, đồng thời được đánh giá về độ trung thực. Anthropic báo cáo giảm phát biểu sai so với phiên bản trước trong phép đánh giá của hãng; điều đó không có nghĩa mọi tài liệu dài đều được hiểu đầy đủ. Thông cáo cũng thừa nhận xử lý thông điệp dài tới 200K có thể mất vài phút. Với hồ sơ tài chính, cần phân biệt dữ liệu thực tế trong nguồn với suy luận do mô hình đưa ra. System prompt giúp đặt vai trò và cấu trúc câu trả lời; tool use beta cho phép tích hợp các chức năng bên ngoài. Hai cơ chế này mở rộng cách vận hành, không tự cấp cho mô hình dữ liệu thời gian thực hoặc quyền thực hiện giao dịch.[1]
Giới hạn và lưu ý lịch sử
Tool use cần hàm/API do lập trình viên cấp, không có nghĩa mô hình tự có truy cập Internet. Tỉ lệ giảm lỗi gắn với bộ kiểm thử cụ thể.[1]
Bài viết mô tả tình trạng tại thời điểm phát hành, không khẳng định mô hình còn khả dụng hoặc còn cùng giá hiện nay. Anthropic không công bố số tham số, kiến trúc chi tiết hoặc chi phí huấn luyện trong các nguồn được dẫn.
Nguồn tham khảo
[2] Model Pricing
Tác giả
Chăm Sóc Khách Hàng
