Claude 3.5 Haiku là mô hình của Anthropic hướng tới những tác vụ cần phản hồi nhanh, từ gợi ý mã đến phân loại dữ liệu. Anthropic giới thiệu mô hình ngày 22/10/2024; đến ngày 04/11/2024, AWS xác nhận mô hình đã có trên Amazon Bedrock. Khi bắt đầu cung cấp, Claude 3.5 Haiku chỉ nhận văn bản, chưa hỗ trợ đầu vào hình ảnh. [1] [2]
Năng lực và giới hạn khi ra mắt
Theo AWS, Claude 3.5 Haiku cải thiện khả năng làm theo chỉ dẫn và sử dụng công cụ so với thế hệ trước. Những ứng dụng được nền tảng này nêu gồm gợi ý mã, chatbot chăm sóc khách hàng, phân loại dữ liệu phi cấu trúc và tác vụ phụ trợ cho hệ thống nhiều agent. [2]
Anthropic cho biết mô hình đạt hoặc vượt Claude 3 Opus trên nhiều phép đánh giá, với tốc độ tương tự thế hệ Haiku trước. Đây là kết quả do nhà cung cấp công bố, không có nghĩa Haiku 3.5 tốt hơn Opus trong mọi công việc. Độ chính xác khi trích xuất dữ liệu, tỷ lệ gọi công cụ đúng và độ trễ thực tế vẫn cần được đo trên tác vụ cụ thể. [1]
Giới hạn đáng chú ý ở bản ra mắt là chỉ xử lý đầu vào văn bản. AWS khi đó nói hỗ trợ ảnh sẽ được bổ sung sau; không nên đọc lời hẹn này như một tính năng đã có. Cũng cần phân biệt tool use với computer use: thông cáo tháng 10 giới thiệu computer use beta cho Claude 3.5 Sonnet, không phải một cam kết tương đương cho Haiku. [2] [1]
Truy cập và giá API lịch sử
Thông cáo ngày 22/10 dự kiến phát hành Haiku mới vào cuối tháng. Thực tế, thông báo AWS ghi rõ ngày 04/11/2024, với khả dụng tại vùng US West (Oregon) và tại US East (N. Virginia) thông qua suy luận liên vùng. Cùng ngày, TechCrunch xác nhận khả dụng qua API Anthropic và các nền tảng bên thứ ba, trong đó có Bedrock. [2] [3]
Giá API tại ngày ra mắt được TechCrunch ghi nhận là 1 USD cho mỗi triệu token đầu vào và 5 USD cho mỗi triệu token đầu ra. Đó là giá lịch sử tháng 11/2024, không phải bảng giá hiện hành. [3]
Ngày 03/12/2024, Anthropic cập nhật thông cáo: mức giá mới là 0,80 USD cho mỗi triệu token đầu vào và 4 USD cho mỗi triệu token đầu ra. Vì trang công bố đã được cập nhật, lấy mức 0,80/4 USD để mô tả đúng ngày ra mắt sẽ làm sai mốc thời gian. [1]
Khi nào Haiku 3.5 là lựa chọn phù hợp?
Với bài toán văn bản khối lượng lớn, Haiku 3.5 là một ứng viên để đánh giá cho phân loại, trích xuất hoặc trả lời ngắn. Khi chọn mô hình, nên tính cả token đầu vào và đầu ra, số lần phải gọi lại do câu trả lời sai, cùng thời gian kiểm tra của con người. Giá token thấp hơn chưa chắc tạo ra chi phí hoàn thành tác vụ thấp hơn.
Nếu quy trình cần đọc ảnh, không thể dùng thông tin về bản ra mắt để mặc định Haiku 3.5 đáp ứng được yêu cầu đó. Tương tự, lịch sử giá và ngày khả dụng trong bài không xác nhận mô hình còn được cung cấp ở cùng mức giá hiện nay. Hãy kiểm tra danh mục và bảng giá của nền tảng trước khi tích hợp.
Nguồn tham khảo
Tác giả
Chăm Sóc Khách Hàng
