Google mở API Decisions, chấm 1.000 câu hỏi trong một lượt

Khác với chatbot trả lời bằng văn bản, Decisions API không viết câu. Nó nhận một đầu vào đa phương thức rồi chấm điểm các phương án có sẵn, trả về xác suất và độ tin cậy cho từng lựa chọn. Google định vị công cụ này làm lớp điều khiển tốc độ thấp cho ứng dụng AI, từ định tuyến truy vấn tới kiểm tra chính sách và chấm điểm nội dung.

Decisions API khác chatbot ở điểm nào

Chatbot thông thường sinh câu trả lời từng token một, càng dài càng chậm và càng tốn kém. Gemini Decision 1 làm ngược lại: nó chấm điểm các phương án ứng viên trong một lần chạy duy nhất, không giải mã từng token, rồi trả về xác suất và điểm tin cậy cho từng đáp án. Cách làm này phù hợp với những bài toán mà đáp án đã có sẵn trong một danh sách đóng, thay vì câu hỏi mở cần diễn đạt bằng lời.

Google liệt kê bốn nhóm việc mà API này sinh ra để làm: chọn công cụ cho tác tử AI, kiểm tra chính sách, định tuyến truy vấn tới đúng mô hình và chấm điểm ngữ cảnh. Mỗi lần gọi, nhà phát triển gửi một đầu vào đa phương thức duy nhất, gồm văn bản, ảnh, âm thanh, video và PDF, tối đa 256.000 token, kèm tối đa 1.000 câu hỏi độc lập. Các định dạng có thể kết hợp trong cùng một đầu vào, ví dụ ghép bản ghi âm cuộc gọi với dữ liệu tài khoản, hay ghép đơn khiếu nại PDF đã quét với ảnh hiện trường. Với ảnh và video, nhà phát triển còn chỉnh được độ phân giải để cân bằng giữa độ chi tiết và chi phí token.

Ba kiểu câu hỏi trong một lần chạy

API hỗ trợ ba kiểu quyết định, có thể trộn lẫn trong cùng một yêu cầu. Kiểu thứ nhất là câu hỏi có hoặc không, ước tính xác suất một điều kiện có đúng hay không, kèm tiêu chí mô tả cho hai phía đúng và sai. Kiểu thứ hai là trắc nghiệm, chọn một đáp án trong 2 tới 255 phương án, trả về đáp án thắng cùng xác suất đã chuẩn hóa cho mọi ứng viên. Kiểu thứ ba là chấm điểm theo thang, đánh giá đầu vào trên một thang thứ tự bắt đầu từ 0, trả về điểm trung bình có trọng số cùng xác suất từng mức.

Mọi đáp án đều kèm điểm tin cậy từ 0 tới 1, để code tự chuyển những trường hợp mơ hồ sang phương án dự phòng hoặc cho người thật xem xét. Google minh họa bằng ví dụ kiểm tra quầy pantry trước cuộc họp: một ảnh chụp mặt quầy kèm ghi chú, API vừa trả lời có vết đổ hay không, vừa chọn hành động phù hợp trong ba phương án, vừa chấm mức độ nghiêm trọng, tất cả trong một lần gọi. Phần đầu vào chung chỉ tính phí một lần cho mỗi yêu cầu, bất kể nhà phát triển hỏi bao nhiêu câu, mỗi câu hỏi chỉ cộng thêm token của chính phần hướng dẫn và tiêu chí của nó.

Tốc độ 150–250 mili giây và giá 0,10 USD mỗi triệu token

Theo Google, độ trễ đầu cuối của API là 150–250 mili giây, trong đó thời gian tính toán của mô hình chỉ 50–100 mili giây, và con số này gần như không đổi khi số câu hỏi tăng từ 1 lên 100 trong một yêu cầu, ở ngữ cảnh tới 16.000 token. Giá là 0,10 USD cho mỗi triệu token đầu vào, tương đương khoảng 2.565 đồng theo tỉ giá khoảng 25.650 đồng/USD, và 0 USD cho token đầu ra vì mô hình không sinh văn bản.

Google cho biết API này rẻ hơn gần 5 lần so với Gemini 3.5 Flash-Lite dùng kèm Interactions API trên cùng bộ benchmark so sánh, đồng thời dẫn đầu bộ benchmark đó với sai số hiệu chuẩn thấp nhất. Đây là tuyên bố của chính Google trong bài công bố; bài viết không kèm bảng số chi tiết nên người dùng vẫn cần tự kiểm chứng trên dữ liệu của mình trước khi đưa vào hệ thống quan trọng. Ngoài ra, API có gói miễn phí trong Google AI Studio để thử nghiệm, và không phát sinh các khoản phí riêng cho phiên âm hay nhận dạng ký tự, vì mọi thứ đã nằm trong một lần chạy duy nhất.

Google đã dùng API này trong chính sản phẩm của mình

Trước khi mở cho bên ngoài, nhiều nhóm trong Google đã dùng Decisions API làm lớp điều khiển. Gemini Notebook dùng API này làm bộ định tuyến thời gian thực, chuyển truy vấn tới đúng tầng mô hình và mức suy luận phù hợp, giúp truy vấn thường ngày phản hồi nhanh hơn tới 40% trong khi vẫn giữ mô hình suy luận sâu cho bài toán khó. Công cụ thiết kế Stitch dùng API này để tạo khung sản phẩm chơi được trong vài giây và áp dụng chỉnh sửa bằng giọng nói hoặc chạm gần như ngay lập tức.

Ứng dụng CC của Google Labs dùng API này để chọn biểu tượng cảm xúc phù hợp từ bảng hơn 200 lựa chọn trong tích tắc, còn Google Search dùng nó làm lớp an toàn cho công cụ MCP, phát hiện hành vi và nội dung đối kháng. Về hệ sinh thái, API đã tích hợp với OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit và OpenCode cùng bộ SDK google-genai, còn hỗ trợ trên Google Cloud được Google hẹn trong thời gian tới. Chuỗi sản phẩm liên quan của Google cũng đang mở rộng nhanh, từ Gemini 4 Carbon ra mắt đầu tuần tới Pixel Drop tháng 11 vừa cập nhật cho dòng Pixel 10.

Cuộc đua mô hình quyết định và điều cần kiểm chứng

Google không phải người đầu tiên nhìn ra khoảng trống này. Startup TypeSafe AI ra mắt Jev từ 15/9, OpenAI mở Decisions API ngày 29/9 và bản beta công khai ngày 6/10, Microsoft tung Microsoft-Decision-1 ngày 9/10. Google vào cuộc ngày 11/11 với lợi thế tích hợp sẵn vào hệ sinh thái Gemini và mức giá thấp, nhưng cũng đối mặt với câu hỏi quen thuộc: mô hình quyết định của hãng nào hiệu chuẩn tốt nhất trên dữ liệu thật của từng doanh nghiệp.

Giới quan sát còn lưu ý sự giống nhau giữa các sản phẩm, từ ba kiểu câu hỏi tới cách đặt tên, cho thấy các hãng đang hội tụ về cùng một thiết kế. Với nhà phát triển Việt Nam, điểm cần nhớ là điểm tin cậy mà mô hình trả về chỉ có ý nghĩa khi đã hiệu chuẩn trên chính dữ liệu của mình. Một API chấm điểm nhanh và rẻ giúp tự động hóa khâu phân loại, định tuyến và kiểm duyệt, nhưng những quyết định chạm tới tiền bạc, pháp lý hay an toàn vẫn cần ngưỡng tin cậy rõ ràng và người thật ở cuối quy trình.

Nhà phát triển có thể bắt đầu ngay bằng gói miễn phí trong Google AI Studio, thử các ứng dụng demo của Google rồi đo độ trễ và độ chính xác trên dữ liệu thật của mình trước khi quyết định thay thế các bước phân loại đang chạy bằng mô hình ngôn ngữ lớn. Google chưa công bố thời điểm hỗ trợ trên Google Cloud, nên các nhóm đang chạy hạ tầng cloud của hãng cần theo dõi thêm trước khi lên kế hoạch triển khai dài hạn.

Nguồn tham khảo: Google