Google ra mắt hai hệ thống TPU mới cho kỷ nguyên AI tự hành

Ngày 9/11/2026, Google công bố hai hệ thống tăng tốc AI mới là TPU 8tx và TPU 8i Max trên blog chính thức của hãng. Đây là lần đầu tiên Google giới thiệu bốn hệ thống TPU trong cùng một năm, sau khi TPU 8t và TPU 8i ra mắt tại Google Cloud Next hồi tháng 4. Cả hai hệ thống mới đều là cấu hình chuyên biệt xây dựng từ nền tảng silicon đã có, thay vì chip hoàn toàn mới, và hướng tới các doanh nghiệp đang đưa tác nhân AI tự hành vào vận hành thực tế.

Bốn hệ thống TPU trong một năm có ý nghĩa gì?

Thế hệ TPU thứ 8 của Google khởi đầu vào tháng 4/2026 với hai hệ thống: TPU 8t chuyên huấn luyện mô hình nền tảng quy mô lớn và TPU 8i chuyên suy luận thời gian thực. Theo Google, hai hệ thống này mang lại hiệu năng huấn luyện tốt hơn tới 2,7 lần và hiệu năng suy luận trên giá tốt hơn 80% so với thế hệ TPU trước đó.

Cách phân vai khá rõ ràng: TPU 8t lo huấn luyện quy mô lớn, TPU 8i lo suy luận độ trễ thấp, TPU 8tx lo tính toán bảo mật, còn TPU 8i Max lo ngữ cảnh khổng lồ và mật độ tính toán cao nhất trên mỗi rack máy chủ. Google cho biết TPU hiện phục vụ gần 100 khách hàng, gồm các phòng thí nghiệm AI hàng đầu, công ty giao dịch tài chính, nhà bán lẻ và trường đại học. Động thái này cho thấy Google đang đẩy nhanh việc bán chip AI tự thiết kế ra bên ngoài, thay vì chỉ dùng cho nội bộ, cạnh tranh trực tiếp với NVIDIA ở phân khúc chip AI cho trung tâm dữ liệu.

TPU 8tx bảo vệ dữ liệu nhạy cảm như thế nào?

Điểm đáng chú ý nhất của TPU 8tx nằm ở cách nó xử lý dữ liệu nhạy cảm.

Thông thường, dữ liệu được mã hóa khi lưu trữ hoặc truyền qua mạng, nhưng lại phải giải mã trong bộ nhớ khi máy tính xử lý. Khoảnh khắc dữ liệu “trần trụi” trong bộ nhớ chính là lúc nó dễ bị đánh cắp nhất, đặc biệt với các tổ chức tài chính, y tế hay cơ quan nhà nước.

TPU 8tx xây bảo mật ngay trong lớp phần cứng: dùng cùng silicon với TPU 8t, kết hợp CPU chủ AMD EPYC thế hệ 5, giữ dữ liệu nhạy cảm và trọng số mô hình được bảo vệ, cô lập ngay cả khi đang sử dụng. AMD xác nhận đây là hệ thống TPU đám mây đầu tiên có tính toán bảo mật ép buộc bằng phần cứng. Nhờ mạng Boardfly độ trễ thấp từ TPU 8i, TPU 8tx đạt độ trễ thấp hơn tới 2 lần so với TPU 8t mà gần như không đánh đổi hiệu năng.

Đối tượng mà Google nhắm tới rất cụ thể: doanh nghiệp chịu quản lý chặt chẽ và cơ quan chính phủ đang chạy các mô hình độc quyền cùng tác nhân tự hành trên dữ liệu nhạy cảm nhất của họ. Việc ghép sức mạnh tính toán cấp huấn luyện với mạng suy luận tốc độ cao còn cho phép vừa chạy vừa tùy biến mô hình trên cùng một hệ thống, từ tinh chỉnh bằng dữ liệu riêng tới huấn luyện tác nhân bằng học tăng cường, mà không cần chuyển dữ liệu nhạy cảm giữa các cụm máy riêng biệt.

TPU 8i Max phá “bức tường bộ nhớ” ra sao?

Nếu TPU 8tx giải bài toán bảo mật thì TPU 8i Max giải bài toán bộ nhớ. Khi hàng chục tác nhân AI cùng làm việc trên toàn bộ mã nguồn của một dự án phần mềm hay nhiều giờ video cùng lúc, băng thông bộ nhớ nhanh chóng trở thành nút thắt cổ chai khiến bộ xử lý phải chờ dữ liệu.

Cách làm của Google khá trực diện: gộp hai chip TPU 8i có độ trễ thấp lên cùng một gói đóng gói duy nhất. Kết quả, theo Google, là sức mạnh tính toán gấp đôi, bộ nhớ SRAM trên chip gấp đôi và băng thông bộ nhớ HBM gấp đôi so với một chip TPU 8i đơn lẻ. Vì TPU 8i Max nhét gấp đôi silicon vào cùng diện tích rack hiện có, trung tâm dữ liệu có thể triển khai nhiều sức mạnh tính toán hơn đáng kể trên mỗi mét vuông sàn và mỗi watt điện. Đây là mảnh ghép dành cho tác vụ cần cửa sổ ngữ cảnh khổng lồ, nơi mô hình phải “nhớ” và suy luận trên hàng triệu token cùng lúc, và giới hạn bộ nhớ thường quyết định khả năng thực tế của hệ thống nhiều hơn sức mạnh tính toán thô.

Phần mềm mở rộng và những gì Google chưa công bố

Đi cùng phần cứng, Google công bố một loạt cập nhật phần mềm nhằm hạ rào cản dùng TPU. Tháng trước, hãng mã nguồn mở TorchTPU để mã PyTorch và các mô hình Hugging Face chạy trực tiếp trên TPU mà không cần viết lại, cùng với backend sẵn có cho các engine suy luận mã nguồn mở như vLLM và SGLang. Bộ công cụ TPU agent suite mới, đang ở giai đoạn xem trước, cắm thẳng vào các công cụ lập trình như Claude Code, Cursor và Google Antigravity để tự động hóa việc làm quen với TPU, chẩn đoán nút thắt và tinh chỉnh kernel bằng ngôn ngữ tự nhiên.

Hai công cụ phần mềm khác cũng đáng chú ý. Agent Compute Engine tự động tạm dừng và khôi phục các phiên tác nhân đang chờ, giúp cắt giảm chi phí hạ tầng. TPU Sync, lớp trạng thái mô hình được mã nguồn mở, biến HBM trên chip, DRAM máy chủ, bộ nhớ dùng chung và mạng trung tâm dữ liệu thành một hệ thống phân cấp bộ nhớ thống nhất, giúp giảm độ trễ truyền KV cache và thời gian tới token đầu tiên hơn 90%, theo tuyên bố của Google.

Dù vậy, vẫn còn nhiều điều Google chưa công bố. Bài viết của hãng không đưa ra giá, ngày phát hành chung hay khu vực triển khai cho cả hai hệ thống mới. Theo Bloomberg, ông Amin Vahdat cho biết hai hệ thống sẽ có mặt trong năm 2027. Toàn bộ con số hiệu năng nêu trong bài, từ mức nhanh hơn 2,7 lần tới độ trễ thấp hơn 2 lần, đều là tuyên bố của chính Google và chưa có benchmark độc lập nào kiểm chứng. Độc giả doanh nghiệp vì thế nên chờ thông số đầy đủ, kết quả kiểm chứng độc lập và bảng giá chính thức trước khi đưa hai hệ thống này vào kế hoạch hạ tầng năm 2027.

Nguồn tham khảo: Google