Microsoft đưa Maia 300 thành trụ cột suy luận AI từ năm 2027
Maia 300 dùng thiết kế chiplet, tám cụm HBM4 và rack 96 bộ tăng tốc. Microsoft dự kiến triển khai ở quy mô nhiều gigawatt từ năm 2027, nhưng các số liệu hiệu năng hiện vẫn là kết quả do hãng công bố.
Microsoft ngày 12/10 công bố Maia 300, thế hệ thứ ba của dòng bộ tăng tốc AI do hãng tự thiết kế, đồng thời đặt mục tiêu biến Maia thành hệ thống suy luận chính cho các sản phẩm và dịch vụ của mình. Các đợt triển khai Maia 300 ở quy mô sản xuất sẽ bắt đầu trong năm 2027 và được mở rộng tới nhiều gigawatt.
Thông báo đáng chú ý không chỉ vì một con chip mới. Microsoft đang chuyển Maia từ một dự án silicon tùy biến thành một lớp hạ tầng quy mô lớn, được đồng thiết kế từ chip, bộ nhớ, mạng, rack tới phần mềm. Theo hãng, Maia 200 hiện đã phục vụ Microsoft Copilot; GitHub Copilot và Microsoft Foundry dự kiến theo sau trước cuối năm 2026.
Ảnh: Microsoft.
Maia 300 được tối ưu cho suy luận, không phải một GPU đa dụng
Microsoft mô tả Maia 300 là kiến trúc “inference-first”, nhắm tới ba dạng tải đang ngày càng nặng: mô hình dùng ngữ cảnh dài, hội thoại nhạy với độ trễ và tác nhân phải thực hiện nhiều bước liên tục. Trong các tác vụ này, nút thắt không chỉ là số phép tính mà còn là lượng dữ liệu phải di chuyển giữa bộ nhớ, chip và mạng.
Thiết kế mới dùng nhiều chiplet. Phần tính toán được sản xuất trên tiến trình TSMC N2P, còn một số chức năng bộ nhớ và vào/ra được tách sang die phù hợp hơn về băng thông và chi phí. Phần mềm điều phối dataflow của Microsoft kiểm soát vị trí dữ liệu, các phép chuyển đổi định dạng và luồng truyền giữa SRAM, HBM cùng mạng nội bộ.
Mỗi bộ tăng tốc có 288 GB HBM4, băng thông bộ nhớ cực đại 18 TB/giây và công suất thiết kế 950 W. Microsoft còn bổ sung các định dạng số độ chính xác thấp, gồm biến thể MXFP4 và lưu trữ dưới 3 bit, nhằm giảm dung lượng bộ nhớ và lượng dữ liệu phải vận chuyển khi sinh từng token.
Từ một chip tới rack 167 kW và superpod 12.288 bộ tăng tốc
Đơn vị triển khai của Maia 300 không dừng ở card tăng tốc. Một rack chứa 96 bộ tăng tốc, dùng khoảng 167 kW điện, có tổng cộng 27,6 TB HBM và băng thông HBM cộng dồn 1,7 PB/giây. Mạng hai tầng có thể nối 128 rack thành một superpod tối đa 12.288 bộ tăng tốc; liên kết trong rack dùng điện, còn tầng nối giữa các rack dùng quang.
Cách công bố theo cấp rack cho thấy Microsoft đang tối ưu cho giới hạn điện và làm mát của trung tâm dữ liệu. Khi nguồn điện trở thành tài nguyên khan hiếm, chỉ số hữu ích không còn là hiệu năng đỉnh của một chip, mà là số phiên suy luận hoặc số token có thể phục vụ trong một megawatt.
Microsoft tuyên bố Maia 300 tạo ra nhiều hơn 40% token trên mỗi megawatt so với “các hệ thống GPU hàng đầu”, đồng thời một rack hoàn chỉnh có thể đạt thông lượng token gấp tối đa bảy lần Maia 200. Tuy nhiên, hãng không nêu tên hệ thống GPU dùng để so sánh và chưa có kiểm thử độc lập. Vì vậy, đây nên được đọc là mục tiêu hoặc kết quả nội bộ của nhà sản xuất, không phải một bảng xếp hạng phổ quát.
Quy mô một triệu chip cho thấy bài toán là chi phí vận hành
Reuters cho biết Microsoft có thể triển khai hơn một triệu Maia 300 trong năm 2027. Nếu kế hoạch này thành hiện thực, dòng chip nội bộ sẽ gánh một phần đáng kể lưu lượng Copilot, mô hình MAI, dịch vụ Azure và các mô hình OpenAI mà Microsoft vận hành.
Lợi ích trực tiếp là quyền kiểm soát. Một nhà cung cấp đám mây có thể điều chỉnh phần cứng theo chính workload của mình, giảm phụ thuộc vào một kiến trúc GPU duy nhất và tối ưu tổng chi phí từ silicon tới trung tâm dữ liệu. Điều đó không đồng nghĩa Microsoft ngừng mua GPU. Các nền tảng đám mây vẫn cần nhiều loại bộ tăng tốc để đáp ứng mô hình, công cụ và lựa chọn triển khai khác nhau của khách hàng.
Maia 300 vì thế nên được xem là một tầng bổ sung có quy mô lớn, chứ chưa phải sản phẩm thay thế mọi GPU. Microsoft chưa công bố giá, lịch cung cấp rộng rãi cho khách hàng Azure hay dữ liệu vận hành thực tế ở quy mô nhiều gigawatt.
Điều cần theo dõi trong năm 2027
Ba câu hỏi sẽ quyết định ý nghĩa thực tế của Maia 300. Thứ nhất là sản lượng: thiết kế chiplet và HBM4 phải được đóng gói đủ nhanh để đạt quy mô mà Microsoft nói tới. Thứ hai là phần mềm: trình biên dịch, kernel và công cụ phải giúp các mô hình mới chạy ổn định mà không tạo thêm gánh nặng chuyển đổi. Thứ ba là phép đo: hiệu quả token trên watt cần được kiểm chứng trên workload, độ trễ và chất lượng đầu ra tương đương.
Thông báo ngày 12/10 mới xác lập hướng đi và cấu hình kỹ thuật. Maia 300 chưa phải một hệ thống đã được triển khai đại trà. Nhưng việc Microsoft cam kết biến nó thành hạ tầng suy luận chính từ năm 2027 cho thấy cuộc cạnh tranh AI đang dịch chuyển: không chỉ ai có mô hình tốt hơn, mà còn ai kiểm soát được chi phí điện, bộ nhớ và mạng khi phục vụ mô hình ở quy mô toàn cầu.
