Qwen4-Max kích hoạt 71 tỷ tham số: chi phí một việc được tính ra sao?

Alibaba công bố Qwen4-Max có 2.400 tỷ tham số tổng. Số kích hoạt trên mỗi token giải thích một phần chi phí, nhưng người dùng còn phải tính các lần gọi lại.

Qwen4-Max kích hoạt 71 tỷ tham số: chi phí một việc được tính ra sao?

Alibaba công bố Qwen4-Max ngày 16/11/2026 với tổng cộng 2.400 tỷ tham số và khoảng 71 tỷ tham số được kích hoạt cho mỗi token. Theo hãng, số tham số kích hoạt thấp hơn 25% so với Qwen3.8-Max dù tổng số không đổi. Điều này minh họa cách mô hình có thể tăng hiệu quả mà không thu nhỏ toàn bộ mạng. Với người mua dịch vụ, câu hỏi quan trọng hơn là cần bao nhiêu lượt gọi để hoàn thành một việc đạt yêu cầu.

Tại sao mô hình có hai con số về kích thước?

Tham số là giá trị đã học, điều khiển cách mô hình biến dữ liệu vào thành dữ liệu ra. Trong kiến trúc hỗn hợp chuyên gia, thường gọi là MoE, một phần của mô hình được chia thành các khối. Bộ định tuyến chọn một số khối cho từng token, tức từng đơn vị được mô hình xử lý, thay vì dùng tất cả cho mọi bước. Các khối được chọn có thể khác nhau giữa các token. Cách chia này cho phép tổng số tham số lớn hơn số cần tham gia ở một lượt tính.

Thông cáo của Alibaba Cloud nêu hai con số cho Qwen4-Max và nói kiến trúc Qwen4 đưa cách thiết kế thưa vào nhiều thành phần. Số tham số kích hoạt là đặc tính của kiến trúc mà hãng công bố. Nó không bằng dung lượng bộ nhớ của máy chủ, số phép tính của cả một yêu cầu hay tốc độ mạng. Các khối khác nhau vẫn cần sẵn sàng khi được chọn và có thể nằm trên nhiều thiết bị. Việc gom yêu cầu và chuyển dữ liệu qua lại cũng ảnh hưởng thời gian xử lý.

Tại sao chi phí giảm trong bài thử của hãng không phải giá cam kết?

Reuters dẫn Alibaba nói chi phí trung bình theo tác vụ giảm khoảng 60% trong thử nghiệm nội bộ so với thế hệ trước. Phép đo đó khác mức giảm 25% tham số kích hoạt. Chúng có mẫu số khác nhau: một bên là số giá trị mô hình sử dụng cho token, bên kia là chi phí hãng tính cho các bài thử đã chọn. Không thể dùng tỷ lệ này để dự đoán hóa đơn của mọi người dùng, vì bài toán, độ dài yêu cầu và cách gọi dịch vụ có thể khác.

Giả sử một nhóm dùng mô hình để phân loại và tóm tắt hồ sơ. Một phiên bản rẻ hơn trên mỗi lượt vẫn có thể tốn hơn nếu nó thường trả sai định dạng và phải gọi lại. Phiên bản khác có thể xử lý đúng ngay nhưng sinh câu trả lời dài, làm tăng số token đầu ra. Để so, nhóm cần ghi yêu cầu nào đã đạt chuẩn, bao nhiêu lần thử và phần nào phải nhờ người sửa. Chi phí trên kết quả đạt hữu ích hơn việc nhìn giá từng đơn vị biểu diễn mà chưa đếm số đơn vị cần dùng.

Cửa sổ một triệu token mở lựa chọn, nhưng vẫn cần chọn dữ liệu

Alibaba công bố cửa sổ ngữ cảnh một triệu token. Cửa sổ nói tới sức chứa ngữ cảnh, không bảo đảm mô hình luôn tìm đúng thông tin trong một tập tài liệu lớn hoặc sẽ phản hồi đủ nhanh. Nạp toàn bộ thư mục có thể đưa vào các bản trùng, bản cũ và phụ lục không liên quan. Khi câu hỏi phụ thuộc một điều khoản mới, đội cần thử xem mô hình có phân biệt được các phiên bản và dẫn lại đúng đoạn, thay vì chỉ đánh giá câu trả lời có lưu loát hay không.

Một kiến trúc khác là tìm những đoạn liên quan trước rồi gửi phần đã chọn cho mô hình. Cách đó có thể dùng ít dữ liệu hơn, nhưng nếu bộ tìm kiếm bỏ sót tài liệu quan trọng thì mô hình không thể dựa vào nó. Bài thử có thể so hai cách với cùng bộ câu hỏi và đáp án tham chiếu. Đo tỷ lệ trích đúng tài liệu, thời gian chờ và chi phí trên yêu cầu, đồng thời ghi riêng ca hồ sơ dài và ca cần đối chiếu nhiều nguồn.

Đo nhiệm vụ quan trọng trước khi chuyển luồng thật

Với nhóm ở Việt Nam, bộ thử nên có tiếng Việt, tên riêng, số liệu có dấu phân cách và tài liệu nghiệp vụ đang dùng. Hãy tính cả trường hợp mô hình thiếu căn cứ và cần chuyển cho người duyệt, vì câu trả lời đoán khiến chi phí sửa có thể vượt xa tiền gọi API. Nếu kết quả kích hoạt tác vụ bên ngoài, thử bằng môi trường giả và đặt quyền theo đúng việc. Khả năng trả lời tốt không tự chứng minh quyết định thực thi là an toàn.

Chỉ số nên khóa trước khi thử: tỷ lệ hoàn thành, lỗi nghiêm trọng, thời gian phản hồi và chi phí toàn quy trình. Có thể giữ một nhóm câu hỏi chưa dùng khi tinh chỉnh để tránh đánh giá quá lạc quan. Thông số 71 tỷ giúp giải thích cách Alibaba tổ chức tính toán. Quyết định sử dụng nên dựa vào việc mô hình có tạo ra thêm kết quả đúng với ít công sửa hơn, ở mức chi phí doanh nghiệp thực sự quan sát được hay không.

Để nhìn rõ hóa đơn, có thể tách từng lượt gọi trong một hồ sơ: yêu cầu đầu, lượt gọi công cụ, lượt đọc kết quả và lượt sửa câu trả lời. Đo theo nhóm để biết công việc nào hưởng lợi từ ngữ cảnh dài và công việc nào nên dùng mô hình nhỏ hơn. Thử cả tải đồng thời vào giờ cao điểm, vì thời gian xếp hàng có thể buộc hệ thống gọi lại do hết hạn. Khi đó, phần tăng chi phí có nguyên nhân ở cách tích hợp chứ chưa chắc ở bản thân mô hình.

Nguồn: Alibaba Cloud, ngày 16/11/2026; Reuters, đối chiếu tuyên bố về chi phí thử nghiệm.

Ảnh minh họa: Sơ đồ mạng nơ-ron nhiều lớp minh họa khái niệm tham số; không phải kiến trúc MoE của Qwen4-Max. Christoph Burgmer (Chrislb) qua Wikimedia Commons (CC BY-SA 3.0).

Chia sẻ