Tag: Suy luận AI
Microsoft Maia 300: Cuộc đua AI chip đang chuyển từ FLOPS sang to...
Microsoft đặt hiệu quả suy luận ở cấp hệ thống làm trọng tâm của Maia 300. Chỉ số token trên công suất giúp gắn phần cứng với dịch...
Gimlet ghép GPU với Cerebras, đặt mục tiêu tới 3.000 token/giây
Đám mây suy luận mới phân chia công việc theo thế mạnh từng loại chip. Quy mô 100 MW và tốc độ tối đa vẫn là kế hoạch cần kiểm chứ...
