Tag: llm-d

llm-d 1.0 ra mắt: AI inference trên Kubernetes bước vào bài toán ...

llm-d 1.0 bổ sung khả năng điều phối suy luận phân tán, cache và vận hành đa tenant cho mô hình AI trên Kubernetes. Doanh nghiệp c...