Tag: Aleph Alpha

Kolibri‑1 mở trọng số: 78 tỷ tham số nhưng chỉ kích hoạt 3,46 tỷ ...

Mô hình song ngữ Đức–Anh của Aleph Alpha dùng kiến trúc MoE để giảm lượng tính toán mỗi token, nhưng vẫn đòi hỏi gần 78 GB bộ nhớ ...