SOCAMM2 của Samsung: đưa bộ nhớ tiết kiệm điện vào máy chủ AI như thế nào?
SOCAMM2 kết hợp LPDDR5X với mô-đun có thể thay thế. Thiết kế giúp tiết kiệm không gian, nhưng đòi hỏi máy chủ hỗ trợ riêng.
Bộ nhớ LPDDR thường gắn với điện thoại vì được thiết kế để tiết kiệm năng lượng. Samsung đang đưa loại bộ nhớ này vào máy chủ AI dưới dạng SOCAMM2: mô-đun có thể tháo lắp, thay vì hàn trực tiếp toàn bộ chip lên bo mạch. Theo Samsung, hãng đã cung cấp mẫu cho khách hàng; việc cung cấp mẫu chưa đồng nghĩa mọi hệ thống đều đã thương mại hóa hoặc tương thích.
Bài tiếng Anh trên phu.lt đề cập thông tin SOCAMM2 ngày 19/11/2026. Tuy nhiên, đây không phải lần đầu công nghệ xuất hiện: báo cáo của Samsung cho biết việc phát triển mô-đun đã được thực hiện từ tháng 12/2025. Điều mới cần theo dõi là cách hệ sinh thái máy chủ tiếp nhận định dạng này.
LPDDR trên mô-đun thay đổi điều gì?
LPDDR được tối ưu cho năng lượng, nhưng khi chip bộ nhớ được hàn trực tiếp lên bo mạch, thay thế hay tăng dung lượng trở nên khó khăn. SOCAMM2 sử dụng cách kết nối dạng mô-đun để đưa bộ nhớ LPDDR vào hệ thống có thiết kế hỗ trợ.
Mô-đun nằm ngang trên bo mạch thay vì dựng đứng như nhiều thanh DIMM truyền thống. Theo Samsung, cách bố trí này hướng tới sử dụng không gian và luồng làm mát hiệu quả hơn trong hạ tầng AI. Hiệu quả thực tế còn phụ thuộc thiết kế máy chủ, mật độ và khối lượng công việc.
Băng thông và hiệu suất điện không phải toàn bộ câu chuyện
Trong hệ thống AI, bộ xử lý cần nhận dữ liệu đủ nhanh để tránh phải chờ bộ nhớ. Băng thông bộ nhớ vì vậy là một chỉ số quan trọng, bên cạnh dung lượng và độ trễ. Samsung quảng bá phiên bản SOCAMM2 dựa trên LPDDR5X cho hạ tầng AI; so sánh do nhà sản xuất đưa ra cần được đọc cùng cấu hình thử nghiệm, không nên coi là mức tăng chung cho mọi ứng dụng.
Tài liệu của AMD mô tả LPDDR trên SOCAMM2 có thể đem lại băng thông cao hơn trên mỗi mô-đun và hiệu quả năng lượng tốt, nhưng dung lượng mỗi mô-đun thấp hơn trong phép so sánh được nêu. Đó là đánh đổi cần xem xét khi chọn máy chủ cho tác vụ cần nhiều RAM.
SOCAMM2 cũng không thay thế trực tiếp bộ nhớ HBM đặt gần bộ xử lý tăng tốc. Hai giải pháp phục vụ những vị trí và yêu cầu thiết kế khác nhau; lựa chọn máy chủ cần xem xét cả CPU, GPU, dung lượng và đường truyền dữ liệu.
Có thể nâng cấp máy chủ hiện tại không?
Không nên mua SOCAMM2 với giả định có thể cắm vào khe RDIMM thông thường. AMD cho biết định dạng này cần socket và thiết kế hệ thống riêng, không tương thích với hệ thống RDIMM. Khả năng thay mô-đun chỉ có ý nghĩa trên nền tảng được nhà sản xuất hỗ trợ.
Đội hạ tầng cần kiểm tra danh sách tương thích của nhà cung cấp máy chủ, số khe, giới hạn dung lượng, phương án làm mát và điều kiện bảo hành. Khi đánh giá năng lượng, nên đo cả hệ thống ở cùng tải thực tế thay vì chỉ so sánh thông số quảng cáo của một thanh nhớ.
Từ mẫu thử đến triển khai rộng
Samsung cho biết đã gửi mẫu SOCAMM2 tới khách hàng. Hãng cũng đề cập hướng phát triển mô-đun LPDDR6; thông tin về định hướng đó không chứng minh một sản phẩm LPDDR6 cụ thể đã sẵn sàng mua và triển khai. Trong khi đó, SK hynix thông báo sản xuất hàng loạt SOCAMM2 192 GB vào tháng 4/2026, cho thấy đây là một định dạng có nhiều nhà cung cấp theo đuổi.
Với doanh nghiệp vận hành AI, câu hỏi thực tế là hiệu quả trên mỗi watt có bù được chi phí chuyển sang nền tảng mới và giới hạn dung lượng hay không. Câu trả lời cần dựa trên benchmark cùng ứng dụng, cấu hình và điều kiện vận hành, thay vì chỉ dựa vào loại bộ nhớ.
Nguồn: Samsung Semiconductor; AMD; SK hynix.