Khám phá sự vượt trội của chip AI Sohu từ Startup Etched: Mạnh hơn Nvidia H100 20 lần

Sự Ra Mắt Đầy Hứa Hẹn

Ngày 26/6, startup công nghệ Etched có trụ sở tại San Francisco đã làm dậy sóng cộng đồng công nghệ với công bố về mẫu chip AI mới mang tên Sohu. Theo công ty này, Sohu mạnh gấp 20 lần so với H100 của Nvidia, một trong những chip AI hàng đầu hiện nay.

Kiến Trúc ASIC Tối Ưu Hoá Hiệu Suất

Chip Sohu của Etched là một dạng mạch tích hợp dành riêng cho ứng dụng (ASIC), được thiết kế để tối ưu hóa khả năng suy luận trong các mô hình ngôn ngữ lớn (LLM). Điều này cho phép một hệ thống với 8 chip Sohu đạt hiệu suất tương đương với 160 H100.

Khác Biệt Trong Thiết Kế

Etched giải thích rằng các hệ thống tăng tốc AI hiện tại, dù là CPU hay GPU, đều được thiết kế để hỗ trợ nhiều kiến trúc AI khác nhau. Điều này dẫn đến việc phần lớn sức mạnh tính toán bị phân bổ cho khả năng lập trình. Theo Etched, GPU H100 của Nvidia chỉ sử dụng 3,3% số bóng bán dẫn cho tác vụ chính, trong khi 96,7% còn lại được sử dụng cho các tác vụ khác, dẫn đến sự lãng phí lớn.

Để khắc phục điều này, Etched đã áp dụng Kiến trúc AI Transformer vào chip Sohu, giúp tối ưu hóa số lượng bóng bán dẫn dành cho tính toán AI. Thay vì tạo ra một chip có thể đáp ứng mọi kiến trúc AI đơn lẻ, Etched tập trung vào việc tối ưu hóa cho một dạng mô hình AI cụ thể. Transformer, nền tảng của nhiều mô hình AI như GPT, Sora, Gemini, Stable Diffusion và Dall-E, là lựa chọn của họ.

Tầm Nhìn Chiến Lược

"Đây là canh bạc của chúng tôi," Gavin Uberti của Etched chia sẻ với Reuters. "Nếu Transformer biến mất, công ty chúng tôi sẽ chết. Nhưng nếu tiếp tục tồn tại, chúng tôi có tiềm năng trở thành một trong những công ty lớn nhất mọi thời."

Triển Vọng Tương Lai

Dù Etched chưa công bố giá của chip Sohu, nhưng rõ ràng nó sẽ có ảnh hưởng lớn đến thị trường. Hiện tại, đối thủ Nvidia H100 có giá 40.000 USD. Tom's Hardware đánh giá rằng các trung tâm xử lý dữ liệu có thể tiết kiệm hàng tỷ USD chi phí ban đầu và chi phí vận hành nếu Sohu đáp ứng được kỳ vọng. Sản phẩm này thậm chí có thể đe dọa vị thế dẫn đầu của Nvidia. Tuy nhiên, mọi thứ sẽ chỉ được chứng minh khi chip của Etched đi vào vận hành.

Hãy cùng chờ đợi và theo dõi bước phát triển tiếp theo của Etched và sự ra mắt của chip Sohu. Liệu đây có phải là bước ngoặt trong lĩnh vực công nghệ AI? Thời gian sẽ trả lời.