Silicon photonics trở thành công nghệ then chốt cho trung tâm dữ liệu AI thế hệ mới

Silicon photonics đang chuyển từ module quang cắm rời sang co-packaged optics và optical I/O, giúp các trung tâm dữ liệu AI tăng băng thông, giảm điện năng và kết nối hàng nghìn GPU. Công nghệ đã bước vào sản xuất nhưng vẫn đối mặt thách thức về đóng gói, tản nhiệt, độ tin cậy và tiêu chuẩn hóa.

Tháng 8 7, 2026

Silicon photonics trở thành công nghệ then chốt cho trung tâm dữ liệu AI thế hệ mới

Silicon photonics đang trở thành một trong những công nghệ nền tảng của trung tâm dữ liệu AI thế hệ mới, khi giới hạn của kết nối điện bằng đồng bắt đầu cản trở khả năng mở rộng các cụm GPU. Thay vì chỉ tăng số lượng bộ xử lý, các nhà vận hành phải giải quyết một bài toán khó hơn: di chuyển khối lượng dữ liệu khổng lồ giữa GPU, bộ nhớ và switch với độ trễ thấp nhưng không làm điện năng, nhiệt lượng và số lượng cáp tăng ngoài tầm kiểm soát.

Trong năm 2026, công nghệ quang tích hợp đã tiến gần hơn tới triển khai thương mại. NVIDIA cho biết Spectrum-X Ethernet Photonics, dòng switch đưa bộ chuyển đổi quang vào cùng package với chip mạng, đã bước vào sản xuất. Broadcom đã giao switch Ethernet Tomahawk 6 đạt tổng băng thông 102,4 Tb/s ở sản lượng lớn và phát triển biến thể Davisson sử dụng co-packaged optics. TSMC, GlobalFoundries, Lightmatter và Ayar Labs cũng đang mở rộng nền tảng chế tạo, đóng gói và kiểm thử dành cho kết nối quang của các bộ tăng tốc AI.

Những bước tiến này không có nghĩa cáp đồng hoặc module quang cắm rời sẽ biến mất ngay. Thị trường đang hình thành một lộ trình gồm nhiều cấp độ, từ pluggable optics, linear pluggable optics, near-package optics tới co-packaged optics và optical I/O nằm sát chip xử lý. Công nghệ nào được chọn phụ thuộc khoảng cách, mật độ cổng, điện năng, khả năng sửa chữa và chi phí của từng hệ thống.

Silicon photonics là gì?

Silicon photonics là công nghệ chế tạo các linh kiện dẫn, điều biến, ghép và phát hiện ánh sáng trên nền vật liệu cùng quy trình có quan hệ gần với ngành bán dẫn silicon. Một photonic integrated circuit, hay PIC, có thể tích hợp ống dẫn sóng, bộ điều biến, bộ tách ghép bước sóng và photodetector để biến tín hiệu điện thành tín hiệu ánh sáng rồi chuyển trở lại.

Điểm hấp dẫn của silicon photonics nằm ở khả năng đưa nhiều chức năng quang lên một chip nhỏ, đồng thời tận dụng quy mô sản xuất wafer và kỹ thuật đóng gói đã phát triển cho ngành bán dẫn. Điều này mở ra khả năng tạo các liên kết quang có băng thông cao với mật độ và chi phí phù hợp hơn so với việc lắp ráp nhiều linh kiện quang rời.

Ánh sáng có thể truyền dữ liệu qua sợi quang ở khoảng cách lớn mà không chịu tổn hao điện và nhiễu giống đường đồng tốc độ cao. Nhiều bước sóng còn có thể đi chung trên một sợi bằng kỹ thuật wavelength-division multiplexing, giúp tăng băng thông mà không cần tăng số lượng dây tương ứng.

Tuy nhiên, tên gọi “silicon photonics” không có nghĩa toàn bộ hệ thống đều được tạo từ silicon. Silicon không phải vật liệu phát sáng hiệu quả theo cách tự nhiên, nên nguồn laser có thể được tích hợp bằng vật liệu III-V, đặt trên chip bằng liên kết lai hoặc đặt bên ngoài package. Intel đã phát triển laser tích hợp trên wafer, trong khi một số kiến trúc của Ayar Labs và NVIDIA sử dụng nguồn sáng ngoài để tách bộ phận dễ hỏng và sinh nhiệt khỏi package xử lý.

Vì sao mạng trở thành nút thắt của AI?

Một ứng dụng doanh nghiệp thông thường có thể xử lý nhiều tác vụ độc lập trên các máy chủ khác nhau. Huấn luyện mô hình AI lớn lại yêu cầu hàng nghìn hoặc hàng chục nghìn GPU cùng tham gia một phép tính phân tán. Mỗi bộ xử lý liên tục trao đổi gradient, tham số và dữ liệu trung gian với các bộ xử lý khác.

Nếu mạng không truyền dữ liệu đủ nhanh, GPU phải chờ thay vì tính toán. Một cụm máy có thể chứa phần cứng trị giá hàng tỷ USD nhưng hiệu suất sử dụng thấp chỉ vì dữ liệu không đến đúng thời điểm. Đối với suy luận mô hình lớn và tác nhân AI, quá trình truy xuất bộ nhớ, gọi công cụ và phối hợp nhiều bộ tăng tốc cũng làm nhu cầu kết nối tăng.

Hai khái niệm thường được dùng là scale-up và scale-out. Scale-up kết nối các bộ tăng tốc ở khoảng cách gần để chúng hoạt động gần giống một hệ thống duy nhất, đòi hỏi băng thông rất cao và độ trễ cực thấp. Scale-out kết nối nhiều máy chủ, rack hoặc cụm máy qua Ethernet hay InfiniBand để mở rộng quy mô tổng thể.

Trong cả hai trường hợp, số cổng và tốc độ trên mỗi cổng đều tăng. Switch thế hệ mới đã vượt mốc tổng băng thông 100 Tb/s, trong khi các liên kết 800 Gb/s và 1,6 Tb/s dần trở thành thành phần của lộ trình sản phẩm. Khi tốc độ mỗi lane tăng lên 200 Gb/s và cao hơn, việc đưa tín hiệu điện đi qua bo mạch dài trở nên tốn điện và khó duy trì toàn vẹn tín hiệu.

“Bức tường đồng” xuất hiện như thế nào?

Tín hiệu điện tốc độ cao suy hao khi đi qua đường mạch in, connector và các lớp vật liệu. Tốc độ càng cao, hệ thống càng cần bộ cân bằng, retimer hoặc DSP để sửa tín hiệu. Những linh kiện này tiêu thụ điện, tạo nhiệt, chiếm diện tích và bổ sung độ trễ.

Trong switch dùng module quang cắm rời, dữ liệu phải đi từ switch ASIC qua package, đường mạch trên PCB và connector tới transceiver ở mặt trước thiết bị, rồi mới được chuyển thành ánh sáng. NVIDIA cho biết đường điện của kênh 200 Gb/s trong kiến trúc này có thể chịu tổn hao tới khoảng 22 dB.

Co-packaged optics rút ngắn mạnh đường điện bằng cách đặt optical engine ngay cạnh switch ASIC hoặc chip tăng tốc trong cùng package. Sợi quang đi gần như trực tiếp từ package ra hệ thống cáp, giảm nhu cầu khuếch đại và sửa tín hiệu trên quãng đường dài.

Theo NVIDIA, thiết kế CPO của hãng giảm tổn hao đường điện xuống khoảng 4 dB và có thể đưa điện năng của phần quang xuống mức thấp hơn đáng kể so với transceiver truyền thống. Broadcom công bố nền tảng CPO có thể tiết kiệm hơn 3,5 lần điện năng và giảm khoảng 40% chi phí quang trên mỗi bit. Đây là các số liệu do nhà sản xuất đưa ra trong điều kiện thiết kế của họ; hiệu quả thực tế còn phụ thuộc cấu hình mạng và phương pháp so sánh.

Từ module quang cắm rời đến co-packaged optics

Module quang cắm rời vẫn là giải pháp phổ biến vì dễ thay thế, dễ bảo trì và có hệ sinh thái nhiều nhà cung cấp. Khi một transceiver hỏng, kỹ thuật viên có thể rút module khỏi mặt trước switch mà không cần thay toàn bộ thiết bị.

Linear Pluggable Optics, hay LPO, tìm cách giảm điện năng bằng cách loại bỏ hoặc đơn giản hóa DSP trong module. Đổi lại, nó yêu cầu đường điện và chip SerDes có chất lượng tốt hơn, đồng thời có thể làm phạm vi hoạt động hoặc khả năng tương thích trở nên khắt khe hơn.

Near-Package Optics và On-Board Optics đưa optical engine rời khỏi mặt trước, đặt gần chip mạng hơn trên bo mạch. Cách tiếp cận này rút ngắn đường điện nhưng vẫn giữ một phần khả năng tách rời giữa quang và chip xử lý.

Co-Packaged Optics tích hợp sâu nhất bằng cách đặt chip quang trong cùng package với switch ASIC hoặc XPU. Nó mang lại mật độ băng thông và hiệu quả điện cao, nhưng tạo thách thức lớn về đóng gói, tản nhiệt và sửa chữa. Một lỗi ở thành phần quang có thể ảnh hưởng tới package đắt tiền chứa chip mạng hoặc bộ tăng tốc.

Optical I/O tiến thêm một bước khi kết nối quang trở thành giao diện trực tiếp của CPU, GPU hoặc chiplet, thay vì chỉ nằm trong switch. Mục tiêu là đưa ánh sáng tới sát rìa tính toán, cho phép bộ xử lý kết nối với switch, bộ nhớ hoặc chip khác ở khoảng cách từ trong rack tới nhiều rack mà không phải chuyển qua đường điện dài.

NVIDIA đưa CPO vào nền tảng Vera Rubin

NVIDIA công bố thế hệ switch silicon photonics tại GTC 2025 và đến tháng 5/2026 cho biết Spectrum-X Ethernet Photonics đã bước vào sản xuất trong hệ sinh thái Vera Rubin. Theo công ty, nền tảng kết hợp CPO với switch Spectrum-X để phục vụ mạng scale-out và scale-across của các trung tâm dữ liệu có quy mô hướng tới hàng triệu GPU.

NVIDIA tuyên bố Spectrum-X Ethernet Photonics đạt hiệu quả điện cao hơn 5 lần, thời gian hoạt động của ứng dụng AI dài hơn 5 lần và triển khai nhanh hơn 1,3 lần so với mạng dùng transceiver truyền thống. CoreWeave, Lambda và Oracle Cloud Infrastructure được nêu trong nhóm đối tác hoặc đơn vị áp dụng đầu tiên.

Cấu hình cao nhất của dòng Spectrum-X Photonics được NVIDIA giới thiệu có tổng băng thông tới 409,6 Tb/s. Các thiết kế dùng SerDes 200 Gb/s và đưa optical engine cạnh switch silicon, qua đó giảm số laser, connector và thành phần điện cần thiết.

Việc một nhà cung cấp nền tảng AI lớn đưa CPO vào hệ thống sản xuất có ý nghĩa quan trọng hơn một bản trình diễn phòng thí nghiệm. Nó buộc các nhà sản xuất sợi, connector, laser, switch, server và hệ thống làm mát phải phối hợp trong một chuỗi cung ứng đủ lớn cho hyperscaler.

Broadcom đẩy switch AI vượt mốc 100 Tb/s

Broadcom đã đưa Tomahawk 6, switch Ethernet 102,4 Tb/s, vào sản xuất số lượng lớn trong năm 2026. Chip hỗ trợ tới 512 lane 200G hoặc 1.024 lane 100G, cung cấp nền tảng cho mạng AI scale-up và scale-out với mật độ cổng rất cao.

Biến thể Tomahawk 6–Davisson tích hợp optical engine dựa trên công nghệ TSMC COUPE trong package. Broadcom gọi đây là thế hệ CPO thứ ba của hãng và định vị sản phẩm cho hệ thống yêu cầu điện năng thấp, độ ổn định đường truyền cao và số lượng cổng lớn.

Broadcom cho biết mình đã vận chuyển hệ thống CPO thương mại và đang phát triển cả CPO cho switch lẫn liên kết trực tiếp của XPU. Điều này phản ánh sự dịch chuyển quan trọng: quang tích hợp không còn chỉ phục vụ đường truyền giữa các switch mà bắt đầu tiến tới kết nối bên trong miền tính toán.

Dù vậy, bản Tomahawk 6 điện với transceiver cắm rời và bản CPO sẽ cùng tồn tại. Khách hàng cần cân nhắc giữa lợi ích điện năng của tích hợp sâu với khả năng thay thế module, đa nguồn cung và sự quen thuộc trong vận hành.

Foundry và đóng gói tiên tiến trở thành mắt xích quyết định

Silicon photonics không thể mở rộng chỉ nhờ thiết kế chip. Optical engine phải được chế tạo, ghép với mạch điện, nối sợi, kiểm thử và đóng gói với độ chính xác cao. Một package AI còn có thể chứa GPU, chip I/O, HBM, interposer và hệ thống cấp nguồn.

TSMC phát triển Compact Universal Photonic Engine, hay COUPE, dùng SoIC-X để xếp chip điều khiển điện lên photonic die. Công ty từng đặt mục tiêu tích hợp COUPE vào CoWoS dưới dạng co-packaged optics trong năm 2026, đưa đường quang trực tiếp vào package tính toán hiệu năng cao.

GlobalFoundries giới thiệu nền tảng SCALE vào tháng 5/2026, hỗ trợ cả CWDM và DWDM hai chiều cùng các cấu trúc dành cho đóng gói 2.5D và 3D. Hãng nói nền tảng vượt yêu cầu của đặc tả Optical Compute Interconnect MSA và hướng tới AI scale-up.

UMC cũng đã cấp phép quy trình silicon photonics iSiPP300 của imec để xây nền tảng wafer 12 inch tương thích CPO. Khi nhiều foundry cung cấp quy trình quang, khách hàng có thêm khả năng đa nguồn và tránh phụ thuộc hoàn toàn vào một chuỗi sản xuất.

Đóng gói là nơi điện tử, quang học và cơ khí gặp nhau. Tỷ lệ thành phẩm của mỗi chip, độ chính xác ghép sợi và khả năng kiểm thử trước khi ghép vào package đắt tiền có thể quyết định giá thành cuối cùng.

Lightmatter và Ayar Labs đưa quang tới sát XPU

Nhóm startup photonics tập trung vào việc biến kết nối quang thành một chiplet có thể đặt cạnh hoặc dưới bộ tăng tốc. Lightmatter phát triển nền tảng Passage với kiến trúc 3D, cho phép photonic interposer nằm dưới chip điện và mở rộng giao diện quang theo diện tích thay vì chỉ quanh cạnh die.

Tháng 3/2026, Lightmatter cho biết đã lấy mẫu chiplet Passage đạt 1,6 Tb/s trên mỗi sợi bằng 16 bước sóng DWDM. Công ty cũng giới thiệu optical engine L20 đạt 6,4 Tb/s theo mỗi chiều, hỗ trợ NPO và OBO, dự kiến bắt đầu cung cấp mẫu cuối năm 2026.

Ayar Labs sử dụng TeraPHY optical engine và nguồn sáng SuperNova đặt bên ngoài package. Chiplet UCIe được hãng công bố có tổng băng thông 8 Tb/s, hướng tới khả năng kết nối các bộ tăng tốc qua khoảng cách lớn hơn nhưng vẫn hoạt động như một miền scale-up thống nhất.

Tháng 3/2026, Ayar Labs huy động 500 triệu USD để tăng tốc sản xuất CPO, với sự tham gia của các nhà đầu tư chiến lược gồm AMD, Alchip, MediaTek và NVIDIA. Công ty hợp tác với Wiwynn xây hệ thống rack được kết nối quang và cho biết lộ trình sản xuất khối lượng lớn hướng tới năm 2028.

Các cột mốc của startup cần được phân biệt giữa mẫu thử, sampling và sản xuất đại trà. Kết quả trong phòng thí nghiệm chứng minh khả năng kỹ thuật; việc triển khai hyperscale còn đòi hỏi độ tin cậy, yield, chuỗi cung ứng và khả năng bảo trì trong nhiều năm.

Silicon photonics giúp giảm điện năng theo hai cách

Lợi ích trực tiếp là giảm điện dùng để truyền mỗi bit dữ liệu. Khi đường điện được rút ngắn và bớt retimer hoặc DSP, phần năng lượng dành cho kết nối giảm xuống.

Lợi ích gián tiếp có thể lớn hơn: GPU ít phải chờ dữ liệu. Một mạng hiệu quả giúp nâng tỷ lệ sử dụng của thiết bị tính toán, nghĩa là cùng một khối lượng công việc có thể cần ít thời gian hoặc ít phần cứng hơn.

Điều này đặc biệt quan trọng vì trung tâm dữ liệu AI đang chạm giới hạn điện tại cấp rack, tòa nhà và lưới điện. Mỗi watt tiết kiệm ở mạng có thể được chuyển cho GPU, bộ nhớ hoặc hệ thống làm mát.

Tuy nhiên, quang không hoàn toàn “miễn phí” về năng lượng. Laser, bộ điều biến, photodetector, mạch điều khiển nhiệt và DSP vẫn tiêu thụ điện. Thiết kế tổng thể phải tính cả nguồn sáng, làm mát và tổn hao trên đường quang thay vì chỉ so một linh kiện riêng lẻ.

Quản lý nhiệt và nguồn laser là bài toán khó

GPU và switch ASIC hiệu năng cao tạo ra nhiệt lượng lớn, trong khi một số linh kiện quang nhạy với thay đổi nhiệt độ. Microring resonator có kích thước nhỏ và mật độ cao nhưng bước sóng cộng hưởng có thể dịch chuyển khi nhiệt độ thay đổi, đòi hỏi cơ chế kiểm soát và hiệu chỉnh.

Đặt optical engine sát chip điện giúp giảm đường truyền nhưng đưa quang vào khu vực nóng nhất của hệ thống. Nhà thiết kế phải lựa chọn vị trí, vật liệu giao diện nhiệt, cách làm mát và phương pháp giữ laser ổn định.

Một số kiến trúc dùng laser ngoài package để tách nguồn sáng khỏi vùng nhiệt cao và cho phép thay thế dễ hơn. Đổi lại, hệ thống cần thêm connector, sợi dẫn và cơ chế phân phối ánh sáng với độ tin cậy cao.

NVIDIA sử dụng thiết kế làm mát bằng chất lỏng cho một số switch Quantum-X Photonics. Ayar Labs và Wiwynn đã trình diễn kiến trúc nguồn laser ngoài được làm mát ở cấp rack. Những giải pháp này cho thấy silicon photonics phải được đồng thiết kế với toàn bộ hệ thống nhiệt, không thể xử lý như một module độc lập.

Khả năng sửa chữa là lợi thế lớn của pluggable optics

Transceiver cắm rời có thể được thay trong vài phút mà không tác động tới switch ASIC. CPO làm giảm số thành phần và điểm kết nối, có thể tăng độ ổn định trên mỗi bit, nhưng việc thay thế khó hơn khi optical engine nằm trong package.

Nhà cung cấp đang giải quyết vấn đề bằng nguồn sáng ngoài, fiber array có thể tháo rời, kiểm thử known-good-die và thiết kế package theo mô-đun. Lightmatter giới thiệu vClick Optics để tách phần gắn sợi khỏi package và hỗ trợ sản xuất số lượng lớn.

Đối với hyperscaler, bài toán không chỉ là tỷ lệ hỏng của một linh kiện. Họ cần biết khi một optical engine lỗi, bao nhiêu cổng bị ảnh hưởng, có thể cô lập đường truyền hay không, việc thay thế mất bao lâu và chi phí dừng một cụm GPU là bao nhiêu.

Đây là lý do CPO trước tiên phù hợp với những hệ thống mà điện năng và mật độ băng thông mang lại lợi ích đủ lớn để bù cho quy trình vận hành mới. Pluggable optics vẫn sẽ tồn tại lâu dài ở các lớp mạng có yêu cầu thấp hơn hoặc cần khả năng thay nóng.

Tiêu chuẩn hóa quyết định tốc độ phổ cập

Một hệ sinh thái hyperscale cần nhiều nhà cung cấp chip, laser, connector, sợi, package và thiết bị kiểm thử. Nếu mỗi công ty sử dụng giao diện riêng, khách hàng sẽ khó đa nguồn và chi phí tích hợp tăng cao.

UCIe giúp tiêu chuẩn hóa kết nối chiplet điện trong package và đang được mở rộng trong các kiến trúc optical I/O. OCI MSA xây đặc tả cho kết nối quang giữa các chip tính toán, trong khi các nhóm như CW-WDM MSA xác định bước sóng và nguồn laser liên tục cho hệ thống quang tích hợp.

Ở lớp transceiver, IEEE 802.3 tiếp tục xác định giao diện Ethernet tốc độ cao. Các sáng kiến XPO tìm cách tăng mật độ module cắm rời, cho thấy ngành chưa chọn một kiến trúc duy nhất mà đang phát triển nhiều bước trung gian giữa pluggable và CPO.

Tiêu chuẩn không chỉ bao gồm tốc độ. Hệ sinh thái cần thống nhất cách giám sát nhiệt, đo công suất quang, báo lỗi, quản lý firmware và xác định khả năng tương tác giữa nguồn sáng với optical engine.

Chuỗi cung ứng quang trở thành tài sản chiến lược

Khi AI mở rộng, optical transceiver, laser, DSP, fiber và connector trở thành linh kiện có ảnh hưởng trực tiếp tới tiến độ xây trung tâm dữ liệu. NVIDIA đã xây hệ sinh thái photonics gồm TSMC, Coherent, Corning, Lumentum, Foxconn, Fabrinet và nhiều nhà cung cấp khác.

Broadcom dựa vào năng lực switch, SerDes, silicon photonics và đóng gói; Intel có kinh nghiệm sản xuất hàng triệu photonic integrated circuit; các foundry như TSMC, GlobalFoundries và UMC muốn cung cấp nền tảng sản xuất cho khách hàng thiết kế riêng.

Sự tập trung của chuỗi cung ứng cũng tạo rủi ro. Thiếu nguồn laser, connector hoặc năng lực đóng gói có thể làm chậm cả hệ thống dù GPU đã sẵn sàng. Chính sách thương mại và yêu cầu nguồn gốc linh kiện tại Mỹ, Trung Quốc và châu Âu có thể tiếp tục định hình lựa chọn nhà cung cấp.

Đối với nhà vận hành, đa nguồn không đơn giản như mua transceiver tương thích. CPO gắn chặt quang với thiết kế switch và package, nên thay đổi nhà cung cấp có thể yêu cầu xác minh lại toàn bộ hệ thống.

CPO không phải giải pháp duy nhất cho mọi trung tâm dữ liệu

Silicon photonics có lợi thế rõ khi băng thông, khoảng cách và điện năng vượt khả năng kinh tế của đường đồng. Nhưng nhiều liên kết ngắn trong rack vẫn có thể dùng copper cable, active electrical cable hoặc kết nối điện trên package với chi phí thấp hơn.

Pluggable optics tiếp tục cải tiến lên 1,6 Tb/s, 3,2 Tb/s và các form factor mật độ cao. LPO, NPO và XPO có thể kéo dài tuổi thọ của module thay thế được, đặc biệt ở hệ thống không cần tích hợp sâu nhất.

Việc lựa chọn sẽ dựa trên tổng chi phí sở hữu: giá thiết bị, điện năng, làm mát, số cổng, độ ổn định, nhân lực vận hành và chi phí khi xảy ra lỗi. Một thiết kế tối ưu cho hyperscaler hàng trăm nghìn GPU có thể không phù hợp với doanh nghiệp chỉ vận hành vài rack AI.

Do đó, xu hướng thực tế không phải “quang thay thế toàn bộ đồng”, mà là điểm chuyển đổi từ điện sang quang dịch ngày càng gần chip xử lý khi tốc độ tăng.

Điều gì sẽ quyết định thành công trong giai đoạn 2026–2028?

Yếu tố đầu tiên là bằng chứng triển khai. Các hệ thống CPO cần vận hành đủ lâu để khách hàng đánh giá tỷ lệ lỗi, khả năng sửa chữa và mức tiết kiệm điện trong trung tâm dữ liệu thực.

Yếu tố thứ hai là sản xuất. Optical engine phải đạt yield cao, được kiểm thử trước khi tích hợp và có quy trình ghép sợi tự động. Công nghệ tốt nhưng cần căn chỉnh thủ công sẽ khó đạt sản lượng hyperscale.

Yếu tố thứ ba là tiêu chuẩn và đa nguồn. Khách hàng lớn không muốn một kiến trúc quan trọng phụ thuộc vào duy nhất một nhà cung cấp. Giao diện quang, điện và quản lý phải đủ mở để tạo hệ sinh thái cạnh tranh.

Yếu tố cuối cùng là kinh tế của AI. Nếu các mô hình tiếp tục tăng quy mô và số lượng tác nhân tạo ra hàng loạt bước suy luận, nhu cầu mạng sẽ tăng nhanh. Nếu thuật toán và phần cứng trở nên hiệu quả hơn, tốc độ triển khai quang có thể khác dự báo hiện nay.

Silicon photonics sẽ định hình kiến trúc trung tâm dữ liệu AI

Trong trung tâm dữ liệu truyền thống, quang chủ yếu kết nối các rack hoặc tòa nhà. Trong kiến trúc AI thế hệ mới, quang đang tiến vào switch package, bộ tăng tốc và có thể cả miền bộ nhớ.

Sự thay đổi này biến interconnect thành thành phần ngang hàng với GPU và HBM trong thiết kế hệ thống. Hiệu năng không còn được quyết định bởi số phép tính tối đa của một chip, mà bởi tốc độ toàn cụm có thể giữ dữ liệu di chuyển mà không vượt giới hạn điện năng.

NVIDIA đưa switch CPO vào sản xuất, Broadcom mở rộng switch 102,4 Tb/s, TSMC và GlobalFoundries xây nền tảng foundry, còn Lightmatter và Ayar Labs tiến tới optical I/O cho XPU. Những động thái đồng thời cho thấy silicon photonics đã trở thành một hướng phát triển chiến lược của ngành AI, không còn là công nghệ bên lề của mạng viễn thông.

Thách thức lớn nhất trong vài năm tới không phải chứng minh ánh sáng có thể truyền dữ liệu nhanh hơn đường điện ở quy mô phù hợp. Ngành công nghiệp phải chứng minh có thể sản xuất, kiểm thử, làm mát, sửa chữa và vận hành hàng triệu liên kết quang với chi phí đủ thấp. Khi những bài toán này được giải quyết, kiến trúc trung tâm dữ liệu có thể chuyển từ các khối tính toán nối bằng mạng sang một hệ thống quang–điện thống nhất, nơi hàng nghìn bộ xử lý hoạt động như một cỗ máy duy nhất.