Robot AI không thể chờ cloud trả lời: Một lớp chip mới đang gom “mắt – não – phản xạ” vào ngay bên trong máy

Một robot đang di chuyển giữa con người không thể nhìn thấy chướng ngại vật, gửi video lên cloud, chờ mô hình trả lời rồi mới quyết định có nên phanh. Đường truyền có thể nhanh ở phần lớn thời gian, nhưng chỉ một lần jitter, mất kết nối hoặc server phản hồi chậm cũng đủ biến độ trễ phần mềm thành vấn đề vật lý.

Đó là lý do một lớp phần cứng mới đang hình thành quanh robotics: không chỉ tăng tốc AI inference, mà cố gom cả chuỗi nhìn – hiểu – lập kế hoạch – điều khiển vào bên trong robot. Qualcomm gọi Dragonwing IQ10 là “brain of the robot”; NVIDIA thiết kế Jetson Thor cho physical AI tại edge; AMD đưa CPU, GPU và NPU vào Ryzen AI Embedded X100 để xử lý sensing, decision-making và control trên cùng một nền tảng.

Gọi chúng là một “lớp chip” là cách nói tiện, nhưng chưa hoàn toàn chính xác về kỹ thuật. Có sản phẩm là SoC, có sản phẩm là system-on-module, có sản phẩm là reference design hoàn chỉnh. Điểm chung quan trọng hơn hình thức đóng gói: robot ngày càng cần một hệ thống compute cục bộ đủ mạnh để xử lý nhiều sensor đồng thời, chạy model AI và vẫn giữ được đường điều khiển có thời gian phản hồi dự đoán được.

Vì sao cloud không thể nằm trên critical path của robot?

Cloud vẫn rất hữu ích cho robotics. Model có thể được huấn luyện trên datacenter; log từ hàng nghìn robot có thể được tổng hợp để tìm lỗi; fleet có thể nhận OTA update và policy mới từ xa. Những tác vụ này không đòi hỏi phản ứng ở thời điểm robot đang đưa tay ra, né người hay giữ thăng bằng.

Phần critical path thì khác. Camera, LiDAR, cảm biến chiều sâu và IMU liên tục tạo ra dữ liệu về môi trường và trạng thái của máy. Dữ liệu đó phải được đồng bộ, biến thành perception, đi qua planning rồi cuối cùng trở thành lệnh cho actuator. Nếu một phần bắt buộc của vòng lặp phải đi qua mạng ngoài, robot mang thêm một nguồn độ trễ biến thiên mà hệ thống điều khiển khó đảm bảo.

Qualcomm mô tả chính yêu cầu này khi thiết kế Dragonwing IQ10 Robotics Reference Design: compute, sensor interface, networking và real-time control được đưa vào một kiến trúc thống nhất, thay vì ghép nhiều hộp xử lý riêng bằng những lớp bridge và middleware khác nhau.

“Mắt”: sensor không chỉ cần băng thông, mà còn phải cùng nhịp

Một humanoid hoặc robot tự hành hiện đại hiếm khi chỉ có một camera. Nó có thể đồng thời nhận hình ảnh từ nhiều góc, dữ liệu chiều sâu, IMU, LiDAR, cảm biến lực và encoder ở khớp. Khó khăn không chỉ nằm ở tổng băng thông. Nếu hai camera hoặc camera và IMU lệch thời gian, perception có thể dựng sai một thế giới đang chuyển động.

Reference design IQ10 hỗ trợ tới 12 camera GMSL2 cùng LiDAR, ToF và IMU, đồng thời đưa sensor ingestion trực tiếp vào platform để giảm số tầng trung gian. Dòng IQ10 nói chung được Qualcomm quảng bá với hỗ trợ hơn 20 camera sensor và các loại LiDAR, radar, IMU khác nhau.

NVIDIA đi theo cùng một hướng trên Jetson Thor: ngoài GPU Blackwell và bộ nhớ lớn, platform được thiết kế cho high-speed sensor processing và có các kết nối tốc độ cao để đưa luồng dữ liệu vào máy trước khi AI xử lý. Đây là phần “mắt” của robot, nhưng sensor I/O chỉ có giá trị khi compute phía sau đủ nhanh để không tạo hàng đợi dữ liệu.

“Não”: CPU, GPU và NPU bắt đầu làm việc cùng nhau

Robot không chạy một loại workload duy nhất. CPU phù hợp với orchestration, logic hệ thống và nhiều tác vụ tuần tự; GPU phù hợp với xử lý song song, vision và model lớn; NPU được tối ưu cho inference tiết kiệm điện hơn. Vì vậy hướng đi hiện nay là heterogeneous compute thay vì đặt toàn bộ robot lên một accelerator duy nhất.

Dragonwing IQ10 kết hợp CPU Qualcomm Oryon 18 nhân, GPU và NPU, với mức AI performance được Qualcomm công bố tới 700 TOPS. Jetson AGX Thor dùng GPU Blackwell, CPU Arm 14 nhân và 128 GB LPDDR5X; NVIDIA công bố tối đa 2.070 FP4 TFLOPS trong power envelope 40–130 W. Còn Ryzen AI Embedded X100 tích hợp CPU Zen 5, GPU RDNA và NPU XDNA trong một SoC, với tối đa 16 CPU core và tới 126 system TOPS.

Những con số này không nên đặt cạnh nhau như một bảng xếp hạng trực tiếp. Qualcomm đang nói TOPS với các precision và cách tính riêng; NVIDIA nhấn mạnh FP4 sparse TFLOPS; AMD dùng “system TOPS” cộng nhiều engine. Precision, sparsity, memory bandwidth, model runtime và mức công suất đều ảnh hưởng tới kết quả thực tế. Một robot chạy nhanh hơn không thể được suy ra chỉ từ số TOPS trên datasheet.

“Phản xạ”: AI nhanh vẫn chưa đủ nếu đường điều khiển không deterministic

Đây là phần khiến robotics khác một AI box thông thường. Model có thể nhận ra vật thể rất nhanh nhưng robot vẫn không an toàn nếu lệnh điều khiển đi qua một chuỗi I/O có độ trễ thất thường.

IQ10 RRD vì vậy không dừng ở NPU. Qualcomm tích hợp các interface như EtherCAT, CAN-FD và Ethernet hỗ trợ TSN để phục vụ motion control có timing dự đoán được, đồng thời tách một safety island cho các chức năng an toàn. AMD cũng nhấn mạnh system partitioning và deterministic latency trong dòng Ryzen AI Embedded, cho phép workload AI và workload điều khiển thời gian thực được cô lập thay vì tranh tài nguyên theo cách không kiểm soát.

Điều này cũng giải thích vì sao “AI điều khiển robot” thường là một kiến trúc nhiều tầng. Model lớn có thể chọn hành động hoặc tạo trajectory ở tầng cao, nhưng motor controller và safety logic ở tầng thấp vẫn cần vòng lặp nhỏ, ổn định và có giới hạn rõ ràng. Không nên hiểu việc chạy một VLM hay VLA trên robot là model đó trực tiếp thay thế toàn bộ bộ điều khiển servo.

Jetson Thor cho thấy cả tiềm năng lẫn khoảng cách còn lại

NVIDIA đang cố kéo ngày càng nhiều reasoning xuống robot. Tháng 8/2026, công ty công bố một workflow dùng model Cosmos 3 Edge 4B chạy trực tiếp trên Jetson AGX Thor để tạo policy cho thao tác robot. Sau post-training, hệ thống tạo một action chunk trong khoảng 1,53 giây theo thử nghiệm của NVIDIA.

Con số đó cho thấy một model hàng tỷ tham số đã có thể chạy cục bộ trên một computer gắn trong robot — điều khó thực tế hơn nhiều chỉ vài thế hệ phần cứng trước. Nhưng kết quả cũng là lời nhắc không nên đồng nhất “on-device” với “đã giải quyết robotics”. Trong đánh giá closed-loop của NVIDIA trên 120 tác vụ manipulation có điều kiện ngôn ngữ, policy đạt success rate 22,9%.

Nói cách khác, phần silicon đang tiến rất nhanh, còn độ tin cậy của model hành động vẫn là nút thắt. Một robot có đủ compute để chạy foundation model không có nghĩa nó đã đủ ổn định để làm việc cạnh con người mà không cần lớp kiểm soát và safety riêng.

Cuộc đua không còn chỉ là ai có accelerator mạnh nhất

Qualcomm, NVIDIA và AMD đang tiếp cận cùng một vấn đề từ ba điểm xuất phát khác nhau. NVIDIA có lợi thế lớn ở GPU, CUDA, Isaac và hệ sinh thái model robotics. Qualcomm mang kinh nghiệm từ mobile SoC, camera pipeline, wireless và compute theo hiệu suất trên watt sang robot. AMD đặt cược vào x86, GPU/NPU tích hợp và khả năng consolidation nhiều workload công nghiệp trên một chip.

Điểm hội tụ là kiến trúc. Robot thế hệ mới cần ingest nhiều sensor, chạy perception, world model hoặc VLA, lập kế hoạch, giao tiếp và điều khiển actuator trong một power budget có giới hạn. Việc gom các chức năng này gần nhau có thể giảm độ trễ, số board, dây nối và công sức tích hợp. Nhưng nó cũng tạo một câu hỏi khác: nếu quá nhiều chức năng dồn lên một platform, lỗi thermal, lỗi software hay contention tài nguyên có thể ảnh hưởng nhiều subsystem cùng lúc.

Do đó production robotics sẽ không chỉ hỏi “model chạy được bao nhiêu token mỗi giây?”. Các đội kỹ thuật còn phải đo worst-case latency dưới tải đồng thời, nhiệt độ khi robot chạy lâu, jitter trên bus điều khiển, khả năng cô lập fault, thời gian boot, functional safety và cách hệ thống suy giảm an toàn khi AI không chắc chắn.

Cloud không biến mất, nó đổi vai trò

Edge-first không có nghĩa robot trở thành một hòn đảo. Chính Qualcomm vẫn đưa fleet lifecycle, MLOps và cloud-connected management vào software stack của IQ10. NVIDIA cũng xây workflow trong đó simulation, training và data generation có thể diễn ra trên hệ thống lớn hơn trước khi model được deploy xuống Jetson.

Kiến trúc có khả năng thắng vì thế không phải “mọi thứ chạy trên robot” hay “mọi thứ chạy trên cloud”. Nó là sự phân chia công việc: những gì liên quan tới phản ứng tức thời, an toàn và hoạt động khi mất mạng phải tồn tại local; training, fleet learning, analytics và các tác vụ không nằm trên đường điều khiển có thể tận dụng datacenter.

Đây mới là ý nghĩa thực tế của lớp robotics compute đang xuất hiện. “Mắt”, “não” và “phản xạ” đang được kéo gần nhau hơn bên trong máy, nhưng phần khó tiếp theo không phải nhét thêm TOPS vào một module. Các hãng phải chứng minh toàn bộ chuỗi sensor-to-action vẫn predictable khi model lớn, camera, networking và control cùng chạy — và robot vẫn biết phải làm gì khi một trong những thành phần đó thất bại.