AI có thể suy nghĩ vài giây, robot thì không: Cuộc đua đưa trí tuệ nhân tạo xuống thời gian thực

Một chatbot có thể mất vài giây để suy nghĩ trước khi trả lời và người dùng thường vẫn chấp nhận được. Một robot thì không có đặc quyền đó.

Nếu chiếc cốc bắt đầu trượt khỏi tay, robot không thể dành hai giây để suy luận rồi mới tăng lực kẹp. Nếu một người bất ngờ bước vào đường đi, robot di động không thể chờ mô hình ngôn ngữ hoàn thành chuỗi reasoning. Nếu robot hình người bắt đầu mất thăng bằng, quyết định đưa chân ra đâu phải đến trước khi cơ thể đã ngã.

Đây đang trở thành một trong những mâu thuẫn quan trọng nhất của physical AI: những mô hình càng thông minh thường càng lớn và càng cần nhiều tính toán, trong khi thế giới vật lý lại yêu cầu phản ứng theo mili giây.

Trong năm 2026, một loạt nghiên cứu mới tập trung trực tiếp vào khoảng cách này. Reflex báo cáo khả năng điều khiển VLA ổn định ở 50 Hz. ReactVLA đưa độ trễ policy trên robot xuống dưới 38,6 ms trong thử nghiệm của nhóm. TurboVLA đạt khoảng 31,2 ms suy luận trên RTX 4090 với mô hình chỉ 0,2 tỷ tham số. TIC-VLA lại đi theo hướng khác: chấp nhận rằng reasoning ngữ nghĩa có thể chậm vài giây, rồi thiết kế bộ điều khiển để robot vẫn phản ứng trong lúc “não lớn” chưa suy nghĩ xong.

Google DeepMind cũng vừa đưa xu hướng này lên một cấp độ lớn hơn với Gemini Robotics 2. Bên cạnh mô hình reasoning cấp cao, công ty có riêng Gemini Robotics On-Device 2 được tối ưu để chạy trực tiếp trên robot, bởi nhiều ứng dụng không thể phụ thuộc vào độ trễ mạng hay kết nối Internet.

Cuộc đua robot vì vậy đang thay đổi. Câu hỏi không còn chỉ là “AI hiểu thế giới tốt đến đâu?”.

Nó còn là:

“AI có thể hiểu và hành động trước khi thế giới đã thay đổi hay không?”

Trong robot, một câu trả lời đúng nhưng đến muộn vẫn có thể là câu trả lời sai

AI trên máy tính thường được đánh giá bằng độ chính xác: trả lời đúng bao nhiêu câu, nhận dạng đúng bao nhiêu ảnh hoặc giải được bao nhiêu bài toán.

Robot phải thêm một biến khác: thời gian.

Giả sử camera nhìn thấy một quả bóng đang bay về phía robot. Mô hình sau 500 ms tính ra chính xác vị trí quả bóng sẽ đi qua. Nhưng trong nửa giây đó, bóng đã di chuyển thêm vài mét.

Kết quả toán học có thể đúng với ảnh cũ và hoàn toàn vô dụng với thế giới hiện tại.

Đây là khái niệm quan trọng trong robot thời gian thực: staleness – thông tin bị cũ.

Mỗi chu trình perception–reasoning–action đều mất thời gian. Camera chụp ảnh. Dữ liệu được chuyển vào bộ nhớ. Neural network xử lý. Policy sinh hành động. Lệnh được gửi tới motor controller. Động cơ cuối cùng mới tạo lực.

Nếu tổng thời gian này quá dài, robot luôn sống trong quá khứ.

Với chatbot, quá khứ vài giây thường không thay đổi nội dung câu hỏi. Với robot, vài trăm mili giây có thể đủ để một vật trượt, một cánh tay va vào người hoặc bánh xe vượt qua mép bậc.

VLA càng thông minh lại càng dễ vướng “khoảng cách điều khiển–suy luận”

Vision-Language-Action model – VLA – là một trong những hướng lớn nhất của robotics hiện nay.

Mô hình nhận hình ảnh và ngôn ngữ, sau đó tạo hành động cho robot. Lợi thế là một policy duy nhất có thể hiểu nhiều nhiệm vụ hơn thay vì mỗi kỹ năng phải có chương trình riêng.

Nhưng VLA kế thừa một phần vấn đề của những mô hình nền tảng mà nó được xây trên.

Mạng vision-language lớn rất giỏi hiểu “đây là chiếc cốc màu đỏ cạnh hộp ngũ cốc” hoặc suy luận “cần mở ngăn kéo trước khi đặt vật vào”. Nhưng chạy một backbone hàng tỷ tham số cho mỗi thay đổi nhỏ của camera có thể quá chậm.

Nghiên cứu Reflex công bố tháng 7/2026 mô tả khoảng cách rất rõ: thao tác robot mượt có thể cần vòng điều khiển khoảng 50–100 Hz, tương đương cập nhật mỗi 10–20 ms, trong khi nhiều VLA mạnh cần khoảng 100–200 ms cho một lần inference.

Nói cách khác, “não AI” có thể chậm hơn vòng điều khiển cần thiết cả một bậc độ lớn.

Nếu robot cứ đứng yên chờ mô hình sinh hành động tiếp theo, chuyển động sẽ giật cục. Nếu nó tiếp tục chạy chuỗi hành động cũ trong lúc inference mới diễn ra, phản ứng với thay đổi sẽ bị chậm.

Đây chính là bài toán mà nhiều nhóm đang cố giải trong năm 2026.

Giải pháp đầu tiên: đừng bắt AI suy nghĩ lại cho từng mili giây

Một cách phổ biến để giảm chi phí là action chunking.

Thay vì mô hình nhìn một frame rồi sinh đúng một hành động, nó sinh cả một đoạn quỹ đạo: ví dụ 20 hoặc 50 lệnh motor cho tương lai gần.

Robot bắt đầu thực hiện chunk đó trong khi mô hình tính chunk tiếp theo.

Ý tưởng giống việc bạn không cần nghĩ riêng từng chuyển động cơ nhỏ khi đưa tay lấy cốc. Não cấp cao quyết định “cầm cốc”, rồi các hệ vận động cấp thấp biến mục tiêu đó thành chuỗi chuyển động liên tục.

Action chunking giúp robot mượt hơn và giảm số lần phải gọi mô hình lớn.

Nhưng nó tạo ra vấn đề mới.

Nếu robot đã sinh 50 hành động dựa trên hình ảnh hiện tại rồi môi trường thay đổi ở hành động thứ 10, 40 hành động còn lại có thể đã lỗi thời.

Chunk càng dài, robot càng ít cần inference. Nhưng chunk càng dài, nó càng dễ tiếp tục làm theo kế hoạch cũ khi thế giới đã đổi.

Đây là cuộc đánh đổi giữa throughput và reaction time.

Reflex muốn VLA suy luận như một dòng chảy thay vì từng “cục” rời nhau

Reflex, nghiên cứu tiền xuất bản tháng 7/2026, đi theo hướng streaming inference.

Thay vì perception và action generation chạy tuần tự theo kiểu “nhìn → chờ → sinh toàn bộ hành động → chạy”, kiến trúc tách các khâu thành pipeline bất đồng bộ.

Robot vẫn hành động trong khi mô hình tiếp tục xử lý dữ liệu mới. Một module dự đoán trạng thái tương lai còn ước lượng robot sẽ ở đâu sau khoảng thời gian inference, để policy không chỉ conditioning lên trạng thái đã cũ ở thời điểm camera chụp.

Nhóm tác giả báo cáo Reflex tăng tốc inference 2,58 lần và giảm độ trễ phản ứng hệ thống tới 54% trong các thử nghiệm của họ, đồng thời đạt điều khiển ổn định ở 50 Hz.

Điểm thú vị không chỉ nằm ở con số 50 Hz.

Nó cho thấy một chuyển dịch trong cách tối ưu robot AI: không nhất thiết phải làm toàn bộ neural network chạy xong ngay lập tức. Có thể thay đổi cách các phần của hệ thống chạy song song.

Giống một dây chuyền nhà máy, throughput có thể tăng mạnh nếu sensor, encoder, action decoder và controller không phải chờ nhau hoàn toàn.

FASTER: hãy tạo hành động đầu tiên trước, nghĩ phần còn lại sau

FASTER, một nghiên cứu khác trong năm 2026, đặt câu hỏi đơn giản hơn: robot có thật sự cần biết toàn bộ quỹ đạo trước khi bắt đầu cử động?

Trong nhiều VLA dựa trên flow matching, mô hình lặp nhiều bước để tinh chỉnh cả action chunk. Cách làm này cho quỹ đạo tốt nhưng có nghĩa robot phải đợi toàn bộ quá trình kết thúc mới nhận được hành động đầu tiên.

FASTER ưu tiên những action nằm gần hiện tại.

Hành động đầu tiên được tạo bằng ít bước sampling hơn và gửi xuống robot sớm. Trong lúc máy thực hiện những chuyển động đầu, mô hình tiếp tục tinh chỉnh các phần xa hơn của quỹ đạo.

Nhóm nghiên cứu gọi một chỉ số rất đúng với robot: Time to First Action – TTFA.

Đối với chatbot, người ta thường quan tâm Time to First Token. Với robot, token đầu tiên không quan trọng bằng lúc motor nhận được hành động hữu ích đầu tiên.

FASTER được thử trên các robot thật, bao gồm một bài toán động cao như đánh bóng bàn. Đây là loại nhiệm vụ cho thấy cực rõ sự khác biệt giữa “policy thông minh” và “policy phản ứng đủ nhanh”.

Một kế hoạch vung vợt hoàn hảo nhưng đến sau khi bóng đi qua không có giá trị.

ReactVLA và TurboVLA chọn cách nhỏ hóa chính “bộ não hành động”

Một con đường khác là giảm khối lượng tính toán thay vì chỉ tối ưu pipeline.

ReactVLA, công bố dạng tiền xuất bản tháng 6/2026, dùng một cơ chế action generation nhằm giảm quá trình sampling nhiều bước xuống còn một hoặc vài bước.

Nhóm tác giả báo cáo tăng tốc inference hơn 4 lần so với một số VLA đối chứng và đưa policy latency trên robot xuống dưới 38,6 ms trong thử nghiệm của họ.

TurboVLA, đăng cuối tháng 7/2026, đi xa hơn về kiến trúc.

Nhiều VLA truyền thống có luồng kiểu:

hình ảnh → biểu diễn của language model → action.

TurboVLA đặt câu hỏi liệu robot có cần đưa mọi quan sát qua một LLM lớn trước mỗi hành động hay không.

Thay vào đó, mô hình mã hóa vision và instruction riêng rồi kết hợp chúng trực tiếp để sinh action. Kết quả được nhóm nghiên cứu báo cáo trên benchmark LIBERO là mô hình khoảng 0,2 tỷ tham số, inference khoảng 31,2 ms, dùng dưới 1 GB VRAM trên RTX 4090 và hoạt động khoảng 32 Hz.

Đây vẫn là kết quả nghiên cứu và benchmark không đồng nghĩa mọi robot thực sẽ đạt cùng con số. Nhưng hướng đi rất quan trọng:

VLA thời gian thực có thể không cần mang toàn bộ cấu trúc của một LLM lớn vào từng vòng điều khiển.

Robot có thể cần hai bộ não: một bộ nghĩ chậm, một bộ phản xạ nhanh

Một trong những kiến trúc ngày càng nổi bật là tách reasoning và control thành hai tầng.

Tầng chậm xử lý câu hỏi:

• Người dùng muốn gì?
• Đây là căn phòng nào?
• Cần hoàn thành các bước theo thứ tự nào?
• Vật nào có thể dùng làm công cụ?
• Nếu phương án A thất bại thì nên chuyển sang phương án nào?

Tầng nhanh xử lý:

• Bàn tay đang lệch 3 mm về bên trái.
• Vật bắt đầu trượt.
• Có người vừa bước vào vùng chuyển động.
• Khớp đang tiến gần giới hạn.
• Bánh xe vừa mất độ bám.

Hai lớp có yêu cầu thời gian rất khác nhau.

Một kế hoạch dọn bàn có thể cập nhật mỗi giây hoặc vài giây. Điều chỉnh lực kẹp phải diễn ra liên tục và nhanh hơn nhiều.

Nếu bắt cùng một mô hình giải cả hai bài toán ở cùng tần số, hệ thống vừa tốn compute vừa khó bảo đảm real-time.

Đây là lý do kiến trúc “fast–slow” đang xuất hiện trong hàng loạt nghiên cứu mới.

TIC-VLA chấp nhận rằng reasoning có thể chậm vài giây

Nghiên cứu TIC-VLA – Think-in-Control VLA năm 2026 đi thẳng vào thực tế khó chịu: semantic reasoning có thể bị trễ nhiều giây và không có lý do để vòng điều khiển phải dừng theo.

Hệ thống tách semantic state có độ trễ khỏi quan sát mới nhất. Bộ điều khiển nhận cả thông tin reasoning cũ và trạng thái hiện thời, đồng thời được huấn luyện để biết rằng thông tin ngữ nghĩa có thể đã vài frame hoặc vài giây tuổi.

Trong thử nghiệm mô phỏng và robot thật, nhóm tác giả báo cáo hệ thống giữ khả năng điều khiển thời gian thực ngay cả khi semantic reasoning có độ trễ nhiều giây.

Ý tưởng này gần với cách con người hoạt động hơn ta tưởng.

Bạn có thể vừa suy nghĩ “mình nên đặt chiếc nồi này ở kệ nào” vừa tự động giữ thăng bằng, điều chỉnh cổ tay và tránh va tay vào mép bàn. Không phải mọi phản xạ đều phải chờ ý thức hoàn thành một lập luận.

Robot cũng có thể cần kiến trúc tương tự: reasoning là một nguồn hướng dẫn, không phải chiếc đồng hồ điều khiển mọi motor.

Cloud có thể là “não lớn”, nhưng phản xạ phải ở edge

Cách dễ nhất để chạy một VLM hàng chục tỷ tham số là gửi hình ảnh lên cloud GPU.

Điều này hợp lý cho nhiệm vụ cấp cao. Một robot có thể gửi ảnh căn phòng lên server để hỏi “vật nào trên bàn là đồ dễ vỡ?” hoặc lập kế hoạch cho chuỗi công việc kéo dài vài phút.

Nhưng cloud không thể là nơi duy nhất quyết định motor.

Đường truyền có latency. Latency thay đổi theo thời điểm. Packet có thể bị mất. Wi-Fi có thể bị che. Mạng có thể ngắt hoàn toàn.

Quan trọng hơn, khi response trở về, hình ảnh được gửi lên cloud có thể đã lỗi thời.

Một nghiên cứu đăng đầu tháng 8/2026 có tên CloudEdgeVLA thử giải chính bài toán này.

Mô hình lớn trên cloud xử lý thông tin thay đổi chậm – như task context và semantic plan. Một head nhẹ trên robot nhận representation mới nhất từ cloud nhưng luôn kết hợp nó với hình ảnh hiện tại tại edge.

Edge không chờ cloud.

Nếu representation cấp cao đến chậm, robot vẫn dùng cảm biến mới nhất để hiệu chỉnh hành động.

Đây có thể là kiến trúc thực tế cho nhiều robot thương mại tương lai: cloud suy nghĩ sâu, robot phản ứng tại chỗ.

Google DeepMind đang đưa VLA xuống ngay trên robot

Google DeepMind đã thể hiện rõ xu hướng edge robotics từ năm 2025 với Gemini Robotics On-Device, một VLA được tối ưu để chạy cục bộ với độ trễ thấp.

Tháng 8/2026, công ty tiếp tục giới thiệu Gemini Robotics On-Device 2 như mô hình VLA hiệu quả nhất của họ dành cho chạy trực tiếp trên thiết bị robot.

DeepMind nói rõ lý do: nhiều ứng dụng robot cần hoạt động mà không phụ thuộc latency mạng hoặc kết nối Internet.

Trong kiến trúc Gemini Robotics 2 mới, công ty tách khá rõ các vai trò.

Gemini Robotics ER 2 tập trung vào embodied reasoning, giao tiếp với con người, hiểu thế giới và lập kế hoạch chuỗi nhiệm vụ kéo dài nhiều phút.

Gemini Robotics 2 chuyển vision và language thành motor control.

Gemini Robotics On-Device 2 tối ưu cho triển khai cục bộ trên robot.

Đây gần như là một bản đồ của vấn đề fast–slow: reasoning sâu, action generation và local execution không nhất thiết phải nằm trong cùng một model hay cùng một máy tính.

Vì sao “on-device” quan trọng hơn chuyện robot chạy offline?

Nói AI chạy trên robot thường khiến người ta nghĩ tới lợi ích đầu tiên là mất Internet vẫn hoạt động.

Đúng, nhưng real-time còn quan trọng hơn.

Giả sử round-trip network chỉ 30 ms – một con số khá tốt. Thêm camera capture, encoding, upload, queue trên server, inference, download và decoding, tổng pipeline rất dễ vượt ngưỡng phù hợp cho phản xạ nhanh.

Quan trọng hơn, 30 ms hôm nay không có nghĩa luôn 30 ms. Một spike lên 150 ms có thể không đáng kể khi chatbot trả lời, nhưng lại ảnh hưởng controller.

Chạy tại edge loại bỏ một biến bất định lớn khỏi vòng điều khiển.

Đây là lý do physical AI đang thúc đẩy một loại máy tính mới: đủ nhỏ và tiết kiệm điện để gắn lên robot nhưng đủ mạnh để chạy VLM, VLA, perception, mapping và sensor fusion đồng thời.

Jetson Thor là ví dụ cho cuộc đua mang “data center” lên thân robot

NVIDIA bắt đầu bán Jetson AGX Thor từ tháng 8/2025, nhắm trực tiếp vào humanoid và physical AI.

Module dùng kiến trúc Blackwell, có 128 GB bộ nhớ và NVIDIA công bố mức compute tối đa tới 2.070 FP4 teraflops trong power envelope tối đa 130 W.

So với Jetson Orin, NVIDIA cho biết Thor cung cấp tới 7,5 lần AI compute và 3,5 lần hiệu quả năng lượng trong các chỉ số của hãng.

Quan trọng hơn con số TOPS là mục tiêu kiến trúc.

Thor được thiết kế để chạy nhiều workload cùng lúc: perception từ nhiều camera, VLM, VLA, planning và xử lý sensor.

Trong benchmark do NVIDIA công bố, Qwen2.5-VL-3B và Llama 3.2 3B có Time to First Token dưới 200 ms trong bài thử nhiều request; GR00T N1.5 cũng được tối ưu bằng TensorRT để chạy trực tiếp trên nền tảng.

NVIDIA còn bổ sung preemptable realtime kernel, Multi-Instance GPU và accelerator chuyên cho vision, optical flow và sensor processing.

Đây là những tính năng ít hào nhoáng hơn “2.070 TOPS” nhưng rất quan trọng cho robot: workload an toàn hoặc sensor không được phép bị một mô hình generative lớn chiếm hết GPU đúng lúc.

Real-time không chỉ là FLOPS: tính xác định còn quan trọng hơn tốc độ trung bình

Một máy tính xử lý trung bình trong 10 ms nhưng thỉnh thoảng mất 200 ms có thể tệ hơn một hệ thống luôn mất 20 ms.

Robot cần determinism – khả năng dự đoán tương đối chắc chắn rằng một tác vụ sẽ hoàn thành trước deadline.

Điều này khác benchmark AI thông thường.

Khi đo LLM, người ta thường quan tâm token mỗi giây hoặc throughput. Khi điều khiển robot, câu hỏi có thể là: 99,999% vòng điều khiển có hoàn thành trước 10 ms hay không?

Đó là lý do hệ robot vẫn cần realtime operating system, thread priority, hardware scheduling, watchdog và những controller truyền thống bên dưới neural network.

Một GPU cực nhanh không tự động biến hệ thống thành robot real-time nếu camera driver bị nghẽn, memory copy mất thời gian bất thường hoặc kernel lớn chặn workload an toàn.

Độ trễ thực sự là tổng của cả “sensor-to-actuator”, không phải inference benchmark

Một paper có thể báo model latency 30 ms. Nhưng robot không chỉ chạy model.

Chuỗi thực tế gồm:

• Sensor exposure và capture.
• Truyền hình ảnh hoặc point cloud vào máy tính.
• Tiền xử lý và đồng bộ nhiều sensor.
• Perception hoặc encoder.
• Reasoning / policy inference.
• Action decoding.
• Gửi lệnh qua bus tới motor controller.
• Động cơ tạo torque.
• Cơ thể vật lý bắt đầu thay đổi.

Nếu model mất 20 ms nhưng camera buffering thêm 40 ms, hệ thống vẫn phản ứng chậm.

Do đó, cuộc đua real-time AI ngày càng trở thành bài toán co-design phần cứng–phần mềm–mô hình.

Không thể tối ưu riêng neural network rồi coi phần còn lại là miễn phí.

Tốc độ camera cũng vô nghĩa nếu AI chỉ nhìn một frame mỗi giây

Robot hiện đại có thể mang nhiều camera 30 hoặc 60 fps, tactile sensor, encoder khớp, IMU, microphone, force-torque sensor và LiDAR.

Nhưng một VLM lớn không thể nhất thiết xử lý toàn bộ dữ liệu này ở tốc độ nguyên bản.

Kiến trúc thực tế có thể chia sensor theo tầng.

Encoder khớp và IMU đi vào controller nhanh. Tactile event được xử lý ở vòng phản xạ. Camera RGB được policy visuomotor đọc vài chục Hz. VLM cấp cao chỉ xem những frame được chọn hoặc khi có sự kiện quan trọng.

Điều này giống hệ thần kinh sinh học hơn một camera gửi tất cả vào một “não trung tâm”.

Phản xạ không cần hiểu ngôn ngữ. Giữ thăng bằng không cần biết tên chiếc ghế. Nhưng planning cần semantic context mà controller torque không có.

Các hệ thống robot tổng quát vì thế có thể trở thành một hệ phân cấp thời gian, không phải một model duy nhất.

Quantization: đổi một chút độ chính xác số để lấy thêm mili giây

Một kỹ thuật quan trọng để đưa model xuống edge là quantization.

Mô hình AI thường được huấn luyện với số dấu phẩy động độ chính xác tương đối cao. Khi inference, nhiều workload có thể chuyển xuống FP8, FP4 hoặc integer thấp bit để giảm bộ nhớ và tăng throughput.

Jetson Thor hỗ trợ FP4 chính vì xu hướng này.

Nhưng robotics tạo ra yêu cầu khác chatbot.

Nếu lượng tử hóa làm một từ trong câu trả lời hơi khác, tác động có thể nhỏ. Nếu nó làm policy sai lệch vài phần trăm ở vùng gần giới hạn lực, hậu quả có thể vật lý.

Do đó, quantization cho robot phải được kiểm tra end-to-end: task success, độ mượt, lực, stability và những trường hợp ngoài phân phối.

Tối ưu latency không thể chỉ nhìn benchmark tensor.

Model nhỏ không nhất thiết đồng nghĩa robot kém thông minh

Một xu hướng đáng chú ý trong năm 2026 là nhiều nghiên cứu không cố nhét model lớn nhất lên robot.

TurboVLA là ví dụ rõ: tác giả cố tình bỏ cấu trúc LLM-centric ở vòng action nhanh, giữ representation vision và language đủ cho nhiệm vụ rồi dùng decoder nhỏ.

Ý tưởng có thể mở rộng thành một nguyên tắc:

Đừng dùng 70 tỷ tham số để giải bài toán 200 triệu tham số đã giải đủ tốt trong 20 ms.

Model lớn vẫn có thể cần cho reasoning sâu. Nhưng khi lệnh đã được chuyển thành mục tiêu như “đưa đầu kẹp tới tay cầm ngăn kéo”, control policy có thể rất nhỏ.

Việc phân chia đúng nhiệm vụ giữa model lớn và model nhỏ có thể quan trọng hơn việc làm một model duy nhất vừa thông minh nhất vừa nhanh nhất.

Robot còn có thể “nghĩ khi đang di chuyển”

Con người không thường xuyên dừng cơ thể để suy nghĩ rồi mới tiếp tục đi.

Chúng ta vừa bước vừa lập kế hoạch. Vừa lái xe vừa nhìn gương. Vừa đưa tay ra vừa hiệu chỉnh theo vật đang chuyển động.

Robotics đang học lại nguyên tắc tương tự.

Thay vì pipeline nối tiếp:

nhìn → nghĩ → hành động → dừng → nhìn lại,

hệ thống chuyển sang:

nhìn liên tục + hành động liên tục + suy nghĩ song song.

Đây là bản chất của asynchronous inference và streaming control.

Robot luôn có một action buffer để thực hiện, nhưng buffer liên tục được cập nhật bằng dữ liệu mới. Reasoning cấp cao có thể gửi mục tiêu mới bất kỳ lúc nào. Safety controller có thể ngắt mọi thứ ngay lập tức nếu phát hiện nguy hiểm.

Khi kiến trúc đủ tốt, “thời gian suy nghĩ” không còn đồng nghĩa với “thời gian đứng yên”.

Tương lai có thể cần AI dự đoán chính độ trễ của mình

Một điều thú vị trong các nghiên cứu mới là latency không còn được coi như một lỗi hệ thống nằm bên ngoài model.

TIC-VLA đưa thông tin độ trễ vào quá trình huấn luyện.

Reflex dự đoán trạng thái robot ở thời điểm inference sẽ hoàn tất.

CloudEdgeVLA huấn luyện representation cloud để vẫn hữu dụng khi observation bị trễ ngẫu nhiên.

Đây là bước thay đổi khái niệm.

Thay vì giả định AI luôn nhận ảnh “bây giờ” và action được thực hiện ngay, model được dạy rằng thời gian cũng là một phần của trạng thái thế giới.

Một observation 200 ms tuổi không giống observation hiện tại. Một kế hoạch đúng phải biết nó đang nhìn quá khứ bao xa.

Trong robot nhanh, awareness về latency có thể trở thành một modality giống vision hoặc proprioception.

Safety không thể chạy cùng tốc độ với reasoning

Một robot làm việc cạnh người cần những phản xạ không phụ thuộc vào model nền tảng.

Emergency stop, giới hạn torque, collision monitor, joint limits và vùng cấm phải tiếp tục hoạt động ngay cả khi VLA treo, GPU quá tải hoặc network mất.

Google DeepMind khi giới thiệu Gemini Robotics On-Device cũng nói rõ rằng model cần được giao tiếp với low-level safety-critical controllers để thực thi hành động.

Đây là ranh giới quan trọng.

Foundation model có thể đề xuất “đưa tay tới hộp”. Controller an toàn quyết định trajectory cụ thể có vượt giới hạn lực hay va vào người hay không.

Nếu AI lớn mất 300 ms, lớp safety vẫn phải phản ứng.

Robot đáng tin cậy vì vậy nhiều khả năng sẽ không bao giờ là “một neural network điều khiển mọi thứ”. Nó sẽ là nhiều lớp với quyền ưu tiên khác nhau.

Càng giống người, robot càng cần nhiều tần số điều khiển cùng lúc

Humanoid làm bài toán real-time khó hơn robot bánh xe.

Một robot di động có thể dừng khi không chắc chắn. Humanoid đứng thẳng vẫn phải liên tục giữ thăng bằng.

Hai chân, hai tay, bàn tay nhiều ngón và thân tạo hàng chục bậc tự do. Mỗi phần cơ thể sinh dữ liệu và cần phản hồi.

Trong khi đó, nhiệm vụ cấp cao có thể kéo dài nhiều phút: “thu gom đồ trên sàn rồi bỏ vào giỏ”.

Cùng một robot phải sống ở nhiều thang thời gian:

• mili giây cho motor và ổn định cơ thể;
• hàng chục mili giây cho phản ứng visuomotor;
• hàng trăm mili giây cho nhận thức phức tạp;
• giây cho reasoning và replanning;
• phút cho mục tiêu nhiệm vụ.

Đây có thể là lý do kiến trúc robot tương lai gần hệ thần kinh hơn kiến trúc chatbot.

Không có một tốc độ duy nhất gọi là “tốc độ suy nghĩ”.

Robot phẫu thuật cho thấy vài mili giây có thể quan trọng tới mức nào

Trong robot phẫu thuật, khai khoáng, xe tự hành hay robot cộng tác công nghiệp, latency không chỉ ảnh hưởng sự mượt mà.

Nó ảnh hưởng trực tiếp tới safety margin.

Một hệ surgical assistance có thể dùng model lớn để nhận diện cấu trúc mô hoặc lên kế hoạch. Nhưng force feedback, giới hạn vùng thao tác và phản ứng với chuyển động bất ngờ phải nhanh và xác định hơn nhiều.

NVIDIA cũng đưa surgical assistance vào nhóm ứng dụng nhắm tới Jetson Thor, cho thấy nhu cầu edge AI không chỉ nằm ở humanoid trình diễn.

Trong các ứng dụng công nghiệp, lợi ích của latency thấp cũng rất thực dụng: robot có thể chạy nhanh hơn mà vẫn dừng đúng lúc, xử lý vật di chuyển trên băng chuyền và làm việc gần con người với khoảng cách nhỏ hơn.

Cloud robotics sẽ không biến mất, nhưng vai trò sẽ đổi

Edge compute mạnh hơn không có nghĩa mọi model phải nằm trên robot.

Cloud vẫn có lợi thế khổng lồ về GPU, bộ nhớ và khả năng cập nhật model.

Các tác vụ như học từ dữ liệu đội robot, fine-tuning, lập kế hoạch dài hạn, phân tích log và reasoning rất nặng có thể tiếp tục chạy từ xa.

Điểm thay đổi là cloud không nên nằm trong đường phản xạ bắt buộc.

Một kiến trúc có thể hoạt động như sau:

• Robot chạy perception, safety và control nhanh tại edge.
• VLA cục bộ xử lý thao tác thường ngày.
• Model cloud được gọi khi cần reasoning sâu hoặc kiến thức lớn.
• Robot tiếp tục hoạt động an toàn khi cloud chưa trả lời.
• Khi response tới, nó được xem như update kế hoạch chứ không phải lệnh motor tức thời.

Đây là cách tận dụng cả hai thế giới mà không biến Wi-Fi thành một phần của hệ thống giữ thăng bằng.

Benchmark robot sẽ phải đo “reaction time”, không chỉ success rate

Một policy hoàn thành 90% nhiệm vụ nghe có vẻ tốt hơn policy đạt 85%.

Nhưng nếu model 90% mất 500 ms phản ứng còn model 85% chỉ mất 30 ms, lựa chọn phụ thuộc rất nhiều vào môi trường.

FASTER đề xuất TTFA. Reflex tập trung system reaction latency. Các nghiên cứu khác đo control frequency, throughput và độ mượt.

Điều này cho thấy benchmark robotics cần trưởng thành.

Không chỉ hỏi:

• Robot hoàn thành nhiệm vụ không?
• Robot có generalize sang vật mới không?

Mà còn:

• Mất bao lâu từ thay đổi môi trường tới hành động mới?
• Worst-case latency là bao nhiêu?
• Policy có chịu được jitter không?
• Khi inference chậm bất thường, robot làm gì?
• Chuyển động có ổn định khi chạy hàng giờ liên tục không?

Trong thế giới vật lý, tốc độ phản ứng là một phần của capability.

Điểm khó nhất: nhanh hơn mà không được phép “nghĩ ẩu”

Có một giải pháp rất dễ cho latency: giảm model tới mức nó phản ứng cực nhanh.

Nhưng robot tổng quát tồn tại chính vì các policy đơn giản không hiểu đủ nhiều trường hợp.

Nếu mô hình nhanh nhưng nhầm chai thủy tinh với vật mềm, latency thấp không cứu được nó. Nếu model cực thông minh nhưng mất hai giây, nó cũng không hữu ích trong phản xạ.

Cuộc đua vì thế không phải speed benchmark đơn thuần.

Nó là bài toán tìm điểm tối ưu giữa:

• intelligence;
• latency;
• power consumption;
• memory;
• reliability;
• safety.

Mỗi robot sẽ có điểm khác nhau. Robot hút bụi có thể dùng chip nhỏ. Humanoid cần compute lớn hơn. Drone còn bị giới hạn bởi khối lượng và pin. Robot phẫu thuật cần determinism và safety đặc biệt cao.

Cuộc đua AI tiếp theo có thể tính bằng mili giây thay vì tham số

Trong những năm đầu của generative AI, quy mô model là một trong những thước đo dễ nhìn nhất. 7 tỷ, 70 tỷ hay hàng trăm tỷ tham số trở thành biểu tượng của năng lực.

Robotics buộc ngành phải học một thước đo khác.

Một model 100 tỷ tham số có thể hiểu căn bếp rất sâu, nhưng robot vẫn cần biết phải làm gì trong 20 ms tiếp theo.

Đó là lý do năm 2026 xuất hiện đồng thời nhiều hướng:

Google DeepMind đưa VLA xuống on-device.

NVIDIA đưa compute cỡ server vào module gắn trên robot.

Reflex và FASTER biến inference thành streaming.

TIC-VLA tách reasoning chậm khỏi control nhanh.

ReactVLA và TurboVLA giảm chi phí của action model.

CloudEdgeVLA để cloud nghĩ sâu nhưng edge không bao giờ phải đứng chờ.

Những hướng này khác nhau về thuật toán nhưng cùng giải một bài toán: AI phải học cách tồn tại dưới deadline vật lý.

Robot không cần suy nghĩ nhanh mọi lúc – nó cần biết thứ gì phải nhanh

Có lẽ đây là thay đổi quan trọng nhất trong kiến trúc physical AI.

Mục tiêu không phải ép mọi reasoning của một foundation model xuống 1 ms. Điều đó vừa khó vừa không cần thiết.

Một robot không cần quyết định “nên xếp căn phòng theo chiến lược nào?” 100 lần mỗi giây.

Nó cần quyết định “ngón tay đang trượt thì tăng lực bao nhiêu?” rất nhanh.

Nó không cần nhận dạng lại toàn bộ thế giới mỗi khi encoder khớp thay đổi.

Nó cần safety controller biết ngay khi joint vượt giới hạn.

Trí tuệ thời gian thực vì vậy có thể không phải một model chạy cực nhanh, mà là một hệ thống biết phân loại quyết định theo deadline.

Thứ có thể chờ thì để model lớn nghĩ.

Thứ không thể chờ thì xử lý ở edge bằng policy nhỏ hoặc controller chuyên dụng.

Thứ nguy hiểm thì lớp safety được quyền ngắt cả hai.

Từ “AI biết suy nghĩ” tới “AI biết phản xạ”

Generative AI đã chứng minh máy có thể xử lý ngôn ngữ, hình ảnh và reasoning với mức độ ngày càng cao.

Nhưng robot đặt AI vào một bài kiểm tra mà màn hình không có: thế giới không dừng lại trong lúc model suy luận.

Vật vẫn rơi.

Người vẫn bước.

Bánh xe vẫn trượt.

Cơ thể vẫn chịu trọng lực.

Đó là lý do “real-time intelligence” có thể trở thành một trong những biên giới quan trọng nhất của AI vài năm tới.

Robot thành công không nhất thiết là robot có model reasoning lớn nhất. Nó có thể là robot kết hợp được nhiều tầng trí tuệ nhất: một lớp hiểu thế giới sâu, một lớp lập kế hoạch tốt, một lớp hành động nhanh và một lớp phản xạ đủ tin cậy để giữ an toàn khi tất cả phần còn lại chưa kịp nghĩ xong.

Trong chatbot, vài giây suy nghĩ có thể tạo ra câu trả lời hay hơn.

Trong robot, vài giây đôi khi là khoảng cách giữa “đã hiểu vấn đề” và “đã quá muộn để làm gì”.

Nguồn tham khảo

• Google DeepMind, “Gemini Robotics 2 brings whole body intelligence to robots”, tháng 8/2026.
• Google DeepMind, “Gemini Robotics On-Device brings AI to local robotic devices”, 24/6/2025.
• NVIDIA, “Introducing NVIDIA Jetson Thor, the Ultimate Platform for Physical AI”, 25/8/2025.
• NVIDIA, “NVIDIA Blackwell-Powered Jetson Thor Now Available, Accelerating the Age of General Robotics”, 25/8/2025.
• Huang Z. và cộng sự, “TIC-VLA: A Think-in-Control Vision-Language-Action Model for Robot Navigation in Dynamic Environments”, arXiv:2602.02459, 2026 (tiền xuất bản).
• Lu Y. và cộng sự, “FASTER: Rethinking Real-Time Flow VLAs”, arXiv:2603.19199, 2026 (tiền xuất bản).
• Guo Y. và cộng sự, “ReactVLA: Fast and Lightweight Reactive Robot Manipulation via Improved Mean Flow Action Generation”, arXiv:2606.14255, 2026 (tiền xuất bản).
• “Reflex: Real-Time Vision-Language-Action Control through Streaming Inference”, arXiv:2607.14695, 2026 (tiền xuất bản).
• Xie H. và cộng sự, “TurboVLA: Real-Time Vision-Language-Action Model at 32 Hz on an RTX 4090 with <1 GB VRAM”, arXiv:2607.27205, 2026 (tiền xuất bản).
• Peng D. và cộng sự, “Latency-Tolerant Cloud-Edge Collaborative Vision-Language-Action Models via Emergent Representational Specialization”, arXiv:2608.00569, 2026 (tiền xuất bản).