Chatbot có thể trả lời “gần đúng”: Robot thì không thể “gần như” tránh được con người

Một chatbot trả lời sai một chi tiết có thể khiến người dùng phải hỏi lại. Một robot di động sai vài chục centimet có thể đâm vào người đứng cạnh nó.

Đó là khác biệt khiến việc đưa foundation model từ màn hình xuống thế giới vật lý khó hơn nhiều so với chỉ cải thiện benchmark. Với robot, “99% số lần đều đúng” chưa chắc là một tiêu chuẩn đủ tốt nếu 1% còn lại gồm những lần lao vào vật cản, vượt khỏi workspace hoặc đưa cánh tay vào nơi có con người.

Một nhóm tại University of California, Irvine (UC Irvine) đang thử giải bài toán theo hướng khá thực dụng: đừng cố chứng minh cả foundation model khổng lồ là an toàn. Hãy để model lớn làm phần nó giỏi — hiểu ảnh, ngôn ngữ và mục tiêu — rồi buộc mọi hành động cuối cùng phải đi qua một module nhỏ hơn đủ đơn giản để formal verification kiểm tra.

Framework này có tên FEARL — Foundation-Enabled Assured Robot Learning, được Davide Corsi, Kyungmin Kim và Roy Fox công bố dưới dạng preprint trên arXiv tháng 6/2026. Trong các mô phỏng, lớp kiểm chứng kết hợp runtime shield đưa safety violation về 0 trong các episode đánh giá. Khi chuyển sang robot Hello Robot Stretch 2 thật, cùng cơ chế giữ tỷ lệ va chạm ở 0 trong 18 lượt thử, trong khi tắt shield làm collision rate tăng lên 27,8%.

Kết quả đó đáng chú ý, nhưng chưa phải bằng chứng một robot foundation model đã có thể đi an toàn giữa đám đông. Thử nghiệm thật diễn ra trong một khu vực indoor khoảng 2,5 × 1,8 m với vật cản được bố trí sẵn. FEARL hiện mới bảo đảm những safety constraint có thể diễn đạt bằng các tín hiệu thấp chiều như LiDAR hoặc pose — không phải toàn bộ sự phức tạp của hành vi con người.

Vấn đề của foundation model: càng thông minh, càng khó chứng minh

Robot foundation model và vision-language-action model (VLA) hấp dẫn vì chúng có thể dùng camera cùng câu lệnh tự nhiên để chọn hành động. Thay vì lập trình riêng “đi tới cửa”, “nhặt hộp” hay “rẽ quanh bàn”, một model lớn có thể học những pattern chung và thích nghi với nhiều nhiệm vụ hơn.

Nhưng chính kích thước và tính linh hoạt đó khiến formal verification gặp khó. Các công cụ kiểm chứng neural network hiện nay có thể phân tích những mạng tương đối nhỏ, nơi không gian đầu vào và đầu ra còn đủ khả năng chia nhỏ và chứng minh. Một foundation model có hàng triệu hoặc hàng tỷ tham số, nhận pixel và ngôn ngữ tự do, nằm xa quy mô đó.

Testing cũng không giải quyết hoàn toàn vấn đề. Nếu robot chạy thành công 100.000 lần, ta chỉ biết nó chưa gặp lỗi trong 100.000 lần đó. Ta chưa chứng minh rằng một trạng thái hiếm, một kiểu vật cản khác hoặc một tổ hợp sensor noise mới sẽ không làm nó chọn hành động nguy hiểm.

Paper FEARL gọi đây là khác biệt giữa empirical safety và certificate. Một policy có thể có collision rate rất thấp trong test set nhưng vẫn không có một vùng trạng thái nào được chứng minh là an toàn cho mọi input thuộc vùng đó.

FEARL chia robot thành “bộ não lớn” và “cửa an toàn nhỏ”

Kiến trúc FEARL có hai phần.

Module C là controller lớn. Nó có thể chứa LLM, vision transformer hoặc VLA đã pretrained. Nhiệm vụ của phần này là xử lý ảnh, câu lệnh và ngữ cảnh phức tạp rồi nén chúng thành một vector nhỏ biểu diễn robot đang muốn làm gì.

Module S nhận vector ngữ cảnh đó cùng dữ liệu safety sensor có ý nghĩa vật lý rõ ràng — chẳng hạn khoảng cách LiDAR tới chướng ngại hoặc vị trí của robot — rồi mới chọn hành động cuối cùng.

Trong các thí nghiệm, Module S chỉ là một multilayer perceptron hai lớp, mỗi lớp 32 unit. Kích thước nhỏ là điều có chủ ý: đây là phần mà nhóm muốn formal verifier có thể phân tích được.

Một ví dụ cho thấy logic này khá trực quan. Chọn cánh cửa màu đỏ nào cần đi tới có thể cần camera và language model. Nhưng câu hỏi đi thẳng thêm một bước lúc này có đâm vào tường không? có thể được trả lời bằng khoảng cách LiDAR. FEARL cố tách hai kiểu suy luận thay vì để một model duy nhất vừa hiểu ngôn ngữ vừa tự chịu trách nhiệm cuối cùng cho collision avoidance.

Paper còn đặt yêu cầu mạnh hơn: safety property của Module S phải đúng cho mọi context embedding nằm trong miền cho phép. Về ý tưởng, ngay cả khi foundation model phía trên hiểu sai hoặc “hallucinate”, nó vẫn không được phép ép safety module xuất ra một hành động đã được định nghĩa là nguy hiểm trong vùng sensor tương ứng.

Formal verification không kiểm tra từng lần robot chạy

FEARL làm phần tính toán nặng trước khi triển khai.

Nhóm mở rộng công cụ ε-ProVe để chia không gian input của Module S thành hai phần. Một phần được certified safe: verifier có thể chứng nhận rằng safety constraints được thỏa trong vùng đó với các tham số xác suất đã đặt. Phần còn lại là uncertified: không có nghĩa chắc chắn nguy hiểm, chỉ có nghĩa verifier chưa chứng minh được an toàn.

Khi robot chạy, action ở vùng đã certified được đi qua gần như bình thường. Chỉ khi trạng thái rơi vào vùng chưa được chứng nhận và action đề xuất vi phạm constraint, một runtime shield mới can thiệp và thay nó bằng phương án an toàn hơn.

Cách này khác một safety filter phải giải một bài toán đắt tiền ở mọi control step. Nhóm muốn dùng formal verification offline để xác định trước phần lớn nơi policy có thể được tin tưởng, rồi chỉ kích hoạt shield ở phần nhỏ còn lại.

Chi phí kiểm chứng vẫn không nhỏ. Trong thử nghiệm, playground 2D được chứng nhận 99,4% không gian input trong 22,7 giây. Indoor navigation với 11 chiều LiDAR đạt 78,9% sau khoảng 1.522 giây. Phiên bản dùng SmolVLA đạt 91,2% sau khoảng 2.691 giây, còn outdoor navigation đạt 82,7% sau khoảng 3.271 giây. Đây là hàng chục phút tới gần một giờ, nhưng diễn ra offline nên không làm chậm vòng điều khiển lúc robot hoạt động.

Shield loại bỏ violation, nhưng đôi khi cũng làm robot kém hoàn thành nhiệm vụ hơn

Safety không miễn phí.

Ở indoor navigation dùng controller tùy chỉnh, success rate trước shield là 73,1%, violation rate 1,3%. Sau shield, violation về 0 nhưng success giảm nhẹ xuống 71,3%.

Với biến thể dùng SmolVLA, trade-off rõ hơn: success giảm từ 80,1% xuống 68,2% khi shield được bật, trong khi violation từ 2,7% về 0. Shield chỉ override khoảng 1,13% số bước, nhưng một can thiệp nhỏ ở thời điểm quan trọng vẫn có thể khiến robot mất đường tốt hoặc không hoàn tất task.

Outdoor navigation giảm từ 89,6% xuống 87,2% success, đồng thời violation từ 1,6% xuống 0.

Những con số này cho thấy tại sao “cứ chặn mọi hành động nghi ngờ” không phải giải pháp hoàn chỉnh. Một robot dừng liên tục chắc chắn ít va chạm hơn, nhưng cũng không còn hữu ích. Bài toán engineering là tạo safety layer đủ mạnh để ngăn hành động nguy hiểm nhưng đủ ít can thiệp để task vẫn hoàn thành.

Trên robot thật: cùng success rate, nhưng một bên va chạm 27,8%

Phần đáng chú ý nhất của paper là sim-to-real transfer trên Hello Robot Stretch 2.

Robot được đặt trong một khu vực indoor khoảng 2,5 × 1,8 m, với ba vùng mục tiêu và các khối vật cản. LiDAR 2D gốc tạo 1.080 measurement quanh 360°, sau đó hệ thống rút xuống 11 ray phía trước để khớp với representation đã dùng lúc train và verify trong simulation.

Nhóm chạy 18 episode trên phần cứng thật. Với shield, robot đạt success rate 61,1% và không va chạm. Khi tắt shield nhưng giữ các phần khác như cũ, success vẫn 61,1% nhưng collision rate là 27,8%.

Shield can thiệp ở 7,8% số bước. Module S trước đó đã được chứng nhận khoảng 77,1% input domain trong cấu hình sim-to-real này.

Đây là ví dụ khá rõ về điều mà benchmark task success có thể che giấu. Hai policy có cùng tỷ lệ hoàn thành nhiệm vụ, nhưng một policy đi tới đích bằng những trajectory có va chạm trong hơn một phần tư episode thử nghiệm.

Tuy nhiên, 18 episode là dataset rất nhỏ. Môi trường cũng có cấu trúc rõ và không có người đi lại tự do. Paper chứng minh rằng safety interface dựa trên LiDAR có thể chuyển từ simulation sang robot thật trong setup này; nó chưa chứng minh universal collision avoidance.

“Tránh con người” còn khó hơn tránh một khối hộp

Một vật cản tĩnh không đổi ý. Con người thì có.

Người có thể dừng đột ngột, quay lại, với tay vào workspace hoặc bước vào đường robot ngay sau khi sensor vừa cập nhật. Vì vậy safety quanh người cần không chỉ khoảng cách hiện tại mà còn prediction, uncertainty và giới hạn về tốc độ dừng của robot.

Một nghiên cứu khác công bố trên Robotics and Autonomous Systems năm 2026 xử lý chính bài toán này trong mixed human–robot work cell. Hệ thống dùng nhiều camera và neural network ở edge để ước lượng pose của người, học chu kỳ hoạt động của robot arm theo thời gian rồi dự đoán khoảng thời gian còn lại trước một collision tiềm năng. Nhóm đã triển khai hệ thống trong một scenario nhà máy thật.

Một paper trên Frontiers in Robotics and AI tháng 8/2026 lại dùng vision-language model như một monitor dự báo. Thay vì đợi task thất bại rồi replanning, hệ thống nhìn trạng thái hiện tại và đoán liệu một execution condition có bị vi phạm trong vài bước tiếp theo hay không. Khi rủi ro vượt threshold, robot dừng và chuyển sang fallback trước khi va chạm. Thử nghiệm có moving human obstacle và hai robot arm dùng chung workspace, nhưng mới chạy trong Gazebo simulation.

Hai hướng này cho thấy collision avoidance quanh người không chỉ là một bài toán “AI hiểu người tốt hơn”. Nó còn là bài toán control: robot phải biết khi nào thông tin đủ chắc chắn để tiếp tục và khi nào phải coi uncertainty như một lý do để chậm lại hoặc dừng.

Formal guarantee cũng có biên giới của nó

“Đã verified” rất dễ bị hiểu thành “không thể xảy ra tai nạn”. Paper FEARL không đưa ra tuyên bố rộng như vậy.

Đầu tiên, certificate chỉ đúng với safety specification đã viết ra. Nếu specification nói “không đi thẳng khi LiDAR phía trước dưới ngưỡng X”, verifier có thể kiểm tra property đó. Nó không tự suy ra mọi hành vi nguy hiểm mà kỹ sư quên mô tả.

Thứ hai, guarantee phụ thuộc vào sensor. Nhóm nhấn mạnh sim-to-real safety chỉ được giữ nếu safety sensor được hiệu chuẩn đúng và input preprocessing vẫn nằm trong bounds dùng lúc verification. Một LiDAR hỏng, vật liệu gây reflection bất thường hoặc latency ngoài mô hình có thể phá giả định.

Thứ ba, ε-ProVe trong paper là probabilistic verifier. Ở các simulation, nhóm đặt mục tiêu false-positive rate tối đa 0,5% với confidence 99,99%; cấu hình robot thật dùng confidence 97,6%. Vì vậy từ “formal” ở đây không nên bị biến thành lời hứa tuyệt đối về mọi trạng thái của thế giới vật lý.

Cuối cùng, FEARL hiện phù hợp nhất với những constraint có thể diễn đạt qua sensor thấp chiều. Chính tác giả đưa ra ví dụ họ chưa xử lý được: biết một chiếc cốc thủy tinh không nên đặt sát mép bàn. Đó là semantic safety — nó đòi model hiểu “cốc”, “mép bàn” và hậu quả có thể xảy ra, không chỉ đọc một khoảng cách LiDAR.

Robot AI có thể cần hai chuẩn khác nhau: thông minh và được phép hành động

Foundation model trong robotics thường được đánh giá bằng task success, generalization hoặc khả năng làm theo câu lệnh mới. Những metric đó vẫn cần thiết. Nhưng chúng trả lời câu hỏi “robot làm được bao nhiêu việc?”, không trả lời đầy đủ câu hỏi “ở đâu robot chắc chắn không nên làm việc đó?”.

FEARL đưa ra một kiến trúc đáng chú ý vì không cố biến model lớn thành thứ dễ kiểm chứng. Nó chấp nhận rằng foundation model sẽ tiếp tục phức tạp, rồi xây một interface hẹp hơn ở điểm quyết định hành động vật lý.

Đây có thể là một pattern quan trọng cho embodied AI: model lớn đề xuất, module nhỏ có thể kiểm chứng quyết định xem hành động đó có nằm trong vùng được phép hay không, và runtime monitor xử lý phần còn chưa chắc chắn.

Nhưng để đi từ robot chạy giữa các khối hộp tới robot làm việc cạnh con người, safety layer phải mở rộng sang động lực của người, occlusion, sensor failure, contact, nhiều robot cùng lúc và những rủi ro mang tính ngữ nghĩa. Khi đó câu hỏi không còn chỉ là “model có trả lời đúng không?”.

Nó là: nếu model sai đúng một lần, robot có còn một lớp nào đủ đơn giản và đủ chắc chắn để ngăn sai lầm đó biến thành va chạm hay không?

Nguồn: UC Irvine — Verifiable Foundation Models for Robot Safety; bản HTML đầy đủ của FEARL; Robotics and Autonomous Systems — Collision prediction using plan learning in mixed human–robot work cells; Frontiers in Robotics and AI — Predictive vision-language monitoring for proactive safety in robot task execution; Vision-Language-Action Safety: Threats, Challenges, Evaluations, and Mechanisms.