400 nhà khoa học muốn “cách ly” frontier AI khỏi Internet: Họ đang lo điều gì?

Thư ngỏ đang được chú ý không yêu cầu tháo Internet khỏi mọi chatbot. Nhóm tác giả nhắm tới các mô hình có năng lực an ninh mạng đủ mạnh để vượt khỏi môi trường bị giới hạn và tác động tới hệ thống bên ngoài.

Thư ngỏ về AI và an ninh mạng tháng 10/2026 hiện liệt kê 406 người ký. Họ đề xuất cơ chế cách ly có độ bảo đảm cao, mặc định air-gap trong giai đoạn đầu đối với AI có năng lực tấn công mạng, cùng một cơ quan quốc tế đặt chuẩn và ghi nhận sự cố.

Mối lo là quyền hành động đi trước khả năng kiểm soát

AI có khả năng viết và phân tích mã có thể hỗ trợ bảo vệ hệ thống. Khi được kết nối với công cụ, năng lực ấy còn có thể tạo hành động thực. Vấn đề là liệu môi trường triển khai có giới hạn được hành động khi mô hình đi lệch nhiệm vụ hay không.

Có thể hình dung bằng tình huống giả định: hệ thống được giao đánh giá một môi trường thử nhưng công cụ lại có đường truy cập ra ngoài. Lời hướng dẫn về phạm vi không tự chặn được đường truy cập ấy. Nếu một hành động không phù hợp được chọn, giới hạn phải tồn tại ở lớp thực thi.

Đó là khác biệt giữa yêu cầu model tuân thủ và thiết kế để một nhóm hành động không được phép không thể thực hiện. Hai cách tiếp cận bổ sung cho nhau, nhưng không phải một.

Air-gap và sandbox giải quyết những lớp khác nhau

Air-gap là ngắt kết nối với mạng bên ngoài. Sandbox là môi trường giới hạn tài nguyên và hành động. Thư ngỏ đề nghị dùng các biện pháp cách ly mạnh, bao gồm air-gap, cho nhóm mô hình được xác định có rủi ro.

Ngắt mạng làm giảm đường tác động ra Internet, nhưng vẫn cần quản lý dữ liệu, quyền và cách đưa kết quả ra khỏi môi trường. Một môi trường không nối mạng chưa tự trả lời mọi câu hỏi về hành vi bên trong.

Ngược lại, môi trường có kết nối cần xác định rõ hành động nào được phép và cách giám sát. Thư ngỏ đặt câu hỏi về mức cân bằng giữa khả năng dùng công cụ và khả năng dự báo hành vi an toàn.

Vì sao nhóm tác giả muốn chia sẻ sự cố?

Nếu mỗi tổ chức chỉ biết lỗi của mình, những điều kiện gây thất bại có thể được lặp lại ở nơi khác. Hệ thống báo cáo giúp xác định vấn đề nằm ở model, quyền công cụ, cách cách ly hay sự phối hợp giữa các lớp.

Thư ngỏ đề xuất một cơ quan theo dõi thất bại trong cách ly và yêu cầu báo cáo, cuối cùng công khai các sự cố phù hợp. Đây là đề xuất về học hỏi và trách nhiệm, không phải cơ quan đã được thành lập hay nghĩa vụ pháp lý đã có hiệu lực.

Công khai cũng cần phạm vi hợp lý: thông tin phục vụ hiểu nguyên nhân không nhất thiết phải kèm mọi chi tiết có thể bị dùng để gây hại. Việc tổ chức cơ chế ấy vẫn cần thảo luận và quyết định cụ thể.

Khuyến nghị chưa phải lệnh cấm

Số người ký cho thấy mức độ quan tâm, không chứng minh mọi nhà khoa học đồng ý hoặc một phương án là tối ưu trong mọi trường hợp. Thư ngỏ là tiếng nói của nhóm ký tên; đánh giá hiệu quả còn cần bằng chứng triển khai.

Ngắt kết nối có thể hạn chế một số công việc cần dữ liệu mới hoặc công cụ trực tuyến. Vì vậy, nhóm tác giả còn đề nghị xây dựng phương án cách ly cho phép truy cập có kiểm soát, thay vì chỉ chọn giữa toàn quyền và hoàn toàn không dùng mạng.

Điều cần theo dõi tiếp là tiêu chí xác định mô hình thuộc phạm vi, phép thử chứng minh cách ly đủ mạnh và cơ chế xử lý khi một giới hạn thất bại. Đó là phần quyết định khả năng chuyển lời kêu gọi thành thực hành có thể kiểm chứng.

Ảnh minh họa là sơ đồ chuỗi sao chép AI của Anthropic, không phải hình của thư ngỏ hay bằng chứng về sự cố do các bên ký tên thực hiện. Nguồn nội dung: văn bản thư ngỏ.