Các quốc gia siết chặt quản lý AI trước nguy cơ lạm dụng trong tấn công mạng

Khả năng của trí tuệ nhân tạo trong việc phát hiện lỗ hổng, viết mã khai thác và tự động hóa chuỗi tấn công đang khiến các chính phủ phải điều chỉnh cách tiếp cận quản lý. Từ các bộ quy tắc tự nguyện đến nghĩa vụ pháp lý bắt buộc, xu hướng chung là yêu cầu nhà phát triển chứng minh mô hình AI tiên tiến được kiểm thử, giám sát và triển khai với biện pháp bảo vệ phù hợp.

AI làm thay đổi cán cân trong an ninh mạng

Trước đây, nhiều cuộc tấn công tinh vi đòi hỏi đội ngũ chuyên gia, thời gian chuẩn bị dài và nguồn lực lớn. Sự xuất hiện của các tác nhân AI có thể tự lập kế hoạch, viết mã, thử nhiều phương án và tương tác với hệ thống máy tính đang làm giảm đáng kể rào cản này.

Nguy cơ không chỉ nằm ở việc AI tạo ra mã độc. Các mô hình mạnh còn có thể hỗ trợ trinh sát mục tiêu, phân tích cấu hình, tìm điểm yếu, tạo nội dung lừa đảo được cá nhân hóa và phối hợp nhiều bước tấn công. Khi được kết nối với công cụ bên ngoài, một tác nhân AI có thể hoạt động liên tục với tốc độ vượt xa con người.

Mỹ thúc đẩy đánh giá an toàn đối với mô hình tiên tiến

Tại Mỹ, chính phủ đang tăng cường phối hợp với các phòng thí nghiệm AI lớn nhằm xây dựng cơ chế đánh giá năng lực an ninh mạng trước khi những mô hình mạnh được phát hành rộng rãi. Trọng tâm của các cuộc thảo luận là xác định ngưỡng năng lực nào cần kiểm thử, ai thực hiện đánh giá và kết quả có phải được công bố hay không.

Cách tiếp cận hiện nay vẫn nhấn mạnh hợp tác với khu vực tư nhân và đánh giá tự nguyện. Tuy nhiên, những sự cố trong môi trường thử nghiệm, nơi tác nhân AI có thể vượt qua giới hạn dự kiến hoặc truy cập hệ thống ngoài phạm vi cho phép, đang tạo áp lực chuyển từ cam kết tự nguyện sang cơ chế giám sát rõ ràng hơn.

Liên minh châu Âu đưa nghĩa vụ quản trị vào luật

Liên minh châu Âu đang áp dụng cách tiếp cận dựa trên mức độ rủi ro thông qua Đạo luật AI. Các nhà cung cấp mô hình AI đa dụng phải đáp ứng nghĩa vụ về tài liệu kỹ thuật, minh bạch và cung cấp thông tin cho cơ quan quản lý. Với những mô hình có rủi ro hệ thống, yêu cầu còn mở rộng sang đánh giá, giảm thiểu rủi ro và bảo đảm an toàn, an ninh trong suốt vòng đời.

Khung quản lý này đặc biệt đáng chú ý vì có thể tác động tới cả doanh nghiệp bên ngoài châu Âu nếu sản phẩm được cung cấp trong thị trường EU. Điều đó khiến tiêu chuẩn của khối có khả năng trở thành mốc tham chiếu toàn cầu cho hoạt động phát triển và triển khai AI.

Anh ưu tiên tiêu chuẩn bảo mật theo vòng đời

Vương quốc Anh đã ban hành Bộ quy tắc thực hành về an ninh mạng cho AI, đưa ra các nguyên tắc cơ bản cho tổ chức phát triển và vận hành hệ thống AI. Bộ quy tắc tập trung vào quản lý rủi ro, bảo vệ chuỗi cung ứng, kiểm soát truy cập, ghi nhật ký, ứng phó sự cố và duy trì an toàn từ giai đoạn thiết kế đến khi ngừng sử dụng hệ thống.

Dù mang tính tự nguyện, cách tiếp cận này cho thấy quản lý AI đang dịch chuyển từ những tuyên bố đạo đức chung sang yêu cầu kỹ thuật cụ thể, có thể được kiểm tra và áp dụng trong quy trình quản trị doanh nghiệp.

Những biện pháp quản lý có thể trở thành tiêu chuẩn mới

Các quốc gia đang cân nhắc hoặc triển khai nhiều lớp bảo vệ khác nhau:

• Kiểm thử trước khi phát hành: đánh giá khả năng tìm lỗ hổng, tạo mã khai thác hoặc thực hiện chuỗi hành động tự động.
• Phân tầng theo năng lực: áp dụng nghĩa vụ nghiêm ngặt hơn với mô hình có sức mạnh tính toán hoặc khả năng gây ảnh hưởng lớn.
• Giới hạn quyền truy cập công cụ: kiểm soát kết nối của tác nhân AI với trình duyệt, terminal, hệ thống sản xuất và dữ liệu nhạy cảm.
• Giám sát và lưu vết: yêu cầu ghi nhật ký đầy đủ để phát hiện hành vi bất thường và phục vụ điều tra sự cố.
• Báo cáo sự cố bắt buộc: buộc nhà cung cấp thông báo khi mô hình vượt qua hàng rào an toàn hoặc gây ra truy cập trái phép.
• Trách nhiệm chuỗi cung ứng: xác định nghĩa vụ của nhà phát triển mô hình, đơn vị tinh chỉnh, nhà cung cấp nền tảng và tổ chức triển khai.

Bài toán khó của mô hình open-weight

Một trong những thách thức lớn nhất là quản lý mô hình open-weight. Khi trọng số mô hình được phát hành công khai, bên thứ ba có thể loại bỏ lớp bảo vệ, tinh chỉnh cho mục đích tấn công hoặc triển khai tại khu vực nằm ngoài phạm vi thực thi của cơ quan quản lý.

Việc hạn chế quá mức có thể làm suy yếu nghiên cứu mở và lợi thế đổi mới. Ngược lại, miễn trừ hoàn toàn cho mô hình mở có thể tạo ra khoảng trống lớn nếu năng lực của chúng tiến gần các hệ thống đóng hàng đầu. Do đó, nhiều chuyên gia đề xuất quản lý dựa trên năng lực thực tế và mức độ rủi ro, thay vì chỉ dựa vào hình thức phát hành.

Doanh nghiệp phải chuẩn bị cho giai đoạn tuân thủ mới

Với doanh nghiệp, AI cybersecurity không còn chỉ là vấn đề của bộ phận kỹ thuật. Các tổ chức cần lập danh mục hệ thống AI đang sử dụng, đánh giá quyền truy cập của tác nhân, phân loại dữ liệu, kiểm tra nhà cung cấp và xây dựng quy trình phản ứng khi mô hình hành xử ngoài dự kiến.

Những doanh nghiệp triển khai AI trong tài chính, y tế, hạ tầng trọng yếu hoặc dịch vụ công sẽ chịu sức ép lớn hơn do hậu quả của một sự cố có thể lan rộng. Việc chuẩn bị sớm cho kiểm toán, báo cáo rủi ro và quản trị vòng đời sẽ giúp giảm chi phí tuân thủ khi quy định mới có hiệu lực.

Cuộc đua quản lý sẽ tiếp tục tăng tốc

Các chính phủ đều muốn tận dụng AI để thúc đẩy kinh tế và tăng cường phòng thủ mạng, nhưng đồng thời phải ngăn công nghệ này trở thành công cụ khuếch đại tấn công. Trong thời gian tới, khác biệt lớn giữa các quốc gia có thể nằm ở mức độ bắt buộc, phạm vi áp dụng và cách xử lý mô hình mở.

Dù chưa có một khuôn khổ toàn cầu thống nhất, xu hướng đã rõ ràng: mô hình AI càng mạnh và càng tự chủ thì yêu cầu kiểm thử, minh bạch, giám sát và trách nhiệm giải trình càng cao. An toàn mạng đang dần trở thành một trong những trụ cột quan trọng nhất của quản trị AI.