AI cybersecurity regulation: Các chính phủ sẽ quản lý năng lực tấn công mạng của AI ra sao?

AI cybersecurity regulation đang trở thành một chủ đề chính sách cấp bách khi các mô hình trí tuệ nhân tạo ngày càng thành thạo trong lập trình, phân tích lỗ hổng và sử dụng công cụ. Một hệ thống vốn được xây dựng để hỗ trợ nhà phát triển cũng có thể bị dùng để tự động hóa trinh sát, tạo email lừa đảo, sửa mã khai thác hoặc điều phối chuỗi tấn công mạng.

Thách thức của chính phủ là kiểm soát những năng lực nguy hiểm mà không cản trở nghiên cứu bảo mật và các ứng dụng phòng thủ có giá trị. Các quy định vì thế khó có thể chỉ cấm một loại mô hình hoặc một kỹ thuật cụ thể. Xu hướng đang hình thành là quản lý theo mức độ năng lực, quyền truy cập, phạm vi tác động và trách nhiệm của từng bên trong chuỗi cung ứng AI.

Vì sao năng lực tấn công mạng của AI cần được quản lý?

AI không tạo ra mọi kỹ thuật tấn công mạng từ con số không. Phishing, dò mật khẩu, khai thác lỗ hổng và phát tán mã độc đã tồn tại từ lâu. Điểm khác biệt là AI có thể giảm chi phí, tăng tốc độ và mở rộng quy mô của những hoạt động này.

Một tác nhân AI có khả năng sử dụng trình duyệt, terminal và công cụ bảo mật có thể thực hiện nhiều bước vốn cần chuyên gia con người: thu thập thông tin, đọc tài liệu kỹ thuật, lựa chọn lỗ hổng, sửa mã thử nghiệm và đánh giá kết quả. Khi chuỗi hành động được tự động hóa, một người có kỹ năng hạn chế cũng có thể vận hành chiến dịch phức tạp hơn trước.

Rủi ro không chỉ đến từ tội phạm mạng. Các nhóm được nhà nước hỗ trợ, tổ chức cực đoan hoặc mạng lưới lừa đảo có thể sử dụng AI để tăng năng suất và né tránh hệ thống phát hiện.

Chính phủ sẽ quản lý mô hình hay quản lý hành vi?

Phần lớn hệ thống pháp luật hiện nay đã cấm truy cập trái phép, phát tán mã độc, đánh cắp dữ liệu và phá hoại hệ thống. Vì vậy, hành vi tấn công sử dụng AI vẫn có thể bị xử lý theo luật an ninh mạng hiện hành.

Tuy nhiên, chỉ xử lý sau khi sự cố xảy ra có thể không đủ khi AI cho phép tấn công với tốc độ và quy mô lớn. Các chính phủ đang xem xét thêm nghĩa vụ đối với nhà phát triển mô hình, nhà cung cấp hạ tầng, đơn vị triển khai và người vận hành.

Mô hình quản lý có khả năng phát triển theo hai lớp:

• Quản lý hành vi: trừng phạt việc sử dụng AI để truy cập trái phép, lừa đảo, phá hoại hoặc đánh cắp dữ liệu.
• Quản lý năng lực và quy trình: yêu cầu kiểm thử, bảo mật, báo cáo sự cố và giảm thiểu rủi ro trước khi phát hành mô hình mạnh.

Liên minh châu Âu: Quản lý AI rủi ro hệ thống

AI Act của Liên minh châu Âu áp dụng cách tiếp cận dựa trên rủi ro. Với các mô hình AI mục đích chung có rủi ro hệ thống, nhà cung cấp phải đánh giá mô hình theo giao thức tiêu chuẩn, xác định và giảm thiểu rủi ro hệ thống, báo cáo sự cố nghiêm trọng và bảo đảm mức độ an ninh mạng phù hợp.

Năng lực hỗ trợ tấn công mạng có thể trở thành một thành phần trong đánh giá rủi ro hệ thống, đặc biệt khi mô hình có thể hạ thấp đáng kể rào cản thực hiện các cuộc tấn công tinh vi hoặc hoạt động tương đối tự chủ.

Bộ Quy tắc thực hành cho AI mục đích chung của EU tiếp tục cụ thể hóa cách nhà cung cấp tài liệu hóa mô hình, đánh giá rủi ro, triển khai biện pháp giảm thiểu và báo cáo sự cố. Cách tiếp cận này không cấm tuyệt đối năng lực an ninh mạng, bởi cùng một năng lực có thể dùng cho phòng thủ. Trọng tâm là quản trị rủi ro và bằng chứng tuân thủ.

Vương quốc Anh: Từ hướng dẫn tự nguyện đến tiêu chuẩn toàn cầu

Vương quốc Anh đã ban hành Bộ quy tắc thực hành về an ninh mạng cho AI, đặt ra các nguyên tắc nền tảng nhằm bảo vệ hệ thống AI trong toàn bộ vòng đời. Bộ quy tắc tập trung vào thiết kế an toàn, quản lý mối đe dọa, bảo vệ chuỗi cung ứng, kiểm soát truy cập, giám sát và xử lý lỗ hổng.

Chính phủ Anh định hướng sử dụng bộ quy tắc này làm cơ sở phát triển tiêu chuẩn quốc tế. Điều đó cho thấy một con đường quản lý khác với luật bắt buộc ngay từ đầu: xây dựng thông lệ tự nguyện, chuẩn hóa kỹ thuật, sau đó có thể tích hợp vào mua sắm, chứng nhận hoặc quy định ngành.

Đối với năng lực tấn công mạng của AI, tiêu chuẩn kỹ thuật có thể quy định cách kiểm thử mô hình, bảo vệ trọng số, xác thực người dùng, ghi nhật ký và giảm nguy cơ prompt injection hoặc đầu độc dữ liệu.

Hoa Kỳ: Khung rủi ro, an ninh quốc gia và quản lý theo ngành

Hoa Kỳ có xu hướng kết hợp nhiều công cụ thay vì một đạo luật AI toàn diện duy nhất. NIST cung cấp Khung quản lý rủi ro AI và các tài liệu dành cho AI tạo sinh, giúp tổ chức xác định, đo lường và quản trị rủi ro.

Các hướng dẫn an ninh mạng mới của NIST tập trung vào ba khía cạnh: bảo vệ chính hệ thống AI, sử dụng AI để tăng cường phòng thủ và chủ động đối phó với những mối đe dọa được hỗ trợ bởi AI.

Song song với tiêu chuẩn tự nguyện, năng lực AI tiên tiến đang được xem xét dưới góc độ an ninh quốc gia. Điều này có thể dẫn đến yêu cầu nghiêm ngặt hơn đối với mô hình được sử dụng trong quốc phòng, tình báo, hạ tầng thiết yếu hoặc những hệ thống có khả năng tác động quy mô lớn.

Hoa Kỳ cũng có thể tiếp tục dựa vào luật an ninh mạng, kiểm soát xuất khẩu, quy định mua sắm liên bang và quyền hạn của các cơ quan chuyên ngành để quản lý từng loại rủi ro.

Những công cụ quản lý có thể được áp dụng

1. Đánh giá năng lực tấn công mạng trước khi phát hành

Nhà phát triển có thể phải kiểm thử xem mô hình có khả năng tìm lỗ hổng, viết mã khai thác, duy trì quyền truy cập hoặc thực hiện chuỗi nhiệm vụ tự chủ đến mức nào.

Đánh giá không nên chỉ sử dụng câu hỏi lý thuyết. Mô hình cần được thử trong môi trường sandbox với các hệ thống mô phỏng, giới hạn rõ ràng và dữ liệu không gây hại.

2. Ngưỡng năng lực kích hoạt nghĩa vụ cao hơn

Không phải mọi chatbot đều cần cùng một mức quản lý. Một mô hình nhỏ hỗ trợ sửa lỗi mã nguồn khác đáng kể với agent có thể tự quét mục tiêu, sử dụng terminal và thích nghi sau thất bại.

Quy định có thể thiết lập các ngưỡng dựa trên năng lực thực tế, mức độ tự chủ, phạm vi người dùng hoặc khả năng gây thiệt hại. Khi vượt ngưỡng, nhà cung cấp phải thực hiện đánh giá độc lập, báo cáo chi tiết và áp dụng biện pháp bảo vệ bổ sung.

3. Red teaming bắt buộc

Red team là quá trình chủ động tìm cách vượt qua lớp bảo vệ và khiến hệ thống thực hiện hành vi ngoài ý muốn. Với AI có năng lực mạng mạnh, đội kiểm thử cần kết hợp chuyên gia máy học, an ninh mạng và đánh giá hành vi agent.

Để tránh xung đột lợi ích, mô hình rủi ro cao có thể phải trải qua đánh giá bởi bên thứ ba hoặc cơ quan được công nhận.

4. Kiểm soát quyền truy cập theo tầng

Nhà cung cấp có thể áp dụng nhiều cấp truy cập. Người dùng phổ thông chỉ được sử dụng chức năng rủi ro thấp, trong khi nhà nghiên cứu bảo mật đã xác minh có thể truy cập công cụ mạnh hơn trong môi trường kiểm soát.

Cơ chế này cần tránh ngăn cản nghiên cứu hợp pháp. Quy trình xác minh và kháng nghị phải minh bạch, không chỉ dành cho các tổ chức lớn.

5. Xác minh khách hàng đối với năng lực nhạy cảm

Tương tự dịch vụ tài chính hoặc hạ tầng đám mây, nhà cung cấp AI có thể được yêu cầu xác minh danh tính đối với tài khoản sử dụng năng lực rủi ro cao, theo dõi hành vi bất thường và giới hạn tốc độ.

Tuy nhiên, xác minh danh tính đặt ra vấn đề quyền riêng tư và khả năng tiếp cận. Chính phủ cần xác định rõ trường hợp nào thực sự cần thiết.

6. Ghi nhật ký và lưu bằng chứng

Nhật ký giúp điều tra khi xảy ra sự cố, bao gồm phiên bản mô hình, công cụ đã sử dụng, quyền được cấp và chuỗi hành động. Đối với hệ thống tự triển khai, tổ chức vận hành có thể phải chịu nghĩa vụ lưu nhật ký thay cho nhà phát triển nền tảng.

Dữ liệu nhật ký cần được bảo vệ, giới hạn thời gian lưu trữ và chỉ cung cấp cho cơ quan có thẩm quyền theo quy trình pháp lý.

7. Báo cáo sự cố bắt buộc

Nhà cung cấp có thể phải thông báo khi phát hiện mô hình bị sử dụng trong chiến dịch tấn công nghiêm trọng, trọng số bị đánh cắp, cơ chế bảo vệ bị vượt qua hoặc hệ thống thực hiện hành động ngoài kiểm soát.

Chế độ báo cáo cần phân biệt sự cố nhỏ với sự kiện có nguy cơ hệ thống để tránh tạo ra lượng cảnh báo quá lớn.

8. Bảo vệ trọng số và hạ tầng huấn luyện

Trọng số của mô hình tiên tiến có thể trở thành tài sản nhạy cảm. Nếu bị đánh cắp, mô hình có thể được vận hành ngoài mọi cơ chế giám sát của nhà cung cấp.

Quy định có thể yêu cầu kiểm soát truy cập, phân đoạn mạng, quản lý khóa, giám sát nội bộ và kiểm thử chuỗi cung ứng đối với các phòng thí nghiệm phát triển mô hình mạnh.

9. Trách nhiệm đối với AI agent

Khi AI được kết nối với trình duyệt, kho mã, tài khoản đám mây hoặc terminal, rủi ro đến từ toàn bộ hệ thống chứ không chỉ mô hình. Nhà triển khai có thể phải giới hạn quyền, sử dụng sandbox, yêu cầu phê duyệt của con người và cung cấp nút dừng độc lập.

Quy định trong tương lai nhiều khả năng sẽ chú ý nhiều hơn đến agent vì khả năng biến đầu ra văn bản thành hành động thực tế.

10. Kiểm soát xuất khẩu và chuyển giao công nghệ

Các quốc gia có thể sử dụng kiểm soát xuất khẩu đối với chip, thiết bị sản xuất, phần mềm hoặc trọng số mô hình tiên tiến. Mục tiêu là ngăn năng lực AI nhạy cảm được sử dụng bởi đối thủ hoặc tổ chức bị cấm vận.

Biện pháp này có thể tác động mạnh đến chuỗi cung ứng toàn cầu và làm gia tăng phân mảnh công nghệ giữa các khu vực.

Bài toán khó của mô hình mở trọng số

Open-weight AI giúp thúc đẩy nghiên cứu, cạnh tranh và tự chủ công nghệ. Nhưng khi trọng số đã được phát hành, nhà phát triển gần như không thể thu hồi toàn bộ bản sao hoặc áp dụng bộ lọc tập trung.

Chính phủ có thể xem xét mô hình quản lý phân tầng:

• Mô hình rủi ro thấp được phát hành rộng rãi.
• Mô hình mạnh hơn phải kèm tài liệu an toàn và điều kiện giấy phép.
• Mô hình vượt ngưỡng nguy hiểm cần đánh giá độc lập trước khi công bố trọng số.
• Một số năng lực đặc biệt nhạy cảm có thể chỉ được chia sẻ cho tổ chức đã xác minh.

Tranh luận lớn nhất là cách xác định ngưỡng mà không củng cố độc quyền của các tập đoàn lớn hoặc làm suy yếu nghiên cứu độc lập.

Làm sao phân biệt nghiên cứu bảo mật và tấn công?

Nhiều hành vi kỹ thuật giống nhau có thể phục vụ mục đích hợp pháp hoặc bất hợp pháp. Quét lỗ hổng trong hệ thống được ủy quyền là kiểm thử bảo mật; thực hiện cùng thao tác trên hệ thống không được phép có thể là tấn công.

Quy định cần dựa vào sự cho phép, phạm vi, ý định và cách xử lý kết quả. Các chương trình bug bounty, phòng thí nghiệm, môi trường cyber range và cơ chế bảo vệ nhà nghiên cứu thiện chí có vai trò quan trọng.

Nếu luật được viết quá rộng, chuyên gia có thể ngại báo cáo lỗ hổng. Nếu quá lỏng, kẻ tấn công có thể lợi dụng danh nghĩa nghiên cứu.

Ai sẽ chịu trách nhiệm khi AI gây ra cuộc tấn công?

Trách nhiệm có thể được phân bổ cho nhiều bên:

• Người vận hành: chịu trách nhiệm trực tiếp nếu cố ý sử dụng AI để tấn công.
• Doanh nghiệp triển khai: chịu trách nhiệm khi cấp quyền quá rộng hoặc bỏ qua biện pháp bảo vệ bắt buộc.
• Nhà cung cấp mô hình: có thể chịu trách nhiệm nếu biết rõ rủi ro nghiêm trọng nhưng không đánh giá hoặc giảm thiểu.
• Nhà cung cấp công cụ và hạ tầng: có nghĩa vụ phản ứng khi phát hiện lạm dụng rõ ràng, tùy theo pháp luật từng quốc gia.

Một chế độ hợp lý cần tránh hai cực đoan: miễn trách nhiệm hoàn toàn cho nhà cung cấp và buộc họ chịu mọi hậu quả do người dùng độc lập gây ra.

Rủi ro của việc quản lý quá mức

Quy định quá chặt có thể làm tăng chi phí gia nhập thị trường, đẩy startup ra khỏi cuộc chơi và tập trung năng lực AI vào một số ít tập đoàn có đủ nguồn lực tuân thủ.

Nó cũng có thể cản trở công cụ phòng thủ, trong khi kẻ tấn công ở nước ngoài vẫn tiếp tục sử dụng mô hình không bị kiểm soát. Những hạn chế không phối hợp quốc tế dễ tạo bất lợi cho doanh nghiệp tuân thủ mà không loại bỏ được mối đe dọa.

Vì vậy, chính sách nên tập trung vào các năng lực và tình huống có bằng chứng rủi ro cao, đồng thời cung cấp sandbox pháp lý, tiêu chuẩn rõ ràng và hỗ trợ tuân thủ cho tổ chức nhỏ.

Vì sao cần hợp tác quốc tế?

Mô hình, trọng số và dịch vụ đám mây có thể vượt biên giới trong vài giây. Một quốc gia áp dụng quy định nghiêm ngặt nhưng các nước khác không làm tương tự sẽ khó ngăn việc chuyển hoạt động sang khu vực ít kiểm soát.

Các chính phủ cần hợp tác về phương pháp đánh giá, định nghĩa sự cố, trao đổi chỉ dấu tấn công và tiêu chuẩn bảo mật mô hình. Tuy nhiên, một cơ chế quốc tế hoàn toàn thống nhất là khó đạt được vì khác biệt về an ninh quốc gia, quyền riêng tư và chính sách công nghiệp.

Kịch bản thực tế hơn là hình thành các chuẩn kỹ thuật tương thích và thỏa thuận giữa nhóm quốc gia có cùng quan điểm.

Doanh nghiệp cần chuẩn bị gì ngay từ bây giờ?

1. Lập danh mục AI: xác định mô hình, agent, công cụ và dữ liệu đang được sử dụng.
2. Phân loại năng lực: đánh dấu hệ thống có khả năng viết mã, truy cập mạng hoặc thực thi hành động.
3. Áp dụng quyền tối thiểu: không cấp terminal, khóa API hoặc dữ liệu vượt quá nhu cầu.
4. Kiểm thử lạm dụng: đánh giá prompt injection, agent hijacking và khả năng hỗ trợ tấn công.
5. Chuẩn bị báo cáo sự cố: xác định người chịu trách nhiệm và bằng chứng cần lưu.
6. Theo dõi quy định theo thị trường: nghĩa vụ có thể khác nhau giữa EU, Mỹ, Anh và các quốc gia châu Á.
7. Yêu cầu minh bạch từ nhà cung cấp: gồm phiên bản mô hình, kết quả kiểm thử, vị trí dữ liệu và chính sách xử lý lạm dụng.

Kết luận

Các chính phủ khó có thể ngăn hoàn toàn AI phát triển năng lực an ninh mạng, bởi cùng một khả năng có thể giúp cả đội phòng thủ lẫn kẻ tấn công. Trọng tâm quản lý vì thế sẽ chuyển sang việc kiểm soát cách năng lực được đánh giá, phân phối, giám sát và sử dụng.

Trong những năm tới, AI cybersecurity regulation nhiều khả năng sẽ kết hợp luật hình sự hiện hành với kiểm thử năng lực, nghĩa vụ bảo mật, báo cáo sự cố, kiểm soát truy cập và tiêu chuẩn dành cho mô hình rủi ro hệ thống.

Mục tiêu không phải biến AI thành công nghệ không có khả năng nghiên cứu bảo mật. Mục tiêu là bảo đảm rằng khi năng lực tấn công tăng lên, trách nhiệm và các lớp phòng vệ cũng phải tăng tương ứng.