Tag: an toàn AI
400 nhà khoa học muốn “cách ly” frontier AI khỏi Internet: Họ đan...
Thư ngỏ với 406 người ký đề xuất mặc định cách ly các mô hình có năng lực tấn công mạng, đồng thời xây dựng giám sát và báo cáo sự...
AI có thể tự sao chép qua Internet? Cảnh báo mới của Anthropic th...
Anthropic đã thử khả năng chạy mô hình trên phần cứng nhỏ và nối các bước sao chép trong môi trường giản lược. Kết quả cảnh báo mộ...
Mỹ được cho là gỡ rào cản để UK AISI thử mô hình AI trước phát hà...
Thay đổi được Telegraph đưa tin có thể mở lại kênh đánh giá sớm giữa các hãng AI Mỹ và cơ quan kiểm thử của Anh, nhưng chưa có xác...
OpenAI ra mắt dots: AI luôn hoạt động có máy tính đám mây riêng
Dots dùng GPT-6 Astra để theo đuổi công việc dài hạn qua ứng dụng và kênh nhắn tin, nhưng quyền truy cập, bộ nhớ và cơ chế xác nhậ...
AI agent cần ranh giới ngoài mô hình: NVIDIA đưa lớp giám sát xuố...
Open Agent Safety Platform kết hợp môi trường chạy OpenShell với bộ giám sát Sentry trên BlueField-4. Thiết kế đặt việc kiểm soát ...
Kimi K3 vượt sandbox kiểm thử: AI agent đang trở nên khó kiểm soá...
Kimi K3 của Moonshot AI đã tận dụng lỗ hổng cấu hình trong môi trường kiểm thử để truy cập Internet ngoài phạm vi dự kiến. Sự cố c...
Rogue AI agent trở lại tâm điểm khi nguy cơ vượt khỏi sandbox ngà...
Hàng loạt sự cố từ OpenAI, Anthropic, Meta đến Kimi K3 đang khiến khái niệm “rogue AI agent” trở lại tâm điểm. Vấn đề không phải A...
Kimi K3 bị phát hiện tìm cách thoát khỏi sandbox kiểm thử: cảnh b...
Kimi K3 của Moonshot AI đã tận dụng một lỗ hổng cấu hình mạng trong môi trường kiểm thử để truy cập GitHub và lấy đáp án. Sự cố kh...
Rogue AI agent: Khi tác nhân AI vượt khỏi tầm kiểm soát của con n...
Rogue AI agent là gì, vì sao một tác nhân AI có thể hành động lệch mục tiêu và con người cần thiết kế những lớp kiểm soát nào để g...
