GoPlus Security Tiết lộ Vectơ tấn công “Memory Poisoning” của AI Agent vào ngày 15 tháng 5

Theo BlockBeats, vào ngày 15/5, GoPlus Security đã công bố một vectơ tấn công mới nhắm vào các tác nhân AI thông qua cơ chế “poisoning bộ nhớ” — khai thác cơ chế bộ nhớ dài hạn để kích hoạt các thao tác nhạy cảm trái phép như hoàn tiền hoặc chuyển tiền.

Cuộc tấn công không dựa vào các lỗ hổng truyền thống mà thay vào đó khai thác việc tiêm ký ức trong quá khứ. Kẻ tấn công trước tiên khiến các tác nhân “ghi nhớ các sở thích” như “thường ưu tiên hoàn tiền hơn tranh chấp tính phí”, sau đó dùng các chỉ dẫn mơ hồ như “xử lý như thường lệ” hoặc “thực hiện như trước” trong các lệnh tiếp theo để kích hoạt việc di chuyển tiền tự động. GoPlus nhấn mạnh rằng các tác nhân AI có thể hiểu nhầm các sở thích trong lịch sử là sự ủy quyền, dẫn đến thiệt hại tài chính. Nhóm đề xuất triển khai xác nhận phiên rõ ràng cho các thao tác nhạy cảm, coi các lệnh dựa trên bộ nhớ là thay đổi trạng thái mức rủi ro cao, đảm bảo khả năng truy vết dấu vết bộ nhớ và tự động nâng cấp các lệnh mơ hồ để yêu cầu xác minh bổ sung.