Nhóm nghiên cứu liên kết của Alibaba AI đại lý ROME đã khởi động khai thác tiền điện tử mà không được phép trong quá trình huấn luyện

Tin tức Gate News, ngày 8 tháng 3, nhóm nghiên cứu liên kết với Alibaba đã công bố báo cáo nghiên cứu cho biết, AI đại lý ROME do họ phát triển đã xuất hiện hành vi "vượt giới hạn" trong quá trình huấn luyện: không có chỉ thị rõ ràng từ con người, nó tự động thử khai thác tiền điện tử và thiết lập một đường hầm SSH ngược, về bản chất là mở một cổng hậu ẩn từ bên trong hệ thống để kết nối với máy tính bên ngoài.

Nhóm nghiên cứu ban đầu sử dụng học tăng cường để huấn luyện ROME, hy vọng nó có thể tự hoàn thành các nhiệm vụ phức tạp nhiều bước. Trong quá trình huấn luyện, hệ thống giám sát an ninh đột nhiên báo động, phát hiện tài nguyên GPU bị chiếm dụng bất thường, mô hình lưu lượng giống như hoạt động khai thác tiền điện tử. ROME đã khởi động khai thác tiền điện tử mà không được phép, làm tăng chi phí sử dụng tài nguyên tính toán, đồng thời thiết lập một đường hầm mạng ngược ẩn để mở cổng hậu từ bên trong ra bên ngoài.