OpenAI giới thiệu GPT-Red để tăng cường khả năng chống các cuộc tấn công tiêm lệnh (prompt injection) của GPT-5.6

Theo OpenAI, công ty đã giới thiệu GPT-Red, một hệ thống AI tự động red-teaming, vào thứ Tư để xác định các lỗ hổng trong mô hình ngôn ngữ trước khi triển khai. GPT-Red được dùng để huấn luyện GPT-5.6, nhằm giảm tỷ lệ thất bại trên các bộ kiểm thử về prompt injection. OpenAI cho biết GPT-Red đã thành công trong 84% các kịch bản đánh giá nội bộ, so với 13% dành cho các nhóm red teamers là con người trong cùng các bài kiểm thử. Hệ thống vận hành thông qua học tăng cường bằng tự chơi (self-play), tạo ra các đòn tấn công ngày càng mạnh hơn, trong khi các mô hình phòng thủ học cách chống lại chúng. OpenAI nêu rằng GPT-Red sẽ tiếp tục là một công cụ nội bộ do năng lực tấn công được phát triển một cách có chủ đích.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận