Bị chôn trong bản hệ thống Opus 5, không phải ở các điểm số đánh giá trên tiêu đề: đây là mô hình có khả năng bị tiêm lệnh (prompt injection) thấp nhất của Anthropic tính đến thời điểm hiện tại.


Các bằng chứng:
> được thử nghiệm trên nhiều bài đánh giá prompt-injection, không chỉ một kịch bản
> được kiểm chứng trước các nỗ lực red team đang hoạt động
> được chính lead của Anthropic gắn cờ là kết quả anh ấy hào hứng nhất, vượt qua các chuẩn benchmark
Prompt injection là kiểu tấn công khiến tác nhân của bạn quay lưng lại với bạn. Mỗi lần tác nhân gọi công cụ dựa trên dữ liệu không đáng tin cậy đều là một lỗ hổng phơi bày. Di chuyển con số đó có giá trị hơn một điểm trên bàn thử coding.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim