Opus 5 milik Anthropic Mencapai Tingkat Keberhasilan Nol dalam Menghadapi Prompt Injection di 129 Skenario Uji Browser

Anthropic mengumumkan pada 25 Juli bahwa model Opus 5 mereka mencapai tingkat keberhasilan nol terhadap serangan prompt injection dalam 129 skenario pengujian peramban. Pada tolok ukur universal prompt injection Gray Swan, tingkat keberhasilan model turun menjadi 2,0% dari 5,5% milik Opus 4,8 dalam 15 percobaan. Tingkat keberhasilan nol hanya dicapai ketika Mode otomatis diaktifkan di Claude Cowork dan produk serupa, yang menggabungkan pertahanan pemindaian input dan pemblokiran eksekusi.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar