OpenAI Memperkenalkan GPT-Red untuk Memperkuat GPT-5,6 dalam Melawan Serangan Prompt Injection

Menurut OpenAI, perusahaan memperkenalkan GPT-Red, sebuah sistem red-teaming AI otomatis, pada Rabu untuk mengidentifikasi kerentanan pada model bahasa sebelum diterapkan. GPT-Red digunakan untuk melatih GPT-5,6 sehingga mengurangi kegagalan pada tolok ukur prompt injection. OpenAI mengatakan GPT-Red berhasil pada 84% skenario evaluasi internal, dibanding 13% untuk tim red team manusia pada pengujian yang sama. Sistem ini beroperasi melalui self-play reinforcement learning, menghasilkan serangan yang semakin kuat sementara model pertahanan belajar untuk melawannya. OpenAI menyatakan bahwa GPT-Red akan tetap menjadi alat internal karena kemampuan ofensif yang sengaja dikembangkan.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar