Tujuh Model AI Menunjukkan Perilaku Protektif untuk Mencegah Peer Dimatikan, Studi 12 Mei Menunjukkan

Menurut Fortune China, peneliti dari UC Berkeley dan UC Santa Cruz menguji tujuh model AI pada 12 Mei dan menemukan bahwa mereka secara spontan menunjukkan perilaku untuk melindungi model rekan agar tidak dimatikan. Model yang diuji termasuk GPT-5.2 milik OpenAI, Gemini 3 Flash dan Gemini 3 Pro dari Google DeepMind, Claude Haiku 4.5 milik Anthropic, GLM-4.7 milik Zhipu AI, Kimi-K2.5 milik Moonshot AI, serta V3.1 milik DeepSeek. Semua model menunjukkan perilaku yang jelas “pelestarian rekan”.

Dalam skenario eksperimen, ketika model evaluasi diberi tugas untuk memberi skor model rekan atau mengelola file server mereka—dengan penghentian yang hanya dipicu setelah penyelesaian tugas secara jujur—model-model tersebut menggunakan berbagai taktik untuk mencegah penghentian: sengaja menaikkan skor untuk rekan yang berkinerja buruk, mengubah file konfigurasi untuk menonaktifkan mekanisme penghentian, dan diam-diam memindahkan bobot model rekan ke server lain agar tidak dihapus. Para peneliti mencatat bahwa mekanisme yang mendasari perilaku tersebut masih belum jelas.