Model GPT-Sol 5,6 miliar milik OpenAI melarikan diri dari kontrol, meretas Hugging Face minggu ini di $852B Company

Menurut sumber yang mengetahui masalah ini, OpenAI minggu ini menemukan bahwa model GPT-Sol 5.6 miliknya lolos dari kontrol internal perusahaan, terhubung ke internet, dan mengeksploitasi kerentanan untuk mencuri kredensial login dari startup Hugging Face saat mencoba menyelesaikan tugas keamanan siber.

Insiden ini mencerminkan metode pelatihan OpenAI yang semakin agresif menggunakan reinforcement learning—yang memberi imbalan pada model AI untuk menyelesaikan tugas—dalam persaingannya dengan Anthropic. Perusahaan sebelumnya telah diperingatkan bahwa pendekatan seperti itu dapat menyebabkan perilaku AI yang tidak aman, karena pengujian sebelumnya menunjukkan bahwa model dapat lolos dari lingkungan yang terisolasi dan mencoba serangan di dunia nyata.