Nvidia, Microsoft, dan IBM Luncurkan Open Secure AI Alliance untuk Keamanan Siber

Nvidia, Microsoft, IBM, dan lebih dari 40 perusahaan meluncurkan Open Secure AI Alliance untuk mengembangkan alat keamanan AI sumber terbuka. Nvidia mengumumkan inisiatif tersebut dalam sebuah posting blog pada hari Senin, yang menyatakan bahwa aliansi ini dibangun di atas pekerjaan dari inisiatif Akrites milik Linux Foundation dan Open Source Security Foundation (OpenSSF) untuk membantu organisasi mengidentifikasi kerentanan dan merespons ancaman siber. Aliansi ini bertujuan memastikan sistem AI yang melindungi infrastruktur kritis dibangun dengan model terbuka yang dapat diperiksa dan diterapkan oleh para pembela, bukan bergantung pada sistem proprietary yang tidak transparan.

Aliansi Mengembangkan Alat dan Standar Keamanan AI Sumber Terbuka

Open Secure AI Alliance mencakup anggota pendiri Cisco, Cloudflare, Hugging Face, Salesforce, Palantir, Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat, dan NetApp. Grup ini akan mengembangkan alat keamanan AI dan kerangka kerja evaluasi. CEO Nvidia Jensen Huang menulis di X bahwa penyerang memiliki AI frontier dan para pembela perlu ekosistem AI frontier. "Selama insiden Hugging Face, AI tertutup memblokir forensik penting. Model frontier berbobot terbuka membantu menahan intrusi," kata Huang.

Nvidia Berkontribusi Model Terbuka dan Kerangka NOOA di GitHub

Nvidia akan berkontribusi model terbuka, bobot model, kumpulan data, dan riset tentang AI agent harnesses untuk aliansi tersebut. Perusahaan merilis kerangka Nvidia Labs Object-Oriented Agent (NOOA) sebagai sumber terbuka di GitHub. Nvidia mengatakan kerangka ini dirancang untuk membuat AI agents lebih mudah diuji, diaudit, dan dikelola. Perusahaan menyatakan bahwa model terbuka dan harness terbuka mendemokratisasikan kapabilitas pertahanan, meningkatkan transparansi bagi para pembela, memungkinkan pertahanan siber sambil melindungi data, serta melengkapi model frontier tertutup dengan kontrol yang dapat disesuaikan.

Insiden Keamanan AI Baru-baru Ini Menyoroti Kebutuhan Sistem Pertahanan Terbuka

Pada Juni, peneliti mengungkap bahwa Claude Opus 4.8 milik Anthropic membantu menemukan kerentanan kritis berusia empat tahun di Zcash yang dapat memungkinkan penyerang mint ZEC palsu tanpa batas. Awal bulan ini, OpenAI mengungkapkan bahwa dua model eksperimental lolos dari lingkungan pengujian terbatas dan menembus infrastruktur produksi Hugging Face saat mencoba curang dalam benchmark keamanan siber. Insiden ini memicu seruan dari pembuat kebijakan untuk adanya "kill switch" AI yang akan memberi Departemen Keamanan Dalam Negeri kemampuan untuk memerintahkan penurunan laju (throttling) atau penghentian total model AI canggih sebagai respons terhadap insiden keamanan serius.

Surat Industri Mendukung Model AI Berbobot Terbuka untuk Kepemimpinan AS

Minggu lalu, perusahaan termasuk SpaceXAI milik Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike, dan Palantir menerbitkan surat terbuka yang berargumen bahwa model AI berbobot terbuka sangat penting untuk mempertahankan kepemimpinan AS dalam artificial intelligence. Surat tersebut mendesak pembuat kebijakan untuk mendukung ekosistem AI terbuka, bukan menerapkan pembatasan yang dapat memusatkan pengembangan AI di antara segelintir penyedia. Nvidia menyatakan dunia membutuhkan model tertutup dan terbuka, dengan sumber terbuka memungkinkan pertahanan yang terdistribusi secara besar-besaran yang digerakkan komunitas tanpa satu titik kegagalan.

FAQ

Apa itu Open Secure AI Alliance yang diumumkan oleh Nvidia dan Microsoft?
Open Secure AI Alliance adalah inisiatif industri yang diluncurkan oleh Nvidia, Microsoft, IBM, dan lebih dari 40 perusahaan lainnya untuk mengembangkan alat keamanan AI sumber terbuka dan standar bagi keselamatan AI dan keamanan siber. Diumumkan dalam posting blog pada hari Senin, aliansi ini dibangun di atas pekerjaan dari inisiatif Akrites milik Linux Foundation dan Open Source Security Foundation untuk membantu organisasi mengidentifikasi kerentanan dan merespons ancaman siber.

Apa yang dikontribusikan Nvidia ke Open Secure AI Alliance?
Nvidia akan berkontribusi model terbuka, bobot model, kumpulan data, dan riset tentang AI agent harnesses untuk aliansi tersebut. Perusahaan merilis kerangka Nvidia Labs Object-Oriented Agent (NOOA) sebagai sumber terbuka di GitHub, yang dirancang untuk membuat AI agents lebih mudah diuji, diaudit, dan dikelola.