Anthropic menuduh bahwa operator afiliasi Alibaba melakukan kampanye distilasi model AI terbesar yang diketahui terhadap chatbot Claude-nya dalam surat tertanggal 10 Juni kepada para pemimpin Komite Perbankan Senat. Perusahaan tersebut mengklaim operator yang berafiliasi dengan Alibaba dan lab AI Qwen-nya menghasilkan lebih dari 28,8 juta interaksi dengan Claude antara 22 April dan 5 Juni menggunakan hampir 25.000 akun palsu. Anthropic membingkai upaya distilasi sebagai masalah keamanan nasional yang dapat mempercepat kemampuan AI militer dan siber China. Surat tersebut muncul saat Washington mengintensifkan upaya untuk melindungi kepemimpinan AI AS melalui inisiatif keamanan siber yang diperluas dan kontrol ekspor.
Anthropic Tuduh 28,8 Juta Interaksi Claude Digunakan dalam Kampanye Distilasi
Dalam surat tertanggal 10 Juni kepada Ketua Komite Perbankan, Perumahan, dan Urusan Perkotaan Senat Tim Scott dan Anggota Senior Elizabeth Warren, Anthropic menuduh bahwa akun-akun palsu tersebut tidak mewakili pengguna nyata dan organik. Perusahaan tersebut mengatakan operasi tersebut menargetkan kemampuan penalaran agentik, rekayasa perangkat lunak, dan perencanaan jangka panjang Claude, memungkinkan pesaing untuk mereproduksi perilaku model canggih tanpa biaya melatih sistem AI mutakhir.
"Di luar skalanya, kampanye ini mencolok karena sifatnya yang berani," tulis Anthropic. "Alibaba terdaftar di Bursa Efek New York, mempertahankan operasi bisnis di Amerika Serikat, dan bertanggung jawab kepada investor dan regulator AS."
Anthropic mengatakan kampanye tersebut melampaui kekhawatiran kekayaan intelektual, membingkai distilasi model skala besar sebagai masalah keamanan nasional. "Ketika lab RRT menyuling kemampuan ini dari model AS, mereka menangkap hasil investasi Amerika tanpa menanggung biaya atau risiko yang terkait dengan pelatihan model AI mutakhir," tulis Anthropic. "Ini membalikkan logika ekonomi yang mendukung kepemimpinan AI Amerika, mengubah miliaran dolar penelitian dan pengembangan, komputasi, dan investasi AS lainnya menjadi subsidi bagi pesaing kita."
Surat tersebut menindaklanjuti klaim Anthropic pada bulan Februari bahwa pengembang AI China DeepSeek, Moonshot AI, dan MiniMax menghasilkan lebih dari 16 juta interaksi Claude menggunakan sekitar 24.000 akun palsu.
Anthropic Desak Kongres untuk Memperluas Kontrol Ekspor dan Berbagi Intelijen
Anthropic mendesak anggota parlemen untuk memperluas berbagi intelijen antara pengembang AI mutakhir dan pemerintah AS, memperjelas aturan antimonopoli untuk memungkinkan perusahaan AI berbagi informasi tentang serangan distilasi, memperkuat kontrol ekspor pada chip AI canggih dan komputasi, menutup celah yang memungkinkan perusahaan China mengakses pusat data luar negeri, dan menjatuhkan sanksi pada perusahaan yang bertanggung jawab atas ekstraksi model skala besar.
Seorang juru bicara Anthropic mengatakan kepada Decrypt, "Kami percaya bahwa memerangi ancaman distilasi ilegal memerlukan aksi terkoordinasi antara pemerintah dan industri, dan kami akan terus bekerja sama dengan Kongres dan pemerintahan untuk mempertahankan kepemimpinan AI Amerika."
Surat tersebut muncul saat anggota parlemen mempertimbangkan undang-undang yang menargetkan akses tidak sah ke model AI mutakhir AS. Awal bulan ini, Presiden Donald Trump menandatangani perintah eksekutif yang memperluas inisiatif keamanan siber bertenaga AI setelah menunda langkah tersebut karena kekhawatiran dapat melemahkan posisi kompetitif Amerika terhadap China.
Perdebatan Industri tentang Praktik Distilasi Model AI Meningkat
Tuduhan tersebut menuai kritik dari para pengamat yang berpendapat bahwa perusahaan AI mengandalkan teknik serupa saat melatih sistem mereka sendiri. Anthropic membantah bahwa distilasi konvensional adalah metode yang sah untuk menghasilkan model yang lebih kecil dan lebih murah, sementara ekstraksi tidak sah kemampuan model mutakhir melalui akses penipuan melanggar persyaratan layanannya.
Pada bulan April, Elon Musk bersaksi di pengadilan federal bahwa xAI telah "sebagian" menggunakan model OpenAI saat melatih Grok, menekankan bahwa distilasi adalah praktik industri yang mapan—bahkan ketika perusahaan memperdebatkan di mana pelatihan model yang sah berakhir dan ekstraksi model tidak sah dimulai.
Tanya Jawab
Apa yang dituduhkan Anthropic dalam surat 10 Juni kepada Kongres?
Anthropic menuduh bahwa operator afiliasi Alibaba melakukan kampanye distilasi model AI terbesar yang diketahui terhadap chatbot Claude-nya, menghasilkan lebih dari 28,8 juta interaksi antara 22 April dan 5 Juni menggunakan hampir 25.000 akun palsu.
Mengapa Anthropic menganggap distilasi model AI sebagai masalah keamanan nasional?
Anthropic membingkai distilasi model skala besar sebagai masalah keamanan nasional karena dapat mempercepat kemampuan AI militer dan siber China sambil mempersempit keunggulan teknologi Amerika Serikat. Perusahaan tersebut menyatakan bahwa distilasi memungkinkan pesaing untuk menangkap hasil investasi Amerika tanpa menanggung biaya pelatihan model AI mutakhir.
Perubahan kebijakan apa yang direkomendasikan Anthropic kepada Kongres?
Anthropic mendesak anggota parlemen untuk memperluas berbagi intelijen antara pengembang AI dan pemerintah AS, memperjelas aturan antimonopoli untuk memungkinkan berbagi informasi tentang serangan distilasi, memperkuat kontrol ekspor pada chip AI canggih, menutup celah yang memungkinkan perusahaan China mengakses pusat data luar negeri, dan menjatuhkan sanksi pada perusahaan yang bertanggung jawab atas ekstraksi model skala besar.
