Coinbase Mengadopsi Model AI China GLM 5.2 dan Kimi 2.7 sebagai Default untuk Insinyur

CEO Coinbase Brian Armstrong menyatakan pada Jumat lalu (26) bahwa bursa kripto tersebut telah menetapkan model AI sumber terbuka China GLM 5.2 dan Kimi 2.7 sebagai model bahasa besar default bagi para insinyur internal. Armstrong melaporkan bahwa Coinbase memangkas pengeluaran AI hampir setengahnya melalui optimalisasi perutean dan peningkatan penyimpanan cache, sementara penggunaan token terus tumbuh secara eksponensial. Penerapan ini mencerminkan tren yang lebih luas di kalangan perusahaan teknologi AS yang secara diam-diam mengintegrasikan model AI sumber terbuka China ke dalam infrastruktur produksi untuk mengurangi biaya dan memperluas aplikasi.

Coinbase Terapkan Infrastruktur Tiga Lapis untuk Memangkas Biaya AI

Armstrong mengaitkan pengurangan biaya dengan perombakan infrastruktur tiga lapis. Lapisan pertama adalah "perutean cerdas," di mana sistem memproses awal perintah dan secara otomatis menugaskan tugas ke model yang paling sesuai dan ekonomis berdasarkan tingkat cache dan harga model. Lapisan kedua adalah "cache agresif," yang meningkatkan tingkat cache LibreChat dari 5% menjadi 60% dengan mengharuskan semua permintaan untuk sadar cache. Lapisan ketiga adalah "konteks yang disederhanakan," yang merekomendasikan pembukaan sesi baru saat beralih tugas dan mempersempit cakupan file untuk mengurangi token yang terbuang.

Armstrong menegaskan bahwa pendekatan ini bukan tentang menekan penggunaan, melainkan tentang memperluas adopsi AI. Ia menggambarkan metode ini sebagai kunci untuk mencapai perluasan penggunaan AI yang berkelanjutan, dengan menyatakan bahwa perusahaan mana pun dapat mengadopsi model ini untuk memungkinkan para insinyur menggunakan model dan token dalam jumlah berapa pun secara gratis tanpa menetapkan batas biaya, sambil menghubungkan penggunaan dengan dampak bisnis.

Model Open-Source China Tangani Tugas Rutin dalam Strategi Multi-Model

Kedua model open-source China terutama digunakan untuk skenario tugas rutin. Untuk tugas yang memerlukan perencanaan kompleks, para insinyur masih dapat memilih model frontier. Dalam proses tinjauan kode, Coinbase menerapkan strategi paralel multi-model, yang memungkinkan model yang berbeda saling memverifikasi hasil keluaran untuk mempertahankan standar kualitas.

Armstrong mencatat bahwa seiring biaya layanan model unggulan AS yang terus meningkat, keunggulan efektivitas biaya model open-source China secara bertahap mengubah strategi penerapan AI perusahaan teknologi global.

Tanya Jawab (FAQ)

Apa yang diumumkan Coinbase pada Jumat lalu (26) terkait model AI?
CEO Coinbase Brian Armstrong mengumumkan bahwa perusahaan menetapkan model AI sumber terbuka China GLM 5.2 dan Kimi 2.7 sebagai model bahasa besar default bagi para insinyur internal. Armstrong menyatakan bahwa perubahan ini, dikombinasikan dengan peningkatan perutean dan cache, mengurangi pengeluaran AI hampir setengahnya sementara penggunaan token terus tumbuh secara eksponensial.

Bagaimana Coinbase menggunakan model AI China dalam operasinya?
Coinbase menggunakan GLM 5.2 dan Kimi 2.7 terutama untuk skenario tugas rutin, sementara para insinyur masih dapat memilih model frontier untuk tugas yang memerlukan perencanaan kompleks. Dalam tinjauan kode, perusahaan menerapkan strategi paralel multi-model di mana model yang berbeda saling memverifikasi hasil keluaran untuk mempertahankan standar kualitas.