Belanja AI Sumber Terbuka Perusahaan Turun menjadi 11%, Namun Mendominasi Lingkungan Produksi

Menurut CEO Decagon Jesse Zhang, yang dipantau oleh Beating, pengeluaran AI open-source perusahaan saat ini hanya mencakup 11% dari total pengeluaran model besar, karena sebagian besar perusahaan masih dalam eksplorasi tahap awal dengan model closed-source. Namun, di lingkungan produksi Decagon sendiri, 90% panggilan inferensi telah beralih ke model open-source, didorong oleh kebutuhan akan latensi rendah dan kemampuan fine-tuning yang mendalam. Zhang mencatat bahwa seiring matangnya kasus penggunaan, model open-source akan semakin mengambil alih lingkungan produksi karena kustomisasi yang unggul dan kecepatan respons—yang krusial untuk skenario layanan pelanggan di mana penundaan respons 8 detik memperburuk pengalaman pengguna.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar