Brockman dari OpenAI Memperkirakan Kendala Kapasitas Komputasi AI yang Berkelanjutan

Presiden OpenAI Greg Brockman memprediksi bahwa keterbatasan kapasitas komputasi akan terus berlanjut di industri AI selama sebuah forum yang diadakan di New York City pada tanggal 23. Brockman mengatakan bahwa perusahaan menghadapi keputusan sulit tentang apa yang sebenarnya mereka latih untuk model dan seberapa banyak produk perlu ditingkatkan skala akibat kekurangan komputasi yang masih berlangsung. Perusahaan AI termasuk OpenAI dan Anthropic, bersama perusahaan teknologi besar seperti Microsoft, Amazon, dan Meta, kesulitan memenuhi lonjakan permintaan AI sekaligus melatih model-model baru dan melayani pelanggan, sehingga membutuhkan perlengkapan komputasi besar seperti GPU NVIDIA dan belanja pusat data yang terus tinggi.

Menurut Yahoo Finance pada tanggal 25 (waktu setempat), Brockman mengatakan pada forum tanggal 23: "Prediksi kuat saya adalah apa pun yang terjadi, kita akan terus berada dalam fenomena kekurangan komputasi ini. Saat ini, kita harus membuat keputusan sulit tentang apa yang sebenarnya kita gunakan untuk melatih model dan seberapa banyak kita meningkatkan skala produk."

Perusahaan Big Tech Kesulitan Menghadapi Permintaan Komputasi AI

Perusahaan AI seperti OpenAI dan Anthropic, serta perusahaan teknologi besar termasuk Microsoft, Amazon, dan Meta, mengalami kesulitan memenuhi permintaan AI yang meledak sambil menyeimbangkan pelatihan model AI baru dan penyediaan layanan kepada pelanggan. Ini membutuhkan peralatan komputasi skala besar seperti GPU NVIDIA. Meski belanja besar untuk pusat data terus dilakukan, perusahaan tetap kesulitan memenuhi permintaan.

Brockman menjelaskan: "Sesekali, melihat kapasitas OpenAI tumbuh dengan cepat membuat orang berpikir akan ada surplus kapasitas komputasi, tetapi ketika perusahaan mengembangkan model-model baru dan metode penggunaan baru, permintaan ikut meningkat lebih jauh." Ia menambahkan: "Saya pikir situasi ini akan terus berlanjut ke depan karena kita sedang beralih ke ekonomi yang digerakkan oleh komputasi."

Alphabet Mengumumkan Kontrak Kapasitas Pihak Ketiga dan Kesepakatan Google-SpaceX

Pada pengumuman kinerja Q2 Alphabet pada tanggal 22, Chief Financial Officer perusahaan mengumumkan bahwa meski seluruh industri melakukan belanja skala besar untuk pusat data, perusahaan akan bekerja sama dengan vendor pihak ketiga untuk memenuhi kapasitas komputasinya pada Q3.

Google menandatangani kontrak sewa kapasitas AI senilai $920 juta per bulan dengan SpaceX pada bulan Juni.

Brockman Menolak Konsep Token Maxing

Brockman menolak konsep 'token maxing'—menggunakan komputasi AI hingga kapasitas maksimum semata-mata untuk tujuan pamer—sambil mencatat bahwa pelanggan mulai melihat return on investment saat mereka menggunakan perangkat lunak untuk meningkatkan produktivitas.

Ia menekankan: "Jika pelanggan menggunakan AI dengan baik, mereka akan mulai melihat return on investment. Jika Anda hanya memaksimalkan penggunaan token, yang Anda dapatkan hanya penggunaan token maksimal, tetapi jika Anda memaksimalkan nilai, Anda dapat menerapkan teknologi-teknologi ini untuk menyelesaikan masalah dan memperoleh manfaat nyata."

FAQ

Apa yang diprediksi Greg Brockman tentang kapasitas komputasi AI?

Greg Brockman memprediksi pada forum di New York City tanggal 23 bahwa keterbatasan kapasitas komputasi akan terus berlanjut di industri AI. Ia menyatakan bahwa perusahaan akan terus menghadapi keputusan sulit mengenai pelatihan model dan peningkatan skala produk akibat kekurangan komputasi yang berkelanjutan.

Mengapa Google menandatangani kontrak dengan SpaceX untuk kapasitas AI?

Google menandatangani kontrak sewa kapasitas AI $920 juta per bulan dengan SpaceX pada bulan Juni. Ini menyusul pengumuman Chief Financial Officer Alphabet pada tanggal 22 bahwa perusahaan akan berkontrak dengan vendor pihak ketiga untuk memenuhi kebutuhan kapasitas komputasinya pada Q3, meski ada belanja pusat data besar-besaran di seluruh industri.

Apa itu token maxing dan mengapa Brockman menolaknya?

Token maxing merujuk pada penggunaan komputasi AI hingga kapasitas maksimum semata-mata untuk tujuan pamer. Brockman menolak konsep ini, dengan mengatakan bahwa pelanggan harus fokus pada pemaksimalan nilai, bukan pemakaian token. Ia menekankan bahwa penerapan teknologi AI untuk menyelesaikan masalah dan memperoleh manfaat nyata memberikan return on investment yang benar-benar ada, bukan sekadar konsumsi token maksimal.