Marvell Technology mendapatkan perhatian dari investor Wall Street saat pasar semikonduktor beralih menuju efisiensi energi di tengah krisis konsumsi daya yang didorong AI. Menurut Bloomberg, biaya listrik di dekat pusat data AS naik 267% selama lima tahun terakhir, mempengaruhi 13 dari 50 negara bagian AS karena beban kerja AI mengonsumsi daya dalam jumlah besar. Perusahaan teknologi besar yang membeli listrik secara grosir mendapatkan diskon sementara konsumen rumah tangga menanggung biaya lebih tinggi, mendorong industri untuk memprioritaskan arsitektur chip berdaya rendah. Profesor Kim Hak-joo dari Departemen Konvergensi AI Universitas Handong Global menjelaskan bahwa akuisisi Marvell pada tahun 2021 terhadap Inphi—pemimpin dalam konektivitas sinyal chip-ke-chip—memposisikan perusahaan untuk mengatasi hambatan utama AI: transfer data antara memori dan unit pemrosesan, yang mencakup 40% konsumsi daya AI.
Konsumsi Daya AI Dorong Lonjakan Biaya Listrik 267% di Wilayah Pusat Data AS
Bloomberg melaporkan bahwa biaya listrik di area sekitar pusat data AS meningkat 267% dibandingkan lima tahun lalu, dengan 13 dari 50 negara bagian AS saat ini terdampak dan cakupan geografis terus meluas. Perusahaan teknologi besar yang mengoperasikan pusat data membeli listrik secara grosir, menerima diskon yang mengalihkan beban biaya ke konsumen rumah tangga. Konsumsi daya AI terbagi dalam empat kategori: transfer data (40%), pembuangan panas dan pendinginan (35%), komputasi (15%), serta pemeliharaan penyimpanan data (10%). Kepala Ilmuwan NVIDIA Bill Dally menyatakan bahwa AI mengonsumsi daya jauh lebih besar untuk mentransfer data dari semikonduktor memori eksternal (HBM) ke unit pemrosesan (GPU) dibandingkan melakukan perhitungan itu sendiri.
Industri Semikonduktor Beralih ke Arsitektur SRAM dan CIM untuk Efisiensi Energi
Industri bergerak menuju penggunaan SRAM yang lebih besar—memori yang terletak di dalam unit pemrosesan GPU—alih-alih memori HBM eksternal untuk mengurangi jarak transfer data. Ketika konsumsi daya komputasi sama dengan 1, mengambil data dari memori SRAM internal membutuhkan daya 5-10 unit, sementara mengambil data dari memori HBM eksternal menghabiskan 100-1000 unit karena resistansi sinyal pada jarak kabel tembaga yang lebih panjang dan kebutuhan amplifikasi sinyal. Perusahaan termasuk Groq dan Cerebras merancang chip yang dipenuhi SRAM, menghilangkan koneksi HBM eksternal meskipun SRAM memiliki keterbatasan dalam kapasitas, ukuran fisik, dan biaya. Industri juga mengembangkan arsitektur Chip-in-Memory (CIM) yang mengintegrasikan unit pemrosesan langsung ke dalam memori untuk meminimalkan jarak transfer lebih lanjut.
Marvell Technology Dapatkan Keunggulan Kompetitif Melalui Akuisisi Inphi
Marvell Technology mengakuisisi Inphi pada tahun 2021, mendapatkan akses ke keahlian terdepan dunia dalam konektivitas sinyal antar semikonduktor. Inphi memegang posisi dominan dalam koneksi sinyal skala mikro di dalam ruang chip yang sempit dan solusi jaringan komunikasi optik. Perusahaan teknologi besar termasuk Google, Microsoft, dan Amazon membutuhkan kekayaan intelektual Inphi untuk merancang jaringan chip-ke-chip (ASIC), memberikan Inphi daya tawar yang signifikan bahkan dengan perusahaan teknologi besar. Industri sedang melakukan transisi media transfer data dari kabel tembaga ke komunikasi optik berbasis laser untuk mengurangi konsumsi daya dan pembangkitan panas saat mengambil data dalam jumlah besar dari memori HBM eksternal, area di mana Inphi mempertahankan solusi tingkat atas.
Tanya Jawab
Apa yang menyebabkan biaya listrik di dekat pusat data AS naik 267%?
Menurut Bloomberg, biaya listrik di wilayah pusat data AS meningkat 267% dalam lima tahun karena konsumsi daya AI yang masif, saat ini mempengaruhi 13 dari 50 negara bagian AS dengan dampak geografis yang terus meluas.
Mengapa Marvell Technology mengakuisisi Inphi pada tahun 2021?
Marvell mengakuisisi Inphi pada tahun 2021 untuk mendapatkan akses ke teknologi terdepan dalam konektivitas sinyal chip-ke-chip dan jaringan komunikasi optik, kemampuan yang penting untuk arsitektur chip AI berdaya rendah karena transfer data mencakup 40% konsumsi daya AI.
Bagaimana SRAM mengurangi konsumsi daya AI dibandingkan memori HBM?
SRAM yang terletak di dalam unit pemrosesan GPU membutuhkan daya 5-10 unit untuk pengambilan data ketika komputasi menggunakan 1 unit, sementara memori HBM eksternal menghabiskan 100-1000 unit karena jarak transfer data yang lebih panjang dan persyaratan amplifikasi sinyal melalui kabel tembaga.
