Di dalam pusat data yang melatih AI dan menguras jaringan listrik

Bekerja dengan perangkat keras Nvidia telah menjadi simbol status—tanda bahwa seseorang serius terhadap AI

Awal tahun ini, CoreWeave go public. Venturo dan para pendirinya kini menjadi miliarder. Perusahaan ini memiliki ratusan ribu GPU, dan melatih model untuk Meta dan laboratorium terkemuka lainnya selain platform OpenAI-nya.

Musim panas ini, saya mengunjungi fasilitas CoreWave di pinggiran Las Vegas. Bangunan itu, sebuah gudang besar, dikelilingi pagar tebal dan dipasangi kamera keamanan secara berkala. Saya melewati pintu putar, di mana saya disambut oleh penjaga keamanan yang mengenakan rompi anti peluru dan taser yang disarungkan. Setelah menyerahkan ponselku, aku mengambil dua penutup telinga berwarna hijau limau dari dispenser dan memasuki fasilitas tersebut.

Saya ditemani oleh tiga insinyur gelombang inti, ahli yang beradaptasi dengan kapitalisme skala besar seperti burung kutilang Darwin di Kepulauan Galapagos. Jacob Yond, dari Corporate, bertubuh ramping dan fasih dengan sebagian rambutnya yang lebat. Christopher Conley, seorang penjelajah yang antusias dengan kacamata hitam dan janggut, mengawasi perangkat kerasnya. Sean Anderson, bekas pusat bola basket perguruan tinggi setinggi tujuh kaki, mengenakan kemeja bertuliskan “Node besok“

Node yang dimaksud adalah wadah peralatan komputasi yang dangkal, masing-masing berbobot sekitar tujuh puluh pon dan berisi empat GPU berpendingin air dengan peralatan tambahan. Delapan belas baki ini ditumpuk, kemudian disambungkan ke unit kontrol, untuk membuat rak komputasi Nvidia GB300, yang sedikit lebih tinggi dari lemari es dan berharga beberapa juta dolar. Pada tahun sibuk, rak biasa akan menggunakan lebih banyak listrik dibandingkan ratusan rumah. Puluhan dari mereka terbentang.

CoreWeave menempatkan raknya di lemari logam putih, untuk membantu menjaganya tetap dingin dan mengurangi kebisingan. Conley membuka pintu untuk menunjukkan rak dan aku tersentak. Suaranya tidak suci, seperti aku membuka lemari sapu dan menemukan mesin jet aktif di dalamnya. Saya melihat lampu berkedip dan putaran kipas. “Tinnitus merupakan bahaya pekerjaan,” teriak Conley padaku.

Saya melihat sekeliling. Fasilitas itu memiliki ratusan lemari yang identik. Di atas kami terdapat titian logam, dilapisi dengan penyalur daya untuk peralatan komputer. Aku memikirkan para biksu di biara, tentara di barak, tahanan di sel. Saya bertanya-tanya, orang macam apa yang mau bekerja sukarela di tempat seperti itu. “Saya diberitahu oleh HR bahwa saya tidak bisa lagi mengerjakan pertanyaan-pertanyaan seperti itu, tapi saya ingin mempekerjakan orang-orang yang bisa menahan banyak penderitaan,” kata Yundt kemudian. “Atlet ketahanan, hal semacam itu.”

CoreWeave tidak memberi tahu saya pelanggan mana yang menggunakan teknologinya pada hari itu, meskipun Yundt berpendapat bahwa pelatihan yang kami saksikan adalah pelatihan yang layak. Dia mulai merinci konfigurasi rak. Aku mengangguk dengan cerdas, tidak dapat mendengar apa yang dia katakan, seperti percakapan di klub malam. Bahkan dengan colokannya, telinga saya mulai berdenging dan saya mulai sakit kepala. Yundt menoleh padaku. “Kadang-kadang seorang pelanggan mengunjungi seluruh tempat ini selama berminggu-minggu,” serunya. Rambutnya yang acak-acakan berkibar di knalpot kipas angin. “Apa yang kami sebut ‘Lari Pahlawan’.”

Perangkat keras CoreWeave dapat melatih AI hingga sempurna dari awal. Pengembang perangkat lunak, biasanya di stasiun kerja di Silicon Valley, mengunggah file angka yang dikenal sebagai “bobot” ke pusat data dan sejumlah besar data pelatihan, yang dapat berupa teks atau gambar atau catatan medis atau, apa pun. Dalam konfigurasi awalnya, bobotnya acak, dan AI tidak memiliki kekuatan.

AI kemudian dihadapkan pada sepotong data pelatihan dan diminta untuk membuat prediksi tentang apa yang akan terjadi – ucapkan beberapa huruf berikutnya dalam sebuah kalimat. AI yang tidak terlatih akan selalu salah dalam memprediksi, tapi setidaknya ia akan mempelajari sesuatu TIDAK Bobot harus dimodifikasi untuk menyerap informasi baru ini. Matematikanya sulit diselesaikan, dan secara khusus bergantung pada operasi yang dikenal sebagai perkalian matriks.