Dell dan Nvidia meluncurkan Project Helix untuk mempercepat perangkat lunak AI generatif lokal

Dell Technologies Inc. dan Nvidia Corp. hari ini merinci Project Helix, inisiatif bersama yang dirancang untuk membantu perusahaan menjalankan perangkat lunak kecerdasan buatan generatif di pusat data lokal mereka sendiri.

Inisiatif ini telah menghasilkan serangkaian penawaran yang dijuluki desain tervalidasi. Itu adalah server Dell yang dilengkapi dengan alat manajemen yang dikembangkan secara internal perusahaan, serta chip dan perangkat lunak Nvidia. Sistem secara khusus dioptimalkan untuk mendukung pelatihan AI dan kasus penggunaan inferensi.

“Kami berada pada momen bersejarah, ketika kemajuan luar biasa dalam AI generatif terjadi bersinggungan dengan permintaan perusahaan untuk berbuat lebih banyak dengan lebih sedikit,” kata Chief Executive Officer Nvidia Jensen Huang. “Dengan Dell Technologies, kami telah merancang infrastruktur yang sangat skalabel dan sangat efisien yang memungkinkan perusahaan mengubah bisnis mereka dengan menggunakan data mereka sendiri secara aman untuk membangun dan mengoperasikan aplikasi AI generatif.”

Project Helix didasarkan pada sistem dari portofolio server PowerEdge Dell. Portofolio mencakup beberapa mesin yang dioptimalkan secara khusus untuk kasus penggunaan AI. Salah satu sistem tercanggih dalam jajaran yang dioptimalkan AI tersebut adalah R940xa, yang menggabungkan empat prosesor Intel Corp. dengan empat unit pemrosesan grafis Nvidia.

Perusahaan dapat menggabungkan server Dell dengan GPU terbaru dan tercepat dari Nvidia, H100. Chip ini menampilkan 80 miliar transistor yang diproduksi menggunakan proses empat nanometer. Menurut Nvidia, itu dapat melatih model AI hingga sembilan kali lebih cepat dari silikon generasi sebelumnya.

H100 termasuk modul yang dirancang khusus untuk mempercepat model bahasa besar, salah satu jenis AI generatif yang paling populer. Model besar dapat mengatur informasi yang mereka cerna dalam berbagai format data. Menurut Nvidia, modul akselerasi H100 secara otomatis memilih format yang memberikan performa tercepat.

Project Helix memberi pelanggan akses ke Nvidia AI Enterprise, rangkaian perangkat lunak yang ditawarkan pembuat chip bersama GPU-nya. Suite ini mencakup lebih dari 50 alat untuk membuat dan menerapkan model AI. Selain itu, ia menawarkan beberapa jaringan saraf yang dikemas sebelumnya.

“Project Helix memberikan model AI yang dibuat khusus untuk perusahaan agar lebih cepat dan aman mendapatkan nilai dari sejumlah besar data yang kurang digunakan saat ini,” kata Co-Chief Operating Officer Dell Jeff Clarke.

Sistem Project Helix menampilkan perangkat lunak tidak hanya dari Nvidia tetapi juga Dell. Khususnya, pelanggan dapat menggunakan platform observabilitas CloudIQ Dell untuk memantau infrastruktur AI lokal mereka untuk potensi masalah. Menurut Dell, platform tersebut menggunakan pembelajaran mesin untuk menemukan malfungsi secara otomatis.

Juga termasuk dalam Project Helix adalah teknologi Verifikasi Komponen Terjamin dari pembuat perangkat keras. Menurut Dell, teknologi tersebut memasang potongan data terenkripsi yang disebut sertifikat di servernya setelah diproduksi. Jika peretas mencoba mengutak-atik server saat dikirim ke pelanggan, sertifikat menunjukkan bahwa perubahan berbahaya telah dilakukan.

Gambar: Dell