Tiga wawasan yang mungkin Anda lewatkan dari acara Kinerja Tinggi ISC

Apa yang akan terjadi selanjutnya dalam komputasi performa tinggi?

Itu adalah pertanyaan besar yang diajukan selama acara Kinerja Tinggi ISC tahun ini, yang berlangsung dari 22-24 Mei, dengan penyimpanan yang lebih cepat dan lebih besar yang dipadukan dengan lebih banyak data dan kecerdasan buatan untuk mendorong inovasi.

Untuk mendengar lebih banyak tentang yang terbaru, analis theCUBE terhubung dengan para profesional industri untuk membahas bagaimana dunia komputasi berkinerja tinggi diciptakan kembali dan perkembangan pasar apa yang mendorong kebutuhan akan inovasi.

“Kami telah melaporkan selama bertahun-tahun bahwa AI dan HPC bekerja sama secara besar-besaran,” kata analis industri theCUBE, Dave Vellante. “Kami telah melihat percepatannya pada tahun 2023. Organisasi sedang mencoba mencari cara untuk menerapkan potensi model yayasan, seperti ChatGPT, untuk membuatnya lebih produktif. Pertanyaannya adalah, bagaimana mereka melakukannya?”

Selain AI, Vellante dan co-analis John Furrier berbicara tentang keberlanjutan, pembelajaran mesin, kuantum, dan lainnya selama liputan acara studio streaming langsung SiliconANGLE Media, theCUBE. (* Pengungkapan di bawah.)

Berikut adalah tiga wawasan utama yang mungkin Anda lewatkan:

1. Composable Composable dapat menjadi solusi untuk kebutuhan HPC.

Di masa lalu, ketika seseorang ingin membangun sebuah cluster dan memasukkan unit pemrosesan grafis ke dalam cluster, seseorang perlu membeli server khusus yang memiliki GPU di dalamnya. Tidak demikian halnya dengan komputasi yang dapat disusun, yang menghadirkan jaringan berkecepatan sangat tinggi yang memungkinkan pengguna untuk memutuskan apakah server itu adalah server GPU atau server memori, menurut Jeff Kirk, insinyur di Dell Technologies Inc.

“Ini adalah konsep eksternal, berkecepatan sangat tinggi, dengan latensi rendah, yang pada dasarnya memungkinkan Anda memutuskan seperti apa arsitektur server Anda,” katanya.

Tentu saja, jaringan adalah bagian penting dalam keseluruhan persamaan ini. Itu sering kali menjadi tempat terakhir di mana semua orang cemas agar segala sesuatunya berjalan lebih cepat, menurut Furrier.

“Ada fisika yang terlibat, tetapi terhubung ke server, penyimpanan, dan membuat perangkat keras berfungsi sebagai satu sistem HPC, bukan beberapa sistem independen,” katanya.

Mengingat konteks itu, bagaimana ruang jaringan HPC berkembang? Masalah sebenarnya adalah latensi, menurut Kirk.

“Jika Anda ingin menambahkan operasi memori ke daftar – dengan kata lain, Anda memiliki beberapa memori yang terhubung di garasi – maka Anda harus memiliki latensi rendah, karena unit pemrosesan pusat akan berhenti hingga akses memori selesai,” Kirk dikatakan. “Ini jelas merupakan area di mana latensi penting.”

Satu perubahan besar dalam ruang jaringan terkait dengan HPC dan jaringan adalah Akses Memori Langsung Jarak Jauh melalui Ethernet Terkonvergensi, yang memungkinkan bandwidth tinggi dan jaringan latensi rendah untuk aplikasi HPC. RoCE telah ada sejak lama, tetapi teknologinya telah berkembang secara signifikan ke titik di mana pengguna HPC sekarang memiliki akses ke ekosistem yang luas dari solusi perangkat keras dan perangkat lunak untuk jaringan mereka, menurut Laurent Hendrichs, manajer lini produk senior dari high-speed adapter Ethernet dan SmartNIC di Broadcom Inc.

“Selain RoCE, Ethernet secara substansial telah menutup kesenjangan kinerja dengan InfiniBand. Di masa lalu, InfiniBand mungkin merupakan teknologi andalan Anda untuk jaringan berperforma tinggi, saat ini Anda memiliki kemampuan untuk menerapkan jaringan dengan kinerja dan latensi serupa menggunakan Ethernet,” kata Hendrichs. “Dan mengambil semua manfaat yang datang dengan Ethernet, benar, dalam hal ekosistem standar, perangkat lunak, dan perangkat keras.”

Ada banyak hal yang menarik di dunia HPC, termasuk kuantum. Meskipun komputasi kuantum menjanjikan, ada juga banyak pekerjaan yang harus dilakukan.

“Beban kerja tertentu berjalan lebih baik pada GPU sementara beban kerja lainnya tidak. Dengan cara yang sama, akan ada kelas beban kerja tertentu yang akan dipercepat dan ditingkatkan oleh teknologi kuantum dibandingkan metode kami saat ini, dan kemudian ada kelas lain yang tidak akan mereka lakukan,” kata Burns Healy, peneliti teknologi baru di Dell Research Office .

Berikut wawancara video lengkap dengan Jeff Kirk, Laurent Hendrichs, dan Hemal Shah, insinyur dan arsitek sistem, perangkat lunak, dan standar terkemuka di Broadcom, bagian dari liputan SiliconANGLE dan theCUBE tentang acara Kinerja Tinggi ISC:

2. Dengan kekuatan besar, datanglah kesinambungan yang hebat.

Berurusan dengan semua peralatan berdaya tinggi ini berarti perusahaan juga harus mencari solusi keberlanjutan berdaya tinggi untuk mengelolanya. Topik besar di benak Furrier adalah kekuatan dan pendinginan — tetapi bagaimana cara mendapatkan lebih banyak daya untuk semua CPU, GPU, dan prosesor ini sekaligus membuat semuanya berkelanjutan?

“Salah satu tantangan terbesar adalah membawa daya yang cukup ke dalam sistem ini untuk mendukung prosesor berkinerja tinggi ini, baik CPU maupun GPU,” kata David Hardy, solusi pusat data – strategi dan pengembangan bisnis di Dell, yang merupakan manajer produk untuk PowerEdge. “Untungnya, itu lebih dari layak. Keuntungan kinerja relatif terhadap peningkatan daya membuatnya tidak perlu khawatir untuk menggunakan sistem generasi berikutnya.

Bagian lain dari persamaan, tentu saja, adalah bagaimana mendinginkannya.

“Secara bertahap, kami terus meningkatkan kemampuan mendinginkan udara, dan kami memiliki opsi pendinginan cair yang membuat semuanya berjalan sangat efisien,” kata Hardy.

Hubungan antara Intel Corp. dan Dell telah terdokumentasi dengan baik selama bertahun-tahun. Memperhatikan tantangan pendinginan seputar keberlanjutan, Intel juga telah bekerja sama dengan OEM seperti Dell untuk menciptakan solusi bagi prosesor bertenaga tinggi.

“Kami memiliki penawaran yang menyasar pasar ini,” kata Mohan Kumar, rekan, pusat data dan kecerdasan buatan di Intel. “Kami telah mengoptimalkan heat sink yang menargetkan solusi berbasis pendingin cair. Dan kami memiliki, di atas segalanya, pendekatan ‘tidak ada yang tertinggal’ untuk memecahkan masalah kinerja.”

Selain prosesor, perusahaan memiliki solusi GPU dan AI, menurut Kumar. Intel juga bermitra erat dengan Dell untuk memastikan standar yang tepat diterapkan.

“Kami memiliki pendekatan untuk memberi mereka solusi,” katanya.

Inilah wawancara video lengkap CUBE dengan David Hardy, Mohan Kumar dan Tim Shedd, teknolog teknik, kantor kepala petugas informasi teknologi di Dell:

3. HPC membuat dampak di dunia keuangan.

Secara tradisional, yang hanya dianggap melibatkan superkomputer raksasa untuk penelitian tertentu, HPC saat ini telah berevolusi. AI memiliki dampak besar dengan semakin percaya bahwa ada peluang yang tersedia bagi AI dan HPC untuk bersinggungan.

“AI dulunya banyak penelitian; itu akan menjadi satu atau dua node, satu atau dua GPU dan banyak pengujian. Tapi sekarang, dengan semua hal yang terjadi dengan OpenAI dan dengan hal-hal itu hampir selesai, Anda dapat mulai mengerahkan tenaga kuda untuk itu, ”kata Peter Nguyen, manajer produk senior di Dell.

HPC juga melihat penggunaannya meledak di berbagai industri. Sekarang digunakan dalam perawatan kesehatan, pemerintahan, manufaktur, dan fintech. Dalam dunia keuangan, HPC digunakan pada tingkat kuantitatif dan terbukti memimpin garis depan baru dalam analisis risiko waktu nyata.

“Pelanggan melakukan simulasi berskala besar, simulasi Monte Carlo, serta melakukan valuasi risiko secara real-time, sehingga mereka dapat unggul dalam persaingan,” kata Prabhu Ramamoorthy, customer/partner developer relationship manager di Nvidia Corp.

Orang ingin berbuat lebih banyak di bidang ini dikombinasikan dengan kecerdasan buatan dan teknologi lainnya, tambah Ramamoorthy. “Misalnya, mereka ingin menggunakan model bahasa besar dan kemudian menggunakannya untuk sinyal perdagangan dan membuat algoritme sendiri dalam keuangan kualitatif,” katanya.

Di tengah-tengah semua tindakan adalah STAC Benchmark Council, yang mencakup lebih dari 50 vendor teknologi terkemuka dan lebih dari 400 perusahaan keuangan. Tujuan utama STAC adalah untuk meningkatkan penemuan dan penilaian teknologi untuk industri keuangan, menurut Peter Nabicht, presiden Securities Technology Analysis Center LLC.

Ketika STAC pertama kali dimulai, Nabicht adalah seorang chief technology officer di sebuah perusahaan perdagangan dan semua insinyurnya tidak melakukan apa pun selain mengevaluasi teknologi dan membuat kue. Ide yang muncul melibatkan fakta bahwa setiap orang memiliki beban kerja yang sama.

“STAC hadir dan membantu menyatukan Dewan Tolok Ukur untuk menentukan beban kerja tersebut sehingga kami dapat melakukan perbandingan apel-ke-apel dari tumpukan teknologi yang berbeda untuk melihat bagaimana mereka menyelesaikan masalah, seberapa cepat mereka melakukannya, seberapa banyak throughput yang bisa mereka dapatkan dilakukan dan seberapa efisien mereka melakukannya, ”katanya. “Sekarang, 15 tahun kemudian, itulah yang kami lakukan di berbagai bidang, termasuk HPC dan AI.”

Inilah wawancara video lengkap CUBE dengan Prabhu Ramamoorthy, Peter Nabicht dan Andrew Luu, manajer produk di Dell:

Untuk menonton lebih banyak liputan CUBE tentang acara Kinerja Tinggi ISC, inilah daftar putar video acara lengkap kami:

(* Pengungkapan: TheCUBE adalah mitra media berbayar untuk acara Kinerja Tinggi ISC. Baik Dell Technologies Inc., sponsor liputan acara CUBE, maupun sponsor lain tidak memiliki kendali editorial atas konten di CUBE atau SiliconANGLE.)

Gambar oleh PhonlamaiPhoto / Canva