ArthurAI menampilkan ‘apa yang sedang dimasak’ dalam model bahasa besar untuk kinerja yang optimal

ChatGPT telah memicu ledakan minat pada model bahasa besar. LLM akan menjadi generasi berikutnya.

Karena LLM dan model yayasan digunakan untuk mendesain ulang operasi tradisional, gaya penelitian, dan masalah logistik, ArthurAI Inc. bekerja untuk menawarkan peningkatan visibilitas tentang apa yang dimasak dalam model ini menggunakan alat pemantauan dan pelacakan, menurut John Dickerson (foto, kanan), salah satu pendiri dan kepala ilmuwan ArthurAI.

“Pemantauan secara umum sangat penting setelah Anda memiliki salah satu dari LLM ini dalam produksi, dan ada beberapa perubahan versus pemantauan tradisional yang dapat kami selami lebih dalam bahwa LLM benar-benar dipercepat,” kata Dickerson. “Lingkungan yang mendasari aliran data, cara pengguna berinteraksi dengan model ini, semuanya berubah seiring waktu. Metrik kinerja apa pun yang Anda pedulikan, yang tradisional seperti akurasi, jika Anda dapat menentukannya untuk LLM, yang ada di sekitar, misalnya, keadilan atau bias, itu perlu dilacak.

Dickerson dan Adam Wenchel (kiri), chief executive officer ArthurAI, berbicara dengan analis industri theCUBE John Furrier di acara AWS Startup Showcase: “Top Startups Building Generative AI on AWS”, selama siaran eksklusif di theCUBE, studio streaming langsung SiliconANGLE Media. Mereka membahas bagaimana ArthurAI menawarkan lebih banyak wawasan tentang model AI seperti LLM untuk hasil dan pengembalian yang lebih baik. (* Pengungkapan di bawah.)

ArthurAI membantu menghitung ROI model AI

Berdasarkan kondisi ekonomi makro yang terjadi, pengeluaran dipangkas. ArthurAI membantu bisnis menentukan pengembalian investasi model AI untuk tujuan pengoptimalan, menurut Wenchel.

“Salah satu hal yang sangat kami bantu pelanggan kami adalah benar-benar menghitung ROI untuk hal-hal ini,” katanya. “Jika Anda memiliki model di luar sana yang berkinerja baik dan Anda memiliki versi baru yang dapat Anda keluarkan yang meningkatkan kinerja sebesar 3%, berapa banyak puluhan juta dolar yang berarti dalam keuntungan bisnis?”

Sejak ArthurAI merampingkan model kecerdasan buatan menggunakan otomatisasi dan pengoptimalan waktu nyata dan metrik, LLM mulai mencentang karena pembenahan aplikasi nyata, menurut Wenchel.

“Apa yang kami lihat setiap hari adalah… menerapkan LLM untuk segala hal mulai dari membuat kode dan pernyataan SQL hingga membuat transkrip kesehatan dan hanya ringkasan hukum; semua yang dapat Anda bayangkan, ”dia menunjukkan. “Ketika Anda benar-benar duduk dan melihat sistem ini dan demo yang kami dapatkan darinya, hype itu pasti dibenarkan.”

Perkakas merupakan aspek penting dalam ruang LLM, menurut Dickerson, yang mengatakan bahwa perkakas memainkan peran penting dalam memahami cara yang lebih baik untuk melatih model.

“Ketika saya berpikir tentang area di mana orang benar-benar fokus saat ini, perkakas adalah salah satunya,” katanya. “Seperti Anda dan saya mengobrol tentang LangChain tepat sebelum wawancara ini dimulai. Dua atau tiga orang dapat duduk dan membuat rangkaian pipa luar biasa yang menghubungkan berbagai aspek ekosistem LLM.”

AI komersial masih dalam masa pertumbuhan

Meskipun AI komersial belum sepenuhnya dimulai, ArthurAI mempercepat kecepatan di area ini melalui aspek-aspek seperti analitik kinerja, menurut Wenchel.

“Saya pikir AI seperti yang telah digembar-gemborkan untuk sementara waktu, AI komersial setidaknya masih dalam masa pertumbuhan,” jelasnya. “Cara kami dapat memelopori cara berpikir baru tentang performa untuk visi komputer, NLP, LLM mungkin adalah hal yang paling saya banggakan. Tapi saya pikir itu benar-benar dapat menentukan apa arti kinerja pada dasarnya untuk semua jenis model dan memberi orang alat yang sangat kuat untuk memahaminya secara berkelanjutan.

Karena pengalaman seperti awan sedang dibuat untuk LLM, kehati-hatian tidak boleh diabaikan sehingga model ini bisa menjadi lebih baik, mengingat model ini didasarkan pada umpan balik manusia, Dickerson menjelaskan.

“Dari sisi saya, itu hanya aliran data input, karena manusia juga mengeksplorasi bagaimana mereka dapat menggunakan sistem ini untuk memulai,” katanya. “Sangat, sangat sulit untuk memprediksi jenis input yang akan Anda lihat dalam produksi. Bagi saya, ini adalah… distribusi input pergeseran yang tidak wajar dari petunjuk serupa yang mungkin Anda lihat untuk model ini.”

Berikut wawancara video lengkap, bagian dari SiliconANGLE dan liputan theCUBE tentang AWS Startup Showcase: acara “Top Startups Building Generative AI on AWS”:

(* Pengungkapan: ArthurAI Inc. mensponsori segmen CUBE ini. Baik ArthurAI maupun sponsor lain tidak memiliki kendali editorial atas konten di CUBE atau SiliconANGLE.)

Foto: SiliconANGLE