एआई हार्डवेयर स्टार्टअप सेरेब्रास ने एक नया AI अनुमान समाधान बनाया है जो उद्यमों के लिए Nvidia के GPU पेशकशों को संभावित रूप से टक्कर दे सकता है।
सेरेब्रस इनफेरेंस टूल कंपनी के वेफर-स्केल इंजन पर आधारित है और यह शानदार प्रदर्शन देने का वादा करता है। सूत्रों के अनुसार, इस टूल ने लामा 3.1 8B के लिए 1,800 टोकन प्रति सेकंड और लामा 3.1 70B के लिए 450 टोकन प्रति सेकंड की गति हासिल की है। सेरेब्रस का दावा है कि ये गति न केवल एनवीडिया के जीपीयू द्वारा इन प्रणालियों को उत्पन्न करने के लिए आवश्यक सामान्य हाइपरस्केल क्लाउड उत्पादों की तुलना में तेज़ है, बल्कि वे अधिक लागत-कुशल भी हैं।
यह एक बड़ा बदलाव है जनरेटिव एआई बाज़ारगार्टनर के विश्लेषक अरुण चंद्रशेखरन ने कहा। जबकि इस बाजार का ध्यान पहले प्रशिक्षण पर था, यह वर्तमान में अनुमान लगाने की लागत और गति पर स्थानांतरित हो रहा है। यह बदलाव उद्यम सेटिंग्स के भीतर एआई उपयोग के मामलों की वृद्धि के कारण है और एआई उत्पादों और सेवाओं के सेरेब्रस जैसे विक्रेताओं के लिए प्रदर्शन के आधार पर प्रतिस्पर्धा करने का एक बड़ा अवसर प्रदान करता है।
आर्टिफिशियल एनालिसिस के सह-संस्थापक और सीईओ मीका हिल-स्मिथ कहते हैं, सेरेब्रास ने अपने एआई इंफरेंस बेंचमार्क में वाकई कमाल कर दिया। कंपनी के मापन लामा 3.1 8बी पर प्रति सेकंड 1,800 से ज़्यादा आउटपुट टोकन तक पहुँच गए, और लामा 3.1 70बी पर आउटपुट 446 से ज़्यादा आउटपुट टोकन प्रति सेकंड था। इस तरह, उन्होंने दोनों बेंचमार्क में नए रिकॉर्ड बनाए।
हालांकि, संभावित प्रदर्शन लाभों के बावजूद, सेरेब्रस को उद्यम बाजार में महत्वपूर्ण चुनौतियों का सामना करना पड़ता है। Nvidia का सॉफ़्टवेयर और हार्डवेयर स्टैक उद्योग पर हावी है और उद्यमों द्वारा व्यापक रूप से अपनाया जाता है। फ़्यूचरम ग्रुप के एक विश्लेषक डेविड निकोलसन बताते हैं कि जबकि सेरेब्रस का वेफ़र-स्केल सिस्टम Nvidia की तुलना में कम लागत पर उच्च प्रदर्शन प्रदान कर सकता है, मुख्य प्रश्न यह है कि क्या उद्यम सेरेब्रस के सिस्टम के साथ काम करने के लिए अपनी इंजीनियरिंग प्रक्रियाओं को अनुकूलित करने के लिए तैयार हैं।
एनवीडिया और सेरेब्रास जैसे विकल्पों के बीच चुनाव कई कारकों पर निर्भर करता है, जिसमें संचालन का पैमाना और उपलब्ध पूंजी शामिल है। छोटी फर्मों के एनवीडिया चुनने की संभावना है क्योंकि यह पहले से ही स्थापित समाधान प्रदान करता है। साथ ही, अधिक पूंजी वाले बड़े व्यवसाय दक्षता बढ़ाने और लागत बचाने के लिए बाद वाले को चुन सकते हैं।
जैसे-जैसे एआई हार्डवेयर बाजार विकसित होता रहेगा, सेरेब्रास को विशेष क्लाउड प्रदाताओं, माइक्रोसॉफ्ट, एडब्ल्यूएस और गूगल जैसे हाइपरस्केलर्स और ग्रोक जैसे समर्पित इंफ़रेंसिंग प्रदाताओं से भी प्रतिस्पर्धा का सामना करना पड़ेगा। प्रदर्शन, लागत और कार्यान्वयन में आसानी के बीच संतुलन संभवतः नई इंफ़रेंस तकनीकों को अपनाने में उद्यम निर्णयों को आकार देगा।
प्रति सेकंड 1,000 टोकन से अधिक की क्षमता वाले हाई-स्पीड एआई अनुमान का उद्भव ब्रॉडबैंड इंटरनेट के विकास के बराबर है, जो एआई अनुप्रयोगों के लिए एक नया क्षेत्र खोल सकता है। सेरेब्रस की 16-बिट सटीकता और तेज़ अनुमान क्षमताएं भविष्य के एआई अनुप्रयोगों के निर्माण को सक्षम कर सकती हैं जहां पूरे एआई एजेंटों को तेजी से, बार-बार और वास्तविक समय में काम करना चाहिए।
एआई क्षेत्र के विकास के साथ, एआई इंफरेंस हार्डवेयर का बाजार भी बढ़ रहा है। कुल एआई हार्डवेयर बाजार के लगभग 40% के लिए जिम्मेदार, यह खंड व्यापक एआई हार्डवेयर उद्योग के भीतर एक तेजी से आकर्षक लक्ष्य बन रहा है। यह देखते हुए कि अधिक प्रमुख कंपनियां इस खंड के बहुमत पर कब्जा करती हैं, कई नए लोगों को इस प्रतिस्पर्धी परिदृश्य के महत्वपूर्ण पहलुओं पर ध्यान से विचार करना चाहिए, प्रतिस्पर्धी प्रकृति और उद्यम स्थान को नेविगेट करने के लिए आवश्यक महत्वपूर्ण संसाधनों पर विचार करना चाहिए।
(द्वारा तसवीर टिमोथी डाइक्स)
यह भी देखें: सॉवरेन AI को नए NVIDIA माइक्रोसर्विस से बढ़ावा मिला
क्या आप उद्योग जगत के नेताओं से एआई और बिग डेटा के बारे में अधिक जानना चाहते हैं? चेक आउट एआई और बिग डेटा एक्सपो एम्स्टर्डम, कैलिफोर्निया और लंदन में आयोजित किया जा रहा है। यह व्यापक कार्यक्रम अन्य प्रमुख कार्यक्रमों के साथ सह-स्थित है, जिनमें शामिल हैं बुद्धिमान स्वचालन सम्मेलन, ब्लॉकएक्स, डिजिटल परिवर्तन सप्ताहऔर साइबर सुरक्षा और क्लाउड एक्सपो.
TechForge द्वारा संचालित अन्य आगामी एंटरप्राइज़ प्रौद्योगिकी कार्यक्रमों और वेबिनारों का अन्वेषण करें यहाँ.
सेरेब्रस बनाम एनवीडिया: नया अनुमान उपकरण उच्च प्रदर्शन का वादा करता है यह पोस्ट सबसे पहले एआई न्यूज़ पर दिखाई दिया।