Savant 0.2.7 को रिलीज, एक कम्प्युटर दृष्टि र गहिरो शिक्षा फ्रेमवर्क

Savant 0.2.7 Python फ्रेमवर्क जारी गरिएको छ, जसले NVIDIA DeepStream लाई मेसिन लर्निङसँग सम्बन्धित समस्याहरू समाधान गर्न प्रयोग गर्न सजिलो बनाउँछ। ढाँचाले GStreamer वा FFmpeg सँग सबै भारी लिफ्टिङको ख्याल राख्छ, तपाईंलाई घोषणात्मक सिन्ट्याक्स (YAML) र पाइथन प्रकार्यहरू प्रयोग गरेर अनुकूलित आउटपुट पाइपलाइनहरू निर्माणमा ध्यान केन्द्रित गर्न अनुमति दिन्छ। Savant ले तपाईंलाई डाटा सेन्टर (NVIDIA Turing, Ampere, Hopper) र किनारा यन्त्रहरूमा (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) मा एक्सेलेटरहरूमा समान रूपमा काम गर्ने पाइपलाइनहरू सिर्जना गर्न अनुमति दिन्छ। Savant को साथ, तपाईं सजिलै संग धेरै भिडियो स्ट्रिमहरू प्रशोधन गर्न सक्नुहुन्छ र NVIDIA TensorRT प्रयोग गरेर उत्पादन-तयार भिडियो एनालिटिक्स पाइपलाइनहरू द्रुत रूपमा सिर्जना गर्न सक्नुहुन्छ। परियोजना कोड Apache 2.0 लाइसेन्स अन्तर्गत वितरित गरिएको छ।

Savant 0.2.7 0.2.X शाखामा नवीनतम सुविधा परिवर्तन रिलीज हो। 0.2.X शाखामा भविष्यका रिलीजहरूले बग समाधानहरू मात्र समावेश गर्नेछन्। DeepStream 0.3 मा आधारित 6.4.X शाखामा नयाँ सुविधाहरूको विकास गरिनेछ। NVIDIA ले DS 6.4 मा समर्थन नगर्ने भएकाले यो शाखाले Jetson Xavier को यन्त्रहरूको परिवारलाई समर्थन गर्दैन।

मुख्य आविष्कारहरू:

• नयाँ प्रयोग केसहरू:
  • RT-DETR ट्रान्सफर्मरमा आधारित पत्ता लगाउने मोडेलसँग काम गर्ने उदाहरण;
  • YOLOV8-Seg को लागि CuPy सँग CUDA पोस्ट-प्रोसेसिङ;
  • Savant पाइपलाइन मा PyTorch CUDA एकीकरण को एक उदाहरण;
  • उन्मुख वस्तुहरूसँग काम गर्ने प्रदर्शन।
  

• नयाँ सुविधाहरू:
  • Prometheus के साथ एकीकरण। पाइपलाइनले कार्यसम्पादन अनुगमन र ट्र्याकिङका लागि प्रोमेथियस र ग्राफानामा कार्यान्वयन मेट्रिक्स निर्यात गर्न सक्छ। विकासकर्ताहरूले प्रणाली मेट्रिक्ससँगै निर्यात गरिएका अनुकूलन मेट्रिकहरू घोषणा गर्न सक्छन्।
  • बफर एडाप्टर - एडेप्टर र मोड्युलहरू बीच डाटा सार्नको लागि डिस्कमा एक निरन्तर लेनदेन बफर लागू गर्दछ। यसको मद्दतले, तपाईंले अत्यधिक लोड गरिएका पाइपलाइनहरू विकास गर्न सक्नुहुन्छ जसले स्रोतहरू अप्रत्याशित रूपमा उपभोग गर्दछ र ट्राफिकको फटहरू सामना गर्दछ। एडाप्टरले यसको एलिमेन्ट र साइज डेटा प्रोमेथियसलाई निर्यात गर्छ।
  • मोडेल संकलन मोड। मोड्युलहरूले अब पाइपलाइन नचलाएर TensorRT मा आफ्ना मोडेलहरू कम्पाइल गर्न सक्छन्।
  • PyFunc शटडाउन घटना ह्यान्डलर। यो नयाँ एपीआईले पाइपलाइन शटडाउनहरूलाई राम्रोसँग ह्यान्डल गर्न, स्रोतहरू खाली गर्न र बन्द भएको तेस्रो-पक्ष प्रणालीहरूलाई सूचित गर्न अनुमति दिन्छ।
  • इनपुट र आउटपुटमा फ्रेम फिल्टरिङ। पूर्वनिर्धारित रूपमा, पाइपलाइनले भिडियो डेटा समावेश सबै फ्रेमहरू स्वीकार गर्दछ। इनपुट र आउटपुट फिल्टरिङको साथ, विकासकर्ताहरूले प्रशोधन रोक्न डेटा फिल्टर गर्न सक्छन्।
  • GPU मा मोडेलको पोस्ट-प्रोसेसिङ। नयाँ सुविधाको साथ, विकासकर्ताहरूले सीपीयू मेमोरीमा लोड नगरी GPU मेमोरीबाट मोडेल आउटपुट टेन्सरहरू पहुँच गर्न सक्छन् र तिनीहरूलाई CuPy, TorchVision वा OpenCV CUDA प्रयोग गरेर प्रशोधन गर्न सक्छन्।
  • GPU मेमोरी प्रतिनिधित्व कार्यहरू। यस विमोचनमा, हामीले OpenCV GpuMat, PyTorch GPU टेन्सरहरू, र CuPy टेन्सरहरू बीच मेमोरी बफरहरूलाई रूपान्तरण गर्न कार्यहरू प्रदान गर्यौं।
  • पाइपलाइन लाइनहरूको प्रयोगमा तथ्याङ्कहरू पहुँच गर्न API। Savant ले तपाईंलाई PyFuncs बीच समानान्तर प्रशोधन र बफरिङ प्रशोधन कार्यान्वयन गर्न लामहरू थप्न अनुमति दिन्छ। थपिएको एपीआईले विकासकर्ताहरूलाई पाइपलाइनमा लगाइएका लामहरूमा पहुँच दिन्छ र तिनीहरूलाई तिनीहरूको प्रयोग सोध्न अनुमति दिन्छ।

अर्को रिलीजमा (0.3.7) यो कार्यक्षमता विस्तार नगरी DeepStream 6.4 मा सार्न योजना गरिएको छ। विचार भनेको 0.2.7 सँग पूर्ण रूपमा उपयुक्त, तर DeepStream 6.4 र सुधारिएको टेक्नोलोजीमा आधारित, तर API स्तरमा कम्प्याटिबिलिटी तोड्ने बिना रिलीज प्राप्त गर्ने हो।

स्रोत: opennet.ru