ሳቫንት፣ ለማሽን መማሪያ ተግባራት የ NVIDIA DeepStream አጠቃቀምን ቀላል የሚያደርግ የፓይዘን ማዕቀፍ፣ ተለቋል። ማዕቀፉ የ GStreamer ወይም FFmpeg ውስብስብ ነገሮችን ያስወግዳል፣ ይህም በዴክላራቲቭ አገባብ (YAML) እና በፓይዘን ተግባራት በመጠቀም የተመቻቹ የማጣቀሻ ቧንቧዎችን በመገንባት ላይ እንዲያተኩሩ ያስችልዎታል። ሳቫንት በሁለቱም የውሂብ ማዕከል አፋጣኝ (NVIDIA Turing፣ Ampere፣ Hopper) እና የጠርዝ መሳሪያዎች (NVIDIA Jetson NX፣ AGX Xavier፣ Orin NX፣ AGX Orin፣ New Nano) ላይ ያለምንም እንከን የሚሰሩ የቧንቧ መስመሮችን እንዲፈጥሩ ያስችልዎታል። ሳቫንት በአንድ ጊዜ በርካታ የቪዲዮ ዥረቶችን በቀላሉ እንዲያስኬዱ እና በፍጥነት በ NVIDIA TensorRT በመጠቀም ለምርት ዝግጁ የሆኑ የቪዲዮ ትንታኔ ቧንቧዎችን እንዲፈጥሩ ያስችልዎታል። የፕሮጀክቱ ኮድ በአፓቼ 2.0 ፈቃድ ስር ይሰራጫል።
ሳቫንት 0.2.7 በ0.2.X ቅርንጫፍ ላይ የባህሪ ለውጦች ያሉት የመጨረሻው ልቀት ነው። በ0.2.X ቅርንጫፍ ውስጥ የወደፊት ልቀት የሳንካ ጥገናዎችን ብቻ ያካትታል። የአዳዲስ ባህሪያት ልማት የሚከናወነው በ0.3.X ቅርንጫፍ ውስጥ ሲሆን ይህም በDeepStream 6.4 ላይ የተመሠረተ ነው። ይህ ቅርንጫፍ የጄትሰን ዣቪየር የመሳሪያዎች ቤተሰብን አይደግፍም፣ ምክንያቱም NVIDIA በDeepStream 6.4 ውስጥ ስለማይደግፋቸው።
ዋና ፈጠራዎች፡-
- አዲስ የአጠቃቀም ጉዳዮች፡
- በ RT-DETR ትራንስፎርመር ላይ የተመሠረተ የማወቂያ ሞዴልን የመሥራት ምሳሌ፤
- ለYOLOV8-Seg ከCupy ጋር የCUDA ድህረ-ሂደት፤
- PyTorch CUDAን ከሳቫንት ቧንቧ መስመር ጋር የማዋሃድ ምሳሌ፤
- ተኮር ከሆኑ ነገሮች ጋር የመስራት ማሳያ።
- አዲስ ባህሪያት፡
- የፕሮሜቲየስ ውህደት። የቧንቧ መስመሩ የአፈጻጸም መለኪያዎችን ወደ ፕሮሜቲየስ እና ግራፊና ለአፈጻጸም ክትትል እና ክትትል መላክ ይችላል። ገንቢዎች ከስርዓት መለኪያዎች ጋር ወደ ውጭ የሚላኩ ብጁ መለኪያዎችን መግለጽ ይችላሉ።
- የቡፈር አዳፕተር በአዳፕተሮች እና በሞጁሎች መካከል ለሚንቀሳቀስ ውሂብ በዲስክ ላይ የማያቋርጥ የግብይት ቋት ይተገብራል። ሀብቶችን ባልተጠበቀ ሁኔታ የሚወስዱ እና የትራፊክ መጨናነቅን የሚቋቋሙ ከፍተኛ ጭነት ያላቸውን የቧንቧ መስመሮች ለማዘጋጀት ሊያገለግል ይችላል። አዳፕተሩ የኤለመንት እና የመጠን መረጃውን ወደ ፕሮሜቲየስ ይልካል።
- የሞዴል ማጠናቀር ሁነታ። ሞጁሎች አሁን ሞዴሎቻቸውን ወደ TensorRT ማጠናቀር ይችላሉ፤ ምንም አይነት የቧንቧ መስመር ሳይጠቀሙ።
- በPyFunc ውስጥ የዝግታ ክስተት ተቆጣጣሪ። ይህ አዲስ ኤፒአይ የቧንቧ መስመር መዘጋትን በሚያምር ሁኔታ እንዲያስተናግዱ፣ ሀብቶችን ነፃ እንዲያደርጉ እና የሶስተኛ ወገን ስርዓቶችን ማጠናቀቃቸውን እንዲያሳውቁ ያስችልዎታል።
- የግቤት እና የውጤት ፍሬም ማጣሪያ። በነባሪነት፣ የቧንቧ መስመር የቪዲዮ ውሂብ የያዙ ሁሉንም ክፈፎች ይቀበላል። ገንቢዎች የግብዓት እና የውጤት ማጣሪያን በመጠቀም ውሂብን ከሂደቱ ለማግለል ማጣራት ይችላሉ።
- በጂፒዩ ላይ የሞዴል ድህረ-ሂደት። ይህ አዲስ ባህሪ ገንቢዎች የሞዴል ውፅዓት ቴንሰሮችን በቀጥታ ከጂፒዩ ማህደረ ትውስታ ወደ ሲፒዩ ማህደረ ትውስታ ሳይጭኗቸው እንዲደርሱ እና በCupy፣ TorchVision ወይም OpenCV CUDA በመጠቀም እንዲያስኬዷቸው ያስችላቸዋል።
- የጂፒዩ ማህደረ ትውስታ ውክልና ተግባራት። በዚህ ልቀት፣ በOpenCV GpuMat፣ PyTorch GPU tensors እና CuPy tensors መካከል የማህደረ ትውስታ ቋቶችን ለመቀየር የሚያስችሉ ተግባራትን አስተዋውቀናል።
- የኤፒአይ መዳረሻ ለቧንቧ መስመር ወረፋ አጠቃቀም ስታቲስቲክስ። ሳቫንት ትይዩ ሂደት እና ማቋት ለመተግበር በPyFuncs መካከል ወረፋዎችን እንዲያክሉ ያስችልዎታል። የተጨመረው ኤፒአይ ገንቢዎች በቧንቧ መስመር ውስጥ ለተሰማሩ ወረፋዎች መዳረሻ ይሰጣቸዋል እና አጠቃቀማቸውን እንዲጠይቁ ያስችላቸዋል።
የሚቀጥለው እትም (0.3.7) ያለምንም ተጨማሪ ተግባር ወደ DeepStream 6.4 ለማሻሻል ታቅዷል። ግቡ ከ 0.2.7 ጋር ሙሉ በሙሉ የሚስማማ ነገር ግን በ DeepStream 6.4 እና በተሻሻለው ቴክኖሎጂው ላይ የተመሰረተ ልቀት እንዲኖር ማድረግ ነው፣ የኤፒአይ ተኳሃኝነትን ሳያበላሽ።
ምንጭ: opennet.ru
