የ Savant 0.2.7 Python ማዕቀፍ ወጥቷል፣ ይህም ከማሽን መማር ጋር የተያያዙ ችግሮችን ለመፍታት NVIDIA DeepStream ለመጠቀም ቀላል አድርጎታል። ማዕቀፉ ሁሉንም ከባድ ማንሳት በGStreamer ወይም FFmpeg ይንከባከባል፣ይህም እርስዎ ገላጭ አገባብ (YAML) እና Python ተግባራትን በመጠቀም የተመቻቹ የውጤት ቧንቧዎችን በመገንባት ላይ እንዲያተኩሩ ያስችልዎታል። Savant በመረጃ ማእከል (NVIDIA Turing, Ampere, Hopper) እና በጠርዝ መሳሪያዎች (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) ላይ በተጣደፉ ቧንቧዎች ላይ እኩል የሚሰሩ የቧንቧ መስመሮችን እንዲፈጥሩ ይፈቅድልዎታል. በSavant አማካኝነት ብዙ የቪዲዮ ዥረቶችን በአንድ ጊዜ ማካሄድ እና በፍጥነት ለምርት ዝግጁ የሆኑ የቪዲዮ ትንተና ቧንቧዎችን NVIDIA TensorRTን በመጠቀም መፍጠር ይችላሉ። የፕሮጀክት ኮድ በApache 2.0 ፍቃድ ስር ተሰራጭቷል።
Savant 0.2.7 በ0.2.X ቅርንጫፍ ውስጥ ያለው የቅርብ ጊዜ የባህሪ ለውጥ ልቀት ነው። ወደፊት የሚለቀቁት በ0.2.X ቅርንጫፍ ውስጥ የሳንካ ጥገናዎችን ብቻ ያካትታል። በ DeepStream 0.3 ላይ በመመርኮዝ የአዳዲስ ባህሪያት እድገት በ 6.4.X ቅርንጫፍ ውስጥ ይካሄዳል. NVIDIA በDS 6.4 ውስጥ ስለማይደግፋቸው ይህ ቅርንጫፍ የጄትሰን ዣቪየር መሣሪያዎችን አይደግፍም።
ዋና ፈጠራዎች፡-
- አዲስ የአጠቃቀም ጉዳዮች፡-
- በ RT-DETR ትራንስፎርመር ላይ የተመሠረተ የማወቂያ ሞዴል የመሥራት ምሳሌ;
- CUDA ድህረ-ሂደት በCupy ለ YOLOV8-Seg;
- የPyTorch CUDA ወደ Savant ቧንቧ መስመር ውህደት ምሳሌ;
- ተኮር በሆኑ ነገሮች መስራትን ማሳየት.
- አዲስ ባህሪያት፡
- ከፕሮሜቲየስ ጋር ውህደት. የቧንቧ መስመር ለአፈጻጸም ክትትል እና ክትትል የአፈጻጸም መለኪያዎችን ወደ ፕሮሜቴየስ እና ግራፋና መላክ ይችላል። ገንቢዎች ከስርዓት መለኪያዎች ጋር ወደ ውጭ የሚላኩ ብጁ መለኪያዎችን ማወጅ ይችላሉ።
- ቋት አስማሚ - በዲስክ ላይ በአፕታተሮች እና ሞጁሎች መካከል ለሚንቀሳቀስ ውሂብ የማያቋርጥ የግብይት ቋት ይተገብራል። በእሱ እርዳታ ሀብቶችን ሳይታሰብ የሚበሉ እና የትራፊክ ፍንዳታዎችን የሚቋቋሙ በጣም የተጫኑ የቧንቧ መስመሮችን ማዘጋጀት ይችላሉ. አስማሚው የኤለመንቱን እና የመጠን ዳታውን ወደ ፕሮሜቲየስ ይልካል።
- የሞዴል ማጠናቀር ሁነታ. ሞጁሎች አሁን የቧንቧ መስመር ሳይሰሩ ሞዴሎቻቸውን በ TensorRT ማጠናቀር ይችላሉ።
- PyFunc የመዝጋት ክስተት ተቆጣጣሪ። ይህ አዲስ ኤፒአይ የቧንቧ መዝጊያዎችን በቆንጆ ሁኔታ እንዲያስተናግድ፣ ሃብትን ነጻ በማድረግ እና መዘጋቱ መከሰቱን የሶስተኛ ወገን ስርዓቶችን ለማሳወቅ ያስችላል።
- በግቤት እና ውፅዓት ላይ የፍሬም ማጣሪያ። በነባሪ, የቧንቧ መስመር የቪዲዮ ውሂብ የያዙ ሁሉንም ፍሬሞች ይቀበላል. በግብአት እና በውጤት ማጣሪያ፣ ገንቢዎች እንዳይሰራ ውሂብ ማጣራት ይችላሉ።
- በጂፒዩ ላይ የአምሳያው ድህረ-ሂደት. በአዲሱ ባህሪ፣ ገንቢዎች የሞዴል ውፅዓት ቴነሮችን በቀጥታ ከጂፒዩ ማህደረ ትውስታ ወደ ሲፒዩ ማህደረ ትውስታ ሳይጭኗቸው እና CuPy፣ TorchVision ወይም OpenCV CUDAን በመጠቀም ማስኬድ ይችላሉ።
- የጂፒዩ ማህደረ ትውስታ ውክልና ተግባራት. በዚህ ልቀት ላይ የማህደረ ትውስታ ማቆያዎችን በOpenCV GpuMat፣ PyTorch GPU tenors እና CuPy tenors መካከል የሚቀይሩ ተግባራትን አቅርበናል።
- የቧንቧ መስመር ወረፋ አጠቃቀም ላይ ስታቲስቲክስን ለመድረስ API። Savant በPyFuncs መካከል ትይዩ ማቀነባበሪያ እና ማቋረጫ ሂደትን ለመተግበር ወረፋዎችን እንድታክሉ ይፈቅድልሃል። የተጨመረው ኤፒአይ ለገንቢዎች በቧንቧ መስመር ላይ ለተዘረጉት ወረፋዎች መዳረሻ ይሰጣል እና አጠቃቀማቸውን እንዲጠይቁ ያስችላቸዋል።
በሚቀጥለው ልቀት (0.3.7) ተግባራዊነትን ሳያሰፋ ወደ DeepStream 6.4 ለመሄድ ታቅዷል። ሃሳቡ ከ 0.2.7 ጋር ሙሉ ለሙሉ የሚስማማ ነገር ግን በ DeepStream 6.4 እና በተሻሻለ ቴክኖሎጂ ላይ የተመሰረተ ነገር ግን በኤፒአይ ደረጃ ተኳሃኝነትን ሳያቋርጥ ልቀት ማግኘት ነው።
ምንጭ: opennet.ru