යන්ත්‍ර ඉගෙනීම සම්බන්ධ ගැටළු විසඳීම සඳහා NVIDIA DeepStream භාවිතා කිරීම පහසු කරමින් Savant 0.2.7 Python රාමුව නිකුත් කර ඇත. රාමුව GStreamer හෝ FFmpeg සමඟ ඇති සියලුම බර ඉසිලීම ගැන සැලකිලිමත් වන අතර, ප්‍රකාශන වාක්‍ය ඛණ්ඩ (YAML) සහ පයිතන් ශ්‍රිත භාවිතයෙන් ප්‍රශස්ත ප්‍රතිදාන නල මාර්ග ගොඩනැගීමට ඔබට අවධානය යොමු කිරීමට ඉඩ සලසයි. දත්ත මධ්‍යස්ථානයේ (NVIDIA Turing, Ampere, Hopper) සහ දාර උපාංගවල (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) ත්වරණකාරක මත සමානව ක්‍රියා කරන නල මාර්ග නිර්මාණය කිරීමට Savant ඔබට ඉඩ සලසයි. Savant සමඟින්, ඔබට එකවර බහුවිධ වීඩියෝ ප්‍රවාහයන් පහසුවෙන් සැකසීමට සහ NVIDIA TensorRT භාවිතයෙන් ඉක්මනින් නිෂ්පාදන-සූදානම් වීඩියෝ විශ්ලේෂණ නල මාර්ග නිර්මාණය කළ හැක. ව්‍යාපෘති කේතය Apache 2.0 බලපත්‍රය යටතේ බෙදා හැරේ.
Savant 0.2.7 යනු 0.2.X ශාඛාවේ නවතම විශේෂාංග වෙනස් කිරීමේ නිකුතුවයි. 0.2.X ශාඛාවේ අනාගත නිකුතු වල දෝෂ නිවැරදි කිරීම් පමණක් ඇතුළත් වේ. DeepStream 0.3 මත පදනම්ව 6.4.X ශාඛාව තුළ නව විශේෂාංග සංවර්ධනය කිරීම සිදු කෙරේ. DS 6.4 හි NVIDIA සහාය නොදක්වන බැවින් මෙම ශාඛාව Jetson Xavier පවුලේ උපාංග සඳහා සහය නොදක්වයි.
ප්රධාන නවෝත්පාදන:
- නව භාවිත අවස්ථා:
- RT-DETR ට්රාන්ස්ෆෝමරය මත පදනම්ව හඳුනාගැනීමේ ආකෘතියක් සමඟ වැඩ කිරීමේ උදාහරණයක්;
- YOLOV8-Seg සඳහා CuPy සමඟ CUDA පසු-සැකසුම;
- Savant නල මාර්ගයට PyTorch CUDA ඒකාබද්ධ කිරීම පිළිබඳ උදාහරණයක්;
- දිශානුගත වස්තූන් සමඟ වැඩ කිරීම නිරූපණය කිරීම.
- නව විශේෂාංග:
- Prometheus සමඟ ඒකාබද්ධ වීම. කාර්ය සාධනය අධීක්ෂණය සහ ලුහුබැඳීම සඳහා නල මාර්ගයට ක්‍රියාත්මක කිරීමේ ප්‍රමිතික Prometheus සහ Grafana වෙත අපනයනය කළ හැක. සංවර්ධකයින්ට පද්ධති ප්‍රමිතික සමඟ අපනයනය කරන අභිරුචි ප්‍රමිතික ප්‍රකාශ කළ හැක.
- බෆර ඇඩැප්ටරය - ඇඩැප්ටර සහ මොඩියුල අතර දත්ත චලනය සඳහා තැටියේ ස්ථීර ගනුදෙනු බෆරයක් ක්‍රියාත්මක කරයි. එහි ආධාරයෙන්, ඔබට අනපේක්ෂිත ලෙස සම්පත් පරිභෝජනය කරන සහ වාහන තදබදයට ඔරොත්තු දෙන අධික ලෙස පටවන ලද නල මාර්ග සංවර්ධනය කළ හැකිය. ඇඩැප්ටරය එහි මූලද්‍රව්‍ය සහ ප්‍රමාණයේ දත්ත Prometheus වෙත අපනයනය කරයි.
- ආකෘති සම්පාදන මාදිලිය. මොඩියුලවලට දැන් නල මාර්ගයක් ධාවනය නොකර TensorRT හි ඔවුන්ගේ ආකෘති සම්පාදනය කළ හැක.
- PyFunc වසා දැමීමේ සිදුවීම් හසුරුවන්නා. මෙම නව API මඟින් නල මාර්ග වසා දැමීම් අලංකාර ලෙස හැසිරවීමට, සම්පත් නිදහස් කිරීමට සහ වසා දැමීම සිදු වූ බව තෙවන පාර්ශවීය පද්ධති වෙත දැනුම් දීමට ඉඩ සලසයි.
- ආදාන සහ ප්‍රතිදානයේදී රාමු පෙරීම. පෙරනිමියෙන්, නල මාර්ගය වීඩියෝ දත්ත අඩංගු සියලුම රාමු පිළිගනී. ආදාන සහ ප්‍රතිදාන පෙරීම සමඟින්, සංවර්ධකයින්ට සැකසීම වැළැක්වීමට දත්ත පෙරීමට හැකිය.
- GPU මත ආකෘතිය පසු-සැකසීම. නව විශේෂාංගය සමඟින්, සංවර්ධකයින්ට CPU මතකයට පැටවීමකින් තොරව GPU මතකයෙන් සෘජුවම ආදර්ශ නිමැවුම් ටෙන්සර් වෙත ප්‍රවේශ විය හැකි අතර CuPy, TorchVision හෝ OpenCV CUDA භාවිතයෙන් ඒවා සැකසීමට හැකිය.
- GPU මතක නිරූපණය කාර්යයන්. මෙම නිකුතුවේදී, අපි OpenCV GpuMat, PyTorch GPU ටෙන්සර් සහ CuPy ටෙන්සර් අතර මතක බෆර පරිවර්තනය කිරීමට ශ්‍රිත ලබා දුන්නෙමු.
- නල මාර්ග පෝලිම් භාවිතය පිළිබඳ සංඛ්‍යාලේඛන වෙත ප්‍රවේශ වීම සඳහා API. Savant ඔබට PyFuncs අතර සමාන්තර සැකසුම් සහ බෆරින් සැකසුම් ක්‍රියාත්මක කිරීමට පෝලිම් එක් කිරීමට ඉඩ සලසයි. එකතු කරන ලද API සංවර්ධකයින්ට නල මාර්ගයේ යොදවා ඇති පෝලිම් වෙත ප්‍රවේශය ලබා දෙන අතර ඒවායේ භාවිතය විමසීමට ඔවුන්ට ඉඩ සලසයි.
මීළඟ නිකුතුවේදී (0.3.7) ක්‍රියාකාරීත්වය පුළුල් නොකර DeepStream 6.4 වෙත යාමට සැලසුම් කර ඇත. අදහස නම් 0.2.7 සමඟ සම්පුර්ණයෙන්ම ගැළපෙන නමුත් DeepStream 6.4 සහ වැඩිදියුණු කළ තාක්ෂණය මත පදනම් වූ නමුත් API මට්ටමින් ගැළපුම බිඳ දැමීමකින් තොරව නිකුතුවක් ලබා ගැනීමයි.
මූලාශ්රය: opennet.ru