Savant 0.2.7 Python فریم ورک جاری کر دیا گیا ہے، جس سے مشین لرننگ سے متعلق مسائل کو حل کرنے کے لیے NVIDIA DeepStream کو استعمال کرنا آسان ہو گیا ہے۔ فریم ورک GStreamer یا FFmpeg کے ساتھ تمام ہیوی لفٹنگ کا خیال رکھتا ہے، جس سے آپ ڈیکلریٹو سنٹیکس (YAML) اور Python فنکشنز کا استعمال کرتے ہوئے آپٹمائزڈ آؤٹ پٹ پائپ لائنز بنانے پر توجہ مرکوز کر سکتے ہیں۔ Savant آپ کو ایسی پائپ لائنیں بنانے کی اجازت دیتا ہے جو ڈیٹا سینٹر (NVIDIA Turing, Ampere, Hopper) اور کنارے والے آلات (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) میں ایکسلریٹرز پر یکساں طور پر کام کرتی ہیں۔ Savant کے ساتھ، آپ آسانی سے ایک ساتھ متعدد ویڈیو اسٹریمز پر کارروائی کر سکتے ہیں اور NVIDIA TensorRT کا استعمال کرتے ہوئے فوری طور پر پروڈکشن کے لیے تیار ویڈیو اینالیٹکس پائپ لائنز بنا سکتے ہیں۔ پروجیکٹ کوڈ اپاچی 2.0 لائسنس کے تحت تقسیم کیا گیا ہے۔
Savant 0.2.7 0.2.X برانچ میں فیچر تبدیلی کی تازہ ترین ریلیز ہے۔ 0.2.X برانچ میں مستقبل کی ریلیز میں صرف بگ فکسز شامل ہوں گی۔ ڈیپ اسٹریم 0.3 پر مبنی نئی خصوصیات کی ترقی 6.4.X برانچ میں کی جائے گی۔ یہ برانچ آلات کے Jetson Xavier خاندان کی حمایت نہیں کرے گی کیونکہ NVIDIA DS 6.4 میں ان کی حمایت نہیں کرتا ہے۔
اہم اختراعات:
- نئے استعمال کے معاملات:
- RT-DETR ٹرانسفارمر پر مبنی پتہ لگانے والے ماڈل کے ساتھ کام کرنے کی ایک مثال؛
- YOLOV8-Seg کے لیے CuPy کے ساتھ CUDA پوسٹ پروسیسنگ؛
- PyTorch CUDA ساونت پائپ لائن میں انضمام کی ایک مثال؛
- پر مبنی اشیاء کے ساتھ کام کرنے کا مظاہرہ۔
- نئی خصوصیات:
- Prometheus کے ساتھ انضمام۔ پائپ لائن کارکردگی کی نگرانی اور ٹریکنگ کے لیے پرومیتھیس اور گرافانا کو عمل درآمد کی پیمائشیں برآمد کر سکتی ہے۔ ڈویلپرز حسب ضرورت میٹرکس کا اعلان کر سکتے ہیں جو سسٹم میٹرکس کے ساتھ برآمد کی جاتی ہیں۔
- بفر اڈاپٹر - اڈاپٹر اور ماڈیولز کے درمیان ڈیٹا منتقل کرنے کے لیے ڈسک پر ایک مستقل لین دین کا بفر نافذ کرتا ہے۔ اس کی مدد سے، آپ انتہائی بھری ہوئی پائپ لائنیں تیار کر سکتے ہیں جو وسائل کو غیر متوقع طور پر استعمال کرتی ہیں اور ٹریفک کے پھٹنے کا مقابلہ کرتی ہیں۔ اڈاپٹر اپنے عنصر اور سائز کا ڈیٹا Prometheus کو برآمد کرتا ہے۔
- ماڈل کمپائلیشن موڈ۔ ماڈیولز اب اپنے ماڈلز کو پائپ لائن چلائے بغیر TensorRT میں مرتب کر سکتے ہیں۔
- PyFunc شٹ ڈاؤن ایونٹ ہینڈلر۔ یہ نیا API پائپ لائن شٹ ڈاؤن کو احسن طریقے سے سنبھالنے، وسائل کو آزاد کرنے اور فریق ثالث کے نظاموں کو مطلع کرنے کی اجازت دیتا ہے کہ شٹ ڈاؤن ہوا ہے۔
- ان پٹ اور آؤٹ پٹ پر فریم فلٹرنگ۔ پہلے سے طے شدہ طور پر، پائپ لائن ویڈیو ڈیٹا پر مشتمل تمام فریموں کو قبول کرتی ہے۔ ان پٹ اور آؤٹ پٹ فلٹرنگ کے ساتھ، ڈویلپر پروسیسنگ کو روکنے کے لیے ڈیٹا کو فلٹر کر سکتے ہیں۔
- GPU پر ماڈل کی پوسٹ پروسیسنگ۔ نئی خصوصیت کے ساتھ، ڈویلپرز ماڈل آؤٹ پٹ ٹینسرز کو براہ راست GPU میموری سے CPU میموری میں لوڈ کیے بغیر رسائی حاصل کر سکتے ہیں اور CuPy، TorchVision یا OpenCV CUDA کا استعمال کرتے ہوئے ان پر کارروائی کر سکتے ہیں۔
- GPU میموری کی نمائندگی کے افعال۔ اس ریلیز میں، ہم نے OpenCV GpuMat، PyTorch GPU ٹینسر، اور CuPy ٹینسر کے درمیان میموری بفرز کو تبدیل کرنے کے لیے فنکشن فراہم کیے ہیں۔
- پائپ لائن کی قطاروں کے استعمال کے اعدادوشمار تک رسائی کے لیے API۔ Savant آپ کو متوازی پروسیسنگ اور بفرنگ پروسیسنگ کو لاگو کرنے کے لیے PyFuncs کے درمیان قطاریں شامل کرنے کی اجازت دیتا ہے۔ شامل کردہ API ڈویلپرز کو پائپ لائن میں تعینات قطاروں تک رسائی فراہم کرتا ہے اور انہیں اپنے استعمال کے بارے میں استفسار کرنے کی اجازت دیتا ہے۔
اگلی ریلیز (0.3.7) میں فعالیت کو بڑھائے بغیر ڈیپ اسٹریم 6.4 پر جانے کا منصوبہ بنایا گیا ہے۔ خیال یہ ہے کہ ایسی ریلیز حاصل کی جائے جو 0.2.7 کے ساتھ مکمل طور پر ہم آہنگ ہو، لیکن ڈیپ اسٹریم 6.4 اور بہتر ٹیکنالوجی پر مبنی ہو، لیکن API کی سطح پر مطابقت کو توڑے بغیر۔
ماخذ: opennet.ru