Savant 0.2.7 Python framework wis dirilis, dadi luwih gampang nggunakake NVIDIA DeepStream kanggo ngatasi masalah sing ana hubungane karo machine learning. Framework njupuk care saka kabeh ngangkat abot karo GStreamer utawa FFmpeg, ngijini sampeyan kanggo fokus ing mbangun pipelines output optimized nggunakake syntax declarative (YAML) lan fungsi Python. Savant ngidini sampeyan nggawe saluran pipa sing bisa digunakake kanthi padha ing akselerator ing pusat data (NVIDIA Turing, Ampere, Hopper) lan ing piranti pinggiran (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Kanthi Savant, sampeyan bisa kanthi gampang ngolah pirang-pirang aliran video bebarengan lan kanthi cepet nggawe saluran pipa analytics video sing siap produksi nggunakake NVIDIA TensorRT. Kode proyek disebarake miturut lisensi Apache 2.0.
Savant 0.2.7 minangka release pangowahan fitur paling anyar ing cabang 0.2.X. Rilis mbesuk ing cabang 0.2.X mung bakal kalebu koreksi bug. Pangembangan fitur-fitur anyar bakal ditindakake ing cabang 0.3.X, adhedhasar DeepStream 6.4. Cabang iki ora ndhukung kulawarga piranti Jetson Xavier amarga NVIDIA ora ndhukung ing DS 6.4.
Inovasi utama:
- Kasus panggunaan anyar:
- Conto nggarap model deteksi adhedhasar trafo RT-DETR;
- CUDA post-processing karo CuPy kanggo YOLOV8-Seg;
- Conto integrasi PyTorch CUDA menyang pipa Savant;
- Demonstrasi nggarap obyek sing berorientasi.
- Fitur anyar:
- Integrasi karo Prometheus. Pipa kasebut bisa ngekspor metrik eksekusi menyang Prometheus lan Grafana kanggo ngawasi lan nelusuri kinerja. Pangembang bisa ngumumake metrik khusus sing diekspor bebarengan karo metrik sistem.
- Buffer Adapter - Ngleksanakake buffer transactional ngengkel ing disk kanggo data obah antarane adaptor lan modul. Kanthi bantuan, sampeyan bisa ngembangake saluran pipa sing ngemot sumber daya sing ora bisa ditebak lan nahan lalu lintas. Adaptor ngekspor data unsur lan ukuran menyang Prometheus.
- Mode kompilasi model. Modul saiki bisa ngumpulake model ing TensorRT tanpa nganggo pipa.
- Pengendali acara mateni PyFunc. API anyar iki ngidini shutdown pipa bisa ditangani kanthi apik, mbebasake sumber daya lan ngabari sistem pihak katelu yen mati wis kedadeyan.
- Filter pigura ing input lan output. Kanthi gawan, pipeline nampa kabeh pigura sing ngemot data video. Kanthi nyaring input lan output, pangembang bisa nyaring data kanggo nyegah pangolahan.
- Post-processing model ing GPU. Kanthi fitur anyar, pangembang bisa ngakses tensor output model langsung saka memori GPU tanpa ngemot menyang memori CPU lan ngolah kanthi nggunakake CuPy, TorchVision utawa OpenCV CUDA.
- fungsi perwakilan memori GPU. Ing rilis iki, kita nyedhiyakake fungsi kanggo ngowahi buffer memori antarane OpenCV GpuMat, tensor GPU PyTorch, lan tensor CuPy.
- API kanggo ngakses statistik babagan panggunaan antrian pipa. Savant ngijini sampeyan kanggo nambah antrian antarane PyFuncs kanggo ngleksanakake Processing podo lan Processing buffering. API sing ditambahake menehi akses pangembang menyang antrian sing dipasang ing saluran pipa lan ngidini dheweke takon babagan panggunaan.
Ing release sabanjurΓ© (0.3.7) wis ngrancang pindhah menyang DeepStream 6.4 tanpa ngembangaken fungsi. Ide iki kanggo entuk rilis sing kompatibel karo 0.2.7, nanging adhedhasar DeepStream 6.4 lan teknologi sing luwih apik, nanging tanpa kompatibilitas ing tingkat API.
Source: opennet.ru