Savant 0.2.7, kerangka Python sing nyederhanakake panggunaan NVIDIA DeepStream kanggo ngatasi masalah pembelajaran mesin, wis dirilis. Framework ngurus kabeh karya Komplek karo GStreamer utawa FFmpeg, ngijini sampeyan kanggo fokus ing mbangun pipelines inferensi optimized nggunakake sintaks deklaratif (YAML) lan fungsi Python. Savant ngidini sampeyan nggawe pipa sing bisa digunakake kanthi apik ing akselerator pusat data (NVIDIA Turing, Ampere, Hopper) lan piranti pinggiran (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Kanthi Savant, sampeyan bisa kanthi gampang ngolah pirang-pirang aliran video bebarengan, kanthi cepet nggawe saluran pipa analytics video sing siap produksi nggunakake NVIDIA TensorRT. Kode proyek disebarake miturut lisensi Apache 2.0.
Savant 0.2.7 punika release fitur-owahan pungkasan ing cabang 0.2.X. Rilis mbesuk ing cabang 0.2.X mung bakal kalebu koreksi bug. Pangembangan fitur anyar bakal ana ing cabang 0.3.X, sing adhedhasar DeepStream 6.4. Cabang iki ora ndhukung kulawarga piranti Jetson Xavier, amarga NVIDIA ora ndhukung ing DS 6.4.
Inovasi utama:
- Conto panggunaan anyar:
- Conto nggarap model deteksi adhedhasar trafo RT-DETR;
- CUDA post-processing karo CuPy kanggo YOLOV8-Seg;
- Conto nggabungake PyTorch CUDA menyang pipa Savant;
- Demonstrasi nggarap obyek sing berorientasi.
- Fitur anyar:
- Integrasi Prometheus. Pipa kasebut bisa ngekspor metrik eksekusi menyang Prometheus lan Grafana kanggo ngawasi lan nelusuri kinerja. Pangembang bisa ngumumake metrik khusus sing diekspor bebarengan karo metrik sistem.
- Buffer Adapter - Ngleksanakake buffer transactional ngengkel ing disk kanggo data obah antarane adaptor lan modul. Bisa digunakake kanggo ngembangake saluran pipa kanthi beban dhuwur sing nggunakake sumber daya kanthi ora bisa ditebak lan nahan lonjakan lalu lintas. Adaptor ngekspor data item lan ukuran menyang Prometheus.
- Mode kompilasi model: Modul saiki bisa ngumpulake model menyang TensorRT tanpa nganggo pipa.
- Pengendali acara mateni PyFunc. API anyar iki ngidini sampeyan nangani operasi mateni pipa kanthi apik, mbebasake sumber daya lan menehi kabar marang sistem pihak katelu babagan shutdown kasebut.
- Input lan output pigura nyaring. Kanthi gawan, pipeline nampa kabeh pigura sing ngemot data video. Kanthi nyaring input lan output, pangembang bisa nyaring data supaya ora diproses.
- Post-Processing model ing GPU. Kanthi fitur anyar iki, pangembang bisa ngakses tensor output model langsung saka memori GPU, tanpa ngemot menyang memori CPU, lan proses nggunakake CuPy, TorchVision utawa OpenCV CUDA.
- Fungsi Perwakilan Memori GPU Ing rilis iki, kita nyedhiyakake fungsi kanggo ngowahi buffer memori antarane OpenCV GpuMat, tensor GPU PyTorch, lan tensor CuPy.
- API kanggo ngakses statistik panggunaan antrian pipa. Savant ngidini nambah antrian antarane PyFuncs kanggo ngleksanakake Processing podo lan Processing buffered. API sing ditambahake menehi akses pangembang menyang antrian sing dipasang ing pipa lan ngidini pitakon panggunaane.
Rilis sabanjure (0.3.7) direncanakake pindhah menyang DeepStream 6.4 tanpa nambah fungsi. Ide iki duwe rilis sing kompatibel karo 0.2.7, nanging adhedhasar DeepStream 6.4 lan teknologi sing luwih apik, nanging tanpa kompatibilitas ing tingkat API.
Source: opennet.ru
