La kadro Savant 0.2.7 Python estis publikigita, faciligante uzi NVIDIA DeepStream por solvi problemojn ligitajn al maŝinlernado. La kadro prizorgas la tutan pezan ŝarĝon per GStreamer aŭ FFmpeg, ebligante vin koncentriĝi pri konstruado de optimumigitaj eligo-duktoj per deklara sintakso (YAML) kaj Python-funkcioj. Savant permesas krei duktoj kiuj funkcias egale sur akceliloj en la datumcentro (NVIDIA Turing, Ampere, Hopper) kaj sur randaj aparatoj (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Kun Savant, vi povas facile prilabori plurajn videofluojn samtempe kaj rapide krei produktadpretajn videoanalizajn kanalojn per NVIDIA TensorRT. La projektkodo estas distribuita sub la permesilo Apache 2.0.
Savant 0.2.7 estas la plej nova eldono de trajtoŝanĝo en la branĉo 0.2.X. Estontaj eldonoj en la branĉo 0.2.X nur inkluzivos cimojn. Disvolviĝo de novaj funkcioj estos efektivigita en la branĉo 0.3.X, bazita sur DeepStream 6.4. Ĉi tiu branĉo ne apogos la familion de aparatoj Jetson Xavier ĉar NVIDIA ne subtenas ilin en DS 6.4.
Ĉefaj novigoj:
- Novaj uzkazoj:
- Ekzemplo de laborado kun detektomodelo bazita sur la RT-DETR-transformilo;
- CUDA post-prilaborado kun CuPy por YOLOV8-Seg;
- Ekzemplo de PyTorch CUDA-integriĝo en la Savant-dukton;
- Demonstro pri laboro kun orientitaj objektoj.
- Novaj funkcioj:
- Integriĝo kun Prometeo. La dukto povas eksporti ekzekutmetrikojn al Prometheus kaj Grafana por agado-monitorado kaj spurado. Programistoj povas deklari kutimajn metrikojn, kiuj estas eksportitaj kune kun sistemaj metrikoj.
- Buffer Adapter - Realigas konstantan transakcian bufron sur disko por datumoj moviĝantaj inter adaptiloj kaj moduloj. Kun ĝia helpo, vi povas evoluigi tre ŝarĝitajn duktojn, kiuj konsumas rimedojn neantaŭvideble kaj eltenas eksplodojn de trafiko. La adaptilo eksportas siajn elementojn kaj grandecojn al Prometheus.
- Reĝimo de kompila modelo. Moduloj nun povas kompili siajn modelojn en TensorRT sen funkciigado de dukto.
- PyFunc-fermita evento-traktilo. Ĉi tiu nova API ebligas gracie pritraktatajn ĉesojn de dukto, liberigante resursojn kaj sciigante triajn sistemojn, ke la ĉesigo okazis.
- Kadra filtrado ĉe enigo kaj eligo. Defaŭlte, la dukto akceptas ĉiujn kadrojn enhavantajn videodatenojn. Kun eniga kaj eligo-filtrado, programistoj povas filtri datumojn por malhelpi prilaboradon.
- Post-prilaborado de la modelo sur la GPU. Kun la nova funkcio, programistoj povas aliri modelajn eligtensorojn rekte de GPU-memoro sen ŝarĝi ilin en CPU-memoron kaj procesi ilin per CuPy, TorchVision aŭ OpenCV CUDA.
- GPU memoraj reprezentfunkcioj. En ĉi tiu eldono, ni disponigis funkciojn por konverti memorbufrojn inter OpenCV GpuMat, PyTorch GPU-tensoroj kaj CuPy-tensoroj.
- API por aliri statistikojn pri la uzo de duktovicoj. Savant permesas aldoni vostojn inter PyFuncs por efektivigi paralelan prilaboradon kaj bufran pretigon. La aldonita API donas al programistoj aliron al la atendovicoj deplojitaj en la dukto kaj permesas al ili pridemandi ilian uzon.
En la venonta eldono (0.3.7) estas planite moviĝi al DeepStream 6.4 sen vastigi funkciecon. La ideo estas akiri eldonon kiu estas plene kongrua kun 0.2.7, sed bazita sur DeepStream 6.4 kaj plibonigita teknologio, sed sen rompi kongruon ĉe la API-nivelo.
fonto: opennet.ru