Savant 0.2.7 Python kad la te pibliye, sa ki fè li pi fasil pou itilize NVIDIA DeepStream pou rezoud pwoblèm ki gen rapò ak aprantisaj machin. Fondasyon an pran swen nan tout leve lou ak GStreamer oswa FFmpeg, sa ki pèmèt ou konsantre sou bati tiyo pwodiksyon optimize lè l sèvi avèk sentaks deklaratif (YAML) ak fonksyon Python. Savant pèmèt ou kreye tiyo ki travay egalman sou akseleratè nan sant done a (NVIDIA Turing, Ampere, Hopper) ak sou aparèy kwen (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Avèk Savant, ou ka fasilman trete plizyè kouran videyo an menm tan epi byen vit kreye tiyo analiz videyo ki pare pou pwodiksyon lè l sèvi avèk NVIDIA TensorRT. Kòd pwojè a distribye anba lisans Apache 2.0.
Savant 0.2.7 se dènye chanjman karakteristik nan branch 0.2.X la. Pwodiksyon fiti nan branch 0.2.X la pral sèlman gen ladan korije ensèk yo. Devlopman nouvo karakteristik yo pral fèt nan branch 0.3.X, ki baze sou DeepStream 6.4. Branch sa a pa pral sipòte fanmi aparèy Jetson Xavier paske NVIDIA pa sipòte yo nan DS 6.4.
Prensipal inovasyon:
- Nouvo ka itilizasyon:
- Yon egzanp travay ak yon modèl deteksyon ki baze sou transfòmatè RT-DETR;
- CUDA pòs-pwosesis ak CuPy pou YOLOV8-Seg;
- Yon egzanp entegrasyon PyTorch CUDA nan tiyo Savant la;
- Demonstrasyon travay ak objè oryante.
- Nouvo karakteristik:
- Entegrasyon ak Prometheus. Tiyo a ka ekspòte mezi ekzekisyon bay Prometheus ak Grafana pou siveyans pèfòmans ak swiv. Devlopè yo ka deklare mezi koutim ke yo ekspòte ansanm ak mezi sistèm yo.
- Adaptè tanpon - Enplemante yon tanpon tranzaksyon ki pèsistan sou disk pou done k ap deplase ant adaptè ak modil. Avèk èd li, ou ka devlope tiyo trè chaje ki konsome resous yo enprevizib epi kenbe tèt ak eklat trafik. Adaptè a ekspòte done eleman ak gwosè li nan Prometheus.
- Modèl konpilasyon mòd. Modil yo kapab kounye a konpile modèl yo nan TensorRT san yo pa kouri yon tiyo.
- Manadjè evènman fèmen PyFunc. Nouvo API sa a pèmèt fèmen tiyo yo dwe jere avèk grasyeuz, libere resous ak notifye sistèm twazyèm pati yo ke fèmen an te fèt.
- Filtraj ankadreman nan opinyon ak pwodiksyon. Pa default, tiyo a aksepte tout ankadreman ki gen done videyo. Avèk filtraj opinyon ak pwodiksyon, devlopè yo ka filtre done yo anpeche pwosesis.
- Post-pwosesis nan modèl la sou GPU la. Avèk nouvo karakteristik la, devlopè yo ka jwenn aksè nan tensè pwodiksyon modèl dirèkteman nan memwa GPU san yo pa chaje yo nan memwa CPU epi trete yo lè l sèvi avèk CuPy, TorchVision oswa OpenCV CUDA.
- Fonksyon reprezantasyon memwa GPU. Nan lage sa a, nou bay fonksyon pou konvèti tanpon memwa ant OpenCV GpuMat, PyTorch GPU tansè, ak tansè CuPy.
- API pou jwenn aksè nan estatistik sou itilizasyon ke moun kap kriye tiyo. Savant pèmèt ou ajoute ke moun kap kriye ant PyFuncs pou aplike pwosesis paralèl ak pwosesis tanpon. API a te ajoute bay devlopè yo aksè a ke moun kap kriye yo deplwaye nan tiyo a epi li pèmèt yo mande itilizasyon yo.
Nan pwochen lage (0.3.7) li te planifye pou avanse pou pi nan DeepStream 6.4 san yo pa agrandi fonctionnalités. Lide a se jwenn yon lage ki konplètman konpatib ak 0.2.7, men ki baze sou DeepStream 6.4 ak teknoloji amelyore, men san yo pa kraze konpatibilite nan nivo API.
Sous: opennet.ru