Ilana Savant 0.2.7 Python ti tu silẹ, ti o jẹ ki o rọrun lati lo NVIDIA DeepStream lati yanju awọn iṣoro ti o ni ibatan si ẹkọ ẹrọ. Ilana naa n ṣe abojuto gbogbo gbigbe gbigbe pẹlu GStreamer tabi FFmpeg, gbigba ọ laaye lati dojukọ lori kikọ awọn opo gigun ti iṣapeye nipa lilo sintasi asọye (YAML) ati awọn iṣẹ Python. Savant gba ọ laaye lati ṣẹda awọn opo gigun ti o ṣiṣẹ ni deede lori awọn iyara ni ile-iṣẹ data (NVIDIA Turing, Ampere, Hopper) ati lori awọn ẹrọ eti (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Pẹlu Savant, o le ni rọọrun ṣe ilana awọn ṣiṣan fidio lọpọlọpọ nigbakanna ati yarayara ṣẹda awọn opo gigun ti awọn itupalẹ fidio ti o ti ṣetan ni lilo NVIDIA TensorRT. Koodu ise agbese ti pin labẹ iwe-aṣẹ Apache 2.0.
Savant 0.2.7 jẹ idasilẹ iyipada ẹya tuntun ni ẹka 0.2.X. Awọn idasilẹ ọjọ iwaju ni ẹka 0.2.X yoo pẹlu awọn atunṣe kokoro nikan. Idagbasoke awọn ẹya tuntun yoo ṣee ṣe ni ẹka 0.3.X, ti o da lori DeepStream 6.4. Ẹka yii kii yoo ṣe atilẹyin idile Jetson Xavier ti awọn ẹrọ bi NVIDIA ko ṣe atilẹyin wọn ni DS 6.4.
Awọn imotuntun akọkọ:
- Awọn igba lilo titun:
- Apeere ti ṣiṣẹ pẹlu awoṣe wiwa ti o da lori oluyipada RT-DETR;
- CUDA post-processing pẹlu CuPy fun YOLOV8-Seg;
- Apeere ti isọpọ PyTorch CUDA sinu opo gigun ti epo Savant;
- Afihan ti ṣiṣẹ pẹlu awọn ohun-iṣalaye.
- Awọn ẹya tuntun:
- Integration pẹlu Prometheus. Pipeline le okeere awọn metiriki ipaniyan si Prometheus ati Grafana fun ibojuwo iṣẹ ati titele. Awọn olupilẹṣẹ le kede awọn metiriki aṣa ti o jẹ okeere pẹlu awọn metiriki eto.
- Adapter saarin – Ṣe imuse ifipamọ idunadura itẹramọṣẹ lori disiki fun gbigbe data laarin awọn oluyipada ati awọn modulu. Pẹlu iranlọwọ rẹ, o le ṣe agbekalẹ awọn opo gigun ti kojọpọ pupọ ti o jẹ awọn orisun lainidi asọtẹlẹ ti o duro de awọn ijamba ti ijabọ. Ohun ti nmu badọgba ṣe okeere ipin rẹ ati data iwọn si Prometheus.
- Ipo akopo awoṣe. Awọn modulu le ṣe akopọ awọn awoṣe wọn ni TensorRT laisi ṣiṣiṣẹ opo gigun.
- Olutọju iṣẹlẹ tiipa PyFunc. API tuntun yii ngbanilaaye awọn titiipa opo gigun ti epo lati ni ọwọ pẹlu oofẹ, fifisilẹ awọn orisun ati ifitonileti awọn eto ẹnikẹta pe tiipa ti waye.
- Sisẹ fireemu ni titẹ sii ati iṣẹjade. Nipa aiyipada, opo gigun ti epo gba gbogbo awọn fireemu ti o ni data fidio ninu. Pẹlu titẹ sii ati sisẹ iṣelọpọ, awọn olupilẹṣẹ le ṣe àlẹmọ data lati ṣe idiwọ sisẹ.
- Post-processing ti awoṣe lori GPU. Pẹlu ẹya tuntun, awọn olupilẹṣẹ le wọle si awọn adaṣe iṣelọpọ awoṣe taara lati iranti GPU laisi ikojọpọ wọn sinu iranti Sipiyu ati ṣe ilana wọn nipa lilo CuPy, TorchVision tabi OpenCV CUDA.
- GPU iranti oniduro awọn iṣẹ. Ninu itusilẹ yii, a pese awọn iṣẹ lati yi awọn buffer iranti pada laarin OpenCV GpuMat, awọn tenors PyTorch GPU, ati awọn tenors CuPy.
- API fun iraye si awọn iṣiro lori lilo awọn ila opo gigun ti epo. Savant ngbanilaaye lati ṣafikun awọn laini laarin PyFuncs lati ṣe imuṣiṣẹ sisẹ ni afiwe ati sisẹ buffering. API ti a ṣafikun yoo fun awọn olupilẹṣẹ ni iraye si awọn ila ti a fi ranṣẹ sinu opo gigun ti epo ati gba wọn laaye lati beere lilo wọn.
Ninu itusilẹ atẹle (0.3.7) o ti gbero lati gbe si DeepStream 6.4 laisi iṣẹ ṣiṣe ti o pọ si. Ero naa ni lati gba itusilẹ ti o ni ibamu ni kikun pẹlu 0.2.7, ṣugbọn da lori DeepStream 6.4 ati imọ-ẹrọ ilọsiwaju, ṣugbọn laisi fifọ ibamu ni ipele API.
orisun: opennet.ru