Il-qafas Savant 0.2.7 Python ġie rilaxxat, li jagħmilha aktar faċli li tuża NVIDIA DeepStream biex issolvi problemi relatati mat-tagħlim tal-magni. Il-qafas jieħu ħsieb l-irfigħ kollu ta 'tqal b'GStreamer jew FFmpeg, li jippermettilek tiffoka fuq il-bini ta' pipelines ta 'output ottimizzati bl-użu ta' sintassi dikjarattiva (YAML) u funzjonijiet Python. Savant jippermettilek li toħloq pipelines li jaħdmu b'mod ugwali fuq aċċeleraturi fiċ-ċentru tad-dejta (NVIDIA Turing, Ampere, Hopper) u fuq tagħmir tat-tarf (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Ma' Savant, tista' faċilment tipproċessa flussi multipli tal-vidjow simultanjament u malajr toħloq pipelines analitiċi tal-vidjow lesti għall-produzzjoni billi tuża NVIDIA TensorRT. Il-kodiċi tal-proġett huwa mqassam taħt il-liċenzja Apache 2.0.
Savant 0.2.7 huwa l-aħħar rilaxx tal-bidla fil-karatteristika fil-fergħa 0.2.X. Ir-rilaxxi futuri fil-fergħa 0.2.X se jinkludu biss bug fixes. L-iżvilupp ta 'karatteristiċi ġodda se jitwettaq fil-fergħa 0.3.X, ibbażata fuq DeepStream 6.4. Din il-fergħa mhux se tappoġġja l-familja ta 'tagħmir Jetson Xavier peress li NVIDIA ma tappoġġjahomx f'DS 6.4.
Innovazzjonijiet ewlenin:
- Każijiet ta' użu ġodda:
- Eżempju ta 'ħidma b'mudell ta' sejbien ibbażat fuq it-transformer RT-DETR;
- CUDA post-ipproċessar ma 'CuPy għal YOLOV8-Seg;
- Eżempju ta 'integrazzjoni PyTorch CUDA fil-pipeline Savant;
- Dimostrazzjoni ta 'ħidma ma' oġġetti orjentati.
- Karatteristiċi ġodda:
- Integrazzjoni ma' Prometheus. Il-pipeline jista’ jesporta metriċi ta’ eżekuzzjoni lil Prometheus u Grafana għall-monitoraġġ u t-traċċar tal-prestazzjoni. L-iżviluppaturi jistgħu jiddikjaraw metriċi tad-dwana li huma esportati flimkien mal-metriċi tas-sistema.
- Buffer Adapter - Jimplimenta buffer transazzjonali persistenti fuq disk għad-dejta li tiċċaqlaq bejn adapters u moduli. Bl-għajnuna tagħha, tista 'tiżviluppa pipelines mgħobbija ħafna li jikkunsmaw ir-riżorsi b'mod imprevedibbli u jifilħu għall-fqigħ ta' traffiku. L-adapter jesporta d-dejta tal-element u tad-daqs tiegħu lil Prometheus.
- Mod ta 'kumpilazzjoni tal-mudell. Il-moduli issa jistgħu jiġbru l-mudelli tagħhom f'TensorRT mingħajr ma jmexxu pipeline.
- Maniġer tal-avvenimenti ta' għeluq ta' PyFunc. Din l-API l-ġdida tippermetti li l-għeluq tal-pipeline jiġi mmaniġġjat b'mod grazzjuż, tillibera r-riżorsi u jinnotifika sistemi ta 'partijiet terzi li l-għeluq seħħ.
- Iffiltrar tal-qafas fid-dħul u l-ħruġ. B'mod awtomatiku, il-pipeline jaċċetta l-frejms kollha li fihom data tal-vidjo. B'filtrazzjoni ta 'input u output, l-iżviluppaturi jistgħu jiffiltraw id-dejta biex jipprevjenu l-ipproċessar.
- Post-ipproċessar tal-mudell fuq il-GPU. Bil-karatteristika l-ġdida, l-iżviluppaturi jistgħu jaċċessaw tensors tal-output tal-mudell direttament mill-memorja tal-GPU mingħajr ma jgħabbuhom fil-memorja tas-CPU u jipproċessawhom billi jużaw CuPy, TorchVision jew OpenCV CUDA.
- Funzjonijiet ta 'rappreżentazzjoni tal-memorja tal-GPU. F'dan ir-rilaxx, ipprovdejna funzjonijiet biex jikkonvertu buffers tal-memorja bejn OpenCV GpuMat, tensors GPU PyTorch, u tensors CuPy.
- API għall-aċċess għall-istatistika dwar l-użu tal-kjuwijiet tal-pipeline. Savant jippermettilek li żżid kjuwijiet bejn PyFuncs biex timplimenta l-ipproċessar parallel u l-ipproċessar tal-buffering. L-API miżjuda tagħti lill-iżviluppaturi aċċess għall-kjuwijiet skjerati fil-pipeline u tippermettilhom li jistaqsu l-użu tagħhom.
Fir-rilaxx li jmiss (0.3.7) huwa ppjanat li timxi għal DeepStream 6.4 mingħajr ma tespandi l-funzjonalità. L-idea hija li tikseb rilaxx li huwa kompletament kompatibbli ma '0.2.7, iżda bbażat fuq DeepStream 6.4 u teknoloġija mtejba, iżda mingħajr ma tinkiser il-kompatibilità fil-livell API.
Sors: opennet.ru