U framework Savant 0.2.7 Python hè statu liberatu, facendu più faciule d'utilizà NVIDIA DeepStream per risolve i prublemi ligati à l'apprendimentu machine. U quadru si occupa di tutti i pesi pesanti cù GStreamer o FFmpeg, chì vi permette di fucalizza nantu à a custruzzione di pipeline di output ottimizzati utilizendu sintassi dichjarativa (YAML) è funzioni Python. Savant permette di creà pipeline chì travaglianu ugualmente in l'acceleratori in u centru di dati (NVIDIA Turing, Ampere, Hopper) è in i dispositi di punta (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Cù Savant, pudete facilmente processà più flussi video simultaneamente è creà rapidamente pipeline di analisi video pronte per a produzzione cù NVIDIA TensorRT. U codice di u prugettu hè distribuitu sottu a licenza Apache 2.0.
Savant 0.2.7 hè l'ultima versione di cambiamentu di funziunalità in u ramu 0.2.X. E versioni future in u ramu 0.2.X includeranu solu correzioni di bug. U sviluppu di novi funziunalità serà realizatu in u ramu 0.3.X, basatu annantu à DeepStream 6.4. Questa filiera ùn sustene micca a famiglia di i dispositi Jetson Xavier postu chì NVIDIA ùn li supporta micca in DS 6.4.
Innuvazioni principali:
- Novi casi d'usu:
- Un esempiu di travaglià cù un mudellu di deteczione basatu nantu à u transformatore RT-DETR;
- CUDA post-processing cù CuPy per YOLOV8-Seg;
- Un esempiu di integrazione PyTorch CUDA in u pipeline Savant;
- Dimustrazione di travaglià cù l'uggetti orientati.
- Funzioni novi:
- Integrazione cù Prometheus. U pipeline pò esportà metriche di esecuzione à Prometheus è Grafana per u monitoraghju è u seguimentu di u rendiment. I sviluppatori ponu dichjarà metriche persunalizati chì sò esportati cù e metriche di u sistema.
- Buffer Adapter - Implementa un buffer transazionale persistente nantu à u discu per i dati chì si movenu trà adattatori è moduli. Cù u so aiutu, pudete sviluppà pipeline altamente carichi chì cunsumanu risorse imprevisiblemente è resistenu à raffiche di trafficu. L'adattatore esporta i so elementi è i dati di dimensione à Prometheus.
- Modu di compilazione di mudelli. I moduli ponu avà cumpilà i so mudelli in TensorRT senza eseguisce un pipeline.
- Gestore di eventi di arrestu PyFunc. Questa nova API permette à i chjusi di pipeline per esse gestiti cù grazia, liberendu risorse è avvisendu i sistemi di terzu chì l'arrestu hè accadutu.
- Filtru di frames in input è output. Per automaticamente, u pipeline accetta tutti i frames chì cuntenenu dati video. Cù filtrazione di input è output, i sviluppatori ponu filtrà i dati per impediscenu u processu.
- Post-processamentu di u mudellu nantu à a GPU. Cù a nova funzione, i sviluppatori ponu accede à i tensori di output di mudelli direttamente da a memoria GPU senza caricali in a memoria di CPU è li processanu cù CuPy, TorchVision o OpenCV CUDA.
- Funzioni di rapprisintazioni di memoria GPU. In questa versione, avemu furnitu funzioni per cunvertisce i buffer di memoria trà OpenCV GpuMat, tensori GPU PyTorch è tensori CuPy.
- API per accede à e statistiche nantu à l'usu di fila di pipeline. Savant permette di aghjunghje file trà PyFuncs per implementà u processamentu parallelu è u buffering processing. L'API aghjuntu dà à i sviluppatori l'accessu à e file di fila implementate in u pipeline è li permette di dumandà u so usu.
In a prossima versione (0.3.7) hè previstu di passà à DeepStream 6.4 senza espansioni di funziunalità. L'idea hè di ottene una liberazione chì hè cumplettamente cumpatibile cù 0.2.7, ma basatu annantu à DeepStream 6.4 è tecnulugia mejorata, ma senza rompe a cumpatibilità à u livellu API.
Source: opennet.ru