Mfumo wa Savant 0.2.7 Python umetolewa, na kurahisisha kutumia NVIDIA DeepStream kutatua matatizo yanayohusiana na kujifunza kwa mashine. Mfumo huu unashughulikia unyanyuaji wote mzito ukitumia GStreamer au FFmpeg, hukuruhusu kuangazia ujenzi wa mabomba yaliyoboreshwa ya kutoa matokeo kwa kutumia sintaksia ya kutangaza (YAML) na vitendaji vya Python. Savant hukuruhusu kuunda mabomba ambayo hufanya kazi kwa usawa kwenye vichapuzi katika kituo cha data (NVIDIA Turing, Ampere, Hopper) na kwenye vifaa vya makali (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Ukiwa na Savant, unaweza kuchakata mitiririko mingi ya video kwa urahisi kwa wakati mmoja na kuunda haraka mabomba ya uchanganuzi wa video tayari kwa uzalishaji kwa kutumia NVIDIA TensorRT. Msimbo wa mradi unasambazwa chini ya leseni ya Apache 2.0.
Savant 0.2.7 ni toleo la hivi punde la mabadiliko ya kipengele katika tawi la 0.2.X. Matoleo yajayo katika tawi la 0.2.X yatajumuisha tu marekebisho ya hitilafu. Uundaji wa vipengele vipya utafanywa katika tawi la 0.3.X, kulingana na DeepStream 6.4. Tawi hili halitasaidia familia ya Jetson Xavier ya vifaa kwa vile NVIDIA haiauni katika DS 6.4.
Ubunifu kuu:
- Kesi mpya za utumiaji:
- Mfano wa kufanya kazi na mfano wa kugundua kulingana na transformer RT-DETR;
- CUDA baada ya usindikaji na CuPy kwa YOLOV8-Seg;
- Mfano wa ushirikiano wa PyTorch CUDA kwenye bomba la Savant;
- Maonyesho ya kufanya kazi na vitu vilivyoelekezwa.
- Vipengele vipya:
- Kuunganishwa na Prometheus. Bomba hilo linaweza kuhamisha vipimo vya utekelezaji kwa Prometheus na Grafana kwa ufuatiliaji na ufuatiliaji wa utendaji. Wasanidi programu wanaweza kutangaza vipimo maalum ambavyo vinasafirishwa pamoja na vipimo vya mfumo.
- Adapta ya Buffer - Hutekeleza bafa inayoendelea ya shughuli kwenye diski kwa ajili ya kuhamisha data kati ya adapta na moduli. Kwa msaada wake, unaweza kuendeleza mabomba yenye kubeba sana ambayo hutumia rasilimali bila kutabirika na kuhimili mlipuko wa trafiki. Adapta husafirisha data ya kipengele na ukubwa wake kwa Prometheus.
- Njia ya ujumuishaji wa mfano. Moduli sasa zinaweza kukusanya miundo yao katika TensorRT bila kuendesha bomba.
- Kidhibiti cha tukio cha kuzima cha PyFunc. API hii mpya inaruhusu kuzimwa kwa mabomba kushughulikiwa kwa njia nzuri, kutoa rasilimali na kuarifu mifumo ya watu wengine kwamba kuzimwa kumetokea.
- Kuchuja fremu kwa pembejeo na pato. Kwa chaguomsingi, bomba linakubali fremu zote zilizo na data ya video. Kwa uchujaji wa ingizo na pato, wasanidi programu wanaweza kuchuja data ili kuzuia uchakataji.
- Uchakataji wa baada ya muundo kwenye GPU. Kwa kipengele kipya, wasanidi programu wanaweza kufikia vidhibiti vya kutoa modeli moja kwa moja kutoka kwa kumbukumbu ya GPU bila kuzipakia kwenye kumbukumbu ya CPU na kuzichakata kwa kutumia CuPy, TorchVision au OpenCV CUDA.
- Vitendaji vya uwakilishi wa kumbukumbu ya GPU. Katika toleo hili, tulitoa chaguo za kukokotoa kubadilisha vihifadhi kumbukumbu kati ya vipenyo vya OpenCV GpuMat, PyTorch GPU, na vipini vya CuPy.
- API ya kufikia takwimu za matumizi ya foleni za bomba. Savant hukuruhusu kuongeza foleni kati ya PyFuncs kutekeleza uchakataji sambamba na uchakataji wa kuakibisha. API iliyoongezwa inawapa wasanidi programu ufikiaji wa foleni zilizowekwa kwenye bomba na inawaruhusu kuuliza utumiaji wao.
Katika toleo linalofuata (0.3.7) imepangwa kuhamia DeepStream 6.4 bila kupanua utendaji. Wazo ni kupata toleo ambalo linaendana kikamilifu na 0.2.7, lakini kulingana na DeepStream 6.4 na teknolojia iliyoboreshwa, lakini bila kuvunja utangamano katika kiwango cha API.
Chanzo: opennet.ru