Թողարկվել է Savant 0.2.7 Python շրջանակը՝ հեշտացնելով NVIDIA DeepStream-ի օգտագործումը՝ մեքենայական ուսուցման հետ կապված խնդիրները լուծելու համար: Շրջանակը հոգում է բոլոր ծանրաբեռնվածությունները GStreamer-ի կամ FFmpeg-ի միջոցով՝ թույլ տալով կենտրոնանալ օպտիմիզացված ելքային խողովակաշարերի կառուցման վրա՝ օգտագործելով դեկլարատիվ շարահյուսություն (YAML) և Python ֆունկցիաները: Savant-ը թույլ է տալիս ստեղծել խողովակաշարեր, որոնք հավասարապես աշխատում են տվյալների կենտրոնի արագացուցիչների վրա (NVIDIA Turing, Ampere, Hopper) և ծայրամասային սարքերի վրա (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano): Savant-ի միջոցով դուք կարող եք հեշտությամբ մշակել մի քանի վիդեո հոսքեր միաժամանակ և արագ ստեղծել արտադրության համար պատրաստ տեսավերլուծական խողովակաշարեր՝ օգտագործելով NVIDIA TensorRT: Ծրագրի կոդը բաշխվում է Apache 2.0 լիցենզիայի ներքո:
Savant 0.2.7-ը վերջին հնարավորությունների փոփոխության թողարկումն է 0.2.X մասնաճյուղում: 0.2.X մասնաճյուղի ապագա թողարկումները կներառեն միայն վրիպակների շտկումներ: Նոր գործառույթների մշակումը կիրականացվի 0.3.X մասնաճյուղում՝ հիմնված DeepStream 6.4-ի վրա: Այս մասնաճյուղը չի աջակցի Jetson Xavier ընտանիքի սարքերին, քանի որ NVIDIA-ն դրանք չի աջակցում DS 6.4-ում:
Հիմնական նորամուծությունները.
- Նոր օգտագործման դեպքեր.
- RT-DETR տրանսֆորմատորի վրա հիմնված հայտնաբերման մոդելի հետ աշխատելու օրինակ.
- CUDA հետմշակում CuPy-ով YOLOV8-Seg-ի համար;
- PyTorch CUDA-ի ինտեգրման օրինակ Savant խողովակաշարում;
- Կողմնորոշված օբյեկտների հետ աշխատանքի ցուցադրում.
- Նոր առանձնահատկություններ.
- Ինտեգրում Պրոմեթևսի հետ. Խողովակաշարը կարող է կատարման ցուցանիշներ արտահանել Պրոմեթևս և Գրաֆանա՝ կատարողականի մոնիտորինգի և հետևելու համար: Մշակողները կարող են հայտարարագրել հատուկ չափումներ, որոնք արտահանվում են համակարգի չափումների հետ մեկտեղ:
- Բուֆերային ադապտեր - իրականացնում է մշտական գործարքային բուֆեր սկավառակի վրա՝ ադապտերների և մոդուլների միջև շարժվող տվյալների համար: Նրա օգնությամբ դուք կարող եք զարգացնել բարձր բեռնված խողովակաշարեր, որոնք անկանխատեսելիորեն սպառում են ռեսուրսները և դիմակայում են երթևեկության պայթյուններին: Ադապտորն իր տարրի և չափի տվյալները արտահանում է Պրոմեթևս:
- Մոդելի կազմման ռեժիմ. Մոդուլներն այժմ կարող են իրենց մոդելները կազմել TensorRT-ում՝ առանց խողովակաշարի գործարկման:
- PyFunc-ի անջատման միջոցառումների կարգավորիչ: Այս նոր API-ն թույլ է տալիս խողովակաշարերի անջատումներին նրբորեն վարվել՝ ազատելով ռեսուրսները և ծանուցելով երրորդ կողմի համակարգերին, որ անջատումը տեղի է ունեցել:
- Շրջանակի զտում մուտքի և ելքի վրա: Լռելյայնորեն, խողովակաշարն ընդունում է վիդեո տվյալներ պարունակող բոլոր շրջանակները: Մուտքային և ելքային զտման միջոցով մշակողները կարող են զտել տվյալները՝ կանխելու մշակումը:
- Մոդելի հետմշակում GPU-ի վրա: Նոր գործառույթի շնորհիվ մշակողները կարող են մուտք գործել մոդելի ելքային թենսորներ անմիջապես GPU հիշողությունից՝ առանց դրանք բեռնելու պրոցեսորի հիշողության մեջ և մշակել դրանք՝ օգտագործելով CuPy, TorchVision կամ OpenCV CUDA:
- GPU հիշողության ներկայացման գործառույթներ: Այս թողարկումում մենք տրամադրեցինք գործառույթներ՝ փոխարկելու հիշողության բուֆերները OpenCV GpuMat, PyTorch GPU թենսորների և CuPy թենսորների միջև:
- API՝ խողովակաշարի հերթերի օգտագործման վիճակագրության հասանելիության համար: Savant-ը թույլ է տալիս հերթեր ավելացնել PyFuncs-ի միջև՝ զուգահեռ մշակում և բուֆերային մշակում իրականացնելու համար: Ավելացված API-ն ծրագրավորողներին հնարավորություն է տալիս մուտք գործել դեպի խողովակաշարում տեղակայված հերթերը և թույլ է տալիս նրանց հարցումներ կատարել դրանց օգտագործման վերաբերյալ:
Հաջորդ թողարկումում (0.3.7) նախատեսվում է տեղափոխել DeepStream 6.4՝ առանց ֆունկցիոնալության ընդլայնման։ Գաղափարն այն է, որ ստանանք թողարկում, որը լիովին համատեղելի է 0.2.7-ի հետ, բայց հիմնված է DeepStream 6.4-ի և բարելավված տեխնոլոգիայի վրա, բայց առանց API մակարդակի համատեղելիությունը խախտելու:
Source: opennet.ru