Kua tukuna te angamahi Savant 0.2.7 Python, he maamaa ake te whakamahi i te NVIDIA DeepStream ki te whakaoti rapanga e pa ana ki te ako miihini. Ma te anga e tiaki nga mahi taumaha katoa me te GStreamer, te FFmpeg ranei, ka taea e koe te aro ki te hanga paipa whakaputa pai ma te whakamahi i te wetereo whakapuakanga (YAML) me nga mahi Python. Ka taea e Savant te hanga paipa e mahi rite ana ki nga kaiwhakatere i te pokapū raraunga (NVIDIA Turing, Ampere, Hopper) me nga taputapu mata (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Ma te Savant, ka taea e koe te whakahaere ngawari i nga awa ataata maha i te wa kotahi, ka tere te hanga i nga paipa tātari ataata kua reri ma te whakamahi NVIDIA TensorRT. Ka tohatohahia te waehere kaupapa i raro i te raihana Apache 2.0.
Ko Savant 0.2.7 te putanga hou o te huringa ahuatanga i te peka 0.2.X. Ko nga tukunga a muri ake nei i roto i te peka 0.2.X ka whakauru noa i nga whakatikatika bug. Ko te whakawhanaketanga o nga ahuatanga hou ka whakahaerehia i te peka 0.3.X, i runga i te DeepStream 6.4. Kaore tenei peka e tautoko i te whanau taputapu a Jetson Xavier na te mea kaore a NVIDIA e tautoko i a raatau i roto i te DS 6.4.
Nga mahi hou:
- Nga take whakamahi hou:
- He tauira mo te mahi me te tauira rapunga i runga i te huringa RT-DETR;
- CUDA i muri i te tukatuka me te CuPy mo YOLOV8-Seg;
- He tauira o te whakauru PyTorch CUDA ki te paipa Savant;
- Te whakaatu i te mahi me nga mea e whai kiko ana.
- Ngā āhuatanga hōu:
- Te whakauru ki a Prometheus. Ka taea e te paipa te kawe i nga inenga mahi ki Prometheus me Grafana mo te aro turuki me te whai i nga mahi. Ka taea e nga Kaihanga te whakaatu i nga inenga ritenga ka kaweake me nga inenga punaha.
- Pūurutau Pūreirei - Ka whakatinana i te pūreirei tauwhitinga i runga i te kōpae mō te neke raraunga i waenga i ngā whāurutau me ngā kōwae. Ma tana awhina, ka taea e koe te whakawhanake i nga paipa tino utaina e pau ana i nga rawa kaore i te maarama me te aukati i nga pakaru o te waka. Ka kaweake e te whāurutau ona raraunga huānga me te rahi ki Prometheus.
- Te aratau whakahiato tauira. Ka taea e nga kōwae te whakahiato i a raatau tauira ki TensorRT me te kore e rere paipa.
- PyFunc katia takahanga kaihautu. Ma tenei API hou ka taea te whakahaere pai i nga katinga paipa, te whakawātea i nga rauemi me te whakamohio ki nga punaha-tuatoru kua pa te kati.
- Tātari tāpare i te tāuru me te putanga. Ma te taunoa, ka whakaae te paipa ki nga papa katoa kei roto nga raraunga ataata. Ma te tātari whakauru me te whakaputa, ka taea e nga kaihanga te tarai i nga raraunga hei aukati i te tukatuka.
- I muri i te tukatuka o te tauira i runga i te GPU. Na te ahuatanga hou, ka taea e nga kaiwhakawhanake te uru atu ki nga tauira tauira whakaputa mai i te mahara GPU me te kore e utaina ki roto i te mahara CPU me te tukatuka ma te whakamahi i te CuPy, TorchVision, OpenCV CUDA ranei.
- Nga mahi tohu mahara GPU. I roto i tenei tukunga, i whakaratohia e matou nga mahi hei huri i nga putunga mahara i waenga i te OpenCV GpuMat, PyTorch GPU tensors, me te CuPy tensors.
- API mo te uru ki nga tatauranga mo te whakamahi i nga rarangi paipa. Ka taea e Savant te taapiri i nga rarangi i waenga i nga PyFuncs ki te whakatinana i te tukatuka whakarara me te tukatuka buffering. Ko te API taapiri ka whakawhiwhia ki nga kaiwhakawhanake te uru ki nga rarangi kua tukuna i roto i te paipa me te tuku i a raatau ki te uiui i ta raatau whakamahinga.
I te tukunga e whai ake nei (0.3.7) kua whakamaheretia kia neke ki DeepStream 6.4 me te kore e whakawhänui i te mahi. Ko te whakaaro ko te tiki i te tukunga e tino hototahi ana ki te 0.2.7, engari i runga i te DeepStream 6.4 me te whakapai ake i te hangarau, engari kaore i pakaru te hototahi ki te taumata API.
Source: opennet.ru