Habka Savant 0.2.7 Python waa la sii daayay, taas oo sahlaysa isticmaalka NVIDIA DeepStream si loo xalliyo dhibaatooyinka la xiriira barashada mashiinka. Qaab-dhismeedku wuxuu daryeelayaa dhammaan qaadista culus ee GStreamer ama FFmpeg, taasoo kuu oggolaanaysa inaad diirada saarto dhisidda dhuumaha wax soo saarka ee la hagaajiyay iyadoo la adeegsanayo syntax dhawaaq (YAML) iyo Python. Savant waxay kuu ogolaaneysaa inaad abuurto dhuumo si siman uga shaqeeya dardar-geliyayaasha xarunta xogta (NVIDIA Turing, Ampere, Hopper) iyo qalabka geesaha (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Iyada oo la adeegsanayo Savant, waxaad si fudud u socodsiin kartaa fiidiyoowyo badan oo fiidiyoow ah isku mar isla markaana si dhakhso leh ayaad u abuuri kartaa dhuumaha falanqaynta fiidiyooga ee diyaarsan adoo isticmaalaya NVIDIA TensorRT. Xeerka mashruuca waxaa lagu qaybiyaa shatiga Apache 2.0.
Savant 0.2.7 waa muuqaalkii ugu dambeeyay ee isbedelka laanta 0.2.X. Siidaynta mustaqbalka ee laanta 0.2.X waxa ku jiri doona oo kaliya hagaajinta cayayaanka. Horumarinta sifooyinka cusub waxaa lagu fulin doonaa laanta 0.3.X, oo ku salaysan DeepStream 6.4. Laantani ma taageeri doonto qoyska Jetson Xavier ee aaladaha maadaama NVIDIA aysan ku taageerin DS 6.4.
Hal-abuurka ugu muhiimsan:
- Kiisaska cusub ee isticmaalka:
- Tusaalaha la shaqaynta qaabka ogaanshaha ee ku salaysan RT-DETR transformer;
- CUDA dib-u-habaynta ka dib oo leh CuPy ee YOLOV8-Seg;
- Tusaale PyTorch CUDA dhexgalka dhuumaha Savant;
- Muujinta ku shaqeynta walxaha jihada.
- Tilmaamo cusub:
- Is dhexgalka Prometheus Dhuumaha ayaa u dhoofin kara qiyaasaha fulinta Prometheus iyo Grafana si ay ula socdaan waxqabadka iyo dabagalka. Horumariyayaashu waxay ku dhawaaqi karaan cabbirada caadiga ah ee la dhoofiyo oo ay la socdaan cabbirada nidaamka.
- Adapter-ka Badbaadiyaha - Hirgelinta xawaalad joogto ah saxanka si ay xogta u dhex marto adaabta iyo modulesyada. Caawinteeda, waxaad horumarin kartaa dhuumaha aadka loo raro kuwaas oo u isticmaala agabka si aan la saadaalin karin oo u adkeysan kara dillaaca gaadiidka. Adabterku wuxuu u dhoofiyaa cunsugiisa iyo xogta cabbirkiisa Prometheus.
- Qaabka isku dubaridka. Modules hadda waxay ku ururin karaan moodooyinkooda TensorRT iyaga oo aan wadan dhuumo.
- Maamulaha dhacdada xidhitaanka PyFunc. API-gan cusub wuxuu u oggolaanayaa xiritaanka dhuumaha in si qurux badan loo maareeyo, iyadoo la xoreynayo kheyraadka iyo ogeysiinta nidaamyada qolo saddexaad in xiritaanku dhacay.
- Shaandhaynta qaab-dhismeedka marka la geliyo iyo soo saarista. Sida caadiga ah, dhuumaha ayaa aqbala dhammaan fareemada ka kooban xogta fiidyowga. Soo galinta iyo shaandhaynta soosaarka, horumariyayaashu waxay shaandhayn karaan xogta si ay uga hortagaan habaynta.
- Dib-u-habaynta moodeelka GPU-da. Sifada cusub, horumariyayaashu waxay si toos ah uga heli karaan tenors-soo-saarka moodalka xusuusta GPU-da iyaga oo aan ku shubin xusuusta CPU oo ay ku socodsiiyaan iyaga oo isticmaalaya CuPy, TorchVision ama OpenCV CUDA.
- Metelaad xusuusta GPU hawlaha. Siideyntan, waxaan ku bixinnay hawlo lagu beddelayo kaydiyeyaasha xusuusta ee u dhexeeya OpenCV GpuMat, tensors PyTorch GPU, iyo kiraystayaasha CuPy.
- API si loo helo tirakoobyada isticmaalka safafka dhuumaha. Savant wuxuu kuu ogolaanayaa inaad ku darto safafka u dhexeeya PyFuncs si loo hirgeliyo habayn isbarbar socda iyo habayn. API-ga lagu daray wuxuu siinayaa horumariyeyaasha marin u helka safafka la geliyay dhuumaha waxayna u ogolaataa inay waydiiyaan isticmaalkooda.
Siideynta soo socota (0.3.7) waxaa la qorsheeyay in loo guuro DeepStream 6.4 iyada oo aan la ballaarin shaqeynta. Fikradda ayaa ah in la helo sii-deynta si buuxda ula jaan qaada 0.2.7, laakiin ku salaysan DeepStream 6.4 iyo tiknoolajiyada la hagaajiyay, laakiin iyada oo aan la jebin iswaafajinta heerka API.
Source: opennet.ru
