{"id":113469,"date":"2024-02-08T22:02:49","date_gmt":"2024-02-08T20:02:49","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/vypusk-savant-0-2-7-frejmvorka-kompyuternogo-zreniya-i-glubokogo-obucheniya"},"modified":"2024-02-08T22:02:49","modified_gmt":"2024-02-08T20:02:49","slug":"vypusk-savant-0-2-7-frejmvorka-kompyuternogo-zreniya-i-glubokogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/hu\/blog\/news\/vypusk-savant-0-2-7-frejmvorka-kompyuternogo-zreniya-i-glubokogo-obucheniya","title":{"rendered":"A Savant 0.2.7 kiad\u00e1sa, a sz\u00e1m\u00edt\u00f3g\u00e9pes l\u00e1t\u00e1s \u00e9s m\u00e9lytanul\u00e1s keretrendszere","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Megjelent a Savant 0.2.7 Python-keretrendszer, amely egyszer\u0171s\u00edti az NVIDIA DeepStream haszn\u00e1lat\u00e1t a g\u00e9pi tanul\u00e1ssal kapcsolatos feladatokhoz. A keretrendszer elv\u00e9gzi az \u00f6sszes bonyolult munk\u00e1t a GStreamer vagy az FFmpeg f\u0151z\u0151automata, lehet\u0151v\u00e9 t\u00e9ve a felhaszn\u00e1l\u00f3k sz\u00e1m\u00e1ra, hogy optimaliz\u00e1lt kimeneti cs\u00f6veket \u00e9p\u00edtsenek a deklarat\u00edv szintaxis (YAML) \u00e9s a Python funkci\u00f3k seg\u00edts\u00e9g\u00e9vel. A Savant lehet\u0151v\u00e9 teszi a pipeline-ok l\u00e9trehoz\u00e1s\u00e1t, amelyek egyar\u00e1nt m\u0171k\u00f6dnek adatk\u00f6zponti gyors\u00edt\u00f3kon (NVIDIA Turing, Ampere, Hopper) \u00e9s edge-eszk\u00f6z\u00f6k\u00f6n (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). A Savant seg\u00edts\u00e9g\u00e9vel egyszer\u0171en feldolgozhat\u00f3k t\u00f6bb vide\u00f3stream egyidej\u0171leg, gyorsan l\u00e9trehozhat\u00f3k a munk\u00e1ra k\u00e9sz videoanalitikai pipeline-ok, amelyek NVIDIA TensorRT-t haszn\u00e1lnak. A projektek k\u00f3dja Apache 2.0 licenc alatt \u00e9rhet\u0151 el. <\/p>\n
A Savant 0.2.7 \u2014 az utols\u00f3 kiad\u00e1s, amely funkci\u00f3v\u00e1ltoz\u00e1st tartalmaz a 0.2.X \u00e1gban. A k\u00f6vetkez\u0151 kiad\u00e1sok a 0.2.X \u00e1gban csak hibajav\u00edt\u00e1sokat fognak tartalmazni. Az \u00faj funkci\u00f3k fejleszt\u00e9se a 0.3.X \u00e1gon folytat\u00f3dik, amely a DeepStream 6.4-en alapul. Ez az \u00e1g nem fogja t\u00e1mogatni a Jetson Xavier eszk\u00f6zcsal\u00e1dot, mivel az NVIDIA nem t\u00e1mogatja \u0151ket a DS 6.4-ben. <\/p>\n
F\u0151bb \u00faj\u00edt\u00e1sok: <\/p>\n
\n
\u00daj haszn\u00e1lati p\u00e9ld\u00e1k:\n
\n
P\u00e9lda az RT-DETR alap\u00fa detekt\u00e1l\u00f3 modell haszn\u00e1lat\u00e1ra;\n
CUDA ut\u00f3feldolgoz\u00e1s a CuPy seg\u00edts\u00e9g\u00e9vel a YOLOV8-Seg-hez;\n
P\u00e9lda a PyTorch CUDA integr\u00e1l\u00e1s\u00e1ra a Savant pipeline-ba;\n
Integr\u00e1ci\u00f3 a Prometheusszal. A pipeline k\u00e9pes teljes\u00edtm\u00e9nymutat\u00f3kat export\u00e1lni a Prometheus \u00e9s a Grafana sz\u00e1m\u00e1ra a monitoroz\u00e1shoz \u00e9s a teljes\u00edtm\u00e9ny nyomon k\u00f6vet\u00e9s\u00e9hez. A fejleszt\u0151k egyedi metrik\u00e1kat deklar\u00e1lhatnak, amelyeket a rendszer metrik\u00e1ival egy\u00fctt export\u00e1lnak.\n
A puffertov\u00e1bb\u00edt\u00f3 \u2014 folyamatos tranzakci\u00f3s puffert val\u00f3s\u00edt meg a lemezen az adapterek \u00e9s modulok k\u00f6z\u00f6tti adatok sz\u00e1m\u00e1ra. Ennek seg\u00edts\u00e9g\u00e9vel nagy terhel\u00e9s\u0171 csatorn\u00e1kat lehet fejleszteni, amelyek kisz\u00e1m\u00edthatatlanul fogyasztanak er\u0151forr\u00e1sokat \u00e9s kezelik a forgalmi fellend\u00fcl\u00e9seket. Az adapter a Prometheusba export\u00e1lja az elemekr\u0151l \u00e9s m\u00e9retekr\u0151l sz\u00f3l\u00f3 adatait.\n
Modellek ford\u00edt\u00e1si m\u00f3dja. A modulok mostant\u00f3l k\u00e9pesek a modelljeiket TensorRT-be ford\u00edtani an\u00e9lk\u00fcl, hogy a pipeline-t futtatniuk kellene.\n
Shutdown esem\u00e9nykezel\u0151 a PyFuncban. Ez az \u00faj API lehet\u0151v\u00e9 teszi a koncepci\u00f3 le\u00e1ll\u00edt\u00e1si m\u0171veleteinek helyes kezel\u00e9s\u00e9t, felszabad\u00edtva az er\u0151forr\u00e1sokat \u00e9s \u00e9rtes\u00edtve a k\u00fcls\u0151 rendszereket a befejez\u00e9sr\u0151l.\n
K\u00e9pkiv\u00e1g\u00e1s a bemenetben \u00e9s kimenetben. Alap\u00e9rtelmez\u00e9s szerint a koncepci\u00f3 minden vide\u00f3adatot tartalmaz\u00f3 k\u00e9pet elfogad. A bemeneti \u00e9s kimeneti sz\u0171r\u00e9s seg\u00edts\u00e9g\u00e9vel a fejleszt\u0151k kisz\u0171rhetik az adatokat, hogy kiz\u00e1rj\u00e1k a feldolgoz\u00e1sb\u00f3l.\n
Modell ut\u00f3feldolgoz\u00e1sa GPU-n. Az \u00faj funkci\u00f3 seg\u00edts\u00e9g\u00e9vel a fejleszt\u0151k k\u00f6zvetlen\u00fcl a GPU mem\u00f3ri\u00e1j\u00e1b\u00f3l f\u00e9rhetnek hozz\u00e1 a modell kimeneti tenzoraihoz, an\u00e9lk\u00fcl hogy a CPU mem\u00f3ri\u00e1j\u00e1ba kellene \u0151ket bet\u00f6lteni, \u00e9s ezeket a CuPy, TorchVision vagy OpenCV CUDA seg\u00edts\u00e9g\u00e9vel dolgozhatj\u00e1k fel.\n
GPU mem\u00f3ria bemutat\u00f3 funkci\u00f3i. Ebben a kiad\u00e1sban olyan funkci\u00f3kat biztos\u00edtottunk, amelyek lehet\u0151v\u00e9 teszik a mem\u00f3riabuffer \u00e1talak\u00edt\u00e1s\u00e1t az OpenCV GpuMat, a PyTorch GPU tenzorai \u00e9s a CuPy tenzorai k\u00f6z\u00f6tt.\n
API a koncepci\u00f3haszn\u00e1lati statisztik\u00e1k el\u00e9r\u00e9s\u00e9re. A Savant lehet\u0151v\u00e9 teszi a sorok k\u00f6z\u00f6tti beilleszt\u00e9st a PyFunc-ban a p\u00e1rhuzamos feldolgoz\u00e1s \u00e9s a feldolgoz\u00e1s gyors\u00edt\u00f3t\u00e1raz\u00e1sa \u00e9rdek\u00e9ben. Az API hozz\u00e1f\u00e9r\u00e9st biztos\u00edt a koncepci\u00f3n bel\u00fcl telep\u00edtett sorokhoz, \u00e9s lehet\u0151v\u00e9 teszi azok haszn\u00e1lat\u00e1nak lek\u00e9rdez\u00e9s\u00e9t. <\/ul>\n<\/ul>\n
A k\u00f6vetkez\u0151 kiad\u00e1sban (0.3.7) tervezett \u00e1t\u00e1ll\u00e1s a DeepStream 6.4-re an\u00e9lk\u00fcl, hogy a funkcionalit\u00e1s b\u0151v\u00edtve lenne. Az \u00f6tlet az, hogy egy kiad\u00e1s k\u00e9sz\u00fclj\u00f6n, amely teljes m\u00e9rt\u00e9kben kompatibilis a 0.2.7-tel, de a DeepStream 6.4-en \u00e9s a tov\u00e1bbfejlesztett technol\u00f3gi\u00e1n alapul, API szinten azonban nem okoz kompatibilit\u00e1si probl\u00e9m\u00e1kat. \n Forr\u00e1s: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"A](\"\/wp-content\/uploads\/2024\/02\/0c14b808a6767394352a4eafde317f67.jpg\")
<\/center> <\/p>\n