Lëshimi i Savant 0.2.7, një kornizë për vizionin kompjuterik dhe mësimin e thellë

Lançimi i versionit 0.2.7 të kuadrit Python Savant, i cili thjeshton përdorimin e NVIDIA DeepStream për zgjidhjen e problemeve që lidhen me mësimin e makinerive. Ky kuadër merr përsipër të gjithë punën e komplikuar me GStreamer ose FFmpeg, duke lejuar fokusimin në ndërtimin e pipeline-ve të optimizuara me sintaksë deklarative (YAML) dhe funksione Python. Savant lejon krijimin e pipeline-ve që punojnë njësoj si në akseleratorët në qendrat e të dhënave (NVIDIA Turing, Ampere, Hopper), ashtu edhe në pajisjet edge (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Me Savant, mund të përpunoni lehtësisht disa flukse videosh njëkohësisht dhe të krijoni shpejt pipeline të gatshme për aplikacione që përdorin NVIDIA TensorRT. Kodi i projektit shpërndahet nën licencën Apache 2.0.

Savant 0.2.7 është lëshimi më i fundit me ndryshime funksionaliteti në degën 0.2.X. Lëshimet e ardhshme në degën 0.2.X do të përfshijnë vetëm rregullime gabimesh. Zhvillimi i funksioneve të reja do të vazhdojë në degën 0.3.X, e cila është e bazuar në DeepStream 6.4. Kjo degë nuk do të mbështesë familjen e pajisjeve Jetson Xavier, pasi kompania NVIDIA nuk i mbështet ato në DS 6.4.

Novitetet kryesore:

  • Shembuj tĂ« rinj tĂ« pĂ«rdorimit:
    • Shembulli i punĂ«s me modelin e zbulimit tĂ« bazuar nĂ« transformatorin RT-DETR;
    • Postprocesimi CUDA me CuPy pĂ«r YOLOV8-Seg;
    • Shembulli i integrimit tĂ« PyTorch CUDA nĂ« pipeline Savant;
    • Demonstrimi i punĂ«s me objektet e orientuara.

    Lëshimi i Savant 0.2.7, një kornizë për vizionin kompjuterik dhe mësimin e thellë
  • Funksionet e reja:
    • Integrimi me Prometheus. Pipeline mund tĂ« eksportojĂ« metrika ekzekutimi nĂ« Prometheus dhe Grafana pĂ«r monitorimin dhe gjurmimin e performancĂ«s. Zhvilluesit mund tĂ« shpallin metrika tĂ« personalizuara, tĂ« eksportuara sĂ« bashku me metrikat sistemike.
    • Adapteri i tamponit - implementon njĂ« tampon transaksionesh tĂ« pĂ«rhershĂ«m nĂ« disk pĂ«r tĂ« dhĂ«nat qĂ« levizin midis adaptrave dhe moduleve. Me tĂ«, Ă«shtĂ« e mundur tĂ« zhvilloni pipeline tĂ« forta, qĂ« konsumojnĂ« burime nĂ« mĂ«nyrĂ« tĂ« paparashikueshme dhe qĂ« pĂ«rballen me shpĂ«rthime tĂ« trafikut. Adaptri eksporton nĂ« Prometheus tĂ« dhĂ«nat e tij pĂ«r elementĂ«t dhe pĂ«rmasat.
    • Modaliteti i kompilimit tĂ« modeleve. Modulet tani mund tĂ« kompilojnĂ« modelet e tyre nĂ« TensorRT pa e ekzekutuar pipeline-in.
    • Menaxheri i ngjarjeve shutdown nĂ« PyFunc. Ky API i ri lejon pĂ«rpunimin e saktĂ« tĂ« operacioneve tĂ« pĂ«rfundimit tĂ« pipeline-it, duke liruar burimet dhe duke e njoftuar sistemet e jashtme pĂ«r pĂ«rfundimin e punĂ«s.
    • Filtrimi i kadrove nĂ« hyrje dhe dalje. NĂ« mĂ«nyrĂ« default, procesi pranon tĂ« gjithĂ« kadrot qĂ« pĂ«rmbajnĂ« tĂ« dhĂ«na video. Me anĂ« tĂ« filtrimit nĂ« hyrje dhe dalje, zhvilluesit mund tĂ« filtrojnĂ« tĂ« dhĂ«nat pĂ«r tĂ« pĂ«rjashtuar pĂ«rpunimin e tyre.
    • Pas pĂ«rpunimi i modelit nĂ« GPU. FalĂ« funksionit tĂ« ri, zhvilluesit mund tĂ« aksesojnĂ« tenzorrĂ«t e pĂ«rkthyer tĂ« modelit direkt nga memoria e GPU-sĂ«, pa i ngarkuar ato nĂ« memorien e CPU-sĂ« dhe t'i pĂ«rpunojnĂ« ato me CuPy, TorchVision ose OpenCV CUDA.
    • Funksionet e pĂ«rfaqĂ«simit tĂ« memories GPU. NĂ« kĂ«tĂ« version, ne ofruam funksione pĂ«r konvertimin e bufereve tĂ« memories midis OpenCV GpuMat, GPU-tenzoreve tĂ« PyTorch dhe tenzoreve CuPy.
    • API pĂ«r qasje nĂ« statistikĂ«n e pĂ«rdorimit tĂ« radhĂ«ve tĂ« procesit. Savant lejon shtimin e radhĂ«ve mes PyFunc pĂ«r tĂ« implementuar pĂ«rpunimin paralel dhe bufrimin e pĂ«rpunimit. API i shtuar u ofron zhvilluesve akses nĂ« radhĂ«t e ndiera nĂ« proces dhe lejon kĂ«rkimin e pĂ«rdorimit tĂ« tyre.

Në versionin e ardhshëm (0.3.7) planifikohet kalimi në DeepStream 6.4 pa zgjerimin e funksionalitetit. Ideja është të arrihet një lëshim krejtësisht përputhës me 0.2.7, por i bazuar në DeepStream 6.4 dhe teknologji të përmirësuar, por pa prishje të përputhshmërisë në nivel API.

Burimi: opennet.ru

Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster