Die Savant 0.2.7 Python-raamwerk is vrygestel, wat dit makliker maak om NVIDIA DeepStream te gebruik om probleme op te los wat met masjienleer verband hou. Die raamwerk sorg vir al die swaar opheffing met GStreamer of FFmpeg, sodat jy kan fokus op die bou van geoptimaliseerde uitsetpyplyne met behulp van verklarende sintaksis (YAML) en Python-funksies. Savant laat jou toe om pyplyne te skep wat ewe werk op versnellers in die datasentrum (NVIDIA Turing, Ampere, Hopper) en op randtoestelle (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano). Met Savant kan jy maklik verskeie videostrome gelyktydig verwerk en vinnig produksiegereed video-analise-pyplyne skep met behulp van NVIDIA TensorRT. Die projekkode word onder die Apache 2.0-lisensie versprei.
Savant 0.2.7 is die nuutste weergawe van kenmerkverandering in die 0.2.X-tak. Toekomstige vrystellings in die 0.2.X-tak sal slegs foutoplossings insluit. Ontwikkeling van nuwe kenmerke sal in die 0.3.X-tak uitgevoer word, gebaseer op DeepStream 6.4. Hierdie tak sal nie die Jetson Xavier-familie toestelle ondersteun nie, aangesien NVIDIA dit nie in DS 6.4 ondersteun nie.
Belangrikste innovasies:
- Nuwe gebruik gevalle:
- 'n Voorbeeld van werk met 'n opsporingsmodel gebaseer op die RT-DETR-transformator;
- CUDA-naverwerking met CuPy vir YOLOV8-Seg;
- 'n Voorbeeld van PyTorch CUDA-integrasie in die Savant-pyplyn;
- Demonstrasie van werk met georiënteerde voorwerpe.
- Nuwe kenmerke:
- Integrasie met Prometheus. Die pyplyn kan uitvoeringsstatistieke na Prometheus en Grafana uitvoer vir prestasiemonitering en -opsporing. Ontwikkelaars kan gepasmaakte maatstawwe verklaar wat saam met stelselmaatstawwe uitgevoer word.
- Bufferadapter - Implementeer 'n aanhoudende transaksionele buffer op skyf vir data wat tussen adapters en modules beweeg. Met sy hulp kan jy hoogs gelaaide pypleidings ontwikkel wat hulpbronne onvoorspelbaar verbruik en verkeerssarsies weerstaan. Die adapter voer sy element- en groottedata uit na Prometheus.
- Modelsamestellingsmodus. Modules kan nou hul modelle in TensorRT saamstel sonder om 'n pyplyn te laat loop.
- PyFunc afsluit gebeurtenis hanteerder. Hierdie nuwe API laat toe dat pyplynafsluitings grasieus hanteer word, wat hulpbronne bevry en derdepartystelsels in kennis stel dat die afsluiting plaasgevind het.
- Raamfiltrering by invoer en afvoer. By verstek aanvaar die pyplyn alle rame wat videodata bevat. Met inset- en uitsetfiltrering kan ontwikkelaars data filter om verwerking te voorkom.
- Na-verwerking van die model op die GPU. Met die nuwe kenmerk kan ontwikkelaars toegang tot model-uitsettensors direk vanaf GPU-geheue verkry sonder om dit in CPU-geheue te laai en dit met CuPy, TorchVision of OpenCV CUDA te verwerk.
- GPU geheue verteenwoordiging funksies. In hierdie vrystelling het ons funksies verskaf om geheuebuffers tussen OpenCV GpuMat, PyTorch GPU-tensors en CuPy-tensors om te skakel.
- API vir toegang tot statistieke oor die gebruik van pyplyn toue. Savant laat jou toe om rye tussen PyFuncs by te voeg om parallelle verwerking en bufferverwerking te implementeer. Die bygevoegde API gee ontwikkelaars toegang tot die toue wat in die pyplyn ontplooi is en stel hulle in staat om navraag te doen oor die gebruik daarvan.
In die volgende weergawe (0.3.7) word beplan om na DeepStream 6.4 te skuif sonder om funksionaliteit uit te brei. Die idee is om 'n vrystelling te kry wat ten volle versoenbaar is met 0.2.7, maar gebaseer op DeepStream 6.4 en verbeterde tegnologie, maar sonder om versoenbaarheid op die API-vlak te breek.
Bron: opennet.ru