Savant 0.2.7 Python ramkasi chiqarildi, bu mashinani o'rganish bilan bog'liq muammolarni hal qilish uchun NVIDIA DeepStream-dan foydalanishni osonlashtiradi. Ramka GStreamer yoki FFmpeg bilan barcha og'ir yuklarni ko'taradi, bu sizga deklarativ sintaksis (YAML) va Python funktsiyalaridan foydalangan holda optimallashtirilgan chiqish quvurlarini qurishga e'tibor qaratish imkonini beradi. Savant sizga ma'lumotlar markazidagi tezlatgichlarda (NVIDIA Turing, Amper, Hopper) va chekka qurilmalarda (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) teng ishlaydigan quvurlarni yaratishga imkon beradi. Savant yordamida siz bir vaqtning o'zida bir nechta video oqimlarini osongina qayta ishlashingiz va NVIDIA TensorRT yordamida ishlab chiqarishga tayyor video tahlil quvurlarini tezda yaratishingiz mumkin. Loyiha kodi Apache 2.0 litsenziyasi ostida tarqatiladi.
Savant 0.2.7 - bu 0.2.X filialidagi so'nggi xususiyatni o'zgartirish versiyasi. 0.2.X filialidagi kelgusi relizlar faqat xatolarni tuzatishni o'z ichiga oladi. Yangi funksiyalarni ishlab chiqish DeepStream 0.3 asosidagi 6.4.X filialida amalga oshiriladi. NVIDIA ularni DS 6.4 da qo'llab-quvvatlamasligi sababli, ushbu filial Jetson Xavier qurilmalari oilasini qo'llab-quvvatlamaydi.
Asosiy innovatsiyalar:
- Yangi foydalanish holatlari:
- RT-DETR transformatoriga asoslangan aniqlash modeli bilan ishlash misoli;
- YOLOV8-Seg uchun CuPy bilan CUDA post-processing;
- Savant quvur liniyasiga PyTorch CUDA integratsiyasi misoli;
- Yo'naltirilgan ob'ektlar bilan ishlashni ko'rsatish.
- Yangi xususiyatlar:
- Prometey bilan integratsiya. Quvur ish faoliyatini kuzatish va kuzatish uchun Prometey va Grafana dasturlariga ijro ko'rsatkichlarini eksport qilishi mumkin. Ishlab chiquvchilar tizim ko'rsatkichlari bilan birga eksport qilinadigan maxsus ko'rsatkichlarni e'lon qilishlari mumkin.
- Bufer adapteri - adapterlar va modullar o'rtasida ma'lumotlar almashinuvi uchun diskda doimiy tranzaksiya buferini amalga oshiradi. Uning yordami bilan siz resurslarni oldindan aytib bo'lmaydigan darajada iste'mol qiladigan va transport portlashlariga bardosh beradigan yuqori yuklangan quvurlarni ishlab chiqishingiz mumkin. Adapter o'zining elementi va o'lchami ma'lumotlarini Prometeyga eksport qiladi.
- Modelni kompilyatsiya qilish rejimi. Modullar endi o'z modellarini TensorRT-da quvur liniyasini ishlatmasdan kompilyatsiya qilishlari mumkin.
- PyFunc o'chirish hodisasi ishlovchisi. Ushbu yangi API quvurlarni o'chirishni oqilona hal qilish imkonini beradi, resurslarni bo'shatadi va uchinchi tomon tizimlarini o'chirish sodir bo'lganligi haqida xabardor qiladi.
- Kirish va chiqishda kadrlarni filtrlash. Odatiy bo'lib, quvur liniyasi video ma'lumotlarini o'z ichiga olgan barcha ramkalarni qabul qiladi. Kirish va chiqish filtrlash yordamida ishlab chiquvchilar ma'lumotlarni qayta ishlashni oldini olish uchun filtrlashlari mumkin.
- Modelni GPUda keyingi qayta ishlash. Yangi funksiya yordamida ishlab chiquvchilar model chiqish tensorlariga ularni protsessor xotirasiga yuklamasdan to‘g‘ridan-to‘g‘ri GPU xotirasidan kirishlari va CuPy, TorchVision yoki OpenCV CUDA yordamida qayta ishlashlari mumkin.
- GPU xotirasini tasvirlash funktsiyalari. Ushbu nashrda biz xotira buferlarini OpenCV GpuMat, PyTorch GPU tensorlari va CuPy tensorlari oʻrtasida aylantirish funksiyalarini taqdim etdik.
- Quvurlar navbatlaridan foydalanish statistikasiga kirish uchun API. Savant parallel ishlov berish va buferlash jarayonini amalga oshirish uchun PyFuncs o'rtasida navbat qo'shish imkonini beradi. Qo'shilgan API ishlab chiquvchilarga quvur liniyasida joylashtirilgan navbatlarga kirish imkonini beradi va ulardan foydalanishni so'rashga imkon beradi.
Keyingi versiyada (0.3.7) funksionallikni kengaytirmasdan DeepStream 6.4 ga o'tish rejalashtirilgan. G'oya 0.2.7 bilan to'liq mos keladigan, ammo DeepStream 6.4 va takomillashtirilgan texnologiyaga asoslangan, ammo API darajasida muvofiqlikni buzmasdan nashrni olishdir.
Manba: opennet.ru