Maşın öyrənməsi ilə bağlı problemləri həll etmək üçün NVIDIA DeepStream-dən istifadəni asanlaşdıran Savant 0.2.7 Python çərçivəsi buraxıldı. Çərçivə GStreamer və ya FFmpeg ilə bütün ağır yüklərin qaldırılmasına diqqət yetirir, bu da sizə deklarativ sintaksis (YAML) və Python funksiyalarından istifadə edərək optimallaşdırılmış çıxış boru kəmərlərinin qurulmasına diqqət yetirməyə imkan verir. Savant sizə məlumat mərkəzində (NVIDIA Turing, Ampere, Hopper) və kənar cihazlarda (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) sürətləndiricilərdə bərabər işləyən boru kəmərləri yaratmağa imkan verir. Savant ilə siz eyni vaxtda birdən çox video axınını asanlıqla emal edə və NVIDIA TensorRT istifadə edərək istehsala hazır video analitika boru kəmərlərini sürətlə yarada bilərsiniz. Layihə kodu Apache 2.0 lisenziyası altında paylanır.
Savant 0.2.7 0.2.X filialında ən son xüsusiyyət dəyişikliyi buraxılışıdır. 0.2.X filialında gələcək buraxılışlara yalnız səhv düzəlişləri daxildir. Yeni funksiyaların inkişafı DeepStream 0.3 əsasında 6.4.X filialında həyata keçiriləcək. NVIDIA onları DS 6.4-də dəstəkləmədiyi üçün bu filial Jetson Xavier ailəsini dəstəkləməyəcək.
Əsas yeniliklər:
- Yeni istifadə halları:
- RT-DETR transformatoruna əsaslanan aşkarlama modeli ilə işləmə nümunəsi;
- YOLOV8-Seg üçün CuPy ilə CUDA post-processing;
- Savant boru kəmərinə PyTorch CUDA inteqrasiyasının nümunəsi;
- İstiqamətləndirilmiş obyektlərlə işin nümayişi.
- Yeni xüsusiyyətlər:
- Prometey ilə inteqrasiya. Boru kəməri performansın monitorinqi və izlənilməsi üçün icra göstəricilərini Prometheus və Grafana-ya ixrac edə bilər. Tərtibatçılar sistem ölçüləri ilə birlikdə ixrac edilən fərdi ölçüləri elan edə bilərlər.
- Bufer Adapteri - Adapterlər və modullar arasında məlumatların hərəkəti üçün diskdə davamlı əməliyyat buferini həyata keçirir. Onun köməyi ilə siz gözlənilmədən resursları istehlak edən və trafik partlayışlarına tab gətirən yüksək yüklü boru kəmərlərini inkişaf etdirə bilərsiniz. Adapter element və ölçü məlumatlarını Prometeyə ixrac edir.
- Modelin tərtibi rejimi. Modullar artıq boru kəməri işləmədən öz modellərini TensorRT-də tərtib edə bilərlər.
- PyFunc bağlanma hadisəsi idarəedicisi. Bu yeni API boru kəmərinin bağlanmasını zərif şəkildə idarə etməyə imkan verir, resursları azad edir və bağlanmanın baş verdiyi barədə üçüncü tərəf sistemlərini xəbərdar edir.
- Giriş və çıxışda çərçivənin filtrasiyası. Varsayılan olaraq, boru kəməri video məlumatı olan bütün çərçivələri qəbul edir. Giriş və çıxış filtrasiyası ilə tərtibatçılar emalın qarşısını almaq üçün məlumatları süzgəcdən keçirə bilərlər.
- Modelin GPU-da sonrakı işlənməsi. Yeni funksiya ilə tərtibatçılar model çıxış tensorlarını CPU yaddaşına yükləmədən birbaşa GPU yaddaşından əldə edə və CuPy, TorchVision və ya OpenCV CUDA istifadə edərək emal edə bilərlər.
- GPU yaddaş təmsil funksiyaları. Bu buraxılışda biz yaddaş buferlərini OpenCV GpuMat, PyTorch GPU tensorları və CuPy tensorları arasında çevirmək funksiyalarını təqdim etdik.
- Boru kəməri növbələrinin istifadəsi ilə bağlı statistikaya daxil olmaq üçün API. Savant, paralel emal və buferləmə emalını həyata keçirmək üçün PyFuncs arasında növbələr əlavə etməyə imkan verir. Əlavə edilmiş API tərtibatçılara boru kəmərində yerləşdirilən növbələrə giriş imkanı verir və onların istifadəsini sorğulamağa imkan verir.
Növbəti buraxılışda (0.3.7) funksionallığı genişləndirmədən DeepStream 6.4-ə keçmək planlaşdırılır. İdeya 0.2.7 ilə tam uyğun gələn, lakin DeepStream 6.4 və təkmilləşdirilmiş texnologiyaya əsaslanan, lakin API səviyyəsində uyğunluğu pozmadan buraxılış əldə etməkdir.
Mənbə: opennet.ru