Savant 0.2.7 Python құрылымы шығарылды, бұл NVIDIA DeepStream-ді машиналық оқытуға қатысты мәселелерді шешу үшін пайдалануды жеңілдетеді. Рамка GStreamer немесе FFmpeg көмегімен барлық ауыр жүктерді көтереді, бұл декларативті синтаксис (YAML) және Python функцияларын пайдаланып оңтайландырылған шығыс құбырларын құруға назар аударуға мүмкіндік береді. Savant деректер орталығында (NVIDIA Turing, Ampere, Hopper) және шеткі құрылғыларда (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) үдеткіштерде бірдей жұмыс істейтін құбырларды жасауға мүмкіндік береді. Savant көмегімен сіз NVIDIA TensorRT көмегімен бірнеше бейне ағындарын бір уақытта оңай өңдей аласыз және өндіріске дайын бейне аналитика құбырларын жылдам жасай аласыз. Жоба коды Apache 2.0 лицензиясы бойынша таратылады.
Savant 0.2.7 — 0.2.X тармағындағы мүмкіндікті өзгертудің соңғы шығарылымы. 0.2.X тармағындағы болашақ шығарылымдар тек қателерді түзетуді қамтиды. Жаңа мүмкіндіктерді әзірлеу DeepStream 0.3 негізіндегі 6.4.X тармағында жүзеге асырылады. Бұл филиал Jetson Xavier құрылғылар тобына қолдау көрсетпейді, өйткені NVIDIA оларды DS 6.4 нұсқасында қолдамайды.
Негізгі инновациялар:
- Жаңа қолдану жағдайлары:
- RT-DETR трансформаторы негізіндегі анықтау моделімен жұмыс істеу мысалы;
- YOLOV8-Seg үшін CuPy көмегімен CUDA кейінгі өңдеу;
- Savant құбырына PyTorch CUDA интеграциясының мысалы;
- Бағдарланған объектілермен жұмыс жасауды көрсету.
- Жаңа мүмкіндіктер:
- Прометеймен интеграция. Құбыр өнімділікті бақылау және бақылау үшін Prometheus және Grafana бағдарламаларына орындау көрсеткіштерін экспорттай алады. Әзірлеушілер жүйе көрсеткіштерімен бірге экспортталатын теңшелетін көрсеткіштерді жариялай алады.
- Буфер адаптері - адаптерлер мен модульдер арасында қозғалатын деректер үшін дискідегі тұрақты транзакциялық буферді жүзеге асырады. Оның көмегімен сіз ресурстарды күтпеген жерден тұтынатын және трафиктің жарылыстарына төтеп беретін жоғары жүктелген құбырларды жасай аласыз. Адаптер өзінің элементі мен өлшем деректерін Prometheus жүйесіне экспорттайды.
- Модельді құрастыру режимі. Модульдер енді құбырды іске қоспай-ақ TensorRT жүйесінде өз үлгілерін құрастыра алады.
- PyFunc өшіру оқиғасының өңдегіші. Бұл жаңа API ресурстарды босатып, үшінші тарап жүйелеріне өшірудің орын алғаны туралы хабарлай отырып, құбырды өшіруді ұқыпты өңдеуге мүмкіндік береді.
- Кіріс пен шығыста кадрды сүзу. Әдепкі бойынша, конвейер бейне деректері бар барлық кадрларды қабылдайды. Енгізу және шығаруды сүзу арқылы әзірлеушілер өңдеуді болдырмау үшін деректерді сүзе алады.
- Модельді графикалық процессорда кейінгі өңдеу. Жаңа мүмкіндіктің көмегімен әзірлеушілер модель шығыс тензорларына оларды CPU жадына жүктемей-ақ GPU жадынан тікелей қол жеткізе алады және CuPy, TorchVision немесе OpenCV CUDA көмегімен өңдей алады.
- GPU жадын көрсету функциялары. Бұл шығарылымда біз жад буферлерін OpenCV GpuMat, PyTorch GPU тензорлары және CuPy тензорлары арасында түрлендіру функцияларын ұсындық.
- Құбырлар кезектерін пайдалану статистикасына қол жеткізуге арналған API. Savant параллель өңдеуді және буферлеуді өңдеуді жүзеге асыру үшін PyFuncs арасында кезектерді қосуға мүмкіндік береді. Қосылған API әзірлеушілерге құбырда орналастырылған кезектерге қол жеткізуге мүмкіндік береді және олардың қолданылуын сұрауға мүмкіндік береді.
Келесі шығарылымда (0.3.7) функционалдылықты кеңейтпей DeepStream 6.4 нұсқасына көшу жоспарлануда. Идея - 0.2.7 нұсқасымен толық үйлесімді, бірақ DeepStream 6.4 және жетілдірілген технологияға негізделген, бірақ API деңгейінде үйлесімділікті бұзбайтын шығарылымды алу.
Ақпарат көзі: opennet.ru