Објављен је оквир Савант 0.2.7 Питхон, који олакшава коришћење НВИДИА ДеепСтреам-а за решавање проблема у вези са машинским учењем. Оквир се брине за све тешке послове са ГСтреамер-ом или ФФмпег-ом, омогућавајући вам да се фокусирате на изградњу оптимизованих излазних цевовода коришћењем декларативне синтаксе (ИАМЛ) и Питхон функција. Савант вам омогућава да креирате цевоводе који раде подједнако на акцелераторима у центру података (НВИДИА Туринг, Ампере, Хоппер) и на ивичним уређајима (НВИДИА Јетсон НКС, АГКС Ксавиер, Орин НКС, АГКС Орин, Нев Нано). Уз Савант, можете лако да обрађујете више видео токова истовремено и брзо креирате цевоводе видео аналитике спремне за производњу користећи НВИДИА ТенсорРТ. Код пројекта се дистрибуира под лиценцом Апацхе 2.0.
Савант 0.2.7 је најновије издање за промену функција у грани 0.2.Кс. Будућа издања у грани 0.2.Кс ће укључивати само исправке грешака. Развој нових функција ће се вршити у грани 0.3.Кс, заснованој на ДеепСтреам 6.4. Ова грана неће подржавати породицу уређаја Јетсон Ксавиер јер их НВИДИА не подржава у ДС 6.4.
Главне иновације:
- Нови случајеви употребе:
- Пример рада са моделом детекције на бази РТ-ДЕТР трансформатора;
- ЦУДА накнадна обрада са ЦуПи за ИОЛОВ8-Сег;
- Пример ПиТорцх ЦУДА интеграције у Савант цевовод;
- Демонстрација рада са оријентисаним објектима.
- Нове функције:
- Интеграција са Прометејем. Цевовод може да експортује метрику извршења у Прометхеус и Графана за праћење и праћење перформанси. Програмери могу да декларишу прилагођене метрике које се извозе заједно са системским метрикама.
- Буффер Адаптер - Имплементира трајни трансакциони бафер на диску за кретање података између адаптера и модула. Уз његову помоћ, можете развити високо оптерећене цевоводе који непредвидиво троше ресурсе и издржавају навале саобраћаја. Адаптер извози своје податке о елементима и величини у Прометхеус.
- Режим компилације модела. Модули сада могу да компајлирају своје моделе у ТенсорРТ-у без покретања цевовода.
- ПиФунц обрађивач догађаја искључивања. Овај нови АПИ омогућава елегантно руковање искључивањем цевовода, ослобађајући ресурсе и обавештавајући системе трећих страна да је дошло до гашења.
- Филтрирање оквира на улазу и излазу. Подразумевано, цевовод прихвата све оквире који садрже видео податке. Са филтрирањем улаза и излаза, програмери могу филтрирати податке како би спречили обраду.
- Накнадна обрада модела на ГПУ-у. Са новом функцијом, програмери могу приступити излазним тензорима модела директно из ГПУ меморије без учитавања у ЦПУ меморију и обрадити их користећи ЦуПи, ТорцхВисион или ОпенЦВ ЦУДА.
- Функције представљања ГПУ меморије. У овом издању обезбедили смо функције за претварање меморијских бафера између ОпенЦВ ГпуМат, ПиТорцх ГПУ тензора и ЦуПи тензора.
- АПИ за приступ статистици о коришћењу редова цевовода. Савант вам омогућава да додате редове између ПиФунцс-а да бисте имплементирали паралелну обраду и обраду баферовања. Додати АПИ омогућава програмерима приступ редовима који су распоређени у цевоводу и омогућава им да испитају њихову употребу.
У наредном издању (0.3.7) планира се прелазак на ДеепСтреам 6.4 без проширења функционалности. Идеја је да се добије издање које је потпуно компатибилно са 0.2.7, али засновано на ДеепСтреам 6.4 и побољшаној технологији, али без нарушавања компатибилности на нивоу АПИ-ја.
Извор: опеннет.ру