સાવંત 0.2.7નું પ્રકાશન, કમ્પ્યુટર વિઝન અને ડીપ લર્નિંગ ફ્રેમવર્ક

Savant 0.2.7 Python ફ્રેમવર્ક બહાર પાડવામાં આવ્યું છે, જે મશીન લર્નિંગને લગતી સમસ્યાઓને ઉકેલવા માટે NVIDIA ડીપસ્ટ્રીમનો ઉપયોગ કરવાનું સરળ બનાવે છે. ફ્રેમવર્ક GStreamer અથવા FFmpeg સાથે તમામ હેવી લિફ્ટિંગની કાળજી લે છે, જે તમને ઘોષણાત્મક સિન્ટેક્સ (YAML) અને પાયથોન ફંક્શનનો ઉપયોગ કરીને ઑપ્ટિમાઇઝ આઉટપુટ પાઇપલાઇન્સ બનાવવા પર ધ્યાન કેન્દ્રિત કરવાની મંજૂરી આપે છે. Savant તમને પાઈપલાઈન બનાવવા માટે પરવાનગી આપે છે જે ડેટા સેન્ટર (NVIDIA ટ્યુરિંગ, એમ્પીયર, હોપર) અને એજ ડિવાઈસ (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) માં એક્સિલરેટર પર સમાન રીતે કામ કરે છે. Savant સાથે, તમે સરળતાથી એકસાથે બહુવિધ વિડિયો સ્ટ્રીમ્સ પર પ્રક્રિયા કરી શકો છો અને NVIDIA TensorRT નો ઉપયોગ કરીને પ્રોડક્શન-રેડી વિડિયો એનાલિટિક્સ પાઈપલાઈન ઝડપથી બનાવી શકો છો. પ્રોજેક્ટ કોડ અપાચે 2.0 લાયસન્સ હેઠળ વિતરિત કરવામાં આવે છે.

Savant 0.2.7 એ 0.2.X શાખામાં નવીનતમ ફીચર ચેન્જ રીલીઝ છે. 0.2.X શાખામાં ભાવિ પ્રકાશનોમાં માત્ર બગ ફિક્સેસનો સમાવેશ થશે. ડીપસ્ટ્રીમ 0.3 પર આધારિત 6.4.X શાખામાં નવી સુવિધાઓનો વિકાસ હાથ ધરવામાં આવશે. આ શાખા જેટસન ઝેવિયર પરિવારના ઉપકરણોને સમર્થન આપશે નહીં કારણ કે NVIDIA તેમને DS 6.4 માં સમર્થન આપતું નથી.

મુખ્ય નવીનતાઓ:

• નવા ઉપયોગના કેસો:
  • RT-DETR ટ્રાન્સફોર્મર પર આધારિત ડિટેક્શન મોડલ સાથે કામ કરવાનું ઉદાહરણ;
  • YOLOV8-Seg માટે CuPy સાથે CUDA પોસ્ટ-પ્રોસેસિંગ;
  • PyTorch CUDA સવંત પાઇપલાઇનમાં એકીકરણનું ઉદાહરણ;
  • લક્ષી વસ્તુઓ સાથે કામ કરવાનું પ્રદર્શન.
  

• નવી સુવિધાઓ:
  • પ્રોમિથિયસ સાથે એકીકરણ. પાઈપલાઈન પરફોર્મન્સ મોનિટરિંગ અને ટ્રેકિંગ માટે પ્રોમિથિયસ અને ગ્રાફનાને એક્ઝેક્યુશન મેટ્રિક્સ નિકાસ કરી શકે છે. વિકાસકર્તાઓ કસ્ટમ મેટ્રિક્સ જાહેર કરી શકે છે જે સિસ્ટમ મેટ્રિક્સ સાથે નિકાસ કરવામાં આવે છે.
  • બફર એડેપ્ટર - એડેપ્ટરો અને મોડ્યુલો વચ્ચે ડેટા ખસેડવા માટે ડિસ્ક પર સતત ટ્રાન્ઝેક્શનલ બફરનો અમલ કરે છે. તેની સહાયથી, તમે અત્યંત લોડ કરેલી પાઇપલાઇન્સ વિકસાવી શકો છો જે અણધારી રીતે સંસાધનોનો ઉપયોગ કરે છે અને ટ્રાફિકના વિસ્ફોટનો સામનો કરે છે. એડેપ્ટર તેના તત્વ અને કદના ડેટાને પ્રોમિથિયસને નિકાસ કરે છે.
  • મોડલ સંકલન મોડ. મોડ્યુલ્સ હવે પાઇપલાઇન ચલાવ્યા વિના તેમના મોડલને ટેન્સોરઆરટીમાં કમ્પાઇલ કરી શકે છે.
  • PyFunc શટડાઉન ઇવેન્ટ હેન્ડલર. આ નવું API પાઈપલાઈન શટડાઉનને સુંદર રીતે હેન્ડલ કરવાની પરવાનગી આપે છે, સંસાધનોને મુક્ત કરીને અને તૃતીય-પક્ષ સિસ્ટમોને સૂચિત કરે છે કે શટડાઉન થયું છે.
  • ઇનપુટ અને આઉટપુટ પર ફ્રેમ ફિલ્ટરિંગ. ડિફૉલ્ટ રૂપે, પાઇપલાઇન વિડિઓ ડેટા ધરાવતી તમામ ફ્રેમ્સ સ્વીકારે છે. ઇનપુટ અને આઉટપુટ ફિલ્ટરિંગ સાથે, વિકાસકર્તાઓ પ્રક્રિયાને રોકવા માટે ડેટાને ફિલ્ટર કરી શકે છે.
  • GPU પર મોડલની પોસ્ટ-પ્રોસેસિંગ. નવી સુવિધા સાથે, વિકાસકર્તાઓ મોડેલ આઉટપુટ ટેન્સરને CPU મેમરીમાં લોડ કર્યા વિના સીધા GPU મેમરીમાંથી ઍક્સેસ કરી શકે છે અને CuPy, TorchVision અથવા OpenCV CUDA નો ઉપયોગ કરીને પ્રક્રિયા કરી શકે છે.
  • GPU મેમરી પ્રતિનિધિત્વ કાર્યો. આ પ્રકાશનમાં, અમે OpenCV GpuMat, PyTorch GPU ટેન્સર્સ અને CuPy ટેન્સર્સ વચ્ચે મેમરી બફર્સને કન્વર્ટ કરવા માટે ફંક્શન પ્રદાન કર્યા છે.
  • પાઈપલાઈન કતારોના ઉપયોગ પર આંકડાઓ ઍક્સેસ કરવા માટે API. Savant તમને સમાંતર પ્રક્રિયા અને બફરિંગ પ્રક્રિયાને અમલમાં મૂકવા માટે PyFuncs વચ્ચે કતાર ઉમેરવાની મંજૂરી આપે છે. ઉમેરાયેલ API વિકાસકર્તાઓને પાઈપલાઈનમાં જમાવવામાં આવેલી કતારોની ઍક્સેસ આપે છે અને તેમને તેમના ઉપયોગની ક્વેરી કરવાની મંજૂરી આપે છે.

આગામી પ્રકાશનમાં (0.3.7) કાર્યક્ષમતાને વિસ્તૃત કર્યા વિના ડીપસ્ટ્રીમ 6.4 પર જવાની યોજના છે. 0.2.7 સાથે સંપૂર્ણ રીતે સુસંગત હોય, પરંતુ ડીપસ્ટ્રીમ 6.4 અને સુધારેલ ટેક્નોલોજી પર આધારિત હોય, પરંતુ API સ્તરે સુસંગતતાને તોડ્યા વિના રિલીઝ મેળવવાનો વિચાર છે.

સોર્સ: opennet.ru