Savant 0.2.7 ಪೈಥಾನ್ ಫ್ರೇಮ್‌ವರ್ಕ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಲಾಗಿದೆ, ಇದು ಯಂತ್ರ ಕಲಿಕೆಗೆ ಸಂಬಂಧಿಸಿದ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸಲು NVIDIA ಡೀಪ್‌ಸ್ಟ್ರೀಮ್ ಅನ್ನು ಬಳಸಲು ಸುಲಭವಾಗಿದೆ. ಫ್ರೇಮ್‌ವರ್ಕ್ GStreamer ಅಥವಾ FFmpeg ನೊಂದಿಗೆ ಎಲ್ಲಾ ಭಾರ ಎತ್ತುವಿಕೆಯನ್ನು ನೋಡಿಕೊಳ್ಳುತ್ತದೆ, ಡಿಕ್ಲೇರೇಟಿವ್ ಸಿಂಟ್ಯಾಕ್ಸ್ (YAML) ಮತ್ತು ಪೈಥಾನ್ ಕಾರ್ಯಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಆಪ್ಟಿಮೈಸ್ಡ್ ಔಟ್‌ಪುಟ್ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಲು ನಿಮಗೆ ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಡೇಟಾ ಕೇಂದ್ರದಲ್ಲಿ (NVIDIA ಟ್ಯೂರಿಂಗ್, ಆಂಪಿಯರ್, ಹಾಪರ್) ಮತ್ತು ಅಂಚಿನ ಸಾಧನಗಳಲ್ಲಿ (NVIDIA Jetson NX, AGX Xavier, Orin NX, AGX Orin, New Nano) ವೇಗವರ್ಧಕಗಳಲ್ಲಿ ಸಮಾನವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ರಚಿಸಲು ಸಾವಂತ್ ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ. ಸಾವಂತ್‌ನೊಂದಿಗೆ, ನೀವು ಏಕಕಾಲದಲ್ಲಿ ಬಹು ವೀಡಿಯೊ ಸ್ಟ್ರೀಮ್‌ಗಳನ್ನು ಸುಲಭವಾಗಿ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಬಹುದು ಮತ್ತು NVIDIA TensorRT ಬಳಸಿಕೊಂಡು ನಿರ್ಮಾಣ-ಸಿದ್ಧ ವೀಡಿಯೊ ವಿಶ್ಲೇಷಣೆ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ತ್ವರಿತವಾಗಿ ರಚಿಸಬಹುದು. ಪ್ರಾಜೆಕ್ಟ್ ಕೋಡ್ ಅನ್ನು ಅಪಾಚೆ 2.0 ಪರವಾನಗಿ ಅಡಿಯಲ್ಲಿ ವಿತರಿಸಲಾಗಿದೆ.
ಸಾವಂತ್ 0.2.7 0.2.X ಶಾಖೆಯಲ್ಲಿ ಇತ್ತೀಚಿನ ವೈಶಿಷ್ಟ್ಯ ಬದಲಾವಣೆಯ ಬಿಡುಗಡೆಯಾಗಿದೆ. 0.2.X ಶಾಖೆಯಲ್ಲಿನ ಭವಿಷ್ಯದ ಬಿಡುಗಡೆಗಳು ದೋಷ ಪರಿಹಾರಗಳನ್ನು ಮಾತ್ರ ಒಳಗೊಂಡಿರುತ್ತವೆ. ಡೀಪ್‌ಸ್ಟ್ರೀಮ್ 0.3 ಅನ್ನು ಆಧರಿಸಿ 6.4.X ಶಾಖೆಯಲ್ಲಿ ಹೊಸ ವೈಶಿಷ್ಟ್ಯಗಳ ಅಭಿವೃದ್ಧಿಯನ್ನು ಕೈಗೊಳ್ಳಲಾಗುತ್ತದೆ. DS 6.4 ರಲ್ಲಿ NVIDIA ಬೆಂಬಲಿಸದ ಕಾರಣ ಈ ಶಾಖೆಯು Jetson Xavier ಕುಟುಂಬದ ಸಾಧನಗಳನ್ನು ಬೆಂಬಲಿಸುವುದಿಲ್ಲ.
ಮುಖ್ಯ ಆವಿಷ್ಕಾರಗಳು:
- ಹೊಸ ಬಳಕೆಯ ಸಂದರ್ಭಗಳು:
- RT-DETR ಟ್ರಾನ್ಸ್ಫಾರ್ಮರ್ ಆಧಾರಿತ ಪತ್ತೆ ಮಾದರಿಯೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವ ಉದಾಹರಣೆ;
- YOLOV8-Seg ಗಾಗಿ CuPy ಜೊತೆಗೆ CUDA ಪೋಸ್ಟ್-ಪ್ರೊಸೆಸಿಂಗ್;
- Savant ಪೈಪ್‌ಲೈನ್‌ಗೆ PyTorch CUDA ಏಕೀಕರಣದ ಉದಾಹರಣೆ;
- ಆಧಾರಿತ ವಸ್ತುಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವ ಪ್ರದರ್ಶನ.
- ಹೊಸ ವೈಶಿಷ್ಟ್ಯಗಳು:
- ಪ್ರಮೀತಿಯಸ್ ಜೊತೆ ಏಕೀಕರಣ. ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ಟ್ರ್ಯಾಕಿಂಗ್‌ಗಾಗಿ ಪೈಪ್‌ಲೈನ್ ಎಕ್ಸಿಕ್ಯೂಶನ್ ಮೆಟ್ರಿಕ್‌ಗಳನ್ನು ಪ್ರೊಮೆಥಿಯಸ್ ಮತ್ತು ಗ್ರಾಫಾನಾಗೆ ರಫ್ತು ಮಾಡಬಹುದು. ಸಿಸ್ಟಮ್ ಮೆಟ್ರಿಕ್‌ಗಳ ಜೊತೆಗೆ ರಫ್ತು ಮಾಡಲಾದ ಕಸ್ಟಮ್ ಮೆಟ್ರಿಕ್‌ಗಳನ್ನು ಡೆವಲಪರ್‌ಗಳು ಘೋಷಿಸಬಹುದು.
- ಬಫರ್ ಅಡಾಪ್ಟರ್ - ಅಡಾಪ್ಟರ್‌ಗಳು ಮತ್ತು ಮಾಡ್ಯೂಲ್‌ಗಳ ನಡುವೆ ಚಲಿಸುವ ಡೇಟಾಕ್ಕಾಗಿ ಡಿಸ್ಕ್‌ನಲ್ಲಿ ನಿರಂತರ ವಹಿವಾಟು ಬಫರ್ ಅನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ. ಅದರ ಸಹಾಯದಿಂದ, ಸಂಪನ್ಮೂಲಗಳನ್ನು ಅನಿರೀಕ್ಷಿತವಾಗಿ ಸೇವಿಸುವ ಮತ್ತು ದಟ್ಟಣೆಯ ಸ್ಫೋಟಗಳನ್ನು ತಡೆದುಕೊಳ್ಳುವ ಹೆಚ್ಚು ಲೋಡ್ ಮಾಡಲಾದ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ನೀವು ಅಭಿವೃದ್ಧಿಪಡಿಸಬಹುದು. ಅಡಾಪ್ಟರ್ ಅದರ ಅಂಶ ಮತ್ತು ಗಾತ್ರದ ಡೇಟಾವನ್ನು ಪ್ರಮೀತಿಯಸ್ಗೆ ರಫ್ತು ಮಾಡುತ್ತದೆ.
- ಮಾದರಿ ಸಂಕಲನ ಮೋಡ್. ಮಾಡ್ಯೂಲ್‌ಗಳು ಈಗ ಪೈಪ್‌ಲೈನ್ ಅನ್ನು ಚಾಲನೆ ಮಾಡದೆಯೇ TensorRT ನಲ್ಲಿ ತಮ್ಮ ಮಾದರಿಗಳನ್ನು ಕಂಪೈಲ್ ಮಾಡಬಹುದು.
- PyFunc ಸ್ಥಗಿತಗೊಳಿಸುವ ಈವೆಂಟ್ ಹ್ಯಾಂಡ್ಲರ್. ಈ ಹೊಸ API ಪೈಪ್‌ಲೈನ್ ಸ್ಥಗಿತಗೊಳಿಸುವಿಕೆಯನ್ನು ಆಕರ್ಷಕವಾಗಿ ನಿರ್ವಹಿಸಲು ಅನುಮತಿಸುತ್ತದೆ, ಸಂಪನ್ಮೂಲಗಳನ್ನು ಮುಕ್ತಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಸ್ಥಗಿತಗೊಳಿಸುವಿಕೆ ಸಂಭವಿಸಿದೆ ಎಂದು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ತಿಳಿಸುತ್ತದೆ.
- ಇನ್ಪುಟ್ ಮತ್ತು ಔಟ್ಪುಟ್ನಲ್ಲಿ ಫ್ರೇಮ್ ಫಿಲ್ಟರಿಂಗ್. ಪೂರ್ವನಿಯೋಜಿತವಾಗಿ, ಪೈಪ್‌ಲೈನ್ ವೀಡಿಯೊ ಡೇಟಾವನ್ನು ಹೊಂದಿರುವ ಎಲ್ಲಾ ಫ್ರೇಮ್‌ಗಳನ್ನು ಸ್ವೀಕರಿಸುತ್ತದೆ. ಇನ್ಪುಟ್ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್‌ನೊಂದಿಗೆ, ಡೆವಲಪರ್‌ಗಳು ಪ್ರಕ್ರಿಯೆಯನ್ನು ತಡೆಯಲು ಡೇಟಾವನ್ನು ಫಿಲ್ಟರ್ ಮಾಡಬಹುದು.
- GPU ನಲ್ಲಿ ಮಾದರಿಯ ನಂತರದ ಪ್ರಕ್ರಿಯೆ. ಹೊಸ ವೈಶಿಷ್ಟ್ಯದೊಂದಿಗೆ, ಡೆವಲಪರ್‌ಗಳು ಮಾದರಿ ಔಟ್‌ಪುಟ್ ಟೆನ್ಸರ್‌ಗಳನ್ನು CPU ಮೆಮೊರಿಗೆ ಲೋಡ್ ಮಾಡದೆಯೇ ನೇರವಾಗಿ GPU ಮೆಮೊರಿಯಿಂದ ಪ್ರವೇಶಿಸಬಹುದು ಮತ್ತು ಅವುಗಳನ್ನು CuPy, TorchVision ಅಥವಾ OpenCV CUDA ಬಳಸಿಕೊಂಡು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಬಹುದು.
- GPU ಮೆಮೊರಿ ಪ್ರಾತಿನಿಧ್ಯ ಕಾರ್ಯಗಳು. ಈ ಬಿಡುಗಡೆಯಲ್ಲಿ, OpenCV GpuMat, PyTorch GPU ಟೆನ್ಸರ್‌ಗಳು ಮತ್ತು CuPy ಟೆನ್ಸರ್‌ಗಳ ನಡುವೆ ಮೆಮೊರಿ ಬಫರ್‌ಗಳನ್ನು ಪರಿವರ್ತಿಸಲು ನಾವು ಕಾರ್ಯಗಳನ್ನು ಒದಗಿಸಿದ್ದೇವೆ.
- ಪೈಪ್‌ಲೈನ್ ಸರತಿ ಸಾಲುಗಳ ಬಳಕೆಯ ಅಂಕಿಅಂಶಗಳನ್ನು ಪ್ರವೇಶಿಸಲು API. ಸಮಾನಾಂತರ ಸಂಸ್ಕರಣೆ ಮತ್ತು ಬಫರಿಂಗ್ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು PyFuncs ನಡುವೆ ಸರತಿ ಸಾಲುಗಳನ್ನು ಸೇರಿಸಲು Savant ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ. ಸೇರಿಸಲಾದ API ಡೆವಲಪರ್‌ಗಳಿಗೆ ಪೈಪ್‌ಲೈನ್‌ನಲ್ಲಿ ನಿಯೋಜಿಸಲಾದ ಸರತಿ ಸಾಲುಗಳಿಗೆ ಪ್ರವೇಶವನ್ನು ನೀಡುತ್ತದೆ ಮತ್ತು ಅವರ ಬಳಕೆಯನ್ನು ಪ್ರಶ್ನಿಸಲು ಅವರಿಗೆ ಅನುಮತಿಸುತ್ತದೆ.
ಮುಂದಿನ ಬಿಡುಗಡೆಯಲ್ಲಿ (0.3.7) ಕ್ರಿಯಾತ್ಮಕತೆಯನ್ನು ವಿಸ್ತರಿಸದೆಯೇ ಡೀಪ್‌ಸ್ಟ್ರೀಮ್ 6.4 ಗೆ ಸರಿಸಲು ಯೋಜಿಸಲಾಗಿದೆ. 0.2.7 ರೊಂದಿಗೆ ಸಂಪೂರ್ಣವಾಗಿ ಹೊಂದಿಕೊಳ್ಳುವ, ಆದರೆ ಡೀಪ್‌ಸ್ಟ್ರೀಮ್ 6.4 ಮತ್ತು ಸುಧಾರಿತ ತಂತ್ರಜ್ಞಾನವನ್ನು ಆಧರಿಸಿ, ಆದರೆ API ಮಟ್ಟದಲ್ಲಿ ಹೊಂದಾಣಿಕೆಯನ್ನು ಮುರಿಯದೆಯೇ ಬಿಡುಗಡೆಯನ್ನು ಪಡೆಯುವುದು ಕಲ್ಪನೆ.
ಮೂಲ: opennet.ru