{"id":55509,"date":"2020-01-22T00:00:00","date_gmt":"2020-01-21T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/tensorrt-6-x-x-x-vysokoproizvoditelnyj-inferens-dlya-modelej-glubokogo-obucheniya-object-detection-i-segmentation"},"modified":"2020-02-18T14:03:38","modified_gmt":"2020-02-18T11:03:38","slug":"tensorrt-6-x-x-x-vysokoproizvoditelnyj-inferens-dlya-modelej-glubokogo-obucheniya-object-detection-i-segmentation","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sq\/blog\/administrirovanie\/tensorrt-6-x-x-x-vysokoproizvoditelnyj-inferens-dlya-modelej-glubokogo-obucheniya-object-detection-i-segmentation","title":{"rendered":"TensorRT 6.x.x.x \u2014 inferenc\u00eb me performanc\u00eb t\u00eb lart\u00eb p\u00ebr modelet e m\u00ebsimit t\u00eb thell\u00eb (Zbulimi i Objekteve dhe Segmentimi)","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"TensorRT
\n\u0411\u043e\u043b\u044c\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043f\u0435\u0440\u0432\u044b\u0439 \u0440\u0430\u0437!<\/i><\/p>\n

\u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442! \u0414\u043e\u0440\u043e\u0433\u0438\u0435 \u0434\u0440\u0443\u0437\u044c\u044f, \u0432 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0445\u043e\u0447\u0443 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441\u0432\u043e\u0438\u043c \u043e\u043f\u044b\u0442\u043e\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f TensorRT, RetinaNet \u043d\u0430 \u0431\u0430\u0437\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f github.com\/aidonchuk\/retinanet-examples<\/a><\/noindex> (\u044d\u0442\u043e \u0444\u043e\u0440\u043a \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0440\u0435\u043f\u044b \u043e\u0442 nvidia<\/a><\/noindex>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u043d\u0430\u0447\u0430\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u0435\u043d \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u043a\u0440\u0430\u0442\u0447\u0430\u0439\u0448\u0438\u0435 \u0441\u0440\u043e\u043a\u0438). \u041f\u0440\u043e\u043b\u0438\u0441\u0442\u044b\u0432\u0430\u044f \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f \u0432 \u043a\u0430\u043d\u0430\u043b\u0430\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 ods.ai<\/a><\/noindex>, \u044f \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u044e\u0441\u044c \u0441 \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043f\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044e TensorRT, \u0438 \u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0442\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044f \u0440\u0435\u0448\u0438\u043b \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043a\u0430\u043a \u043c\u043e\u0436\u043d\u043e \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043b\u043d\u043e\u0435<\/i> \u0440\u0443\u043a\u043e\u0432\u043e\u0434\u0441\u0442\u0432\u043e \u043f\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044e \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 TensorRT, RetinaNet, Unet \u0438 docker.
\n<\/a><\/noindex>
\n\u041e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438<\/b><\/p>\n

\u041f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0437\u0430\u0434\u0430\u0447\u0443 \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: \u043d\u0430\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u0442\u044c \u0434\u0430\u0442\u0430\u0441\u0435\u0442, \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u043d\u0430 \u043d\u0451\u043c \u0441\u0435\u0442\u044c RetinaNet\/Unet \u043d\u0430 Pytorch1.3+, \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0432 ONNX, \u0434\u0430\u043b\u0435\u0435 \u0441\u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438\u0445 \u0432 engine TensorRT \u0438 \u0432\u0441\u0451 \u044d\u0442\u043e \u0434\u0435\u043b\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0432 docker, \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430 Ubuntu 18 \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430 ARM(Jetson)* \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u044f \u0440\u0443\u0447\u043d\u043e\u0435 \u0440\u0430\u0437\u0432\u0435\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f. \u0412 \u0438\u0442\u043e\u0433\u0435 \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440 \u0433\u043e\u0442\u043e\u0432\u044b\u0439 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043a \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0443 \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e RetinaNet\/Unet, \u043d\u043e \u0438 \u043a \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u043e\u0439 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0441\u043e \u0432\u0441\u0435\u0439 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0439 \u043e\u0431\u0432\u044f\u0437\u043a\u043e\u0439.<\/p>\n

\u042d\u0442\u0430\u043f 1. \u041f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f<\/b><\/p>\n

\u0417\u0434\u0435\u0441\u044c \u0432\u0430\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0432 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u044f \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0443\u0448\u0451\u043b \u043e\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u0440\u0430\u0437\u0432\u0435\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u044f \u0445\u043e\u0442\u044c \u043a\u0430\u043a\u0438\u0445-\u0442\u043e \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a \u043d\u0430 desktop \u043c\u0430\u0448\u0438\u043d\u0435, \u043a\u0430\u043a \u0432\u043f\u0440\u043e\u0447\u0435\u043c \u0438 \u043d\u0430 devbox. \u0415\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435, \u0447\u0442\u043e \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0438 \u0443\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0442\u044c \u2014 \u044d\u0442\u043e python virtual environment \u0438 cuda 10.2 (\u043c\u043e\u0436\u043d\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0442\u044c\u0441\u044f \u043e\u0434\u043d\u0438\u043c \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u043e\u043c nvidia) \u0438\u0437 deb. <\/p>\n

\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0443 \u0432\u0430\u0441 \u0441\u0432\u0435\u0436\u0435\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u0430\u044f Ubuntu 18. \u0423\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c cuda 10.2(deb), \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e \u043d\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u044f \u043e\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u0431\u0443\u0434\u0443, \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0432\u043f\u043e\u043b\u043d\u0435 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e.<\/p>\n

\u0422\u0435\u043f\u0435\u0440\u044c \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c docker, \u0440\u0443\u043a\u043e\u0432\u043e\u0434\u0441\u0442\u0432\u043e \u043f\u043e \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0435 \u0434\u043e\u043a\u0435\u0440\u0430 \u043c\u043e\u0436\u043d\u043e \u043b\u0435\u0433\u043a\u043e \u043d\u0430\u0439\u0442\u0438, \u0432\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440 www.digitalocean.com\/community\/tutorials\/docker-ubuntu-18-04-1-ru<\/a><\/noindex>, \u0443\u0436\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u0430 19+ \u0432\u0435\u0440\u0441\u0438\u044f \u2014 \u0441\u0442\u0430\u0432\u0438\u043c \u0435\u0451. \u041d\u0443 \u0438 \u043d\u0435 \u0437\u0430\u0431\u0443\u0434\u044c\u0442\u0435 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f docker \u0431\u0435\u0437 sudo, \u0442\u0430\u043a \u0431\u0443\u0434\u0435\u0442 \u0443\u0434\u043e\u0431\u043d\u0435\u0435. \u041f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e \u043a\u0430\u043a \u0432\u0441\u0451 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c, \u0434\u0435\u043b\u0430\u0435\u043c \u0432\u043e\u0442 \u0442\u0430\u043a:<\/p>\n

distribution=$(. \/etc\/os-release;echo $ID$VERSION_ID)\ncurl -s -L https:\/\/nvidia.github.io\/nvidia-docker\/gpgkey | sudo apt-key add -\ncurl -s -L https:\/\/nvidia.github.io\/nvidia-docker\/$distribution\/nvidia-docker.list | sudo tee \/etc\/apt\/sources.list.d\/nvidia-docker.list\n\nsudo apt-get update && sudo apt-get install -y nvidia-container-toolkit\nsudo systemctl restart docker\n<\/code><\/pre>\n
\n\u0418 \u043c\u043e\u0436\u043d\u043e \u0434\u0430\u0436\u0435 \u043d\u0435 \u0437\u0430\u0433\u043b\u044f\u0434\u044b\u0432\u0430\u0442\u044c \u0432 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 github.com\/NVIDIA\/nvidia-docker<\/a><\/noindex>.<\/p>\n
\u0422\u0435\u043f\u0435\u0440\u044c \u0434\u0435\u043b\u0430\u0435\u043c git clone github.com\/aidonchuk\/retinanet-examples<\/a><\/noindex>.<\/p>\n
\u041e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u0441\u043e\u0432\u0441\u0435\u043c \u0447\u0443\u0442\u044c-\u0447\u0443\u0442\u044c, \u0434\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u043d\u0430\u0447\u0430\u0442\u044c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f docker \u0441 nvidia-\u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043d\u0430\u043c \u043f\u043e\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f \u0437\u0430\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432 NGC Cloud \u0438 \u0437\u0430\u043b\u043e\u0433\u0438\u043d\u0438\u0442\u044c\u0441\u044f. \u0418\u0434\u0451\u043c \u0441\u044e\u0434\u0430 ngc.nvidia.com<\/a><\/noindex>, \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u043c\u0441\u044f \u0438 \u043f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e \u043a\u0430\u043a \u043f\u043e\u043f\u0430\u0434\u0430\u0435\u043c \u0432\u043d\u0443\u0442\u0440\u044c NGC Cloud, \u0436\u043c\u0451\u043c SETUP \u0432 \u043b\u0435\u0432\u043e\u043c \u0432\u0435\u0440\u0445\u043d\u0435\u043c \u0443\u0433\u043b\u0443 \u044d\u043a\u0440\u0430\u043d\u0430 \u0438\u043b\u0438 \u043f\u0440\u0435\u0445\u043e\u0434\u0438\u043c \u043f\u043e \u044d\u0442\u043e\u0439 \u0441\u0441\u044b\u043b\u043a\u0435 ngc.nvidia.com\/setup\/api-key<\/a><\/noindex>. \u0416\u043c\u0451\u043c \u00ab\u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0442\u044c \u043a\u043b\u044e\u0447\u00bb. \u0415\u0433\u043e \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u044e \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c, \u0438\u043d\u0430\u0447\u0435 \u043f\u0440\u0438 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u043f\u043e\u0441\u0435\u0449\u0435\u043d\u0438\u0438 \u0435\u0433\u043e \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u0433\u0435\u043d\u0435\u0440\u0438\u0442\u044c \u0437\u0430\u043d\u043e\u0432\u043e \u0438, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0440\u0430\u0437\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u044f \u043d\u0430 \u043d\u043e\u0432\u043e\u0439 \u0442\u0430\u0447\u043a\u0435, \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u044c \u044d\u0442\u0443 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u044e.<\/p>\n
\u0412\u044b\u043f\u043e\u043b\u043d\u0438\u043c: <\/p>\n
docker login nvcr.io\nUsername: $oauthtoken\nPassword: <Your Key> - \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u043b\u044e\u0447\n<\/code><\/pre>\n
\nUsername \u043f\u0440\u043e\u0441\u0442\u043e \u043a\u043e\u043f\u0438\u0440\u0443\u0435\u043c. \u041d\u0443 \u0432\u043e\u0442, \u0441\u0447\u0438\u0442\u0430\u0439, \u0441\u0440\u0435\u0434\u0430 \u0440\u0430\u0437\u0432\u0435\u0440\u043d\u0443\u0442\u0430!<\/p>\n
\u042d\u0442\u0430\u043f 2. \u0421\u0431\u043e\u0440\u043a\u0430 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 docker<\/b><\/p>\n
\u041d\u0430 \u0432\u0442\u043e\u0440\u043e\u043c \u044d\u0442\u0430\u043f\u0435 \u043d\u0430\u0448\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u044b \u0441\u043e\u0431\u0435\u0440\u0435\u043c docker \u0438 \u043f\u043e\u0437\u043d\u0430\u043a\u043e\u043c\u0438\u043c\u0441\u044f \u0441 \u0435\u0433\u043e \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u044f\u043c\u0438. 
\n\u041f\u0435\u0440\u0435\u0439\u0434\u0451\u043c \u0432 \u043a\u043e\u0440\u043d\u0435\u0432\u0443\u044e \u043f\u0430\u043f\u043a\u0443 \u043f\u043e \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044e \u043a \u043f\u0440\u043e\u0435\u043a\u0442\u0443 retina-examples \u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u043c <\/p>\n
docker build --build-arg USER=$USER --build-arg UID=$UID --build-arg GID=$GID --build-arg PW=alex -t retinanet:latest retinanet\/\n<\/code><\/pre>\n
\n\u041c\u044b \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u043c docker \u043f\u0440\u043e\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u044f \u0432 \u043d\u0435\u0433\u043e \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u044e\u0437\u0435\u0440\u0430 \u2014 \u044d\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u0435\u0441\u043b\u0438 \u0432\u044b \u0431\u0443\u0434\u0435\u0442\u0435 \u0447\u0442\u043e-\u0442\u043e \u043f\u0438\u0441\u0430\u0442\u044c \u043d\u0430 \u0441\u043c\u043e\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 VOLUME \u0441 \u043f\u0440\u0430\u0432\u0430\u043c\u0438 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u044e\u0437\u0435\u0440\u0430, \u0438\u043d\u0430\u0447\u0435 \u0431\u0443\u0434\u0435\u0442 root \u0438 \u0431\u043e\u043b\u044c.<\/p>\n
\u041f\u043e\u043a\u0430 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f docker, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0438\u0437\u0443\u0447\u0438\u043c Dockerfile:<\/p>\n
FROM nvcr.io\/nvidia\/pytorch:19.10-py3\n\nARG USER=alex\nARG UID=1000\nARG GID=1000\nARG PW=alex\nRUN useradd -m ${USER} --uid=${UID} && echo "${USER}:${PW}" | chpasswd\n\nRUN apt-get -y update && apt-get -y upgrade && apt-get -y install curl && apt-get -y install wget && apt-get -y install git && apt-get -y install automake && apt-get install -y sudo && adduser ${USER} sudo\nRUN pip install git+https:\/\/github.com\/bonlime\/pytorch-tools.git@master\n\nCOPY . retinanet\/\nRUN pip install --no-cache-dir -e retinanet\/\nRUN pip install \/workspace\/retinanet\/extras\/tensorrt-6.0.1.5-cp36-none-linux_x86_64.whl\nRUN pip install tensorboardx\nRUN pip install albumentations\nRUN pip install setproctitle\nRUN pip install paramiko\nRUN pip install flask\nRUN pip install mem_top\nRUN pip install arrow\nRUN pip install pycuda\nRUN pip install torchvision\nRUN pip install pretrainedmodels\nRUN pip install efficientnet-pytorch\nRUN pip install git+https:\/\/github.com\/qubvel\/segmentation_models.pytorch\nRUN pip install pytorch_toolbelt\n\nRUN chown -R ${USER}:${USER} retinanet\/\n\nRUN cd \/workspace\/retinanet\/extras\/cppapi && mkdir build && cd build && cmake -DCMAKE_CUDA_FLAGS="--expt-extended-lambda -std=c++14" .. && make && cd \/workspace\n\nRUN apt-get install -y openssh-server && apt install -y tmux && apt-get -y install bison flex && apt-cache search pcre && apt-get -y install net-tools && apt-get -y install nmap\nRUN apt-get -y install libpcre3 libpcre3-dev && apt-get -y install iputils-ping\n\nRUN mkdir \/var\/run\/sshd\nRUN echo 'root:pass' | chpasswd\nRUN sed -i 's\/PermitRootLogin prohibit-password\/PermitRootLogin yes\/' \/etc\/ssh\/sshd_config\nRUN sed 's@sessions*requireds*pam_loginuid.so@session optional pam_loginuid.so@g' -i \/etc\/pam.d\/sshd\n\nENV NOTVISIBLE "in users profile"\nRUN echo "export VISIBLE=now" >> \/etc\/profile\nCMD ["\/usr\/sbin\/sshd", "-D"]\n<\/code><\/pre>\n
\n\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e \u0438\u0437 \u0442\u0435\u043a\u0441\u0442\u0430, \u043c\u044b \u0431\u0435\u0440\u0435\u043c \u0432\u0441\u0435 \u043d\u0430\u0448\u0438 \u043b\u044e\u0431\u0438\u043c\u044b\u0435 \u043b\u0438\u0431\u044b, \u043a\u043e\u043c\u043f\u0438\u043b\u0438\u0440\u0443\u0435\u043c retinanet, \u043d\u0430\u043a\u0438\u0434\u044b\u0432\u0430\u0435\u043c \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0434\u043b\u044f \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430 \u0440\u0430\u0431\u043e\u0442\u044b \u0441 Ubuntu \u0438 \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u0441\u0435\u0440\u0432\u0435\u0440 openssh. \u041f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u043e\u0439 \u0438\u0434\u0435\u0442 \u043a\u0430\u043a \u0440\u0430\u0437 \u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u043e\u0431\u0440\u0430\u0437\u0430 nvidia, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u044b \u0434\u0435\u043b\u0430\u043b\u0438 \u043b\u043e\u0433\u0438\u043d \u0432 NGC Cloud \u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 Pytorch1.3, TensorRT6.x.x.x \u0438 \u0435\u0449\u0435 \u043a\u0443\u0447\u0443 \u043b\u0438\u0431, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0445 \u0441\u043a\u043e\u043c\u043f\u0438\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c cpp \u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438 \u043d\u0430\u0448\u0435\u0433\u043e \u0434\u0435\u0442\u0435\u043a\u0442\u043e\u0440\u0430.<\/p>\n
\u042d\u0442\u0430\u043f 3. \u0417\u0430\u043f\u0443\u0441\u043a \u0438 \u043e\u0442\u043b\u0430\u0434\u043a\u0430 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 docker<\/b><\/p>\n
\u041f\u0435\u0440\u0435\u0439\u0434\u0435\u043c \u043a \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c\u0443 \u043a\u0435\u0439\u0441\u0443 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 \u0438 \u0441\u0440\u0435\u0434\u044b \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438, \u0434\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043c nvidia docker. \u0412\u044b\u043f\u043e\u043b\u043d\u0438\u043c: <\/p>\n
docker run --gpus all --net=host -v \/home\/<your_user_name>:\/workspace\/mounted_vol -d -P --rm --ipc=host -it retinanet:latest<\/code><\/pre>\n
\n\u0422\u0435\u043f\u0435\u0440\u044c \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440 \u0434\u043e\u0441\u0442\u0443\u043f\u0435\u043d \u043f\u043e ssh <curr_user_name>@localhost. \u041f\u043e\u0441\u043b\u0435 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430, \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u0435\u043c \u043f\u0440\u043e\u0435\u043a\u0442 \u0432 PyCharm. \u0414\u0430\u043b\u0435\u0435 \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u0435\u043c<\/p>\n
Settings->Project Interpreter->Add->Ssh Interpreter<\/code><\/pre>\n
\n\u0428\u0430\u0433 1<\/i>
\n\"TensorRT
\n
\n\u0428\u0430\u0433 2<\/i>
\n\"TensorRT
\n
\n\u0428\u0430\u0433 3<\/i>
\n\"TensorRT
\n
\n\u0412\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u0432\u0441\u0451 \u043a\u0430\u043a \u043d\u0430 \u0441\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u0430\u0445, <\/p>\n
Interpreter -> \/opt\/conda\/bin\/python<\/code><\/pre>\n
\n \u2014 \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 ln \u043d\u0430 Python3.6 \u0438 <\/p>\n
Sync folder -> \/workspace\/retinanet<\/code><\/pre>\n
\n\u0416\u043c\u0451\u043c \u0444\u0438\u043d\u0438\u0448, \u043e\u0436\u0438\u0434\u0430\u0435\u043c \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435, \u0438 \u0432\u0441\u0451, \u0441\u0440\u0435\u0434\u0430 \u0433\u043e\u0442\u043e\u0432\u0430 \u043a \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044e!<\/p>\n
\u0412\u0410\u0416\u041d\u041e!!!<\/b><\/i> \u0421\u0440\u0430\u0437\u0443 \u043f\u043e\u0441\u043b\u0435 \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u044b\u0442\u044f\u043d\u0443\u0442\u044c \u0438\u0437 docker \u0441\u043a\u043e\u043c\u043f\u0438\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0444\u0430\u0439\u043b\u044b \u0434\u043b\u044f Retinanet. \u0412 \u043a\u043e\u043d\u0442\u0435\u043a\u0442\u0441\u043d\u043e\u043c \u043c\u0435\u043d\u044e \u0432 \u043a\u043e\u0440\u043d\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u0430 \u0432\u044b\u0431\u0435\u0440\u0435\u043c \u043f\u0443\u043d\u043a\u0442 <\/p>\n
Deployment->Download<\/code><\/pre>\n
\n\u041f\u043e\u044f\u0432\u044f\u0442\u0441\u044f \u043e\u0434\u0438\u043d \u0444\u0430\u0439\u043b \u0438 \u0434\u0432\u0435 \u043f\u0430\u043f\u043a\u0438 build, retinanet.egg-info \u0438 _\u0421.so<\/p>\n
\"TensorRT
\n
\n\u0415\u0441\u043b\u0438 \u0432\u0430\u0448 \u043f\u0440\u043e\u0435\u043a\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a, \u0442\u043e \u0441\u0440\u0435\u0434\u0430 \u0432\u0438\u0434\u0438\u0442 \u0432\u0441\u0435 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0444\u0430\u0439\u043b\u044b \u0438 \u043c\u044b \u0433\u043e\u0442\u043e\u0432\u044b, \u043a \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e RetinaNet.<\/p>\n
\u042d\u0442\u0430\u043f 4. \u0420\u0430\u0437\u043c\u0435\u0447\u0430\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0434\u0435\u0442\u0435\u043a\u0442\u043e\u0440<\/b><\/p>\n
\u0414\u043b\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u044f, \u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e supervise.ly<\/a><\/noindex> \u2014 \u043f\u0440\u0438\u044f\u0442\u043d\u0430\u044f \u0438 \u0443\u0434\u043e\u0431\u043d\u0430\u044f \u0442\u0443\u043b\u0437\u0430, \u0432 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u0435 \u043a\u0443\u0447\u0443 \u043a\u043e\u0441\u044f\u043a\u043e\u0432 \u043f\u043e\u0444\u0438\u043a\u0441\u0438\u043b\u0438 \u0438 \u043e\u043d\u0430 \u0441\u0442\u0430\u043b\u0430 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043b\u0443\u0447\u0448\u0435 \u0441\u0435\u0431\u044f \u0432\u0435\u0441\u0442\u0438.<\/p>\n
\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c \u0447\u0442\u043e \u0432\u044b \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u043b\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0438 \u0441\u043a\u0430\u0447\u0430\u043b\u0438 \u0435\u0433\u043e, \u043d\u043e \u0441\u0440\u0430\u0437\u0443 \u0437\u0430\u0441\u0443\u043d\u0443\u0442\u044c \u0435\u0433\u043e \u0432 \u043d\u0430\u0448 RetinaNet \u043d\u0435 \u0432\u044b\u0439\u0434\u0435\u0442, \u0442\u0430\u043a \u043a\u0430\u043a \u043e\u043d \u0432 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0438 \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0441\u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0432 COCO. \u0422\u0443\u043b\u0437\u0430 \u0434\u043b\u044f \u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0430\u0446\u0438\u0438 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432:<\/p>\n
markup_utils\/supervisly_to_coco.py<\/code><\/pre>\n
\n\u041e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435, \u0447\u0442\u043e Category \u0432 \u0441\u043a\u0440\u0438\u043f\u0442\u0435 \u044d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u0440 \u0438 \u0432\u0430\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0432\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0441\u0432\u043e\u0438 (\u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e background \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0442\u044c \u043d\u0435 \u043d\u0430\u0434\u043e)<\/p>\n
categories = [{'id': 1, 'name': '1'}, \n                  {'id': 2, 'name': '2'}, \n                  {'id': 3, 'name': '3'},\n                  {'id': 4, 'name': '4'}] <\/code><\/pre>\n
\n\u0410\u0432\u0442\u043e\u0440\u044b \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f \u043f\u043e\u0447\u0435\u043c\u0443-\u0442\u043e \u0440\u0435\u0448\u0438\u043b\u0438, \u0447\u0442\u043e \u043d\u0438\u0447\u0435\u0433\u043e \u043a\u0440\u043e\u043c\u0435 COCO\/VOC \u0432\u044b \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0434\u043b\u044f \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0438 \u043d\u0435 \u0431\u0443\u0434\u0435\u0442\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u0440\u0435\u0434\u0430\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0444\u0430\u0439\u043b <\/p>\n
retinanet\/dataset.py<\/code><\/pre>\n
\n\u0414\u043e\u0431\u0430\u0432\u0438\u0432 \u0442\u0443\u0442\u0434\u0430 \u043b\u044e\u0431\u0438\u043c\u044b\u0435 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 albumentations.readthedocs.io\/en\/latest<\/a><\/noindex> \u0438 \u0432\u044b\u043f\u0438\u043b\u0438\u0442\u044c \u0436\u0451\u0441\u0442\u043a\u043e \u0432\u0448\u0438\u0442\u044b\u0435 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0438 \u0438\u0437 COCO. \u0422\u0430\u043a\u0436\u0435 \u0435\u0441\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043a\u0440\u043e\u043f\u043d\u0443\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0438, \u0435\u0441\u043b\u0438 \u0432\u044b \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u0445 \u0438\u0449\u0438\u0442\u0435 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u043e\u0431\u044a\u0435\u043a\u0442\u044b, \u0443 \u0432\u0430\u0441 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 =), \u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043d\u043e \u043e\u0431 \u044d\u0442\u043e\u043c \u0432 \u0434\u0440\u0443\u0433\u043e\u0439 \u0440\u0430\u0437.<\/p>\n
\u0412 \u043e\u0431\u0449\u0435\u043c train loop \u0442\u043e\u0436\u0435 \u0441\u043b\u0430\u0431\u0435\u043d\u044c\u043a\u0438\u0439, \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043e\u043d \u043d\u0435 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u043b \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u044b, \u044e\u0437\u0430\u043b \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u0443\u0436\u0430\u0441\u043d\u044b\u0439 scheduler \u0438 \u0442.\u0434. \u041d\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u0432\u0430\u043c \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u044b\u0431\u0440\u0430\u0442\u044c backbone \u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u044c<\/p>\n
\/opt\/conda\/bin\/python retinanet\/main.py<\/code><\/pre>\n
\nc \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438:<\/p>\n
train retinanet_rn34fpn.pth\n--backbone ResNet34FPN\n--classes 12\n--val-iters 10\n--images \/workspace\/mounted_vol\/dataset\/train\/images\n--annotations \/workspace\/mounted_vol\/dataset\/train_12_class.json\n--val-images \/workspace\/mounted_vol\/dataset\/test\/images_small\n--val-annotations \/workspace\/mounted_vol\/dataset\/val_10_class_cropped.json\n--jitter 256 512\n--max-size 512\n--batch 32\n<\/code><\/pre>\n
\n\u0412 \u043a\u043e\u043d\u0441\u043e\u043b\u0435 \u0443\u0432\u0438\u0434\u0438\u0442\u0435:<\/p>\n
Initializing model...\n     model: RetinaNet\n  backbone: ResNet18FPN\n   classes: 2, anchors: 9\nSelected optimization level O0:  Pure FP32 training.\n\nDefaults for this optimization level are:\nenabled                : True\nopt_level              : O0\ncast_model_type        : torch.float32\npatch_torch_functions  : False\nkeep_batchnorm_fp32    : None\nmaster_weights         : False\nloss_scale             : 1.0\nProcessing user overrides (additional kwargs that are not None)...\nAfter processing overrides, optimization options are:\nenabled                : True\nopt_level              : O0\ncast_model_type        : torch.float32\npatch_torch_functions  : False\nkeep_batchnorm_fp32    : None\nmaster_weights         : False\nloss_scale             : 128.0\nPreparing dataset...\n    loader: pytorch\n    resize: [1024, 1280], max: 1280\n    device: 4 gpus\n    batch: 4, precision: mixed\nTraining model for 20000 iterations...\n[    1\/20000] focal loss: 0.95619, box loss: 0.51584, 4.042s\/4-batch (fw: 0.698s, bw: 0.459s), 1.0 im\/s, lr: 0.0001\n[   12\/20000] focal loss: 0.76191, box loss: 0.31794, 0.187s\/4-batch (fw: 0.055s, bw: 0.133s), 21.4 im\/s, lr: 0.0001\n[   24\/20000] focal loss: 0.65036, box loss: 0.30269, 0.173s\/4-batch (fw: 0.045s, bw: 0.128s), 23.1 im\/s, lr: 0.0001\n[   36\/20000] focal loss: 0.46425, box loss: 0.23141, 0.178s\/4-batch (fw: 0.047s, bw: 0.131s), 22.4 im\/s, lr: 0.0001\n[   48\/20000] focal loss: 0.45115, box loss: 0.23505, 0.180s\/4-batch (fw: 0.047s, bw: 0.133s), 22.2 im\/s, lr: 0.0001\n[   59\/20000] focal loss: 0.38958, box loss: 0.25373, 0.184s\/4-batch (fw: 0.049s, bw: 0.134s), 21.8 im\/s, lr: 0.0001\n[   71\/20000] focal loss: 0.37733, box loss: 0.23988, 0.174s\/4-batch (fw: 0.049s, bw: 0.125s), 22.9 im\/s, lr: 0.0001\n[   83\/20000] focal loss: 0.39514, box loss: 0.23878, 0.181s\/4-batch (fw: 0.048s, bw: 0.133s), 22.1 im\/s, lr: 0.0001\n[   94\/20000] focal loss: 0.39947, box loss: 0.23817, 0.185s\/4-batch (fw: 0.050s, bw: 0.134s), 21.6 im\/s, lr: 0.0001\n[  105\/20000] focal loss: 0.37343, box loss: 0.20238, 0.182s\/4-batch (fw: 0.048s, bw: 0.134s), 22.0 im\/s, lr: 0.0001\n[  116\/20000] focal loss: 0.19689, box loss: 0.17371, 0.183s\/4-batch (fw: 0.050s, bw: 0.132s), 21.8 im\/s, lr: 0.0001\n[  128\/20000] focal loss: 0.20368, box loss: 0.16538, 0.178s\/4-batch (fw: 0.046s, bw: 0.131s), 22.5 im\/s, lr: 0.0001\n[  140\/20000] focal loss: 0.22763, box loss: 0.15772, 0.176s\/4-batch (fw: 0.050s, bw: 0.126s), 22.7 im\/s, lr: 0.0001\n[  148\/20000] focal loss: 0.21997, box loss: 0.18400, 0.585s\/4-batch (fw: 0.047s, bw: 0.144s), 6.8 im\/s, lr: 0.0001\n Average Precision  (AP) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.52674\n Average Precision  (AP) @[ IoU=0.50      | area=   all | maxDets=100 ] = 0.91450\n Average Precision  (AP) @[ IoU=0.75      | area=   all | maxDets=100 ] = 0.35172\n Average Precision  (AP) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.61881\n Average Precision  (AP) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = -1.00000\n Average Precision  (AP) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = -1.00000\n Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=  1 ] = 0.58824\n Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets= 10 ] = 0.61765\n Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.61765\n Average Recall     (AR) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.61765\n Average Recall     (AR) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = -1.00000\n Average Recall     (AR) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = -1.00000\nSaving model: 148<\/code><\/pre>\n
\n\u0427\u0442\u043e \u0431\u044b \u0438\u0437\u0443\u0447\u0438\u0442\u044c \u0432\u0435\u0441\u044c \u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 <\/p>\n
retinanet\/main.py<\/code><\/pre>\n
\n\u0412 \u043e\u0431\u0449\u0435\u043c \u043e\u043d\u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0435 \u0434\u043b\u044f \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0438, \u0438 \u0443 \u043d\u0438\u0445 \u0435\u0441\u0442\u044c \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435. \u0417\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438 \u0434\u043e\u0436\u0434\u0438\u0442\u0435\u0441\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432. \u041f\u0440\u0438\u043c\u0435\u0440 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0432:<\/p>\n
retinanet\/infer_example.py<\/code><\/pre>\n
\n \u0438\u043b\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u044c \u043a\u043e\u043c\u0430\u043d\u0434\u0443:<\/p>\n
\/opt\/conda\/bin\/python retinanet\/main.py infer retinanet_rn34fpn.pth \n--images \/workspace\/mounted_vol\/dataset\/test\/images \n--annotations \/workspace\/mounted_vol\/dataset\/val.json \n--output result.json \n--resize 256 \n--max-size 512 \n--batch 32\n<\/code><\/pre>\n
\n\u0412 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 \u0443\u0436\u0435 \u0432\u0441\u0442\u0440\u043e\u0435\u043d Focal Loss \u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e backbone, \u0430 \u0442\u0430\u043a \u0436\u0435 \u043b\u0435\u0433\u043a\u043e \u0432\u043f\u0438\u043b\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0441\u0432\u043e\u0438<\/p>\n
retinanet\/backbones\/*.py<\/code><\/pre>\n
\n\u0412 \u0442\u0430\u0431\u043b\u0438\u0447\u043a\u0435 \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a\u0438:<\/p>\n
\"TensorRT
\n
\n\u0422\u0430\u043a\u0436\u0435 \u0435\u0441\u0442\u044c backbone ResNeXt50_32x4dFPN \u0438 ResNeXt101_32x8dFPN, \u0432\u0437\u044f\u0442\u044b\u0439 \u0438\u0437 torchvision. 
\n\u041d\u0430\u0434\u0435\u044e\u0441\u044c \u0441 \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0435\u0439 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043b\u0438\u0441\u044c, \u043d\u043e \u0441\u0442\u043e\u0438\u0442 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044e, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c \u0440\u0435\u0436\u0438\u043c\u044b \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0430 \u0438 \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f<\/b><\/i>.<\/p>\n
\u042d\u0442\u0430\u043f 5. \u042d\u043a\u0441\u043f\u043e\u0440\u0442 \u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 Unet c \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u043c Resnet<\/b><\/p>\n
\u041a\u0430\u043a \u0432\u044b, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u043e\u0431\u0440\u0430\u0442\u0438\u043b\u0438 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435, \u0432 Dockerfile \u0431\u044b\u043b\u0438 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u044b \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0434\u043b\u044f \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438 \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 \u0437\u0430\u043c\u0435\u0447\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043b\u0438\u0431\u0430 github.com\/qubvel\/segmentation_models.pytorch<\/a><\/noindex>. \u0412 \u043f\u0430\u043a\u0435\u0442\u0435 \u044e\u043d\u0435\u0442 \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0439\u0442\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0438 \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0430 pytorch \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u043e\u0432 \u0432 engine TensorRT. <\/p>\n
\u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u043f\u0440\u0438 \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0435 Unet-like \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438\u0437 ONNX \u0432 TensoRT \u2014 \u044d\u0442\u043e \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0437\u0430\u0434\u0430\u0432\u0430\u0442\u044c \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 Upsample \u0438\u043b\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f ConvTranspose2D: <\/p>\n
import torch.onnx.symbolic_opset9 as onnx_symbolic\n        def upsample_nearest2d(g, input, output_size):\n            # Currently, TRT 5.1\/6.0 ONNX Parser does not support all ONNX ops\n            # needed to support dynamic upsampling ONNX forumlation\n            # Here we hardcode scale=2 as a temporary workaround\n            scales = g.op("Constant", value_t=torch.tensor([1., 1., 2., 2.]))\n            return g.op("Upsample", input, scales, mode_s="nearest")\n\n        onnx_symbolic.upsample_nearest2d = upsample_nearest2d\n<\/code><\/pre>\n
\n\u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u043e\u0436\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u0440\u0438 \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0435 \u0432 ONNX, \u043d\u043e \u0443\u0436\u0435 \u0432 7 \u0432\u0435\u0440\u0441\u0438\u0438 TensorRT \u044d\u0442\u0443 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 \u0440\u0435\u0448\u0438\u043b\u0438, \u0438 \u043d\u0430\u043c \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u0436\u0434\u0430\u0442\u044c \u0441\u043e\u0432\u0441\u0435\u043c \u043d\u0435\u043c\u043d\u043e\u0433\u043e.<\/p>\n
\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/b><\/p>\n
\u041a\u043e\u0433\u0434\u0430 \u044f \u043d\u0430\u0447\u0430\u043b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c docker \u0443 \u043c\u0435\u043d\u044f \u0431\u044b\u043b\u0438 \u0441\u043e\u043c\u043d\u0435\u043d\u0438\u044f \u043d\u0430 \u0441\u0447\u0451\u0442 \u0435\u0433\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0434\u043b\u044f \u043c\u043e\u0438\u0445 \u0437\u0430\u0434\u0430\u0447. \u0412 \u043e\u0434\u043d\u043e\u043c \u0438\u0437 \u043c\u043e\u0438\u0445 \u0430\u0433\u0440\u0435\u0433\u0430\u0442\u043e\u0432 \u0441\u0435\u0439\u0447\u0430\u0441 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0441\u0435\u0442\u0435\u0432\u043e\u0439 \u0442\u0440\u0430\u0444\u0438\u043a \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0435\u043c\u044b\u0439 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u043a\u0430\u043c\u0435\u0440\u0430\u043c\u0438.<\/p>\n
\"TensorRT
\n
\n\u0420\u0430\u0437\u043d\u044b\u0435 \u0442\u0435\u0441\u0442\u044b \u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e\u0440\u0430\u0445 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430 \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u043e\u0431 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u043c overhead \u043d\u0430 \u0441\u0435\u0442\u0435\u0432\u043e\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u0438 \u0437\u0430\u043f\u0438\u0441\u044c \u043d\u0430 VOLUME, \u043f\u043b\u044e\u0441 \u043a\u043e \u0432\u0441\u0435\u043c\u0443 \u043d\u0435\u0432\u0435\u0434\u043e\u043c\u044b\u0439 \u0438 \u0441\u0442\u0440\u0430\u0448\u043d\u044b\u0439 GIL, \u0430 \u0442\u0430\u043a \u043a\u0430\u043a \u0441\u044a\u0435\u043c\u043a\u0430 \u043a\u0430\u0434\u0440\u0430, \u0440\u0430\u0431\u043e\u0442\u0430 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0438 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430 \u043f\u043e \u0441\u0435\u0442\u0438 \u043a\u0430\u0434\u0440\u0430 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0430\u0442\u043e\u043c\u0430\u0440\u043d\u043e\u0439 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0435\u0439 \u0432 \u0440\u0435\u0436\u0438\u043c\u0435 hard real-time<\/i>, \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438 \u0432 \u0441\u0435\u0442\u0438 \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u043e\u0447\u0435\u043d\u044c \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b. <\/p>\n
\u041d\u043e \u0432\u0441\u0451 \u043e\u0431\u043e\u0448\u043b\u043e\u0441\u044c =)<\/p>\n
P.S. \u041e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0432\u0430\u0448 \u043b\u044e\u0431\u0438\u043c\u044b\u0439 \u0442\u0440\u0435\u0439\u043d \u043b\u0443\u043f \u0434\u043b\u044f \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438 \u0432 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u0435\u043d!<\/p>\n
\u0411\u043b\u0430\u0433\u043e\u0434\u0440\u0430\u043d\u043e\u0441\u0442\u0438<\/b><\/p>\n
\u0421\u043f\u0430\u0441\u0438\u0431\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0443 ods.ai<\/a><\/noindex>, \u0431\u0435\u0437 \u043d\u0435\u0433\u043e \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0437\u0432\u0438\u0432\u0430\u0442\u044c\u0441\u044f! \u041e\u0433\u0440\u043e\u043c\u043d\u043e\u0435 \u0441\u043f\u0430\u0441\u0438\u0431\u043e n01z3<\/a><\/noindex>, \u043d\u0430\u0434\u043e\u0443\u043c\u0435\u0432\u0448\u0435\u043c\u0443 \u043c\u0435\u043d\u044f \u0437\u0430\u043d\u044f\u0442\u044c\u0441\u044f DL, \u0437\u0430 \u0435\u0433\u043e \u0431\u0435\u0441\u0446\u0435\u043d\u043d\u044b\u0435 \u0441\u043e\u0432\u0435\u0442\u044b \u0438 \u0447\u0440\u0435\u0437\u0432\u044b\u0447\u0430\u0439\u043d\u044b\u0439 \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u0438\u0437\u043c! <\/p>\n
\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 \u0432 production \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438!<\/i><\/p>\n
\"TensorRT Aurorai, llc
\n
\u0418\u0441\u0442\u043e\u0447\u043d\u0438\u043a: habr.com<\/a><\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
\u0411\u043e\u043b\u044c\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043f\u0435\u0440\u0432\u044b\u0439 \u0440\u0430\u0437! \u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442! \u0414\u043e\u0440\u043e\u0433\u0438\u0435 \u0434\u0440\u0443\u0437\u044c\u044f, \u0432 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0445\u043e\u0447\u0443 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441\u0432\u043e\u0438\u043c \u043e\u043f\u044b\u0442\u043e\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f TensorRT, RetinaNet \u043d\u0430 \u0431\u0430\u0437\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f github.com\/aidonchuk\/retinanet-examples (\u044d\u0442\u043e \u0444\u043e\u0440\u043a \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0440\u0435\u043f\u044b \u043e\u0442 nvidia, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u043d\u0430\u0447\u0430\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u0435\u043d \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u043a\u0440\u0430\u0442\u0447\u0430\u0439\u0448\u0438\u0435 \u0441\u0440\u043e\u043a\u0438). \u041f\u0440\u043e\u043b\u0438\u0441\u0442\u044b\u0432\u0430\u044f \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f \u0432 \u043a\u0430\u043d\u0430\u043b\u0430\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 ods.ai, \u044f \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u044e\u0441\u044c \u0441 \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043f\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044e TensorRT, \u0438 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-55509","post","type-post","status-publish","format-standard","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47TensorRT 6.x.x.x \u2014 inferenc\u00eb me performanc\u00eb t\u00eb lart\u00eb p\u00ebr modelet e m\u00ebsimit t\u00eb thell\u00eb (Zbulimi i Objekteve dhe Segmentimi) | ProHoster","description":"Dhemb vet\u00ebm her\u00ebn e par\u00eb! P\u00ebrsh\u00ebndetje t\u00eb gjith\u00ebve! Miq t\u00eb dashur, n\u00eb k\u00ebt\u00eb artikull do t\u00eb ndaj p\u00ebrvoj\u00ebn time n\u00eb p\u00ebrdorimin e TensorRT, RetinaNet n\u00eb baz\u00eb t\u00eb depozit\u00ebs github.com\/aidonchuk\/retinanet-examples (kjo \u00ebsht\u00eb nj\u00eb fork i depozit\u00ebs zyrtare nga nvidia, e cila do t\u00eb lejoj\u00eb t'ju filloni t\u00eb p\u00ebrdorni modele t\u00eb optimizuara n\u00eb prodhim n\u00eb koh\u00eb t\u00eb shkurt\u00ebr). Kur flas n\u00eb kanalet e komunitetit ods.ai, has n\u00eb pyetje n\u00eb lidhje me p\u00ebrdorimin e TensorRT, dhe","canonical_url":"https:\/\/prohoster.info\/sq\/blog\/administrirovanie\/tensorrt-6-x-x-x-vysokoproizvoditelnyj-inferens-dlya-modelej-glubokogo-obucheniya-object-detection-i-segmentation","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"sq_AL","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47TensorRT 6.x.x.x \u2014 \u0432\u044b\u0441\u043e\u043a\u043e\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (Object Detection \u0438 Segmentation) | ProHoster","og:description":"\u0411\u043e\u043b\u044c\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043f\u0435\u0440\u0432\u044b\u0439 \u0440\u0430\u0437! \u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442! \u0414\u043e\u0440\u043e\u0433\u0438\u0435 \u0434\u0440\u0443\u0437\u044c\u044f, \u0432 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0445\u043e\u0447\u0443 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441\u0432\u043e\u0438\u043c \u043e\u043f\u044b\u0442\u043e\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f TensorRT, RetinaNet \u043d\u0430 \u0431\u0430\u0437\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f github.com\/aidonchuk\/retinanet-examples (\u044d\u0442\u043e \u0444\u043e\u0440\u043a \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0440\u0435\u043f\u044b \u043e\u0442 nvidia, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u043d\u0430\u0447\u0430\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u0435\u043d \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u043a\u0440\u0430\u0442\u0447\u0430\u0439\u0448\u0438\u0435 \u0441\u0440\u043e\u043a\u0438). \u041f\u0440\u043e\u043b\u0438\u0441\u0442\u044b\u0432\u0430\u044f \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f \u0432 \u043a\u0430\u043d\u0430\u043b\u0430\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 ods.ai, \u044f \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u044e\u0441\u044c \u0441 \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043f\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044e TensorRT, \u0438","og:url":"https:\/\/prohoster.info\/sq\/blog\/administrirovanie\/tensorrt-6-x-x-x-vysokoproizvoditelnyj-inferens-dlya-modelej-glubokogo-obucheniya-object-detection-i-segmentation","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2020-01-21T21:00:00+00:00","article:modified_time":"2020-02-18T11:03:38+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"55509","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":null,"breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-02-28 19:43:30","updated":"2022-10-04 16:23:49"},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/posts\/55509","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/comments?post=55509"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/posts\/55509\/revisions"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/media?parent=55509"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/categories?post=55509"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/sq\/wp-json\/wp\/v2\/tags?post=55509"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}