ਗੂਗਲ ਦਾ ਨਵਾਂ ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਪ੍ਰਸਿੱਧ ਐਨਾਲਾਗਸ ਨਾਲੋਂ ਕਾਫ਼ੀ ਜ਼ਿਆਦਾ ਸਟੀਕ ਅਤੇ ਤੇਜ਼ ਹੈ

ਕਨਵੋਲਿਊਸ਼ਨਲ ਨਿਊਰਲ ਨੈੱਟਵਰਕ (CNN), ਮਨੁੱਖੀ ਵਿਜ਼ੂਅਲ ਕਾਰਟੈਕਸ ਵਿੱਚ ਜੀਵ-ਵਿਗਿਆਨਕ ਪ੍ਰਕਿਰਿਆਵਾਂ ਤੋਂ ਪ੍ਰੇਰਿਤ, ਵਸਤੂ ਅਤੇ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਵਰਗੇ ਕੰਮਾਂ ਲਈ ਚੰਗੀ ਤਰ੍ਹਾਂ ਅਨੁਕੂਲ ਹਨ, ਪਰ ਉਹਨਾਂ ਦੀ ਸ਼ੁੱਧਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨ ਲਈ ਥਕਾਵਟ ਅਤੇ ਵਧੀਆ ਟਿਊਨਿੰਗ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਇਸ ਲਈ ਗੂਗਲ ਏਆਈ ਰਿਸਰਚ ਦੇ ਵਿਗਿਆਨੀ ਨਵੇਂ ਮਾਡਲਾਂ ਦੀ ਖੋਜ ਕਰ ਰਹੇ ਹਨ ਜੋ ਸੀਐਨਐਨ ਨੂੰ "ਵਧੇਰੇ ਢਾਂਚਾਗਤ" ਤਰੀਕੇ ਨਾਲ ਸਕੇਲ ਕਰਦੇ ਹਨ। ਉਨ੍ਹਾਂ ਨੇ ਆਪਣੇ ਕੰਮ ਦੇ ਨਤੀਜੇ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਲੇਖ ਵਿਗਿਆਨਕ ਪੋਰਟਲ Arxiv.org 'ਤੇ ਪੋਸਟ ਕੀਤਾ ਗਿਆ, "EfficientNet: Convolutional Neural Networks ਲਈ ਮਾਡਲ ਸਕੇਲਿੰਗ 'ਤੇ ਮੁੜ ਵਿਚਾਰ ਕਰਨਾ। ਪ੍ਰਕਾਸ਼ਨ ਤੁਹਾਡੇ ਬਲੌਗ 'ਤੇ। ਸਹਿ-ਲੇਖਕ ਦਾਅਵਾ ਕਰਦੇ ਹਨ ਕਿ ਨਕਲੀ ਖੁਫੀਆ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਪਰਿਵਾਰ, ਜਿਸਨੂੰ EfficientNets ਕਿਹਾ ਜਾਂਦਾ ਹੈ, ਮਿਆਰੀ CNNs ਦੀ ਸ਼ੁੱਧਤਾ ਤੋਂ ਵੱਧ ਜਾਂਦਾ ਹੈ ਅਤੇ ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਦੀ ਕੁਸ਼ਲਤਾ ਨੂੰ 10 ਗੁਣਾ ਤੱਕ ਵਧਾਉਂਦਾ ਹੈ।

"ਸਕੇਲਿੰਗ ਮਾਡਲਾਂ ਦਾ ਆਮ ਅਭਿਆਸ CNN ਦੀ ਡੂੰਘਾਈ ਜਾਂ ਚੌੜਾਈ ਨੂੰ ਮਨਮਰਜ਼ੀ ਨਾਲ ਵਧਾਉਣਾ ਹੈ, ਅਤੇ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਲਈ ਇੰਪੁੱਟ ਚਿੱਤਰ ਦੇ ਉੱਚ ਰੈਜ਼ੋਲਿਊਸ਼ਨ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਹੈ," ਸਟਾਫ ਸਾਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰ ਮਿੰਗਕਸਿੰਗ ਟੈਨ ਅਤੇ Google AI ਲੀਡ ਸਾਇੰਟਿਸਟ Quoc V.Le) ਲਿਖੋ। "ਰਵਾਇਤੀ ਪਹੁੰਚਾਂ ਦੇ ਉਲਟ ਜੋ ਨੈੱਟਵਰਕ ਪੈਰਾਮੀਟਰਾਂ ਜਿਵੇਂ ਕਿ ਚੌੜਾਈ, ਡੂੰਘਾਈ, ਅਤੇ ਇਨਪੁਟ ਰੈਜ਼ੋਲਿਊਸ਼ਨ ਨੂੰ ਆਪਹੁਦਰੇ ਢੰਗ ਨਾਲ ਸਕੇਲ ਕਰਦੇ ਹਨ, ਸਾਡੀ ਵਿਧੀ ਸਕੇਲਿੰਗ ਕਾਰਕਾਂ ਦੇ ਇੱਕ ਨਿਸ਼ਚਿਤ ਸਮੂਹ ਦੇ ਨਾਲ ਹਰੇਕ ਮਾਪ ਨੂੰ ਸਮਾਨ ਰੂਪ ਵਿੱਚ ਸਕੇਲ ਕਰਦੀ ਹੈ।"

ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਹੋਰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ, ਖੋਜਕਰਤਾ ਇੱਕ ਨਵੇਂ ਬੈਕਬੋਨ ਨੈਟਵਰਕ, ਮੋਬਾਈਲ ਇਨਵਰਟੇਡ ਬੋਟਲਨੇਕ ਕਨਵੋਲਿਊਸ਼ਨ (MBConv) ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਵਕਾਲਤ ਕਰਦੇ ਹਨ, ਜੋ ਮਾਡਲਾਂ ਦੇ EfficientNets ਪਰਿਵਾਰ ਲਈ ਆਧਾਰ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ।

ਟੈਸਟਾਂ ਵਿੱਚ, EfficientNets ਨੇ ਮੌਜੂਦਾ CNNs ਨਾਲੋਂ ਉੱਚ ਸ਼ੁੱਧਤਾ ਅਤੇ ਬਿਹਤਰ ਕੁਸ਼ਲਤਾ ਦੋਵਾਂ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ ਹੈ, ਪੈਰਾਮੀਟਰ ਆਕਾਰ ਅਤੇ ਗਣਨਾਤਮਕ ਸਰੋਤ ਲੋੜਾਂ ਨੂੰ ਮਾਪਦੰਡ ਦੇ ਕ੍ਰਮ ਦੁਆਰਾ ਘਟਾ ਦਿੱਤਾ ਹੈ। ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਇੱਕ, EfficientNet-B7, ਨੇ ਮਸ਼ਹੂਰ CNN Gpipe ਨਾਲੋਂ 8,4 ਗੁਣਾ ਛੋਟੇ ਆਕਾਰ ਅਤੇ 6,1 ਗੁਣਾ ਬਿਹਤਰ ਪ੍ਰਦਰਸ਼ਨ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ, ਅਤੇ ਟੈਸਟਿੰਗ ਵਿੱਚ 84,4% ਅਤੇ 97,1% ਸ਼ੁੱਧਤਾ (ਟੌਪ-1 ਅਤੇ ਟੌਪ-5) 50 ਨਤੀਜੇ) ਵੀ ਪ੍ਰਾਪਤ ਕੀਤੇ। ਇਮੇਜਨੈੱਟ ਸੈੱਟ. ਪ੍ਰਸਿੱਧ CNN ResNet-4 ਦੀ ਤੁਲਨਾ ਵਿੱਚ, ਇੱਕ ਹੋਰ EfficientNet ਮਾਡਲ, EfficientNet-B82,6, ਸਮਾਨ ਸਰੋਤਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ, ResNet-76,3 ਲਈ 50% ਦੇ ਮੁਕਾਬਲੇ XNUMX% ਦੀ ਸ਼ੁੱਧਤਾ ਪ੍ਰਾਪਤ ਕੀਤੀ।

EfficientNets ਮਾਡਲਾਂ ਨੇ CIFAR-100 ਡੇਟਾਸੈਟ (91,7% ਸ਼ੁੱਧਤਾ) ਅਤੇ ਸਮੇਤ ਅੱਠ ਵਿੱਚੋਂ ਪੰਜ ਬੈਂਚਮਾਰਕਾਂ 'ਤੇ ਉੱਚ ਸ਼ੁੱਧਤਾ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹੋਏ, ਹੋਰ ਡੇਟਾਸੈਟਾਂ 'ਤੇ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ। ਫੁੱਲ (98,8%).

ਟੈਨ ਅਤੇ ਲੀ ਲਿਖਦੇ ਹਨ, "ਨਿਊਰਲ ਮਾਡਲਾਂ ਦੀ ਕੁਸ਼ਲਤਾ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਸੁਧਾਰ ਪ੍ਰਦਾਨ ਕਰਕੇ, ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ EfficientNets ਵਿੱਚ ਭਵਿੱਖ ਦੇ ਕੰਪਿਊਟਰ ਵਿਜ਼ਨ ਕਾਰਜਾਂ ਲਈ ਇੱਕ ਨਵੇਂ ਢਾਂਚੇ ਵਜੋਂ ਕੰਮ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਹੈ।"

ਗੂਗਲ ਦੇ ਕਲਾਉਡ ਟੈਂਸਰ ਪ੍ਰੋਸੈਸਿੰਗ ਯੂਨਿਟਾਂ (ਟੀਪੀਯੂ) ਲਈ ਸਰੋਤ ਕੋਡ ਅਤੇ ਸਿਖਲਾਈ ਸਕ੍ਰਿਪਟਾਂ ਇਸ 'ਤੇ ਮੁਫਤ ਉਪਲਬਧ ਹਨ GitHub.

ਸਰੋਤ: 3dnews.ru