ʻOi aku ka wikiwiki o ka hana kikowaena ma mua o ka hui pū ʻana o ʻewalu mau kaʻina hana kiʻi i ka manawa hoʻokahi i ka wā e aʻo hohonu ai i nā pūnaewele neural. Me he mea lā ma waho o ka moʻolelo ʻepekema, ʻaʻole anei? Akā ua hōʻoia nā mea noiʻi mai ke Kulanui ʻo Rice, me ka hoʻohana ʻana iā Intel Xeon.
Ua ʻoi aku ka maikaʻi o nā GPU no nā ʻoihana neural aʻo hohonu ma mua o nā CPU. Ma muli o ka hoʻolālā ʻana o nā GPU, nona nā cores liʻiliʻi he nui i hiki ke hana i nā hana liʻiliʻi he nui i ka like, ʻo ia ka mea e pono ai no ke aʻo ʻana i nā ʻoihana neural. Akā ua ʻike ʻia ʻo nā kaʻina hana waena, me ke ala kūpono, hiki ke hana maikaʻi loa i ke aʻo hohonu.
Ua hōʻike ʻia i ka wā e hoʻohana ai i ka algorithm aʻo hohonu SLIDE, ʻo kahi kaʻina Intel Xeon me nā cores 44 he 3,5 mau manawa ʻoi aku ka maikaʻi ma mua o ka hui pū ʻana o ʻewalu NVIDIA Tesla V100 computing accelerators. ʻO kēia paha ka manawa mua i loaʻa ʻole ai ka CPU me ka GPU i kēlā ʻano hiʻohiʻona, akā ua ʻoi aku hoʻi ma mua o lākou, a ʻike nui ʻia.
ʻO kahi hoʻolaha paʻi i hoʻopuka ʻia e ke kulanui ʻaʻole pono ka SLIDE algorithm i nā GPU no ka mea e hoʻohana ana i kahi ala ʻokoʻa loa. ʻO ka maʻamau, i ka wā e hoʻomaʻamaʻa ai i nā ʻupena neural, hoʻohana ʻia ke ʻano hoʻomaʻamaʻa hoʻomaʻamaʻa backpropagation, e hoʻohana ana i ka hoʻonui matrix, kahi ukana kūpono no ka GPU. ʻO SLIDE, ma ka ʻaoʻao ʻē aʻe, hoʻololi i ke aʻo ʻana i pilikia ʻimi i hoʻoponopono ʻia me ka hoʻohana ʻana i nā papa hash.
Wahi a ka poʻe noiʻi, hoʻemi nui kēia i ke kumukūʻai helu o ke aʻo ʻana i nā ʻupena neural. No ka loaʻa ʻana o kahi papa kuhikuhi, ua hoʻohana nā mea noiʻi i ka ʻōnaehana ʻo Rice University lab me ʻewalu Tesla V100 accelerators e hoʻomaʻamaʻa i kahi pūnaewele neural e hoʻohana ana i ka waihona TensorFlow a Google. He 3,5 hola ke kaʻina hana. Ma hope iho, ua aʻo ʻia kahi pūnaewele neural like me ka hoʻohana ʻana i ka algorithm SLIDE ma kahi ʻōnaehana me kahi kaʻina hana 44-core Xeon hoʻokahi, a he 1 hola wale nō.
He mea pono e hoʻomaopopo ma aneʻi ʻaʻole i loaʻa iā Intel nā hiʻohiʻona 44-core processor i kāna ʻano huahana. Hiki paha i ka poʻe noiʻi ke hoʻohana i kekahi ʻano o ka chip maʻamau a i ʻole i hoʻokuʻu ʻia, akā ʻaʻole paha kēia. ʻOi aku ka maikaʻi o kahi ʻōnaehana me ʻelua 22-core Intel Xeons i hoʻohana ʻia ma aneʻi, a i ʻole he hewa wale nō i ka hoʻokuʻu paʻi ʻana, a ke kamaʻilio nei mākou e pili ana i nā kaula 44 i hāʻawi ʻia e kahi kaʻina hana 22-core. Akā i kēlā me kēia hihia, ʻaʻole ia e hōʻemi i ka hoʻokō ponoʻī.
ʻOiaʻiʻo, pono ka SLIDE algorithm e hele i nā hoʻāʻo he nui a hōʻoia i kona pono, a me ka nele o nā mea ʻokoʻa a me nā pitfalls. Eia naʻe, he mea kupanaha ka mea a mākou e ʻike nei i kēia manawa a hiki ke loaʻa i ka hopena nui i ka hoʻomohala ʻana o ka ʻoihana.
Source: 3dnews.ru