Pwosesè santral la te plizyè fwa pi vit nan pèfòmans pase yon konbinezon de uit processeurs grafik nan yon fwa lè gwo twou san fon aprantisaj rezo neral. Son yon bagay ki soti nan syans fiksyon, pa vre? Men, chèchè nan Rice University, lè l sèvi avèk Intel Xeon, te pwouve ke li posib.
GPU yo te toujou pi byen adapte pou rezo neral aprantisaj pwofon pase CPU. Sa a se akòz achitekti GPU yo, ki konpoze de anpil ti nwayo ki kapab fè anpil ti travay nan paralèl, ki se egzakteman sa ki nesesè pou fòmasyon rezo neral. Men, li te tounen soti ke processeurs santral, ak apwòch ki dwat, ka trè efikas nan aprantisaj pwofon.
Yo rapòte ke lè w ap itilize algorithm aprantisaj pwofon SLIDE, yon processeur Intel Xeon ak 44 nwayo te 3,5 fwa pi pwodiktif pase yon konbinezon de uit akseleratè enfòmatik NVIDIA Tesla V100. Sa a se petèt premye fwa ke CPU a pa sèlman kenbe ak GPU a nan yon senaryo konsa, men tou, depase yo, ak anpil notables.
Yon lage laprès pibliye pa inivèsite a deklare ke algorithm SLIDE pa mande pou GPU paske li itilize yon apwòch konplètman diferan. Tipikman, lè fòmasyon rezo neral yo, yo itilize yon teknik backpropagation, ki itilize miltiplikasyon matris, ki se yon kantite travay ideyal pou GPU la. SLIDE, nan lòt men an, vire aprantisaj nan yon pwoblèm rechèch ki rezoud lè l sèvi avèk tab hash.
Dapre chèchè yo, sa a siyifikativman diminye pri enfòmatik fòmasyon rezo neral yo. Pou jwenn yon debaz, chèchè yo te itilize sistèm ki deja egziste laboratwa Rice University ak uit akseleratè Tesla V100 pou fòme yon rezo neral lè l sèvi avèk bibliyotèk TensorFlow Google la. Pwosesis la te pran 3,5 èdtan. Apre sa, yo te fòme yon rezo neral menm jan an lè l sèvi avèk algorithm SLIDE sou yon sistèm ak yon sèl processeur Xeon 44-nwayo, epi li te pran sèlman 1 èdtan.
Li se vo anyen isit la ke Intel kounye a pa gen modèl processeur 44-debaz nan seri pwodwi li yo. Li posib ke chèchè yo te itilize kèk kalite chip koutim oswa ki pa pibliye, men sa a se fasil. Li pi plis posib ke yon sistèm ak de 22-debaz Intel Xeons te itilize isit la, oswa te gen tou senpleman yon erè nan lage laprès la, epi nou ap pale de 44 fil ki te bay pa yon sèl processeur 22-debaz. Men, nan nenpòt ka, sa a pa anpeche siksè nan tèt li.
Natirèlman, algorithm nan SLIDE toujou gen yo ale nan anpil tès ak pwouve efikasite li yo, osi byen ke absans la nan nenpòt sengularite ak enkonvenyans. Sepandan, sa nou wè kounye a trè enpresyonan epi li ka reyèlman gen yon gwo enpak sou devlopman endistri a.
Sous: 3dnews.ru