న్యూరల్ నెట్‌వర్క్‌లను లోతుగా నేర్చుకునేటప్పుడు ఒకేసారి ఎనిమిది గ్రాఫిక్స్ ప్రాసెసర్‌ల కలయిక కంటే సెంట్రల్ ప్రాసెసర్ పనితీరులో చాలా రెట్లు వేగంగా ఉంటుంది. ఏదో సైన్స్ ఫిక్షన్‌లో ఉన్నట్లు అనిపిస్తుంది, కాదా? అయితే ఇంటెల్ జియాన్‌ని ఉపయోగించి రైస్ యూనివర్సిటీ పరిశోధకులు అది సాధ్యమేనని నిరూపించారు.
CPUల కంటే డీప్ లెర్నింగ్ న్యూరల్ నెట్వర్క్లకు GPUలు ఎల్లప్పుడూ బాగా సరిపోతాయి. ఇది GPUల నిర్మాణం కారణంగా ఉంది, ఇది అనేక చిన్న కోర్లను కలిగి ఉంటుంది, ఇవి సమాంతరంగా అనేక చిన్న పనులను చేయగలవు, ఇది ఖచ్చితంగా నాడీ నెట్వర్క్లకు శిక్షణ ఇవ్వడానికి అవసరమైనది. కానీ సెంట్రల్ ప్రాసెసర్లు, సరైన విధానంతో, లోతైన అభ్యాసంలో చాలా ప్రభావవంతంగా ఉంటాయని తేలింది.
SLIDE డీప్ లెర్నింగ్ అల్గారిథమ్‌ని ఉపయోగిస్తున్నప్పుడు, 44 కోర్లతో కూడిన Intel Xeon ప్రాసెసర్ ఎనిమిది NVIDIA Tesla V3,5 కంప్యూటింగ్ యాక్సిలరేటర్‌ల కలయిక కంటే 100 రెట్లు ఎక్కువ ఉత్పాదకతను కలిగి ఉందని నివేదించబడింది. CPU అటువంటి దృష్టాంతంలో GPUతో పట్టుకోవడమే కాకుండా, వాటిని అధిగమించడం మరియు చాలా గుర్తించదగినది కావడం బహుశా ఇదే మొదటిసారి.
SLIDE అల్గారిథమ్ పూర్తిగా భిన్నమైన విధానాన్ని ఉపయోగిస్తుంది కాబట్టి GPUలు అవసరం లేదని విశ్వవిద్యాలయం విడుదల చేసిన పత్రికా ప్రకటన పేర్కొంది. సాధారణంగా, న్యూరల్ నెట్వర్క్లకు శిక్షణ ఇస్తున్నప్పుడు, శిక్షణ లోపం బ్యాక్‌ప్రొపగేషన్ టెక్నిక్ ఉపయోగించబడుతుంది, ఇది GPUకి ఆదర్శవంతమైన లోడ్ అయిన మ్యాట్రిక్స్ గుణకారాన్ని ఉపయోగిస్తుంది. స్లయిడ్, మరోవైపు, హాష్ టేబుల్‌లను ఉపయోగించి పరిష్కరించబడే శోధన సమస్యగా అభ్యాసాన్ని మారుస్తుంది.
పరిశోధకుల అభిప్రాయం ప్రకారం, ఇది న్యూరల్ నెట్వర్క్లకు శిక్షణ ఇచ్చే గణన వ్యయాన్ని గణనీయంగా తగ్గిస్తుంది. బేస్‌లైన్ పొందడానికి, పరిశోధకులు Google యొక్క TensorFlow లైబ్రరీని ఉపయోగించి న్యూరల్ నెట్‌వర్క్‌కు శిక్షణ ఇవ్వడానికి ఎనిమిది టెస్లా V100 యాక్సిలరేటర్‌లతో రైస్ యూనివర్సిటీ ల్యాబ్ యొక్క ప్రస్తుత సిస్టమ్‌ను ఉపయోగించారు. ప్రక్రియ 3,5 గంటలు పట్టింది. తరువాత, ఒకే 44-కోర్ జియాన్ ప్రాసెసర్‌తో కూడిన సిస్టమ్‌లో SLIDE అల్గారిథమ్‌ని ఉపయోగించి ఇలాంటి న్యూరల్ నెట్‌వర్క్ శిక్షణ పొందింది మరియు దీనికి 1 గంట మాత్రమే పట్టింది.
ఇంటెల్ ప్రస్తుతం దాని ఉత్పత్తి శ్రేణిలో 44-కోర్ ప్రాసెసర్ మోడల్‌లను కలిగి లేదని ఇక్కడ గమనించాలి. పరిశోధకులు ఒక రకమైన కస్టమ్ లేదా విడుదల చేయని చిప్‌ని ఉపయోగించే అవకాశం ఉంది, కానీ ఇది అసంభవం. ఇక్కడ రెండు 22-కోర్ ఇంటెల్ జియాన్‌లతో కూడిన సిస్టమ్ ఉపయోగించబడే అవకాశం ఉంది, లేదా ప్రెస్ రిలీజ్‌లో లోపం ఉంది మరియు మేము ఒక 44-కోర్ ప్రాసెసర్ అందించిన 22 థ్రెడ్‌ల గురించి మాట్లాడుతున్నాము. కానీ ఏ సందర్భంలో, ఇది సాధించిన దాని నుండి తీసివేయదు.
వాస్తవానికి, SLIDE అల్గోరిథం ఇప్పటికీ అనేక పరీక్షల ద్వారా వెళ్ళాలి మరియు దాని ప్రభావాన్ని నిరూపించాలి, అలాగే ఏవైనా విశేషాలు మరియు ఆపదలు లేకపోవడం. అయితే, ఇప్పుడు మనం చూస్తున్నది చాలా ఆకట్టుకునేది మరియు పరిశ్రమ అభివృద్ధిపై నిజంగా పెద్ద ప్రభావాన్ని చూపుతుంది.
మూలం: 3dnews.ru