Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

O dara ọjọ, ọwọn awọn olugbe Khabrovsk!

Ọna asopọ si apakan akọkọ ti itan fun awọn ti o padanu rẹ

Emi yoo fẹ lati tẹsiwaju itan mi nipa iṣakojọpọ “supercomputer abule”. Ati pe Emi yoo ṣe alaye idi ti a fi pe ni ọna yẹn — idi naa rọrun. Abúlé ni èmi fúnra mi ń gbé. Ati pe orukọ naa jẹ lilọ kiri diẹ ti awọn ti n pariwo lori Intanẹẹti “Ko si igbesi aye kọja Opopona Oruka Moscow!”, “Abúlé Rọ́ṣíà ti di ọ̀mùtípara, ó sì ń kú lọ!” Nitorinaa, ibikan eyi le jẹ otitọ, ṣugbọn Emi yoo jẹ iyasọtọ si ofin naa. Emi ko mu, Emi ko mu siga, Mo ṣe awọn nkan ti kii ṣe gbogbo “cracker (s) ilu” le ni anfani. Ṣugbọn jẹ ki a pada si ọdọ awọn agutan wa, tabi diẹ sii ni deede, si olupin naa, eyiti o wa ni opin apakan akọkọ ti nkan naa tẹlẹ “fifihan awọn ami igbesi aye.”

Igbimọ naa dubulẹ lori tabili, Mo gun nipasẹ BIOS, ṣeto si ifẹ mi, yọ kuro ni tabili Ubuntu 16.04 fun ayedero ati pinnu lati sopọ kaadi fidio kan si “ẹrọ nla”. Ṣugbọn ohun kan ṣoṣo ti o wa ni ọwọ ni GTS 250 pẹlu olufẹ ti kii ṣe atilẹba ti o somọ. Eyi ti mo ti fi sori ẹrọ ni PCI-E 16x Iho nitosi agbara bọtini.

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

"Mo mu pẹlu idii Belomor (c)"Nitorina jọwọ ma ṣe da mi lẹbi fun didara fọto naa. Emi yoo kuku sọ asọye lori ohun ti a mu lori wọn.

Ni akọkọ, o wa ni pe nigbati o ba fi sori ẹrọ ni iho, paapaa kaadi fidio kukuru kan sinmi igbimọ naa lodi si awọn iho iranti, ninu eyiti ninu ọran yii ko le fi sii ati paapaa awọn latches gbọdọ wa ni isalẹ. Ni ẹẹkeji, ṣiṣan gbigbe irin ti kaadi fidio bo bọtini agbara, nitorinaa o ni lati yọ kuro. Nipa ọna, bọtini agbara funrararẹ ni itanna nipasẹ LED awọ-meji, eyiti o tan imọlẹ alawọ ewe nigbati ohun gbogbo ba wa ni ibere ati osan osan bi awọn iṣoro eyikeyi ba wa, Circuit kukuru ati aabo ipese agbara ti kọlu tabi agbara + 12VSB ipese jẹ ga ju tabi ju kekere.

Ni otitọ, modaboudu yii ko ṣe apẹrẹ lati pẹlu awọn kaadi fidio “taara” sinu awọn iho PCI-E 16x rẹ; gbogbo wọn ni asopọ si awọn dide. Lati fi sori ẹrọ kaadi imugboroosi ni awọn iho nitosi bọtini agbara, awọn olutẹgun igun wa, kekere kan fun fifi awọn kaadi kukuru sori ipari ti imooru ero isise akọkọ, ati igun giga kan pẹlu afikun asopọ agbara + 12V fun fifi sori ẹrọ kan. fidio kaadi "loke" a boṣewa kekere 1U kula. O le pẹlu awọn kaadi fidio nla bi GTX 780, GTX 980, GTX 1080 tabi awọn kaadi GPGPU pataki Nvidia Tesla K10-K20-K40 tabi “awọn kaadi kọnputa” Intel Xeon Phi 5110p ati bii.

Ṣugbọn ni GPGPU riser, kaadi ti o wa ninu EdgeSlot le ti sopọ taara, nikan nipa tun so afikun agbara pọ pẹlu asopo kanna bi lori oke igun giga. Fun awọn ti o nifẹ si, lori eBay yii ni a pe ni riser ti o rọ ni “Dell PowerEdge C8220X PCI-E GPGPU DJC89” ati idiyele nipa 2.5-3 ẹgbẹrun rubles. Awọn dide igun pẹlu ipese agbara afikun jẹ pupọ pupọ ati pe Mo ni lati duna lati gba wọn lati ile itaja awọn ẹya olupin amọja nipasẹ Whisper. Wọn jẹ 7 ẹgbẹrun kan.

Emi yoo sọ lẹsẹkẹsẹ, “Awọn eniyan eewu (tm)” le paapaa sopọ bata ti GTX 980 si igbimọ pẹlu awọn dide ti o rọ Kannada 16x, gẹgẹ bi eniyan kan ti ṣe lori “Apejọ Kanna yẹn”; nipasẹ ọna, Kannada ṣe pupọ ti o dara ọnà ti o ṣiṣẹ lori PCI-E 16x 2.0 ni awọn ara ti Thermaltek rọ àwọn risers, ṣugbọn ti o ba ti yi ojo kan fa o lati iná jade ni agbara iyika lori olupin ọkọ, o yoo nikan ni ara rẹ si ibawi. Emi ko ṣe ewu awọn ohun elo ti o gbowolori ati lo awọn dide atilẹba pẹlu agbara afikun ati ọkan ti o rọ Kannada kan, ni iṣiro pe sisopọ kaadi kan “taara” kii yoo sun igbimọ naa.

Lẹhinna awọn asopọ ti a ti nreti pipẹ fun sisopọ agbara afikun de ati pe Mo ṣe iru kan fun dide mi ni EdgeSlot. Ati asopo kanna, ṣugbọn pẹlu oriṣiriṣi pinout, ni a lo lati pese agbara afikun si modaboudu. Yi asopo ni ọtun tókàn si yi kanna EdgeSlot asopo, nibẹ jẹ ẹya awon pinout nibẹ. Ti o ba ti riser ni o ni 2 onirin +12 ati 2 wọpọ, ki o si awọn ọkọ ni o ni 3 onirin +12 ati 1 wọpọ.

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

Eyi jẹ GTS 250 kanna ti o wa ninu GPGPU riser. Nipa ọna, afikun agbara ti wa ni ipese si awọn risers ati modaboudu - lati keji + 12V asopo agbara ti Sipiyu ti ipese agbara mi. Mo pinnu pe yoo jẹ deede lati ṣe eyi.

Itan iwin naa sọ fun ararẹ ni iyara, ṣugbọn laiyara awọn apo de Russia lati China ati awọn aye miiran ni agbaye. Nitorina, awọn ela nla wa ni apejọ ti "supercomputer". Ṣugbọn nikẹhin olupin Nvidia Tesla K20M pẹlu imooru palolo kan de ọdọ mi. Jubẹlọ, o jẹ Egba odo, lati ibi ipamọ, edidi ninu awọn oniwe-atilẹba apoti, ninu awọn oniwe-atilẹba package, pẹlu atilẹyin ọja iwe. Ati ijiya bẹrẹ: bawo ni lati tutu?

Ni akọkọ, olutọpa aṣa kan pẹlu awọn “turbines” kekere meji ni a ra lati England, nibi o wa ninu fọto, pẹlu diffuser paali ti ile.

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

Ati pe wọn yipada lati jẹ inira pipe. Wọn ṣe ariwo pupọ, oke naa ko ni ibamu rara, wọn fọn ni ailera ati fifun iru gbigbọn ti mo bẹru pe awọn irinše yoo ṣubu kuro ni igbimọ Tesla! Kini idi ti wọn fi ju sinu idọti fere lẹsẹkẹsẹ?

Nipa ọna, ninu fọto labẹ Tesla o le wo LGA 2011 1U olupin awọn radiators Ejò ti a fi sori ẹrọ lori awọn ilana pẹlu igbin lati Coolerserver ti o ra lati Aliexpress. Gan bojumu coolers, biotilejepe kekere kan alariwo. Wọn baamu daradara.

Ṣugbọn ni otitọ, lakoko ti Mo n duro de olutọju tuntun fun Tesla, ni akoko yii ti paṣẹ igbin BFB1012EN nla kan lati Australia pẹlu 3D ti a tẹjade, o wa si eto ipamọ olupin naa. Igbimọ olupin naa ni asopọ mini-SAS nipasẹ eyiti 4 SATA ati awọn asopọ SATA 2 diẹ sii ti jade. Gbogbo SATA boṣewa 2.0 ṣugbọn iyẹn baamu mi.

Intel C602 RAID ti a ṣe sinu chipset kii ṣe buburu ati pe ohun akọkọ ni pe o fo aṣẹ TRIM fun SSDs, eyiti ọpọlọpọ awọn olutona RAID ita ti ko gbowolori ko ṣe.

Lori eBay Mo ra mini-SAS mini-mita kan si okun SATA 4, ati lori Avito Mo ra ọkọ ayọkẹlẹ gbigbona kan pẹlu 5,25 ″ bay fun 4 x 2,5 ″ SAS-SATA. Nitorinaa nigbati okun ati agbọn naa de, 4 terabyte Seagates ti fi sii ninu rẹ, RAID5 fun awọn ẹrọ 4 ni a ṣe sinu BIOS, Mo bẹrẹ fifi sori ẹrọ olupin Ubuntu… o si sare sinu otitọ pe eto ipin disk ko gba mi laaye. lati ṣẹda a siwopu ipin lori igbogun ti.

Mo yanju iṣoro naa ni iwaju - Mo ra ASUS HYPER M.2 x 2 MINI ati M.4 SSD Samsung 2 EVO 960 Gb ohun ti nmu badọgba lati DNS ati pinnu pe ẹrọ iyara ti o pọju yẹ ki o pin fun swap, niwon eto naa yoo ṣiṣẹ. pẹlu ga iṣiro fifuye, ati awọn iranti jẹ ṣi o han ni kere ju awọn data iwọn. Ati pe iranti 250 GB jẹ gbowolori diẹ sii ju SSD yii lọ.

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

Yi kanna ohun ti nmu badọgba pẹlu ohun SSD fi sori ẹrọ ni a kekere igun riser.

Ni ifojusọna awọn ibeere naa - “Kini idi ti o ko ṣe gbogbo eto lori M.2 ati ni iyara wiwọle ti o pọju ti o ga ju ti igbogun ti SATA?” - Emi yoo dahun. Ni akọkọ, 1 TB tabi diẹ sii M2 SSDs jẹ gbowolori pupọ fun mi. Ni ẹẹkeji, paapaa lẹhin imudojuiwọn BIOS si ẹya tuntun 2.8.1, olupin naa ko tun ṣe atilẹyin awọn ohun elo M.2 NVE. Mo ti ṣe ohun ṣàdánwò ibi ti awọn eto ṣeto / bata to USB FLASH 64 Gb ati ohun gbogbo miran to M.2 SSD, sugbon Emi ko fẹ o. Botilẹjẹpe, ni ipilẹ, iru apapọ kan jẹ iṣẹ ṣiṣe pupọ. Ti o ba ti ga-agbara M.2 NVEs di din owo, Mo ti le pada si yi aṣayan, ṣugbọn fun awọn bayi SATA RAID bi a ipamọ eto rorun fun mi oyimbo daradara.
Nigbati mo pinnu lori disiki subsystem ati ki o wá soke pẹlu kan apapo ti 2 x SSD Kingston 240 Gb RAID1 "/" + 4 x HDD Seagate 1 Tb RAID5 "/ ile" + M.2 SSD Samsung 960 EVO 250 Gb "siwopu" o jẹ. akoko lati tẹsiwaju awọn idanwo mi pẹlu GPU Mo ti ni Tesla tẹlẹ ati olutọju ilu Ọstrelia kan ti de pẹlu igbin “buburu” ti o jẹun bi 2.94A ni 12V, Iho keji ti tẹdo nipasẹ M.2 ati fun ẹkẹta Mo ya GT 610 “fun awọn idanwo.”

Itan-akọọlẹ ti apejọ “supercomputer abule” lati awọn ohun elo apoju lati eBay, Aliexpress ati ile itaja kọnputa kan. Apa 2

Nibi ni Fọto gbogbo awọn ẹrọ 3 ti a ti sopọ, ati M.2 SSD jẹ nipasẹ a rọ Thermaltech riser fun fidio awọn kaadi ti o ṣiṣẹ lori 3.0 akero lai awọn aṣiṣe. O dabi eyi, ti a ṣe lati ọpọlọpọ awọn “ribbons” kọọkan ti o jọra si eyiti eyiti a ṣe awọn kebulu SATA. PCI-E 16x risers ti a ṣe lati okun alapin monolithic, iru bii IDE-SCSI atijọ, jẹ ajalu kan, wọn yoo jiya lati awọn aṣiṣe nitori kikọlu ara ẹni. Ati pe bi Mo ti sọ tẹlẹ, Kannada ni bayi tun jẹ ki awọn dide bii ti Thermaltek, ṣugbọn kuru.

Ni apapo pẹlu Tesla K20 + GT 610, Mo gbiyanju ọpọlọpọ awọn nkan, ni akoko kanna Mo rii pe nigbati o ba n ṣopọ kaadi fidio itagbangba ati yi iyipada si rẹ ninu BIOS, vKVM ko ṣiṣẹ, eyiti ko ṣe gaan. binu mi. Lonakona, Emi ko gbero lati lo fidio ita lori eto yii, ko si awọn abajade fidio lori Teslas, ati nronu iṣakoso latọna jijin nipasẹ SSH ati laisi X-owls ṣiṣẹ nla ni kete ti o ranti diẹ diẹ kini laini aṣẹ laisi GUI jẹ . Ṣugbọn IPMI + vKVM jẹ irọrun iṣakoso pupọ, fifi sori ẹrọ ati awọn ọran miiran pẹlu olupin latọna jijin.

Ni gbogbogbo, IPMI igbimọ yii jẹ nla. Ibudo 100 Mbit lọtọ, agbara lati tunto abẹrẹ soso si ọkan ninu awọn ebute oko oju omi 10 Gbit, olupin oju opo wẹẹbu ti a ṣe sinu fun iṣakoso agbara ati iṣakoso awọn olupin, ṣe igbasilẹ alabara Java vKVM taara lati ọdọ rẹ ati alabara kan fun gbigbe awọn disiki latọna jijin. tabi awọn aworan fun atunkọ… Ohun kan ni pe awọn alabara jẹ kanna bii Java Oracle atijọ, eyiti ko ṣe atilẹyin ni Linux ati fun igbimọ abojuto latọna jijin Mo ni lati gba kọnputa agbeka kan pẹlu Win XP SP3 pẹlu eyi pupọ atijọ Toad. O dara, alabara lọra, o to fun nronu abojuto ati gbogbo iyẹn, ṣugbọn o ko le ṣe awọn ere latọna jijin, FPS jẹ kekere. Ati fidio ASPEED ti o ṣepọ pẹlu IPMI ko lagbara, VGA nikan.

Ninu ilana ṣiṣe pẹlu olupin naa, Mo kọ ẹkọ pupọ ati kọ ẹkọ pupọ ni aaye ti ohun elo olupin ọjọgbọn lati Dell. Eyi ti Emi ko banujẹ rara, bakanna bi akoko ati owo ti o lo daradara. Itan ẹkọ nipa iṣakojọpọ fireemu gangan pẹlu gbogbo awọn paati olupin yoo tẹsiwaju nigbamii.

Ọna asopọ si apakan 3: habr.com/en/post/454480

orisun: www.habr.com

Fi ọrọìwòye kun