ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

ʻO ka lā maikaʻi, e nā kamaʻāina Khabrovsk!

E loulou i ka māhele mua o ka moʻolelo no ka poʻe i poina

Makemake wau e hoʻomau i kaʻu moʻolelo e pili ana i ka hui ʻana i kahi "supercomputer kauhale". A e wehewehe wau i ke kumu i kapa ʻia ai ia ʻano - maʻalahi ke kumu. Noho au i kauhale. A ʻo ka inoa he trolling liʻiliʻi o ka poʻe e hoʻōho ana ma ka Pūnaewele "ʻAʻohe ola ma waho o ke alanui Ring Moscow!", "Ua lilo ke kauhale Lūkini i mea ʻona a ke make nei!" No laila, he ʻoiaʻiʻo paha kēia, akā ʻaʻole wau i ka lula. ʻAʻole au inu, ʻaʻole au puhi, hana wau i nā mea ʻaʻole hiki i kēlā me kēia "pahū kūlanakauhale" ke loaʻa. Akā, e hoʻi kāua i kā mākou hipa, a i ʻole ke kikoʻī, i ke kikowaena, i ka hopena o ka hapa mua o ka ʻatikala ua "hōʻike i nā hōʻailona o ke ola."

Ke waiho nei ka papa ma ka papaʻaina, piʻi au i ka BIOS, hoʻonohonoho i koʻu makemake, hoʻokuʻu i ka Ubuntu 16.04 Desktop no ka maʻalahi a hoʻoholo e hoʻopili i kahi kāleka wikiō i ka "mīkini super". Akā ʻo ka mea wale nō ma ka lima he GTS 250 me kahi peʻahi kumu ʻole i hoʻopili ʻia. ʻO kaʻu i hoʻokomo ai i ka slot PCI-E 16x kokoke i ke pihi mana.

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

"Ua lawe au me kahi pūʻolo o Belomor (c)" no laila, mai hoʻohewa mai iaʻu no ka maikaʻi o ke kiʻi. Makemake wau e ʻōlelo i nā mea i hopu ʻia ma luna o lākou.

ʻO ka mea mua, ua ʻike ʻia i ka wā i hoʻokomo ʻia ai i loko o kahi slot, ʻo kahi kāleka wikiō pōkole hoʻi e kau i ka papa e kūʻē i nā slot hoʻomanaʻo, i kēia hihia ʻaʻole hiki ke hoʻokomo ʻia a pono e hoʻohaʻahaʻa ʻia nā latches. ʻO ka lua, ʻo ka pahu hao o ke kāleka wikiō e uhi i ke pihi mana, no laila pono e wehe ʻia. Ma ke ala, ua hoʻomālamalama ʻia ke pihi mana e kahi LED ʻelua kala, e hoʻomālamalama ana i ka ʻōmaʻomaʻo i ka wā i hoʻonohonoho ʻia ai nā mea āpau a me ka ʻalani ʻalani inā loaʻa kekahi pilikia, kahi pōkole pōkole a me ka pale o ka mana a i ʻole ka mana +12VSB kiʻekiʻe a haʻahaʻa paha ka lako.

ʻO ka ʻoiaʻiʻo, ʻaʻole i hoʻolālā ʻia kēia motherboard e hoʻokomo i nā kāleka wikiō "pololei" i loko o kāna mau slot PCI-E 16x; pili lākou āpau i nā risers. No ka hoʻokomo ʻana i kahi kāleka hoʻonui i nā puka kokoke i ke pihi mana, aia nā kihi kihi, kahi haʻahaʻa no ka hoʻokomo ʻana i nā kāleka pōkole a hiki i ka lōʻihi o ka radiator processor mua, a me kahi kihi kiʻekiʻe me kahi mea hoʻohui mana + 12V no ka hoʻokomo ʻana i kahi. kiʻi wikiō "ma luna o" kahi haʻahaʻa haʻahaʻa haʻahaʻa 1U. Hiki iā ia ke hoʻokomo i nā kāleka wikiō nui e like me GTX 780, GTX 980, GTX 1080 a i ʻole nā ​​kāleka GPGPU kūikawā Nvidia Tesla K10-K20-K40 a i ʻole "kāleka helu" Intel Xeon Phi 5110p a me nā mea like.

Akā i ka GPGPU riser, hiki ke hoʻopili pololei ʻia ke kāleka i loko o ka EdgeSlot, ma ka hoʻopili hou ʻana i ka mana hou me ka mea hoʻohui like e like me ka riser kihi kiʻekiʻe. No ka poʻe hoihoi, ma eBay ua kapa ʻia kēia riser maʻalahi "Dell PowerEdge C8220X PCI-E GPGPU DJC89" a me nā kumukūʻai ma kahi o 2.5-3 tausani rubles. ʻOi aku ka liʻiliʻi o nā kihi kihi me ka lako mana hou a pono wau e kūkākūkā e kiʻi iā lākou mai kahi hale kūʻai ʻāpana kikowaena kūikawā ma o Whisper. He 7 tausani ko lakou pakahi.

E ʻōlelo koke wau, "hiki i nā kāne pilikia (tm)" ke hoʻopili i kahi pālua o GTX 980 i ka papa me nā risers flexible Chinese 16x, e like me ka hana ʻana o kekahi kanaka ma "That Same Forum"; ma ke ala, hana nui nā Kina. nā hana hana maikaʻi e hana ana ma PCI-E 16x 2.0 i ke ʻano o Thermaltek flexible ones risers, akā inā i kēia lā e hoʻopau ai ʻoe i nā kaapuni mana ma ka papa kikowaena, ʻo ʻoe wale nō ka hewa. ʻAʻole au i pilikia i nā lako waiwai a ua hoʻohana i nā alana mua me ka mana hou aʻe a hoʻokahi mea maʻalahi Kina, me ka manaʻo ʻaʻole ʻo ka hoʻopili ʻana i kahi kāleka "pololei" i ka papa.

A laila ua hiki mai nā mea hoʻohui lōʻihi no ka hoʻopili ʻana i ka mana hou a ua hana wau i kahi huelo no kaʻu riser ma EdgeSlot. A ʻo ka mea hoʻohui like, akā me kahi pinout ʻē aʻe, hoʻohana ʻia e hāʻawi i ka mana hou i ka motherboard. Aia kēia mea hoʻohui ma kahi kokoke i kēia mea hoʻohui EdgeSlot, aia kahi pinout hoihoi ma laila. Inā he 2 uea +12 a me 2 maʻamau i ka riser, a laila he 3 uea +12 a me 1 maʻamau i ka papa.

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

ʻO kēia ka GTS 250 i hoʻokomo ʻia i ka riser GPGPU. Ma ke ala, hāʻawi ʻia ka mana hou i nā risers a me ka motherboard - mai ka lua + 12V mana konohiki o ka CPU o kaʻu lako mana. Ua hoʻoholo wau e ʻoi aku ka pololei o ka hana ʻana i kēia.

Hōʻike koke ka moʻolelo moʻolelo iā ia iho, akā hiki koke nā ʻāpana i Rusia mai Kina a me nā wahi ʻē aʻe o ka honua. No laila, nui nā āpau i ka hui o ka "supercomputer". Akā ʻo ka hope loa i hōʻea mai iaʻu ka server Nvidia Tesla K20M me kahi radiator passive. Eia kekahi, ʻaʻole loa ia, mai ka waiho ʻana, i hoʻopaʻa ʻia i loko o kāna pahu kumu, i loko o kāna pūʻolo kumu, me nā palapala hōʻoia. A hoʻomaka ka ʻeha: pehea e hoʻomaha ai?

ʻO ka mea mua, ua kūʻai ʻia kahi mea hoʻomaʻamaʻa maʻamau me ʻelua mau "turbines" liʻiliʻi mai ʻEnelani, eia ma ke kiʻi, me kahi diffuser pepa homemade.

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

A ua lilo lākou i mea lapuwale. Nui lākou i ka walaʻau, ʻaʻole i kūpono ka mauna, puhi nāwaliwali lākou a hāʻawi i ka haʻalulu a makaʻu wau e hāʻule nā ​​​​mea ʻāpana mai ka papa Tesla! No ke aha lākou i hoʻolei ʻia ai i loko o ka ʻōpala kokoke koke?

Ma ke ala, ma ke kiʻi ma lalo o Tesla hiki iā ʻoe ke ʻike i nā radiator keleawe keleawe LGA 2011 1U i hoʻokomo ʻia ma nā kaʻina hana me kahi snail mai Coolerserver i kūʻai ʻia mai Aliexpress. ʻO nā mea hoʻoluʻu maikaʻi loa, ʻoiai he walaʻau iki. Ua kūpono lākou.

Akā ʻoiaʻiʻo, ʻoiai wau e kali ana i kahi mea hoʻomaʻamaʻa hou no Tesla, i kēia manawa ua kauoha ʻo ia i kahi snail BFB1012EN nui mai Australia me kahi mauna paʻi 3D, ua hele mai ia i ka ʻōnaehana mālama kikowaena. Loaʻa i ka papa kikowaena kahi mea hoʻohui mini-SAS kahi i hoʻopuka ʻia ai 4 SATA a me 2 mau mea hoʻohui SATA hou aʻe. ʻO SATA maʻamau 2.0 āpau akā kūpono ia iaʻu.

ʻAʻole maikaʻi ʻole ka intel C602 RAID i loko o ka chipset a ʻo ka mea nui ʻo ia ka lele ʻana i ke kauoha TRIM no SSDs, ʻaʻole i hana ka nui o nā mea hoʻokele RAID waho.

Ma eBay ua kūʻai au i ka mini-SAS ka lōʻihi a hiki i ka 4 SATA uwea, a ma Avito ua kūʻai au i kahi kaʻa wela me kahi 5,25″ bay no 4 x 2,5″ SAS-SATA. No laila, i ka hiki ʻana mai o ke kelepona a me ka hīnaʻi, ua hoʻokomo ʻia ʻo 4 terabyte Seagates i loko, ua kūkulu ʻia ʻo RAID5 no nā mea 4 i ka BIOS, ua hoʻomaka wau e hoʻokomo i ka server Ubuntu ... e hana i kahi ʻāpana swap ma ka hoʻouka kaua.

Ua hoʻoponopono au i ka pilikia ma ke poʻo - ua kūʻai au i ASUS HYPER M.2 x 2 MINI a me M.4 SSD Samsung 2 EVO 960 Gb adapter mai DNS a ua hoʻoholo e hoʻokaʻawale ʻia ka mīkini wikiwiki kiʻekiʻe no ka swap, no ka mea e hana ka ʻōnaehana. me ka hoʻouka helu helu kiʻekiʻe, a ʻike maopopo ʻia ka liʻiliʻi o ka hoʻomanaʻo ma mua o ka nui o ka ʻikepili. A ʻoi aku ka maikaʻi o ka hoʻomanaʻo 250 GB ma mua o kēia SSD.

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

ʻO kēia mea hoʻopili like me kahi SSD i hoʻokomo ʻia ma kahi kihi kihi haʻahaʻa.

Ke kali nei i nā nīnau - "No ke aha e hana ʻole ai i ka ʻōnaehana holoʻokoʻa ma M.2 a loaʻa i ka wikiwiki o ka hiki ke kiʻekiʻe ma mua o ka hoʻouka ʻana ma SATA?" - E pane wau. ʻO ka mea mua, ʻoi aku ka nui o ka 1 TB a i ʻole M2 SSD noʻu. ʻO ka lua, ʻoiai ma hope o ka hoʻonui ʻana i ka BIOS i ka mana hou loa 2.8.1, ʻaʻole kākoʻo ke kikowaena i ka hoʻouka ʻana i nā polokalamu M.2 NVE. Ua hana wau i kahi hoʻokolohua kahi i hoʻonohonoho ai ka ʻōnaehana / boot i USB FLASH 64 Gb a me nā mea ʻē aʻe a pau i M.2 SSD, akā ʻaʻole wau makemake. ʻOiai, ma ke kumu, hiki ke hoʻohana ʻia kēlā hui ʻana. Inā ʻoi aku ka liʻiliʻi o nā M.2 NVE kiʻekiʻe, hiki iaʻu ke hoʻi i kēia koho, akā no kēia manawa ʻo SATA RAID ma ke ʻano he ʻōnaehana mālama pono kūpono iaʻu.
I koʻu hoʻoholo ʻana i ka subsystem disk a hele mai me kahi hui o 2 x SSD Kingston 240 Gb RAID1 "/" + 4 x HDD Seagate 1 Tb RAID5 "/ home" + M.2 SSD Samsung 960 EVO 250 Gb "swap" ia. manawa e hoʻomau i kaʻu mau hoʻokolohua me GPU Ua loaʻa iaʻu kahi Tesla a me kahi mea hoʻomaʻamaʻa Australia i hōʻea mai nei me kahi snail "ʻino" e ʻai ana e like me 2.94A ma 12V, ua noho ʻia ka lua o ka slot e M.2 a no ke kolu ua hōʻaiʻē au i kahi GT 610 "no nā hoʻokolohua."

ʻO ka moʻolelo o ka hui ʻana i kahi "supercomputer kauhale" mai nā ʻāpana ʻokoʻa mai eBay, Aliexpress a me kahi hale kūʻai kamepiula. Mahele 2

Eia ma ke kiʻi e pili ana nā mea 3 a pau, a ʻo ka M.2 SSD ma o ka Thermaltech riser maʻalahi no nā kāleka wikiō e hana ana ma ka pahi 3.0 me ka hewa ʻole. Ua like ia me kēia, i hana ʻia mai nā "ribbons" pākahi like me nā mea i hana ʻia ai nā kaula SATA. ʻO nā risers PCI-E 16x i hana ʻia mai kahi kaula pālahalaha monolithic, ʻano like me nā mea kahiko IDE-SCSI, he pōʻino, e pilikia lākou i nā hewa ma muli o ka hoʻopili ʻana i kekahi. A e like me kaʻu i ʻōlelo ai, ua hana nā Kina i nā risers e like me ka Thermaltek, akā pōkole.

I ka hui pū ʻana me Tesla K20 + GT 610, ua hoʻāʻo wau i nā mea he nui, i ka manawa like aʻu i ʻike ai i ka wā e hoʻopili ai i kahi kāleka wikiō waho a hoʻololi i ka hopena iā ia i ka BIOS, ʻaʻole hana ʻo vKVM, ʻaʻole maoli. hoonaukiuki ia'u. Eia nō naʻe, ʻaʻole wau i hoʻolālā e hoʻohana i ka wikiō waho ma kēia ʻōnaehana, ʻaʻohe puka wikiō ma Teslas, a ʻo ka ʻaoʻao hoʻokele mamao ma o SSH a me ka ʻole o X-owls e hana maikaʻi loa ke hoʻomanaʻo iki ʻoe i ke ʻano o ka laina kauoha me ka ʻole o kahi GUI. . Akā ʻo IPMI + vKVM e maʻalahi loa i ka hoʻokele, hoʻonohonoho hou a me nā pilikia ʻē aʻe me kahi kikowaena mamao.

Ma keʻano laulā, maikaʻi ka IPMI o kēia papa. ʻO kahi awa 100 Mbit kaʻawale, ka hiki ke hoʻonohonoho hou i ka packet injection i kekahi o nā awa 10 Gbit, kahi kikowaena pūnaewele i kūkulu ʻia no ka hoʻokele mana a me ka mālama ʻana i nā kikowaena, e hoʻoiho pololei ana i kahi mea kūʻai vKVM Java mai ia mea a me kahi mea kūʻai aku no ka hoʻopili mamao ʻana i nā disks. a i ʻole nā ​​kiʻi no ka hoʻokomo hou ʻana ... ʻO ka mea wale nō, ua like nā mea kūʻai aku me ka Java Oracle kahiko, ʻaʻole i kākoʻo hou ʻia ma Linux a no ka panel admin mamao pono wau e kiʻi i kahi pona me Win XP SP3 me kēia loa. kahiko kahiko. ʻAe, ua lohi ka mea kūʻai, ua lawa no ka panel admin a me nā mea a pau, akā ʻaʻole hiki iā ʻoe ke pāʻani i nā pāʻani mamao, liʻiliʻi ka FPS. A ʻo ka wikiō ASPEED i hoʻohui ʻia me IPMI he nāwaliwali, ʻo VGA wale nō.

Ma ke kaʻina hana me ka server, ua aʻo nui wau a aʻo nui i ka ʻoihana o ka lako kikowaena ʻoihana mai Dell. ʻAʻole wau e mihi iki, a me ka manawa a me ke kālā i hoʻolilo maikaʻi ʻia. E hoʻomau ʻia ka moʻolelo hoʻonaʻauao e pili ana i ka hui ʻana i ke kiʻi me nā mea kikowaena āpau ma hope.

loulou i ka ʻāpana 3: habr.com/en/post/454480

Source: www.habr.com

Pākuʻi i ka manaʻo hoʻopuka