Is e sgèile lìonra Seirbheisean Lìn Amazon 69 sònaichean air feadh an t-saoghail ann an 22 roinn: na SA, an Roinn Eòrpa, Àisia, Afraga agus Astràilia. Anns gach sòn tha suas ri 8 ionadan dàta - Ionadan Pròiseas Dàta. Tha mìltean no ceudan de mhìltean de luchd-frithealaidh aig gach ionad dàta. Tha an lìonra air a dhealbhadh ann an dòigh gus an tèid aire a thoirt do gach suidheachadh mì-choltach. Mar eisimpleir, tha a h-uile sgìre iomallach bho chèile, agus tha sònaichean ruigsinneachd air an sgaradh thar astaran grunn chilemeatairean. Eadhon ged a ghearras tu an càball, atharraichidh an siostam gu seanalan cùl-taic, agus bidh call fiosrachaidh gu bhith na beagan phasgan dàta. Bruidhnidh Vasily Pantyukhin mu na prionnsapalan eile air a bheil an lìonra air a thogail agus mar a tha e air a structaradh.
Vasily Pantyukhin thòisich e mar rianadair Unix ann an companaidhean .ru, ag obair air bathar-cruaidh mòr Sun Microsystem airson 6 bliadhna, agus a’ searmonachadh saoghal stèidhichte air dàta airson 11 bliadhna aig EMC. Dh'fhàs e gu nàdarrach gu sgòthan prìobhaideach, agus an uairsin ghluais e gu feadhainn poblach. A-nis, mar ailtire Seirbheisean Lìn Amazon, tha e a’ toirt seachad comhairle theicnigeach gus cuideachadh le bhith a’ fuireach agus a’ leasachadh ann an sgòth AWS.
Anns a’ phàirt roimhe de thrì-eòlas AWS, rinn Vasily sgrùdadh air dealbhadh frithealaichean corporra agus sgèileadh stòr-dàta. Cairtean Nitro, hypervisor àbhaisteach stèidhichte air KVM, stòr-dàta Amazon Aurora - mu dheidhinn seo uile san stuth "" Leugh airson co-theacsa no coimhead òraidean.
Bidh am pàirt seo a’ cuimseachadh air sgèileadh lìonra, aon de na siostaman as iom-fhillte ann an AWS. An mean-fhàs bho lìonra rèidh gu Cloud Prìobhaideach Brìgheil agus an dealbhadh aige, seirbheisean taobh a-staigh Blackfoot agus HyperPlane, duilgheadas nàbaidh fuaimneach, agus aig an deireadh - meud an lìonra, cnàimh-droma agus càbaill fiosaigeach. Mu dheidhinn seo uile fon ghearradh.
Àicheadh: tha a h-uile dad gu h-ìosal na bheachd pearsanta aig Vasily agus is dòcha nach eil e aig an aon àm ri suidheachadh Seirbheisean Lìn Amazon.
Sgèileadh lìonra
Chaidh an sgòth AWS a chuir air bhog ann an 2006. Bha an lìonra aige gu math prìomhadail - le structar còmhnard. Bha an raon de sheòlaidhean prìobhaideach cumanta don h-uile neach-gabhail sgòthan. Nuair a thòisicheas tu air inneal brìgheil ùr, gun fhiosta fhuair thu seòladh IP a bha ri fhaighinn bhon raon seo.
Bha an dòigh-obrach seo furasta a chuir an gnìomh, ach gu bunaiteach chuir e bacadh air cleachdadh na sgòthan. Gu sònraichte, bha e gu math duilich fuasglaidhean tar-chinealach a leasachadh a thug còmhla lìonraidhean prìobhaideach air an talamh agus ann an AWS. B’ e an duilgheadas as cumanta a bhith a’ dol thairis air raointean seòlaidhean IP.
Cloud prìobhaideach brìgheil
Thionndaidh a-mach gu robh iarrtas air an sgòth. Tha an t-àm ann smaoineachadh air scalability agus an comas a chleachdadh le deichean de mhilleanan de luchd-gabhail. Tha an lìonra còmhnard air fàs gu bhith na chnap-starra mòr. Mar sin, smaoinich sinn air mar as urrainn dhuinn luchd-cleachdaidh a sgaradh bho chèile aig ìre lìonra gus an urrainn dhaibh raointean IP a thaghadh gu neo-eisimeileach.
Dè a’ chiad rud a thig nad inntinn nuair a smaoinicheas tu air aonaranachd lìonra? Gu cinnteach VLANn и VRF - Slighe mas-fhìor agus Cur air adhart.
Gu mì-fhortanach, cha do dh'obraich e. Chan eil ann an ID VLAN ach 12 pìosan, a bheir dhuinn dìreach 4096 earrannan iomallach. Faodaidh eadhon na suidsichean as motha suas ri 1-2 mìle VRF a chleachdadh. Le bhith a’ cleachdadh VRF agus VLAN còmhla a’ toirt dhuinn dìreach beagan mhillean subnets. Chan eil seo gu cinnteach gu leòr airson deichean de mhilleanan de luchd-gabhail, agus feumaidh gach fear dhiubh a bhith comasach air ioma subnets a chleachdadh.
Chan urrainn dhuinn cuideachd pàigheadh airson an àireamh riatanach de bhogsaichean mòra a cheannach, mar eisimpleir, bho Cisco no Juniper. Tha dà adhbhar ann: tha e craicte daor, agus chan eil sinn airson a bhith an urra ris na poileasaidhean leasachaidh is glacaidh aca.
Chan eil ann ach aon cho-dhùnadh - dèan am fuasgladh agad fhèin.
Ann an 2009 dh’ ainmich sinn VPC - Cloud prìobhaideach brìgheil. Tha an t-ainm steigte agus a-nis bidh mòran de sholaraichean sgòthan ga chleachdadh.
Is e lìonra mas-fhìor a th’ ann an VPC SDN (Lìonra air a mhìneachadh le bathar-bog). Cho-dhùin sinn gun a bhith a’ cruthachadh protocolaidhean sònraichte aig ìrean L2 agus L3. Bidh an lìonra a 'ruith air Ethernet agus IP àbhaisteach. Airson a chuir thairis air an lìonra, tha trafaic inneal brìgheil air a chuairteachadh nar pasgan protocol fhèin. Tha e a’ nochdadh an ID a bhuineas do VPC an neach-gabhail.
Fuaimean sìmplidh. Ach, tha grunn dhroch dhùbhlain theicnigeach ann ris am feumar faighinn seachad air. Mar eisimpleir, càite agus ciamar a stòradh dàta mu bhith a’ mapadh seòlaidhean MAC/IP mas-fhìor, ID VPC agus MAC/IP corporra co-fhreagarrach. Air sgèile AWS, is e clàr mòr a tha seo a bu chòir obrachadh le glè bheag de dhàil ruigsinneachd. Uallach airson seo seirbheis mapaidh, a tha air a sgaoileadh ann an sreath tana air feadh an lìonra.
Ann an innealan ginealach ùr, thèid cuairteachadh a dhèanamh le cairtean Nitro aig ìre bathar-cruaidh. Ann an suidheachaidhean nas sine, tha cuairteachadh agus decapsulation stèidhichte air bathar-bog.
Feuch gun obraich sinn a-mach mar a tha e ag obair san fharsaingeachd. Feuch an tòisich sinn leis an ìre L2. Gabhamaid ris gu bheil inneal brìgheil againn le IP 10.0.0.2 air frithealaiche fiosaigeach 192.168.0.3. Bidh e a’ cur dàta gu inneal brìgheil 10.0.0.3, a tha beò air 192.168.1.4. Thèid iarrtas ARP a chruthachadh agus a chuir gu cairt lìonra Nitro. Airson sìmplidh, tha sinn a’ gabhail ris gu bheil an dà inneal brìgheil a’ fuireach san aon VPC “gorm”.
Bidh am mapa a’ dol an àite an t-seòlaidh stòr leis fhèin agus a’ cur frèam ARP air adhart chun t-seirbheis mapaidh.
Bidh an t-seirbheis mapaidh a’ tilleadh fiosrachadh a tha riatanach airson a chuir thairis air lìonra corporra L2.
Tha a’ chairt Nitro anns an fhreagairt ARP a’ dol an àite MAC air an lìonra fiosaigeach le seòladh anns an VPC.
Nuair a bhios sinn a’ gluasad dàta, bidh sinn a’ pasgadh MAC agus IP loidsigeach ann am pasgan VPC. Bidh sinn a’ sgaoileadh seo gu lèir thairis air an lìonra fiosaigeach a’ cleachdadh na cairtean IP Nitro stòr is ceann-uidhe iomchaidh.
Bidh an inneal fiosaigeach dha bheil am pasgan gu bhith a’ coileanadh an t-seic. Tha seo riatanach gus casg a chur air comas spoofing seòlaidh. Bidh an inneal a’ cur iarrtas sònraichte chun t-seirbheis mapaidh agus a’ faighneachd: “Bho inneal corporra 192.168.0.3 fhuair mi pasgan a thathar an dùil airson 10.0.0.3 anns an VPC gorm. A bheil e dligheach?
Bidh an t-seirbheis mapaidh a’ sgrùdadh a’ chlàr riarachaidh ghoireasan aca agus a’ ceadachadh no a’ diùltadh a’ phacaid a dhol troimhe. Anns a h-uile suidheachadh ùr, tha dearbhadh a bharrachd freumhaichte ann an cairtean Nitro. Tha e do-dhèanta a dhol seachad air eadhon gu teòiridheach. Mar sin, chan obraich spoofing gu goireasan ann an VPC eile.
An uairsin, thèid an dàta a chuir chun inneal brìgheil airson a bheil e an dùil.
Bidh an t-seirbheis mapaidh cuideachd ag obair mar router loidsigeach airson dàta a ghluasad eadar innealan brìgheil ann an diofar subnets. Tha a h-uile dad sìmplidh gu bun-bheachdail, cha tèid mi a-steach gu mion-fhiosrachadh.
Tha e a’ tionndadh a-mach, nuair a bhios iad a’ sgaoileadh gach pacaid, gum bi na frithealaichean a’ tionndadh chun t-seirbheis mapaidh. Ciamar a dhèiligeas tu ri dàil do-sheachanta? Tasgaidh, Gu dearbh.
Is e am bòidhchead nach fheum thu an clàr mòr gu lèir a thasgadh. Bidh frithealaiche fiosaigeach a’ toirt aoigheachd do dh’ innealan brìgheil bho àireamh an ìre mhath beag de VPCn. Chan fheum thu ach fiosrachadh a thasgadh mu na VPCn sin. Chan eil e dligheach fhathast dàta a ghluasad gu VPCan eile anns an rèiteachadh “bunaiteach”. Ma thèid gnìomhachd leithid VPC-peering a chleachdadh, thèid fiosrachadh mu na VPCan co-fhreagarrach a luchdachadh a-steach don tasgadan cuideachd.
Rinn sinn rèiteachadh air gluasad dàta chun VPC.
Blackfoot
Dè a nì thu ann an cùisean far am feumar trafaic a ghluasad a-muigh, mar eisimpleir chun eadar-lìn no tro VPN chun talamh? Tha e gar cuideachadh a-muigh an seo Blackfoot - Seirbheis a-staigh AWS. Tha e air a leasachadh leis an sgioba againn ann an Afraga a Deas. Sin as coireach gu bheil an t-seirbheis air ainmeachadh air penguin a tha a' fuireach ann an Afraga a Deas.
Bidh Blackfoot a’ lughdachadh trafaic agus a’ dèanamh na tha a dhìth leis. Thèid dàta a chuir chun eadar-lìn mar a tha.
Tha dàta air a dhubhadh às agus air ath-fhilleadh ann an IPsec nuair a bhios tu a’ cleachdadh VPN.
Nuair a bhios tu a’ cleachdadh Direct Connect, thèid trafaic a tagadh agus a chuir chun VLAN iomchaidh.
HyperPlane
Is e seirbheis smachd sruthadh a-staigh a tha seo. Feumaidh mòran de sheirbheisean lìonra sùil a chumail stàitean sruthadh dàta. Mar eisimpleir, nuair a bhios tu a’ cleachdadh NAT, feumaidh smachd sruthadh dèanamh cinnteach gu bheil port sònraichte a-mach aig gach paidhir puirt IP: ceann-uidhe. Ann an cùis balancer NLB - Cothromaiche lìonra luchdadh a-nuas, bu chòir an sruth dàta a bhith air a stiùireadh chun an aon inneal brìgheil targaid. Tha Buidhnean Tèarainteachd na bhalla-teine stàite. Bidh e a’ cumail sùil air trafaic a tha a’ tighinn a-steach agus gu h-obann a’ fosgladh puirt airson sruthadh pacaid a-mach.
Anns an sgòth AWS, tha riatanasan latency tar-chuir gu math àrd. Is ann air sgàth sin HyperPlane deatamach airson coileanadh an lìonra gu lèir.
Tha Hyperplane air a thogail air innealan brìgheil EC2. Chan eil draoidheachd an seo, dìreach seòlta. Is e an cleas gur e innealan brìgheil a tha seo le RAM mòr. Tha gnìomhachdan gnìomh agus air an coileanadh mar chuimhneachan a-mhàin. Leigidh seo leat dàil de dìreach deichean de microseconds a choileanadh. Bhiodh obrachadh leis an diosc a’ marbhadh a h-uile cinneasachd.
Tha Hyperplane na shiostam sgaoilte de ghrunn innealan EC2 mar sin. Tha leud-bann de 5 GB / s aig gach inneal brìgheil. Thar an lìonra roinneil gu lèir, tha seo a’ toirt seachad terabits iongantach de leud-bann agus a’ ceadachadh giullachd milleanan de cheanglaichean gach diog.
Chan eil HyperPlane ag obair ach le sruthan. Tha cuairteachadh pacaid VPC gu tur follaiseach air a shon. Chuireadh so-leòntachd a dh’ fhaodadh a bhith san t-seirbheis a-staigh seo casg air aonaranachd VPC bho bhith air a bhriseadh. Tha na h-ìrean gu h-ìosal an urra ri tèarainteachd.
Nàbaidh fuaimneach
Tha duilgheadas ann fhathast nàbaidh fuaimneach - nàbaidh fuaimneach. Gabhamaid ris gu bheil 8 nodan againn. Bidh na nodan sin a’ pròiseasadh sruthan luchd-cleachdaidh sgòthan gu lèir. Tha e coltach gu bheil a h-uile dad gu math agus bu chòir an luchd a bhith air a chuairteachadh gu cothromach thairis air a h-uile nod. Tha nodan gu math cumhachdach agus tha e duilich cus luchdachadh sìos.
Ach bidh sinn a’ togail ar n-ailtireachd stèidhichte air eadhon suidheachaidhean eu-coltach.
Chan eil coltachd ìosal a’ ciallachadh do-dhèanta.
Faodaidh sinn smaoineachadh air suidheachadh far an cruthaicheadh aon neach-cleachdaidh no barrachd cus luchd. Tha a h-uile nod HyperPlane an sàs ann a bhith a’ giullachd an luchd seo agus dh’ fhaodadh luchd-cleachdaidh eile eòlas fhaighinn air seòrsa de bhualadh coileanaidh. Bidh seo a 'briseadh bun-bheachd an neul, anns nach eil comas aig luchd-gabhail buaidh a thoirt air a chèile.
Ciamar a gheibh thu fuasgladh air duilgheadas nàbaidh fuaimneach? Is e a 'chiad rud a thig gu inntinn a bhith a' sgoltadh. Tha na 8 nodan againn air an roinn gu loidsigeach ann an 4 shards de 2 nodan gach fear. A-nis cha chuir nàbaidh fuaimneach dragh ach cairteal den luchd-cleachdaidh gu lèir, ach cuiridh e dragh mòr orra.
Dèanamaid rudan ann an dòigh eadar-dhealaichte. Cha bhith sinn a’ riarachadh ach 3 nodan do gach neach-cleachdaidh.
Is e an cleas nodan a shònrachadh air thuaiream gu diofar luchd-cleachdaidh. Anns an dealbh gu h-ìosal, tha an neach-cleachdaidh gorm a 'dol thairis air nodan le aon den dà neach-cleachdaidh eile - uaine agus orains.
Le 8 nodan agus 3 luchd-cleachdaidh, is e 54% an coltachd gum bi nàbaidh fuaimneach a’ trasnadh aon den luchd-cleachdaidh. Is ann leis a’ choltachd seo a bheir neach-cleachdaidh gorm buaidh air luchd-gabhail eile. Aig an aon àm, chan eil ann ach pàirt den luchd. Anns an eisimpleir againn, bidh a 'bhuaidh seo co-dhiù ann an dòigh air choireigin follaiseach chan ann don a h-uile duine, ach dìreach don treas cuid de luchd-cleachdaidh. Is e toradh math a tha seo mu thràth.
An àireamh de luchd-cleachdaidh a thèid tarsainn
coltachd sa cheud
0
18%
1
54%
2
26%
3
2%
Bheir sinn an suidheachadh nas fhaisge air fìrinn - bheir sinn 100 nodan agus 5 luchd-cleachdaidh air 5 nodan. Anns a 'chùis seo, cha bhi gin de na nodan a' dol tarsainn le coltachd de 77%.
An àireamh de luchd-cleachdaidh a thèid tarsainn
coltachd sa cheud
0
77%
1
21%
2
1,8%
3
0,06%
4
0,0006%
5
0,00000013%
Ann an suidheachadh fìor, le àireamh mhòr de nodan HyperPlane agus luchd-cleachdaidh, chan eil ach glè bheag de bhuaidh aig nàbaidh fuaimneach air luchd-cleachdaidh eile. Canar am modh seo measgachadh sharding - rùsgadh shuffle. Bidh e a 'lùghdachadh droch bhuaidh fàilligeadh nodan.
Tha mòran sheirbheisean air an togail air bunait HyperPlane: Network Load Balancer, NAT Gateway, Amazon EFS, AWS PrivateLink, AWS Transit Gateway.
Sgèile lìonra
A-nis bruidhnidh sinn mu sgèile an lìonra fhèin. Airson an Dàmhair 2019 tha AWS a’ tabhann a sheirbheisean ann an 22 sgìre, agus tha 9 eile san amharc.
- Tha grunn Sònaichean ri fhaighinn anns gach sgìre. Tha 69 dhiubh air feadh an t-saoghail.
- Tha gach AZ air a dhèanamh suas de Ionadan Pròiseas Dàta. Chan eil barrachd air 8 dhiubh uile gu lèir.
- Anns an ionad dàta tha àireamh mhòr de luchd-frithealaidh, cuid le suas ri 300.
A-nis leig leinn seo gu cuibheasach, iomadaich agus faigh figear drùidhteach a tha a’ nochdadh Sgèile sgòthan Amazon.
Tha mòran cheanglaichean optigeach eadar Sònaichean ri fhaighinn agus an ionad dàta. Ann an aon de na roinnean as motha againn, chaidh 388 seanalan a chuir sìos dìreach airson conaltradh AZ eadar a chèile agus ionadan conaltraidh le roinnean eile (Ionadan Gluasaid). Gu h-iomlan tha seo a 'toirt crazy 5000 Tbit.
Tha cnàimh-droma AWS air a thogail gu sònraichte airson agus air a bharrrachadh airson an sgòth. Bidh sinn ga thogail air na seanalan 100 GB / s. Bidh sinn gan smachd gu tur, ach a-mhàin roinnean ann an Sìona. Chan eil trafaic air a cho-roinn le mòran chompanaidhean eile.
Gu dearbh, chan e sinne an aon sholaraiche sgòthan le lìonra cnàimh-droma prìobhaideach. Tha barrachd is barrachd chompanaidhean mòra a’ leantainn na slighe seo. Tha seo air a dhearbhadh le luchd-rannsachaidh neo-eisimeileach, mar eisimpleir bho .
Tha an graf a’ sealltainn gu bheil an roinn de sholaraichean susbaint agus solaraichean sgòthan a’ fàs. Air sgàth seo, tha an roinn de thrafaig eadar-lìn de sholaraichean cnàimh-droma a’ sìor dhol sìos.
Mìnichidh mi carson a tha seo a’ tachairt. Roimhe sin, bha a’ mhòr-chuid de sheirbheisean lìn rim faighinn agus air an caitheamh gu dìreach bhon eadar-lìn. An-diugh, tha barrachd is barrachd luchd-frithealaidh suidhichte san sgòth agus gheibhear thuca tro CDN - Lìonra Sgaoilidh Susbaint. Gus faighinn gu goireas, bidh an neach-cleachdaidh a’ dol tron eadar-lìn a-mhàin chun CDN PoP as fhaisge - Puing Ceannas. Mar as trice tha e an àiteigin faisg air làimh. An uairsin bidh e a 'fàgail an eadar-lìn poblach agus ag itealaich tro chnàimh-droma prìobhaideach thairis air a' Chuan Siar, mar eisimpleir, agus a 'faighinn gu dìreach chun ghoireas.
Saoil ciamar a dh’ atharraicheas an eadar-lìn ann an 10 bliadhna ma chumas an gluasad seo a’ dol?
Sianalan corporra
Chan eil luchd-saidheans fhathast air faighinn a-mach ciamar as urrainn dhaibh astar an t-solais àrdachadh anns a 'Chruinne-cè, ach tha iad air adhartas mòr a dhèanamh ann an dòighean air a ghluasad tro fiber optic. Tha sinn an-dràsta a 'cleachdadh 6912 freumhag càball. Bidh seo a 'cuideachadh le bhith a' dèanamh an fheum as fheàrr de chosgais an stàlaidh.
Ann an cuid de sgìrean feumaidh sinn càbaill sònraichte a chleachdadh. Mar eisimpleir, ann an sgìre Sydney bidh sinn a’ cleachdadh chàbaill le còmhdach sònraichte an aghaidh termites.
Chan eil duine saor bho thrioblaidean agus uaireannan bidh na seanailean againn air am milleadh. Tha an dealbh air an làimh dheis a’ sealltainn càbaill optigeach ann an aon de na roinnean Ameireaganach a chaidh a reubadh le luchd-togail. Mar thoradh air an tubaist, cha deach ach 13 pacaid dàta a chall, rud a tha na iongnadh. A-rithist - dìreach 13! Thionndaidh an siostam gu litearra sa bhad gu seanalan cùl-taic - tha an sgèile ag obair.
Chaidh sinn tro chuid de sheirbheisean sgòthan agus theicneòlasan Amazon. Tha mi an dòchas gu bheil co-dhiù beagan beachd agad air meud nan gnìomhan a dh’ fheumas na h-innleadairean againn fhuasgladh. Gu pearsanta, tha seo gu math brosnachail dhomh.
Is e seo am pàirt mu dheireadh den trilogy bho Vasily Pantyukhin mun inneal AWS. ANNS bidh pàirtean a’ toirt cunntas air optimization frithealaiche agus sgèileadh stòr-dàta, agus a-steach - gnìomhan gun fhrithealaiche agus Firecracker.
air a ' san t-Samhain bidh Vasily Pantyukhin a’ roinn mion-fhiosrachadh ùr mu inneal Amazon. Tha e mu na h-adhbharan airson fàilligidhean agus dealbhadh shiostaman sgaoilte aig Amazon. Tha 24 Dàmhair fhathast comasach tiogaid aig prìs mhath, agus pàigh nas fhaide air adhart. Tha sinn a’ feitheamh riut aig HighLoad ++, thig agus bruidhnidh sinn!
Source: www.habr.com