Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny haben'ny tambajotran'ny Amazon Web Services dia faritra 69 manerana izao tontolo izao amin'ny faritra 22: Etazonia, Eoropa, Azia, Afrika ary Aostralia. Ny faritra tsirairay dia misy tobim-pamokarana hatramin'ny 8 - Foibe fanodinana data. Ny foibe data tsirairay dia manana mpizara an'arivony na ana hetsiny. Ny tambajotra dia novolavolaina amin'ny fomba izay heverina fa ny tranga rehetra mety ho fahatapahana. Ohatra, mitoka-monina ny faritra rehetra, ary misaraka amin'ny halavirana kilometatra maromaro ny faritra azo idirana. Na dia tapahanao aza ny telegrama, dia hivadika amin'ny fantsona backup ny rafitra, ary ny fahaverezan'ny fampahalalam-baovao dia mitentina fonosana data vitsivitsy. Vasily Pantyukhin dia hiresaka momba ny fitsipika hafa nanorenana ny tambajotra sy ny fomba nandrafetana azy.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Vasily Pantyukhin nanomboka tamin'ny maha-administrateur Unix azy tao amin'ny orinasa .ru, niasa tamin'ny fitaovana lehibe Sun Microsystem nandritra ny 6 taona, ary nitory tontolo mifototra amin'ny angona nandritra ny 11 taona tao amin'ny EMC. Nivoatra ho azy ho rahona manokana izany, avy eo nifindra ho an'ny daholobe. Ankehitriny, amin'ny maha architect an'ny Amazon Web Services azy, dia manome torohevitra ara-teknika izy hanampy amin'ny fiainana sy hivoatra ao amin'ny rahona AWS.

Ao amin'ny ampahany teo aloha amin'ny trilogy AWS, Vasily dia niditra tao amin'ny famolavolana ny serivisy ara-batana sy ny scaling database. Karatra Nitro, hypervisor mifototra amin'ny KVM mahazatra, angona Amazon Aurora - momba izany rehetra izany ao amin'ny fitaovana "Ny fomba fandrahoan'ny AWS ny serivisy elastika. Scaling servers sy database" Vakio ny contexte na jerena horonam-peo kabary.

Ity ampahany ity dia hifantoka amin'ny scaling tambajotra, iray amin'ireo rafitra sarotra indrindra amin'ny AWS. Ny fivoarana avy amin'ny tambajotra fisaka mankany amin'ny Virtual Private Cloud sy ny famolavolana azy, ny serivisy anatiny an'ny Blackfoot sy HyperPlane, ny olan'ny mpifanolo-bodirindrina mitabataba, ary amin'ny farany - ny haben'ny tambajotra, ny hazondamosina ary ny telegrama ara-batana. Momba izany rehetra izany eo ambanin'ny fanapahana.

Disclaimer: ny zava-drehetra eto ambany dia ny hevitr'i Vasily manokana ary mety tsy mifanandrify amin'ny toeran'ny Amazon Web Services.

Fanamafisana ny tambajotra

Ny rahona AWS dia natomboka tamin'ny 2006. Ny tambajotran-dry zareo dia tena tranainy - misy rafitra fisaka. Nahazatra ny mpanofa rahona rehetra ny isan'ny adiresy manokana. Rehefa manomboka milina virtoaly vaovao ianao dia nahazo adiresy IP azo alaina avy amin'ity sehatra ity.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Mora nampiharina io fomba fiasa io, saingy voafetra ihany ny fampiasana ny rahona. Indrindra indrindra, sarotra be ny namolavola vahaolana hybrid izay nampifangaro tambajotra tsy miankina amin'ny tany sy ao amin'ny AWS. Ny olana mahazatra indrindra dia ny fifandimbiasan'ny adiresin'ny adiresy IP.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Cloud Private Virtual

Ny rahona dia hita fa nitaky. Tonga ny fotoana hieritreretana momba ny scalability sy ny mety ho fampiasana azy amin'ny mpanofa am-polony tapitrisa. Lasa sakana lehibe ny tambajotra fisaka. Noho izany, nieritreritra ny fomba hampitoka-monina ny mpiserasera amin'ny sehatra tambajotra izahay mba hahafahan'izy ireo misafidy ny sehatra IP tsy miankina.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Inona no zavatra voalohany tonga ao an-tsainao rehefa mieritreritra momba ny fitokana-monina ianao? Azo antoka VLANs и VRF - Fandrosoana sy fandefasana virtoaly.

Indrisy anefa fa tsy nety izany. Ny VLAN ID dia 12 bit ihany, izay manome antsika fizarana mitoka-monina 4096. Na ny switch lehibe indrindra aza dia afaka mampiasa VRFs 1-2 arivo. Ny fampiasana VRF sy VLAN miaraka dia tsy manome afa-tsy subnets vitsivitsy. Tena tsy ampy ho an'ny mpanofa am-polony tapitrisa izany, izay tsy maintsy afaka mampiasa subnets maromaro ny tsirairay.

Izahay koa dia tsy afaka mividy ny isan'ny boaty lehibe ilaina, ohatra, avy amin'ny Cisco na Juniper. Misy antony roa: lafo be izany, ary tsy te hiantra amin'ny politikan'ny fampandrosoana sy ny fametahana azy ireo izahay.

Iray ihany ny fehin-kevitra - manaova vahaolana ho anao manokana.

Tamin'ny 2009 izahay no nanambara VPC - Cloud Private Virtual. Niraikitra ilay anarana ary maro amin'ireo mpamatsy rahona no mampiasa azy io.

VPC dia tambajotra virtoaly SDN (Tambajotra voafaritry ny rindrambaiko). Nanapa-kevitra ny tsy hamorona protocols manokana amin'ny ambaratonga L2 sy L3 izahay. Ny tambajotra dia mandeha amin'ny Ethernet sy IP mahazatra. Ho an'ny fampitana amin'ny tambajotra, ny fifamoivoizana milina virtoaly dia voarakitra ao amin'ny fonosana protocole manokana. Izy io dia manondro ny ID izay an'ny VPC an'ny mpanofa.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Toa tsotra. Na izany aza, misy olana ara-teknika lehibe maro tsy maintsy resena. Ohatra, aiza sy ahoana no fitahirizana angona momba ny fanaovana sari-tany ny adiresy MAC/IP virtoaly, ny ID VPC ary ny MAC/IP ara-batana mifanaraka amin'izany. Amin'ny ambaratonga AWS, latabatra lehibe tokony hiasa miaraka amin'ny fahatarana kely ny fidirana. Tompon’andraikitra amin’izany serivisy sarintany, izay miparitaka amin'ny sosona manify manerana ny tambajotra.

Amin'ny milina taranaka vaovao, ny encapsulation dia ataon'ny karatra Nitro amin'ny haavon'ny hardware. Amin'ny tranga taloha, ny encapsulation sy ny decapsulation dia mifototra amin'ny rindrambaiko. 

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Andeha hojerentsika ny fomba fiasa amin'ny ankapobeny. Andeha isika hanomboka amin'ny ambaratonga L2. Aoka hatao hoe manana milina virtoaly misy IP 10.0.0.2 amin'ny mpizara ara-batana 192.168.0.3 isika. Mandefa angona amin'ny milina virtoaly 10.0.0.3, izay miaina amin'ny 192.168.1.4. Ny fangatahana ARP dia natsangana ary alefa amin'ny karatra Nitro tambajotra. Ho an'ny fahatsorana dia heverinay fa samy miaina ao anaty VPC "manga" mitovy ny milina virtoaly roa.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny sarintany dia manolo ny adiresy loharano amin'ny azy manokana ary mampita ny rafitra ARP mankany amin'ny serivisy fanaovana sari-tany.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny serivisy fanaovana sari-tany dia mamerina ny vaovao ilaina amin'ny fampitana amin'ny tambajotra ara-batana L2.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny karatra Nitro ao amin'ny valin'ny ARP dia manolo ny MAC amin'ny tambajotra ara-batana miaraka amin'ny adiresy ao amin'ny VPC.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Rehefa mamindra angon-drakitra dia fonosinay amin'ny fonosana VPC ny MAC sy IP lojika. Mampita izany rehetra izany amin'ny tambajotra ara-batana izahay amin'ny alàlan'ny karatra IP Nitro loharano sy toerana haleha.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny milina ara-batana izay natokana ho an'ny fonosana no manao ny fisavana. Ilaina izany mba hisorohana ny mety hisian'ny fanodinkodinana adiresy. Mandefa fangatahana manokana amin'ny serivisy fanaovana sarintany ilay milina ary manontany hoe: “Avy amin'ny milina fizika 192.168.0.3 dia nahazo fonosana natao ho an'ny 10.0.0.3 ao amin'ny VPC manga aho. Ara-dalàna ve izy? 

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny serivisy sarintany dia manamarina ny latabatra fizarana loharanon-karena ary mamela na mandà ny fonosana tsy handeha. Amin'ny tranga vaovao rehetra, ny fanamarinana fanampiny dia tafiditra ao anaty karatra Nitro. Tsy azo atao ny mandingana izany na ara-teorika aza. Noho izany, tsy hahomby ny fanodikodinam-bola amin'ny VPC hafa.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Avy eo, ny angon-drakitra dia alefa any amin'ny milina virtoaly izay mikendry azy. 

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny serivisy sarintany ihany koa dia miasa ho toy ny router lojika amin'ny famindrana angon-drakitra eo amin'ny milina virtoaly amin'ny subnets samihafa. Tsotra ara-tsaina ny zava-drehetra, tsy hodinihiko amin'ny antsipiriany.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Hita fa rehefa mamindra ny fonosana tsirairay dia mitodika any amin'ny serivisy mapping ny mpizara. Ahoana no hiatrehana ny fahatarana tsy azo ihodivirana? Caching, mazava ho azy.

Ny hatsaran-tarehy dia tsy mila mitahiry ny latabatra lehibe iray manontolo ianao. Ny mpizara ara-batana dia mampiantrano milina virtoaly avy amin'ny VPCs vitsivitsy. Mila mitahiry fampahalalana momba ireo VPC ireo fotsiny ianao. Mbola tsy ara-dalàna ny famindrana angon-drakitra mankany amin'ny VPC hafa amin'ny fikandrana "default". Raha ampiasaina ny fiasa toy ny VPC-peering, dia ampidirina ao amin'ny cache ihany koa ny fampahalalana momba ireo VPC mifandraika amin'izany. 

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Nandamina ny famindrana angon-drakitra mankany amin'ny VPC izahay.

Blackfoot

Inona no tokony hatao raha toa ka mila ampitaina any ivelany ny fifamoivoizana, ohatra amin'ny Internet na amin'ny alàlan'ny VPN mankany amin'ny tany? Manampy antsika eto Blackfoot - Serivisy anatiny AWS. Novolavolain’ny ekipanay afrikanina tatsimo izany. Izany no nahatonga ny serivisy nomena ny anaran'ny penguin iray mipetraka any Afrika Atsimo.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny Blackfoot dia manafoana ny fifamoivoizana ary manao izay ilaina amin'izany. Ny angon-drakitra dia alefa amin'ny Internet tahaka ny.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny angon-drakitra dia decapsulated ary nofonosina indray amin'ny IPsec rehefa mampiasa VPN.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Rehefa mampiasa Direct Connect, dia misy marika ny fifamoivoizana ary alefa any amin'ny VLAN mety.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

HyperPlane

Ity dia serivisy fanaraha-maso ny fikorianan'ny anatiny. Maro ny tolotra tambajotra mila fanaraha-maso fanjakana mikoriana angona. Ohatra, rehefa mampiasa NAT, ny fanaraha-maso ny fikorianan'ny rano dia tsy maintsy miantoka fa ny IP tsirairay: ny seranan-tsambo ho an'ny seranan-tsambo dia manana seranan-tsambo tokana tokana. Raha ny mpifandanja NLB - Network Load Balancer, ny fikorianan'ny angon-drakitra dia tokony hitodika hatrany amin'ny milina virtoaly kendrena mitovy. Security Groups dia firewall misy fanjakana. Manara-maso ny fifamoivoizana miditra izy io ary manokatra an-kolaka ny seranan-tsambo ho an'ny fikorianan'ny fonosana mivoaka.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ao amin'ny rahona AWS, avo dia avo ny fepetra takian'ny fahatarana. Izany no antony HyperPlane manan-danja amin'ny fahombiazan'ny tambajotra manontolo.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Hyperplane dia naorina amin'ny milina virtoaly EC2. Tsy misy ody eto fa hafetsena ihany. Ny hafetsena dia ireo milina virtoaly manana RAM lehibe. Transactional ny fampandehanana ary atao ao anaty fitadidiana irery ihany. Izany dia ahafahanao mahazo fahatarana am-polony mikrosegondra monja. Ny fiasana amin'ny kapila dia hamono ny vokatra rehetra. 

Hyperplane dia rafitra zaraina amin'ny milina EC2 marobe toy izany. Ny milina virtoaly tsirairay dia manana bandwidth 5 GB/s. Manerana ny tambajotram-paritra manontolo, manome terabits tsy mampino izany ary mamela ny fanodinana fifandraisana an-tapitrisany isan-tsegondra.

HyperPlane ihany no miasa amin'ny renirano. Mangarahara tanteraka amin'izany ny encapsulation packet VPC. Ny mety ho marefo amin'ity serivisy anatiny ity dia mbola manakana ny fitokana-monina VPC tsy ho tapaka. Ireo ambaratonga etsy ambany dia tompon'andraikitra amin'ny fiarovana.

Mitabataba mpifanolo-bodirindrina

Mbola misy olana mpifanila trano mitabataba - mpifanila trano mitabataba. Aoka hatao hoe manana 8 nodes isika. Ireo nodes ireo dia manodina ny fikorian'ny mpampiasa rahona rehetra. Toa tsara ny zava-drehetra ary tokony ho zaraina amin'ny nodes rehetra ny entana. Tena mahery vaika ny nodes ary sarotra ny manavesatra azy ireo.

Saingy miorina amin'ny toe-javatra tsy azo inoana aza izahay no manorina ny maritranonay. 

Ny mety ho ambany dia tsy midika hoe tsy azo atao.

Azontsika an-tsaina ny toe-javatra iray izay mahatonga ny mpampiasa iray na maromaro hamokatra entana be loatra. Ny node HyperPlane rehetra dia mandray anjara amin'ny fanodinana an'io entana io ary ny mpampiasa hafa dia mety hahatsapa karazana famelezana. Izany dia manapaka ny foto-kevitry ny rahona, izay tsy ahafahan'ny mpanofa hifampitaona.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ahoana no hamahana ny olan'ny mpifanolo-bodirindrina mitabataba? Ny zavatra voalohany tonga ao an-tsaina dia ny sharding. Ny node 8 antsika dia mizara lojika ho 4 shards of 2 nodes tsirairay avy. Ankehitriny ny mpifanolo-bodirindrina mitabataba dia tsy hanelingelina afa-tsy ny ampahefatry ny mpampiasa rehetra, fa tena hanelingelina azy ireo izany.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Andao hanao zavatra hafa isika. Node 3 ihany no hozaraina ho an'ny mpampiasa tsirairay. 

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny fika dia ny manendry kisendrasendra nodes ho an'ny mpampiasa samihafa. Eo amin'ny sary etsy ambany, ny mpampiasa manga dia mampifandray ny nodes amin'ny iray amin'ireo mpampiasa roa hafa - maitso sy voasary.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Miaraka amin'ny node 8 sy mpampiasa 3, ny mety hisian'ny mpifanolo-bodirindrina mitabataba mifandray amin'ny iray amin'ireo mpampiasa dia 54%. Miaraka amin'izany ny mety hisian'ny mpampiasa manga iray hisy fiantraikany amin'ny mpanofa hafa. Mandritra izany fotoana izany, ampahany amin'ny entany ihany. Amin'ny ohatra ataontsika, ity fitaomana ity dia tsy ho hitan'ny rehetra, fa ho an'ny ampahatelon'ny mpampiasa rehetra ihany. Efa vokatra tsara izany.

Isan'ny mpampiasa hifanenjika

Mety amin'ny isan-jato

0

18%

1

54%

2

26%

3

2%

Andao hanakaiky ny zava-misy ny zava-misy - andao haka 100 nodes sy mpampiasa 5 amin'ny 5 nodes. Amin'ity tranga ity, tsy misy na dia iray aza amin'ireo node hifanehatra amin'ny mety ho 77%. 

Isan'ny mpampiasa hifanenjika

Mety amin'ny isan-jato

0

77%

1

21%

2

1,8%

3

0,06%

4

0,0006%

5

0,00000013%

Amin'ny toe-javatra tena izy, miaraka amin'ireo node sy mpampiasa HyperPlane marobe, ny mety ho fiantraikan'ny mpifanolo-bodirindrina mitabataba amin'ny mpampiasa hafa dia kely indrindra. Ity fomba ity dia antsoina hoe fampifangaroana sharding - shuffle sharding. Manamaivana ny voka-dratsy ateraky ny tsy fahombiazan'ny node izany.

Serivisy maro no miorina amin'ny HyperPlane: Network Load Balancer, NAT Gateway, Amazon EFS, AWS PrivateLink, AWS Transit Gateway.

Skala tambajotra

Andeha isika hiresaka momba ny haavon'ny tambajotra. Ho an'ny Oktobra 2019 AWS dia manolotra ny serivisy ao 22 faritra, ary 9 hafa no kasaina.

  • Ny faritra tsirairay dia misy Faritra azo ampiasaina maromaro. Miisa 69 izy ireo eran-tany.
  • Ny AZ tsirairay dia misy ivom-pikarakarana data. Tsy mihoatra ny 8 izy ireo raha fitambarany.
  • Ny foibe angona dia manana mpizara marobe, misy hatramin'ny 300 ny sasany.

Andeha hodinihintsika izany rehetra izany, mihamaro ary mahazo tarehimarika manaitra izay hita taratra Amazon cloud scale.

Betsaka ny rohy optika eo amin'ny Faritra Availability sy ny foibe data. Ao amin'ny iray amin'ireo faritra lehibe indrindra eto amintsika, fantsona 388 no napetraka ho an'ny fifandraisana AZ eo amin'ny tsirairay sy ny foibem-pifandraisana amin'ny faritra hafa (Ivotoerana Transit). Amin'ny fitambarany dia manome adala izany 5000 Tbit.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny Backbone AWS dia natsangana manokana ho an'ny rahona. Manorina izany eo amin'ny fantsona izahay 100 GB / s. Mifehy azy ireo tanteraka izahay, ankoatra ny faritra ao Shina. Tsy zaraina amin'ny enta-mavesatry ny orinasa hafa ny fifamoivoizana.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Mazava ho azy fa tsy izahay irery no mpamatsy rahona manana tambajotra tsy miankina. Mihamaro ny orinasa lehibe manaraka io lalana io. Manamafy izany ny mpikaroka tsy miankina, ohatra avy amin'ny Telegeography.

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Ny tabilao dia mampiseho fa mitombo ny anjaran'ny mpanome votoaty sy mpanome rahona. Noho izany dia mihena hatrany ny ampahany amin'ny fifamoivoizana amin'ny Internet an'ireo mpamatsy backbone.

Hazavaiko ny antony mahatonga izany. Teo aloha, ny ankamaroan'ny serivisy tranonkala dia azo idirana sy ampiasaina mivantana avy amin'ny Internet. Amin'izao fotoana izao dia mihamaro ny mpizara hita ao amin'ny rahona ary azo idirana amin'ny alàlan'ny CDN - Tambajotra fizarana votoaty. Mba hidirana amin'ny loharano iray dia mandeha amin'ny Internet ihany ny mpampiasa mankany amin'ny CDN PoP akaiky indrindra - Toetran'ny fanatrehana. Matetika indrindra any amin'ny toerana akaiky. Avy eo dia miala amin'ny Internet ho an'ny daholobe izy ary manidina amin'ny hazondamosina manokana manerana ny Atlantika, ohatra, ary mitodika mivantana amin'ny loharano.

Manontany tena aho hoe ahoana no hiovan'ny Internet ao anatin'ny 10 taona raha mitohy izao fironana izao?

fantsona ara-batana

Tsy mbola hitan’ny mpahay siansa ny fomba hampitomboana ny hafainganan’ny hazavana eto amin’izao rehetra izao, fa efa nanao fandrosoana lehibe izy ireo tamin’ny fomba fampitana izany tamin’ny alalan’ny fibre optika. Mampiasa tariby fibre 6912 izahay amin'izao fotoana izao. Izany dia manampy amin'ny fanatsarana be ny vidin'ny fametrahana azy ireo.

Any amin'ny faritra sasany dia tsy maintsy mampiasa tariby manokana isika. Ohatra, any amin'ny faritr'i Sydney dia mampiasa tariby misy coating manokana amin'ny termite izahay. 

Ny fomba fandrahoan'ny AWS ny serivisy elastika. Fanamafisana ny tambajotra

Tsy misy afa-miala amin'ny olana ary indraindray dia simba ny fantsonay. Ny sary eo amin'ny ankavanana dia mampiseho tariby optika any amin'ny iray amin'ireo faritra amerikanina noviravirain'ny mpiasa mpanao trano. Vokatry ny loza dia 13 monja no very, izay mahagaga. Indray mandeha - 13 ihany! Nivadika ara-bakiteny avy hatrany tamin'ny fantsona backup ny rafitra - miasa ny ambaratonga.

Nandeha tamin'ny serivisy sy teknolojia rahona Amazon sasany izahay. Manantena aho fa manana hevitra farafaharatsiny momba ny halehiben'ny asa tokony hovahan'ny injenieranay ianao. Amiko manokana dia tena mampientanentana izany. 

Ity no ampahany farany amin'ny trilogy avy amin'i Vasily Pantyukhin momba ny fitaovana AWS. IN ny voalohany Ny ampahany dia manoritsoritra ny fanatsarana ny mpizara sy ny fanamafisam-peo, ary ny in ny faharoa - fiasa tsy misy mpizara sy Firecracker.

amin'ny HighLoad ++ amin'ny Novambra, Vasily Pantyukhin dia hizara antsipiriany vaovao momba ny fitaovana Amazon. izy dia hilaza momba ny anton'ny tsy fahombiazana sy ny famolavolana rafitra mizara ao amin'ny Amazon. Mbola azo atao ny 24 oktobra mamandrika tapakila amin'ny vidiny tsara, ary aloa any aoriana. Miandry anao ao amin'ny HighLoad++ izahay, tongava hifampiresaka!

Source: www.habr.com

Add a comment