HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Ko smo si iz ptičje perspektive ogledali vse sodobne rešitve Huawei Enterprise, predstavljene v letu 2020, prehajamo na bolj osredotočene in podrobne zgodbe o posameznih idejah in izdelkih, ki lahko služijo kot osnova za digitalno transformacijo tako velikih podjetij kot vladnih agencij. Danes govorimo o konceptih in tehnologijah, na katerih Huawei predlaga izgradnjo podatkovnih centrov.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

V dobi povezanega sveta izzivi shranjevanja in obdelave podatkov zahtevajo nove pristope v vseh fazah življenjskega cikla podatkovnega centra. Hkrati morajo postati enostavnejši in pametnejši, da bodo kos svoji vlogi osrednjih elementov infrastrukture globalne digitalne ekonomije.

Leta 2018 je človeštvo shranilo 33 zetabajtov informacij, do leta 2025 pa naj bi se njihov skupni obseg povečal za več kot petkrat. Tri desetletja izkušenj pri razvoju IKT infrastruktur so Huaweiju omogočila, da se dobro pripravi na naraščajoči »podatkovni cunami« in svojim partnerjem in strankam ponudi koncept inteligentnega podatkovnega centra, vključno z vsemi fazami njegove izgradnje, delovanja in vzdrževanja. Elementi tega koncepta so združeni pod splošnim imenom HiDC.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Digitalizirajte ga

Po spletu kroži sveža šala: kdo je najbolj pospešil digitalno preobrazbo vašega podjetja – direktor, tehnični direktor, upravni odbor? Epidemija koronavirusa! Samo leni ne vodijo webinarjev, ne pišejo člankov, ne govorijo ljudem, kako in kaj naj naredijo. Toda vse to so reaktivni ukrepi. Nekateri pripravljeni vnaprej.

Ne zaradi hvalisanja – iz objektivnih razlogov bomo kot primer vzeli naše podjetje, v katerem se je digitalna transformacija v velikem obsegu začela že pred nekaj leti. Trenutno lahko skoraj vse zaposlene preusmerimo na delo od doma brez izgube učinkovitosti. Indikativna je zgodba o bolnišnici, zgrajeni v mestu Wuhan v desetih dneh. Tam se je digitalna transformacija pokazala v tem, da so bili vsi IT sistemi nameščeni v treh dneh. Pri digitalni transformaciji torej ne gre za "kdaj" in "zakaj", temveč za "kako".

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Arhitekturni pristop namesto spontanega razvoja

Katere so glavne težave, s katerimi se srečamo, ko začnemo graditi določen sistem? Do sedaj so vse naše stranke delovale v načinu združevanja poslovnih nalog z aplikativnimi storitvami in IT rešitvami. Precej težko je dobiti splošno predstavo o delovanju takšnega kompleksa, če je bil ustvarjen preprosto z dodajanjem različnih blokov. In da zgradimo sistem kot enoten organizem, je najprej potreben arhitekturni pristop. To smo utelešili v ideologiji naše rešitve HiDC.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Najvišja vrednost in najmanjši stroški

Celotna struktura HiDC je sestavljena iz dveh glavnih rezin. Prva je tisto, kar ste vajeni videti pri Huaweiju – klasična infrastruktura. Elemente druge rezine je najlažje kombinirati z izrazom »inteligentni podatki«.

Zakaj je to potrebno? Dandanes veliko podjetij kopiči ogromne količine informacij, ki so pogosto razpršene ali dostopne prek različnih vrst »tesnil«. Da, vzemite vsaj navadne baze podatkov. Vprašajte svoje skrbnike baz podatkov, kako se te baze podatkov ujemajo in kako uporabiti informacije iz njih v sistemih poslovnega obveščanja za sprejemanje poslovnih odločitev. Presenetljivo je, da so baze podatkov med seboj pogosto zelo ohlapno povezane in delujejo kot ločeni »otoki«. Zato smo najprej razmišljali o tem, s kakšnimi arhitekturnimi pristopi bi lahko odpravili ta problem.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Načela načrtovanja arhitekture HiDC

Oglejmo si osnovna načela oblikovanja HiDC. To ne bo uporabno predvsem za strokovnjake na določenem področju, temveč za arhitekte rešitev, ki lahko zajamejo celotno panoramo.

Najpogostejša sta blok konvergenčnih omrežij in blok za upravljanje podatkov. In tu nastopi koncept, o katerem arhitekti rešitev redko pomislijo: upravljanje življenjskega cikla podatkov. Iz klasičnih baz podatkov se je preselil v številne druge sisteme, vključno z računalništvom v oblaku in robnem računalniku.

Robno računalništvo postaja vse pogostejše. Najbolj očiten primer njihove uporabe je avtomobil z avtopilotom, ki ga je priporočljivo upravljati z ene same platforme. Poleg tega obstaja trend k "zelenim" tehnologijam - bolj energetsko učinkovite, ki povzročajo minimalno škodo okolju. Oboje lahko dosežete s prehodom na intelektualne vire (več o njih kasneje).

Super je, da imamo na voljo vseh šest blokov strukture HiDC. Res je, stranke pogosto delajo v predhodno ustvarjenem okolju. Vendar pa lahko uporaba že enega bloka iz zgornjega diagrama obrodi sadove. In če dodate drugo, tretjo in tako naprej, se bo začel pojavljati sinergijski učinek. Sama kombinacija omrežja in porazdeljenega pomnilnika bo prinesla višjo zmogljivost in manjšo zakasnitev. Blokovni pristop nam omogoča, da se ne razvijamo kaotično, kot se pogosto dogaja v industriji, ampak z uporabo integriranega arhitekturnega pristopa. No, odprtost samih blokov omogoča svobodo pri izbiri optimalne rešitve.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Čas konvergenčnih omrežij

V zadnjem času na svetovnem in ruskem trgu vse bolj promoviramo koncept konvergentnih omrežij. Že danes naše stranke uporabljajo konvergenčne rešitve, ki temeljijo na RoCEv2 (RDMA prek konvergiranega Etherneta v2), za izgradnjo porazdeljenih programsko definiranih sistemov za shranjevanje. Glavna prednost tega pristopa je njegova odprtost in odsotnost potrebe po ustvarjanju neomejenega števila različnih omrežij.

Zakaj se to ni naredilo že prej? Spomnimo se, da je bil standard Ethernet razvit leta 1969. V pol stoletja se je nabralo veliko težav, a Huawei se jih je naučil reševati. Zdaj, zahvaljujoč številnim dodatnim korakom, lahko uporabljamo Ethernet za kritične aplikacije, visoko obremenjene rešitve itd.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Od DCN do DCI

Naslednji pomemben trend je sinergijski učinek implementacije DCI (Data Center Interconnect). V Rusiji je za razliko od Kitajske nekaj podobnega mogoče najti le pri telekomunikacijskih operaterjih. Ko kupci razmišljajo o omrežnih rešitvah za podatkovni center, običajno ne posvečajo dovolj pozornosti globoki integraciji optičnih omrežij in klasičnih IP rešitev znotraj ene same točke prisotnosti. Uporabljajo znane rešitve, ki delujejo na ravni IP, kar jim zadostuje.

Za kaj je potem DCI? Predstavljajte si, da skrbnik vozlišča DWDM in skrbnik omrežja delujeta neodvisno. Na neki točki lahko napaka v katerem koli od njih resno zmanjša vašo odpornost. In če uporabimo princip sinergije, se IP usmerjanje izvaja ob upoštevanju dogajanja v optičnem omrežju. Uporaba tako inteligentne storitve bistveno poveča število devetk v stopnji razpoložljivosti celotnega sistema.

Druga resna prednost našega DCI je njegova velika zmogljivost. Če seštejemo zmogljivosti razredov C in L, lahko dobimo približno 220 lambd. Takšne rezerve verjetno ne bo hitro izčrpala niti velika korporativna stranka, glede na to, da naša trenutna rešitev omogoča prenos do 400 Gbit/s skozi vsako lambdo. V prihodnosti bo na isti opremi mogoče doseči 800 Gbit/s.

Dodatno udobje zagotavlja celostno upravljanje, ki ga zagotavljamo prek klasično odprtih vmesnikov. NETCONF ne upravlja samo s stikali, ampak tudi z optičnimi multipleksnimi napravami, kar vam omogoča, da dosežete konvergenco na vseh ravneh in dojemate sistem kot intelektualni vir in ne kot "niz škatel".

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Robno računalništvo je vedno bolj pomembno

Veliko ljudi je slišalo za Edge Computing. Tisti, ki se ukvarjajo z oblačnimi in klasičnimi podatkovnimi centri, pa se morajo zavedati, da smo v zadnjem času priča resnemu premiku v smeri robnega računalništva.

Kaj povzroča to? Poglejmo pogoste modele uvajanja. Dandanes se veliko govori o »pametnih mestih«, »pametnih hišah« itd. Ta koncept omogoča razvijalcu ustvarjanje dodane vrednosti in zvišanje cene nepremičnine. »Pametna hiša« identificira svojega stanovalca, ga spusti in izpusti ter mu nudi določene storitve. Po statističnih podatkih tovrstne storitve povečajo ceno stanovanj za približno 10–15 % in na splošno lahko spodbudijo razvoj novih poslovnih modelov. Prav tako je bilo že povedano o konceptih avtopilota. Kmalu bo razvoj tehnologij 5G in Wi-Fi 6 zagotovil izjemno nizko zakasnitev za prenos podatkov med pametnimi domovi, avtomobili in glavnim podatkovnim centrom, ki izvaja robno računalništvo. To pomeni, da bo mogoče izvajati veliko večje število operacij, povezanih z resno obdelavo podatkov. Zlasti za reševanje takšnih težav je mogoče uporabiti nevronske procesorje, ki so že dobavljeni Rusiji.

Obeta pravkar opisanega trenda je neizpodbitna. Predstavljajmo si na primer inteligentni sistem za upravljanje mestnega prometa, ki je sposoben preklapljati semaforje, uravnavati prometno obremenitev na določenih ulicah ali celo ustrezno ukrepati v nujnih primerih.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Zdaj pa se obrnemo na vire, s katerimi zagotavljamo izvedbo koncepta HiDC.

Izračuni

Kadar moramo implementirati standardni računalniški sistem, se v njem seveda uporabljajo procesorji z arhitekturo x86. Toda takoj, ko se pojavi potreba po prilagajanju, je čas za razmislek o bolj raznolikih rešitvah.

Na primer, procesorji ARM so zaradi velikega števila jeder odlični za zelo vzporedne aplikacije. Večnitnost poveča zmogljivost za približno 30 %.

Ko je nizka zakasnitev kritična, pridejo v ospredje programirljiva logična integrirana vezja (FPGA).

Nevronski procesorji so potrebni predvsem pri reševanju problemov strojnega učenja. Če za določeno izvedbo potrebujemo 16 omaric s po 8 strežniki, napolnjenih z nevronskimi procesorji, potem bi rešitev enakega nivoja na osnovi arhitekture x86 zahtevala (!) približno 128 omaric. Kot lahko vidite, je zaradi široke palete vrst izračunov treba skrbno izbrati platforme strojne opreme.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Shranjevanje podatkov

Huawei že drugo leto poziva partnerje, stranke in kolege iz industrije, da zgradijo sisteme za shranjevanje podatkov v skladu z načelom Flash Only. In večina naših strank uporablja mehanske vretenske pogone samo v starejših rešitvah ali za redko uporabljene arhivske podatke.

Razvijajo se tudi sistemi Flash. Na trgu se pojavljajo sistemi Storage Class Memory (SCM), kot je Intel Optane. Kitajski in japonski proizvajalci prikazujejo zanimiv razvoj. Trenutno je SCM v razredu obdelave boljši od vseh drugih rešitev. Zaenkrat le visoki stroški ne omogočajo njihove uporabe povsod.

Hkrati vidimo, da je treba kakovost sistemov za shranjevanje izboljšati ne le na običajnem ozadju, ampak tudi na sprednjem delu. Zdaj de facto v novih izvedbah praviloma ponujamo in uporabljamo mehanizme neposrednega dostopa do pomnilnika preko Etherneta, vendar vidimo zahteve strank, zato bomo proti koncu leta pogosteje začeli uporabljati NVMe preko Fabrics. Še več, od konca do konca, da bi zagotovili skupno arhitekturo, ki mora seveda biti visoko zmogljiva in odporna na okvaro krmilnika.

Sistem za shranjevanje OceanStor Dorado je eden naših vodilnih izdelkov. Interni testi so pokazali, da zagotavlja zmogljivost 20 milijonov IOPS in ohranja funkcionalnost, ko odpove sedem od osmih krmilnikov.

Zakaj toliko moči? Poglejmo trenutno situacijo. Prebivalci Kitajske zaradi lockdowna že nekaj mesecev bistveno več časa preživijo doma. Internetni promet se je v tem času v povprečju povečal za 30 %, v nekaterih pokrajinah pa se je celo podvojil. Povečala se je poraba različnih omrežnih storitev. In na neki točki so iste banke začele doživljati resno dodatno obremenitev, na katero njihovi sistemi za shranjevanje niso bili pripravljeni.

Jasno je, da zdaj vsi ne potrebujejo 20 milijonov IOPS. Toda kaj se bo zgodilo jutri? Naši inteligentni sistemi povečajo polni potencial nevronskih procesorjev, da zagotovijo kompaktnost prometa, deduplikacijo, optimizacijo in hitro obnovitev podatkov.

Hrbtenično omrežje

Leto 2020 bo, kot smo omenili v prejšnjem članku, za nas leto osrednjih omrežij. Številne stranke, zlasti ponudniki aplikacijskih storitev (ASP) in banke, že razmišljajo o tem, kako bodo njihove aplikacije delovale posebej v smislu komunikacij do in med podatkovnimi centri. Tu nam na pomoč priskoči novo hrbtenično omrežje. Kot primer vzemimo največje kitajske banke, ki so prešle na poenostavljene hrbtenične sisteme, ki za komunikacijo med podatkovnimi centri ne uporabljajo ducata različnih protokolov, ampak, relativno gledano, par - OSPF in SRv6. Poleg tega organizacija prejme enak nabor storitev.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Intelektualni viri

Kako uporabiti podatke? Do nedavnega je obstajal razdrobljen sistem heterogenih baz podatkov: Microsoft SQL, MySQL, Oracle itd. Za delo z njimi so bile uporabljene rešitve s področja velikih podatkov, ki so te podatke zmogle združevati, jemati, delati z njimi. Vse to je povzročilo visoko obremenitev virov.

Hkrati ni bilo mehanizma za izvajanje operacij s podatki ob nastopu nekega dogodka. Rešitev je bil razvoj principov upravljanja življenjskega cikla podatkov (DLM).

Vsi so že slišali za podatkovna jezera. S prehodom iz upravljanja podatkov na upravljanje podatkov so »digitalna jezera« začela hitro postajati pametnejša. Tudi po zaslugi Huaweijevih rešitev. V naslednjih gradivih bomo zagotovo govorili o celotnem nizu programskih tehnologij, ki smo jih uporabili. Zdaj je pomembno opozoriti, da nam je uporaba pametnega upravljanja življenjskega cikla podatkov omogočila poenostavitev uporabe našega omrežja in strežnikov ter učenje gradnje celovitih arhitektur za boljše razumevanje načel dela s podatki .

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Inženirska infrastruktura podatkovnega centra

Objavili bomo ločena gradiva, posvečena inženirski infrastrukturi, vendar bi v okviru današnje teme radi omenili tiste spremembe, ki so povezane s konceptom HiDC.

Dolgo časa je bila uporaba litijevih baterij v zasilnih in rezervnih napajalnih sistemih (ESP) podatkovnih centrov prepovedana zaradi njihove velike požarne nevarnosti. Vsaka mehanska poškodba ali kršitev celovitosti baterije lahko povzroči požar in nepredvidljive posledice. V zvezi s tem je bil PSA opremljen z zastarelimi kislinskimi baterijami, ki so imele nizko specifično gostoto naboja in veliko maso.

Novi Huaweijevi novi zasilni in rezervni sistemi napajanja uporabljajo varne litij-železofosfatne (LFP) baterije z inteligentnim proaktivnim upravljanjem. Z enako kapaciteto zavzamejo trikrat manjšo prostornino v primerjavi s kislinskimi baterijami. Njihova življenjska doba je 10–15 let, kar med drugim zmanjšuje obremenitev okolja. Patentiran nadzorni sistem v ekosistemu SmartLi omogoča uporabo hibridnih sistemov, sestavljenih iz starih in novih baterijskih nizov, preklopni sistem pa omogoča "vroče" spremembe strukture PSA ob ohranjanju funkcije redundance.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Pametno delovanje

Pomemben del načel delovanja infrastrukture HiDC je ideologija pametnega samozdravljenja. IN одной Iz naših prejšnjih objav smo omenili inteligentno platformo O&M 1-3-5, ki je sposobna ne samo zaznati in analizirati neželen dogodek v sistemu, temveč administratorju ponuditi več možnosti za popolnoma avtomatizirano rešitev problema.

Funkcija samoanalize vam omogoča odkrivanje težav v približno eni minuti. Za analizo porabimo tri minute, v petih minutah pa se oblikujejo predlogi za spremembo stanja v sistemu.

Recimo, da je neka napaka operaterja povzročila nastanek zaprte zanke procesov, kar je zmanjšalo zmogljivost virtualizacijske farme s 100 na 77%. Skrbnik podatkovnega centra prejme ustrezno sporočilo na svojo nadzorno ploščo, ki vsebuje popolno vizualizacijo problema, vključno z omrežnim diagramom virov, na katere vpliva neželeni proces. Nato lahko skrbnik ročno popravi situacijo ali uporabi enega od več scenarijev samodejne obnovitve, ki so mu na voljo.


Sistem pozna približno 75 takšnih scenarijev, ki jih je mogoče implementirati v manj kot desetih minutah, poleg tega pokrivajo 90 % težav, ki se pojavljajo v podatkovnih centrih. V tem času lahko inženir mirno odgovarja na klice zaskrbljenih strank in je prepričan, da bo storitev vsak trenutek ponovno vzpostavljena.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Novi ključni izdelki v HiDC

To naj poleg programskih produktov vključuje ključne rešitve, ki delujejo na infrastrukturni ravni. Najprej moramo omeniti nevronske procesorje, ki se uporabljajo v naši družini gruč AI Atlas, kot tudi strežnike, ki temeljijo na NPU in GPU.

Poleg tega ne moremo mimo omeniti Dorada in njegove vodilne zmogljivosti v razredu, ki bodo trajale še vrsto let. To še posebej velja za postsovjetski prostor, kjer je z redkimi izjemami običajno nekaj posodobiti šele, ko popolnoma preneha delovati. To pojasnjuje življenjsko dobo posameznih sistemov za shranjevanje, ki doseže deset let. Ogromna produktivnost je potrebna za Dorado, da zagotovi visokokakovostno zagotavljanje storitev čez deset let.

HiDC rešitev za izgradnjo sodobne IKT infrastrukture za podatkovne centre na osnovi opreme Huawei Enterprise

Inovativnost v vsakem elementu

Pri izbiri konkretnih infrastrukturnih rešitev ne smemo pozabiti na arhitekturo in scenarije njenega nadaljnjega razvoja. Različni izdelki različnih proizvajalcev ne zagotavljajo pričakovanega sinergijskega učinka, ki ga bodo zagotovile že optimizirane rešitve za skupno uporabo.

Infrastruktura mora temeljiti na pravi tehnologiji. "Pravilni" vključujejo odprte, ki zagotavljajo visoko prepustnost in stabilno delujejo pri visokih obremenitvah. Za podatkovne centre je na primer pomembno dobro razmerje med skupno porabo energije in obremenitvijo IT. Če želite doseči vse zgoraj navedene cilje, morate izbrati okolje in komponente. V sodobnih razmerah to pomeni tudi vse bolj razširjeno uporabo umetne inteligence.

Po naših opažanjih je med Huaweijevimi strateškimi strankami vedno manj tistih, ki še vedno ne uporabljajo sistemov strojnega učenja. Brez ML je preprosto nemogoče čim bolj monetizirati zbrane podatke.

Sistem monetizacije je lahko različen: za banke - ponujanje novih ciljnih produktov, za telekomunikacijske operaterje - zagotavljanje posameznih storitev in zagotavljanje zvestobe, za državne stranke - kakovostno upravljanje življenjskega cikla podatkov in visoka stopnja interakcije z drugimi organizacijami. Navsezadnje so modeli upravljanja podatkov že zdavnaj presegli nastavitev požarnega zidu in zagotavljanje omrežne vidnosti njihovih baz podatkov.

Od ideje do delujočega podatkovnega centra

Gradnja standardnega podatkovnega centra traja v najboljšem primeru od leta do leta in pol. Naš proizvodni cikel nam omogoča, da to storimo veliko hitreje zahvaljujoč uporabi skupine rešitev, združenih pod skupnim imenom FusionDC 2.0. Načrtovanje, razvoj oblikovanja na visoki ravni, montaža vseh elementov IT obremenitve se izvajajo neposredno v obratu. V kratkem času se oprema dostavi s pomorskimi zabojniki iz Kitajske v Rusijo. Posledično je mogoče ustvariti podatkovni center na ključ v dobesedno štirih do petih mesecih.

Zamisel o montažnem podatkovnem centru v oblaku je zanimiva tudi zato, ker lahko podatkovni center razvijamo po stopnjah in mu dodajamo potrebne funkcionalne bloke. Ta pristop je vgrajen v sam koncept HiDC.


Da ne bi gradiva za pregled spremenili v podatkovni list, vam za dodatne informacije o HiDC predlagamo, da obiščete na našo spletno stran. Tam boste našli opis in primere implementacije pristopov, izdelkov in rešitev, o katerih smo govorili. Višja kot je vaša raven dostopa do spletnega mesta, več materialov bo na voljo. Če vam je dodeljen status »partner«, boste lahko prenašali načrte HiDC, tehnične predstavitve, video posnetke.

Upali bi si domnevati, da ima večina tistih, ki berejo ta članek, kompetence omrežnih arhitektov. Zagotovo jih bo zanimal obisk pri nas cona oblikovanja. Tam podrobno govorimo o tem, kako zgraditi omrežno infrastrukturo v skladu s pravili Huawei Validated Design (HVD). Smernice, ki so na voljo za prenos, vam bodo pomagale temeljito razumeti, kako delujejo rešitve podjetja. Ne pozabite le, da vam bo brez avtorizacije na voljo manj materialov.

***

Pri navigaciji vam bodo pomagali tudi številni spletni seminarji, ki se izvajajo ne samo v segmentu ruskega jezika, ampak tudi na mednarodni ravni. Na njih delimo informacije o naših izdelkih in naših poslovnih praksah. Govorimo tudi o tem, kako Huawei kljub motnjam v številnih servisnih verigah še naprej zagotavlja neprekinjeno dostavo svojih izdelkov v različne države. Pred kratkim se je na primer zgodil primer, ko je novo proizvedena oprema za podatkovni center dosegla kupca v Moskvi v samo treh tednih.

Seznam webinarjev za april je na voljo по ссылке.

Vir: www.habr.com

Dodaj komentar