Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Hi kollha! B'dan l-artiklu, AERODISK jiftaħ blog fuq Habré. Hurrah, sħabi!

Artikli preċedenti dwar Habré ddiskutew mistoqsijiet dwar l-arkitettura u l-konfigurazzjoni bażika tas-sistemi tal-ħażna. F'dan l-artikolu ser nikkunsidraw mistoqsija li ma ġietx koperta qabel, iżda spiss tiġi mistoqsija - dwar it-tolleranza tal-ħsarat tas-sistemi ta 'ħażna ta' AERODISK ENGINE. It-tim tagħna se jagħmel minn kollox biex jiżgura li s-sistema tal-ħażna AERODISK tieqaf taħdem, i.e. ikissruh.

Ġara li artikli dwar l-istorja tal-kumpanija tagħna, dwar il-prodotti tagħna, kif ukoll eżempju ta 'implimentazzjoni b'suċċess huma diġà mdendlin fuq Habré, li għalihom Grazzi ħafna lill-imsieħba tagħna - il-kumpaniji TS Solution u Softline.

Għalhekk, mhux se nħarreġ il-ħiliet tal-ġestjoni tal-copy-paste hawn, iżda sempliċement se nipprovdi links għall-oriġinali ta 'dawn l-artikoli:

Irrid ukoll naqsam aħbar tajba. Imma jien ser nibda, ovvjament, bil-problema. Aħna, bħala bejjiegħ żagħżugħ, fost spejjeż oħra, qegħdin kontinwament iħabbtu wiċċhom mal-fatt li ħafna inġiniera u amministraturi sempliċement ma jafux kif joperaw sew is-sistema tal-ħażna tagħna.
Huwa ċar li l-ġestjoni tal-biċċa l-kbira tas-sistemi ta 'ħażna tidher bejn wieħed u ieħor l-istess mil-lat ta' amministratur, iżda kull manifattur għandu l-karatteristiċi tiegħu. U aħna m'aħniex eċċezzjoni hawn.

Għalhekk, sabiex nissimplifikaw il-kompitu tat-taħriġ ta 'speċjalisti tal-IT, iddeċidejna li niddedikaw din is-sena għall-edukazzjoni b'xejn. Biex tagħmel dan, f'ħafna bliet kbar tar-Russja qed niftħu netwerk ta 'Ċentri ta' Kompetenza AERODISK, li fih kull speċjalista tekniku interessat jista 'jieħu kors assolutament mingħajr ħlas u jirċievi ċertifikat fl-amministrazzjoni tas-sistemi ta' ħażna AERODISK ENGINE.

F'kull Ċentru ta' Kompetenza se ninstallaw stand demo sħiħ mis-sistema ta' ħażna AERODISK u server fiżiku, li fuqu l-għalliem tagħna se jwettaq taħriġ wiċċ imb wiċċ. Se nippubblikaw l-iskeda tax-xogħol taċ-Ċentri ta 'Kompetenza mad-dehra tagħhom, iżda diġà ftaħna ċentru f'Nizhny Novgorod u l-belt ta' Krasnodar hija li jmiss. Tista' tiffirma għat-taħriġ billi tuża l-links hawn taħt. Hawnhekk hawn l-informazzjoni magħrufa bħalissa dwar il-bliet u d-dati:

  • Nizhny Novgorod (DIĠÀ MITUĦA – tista’ tirreġistra hawn https://aerodisk.promo/nn/);
    Sas-16 ta’ April, 2019, tista’ żżur iċ-ċentru fi kwalunkwe ħin tax-xogħol, u fis-16 ta’ April, 2019, se jiġi organizzat kors kbir ta’ taħriġ.
  • Krasnodar (FTUĦ dalwaqt - tista' tirreġistra hawn https://aerodisk.promo/krsnd/ );
    Mid-9 ta’ April sal-25 ta’ April, 2019, tista’ żżur iċ-ċentru fi kwalunkwe ħin tax-xogħol, u fil-25 ta’ April, 2019, se jiġi organizzat kors kbir ta’ taħriġ.
  • Yekaterinburg (FITTIĦ FALQAS, segwi l-informazzjoni fuq il-websajt tagħna jew fuq Habré);
    Mejju-Ġunju 2019.
  • Novosibirsk (segwi l-informazzjoni fuq il-websajt tagħna jew fuq Habré);
    Ottubru 2019.
  • Krasnoyarsk (segwi l-informazzjoni fuq il-websajt tagħna jew fuq Habré);
    Novembru 2019.

U, ovvjament, jekk Moska ma tkunx 'il bogħod minnek, allura fi kwalunkwe ħin tista' żżur l-uffiċċju tagħna f'Moska u tagħmel taħriġ simili.

Kollha. Għamilna l-marketing, ejja ngħaddu għat-teknoloġija!

Fuq Habré se nippubblikaw regolarment artikli tekniċi dwar il-prodotti tagħna, it-testijiet tat-tagħbija, il-paraguni, il-karatteristiċi tal-użu u l-implimentazzjonijiet interessanti.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

TWISSIJA! Wara li taqra l-artiklu, tista 'tgħid: ukoll, ovvjament, il-bejjiegħ se jiċċekkja lilu nnifsu sabiex kollox jaħdem "b'bang", kundizzjonijiet ta' serra, eċċ. Jien se nwieġeb: xejn bħal dan! B'differenza mill-kompetituri barranin tagħna, aħna jinsabu hawn, qrib tiegħek, u inti tista 'dejjem tiġi għandna (f'Moska jew kwalunkwe Kumitat Ċentrali) u tittestja s-sistema ta' ħażna tagħna bi kwalunkwe mod. Għalhekk, ma jagħmilx sens għalina li naġġustaw ir-riżultati għal stampa ideali tad-dinja, għaliex Aħna faċli ħafna biex niċċekkjaw. Għal dawk li huma għażżien wisq biex imorru u m'għandhomx ħin, nistgħu norganizzaw ittestjar mill-bogħod. Għandna laboratorju speċjali għal dan. Ikkuntatjana.

ACHTUNG-2! Dan it-test mhuwiex test tat-tagħbija, għaliex hawn aħna jimpurtahom biss dwar it-tolleranza tal-ħsarat. Fi ftit ġimgħat, ser nippreparaw stand aktar b'saħħtu u nwettqu ttestjar tat-tagħbija tas-sistema tal-ħażna, billi nippubblikaw ir-riżultati hawn (mill-mod, talbiet għal testijiet huma aċċettati).

Mela, ejja nkissruh.

Stand tat-test

L-istand tagħna jikkonsisti mill-ħardwer li ġej:

  • 1 x Sistema ta 'ħażna Aerodisk Engine N2 (2 kontrolluri, 64GB cache, 8xFC ports 8Gb/s, 4xEthernet ports 10Gb/s SFP+, 4xEthernet ports 1Gb/s); Id-diski li ġejjin huma installati fis-sistema tal-ħażna:
  • 4 x diski SAS SSD 900 GB;
  • 12 x SAS 10k disks 1,2 TB;
  • 1 x server fiżiku bil-Windows Server 2016 (2xXeon E5 2667 v3, 96GB RAM, 2xFC portijiet 8Gb/s, 2xEthernet ports 10Gb/s SFP+);
  • 2 x SAN 8G swiċċ;
  • 2 x swiċċ LAN 10G;

Aħna konnessi s-server mas-sistema tal-ħażna permezz ta 'swiċċijiet kemm permezz ta' FC kif ukoll 10G Ethernet. Id-dijagramma tal-istand hija hawn taħt.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Il-komponenti li għandna bżonn, bħal MPIO u iSCSI initiator, huma installati fuq Windows Server.
Iż-żoni huma kkonfigurati fuq l-iswiċċijiet FC, il-VLANs korrispondenti huma kkonfigurati fuq l-iswiċċijiet LAN, u MTU 9000 huwa installat fuq il-portijiet tal-ħażna, swiċċijiet u ospitanti (kif tagħmel dan kollu huwa deskritt fid-dokumentazzjoni tagħna, għalhekk mhux se niddeskrivu dan il-proċess hawn).

Metodoloġija tat-Test

Il-pjan tat-test tal-ħabta huwa kif ġej:

  • Iċċekkjar tal-falliment tal-portijiet FC u Ethernet.
  • Kontroll ta' nuqqas ta' enerġija.
  • Kontroll tal-falliment tal-kontrollur.
  • Iċċekkjar għal falliment tad-disk fi grupp/pool.

It-testijiet kollha se jsiru taħt kundizzjonijiet ta 'tagħbija sintetika, li aħna niġġeneraw mill-programm IOMETER. B'mod parallel, aħna se nwettqu l-istess testijiet, iżda taħt kundizzjonijiet li nikkuppjaw fajls kbar fis-sistema tal-ħażna.

Il-konfigurazzjoni tal-IOmeter hija kif ġej:

  • Aqra/Kitba – 70/30
  • Blokk - 128k (iddeċidejna li naħslu s-sistemi tal-ħażna fi blokki kbar)
  • Numru ta 'ħjut - 128 (li huwa simili ħafna għat-tagħbija produttiva)
  • Sħiħ Random
  • Numru ta' Ħaddiema – 4 (2 għal FC, 2 għal iSCSI)

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa
Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

It-test għandu l-għanijiet li ġejjin:

  1. Żgura li t-tagħbija sintetika u l-proċess tal-kopja mhux se jinterrompi jew jikkawża żbalji taħt diversi xenarji ta 'falliment.
  2. Kun żgur li l-proċess ta 'bdil ta' portijiet, kontrolluri, eċċ huwa awtomatizzat biżżejjed u ma jeħtieġx azzjonijiet ta 'amministratur f'każ ta' fallimenti (jiġifieri, waqt failovers, mhux qed nitkellmu dwar failbacks, ovvjament).
  3. Kun żgur li l-informazzjoni fir-zkuk tintwera b'mod korrett.

Tħejjija tas-sistema ospitanti u ta 'ħażna

Aħna kkonfigurajna l-aċċess tal-blokk fuq is-sistema tal-ħażna billi tuża portijiet FC u Ethernet (FC u iSCSI, rispettivament). Il-ġuvini minn TS Solution iddeskrivew fid-dettall kif jagħmlu dan f'artikolu preċedenti (https://habr.com/ru/company/tssolution/blog/432876/). U, ovvjament, ħadd ma kkanċella l-manwali u l-korsijiet.

Waqqafna grupp ibridu bl-użu tad-drajvs kollha li kellna. Ġew miżjuda 2 diski SSD mal-cache, 2 diski SSD ġew miżjuda bħala livell ta 'ħażna addizzjonali (saff Online). Aħna raggruppaw 12-il drive SAS10k f'RAID-60P (triple parity) sabiex niċċekkjaw il-falliment ta 'tliet drives fil-grupp f'daqqa. Diska waħda tħalla għal autoreplacement.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Aħna konnessi żewġ LUNs (wieħed permezz FC, wieħed permezz iSCSI).

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Is-sid taż-żewġ LUNs huwa l-kontrollur Engine-0

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Ejja nibdew it-test

Aħna nippermettu IOMETER bil-konfigurazzjoni ta 'hawn fuq.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Aħna nirreġistraw throughput ta '1.8 GB/s u latency ta' 3 millisekondi. M'hemm l-ebda żbalji (Total Error Count).

Fl-istess ħin, mid-drive lokali "C" tal-ospitant tagħna, b'mod parallel nibdew nikkopjaw żewġ fajls kbar ta '100GB għal LUNs ta' ħażna FC u iSCSI (drives E u G fil-Windows), bl-użu ta 'interfaces oħra.

Hawn fuq hemm il-proċess tal-ikkupjar għal LUN FC, hawn taħt għal iSCSI.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Test #1: Iddiżattivazzjoni tal-portijiet I/O

Aħna nersqu lejn is-sistema tal-ħażna minn wara))) u b'ċaqliq żgħir tal-idejn noħorġu l-kejbils FC u Ethernet 10G kollha mill-kontrollur Engine-0. Huwa bħallikieku mara tat-tindif bil-mop mixi u ddeċidiet li taħsel l-art eżatt fejn il-snot kienet tinsab u l-kejbils kienu mimduda (jiġifieri l-kontrollur għadu jaħdem, iżda l-portijiet I/O huma mejta).

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Ejja nħarsu lejn IOMETER u nikkopja fajls. It-throughput niżel għal 0,5 GB/s, iżda malajr irritorna għal-livell preċedenti tiegħu (f'madwar 4-5 sekondi). M'hemm l-ebda żbalji.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

L-ikkupjar tal-fajls ma waqafx, hemm tnaqqis fil-veloċità, iżda xejn mhu kritiku (minn 840 MB/s niżel għal 720 MB/s). L-ikkupjar ma waqafx.

Inħarsu lejn ir-reġistri tas-sistema tal-ħażna u naraw messaġġ dwar in-nuqqas ta 'disponibbiltà tal-portijiet u r-rilokazzjoni awtomatika tal-grupp.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Il-pannell tal-informazzjoni jgħidilna wkoll li kollox mhux tajjeb ħafna mal-portijiet FC.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Is-sistema tal-ħażna baqgħet ħaj minn falliment tal-portijiet I/O b'suċċess.

Test Nru 2. Iddiżattiva l-kontrollur tal-ħażna

Kważi immedjatament (wara li daħħalna l-kejbils lura fis-sistema tal-ħażna) iddeċidejna li nispiċċaw is-sistema tal-ħażna billi niġbdu l-kontrollur mix-chassis.

Għal darb'oħra nersqu lejn is-sistema tal-ħażna minn wara (għoġobniha))) u din id-darba noħorġu l-kontrollur tal-Magna-1, li f'dan il-mument huwa s-sid tal-RDG (li l-grupp iċċaqlaq).

Is-sitwazzjoni f'IOmeter hija kif ġej. I/O waqaf għal madwar 5 sekondi. L-iżbalji ma jakkumulawx.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Wara 5 sekondi, I/O reġa' beda b'madwar l-istess throughput, iżda b'latenzi ta' 35 millisekondi (latenzi kkoreġuti wara madwar ftit minuti). Kif jidher mill-screenshots, il-valur tal-għadd tal-iżbalji totali huwa 0, jiġifieri, ma kien hemm l-ebda żbalji ta 'kitba jew qari.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Ejja nħarsu lejn l-ikkupjar tal-fajls tagħna. Kif tistgħu taraw, ma ġietx interrotta, kien hemm tnaqqis żgħir fil-prestazzjoni, iżda b'mod ġenerali kollox reġa 'lura għall-istess ~ 800 MB/s.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Immorru fis-sistema tal-ħażna u naraw curse fil-pannell tal-informazzjoni li l-kontrollur tal-Magna-1 mhux disponibbli (naturalment, qtilnaha).

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Naraw ukoll dħul simili fir-zkuk.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Il-kontrollur tal-ħażna wkoll għex falliment b'suċċess.

Test Nru 3: Skonnettjar tal-provvista tal-enerġija.

Fil-każ, erġajna bdejna nikkopja l-fajls, iżda ma waqfitx IOMETER.
Aħna iġbed l-unità tal-provvista tal-enerġija.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Twissija oħra ġiet miżjuda mas-sistema tal-ħażna fil-pannell tal-informazzjoni.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Ukoll fil-menu tas-sensuri naraw li s-sensuri assoċjati mal-provvista tal-enerġija miġbuda saru ħomor.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Is-sistema tal-ħażna tkompli taħdem. Il-falliment tal-unità tal-provvista tal-enerġija bl-ebda mod ma jaffettwa l-operat tas-sistema tal-ħażna; mil-lat tal-host, il-veloċità tal-kopja u l-indikaturi IOMETER baqgħu ma nbidlux.

It-test tal-falliment tal-enerġija għadda b'suċċess.

Qabel it-test finali, iddeċidejna li nġibu lura l-ħajja tas-sistema tal-ħażna ftit, poġġi lura l-kontrollur u l-unità tal-provvista tal-enerġija, u wkoll poġġi l-kejbils fl-ordni, li s-sistema tal-ħażna kuntenta infurmatna dwarhom b'ikoni ħodor fil-pannell tas-saħħa tagħha .

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Test Nru 4. Falliment ta 'tliet diski fi grupp

Qabel dan it-test, għamilna pass ta 'preparazzjoni addizzjonali. Il-fatt hu li s-sistema tal-ħażna tal-MAGNA tipprovdi ħaġa utli ħafna - politiki differenti tal-bini mill-ġdid. TS Solution kiteb dwar din il-karatteristika qabel, iżda ejja nfakkru l-essenza tagħha. L-amministratur tal-ħażna jista 'jispeċifika l-prijorità għall-allokazzjoni tar-riżorsi waqt il-bini mill-ġdid. Jew fid-direzzjoni tal-prestazzjoni tal-I/O, jiġifieri, il-bini mill-ġdid jieħu aktar żmien, iżda m'hemm l-ebda tnaqqis tal-prestazzjoni. Jew fid-direzzjoni tal-veloċità tal-bini mill-ġdid, iżda l-produttività se titnaqqas. Jew għażla bilanċjata. Peress li l-prestazzjoni tal-ħażna waqt il-bini mill-ġdid tal-grupp tad-disk hija dejjem uġigħ ta 'ras ta' amministratur, aħna se nittestjaw politika bi preġudizzju lejn il-prestazzjoni tal-I/O u għad-detriment tal-veloċità tal-bini mill-ġdid.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Issa ejja niċċekkja għal falliment tad-disk. Aħna nippermettu wkoll ir-reġistrazzjoni għal LUNs (fajls u IOMETER). Peress li għandna grupp b'parità tripla (RAID-60P), dan ifisser li s-sistema għandha tiflaħ il-falliment ta 'tliet diski, u wara l-falliment, is-sostituzzjoni awtomatika għandha taħdem, disk wieħed għandu jieħu post wieħed minn dawk falluti fl-RDG, u l-bini mill-ġdid irid jibda fuqu.

Ibda. L-ewwel, permezz tal-interface tal-ħażna, ejja nenfasizzaw id-diski li rridu nġibu 'l barra (sabiex ma nitilfux u iġbed id-diska tal-bidla awtomatika).

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Aħna niċċekkjaw l-indikazzjoni fuq il-ħardwer. Kollox huwa OK, naraw tliet diski enfasizzati.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

U aħna iġbed dawn it-tliet diski.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Ejja nħarsu lejn x'hemm fuq il-host. U hemm... ma ġara xejn speċjali.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa
Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

L-indikaturi tal-ikkupjar (huma ogħla milli fil-bidu, minħabba li l-cache saħnu) u IOMETER ma jinbidlux ħafna meta tneħħi d-diski u tibda l-bini mill-ġdid (fi żmien 5-10%).

Ejja nħarsu lejn x'hemm fuq is-sistema tal-ħażna.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Fl-istatus tal-grupp, naraw li l-proċess ta 'ristrutturar beda u huwa viċin li jitlesta.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Fl-iskeletru RDG tista 'tara li 2 diski huma fi stat aħmar, u waħda diġà ġiet sostitwita. Id-disk ta' sostituzzjoni awtomatika m'għadux hemm; issostitwixxa t-tielet disk fallut. Il-bini mill-ġdid ħa diversi minuti, il-kitba ta 'fajls meta fallew 3 diski ma ġietx interrotta, u l-prestazzjoni tal-I/O ma nbidlitx ħafna.

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

Testijiet ta 'ħabta tas-sistema ta' ħażna AERODISK ENGINE N2, test tas-saħħa

It-test tal-falliment tad-disk definittivament għadda b'suċċess.

Konklużjoni

F'dan il-punt, iddeċidejna li nwaqqfu l-vjolenza kontra s-sistemi tal-ħażna. Ejja nġabru fil-qosor:

  • Kontroll tal-falliment tal-port FC - suċċess
  • Kontroll tal-falliment tal-port Ethernet - suċċess
  • Kontroll tal-falliment tal-kontrollur - suċċess
  • Test ta' Nuqqas ta' Enerġija - Suċċess
  • Iċċekkjar tal-falliment tad-disk fil-grouppool - suċċess

L-ebda wieħed mill-fallimenti ma waqqaf ir-reġistrazzjoni jew ikkawża żbalji fit-tagħbija sintetika; ovvjament, kien hemm suċċess fil-prestazzjoni (u nafu kif negħlbuha, li se nagħmlu dalwaqt), iżda peress li dawn huma sekondi, huwa pjuttost aċċettabbli. Konklużjoni: it-tolleranza tal-ħsarat tal-komponenti kollha tas-sistema tal-ħażna AERODISK ħadmet fil-livell, ma kien hemm l-ebda punti ta 'falliment.

Ovvjament, f'artikolu wieħed ma nistgħux nittestjaw ix-xenarji ta 'falliment kollha, iżda ppruvajna nkopru dawk l-aktar popolari. Għalhekk, jekk jogħġbok ibgħat il-kummenti tiegħek, is-suġġerimenti għal pubblikazzjonijiet futuri u, ovvjament, kritika adegwata. Inkunu ferħanin niddiskutu (jew aħjar, ejja għat-taħriġ, nidduplika l-iskeda fil-każ)! Sa testijiet ġodda!

  • Nizhny Novgorod (DIĠÀ MITUĦA – tista’ tirreġistra hawn https://aerodisk.promo/nn/);
    Sas-16 ta’ April, 2019, tista’ żżur iċ-ċentru fi kwalunkwe ħin tax-xogħol, u fis-16 ta’ April, 2019, se jiġi organizzat kors kbir ta’ taħriġ.
  • Krasnodar (FTUĦ dalwaqt - tista' tirreġistra hawn https://aerodisk.promo/krsnd/ );
    Mid-9 ta’ April sal-25 ta’ April, 2019, tista’ żżur iċ-ċentru fi kwalunkwe ħin tax-xogħol, u fil-25 ta’ April, 2019, se jiġi organizzat kors kbir ta’ taħriġ.
  • Yekaterinburg (FITTIĦ FALQAS, segwi l-informazzjoni fuq il-websajt tagħna jew fuq Habré);
    Mejju-Ġunju 2019.
  • Novosibirsk (segwi l-informazzjoni fuq il-websajt tagħna jew fuq Habré);
    Ottubru 2019.
  • Krasnoyarsk (segwi l-informazzjoni fuq il-websajt tagħna jew fuq Habré);
    Novembru 2019.

Sors: www.habr.com

Żid kumment