Salve, nomen meum Evgeniy. In Yandex.Market infrastructuram quaerere laboro. Cupio indicare communitatem Habr de coquina interiore Fori - et multa narrare habeo. Imprimis, quomodo in mercatu quaesita opera, processu et architectura. Quomodo agimus de condicionibus subitis: quid fit si unus servo descendat? Quid si 100 tales servientes sunt?
Disces etiam quomodo novam functionem in fasciculo simul ministrantium aggredimur. Et quomodo probamus officia complexa directe in productione, sine ullo incommodo utentium. In genere, quomodo in Foro quaerendi opera omnia habeat tempus bonum.
Paululum de nobis: quam rem solvimus?
Cum textum intras, opus per parametris quaere, vel in diversis thesauris pretia compara, omnes petitiones ad servitium inquisitionis mittuntur. Quaesitum est maximum servitium in Foro.
Omnes petitiones quaerendi discimus: ex locis foro.yandex.ru, beru.ru, ministerium Supercheck, Yandex.Advisor, applicationes mobiles. Etiam productum praebet proventuum quaerendorum in yandex.ru.
Per ministerium investigationis significamus non solum ipsam inquisitionem, sed etiam datorum cum omnibus oblationibus in Foro. Scala haec est: plus quam miliarda petitionum inquisitionum per diem discursum est. Et omnia cito sine interpellatione laborare debent et semper optatum effectum producere.
Quid est quod: Architectura Market
hodiernam architecturam Fori breviter describemus. Ex icone infra dure describi potest;
Dicamus socium copia nobis comes. Volo, inquit, vendere paegnium: hoc malum felem cum diona. Et alius cattus iratus sine diente. Aliquam et felis justo. Tunc copia necessaria praebet condiciones praeparandi pro quibus exquirit Forum. Copia specialem xml cum oblationibus generat et viam huic xml per affiliatum interfaciem communicat. Indexer tunc temporis intervallum hoc xml downloads, errores compescit et omnia informationes in ingens datorum salvat.
Plures tales servati sunt xmls. Index quaestionis ex hoc database creatum est. Index in forma interna reponitur. Indicem creando, munus imposuit propositum ut ministris quaerendis.
Quam ob rem cattus iratus cum diente in datorum apparet, et cattus index in calculonis servi apparet.
Dicam tibi quomodo felem quaerimus in parte de architectura inquisitionis.
Forum investigationis architecturae
Vivimus in mundo microservices: omnes ineuntes petitionem causat multum subquerias, et justo servitiorum in eorum processui implicantur. Ex icone pauca tantum ostendit;
Simplicior petitio processus consilium
Uniuscuiusque rei mirificum officium habet - librator proprio singulari nomine;
Librarius maiorem flexibilitatem nobis dat in servitute administrandi: potes, exempli gratia, servientes averte, quod saepe pro updates requiruntur. Librarius perspicit ut servo rem perpendat et petitiones automatice redirectes aliis servientibus vel centris notitiis dat. Cum servo addendo vel removendo, onus automatice inter servos distribuitur.
Unicum nomen libratoris a centro Mauris non dependet. Cum servitium A petat B, tunc librarius B per defaltam petitionem ad centrum datae redigit. Si servitium perpendat vel non sit in centrum datae hodiernae, petitio ad alia centra reducitur.
Una FQDN pro omnibus centris datorum permittit servitium A ut a locis omnino abstrahat. Petitio eius ad servitium B semper procedendum est. Exceptio fit cum officium in omnibus centris.
Sed non omnia hoc librario tam roseo sunt: ββaddita nobis pars media. Librator inconstans potest esse, et haec quaestio a servientibus redundantibus solvitur. Accedit etiam mora inter officia A et B. Sed in usu minus est quam 1 ms et pro plurimis officiis hoc criticum non est.
Cum Inopinatus: Search Service Librans ac Resiliency
Finge ruinam esse: debes invenire felem cum occisore, sed crepitu server. Vel C SERVII. Quomodo exi? Sumemusne vere usorem sine catto discessurum?
FORMIDULOSUS res est, sed parati sumus ad eam. Dicam ordine.
Quaestio infrastructura in pluribus centris notitiis collocatur:
Cum cogitamus, includimus facultatem unum Mauris interdum claudendi. Vita admirationis plena est - exempli gratia, funem subterraneum excavator secare potest (sic, quod factum est). Facultas in rehquis datarum sedium cacumine oneris sustinendis sufficere debet.
Consideremus unum Mauris interdum. Quisque Mauris interdum eandem rationem operationis librarius habet:
Librarius unus est saltem tres corporis servitores. Haec nugatio facta est pro firmitate. Staterae currunt in HAProx.
HAProx elegimus ob altam suam observantiam, humilem requisita subsidia et late functionem. Interretiarius nostra programmata intra singulis ministris decurrit.
Verisimilitudo unius servo deficientis est humilis. Sed si multos habeas, pretationis saltem unus descendet auget.
Hoc est quod re vera accidit: servers ruina. Ideo necesse est ut omnibus servientibus statum semper monitor. Si servo respondere desinat, sponte a negotiatione disiungitur. Ad hanc rem, HAProxy constructum-sanas perscriptio habet. Omnibus ministris adit semel secunda cum petitione HTTP "/ping".
Aliud notum HAProxy: agentis perscriptio permittit ut omnes ministris aequaliter oneratis. Hoc facere, HAProxy cum omnibus servientibus coniungit, et suum pondus secundum onus currentis ab 1 ad 100 reddunt. Pondus computatur secundum numerum petitionum in queue pro processus et onere processus.
Nunc de inveniendo felis. Proventus quaesiti in petitionibus sunt similia: /Quaerere?text=iratus+cat. Ad investigationem ut celeriter fiat, index totus cattus in RAM aptus est. Etiam lectio SSD non hercle.
Olim oblatio datorum parva erat, et RAM unius servo satis erat. Ut basis oblatio crevit, omnia in hanc RAM non amplius apta sunt, et notitia in duas partes divisa est: testa 1 et testa 2 .
Sed hoc semper accidit: quaevis solutio, etiam bona, alias difficultates oritur.
Librator adhuc cuilibet servo ivit. Sed in machina, ubi petitio venit, dimidia tantum index erat. Cetera de aliis servientibus facta sunt. Ideo necesse erat servo ire ad machinam aliquam vicinam. Recepta ab utroque servo, eventus conjuncta et reponenda sunt.
Cum librator petitiones distribuit aequaliter, omnes servientes in re-ordine versati sunt, et non solum data mittens.
Quaestionem factam si servo vicinus erat unavailable. Solutio erat ut plures ministros cum diversis potioribus denotaret tamquam "propinquum" servitorem. Primum petitio missa est ministris in eculeo currenti. Si responsum nullum erat, postulatum omnibus ministris in hac re centra mittebatur. Postremo petitio ad alia data centra.
Crevit numerus propositionum, data in quattuor partes divisa. Sed nec modus erat.
In statu figura octo shardorum adhibetur. Praeterea, ut plus quam memoriam servet, index in partem inquisitionis (quae ad inquisitionem adhibetur) divisa est et partem abruptionis (quae quaestionis non est implicata).
Unus servo informationes continet pro una tantum testa. Ideo plenam indicem scrutare debes inquirere in octo servientibus diversis shards continens.
Ministri in racemis glomerantur. Uniuscuiusque botrus octo tormenta quaesita et unum servo praecisum continet.
PRAECISIO server decurrit key-valorem database cum data static. Opus est ad documenta edenda, exempli gratia, descriptionem felem cum stridenti. Notitia specialiter ad ministratorem separatum transfertur ut memoriam inquisitionis inquisitionis non oneret.
Cum documentum IDs unicum solum in uno indice sint, res oriri potuit ubi documenta in fragmentis nulla sunt. Bene, vel pro uno ID erit contentus. Itaque ut inquisitioni ad laborem et eventum reduceretur, opus erat per totum botrum consistentiae. Dicam infra quomodo constantiam monitorem dicimus.
Investigatio ipsa ita se habet: percontatio cuilibet ex octo servientibus venire potest. Dicamus eum servo venisse 1. Hic servo procedit omnia argumenta et intelligit quid et quomodo quaeramus. Prout instantiae instantiae, server potest alias petitiones facere ad officia externa pro necessariis informationibus. Una petitio consequi potest usque ad decem petitiones ad officia externa.
Collectis necessariis informationibus, quaesitio in datorum oblationibus incipit. Ad hoc subqueriae fiunt omnibus octo servientibus in botro.
Recepta responsa, eventus componuntur. In fine, plura subqueria ad PRAECISUM server opus generandi eventus.
Quaere quaesita in botro simile: /shard1?text=ira+cat. Praeterea subquisitiones formae constanter fiunt inter omnes servientes intra botrum semel in secunda; /status.
inquisitionis /status detegit statum ubi servo praesto non est.
Etiam moderatur versionem inquisitionis et indicem versionis easdem esse omnibus servientibus, alioquin notitias in botro inconstanter fient.
Non obstante quod unus processus servo praedones postulationes ab octo tormentis quaesitis petit, eius processus leviter oneratus est. Nunc ergo notitias PRAECISIO transferendo ad servitium separatum.
Ut notitias transferre, claves universales documentis introduximus. Nunc fieri non potest ut res in qua contentum ex alio documento redditur, uno clave utatur.
Sed transitus ad aliam architectura nondum perfecta est. Iam servo dedicato PRAECISIO carere volumus. A botri structura prorsus recedite. Hoc nos facile conscendere licebit. Additamentum bonus significat peculi ferrum.
Et nunc ad fabulas FORMIDULOSUS exitus felicibus. Plures casus servo necessariae consideremus.
Aliquid terribile factum est: unus server est unavailable
Dicamus unum server est unavailable. Tunc reliqui servi in ββbotro respondere pergere possunt, sed eventus investigationis incompletus erit.
Via status reprehendo /status vicini servientes intellegunt unum esse perpendat. Ideo ad perfectionem conservandam omnes servientes in botro per request /ping incipiunt librari respondere se etiam perpendat. Evenit ut omnes servientes in botro mortui sint (quod non est verum). Hoc est principale detrimentum schematis nostri botri - id est quam ob rem eam excipere volumus.
Petitiones quae errore deficientes ab librario aliis servientibus indignantur.
Librarius etiam mercaturam usoris cum servientibus mortuis mittit, sed statum eorum cohibere pergit.
Cum servo praesto fit, respondere incipit /ping. Cum primum normales responsiones pingendi a servientibus mortuis advenire incipiunt, libratores incipiunt mercaturam usoris ibi mittere. Botrus operatio restituitur, eia.
Etiam peius: plures servers perpendat
Nota pars ministrantium in Mauris interdum exscinduntur. Quid facere, ubi currere? Librarius iterum succurrit. Quilibet librarius constanter in memoria monetae currentis numeri viventium reponit. Constanter maximam copiam negotiationis computat quod centrum currens non potest procedere.
Cum multi servientes in centrum centri descendunt, librator animadvertit hoc centrum notitiae omnes negocii non posse procedere.
Tum excessus negotiationis incipit passim ad alia centra distribui. Omnia opera, quisque beatus est.
Quomodo id fecerimus: evulgandas emissiones
Nunc fama sit quomodo mutationes factas in servitio evulgamus. Hic iter processuum simplificandi cepimus: nova emissio evoluta paene omnino automated est.
Cum quidam numerus mutationum in incepto coacervatus est, nova dimissio automatice creata est et incipit aedificare.
Tunc ad probationem evolvitur servitium, ubi operationis stabilitas retunditur.
Eodem tempore, autocinetum facto experimento excussum est. Hoc speciali servitio tractatur. Nolo de ea nunc loqui - eius descriptio singulari articulo digna est.
Si publicatio in probatione proficit, publicatio solutionis in prestabili ipso facto incepit. Praestabile est botrum speciale in quo ordinarius usor negotiationis dirigitur. Si errorem reddit, librator postulationem ad productionem facit.
In praestabili, responsionis tempora metiuntur et comparantur cum priore solutione in productione. Si omnia bona sunt, homo connectit: graphas et eventus oneris probationis impedit ac deinde incipit volvere ad productionem.
Optimum accedit ad utentis: A/B probatio
Non semper apparet utrum mutationes muneris afferant vera beneficia. Ad utilitatem mutationum metiendam, homines cum A/B probatione accesserunt. Pauca tibi dicam quomodo in Yandex.Market quaero.
Omnia incipit cum novo CGI modulo addito qui novam functionem praebet. Sit modulus noster; market_new_functionality = I. Deinde in codice possimus hanc functionem, si vexillum adest;
If (cgi.experiments.market_new_functionality) {
// enable new functionality
}Novae functionis partes ad productionem evolvuntur.
Ad automate A/B probatione, servitium dedicatum est quod detailed informationem praebet . Creatur experimentum in ministerio. Negotiatio partitio ponitur, exempli gratia, 15%. Recipis non queries, sed pro users. Duratio experimenti etiam indicatur, verbi gratia, hebdomada.
Aliquot experimenta simul currere possunt. In uncinis definire potes num intersectio cum aliis experimentis fieri possit.
Quam ob rem religio sponte argumentum adiungit market_new_functionality = I ad XV% of users. Etiam automatice electas metricas computat. Expleto experimento, analystae eventus spectant et conclusiones trahunt. Ex Inventionibus, deliberatio evolvatur ad productionem vel elegantiam.
Forum artificii manus: probatio in productione
Saepe accidit ut operam novae functionis in productione experiri debes, sed non scis quomodo condiciones "pugnae" sub gravi onere se gerere debeas.
Solutio est: vexillum in CGI parametri non solum ad probationem A/B, sed etiam ad novam functionem probandam adhiberi possunt.
Instrumentum fecimus, quod permittit ut statim configurationem mutare in millibus servientium sine servitio periculorum exponendo. Suus 'vocatur Stop Tap. Idea originalis erat celeriter aliqua functionality sine extensione debilitari posse. Tunc instrumentum dilatatum est et multiplex factus est.
Ministerium schematis fluxus infra exhibetur:
Valores vexillum per API positi sunt. Ministerium administratione hos valores in datorum thesauris reponit. Omnes ministri ad database semel in decem secundis eunt, valores vexillum sentinunt et ad singulas preces istas valores applicant.
In Sistere sonum duo genera valorum ponere potes:
1) Locutiones conditionales. Applicare si unus valorum sit verus. Exempli gratia:
{
"condition":"IS_DC1",
"value":"3",
},
{
"condition": "CLUSTER==2 and IS_BERU",
"value": "4!"
}Valor "3" applicabitur cum petitio discursum est in locatione DC1. Et valor "4" est cum petitio discursum est in secundo botro pro beru.ru site.
2) Valores absolutos. Applicare per defaltam si nullae conditiones occurrant. Exempli gratia:
pretii, pretii!
Si valor exclamationis terminatur, praeponitur superiori.
Pars CGI parametri pars domicilii. Tum applicat bona a ICTUS Sistere.
Valores cum potioribus sequentibus applicantur;
- Aucta prioritate a ICTUS Siste (signum exclamationis).
- Precium ab instantia.
- Default pretii a Stop ICTUS.
- Default pretii in codice.
Multa vexilla in valoribus conditionalibus indicantur - satis sunt omnibus missionibus nobis notis;
- Mauris interdum.
- Environment: productio, probatio, umbra.
- Venue: forum, beru.
- Botri numerus.
Hoc instrumento novas functiones efficere potes in quodam coetu ministrantium (exempli gratia, in uno tantum centro dato) et operationem huius functionis sine ullo certo periculo toti servitii experire. Etiamsi alicubi erravisses graviter, omnia incidere coepisti et totum centrum notitiarum descendentium, libratores petitiones aliorum centrorum datarum redigunt. Finis users nec quicquam animadverto.
Si quaestionem videris, statim vexillum ad valorem priorem redire potes et mutationes revolventur.
Hoc officium etiam suum downsides habet: tincidunt valde amant et saepe conantur pellere mutationes omnes in Tape Sistere. Nos abuti conamur pugnare.
ICTUS Subsisto accessus bene operatur cum codicem firmum iam habes parati ad evolvendum ad productionem. Eodem tempore, adhuc dubia habes, et codicem in condicionibus "pugnae" inhibere vis.
Nihilominus, Sistere ICTUS non est idoneus ad probandum in evolutione. Botrus separatus est pro developers, quod vocatur "botrus umbra".
Testis arcanum: umbra botrus
Petitiones botri duplicati ab uno in uma botri. Sed librator responsiones ab hoc botro penitus ignorat. Figura operationis eius infra exhibetur.
Botrus test accipimus condiciones reales "pugnae" esse. Normalis user negotiatio ibi accedit. Ferramenta in utroque botro idem est, ergo effectus et errores comparari possunt.
Et cum librarius responsa omnino ignoret, finis utentes responsiones ab umbra botri non videbunt. Ergo errare non est FORMIDULOSUS.
Inventiones
Quomodo ergo mercatum quaerendo aedificamus?
Ut omnia aequaliter efficiamus, functionem in singula officia separamus. Hoc modo conscendere possumus ea tantum componentia quae simpliciores componentes indigemus ac facimus. Facile est elementum separatum alteri quadrigis assignare et responsabilitates in ea operandi communicare. Et significativa compendia in ferro cum hoc ac- pius evidens est.
Umbra botrus etiam nos adiuvat: officia excolere possumus, ea in processu probare nec utentem perturbare.
Bene, probans in productione scilicet. Debet mutare configurationem in millibus servientibus? Securus, uti Sistere Tap. Hoc modo statim solutionem complexam paratam evolvere potes et ad versionem stabilem revolve, si difficultates oriuntur.
Spero me posse ostendere quomodo Market ieiunium et stabile facimus cum basi oblationum increscente. Quomodo solvendas quaestiones servo, cum ingenti numero petitionum tractamus, flexibilitatem servitii emendamus et sine intermissione opus processuum hoc facimus.
Source: www.habr.com