മോസ്കോ എക്സ്ചേഞ്ചിന്റെ ട്രേഡിംഗ്, ക്ലിയറിംഗ് സിസ്റ്റത്തിന്റെ വാസ്തുവിദ്യയുടെ പരിണാമം. ഭാഗം 1

എല്ലാവർക്കും ഹായ്! എന്റെ പേര് സെർജി കോസ്റ്റാൻബേവ്, എക്സ്ചേഞ്ചിൽ ഞാൻ ട്രേഡിംഗ് സിസ്റ്റത്തിന്റെ കാതൽ വികസിപ്പിക്കുകയാണ്.

ഹോളിവുഡ് സിനിമകൾ ന്യൂയോർക്ക് സ്റ്റോക്ക് എക്‌സ്‌ചേഞ്ച് കാണിക്കുമ്പോൾ, ഇത് എല്ലായ്പ്പോഴും ഇതുപോലെയാണ് കാണപ്പെടുന്നത്: ആളുകളുടെ കൂട്ടം, എല്ലാവരും എന്തോ ആക്രോശിക്കുന്നു, പേപ്പറുകൾ വീശുന്നു, പൂർണ്ണമായ കുഴപ്പങ്ങൾ സംഭവിക്കുന്നു. മോസ്കോ എക്‌സ്‌ചേഞ്ചിൽ ഇത് ഒരിക്കലും സംഭവിച്ചിട്ടില്ല, കാരണം ട്രേഡിങ്ങ് തുടക്കം മുതൽ ഇലക്ട്രോണിക് ആയി നടത്തുകയും രണ്ട് പ്രധാന പ്ലാറ്റ്‌ഫോമുകളെ അടിസ്ഥാനമാക്കിയുള്ളതുമാണ് - സ്പെക്ട്ര (ഫോറെക്സ് മാർക്കറ്റ്), എഎസ്ടിഎസ് (വിദേശ വിനിമയം, സ്റ്റോക്ക്, മണി മാർക്കറ്റ്). ഇന്ന് ഞാൻ ASTS ട്രേഡിംഗ്, ക്ലിയറിംഗ് സിസ്റ്റത്തിന്റെ വാസ്തുവിദ്യയുടെ പരിണാമത്തെക്കുറിച്ചും വിവിധ പരിഹാരങ്ങളെക്കുറിച്ചും കണ്ടെത്തലുകളെക്കുറിച്ചും സംസാരിക്കാൻ ആഗ്രഹിക്കുന്നു. കഥ ദൈർഘ്യമേറിയതായിരിക്കും, അതിനാൽ എനിക്ക് ഇത് രണ്ട് ഭാഗങ്ങളായി വിഭജിക്കേണ്ടിവന്നു.

എല്ലാ ക്ലാസുകളുടെയും ആസ്തികൾ ട്രേഡ് ചെയ്യുകയും വിനിമയ സേവനങ്ങളുടെ മുഴുവൻ ശ്രേണിയും നൽകുകയും ചെയ്യുന്ന ലോകത്തിലെ ചുരുക്കം ചില എക്സ്ചേഞ്ചുകളിലൊന്നാണ് ഞങ്ങൾ. ഉദാഹരണത്തിന്, കഴിഞ്ഞ വർഷം ഞങ്ങൾ ബോണ്ട് ട്രേഡിംഗ് വോളിയത്തിന്റെ കാര്യത്തിൽ ലോകത്ത് രണ്ടാം സ്ഥാനത്താണ്, എല്ലാ സ്റ്റോക്ക് എക്സ്ചേഞ്ചുകളിലും 25-ാം സ്ഥാനം, പബ്ലിക് എക്സ്ചേഞ്ചുകളിൽ മൂലധനവൽക്കരണത്തിൽ 13-ാം സ്ഥാനം.

പ്രൊഫഷണൽ ട്രേഡിംഗ് പങ്കാളികൾക്ക്, പ്രതികരണ സമയം, സമയ വിതരണത്തിന്റെ സ്ഥിരത (ജട്ടർ), മുഴുവൻ സമുച്ചയത്തിന്റെയും വിശ്വാസ്യത തുടങ്ങിയ പാരാമീറ്ററുകൾ നിർണായകമാണ്. ഞങ്ങൾ നിലവിൽ പ്രതിദിനം ദശലക്ഷക്കണക്കിന് ഇടപാടുകൾ പ്രോസസ്സ് ചെയ്യുന്നു. സിസ്റ്റം കേർണൽ വഴിയുള്ള ഓരോ ഇടപാടിന്റെയും പ്രോസസ്സിംഗിന് പതിനായിരക്കണക്കിന് മൈക്രോസെക്കൻഡ് എടുക്കും. തീർച്ചയായും, പുതുവത്സരരാവിലെ മൊബൈൽ ഓപ്പറേറ്റർമാരോ സെർച്ച് എഞ്ചിനുകളോ നമ്മുടേതിനേക്കാൾ ഉയർന്ന ജോലിഭാരം ഉള്ളവരാണ്, എന്നാൽ ജോലിഭാരത്തിന്റെ കാര്യത്തിൽ, മുകളിൽ പറഞ്ഞ സ്വഭാവസവിശേഷതകൾക്കൊപ്പം, കുറച്ച് പേർക്ക് ഞങ്ങളുമായി താരതമ്യപ്പെടുത്താൻ കഴിയുമെന്ന് എനിക്ക് തോന്നുന്നു. അതേ സമയം, സിസ്റ്റം ഒരു നിമിഷം പോലും മന്ദഗതിയിലല്ല, തികച്ചും സ്ഥിരതയോടെ പ്രവർത്തിക്കുന്നു, എല്ലാ ഉപയോക്താക്കളും തുല്യ നിലയിലാണെന്നത് ഞങ്ങൾക്ക് പ്രധാനമാണ്.

ഒരു ചെറിയ ചരിത്രം

1994-ൽ, മോസ്കോ ഇന്റർബാങ്ക് കറൻസി എക്സ്ചേഞ്ചിൽ (MICEX) ഓസ്ട്രേലിയൻ ASTS സിസ്റ്റം ആരംഭിച്ചു, ആ നിമിഷം മുതൽ ഇലക്ട്രോണിക് ട്രേഡിംഗിന്റെ റഷ്യൻ ചരിത്രം കണക്കാക്കാം. 1998-ൽ, ഇന്റർനെറ്റ് ട്രേഡിംഗ് അവതരിപ്പിക്കുന്നതിനായി എക്സ്ചേഞ്ച് ആർക്കിടെക്ചർ നവീകരിച്ചു. അതിനുശേഷം, എല്ലാ സിസ്റ്റങ്ങളിലും ഉപസിസ്റ്റങ്ങളിലും പുതിയ പരിഹാരങ്ങളും വാസ്തുവിദ്യാ മാറ്റങ്ങളും നടപ്പിലാക്കുന്നതിന്റെ വേഗത വർദ്ധിച്ചുകൊണ്ടിരിക്കുകയാണ്.

ആ വർഷങ്ങളിൽ, എക്സ്ചേഞ്ച് സിസ്റ്റം ഹൈ-എൻഡ് ഹാർഡ്‌വെയറിൽ പ്രവർത്തിച്ചു - അൾട്രാ-റിലയബിൾ എച്ച്പി സൂപ്പർഡോം 9000 സെർവറുകൾ (ഇതിൽ നിർമ്മിച്ചത് PA-RISC), അതിൽ എല്ലാം ഡ്യൂപ്ലിക്കേറ്റ് ചെയ്തു: ഇൻപുട്ട്/ഔട്ട്പുട്ട് സബ്സിസ്റ്റങ്ങൾ, നെറ്റ്‌വർക്ക്, റാം (വാസ്തവത്തിൽ, റാമിന്റെ ഒരു റെയിഡ് അറേ ഉണ്ടായിരുന്നു), പ്രോസസ്സറുകൾ (ഹോട്ട്-സ്വാപ്പബിൾ). മെഷീൻ നിർത്താതെ തന്നെ ഏതെങ്കിലും സെർവർ ഘടകം മാറ്റാൻ സാധിച്ചു. ഞങ്ങൾ ഈ ഉപകരണങ്ങളെ ആശ്രയിക്കുകയും അവ ഫലത്തിൽ പരാജയപ്പെടാത്തതായി കണക്കാക്കുകയും ചെയ്തു. യുണിക്സ് പോലെയുള്ള HP UX സിസ്റ്റമായിരുന്നു ഓപ്പറേറ്റിംഗ് സിസ്റ്റം.

എന്നാൽ ഏകദേശം 2010 മുതൽ, ഹൈ-ഫ്രീക്വൻസി ട്രേഡിംഗ് (HFT), അല്ലെങ്കിൽ ഉയർന്ന ഫ്രീക്വൻസി ട്രേഡിംഗ് - ലളിതമായി പറഞ്ഞാൽ, സ്റ്റോക്ക് എക്സ്ചേഞ്ച് റോബോട്ടുകൾ എന്ന് വിളിക്കപ്പെടുന്ന ഒരു പ്രതിഭാസം ഉയർന്നുവന്നിട്ടുണ്ട്. വെറും 2,5 വർഷത്തിനുള്ളിൽ, ഞങ്ങളുടെ സെർവറുകളിലെ ലോഡ് 140 മടങ്ങ് വർദ്ധിച്ചു.

പഴയ വാസ്തുവിദ്യയും ഉപകരണങ്ങളും ഉപയോഗിച്ച് അത്തരമൊരു ഭാരം താങ്ങുന്നത് അസാധ്യമായിരുന്നു. എങ്ങനെയെങ്കിലും പൊരുത്തപ്പെടാൻ അത് ആവശ്യമായിരുന്നു.

തുടക്കം

എക്സ്ചേഞ്ച് സിസ്റ്റത്തിലേക്കുള്ള അഭ്യർത്ഥനകളെ രണ്ട് തരങ്ങളായി തിരിക്കാം:

• ഇടപാടുകൾ. നിങ്ങൾക്ക് ഡോളറുകളോ ഓഹരികളോ മറ്റെന്തെങ്കിലുമോ വാങ്ങണമെങ്കിൽ, നിങ്ങൾ ട്രേഡിംഗ് സിസ്റ്റത്തിലേക്ക് ഒരു ഇടപാട് അയയ്ക്കുകയും വിജയത്തെക്കുറിച്ചുള്ള പ്രതികരണം സ്വീകരിക്കുകയും ചെയ്യുന്നു.
• വിവര അഭ്യർത്ഥനകൾ. നിങ്ങൾക്ക് നിലവിലെ വില കണ്ടെത്താൻ താൽപ്പര്യമുണ്ടെങ്കിൽ, ഓർഡർ ബുക്കോ സൂചികകളോ കാണുക, തുടർന്ന് വിവര അഭ്യർത്ഥനകൾ അയയ്ക്കുക.

വ്യവസ്ഥാപിതമായി, സിസ്റ്റത്തിന്റെ കാമ്പ് മൂന്ന് തലങ്ങളായി തിരിക്കാം:

• ബ്രോക്കർമാരും ക്ലയന്റുകളും പ്രവർത്തിക്കുന്ന ക്ലയന്റ് ലെവൽ. അവയെല്ലാം ആക്സസ് സെർവറുകളുമായി സംവദിക്കുന്നു.
• എല്ലാ വിവര അഭ്യർത്ഥനകളും പ്രാദേശികമായി പ്രോസസ്സ് ചെയ്യുന്ന കാഷിംഗ് സെർവറുകളാണ് ഗേറ്റ്‌വേ സെർവറുകൾ. Sberbank ഓഹരികൾ നിലവിൽ ട്രേഡ് ചെയ്യുന്ന വില എന്താണെന്ന് അറിയാൻ നിങ്ങൾ ആഗ്രഹിക്കുന്നുണ്ടോ? അഭ്യർത്ഥന ആക്സസ് സെർവറിലേക്ക് പോകുന്നു.
• എന്നാൽ നിങ്ങൾ ഓഹരികൾ വാങ്ങാൻ ആഗ്രഹിക്കുന്നുവെങ്കിൽ, അഭ്യർത്ഥന കേന്ദ്ര സെർവറിലേക്ക് (ട്രേഡ് എഞ്ചിൻ) പോകുന്നു. ഓരോ തരം മാർക്കറ്റിനും അത്തരത്തിലുള്ള ഒരു സെർവർ ഉണ്ട്, അവ ഒരു പ്രധാന പങ്ക് വഹിക്കുന്നു, അവർക്കുവേണ്ടിയാണ് ഞങ്ങൾ ഈ സിസ്റ്റം സൃഷ്ടിച്ചത്.

എല്ലാ ഇടപാടുകളും എക്‌സ്‌ചേഞ്ച് ട്രാൻസാക്ഷനുകളാകുന്ന ഒരു സമർത്ഥമായ ഇൻ-മെമ്മറി ഡാറ്റാബേസാണ് ട്രേഡിംഗ് സിസ്റ്റത്തിന്റെ കാതൽ. അടിസ്ഥാനം C യിൽ എഴുതിയിരിക്കുന്നു, ബാഹ്യ ആശ്രയത്വങ്ങൾ മാത്രമാണ് libc ലൈബ്രറി, ഡൈനാമിക് മെമ്മറി അലോക്കേഷൻ ഇല്ലായിരുന്നു. പ്രോസസ്സിംഗ് സമയം കുറയ്ക്കുന്നതിന്, സിസ്റ്റം സ്റ്റാറ്റിക് സെറ്റ് അറേകളിൽ നിന്നും സ്റ്റാറ്റിക് ഡാറ്റ റീലോക്കേഷനിൽ നിന്നും ആരംഭിക്കുന്നു: ആദ്യം, നിലവിലെ ദിവസത്തേക്കുള്ള എല്ലാ ഡാറ്റയും മെമ്മറിയിലേക്ക് ലോഡുചെയ്യുന്നു, കൂടാതെ കൂടുതൽ ഡിസ്ക് ആക്‌സസ് ചെയ്യപ്പെടുന്നില്ല, എല്ലാ പ്രവർത്തനങ്ങളും മെമ്മറിയിൽ മാത്രമാണ് നടത്തുന്നത്. സിസ്റ്റം ആരംഭിക്കുമ്പോൾ, എല്ലാ റഫറൻസ് ഡാറ്റയും ഇതിനകം അടുക്കിയിരിക്കുന്നു, അതിനാൽ തിരയൽ വളരെ കാര്യക്ഷമമായി പ്രവർത്തിക്കുകയും റൺടൈമിൽ കുറച്ച് സമയമെടുക്കുകയും ചെയ്യുന്നു. റൺടൈമിൽ മെമ്മറി അലോക്കേഷൻ ആവശ്യമില്ലാത്ത തരത്തിൽ ചലനാത്മക ഡാറ്റാ ഘടനകൾക്കായി എല്ലാ ടേബിളുകളും ഇൻട്രൂസീവ് ലിസ്റ്റുകളും ട്രീകളും ഉപയോഗിച്ചാണ് നിർമ്മിച്ചിരിക്കുന്നത്.

ഞങ്ങളുടെ ട്രേഡിംഗ്, ക്ലിയറിംഗ് സിസ്റ്റത്തിന്റെ വികസനത്തിന്റെ ചരിത്രത്തിലേക്ക് നമുക്ക് ഹ്രസ്വമായി പോകാം.
ട്രേഡിംഗ് ആൻഡ് ക്ലിയറിംഗ് സിസ്റ്റം ആർക്കിടെക്ചറിന്റെ ആദ്യ പതിപ്പ് യുണിക്സ് ഇന്ററാക്ഷൻ എന്ന് വിളിക്കപ്പെടുന്നവയിൽ നിർമ്മിച്ചതാണ്: പങ്കിട്ട മെമ്മറി, സെമാഫോറുകൾ, ക്യൂകൾ എന്നിവ ഉപയോഗിച്ചു, ഓരോ പ്രക്രിയയും ഒരൊറ്റ ത്രെഡ് ഉൾക്കൊള്ളുന്നു. 1990-കളുടെ തുടക്കത്തിൽ ഈ സമീപനം വ്യാപകമായിരുന്നു.

സിസ്റ്റത്തിന്റെ ആദ്യ പതിപ്പിൽ ഗേറ്റ്‌വേയുടെ രണ്ട് തലങ്ങളും ട്രേഡിംഗ് സിസ്റ്റത്തിന്റെ സെൻട്രൽ സെർവറും അടങ്ങിയിരിക്കുന്നു. ജോലിയുടെ ഒഴുക്ക് ഇപ്രകാരമായിരുന്നു:

• ക്ലയന്റ് ഒരു അഭ്യർത്ഥന അയയ്ക്കുന്നു, അത് ഗേറ്റ്‌വേയിൽ എത്തുന്നു. ഇത് ഫോർമാറ്റിന്റെ സാധുത പരിശോധിക്കുന്നു (എന്നാൽ ഡാറ്റ തന്നെ) തെറ്റായ ഇടപാടുകൾ നിരസിക്കുന്നു.
• ഒരു വിവര അഭ്യർത്ഥന അയച്ചിട്ടുണ്ടെങ്കിൽ, അത് പ്രാദേശികമായി നടപ്പിലാക്കും; നമ്മൾ ഒരു ഇടപാടിനെക്കുറിച്ചാണ് സംസാരിക്കുന്നതെങ്കിൽ, അത് സെൻട്രൽ സെർവറിലേക്ക് റീഡയറക്‌ട് ചെയ്യപ്പെടും.
• ട്രേഡിംഗ് എഞ്ചിൻ പിന്നീട് ഇടപാട് പ്രോസസ്സ് ചെയ്യുന്നു, പ്രാദേശിക മെമ്മറി പരിഷ്ക്കരിക്കുന്നു, കൂടാതെ ഒരു പ്രത്യേക റെപ്ലിക്കേഷൻ എഞ്ചിൻ ഉപയോഗിച്ച് റിപ്ലിക്കേഷനായി ഇടപാടിനും ഇടപാടിനും ഒരു പ്രതികരണം അയയ്ക്കുന്നു.
• ഗേറ്റ്‌വേ സെൻട്രൽ നോഡിൽ നിന്ന് പ്രതികരണം സ്വീകരിക്കുകയും അത് ക്ലയന്റിലേക്ക് കൈമാറുകയും ചെയ്യുന്നു.
• കുറച്ച് സമയത്തിന് ശേഷം, ഗേറ്റ്‌വേയ്ക്ക് റെപ്ലിക്കേഷൻ മെക്കാനിസത്തിലൂടെ ഇടപാട് ലഭിക്കുന്നു, ഇത്തവണ അത് പ്രാദേശികമായി അത് നടപ്പിലാക്കുന്നു, അതിന്റെ ഡാറ്റ ഘടനകൾ മാറ്റുന്നു, അങ്ങനെ അടുത്ത വിവര അഭ്യർത്ഥനകൾ ഏറ്റവും പുതിയ ഡാറ്റ പ്രദർശിപ്പിക്കും.

വാസ്തവത്തിൽ, ഇത് ഒരു റെപ്ലിക്കേഷൻ മാതൃകയെ വിവരിക്കുന്നു, അതിൽ ഗേറ്റ്‌വേ ട്രേഡിംഗ് സിസ്റ്റത്തിൽ നടത്തിയ പ്രവർത്തനങ്ങളെ പൂർണ്ണമായും ആവർത്തിക്കുന്നു. ഒന്നിലധികം ആക്‌സസ് നോഡുകളിലുടനീളം ഇടപാടുകൾ ഒരേ ക്രമത്തിൽ നിർവ്വഹിക്കുന്നുവെന്ന് ഒരു പ്രത്യേക റെപ്ലിക്കേഷൻ ചാനൽ ഉറപ്പാക്കുന്നു.

കോഡ് സിംഗിൾ-ത്രെഡ് ആയതിനാൽ, നിരവധി ക്ലയന്റുകളെ സേവിക്കാൻ പ്രോസസ് ഫോർക്കുകളുള്ള ഒരു ക്ലാസിക് സ്കീം ഉപയോഗിച്ചു. എന്നിരുന്നാലും, മുഴുവൻ ഡാറ്റാബേസും ഫോർക്ക് ചെയ്യുന്നത് വളരെ ചെലവേറിയതാണ്, അതിനാൽ TCP സെഷനുകളിൽ നിന്ന് പാക്കറ്റുകൾ ശേഖരിക്കുകയും അവയെ ഒരു ക്യൂവിലേക്ക് മാറ്റുകയും ചെയ്യുന്ന ഭാരം കുറഞ്ഞ സേവന പ്രക്രിയകൾ ഉപയോഗിച്ചു (SystemV മെസേജ് ക്യൂ). ഗേറ്റ്‌വേയും ട്രേഡ് എഞ്ചിനും ഈ ക്യൂവിൽ മാത്രം പ്രവർത്തിച്ചു, അവിടെ നിന്ന് ഇടപാടുകൾ നടത്തി. ഏത് സേവന പ്രക്രിയയാണ് ഇത് വായിക്കേണ്ടതെന്ന് വ്യക്തമല്ലാത്തതിനാൽ, അതിന് ഒരു പ്രതികരണം അയയ്‌ക്കാൻ ഇനി സാധ്യമല്ല. അതിനാൽ ഞങ്ങൾ ഒരു തന്ത്രം അവലംബിച്ചു: ഓരോ ഫോർക്ക്ഡ് പ്രോസസ്സും തനിക്കായി ഒരു പ്രതികരണ ക്യൂ സൃഷ്ടിച്ചു, ഇൻകമിംഗ് ക്യൂവിൽ ഒരു അഭ്യർത്ഥന വന്നപ്പോൾ, പ്രതികരണ ക്യൂവിനുള്ള ഒരു ടാഗ് ഉടനടി അതിൽ ചേർത്തു.

ക്യൂവിൽ നിന്ന് ക്യൂവിലേക്ക് വലിയ അളവിലുള്ള ഡാറ്റ നിരന്തരം പകർത്തുന്നത് പ്രശ്നങ്ങൾ സൃഷ്ടിച്ചു, പ്രത്യേകിച്ച് വിവര അഭ്യർത്ഥനകൾക്ക്. അതിനാൽ, ഞങ്ങൾ മറ്റൊരു ട്രിക്ക് ഉപയോഗിച്ചു: പ്രതികരണ ക്യൂവിന് പുറമേ, ഓരോ പ്രക്രിയയും പങ്കിട്ട മെമ്മറി സൃഷ്ടിച്ചു (SystemV പങ്കിട്ട മെമ്മറി). പാക്കേജുകൾ തന്നെ അതിൽ സ്ഥാപിച്ചു, ഒരു ടാഗ് മാത്രം ക്യൂവിൽ സംഭരിച്ചു, യഥാർത്ഥ പാക്കേജ് കണ്ടെത്താൻ ഒരാളെ അനുവദിക്കുന്നു. പ്രോസസർ കാഷെയിൽ ഡാറ്റ സംഭരിക്കുന്നതിന് ഇത് സഹായിച്ചു.

ക്യൂ, മെമ്മറി, സെമാഫോർ ഒബ്‌ജക്‌റ്റുകൾ എന്നിവയുടെ അവസ്ഥ കാണുന്നതിനുള്ള യൂട്ടിലിറ്റികൾ SystemV IPC-യിൽ ഉൾപ്പെടുന്നു. ഒരു പ്രത്യേക നിമിഷത്തിൽ സിസ്റ്റത്തിൽ എന്താണ് സംഭവിക്കുന്നതെന്ന് മനസിലാക്കാൻ ഞങ്ങൾ ഇത് സജീവമായി ഉപയോഗിച്ചു, എവിടെയാണ് പാക്കറ്റുകൾ കുമിഞ്ഞുകൂടിയത്, എന്താണ് തടഞ്ഞത് തുടങ്ങിയവ.

ആദ്യ ആധുനികവൽക്കരണം

ഒന്നാമതായി, ഞങ്ങൾ സിംഗിൾ-പ്രോസസ് ഗേറ്റ്‌വേ ഒഴിവാക്കി. അതിന്റെ ഒരു പ്രധാന പോരായ്മ ഇതിന് ഒരു റിപ്ലിക്കേഷൻ ഇടപാട് അല്ലെങ്കിൽ ഒരു ക്ലയന്റിൽ നിന്നുള്ള ഒരു വിവര അഭ്യർത്ഥന കൈകാര്യം ചെയ്യാൻ കഴിയും എന്നതാണ്. ലോഡ് കൂടുന്നതിനനുസരിച്ച്, അഭ്യർത്ഥനകൾ പ്രോസസ്സ് ചെയ്യുന്നതിന് ഗേറ്റ്‌വേ കൂടുതൽ സമയമെടുക്കും, കൂടാതെ റെപ്ലിക്കേഷൻ ഫ്ലോ പ്രോസസ്സ് ചെയ്യാൻ കഴിയില്ല. കൂടാതെ, ക്ലയന്റ് ഒരു ഇടപാട് അയച്ചാൽ, നിങ്ങൾ അതിന്റെ സാധുത പരിശോധിച്ച് കൂടുതൽ മുന്നോട്ട് കൊണ്ടുപോകേണ്ടതുണ്ട്. അതിനാൽ, ഞങ്ങൾ സിംഗിൾ ഗേറ്റ്‌വേ പ്രോസസിനെ സമാന്തരമായി പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്ന ഒന്നിലധികം ഘടകങ്ങൾ ഉപയോഗിച്ച് മാറ്റി: RW ലോക്കിംഗ് ഉപയോഗിച്ച് പങ്കിട്ട മെമ്മറി ഏരിയയിൽ പരസ്പരം സ്വതന്ത്രമായി പ്രവർത്തിക്കുന്ന മൾട്ടി-ത്രെഡ് വിവരങ്ങളും ഇടപാട് പ്രക്രിയകളും. അതേ സമയം ഞങ്ങൾ ഡിസ്പാച്ച്, റെപ്ലിക്കേഷൻ പ്രക്രിയകൾ അവതരിപ്പിച്ചു.

ഉയർന്ന ഫ്രീക്വൻസി ട്രേഡിംഗിന്റെ ആഘാതം

വാസ്തുവിദ്യയുടെ മുകളിലുള്ള പതിപ്പ് 2010 വരെ നിലവിലുണ്ടായിരുന്നു. അതേസമയം, എച്ച്പി സൂപ്പർഡോം സെർവറുകളുടെ പ്രകടനത്തിൽ ഞങ്ങൾ തൃപ്തരല്ല. കൂടാതെ, PA-RISC ആർക്കിടെക്ചർ ഫലത്തിൽ നശിച്ചു; വെണ്ടർ കാര്യമായ അപ്‌ഡേറ്റുകളൊന്നും നൽകിയില്ല. തൽഫലമായി, ഞങ്ങൾ HP UX/PA RISC-ൽ നിന്ന് Linux/x86-ലേക്ക് നീങ്ങാൻ തുടങ്ങി. ആക്സസ് സെർവറുകളുടെ അഡാപ്റ്റേഷനോടെയാണ് പരിവർത്തനം ആരംഭിച്ചത്.

എന്തുകൊണ്ടാണ് നമുക്ക് വാസ്തുവിദ്യ വീണ്ടും മാറ്റേണ്ടി വന്നത്? ഉയർന്ന ഫ്രീക്വൻസി ട്രേഡിംഗ് സിസ്റ്റം കോറിലെ ലോഡ് പ്രൊഫൈലിൽ കാര്യമായ മാറ്റം വരുത്തി എന്നതാണ് വസ്തുത.

ഞങ്ങൾക്ക് ഒരു ചെറിയ ഇടപാട് ഉണ്ടെന്ന് പറയുക, അത് വിലയിൽ കാര്യമായ മാറ്റം വരുത്തി - ഒരാൾ അര ബില്യൺ ഡോളർ വാങ്ങി. രണ്ട് മില്ലിസെക്കൻഡുകൾക്ക് ശേഷം, എല്ലാ മാർക്കറ്റ് പങ്കാളികളും ഇത് ശ്രദ്ധിക്കുകയും ഒരു തിരുത്തൽ വരുത്താൻ തുടങ്ങുകയും ചെയ്യുന്നു. സ്വാഭാവികമായും, അഭ്യർത്ഥനകൾ ഒരു വലിയ ക്യൂവിൽ അണിനിരക്കുന്നു, അത് സിസ്റ്റം മായ്‌ക്കാൻ വളരെ സമയമെടുക്കും.

ഈ 50 എംഎസ് ഇടവേളയിൽ, ശരാശരി വേഗത സെക്കൻഡിൽ ഏകദേശം 16 ആയിരം ഇടപാടുകളാണ്. ജാലകം 20 ms ആയി കുറയ്ക്കുകയാണെങ്കിൽ, നമുക്ക് ഒരു സെക്കൻഡിൽ ശരാശരി 90 ഇടപാടുകളുടെ വേഗത ലഭിക്കും, 200 ഇടപാടുകൾ ഏറ്റവും ഉയർന്ന നിലയിലാണ്. മറ്റൊരു വിധത്തിൽ പറഞ്ഞാൽ, പെട്ടെന്നുള്ള പൊട്ടിത്തെറികളോടെ ലോഡ് സ്ഥിരമല്ല. അഭ്യർത്ഥനകളുടെ ക്യൂ എപ്പോഴും വേഗത്തിൽ പ്രോസസ്സ് ചെയ്യണം.

എന്നാലും എന്തിനാണ് ഇവിടെ ക്യൂ നിൽക്കുന്നത്? അതിനാൽ, ഞങ്ങളുടെ ഉദാഹരണത്തിൽ, പല ഉപയോക്താക്കളും വിലയിലെ മാറ്റം ശ്രദ്ധിക്കുകയും അതിനനുസരിച്ച് ഇടപാടുകൾ അയയ്ക്കുകയും ചെയ്തു. അവർ ഗേറ്റ്‌വേയിലേക്ക് വരുന്നു, അത് അവരെ സീരിയലൈസ് ചെയ്യുന്നു, ഒരു നിശ്ചിത ഓർഡർ സജ്ജീകരിച്ച് നെറ്റ്‌വർക്കിലേക്ക് അയയ്ക്കുന്നു. റൂട്ടറുകൾ പാക്കറ്റുകൾ ഷഫിൾ ചെയ്ത് മുന്നോട്ട് കൊണ്ടുപോകുന്നു. ആരുടെ പാക്കേജ് ആദ്യം എത്തി, ആ ഇടപാട് "വിജയിച്ചു". തൽഫലമായി, ഒരേ ഇടപാട് നിരവധി ഗേറ്റ്‌വേകളിൽ നിന്ന് അയച്ചാൽ, അതിന്റെ ദ്രുത പ്രോസസ്സിംഗിന്റെ സാധ്യത വർദ്ധിക്കുന്നതായി എക്സ്ചേഞ്ച് ക്ലയന്റുകൾ ശ്രദ്ധിക്കാൻ തുടങ്ങി. താമസിയാതെ, എക്‌സ്‌ചേഞ്ച് റോബോട്ടുകൾ അഭ്യർത്ഥനകളുമായി ഗേറ്റ്‌വേയിൽ ബോംബിടാൻ തുടങ്ങി, ഇടപാടുകളുടെ ഒരു ഹിമപാതം ഉടലെടുത്തു.

പരിണാമത്തിന്റെ ഒരു പുതിയ റൗണ്ട്

വിപുലമായ പരിശോധനയ്ക്കും ഗവേഷണത്തിനും ശേഷം ഞങ്ങൾ തത്സമയ ഓപ്പറേറ്റിംഗ് സിസ്റ്റം കേർണലിലേക്ക് മാറി. ഇതിനായി ഞങ്ങൾ RedHat Enterprise MRG Linux തിരഞ്ഞെടുത്തു, ഇവിടെ MRG എന്നത് മെസേജിംഗ് റിയൽ-ടൈം ഗ്രിഡാണ്. തത്സമയ പാച്ചുകളുടെ പ്രയോജനം, സാധ്യമായ ഏറ്റവും വേഗതയേറിയ നിർവ്വഹണത്തിനായി സിസ്റ്റം ഒപ്റ്റിമൈസ് ചെയ്യുന്നു എന്നതാണ്: എല്ലാ പ്രക്രിയകളും ഒരു FIFO ക്യൂവിൽ അണിനിരക്കുന്നു, കോറുകൾ ഒറ്റപ്പെടുത്താം, എജക്ഷനുകളില്ല, എല്ലാ ഇടപാടുകളും കർശനമായ ക്രമത്തിലാണ് പ്രോസസ്സ് ചെയ്യുന്നത്.

ചുവപ്പ് - ഒരു സാധാരണ കേർണലിൽ ഒരു ക്യൂവിൽ പ്രവർത്തിക്കുന്നു, പച്ച - ഒരു തത്സമയ കേർണലിൽ പ്രവർത്തിക്കുന്നു.

എന്നാൽ സാധാരണ സെർവറുകളിൽ കുറഞ്ഞ ലേറ്റൻസി കൈവരിക്കുന്നത് അത്ര എളുപ്പമല്ല:

• x86 ആർക്കിടെക്ചറിൽ പ്രധാനപ്പെട്ട പെരിഫറലുകളുമായി പ്രവർത്തിക്കുന്നതിനുള്ള അടിസ്ഥാനമായ SMI മോഡ് വളരെയധികം ഇടപെടുന്നു. എല്ലാത്തരം ഹാർഡ്‌വെയർ ഇവന്റുകളുടെയും പ്രോസസ്സിംഗും ഘടകങ്ങളുടെയും ഉപകരണങ്ങളുടെയും മാനേജ്മെന്റും സുതാര്യമായ SMI മോഡ് എന്ന് വിളിക്കപ്പെടുന്ന ഫേംവെയർ ആണ് നടത്തുന്നത്, അതിൽ ഫേംവെയർ എന്താണ് ചെയ്യുന്നതെന്ന് ഓപ്പറേറ്റിംഗ് സിസ്റ്റം കാണുന്നില്ല. ചട്ടം പോലെ, എല്ലാ പ്രധാന വെണ്ടർമാരും ഫേംവെയർ സെർവറുകൾക്കായി പ്രത്യേക വിപുലീകരണങ്ങൾ വാഗ്ദാനം ചെയ്യുന്നു, അത് SMI പ്രോസസ്സിംഗിന്റെ അളവ് കുറയ്ക്കാൻ അനുവദിക്കുന്നു.
• പ്രോസസർ ആവൃത്തിയുടെ ചലനാത്മക നിയന്ത്രണം ഉണ്ടാകരുത്, ഇത് അധിക പ്രവർത്തനരഹിതമായ സമയത്തിലേക്ക് നയിക്കുന്നു.
• ഫയൽ സിസ്റ്റം ലോഗ് ഫ്ലഷ് ചെയ്യുമ്പോൾ, പ്രവചനാതീതമായ കാലതാമസത്തിന് കാരണമാകുന്ന ചില പ്രക്രിയകൾ കേർണലിൽ സംഭവിക്കുന്നു.
• CPU അഫിനിറ്റി, ഇന്ററപ്റ്റ് അഫിനിറ്റി, NUMA തുടങ്ങിയ കാര്യങ്ങൾ നിങ്ങൾ ശ്രദ്ധിക്കേണ്ടതുണ്ട്.

തൽസമയ പ്രോസസ്സിംഗിനായി ലിനക്സ് ഹാർഡ്‌വെയറും കേർണലും സജ്ജീകരിക്കുന്ന വിഷയം ഒരു പ്രത്യേക ലേഖനത്തിന് അർഹമാണെന്ന് ഞാൻ പറയണം. ഒരു നല്ല ഫലം നേടുന്നതിന് മുമ്പ് ഞങ്ങൾ ഒരുപാട് സമയം പരീക്ഷണങ്ങളും ഗവേഷണങ്ങളും നടത്തി.

PA-RISC സെർവറുകളിൽ നിന്ന് x86 ലേക്ക് മാറുമ്പോൾ, ഞങ്ങൾക്ക് പ്രായോഗികമായി സിസ്റ്റം കോഡ് വളരെയധികം മാറ്റേണ്ടി വന്നില്ല, ഞങ്ങൾ അത് പൊരുത്തപ്പെടുത്തുകയും വീണ്ടും ക്രമീകരിക്കുകയും ചെയ്തു. അതേ സമയം, ഞങ്ങൾ നിരവധി ബഗുകൾ പരിഹരിച്ചു. ഉദാഹരണത്തിന്, PA RISC ഒരു വലിയ എൻഡിയൻ സിസ്റ്റവും x86 ഒരു ലിറ്റിൽ എൻഡിയൻ സിസ്റ്റവും ആയിരുന്നു എന്നതിന്റെ അനന്തരഫലങ്ങൾ പെട്ടെന്ന് ഉയർന്നു വന്നു: ഉദാഹരണത്തിന്, ഡാറ്റ തെറ്റായി വായിച്ചു. PA RISC ഉപയോഗിക്കുന്നതാണ് തന്ത്രപ്രധാനമായ ബഗ് സ്ഥിരമായി സ്ഥിരതയുള്ള (തുടർച്ചയായി സ്ഥിരതയുള്ള) മെമ്മറി ആക്സസ്, എന്നാൽ x86 ന് റീഡ് ഓപ്പറേഷനുകൾ പുനഃക്രമീകരിക്കാൻ കഴിയും, അതിനാൽ ഒരു പ്ലാറ്റ്ഫോമിൽ തികച്ചും സാധുതയുള്ള കോഡ് മറ്റൊന്നിൽ തകർന്നു.

x86-ലേക്ക് മാറിയതിനുശേഷം, പ്രകടനം ഏകദേശം മൂന്നിരട്ടിയായി വർദ്ധിച്ചു, ശരാശരി ഇടപാട് പ്രോസസ്സിംഗ് സമയം 60 μs ആയി കുറഞ്ഞു.

സിസ്റ്റം ആർക്കിടെക്ചറിൽ എന്തൊക്കെ പ്രധാന മാറ്റങ്ങളാണ് വരുത്തിയിരിക്കുന്നതെന്ന് ഇപ്പോൾ നമുക്ക് സൂക്ഷ്മമായി പരിശോധിക്കാം.

ഹോട്ട് റിസർവ് ഇതിഹാസം

കമ്മോഡിറ്റി സെർവറുകളിലേക്ക് മാറുമ്പോൾ, അവയ്ക്ക് വിശ്വാസ്യത കുറവാണെന്ന് ഞങ്ങൾക്കറിയാമായിരുന്നു. അതിനാൽ, ഒരു പുതിയ ആർക്കിടെക്ചർ സൃഷ്ടിക്കുമ്പോൾ, ഒന്നോ അതിലധികമോ നോഡുകൾ പരാജയപ്പെടാനുള്ള സാധ്യത ഞങ്ങൾ മുൻകൂട്ടി കണക്കാക്കി. അതിനാൽ, വളരെ വേഗത്തിൽ ബാക്കപ്പ് മെഷീനുകളിലേക്ക് മാറാൻ കഴിയുന്ന ഒരു ഹോട്ട് സ്റ്റാൻഡ്ബൈ സിസ്റ്റം ആവശ്യമായിരുന്നു.

കൂടാതെ, മറ്റ് ആവശ്യകതകളും ഉണ്ടായിരുന്നു:

• ഒരു സാഹചര്യത്തിലും നിങ്ങൾക്ക് പ്രോസസ്സ് ചെയ്ത ഇടപാടുകൾ നഷ്ടപ്പെടരുത്.
• നമ്മുടെ അടിസ്ഥാന സൗകര്യങ്ങൾക്ക് ഈ സംവിധാനം തികച്ചും സുതാര്യമായിരിക്കണം.
• നഷ്ടപ്പെട്ട കണക്ഷനുകൾ ഉപഭോക്താക്കൾ കാണരുത്.
• റിസർവേഷനുകൾ കാര്യമായ കാലതാമസം വരുത്തരുത്, കാരണം ഇത് എക്സ്ചേഞ്ചിനുള്ള നിർണായക ഘടകമാണ്.

ഒരു ഹോട്ട് സ്റ്റാൻഡ്ബൈ സിസ്റ്റം സൃഷ്ടിക്കുമ്പോൾ, അത്തരം സാഹചര്യങ്ങൾ ഇരട്ട പരാജയങ്ങളായി ഞങ്ങൾ പരിഗണിച്ചില്ല (ഉദാഹരണത്തിന്, ഒരു സെർവറിലെ നെറ്റ്‌വർക്ക് പ്രവർത്തിക്കുന്നത് നിർത്തി, പ്രധാന സെർവർ മരവിച്ചു); സോഫ്‌റ്റ്‌വെയറിലെ പിശകുകളുടെ സാധ്യത പരിഗണിച്ചില്ല, കാരണം അവ ടെസ്റ്റിംഗ് സമയത്ത് തിരിച്ചറിഞ്ഞു; ഹാർഡ്‌വെയറിന്റെ തെറ്റായ പ്രവർത്തനം പരിഗണിച്ചില്ല.

തൽഫലമായി, ഞങ്ങൾ ഇനിപ്പറയുന്ന സ്കീമിൽ എത്തി:

• പ്രധാന സെർവർ ഗേറ്റ്‌വേ സെർവറുകളുമായി നേരിട്ട് സംവദിച്ചു.
• പ്രധാന സെർവറിൽ ലഭിച്ച എല്ലാ ഇടപാടുകളും ഒരു പ്രത്യേക ചാനൽ വഴി ബാക്കപ്പ് സെർവറിലേക്ക് തൽക്ഷണം പകർത്തി. എന്തെങ്കിലും പ്രശ്‌നങ്ങൾ ഉണ്ടായാൽ മാറ്റുന്നത് മദ്ധ്യസ്ഥൻ (ഗവർണർ) ഏകോപിപ്പിച്ചു.

  

• പ്രധാന സെർവർ ഓരോ ഇടപാടും പ്രോസസ്സ് ചെയ്യുകയും ബാക്കപ്പ് സെർവറിൽ നിന്നുള്ള സ്ഥിരീകരണത്തിനായി കാത്തിരിക്കുകയും ചെയ്തു. ലേറ്റൻസി പരമാവധി കുറയ്ക്കാൻ, ബാക്കപ്പ് സെർവറിൽ ഇടപാട് പൂർത്തിയാകുന്നതുവരെ കാത്തിരിക്കുന്നത് ഞങ്ങൾ ഒഴിവാക്കി. നെറ്റ്‌വർക്കിലുടനീളം ഒരു ഇടപാട് സഞ്ചരിക്കാൻ എടുത്ത സമയം എക്‌സിക്യൂഷൻ സമയവുമായി താരതമ്യപ്പെടുത്താവുന്നതിനാൽ, അധിക ലേറ്റൻസി ചേർത്തിട്ടില്ല.
• മുമ്പത്തെ ഇടപാടിന്റെ പ്രധാന, ബാക്കപ്പ് സെർവറുകളുടെ പ്രോസസ്സിംഗ് നില മാത്രമേ ഞങ്ങൾക്ക് പരിശോധിക്കാനാകൂ, നിലവിലെ ഇടപാടിന്റെ പ്രോസസ്സിംഗ് നില അജ്ഞാതമായിരുന്നു. ഞങ്ങൾ ഇപ്പോഴും സിംഗിൾ-ത്രെഡ് പ്രോസസ്സുകൾ ഉപയോഗിക്കുന്നതിനാൽ, ബാക്കപ്പിൽ നിന്നുള്ള പ്രതികരണത്തിനായി കാത്തിരിക്കുന്നത് മുഴുവൻ പ്രോസസ്സിംഗ് ഫ്ലോയും മന്ദഗതിയിലാക്കും, അതിനാൽ ഞങ്ങൾ ന്യായമായ ഒരു വിട്ടുവീഴ്ച ചെയ്തു: മുമ്പത്തെ ഇടപാടിന്റെ ഫലം ഞങ്ങൾ പരിശോധിച്ചു.

സ്കീം ഇനിപ്പറയുന്ന രീതിയിൽ പ്രവർത്തിച്ചു.

പ്രധാന സെർവർ പ്രതികരിക്കുന്നത് നിർത്തുന്നു, പക്ഷേ ഗേറ്റ്‌വേകൾ ആശയവിനിമയം തുടരുന്നു. ബാക്കപ്പ് സെർവറിൽ ഒരു കാലഹരണപ്പെടൽ സംഭവിക്കുന്നു, അത് ഗവർണറെ ബന്ധപ്പെടുന്നു, അത് പ്രധാന സെർവറിന്റെ റോൾ നിയോഗിക്കുന്നു, കൂടാതെ എല്ലാ ഗേറ്റ്‌വേകളും പുതിയ പ്രധാന സെർവറിലേക്ക് മാറുന്നു.

പ്രധാന സെർവർ ഓൺലൈനിൽ തിരിച്ചെത്തിയാൽ, അത് ഒരു ഇന്റേണൽ ടൈംഔട്ട് ട്രിഗർ ചെയ്യുന്നു, കാരണം ഒരു നിശ്ചിത സമയത്തേക്ക് ഗേറ്റ്‌വേയിൽ നിന്ന് സെർവറിലേക്ക് കോളുകളൊന്നും ഉണ്ടായിട്ടില്ല. തുടർന്ന് അദ്ദേഹം ഗവർണറിലേക്ക് തിരിയുകയും പദ്ധതിയിൽ നിന്ന് അദ്ദേഹത്തെ ഒഴിവാക്കുകയും ചെയ്യുന്നു. തൽഫലമായി, ട്രേഡിംഗ് കാലയളവിന്റെ അവസാനം വരെ എക്സ്ചേഞ്ച് ഒരു സെർവറുമായി പ്രവർത്തിക്കുന്നു. ഒരു സെർവർ പരാജയപ്പെടാനുള്ള സാധ്യത വളരെ കുറവായതിനാൽ, ഈ സ്കീം തികച്ചും സ്വീകാര്യമായി കണക്കാക്കപ്പെട്ടു; അതിൽ സങ്കീർണ്ണമായ ലോജിക് അടങ്ങിയിട്ടില്ല, കൂടാതെ പരീക്ഷിക്കാൻ എളുപ്പവുമായിരുന്നു.

തുടരേണ്ടത്.

അവലംബം: www.habr.com