ကာလ၌ရှိသကဲ့သို့ ပို့စ်အများစုဖြန့်ဝေသည့်ဝန်ဆောင်မှုတွင် ပြဿနာရှိနေသည်၊ ဤဝန်ဆောင်မှုကို Alvin ဟုခေါ်ကြပါစို့။ ဒီတစ်ခါတော့ ကျွန်တော်ကိုယ်တိုင် ပြဿနာမရှာတော့ဘဲ ဖောက်သည်ဖက်က ကျွန်တော့်ကို အကြောင်းကြားတယ်။

မဝေးတော့တဲ့အနာဂတ်မှာ လွှင့်တင်ဖို့ စီစဉ်ထားတဲ့ Alvin နဲ့ အချိန်အကြာကြီး နှောင့်နှေးမှုတွေကြောင့် မကျေမနပ်ဖြစ်နေတဲ့ အီးမေးလ်ကို တစ်နေ့မှာ ကျွန်တော် နိုးလာပါတယ်။ အထူးသဖြင့်၊ ဖောက်သည်သည် ကျွန်ုပ်တို့၏ တုံ့ပြန်နေချိန်ဘတ်ဂျက်ထက် 99 ms ဒေသတွင် 50th ရာခိုင်နှုန်းအထိ တုံ့ပြန်မှုကို တွေ့ကြုံခံစားခဲ့ရသည်။ အထူးသဖြင့် သာမန်တိုင်ကြားချက်ဖြစ်သည့် latency တွင် ကျွန်ုပ်သည် ဝန်ဆောင်မှုကို အကျယ်တဝင့် စမ်းသပ်ကြည့်သောအခါ အံ့သြစရာပင်။

Alvin ကို မစမ်းသပ်မီ၊ တစ်စက္ကန့်လျှင် 40k queries (QPS) ဖြင့် စမ်းသပ်မှုများစွာကို လုပ်ဆောင်ခဲ့ပြီး အားလုံးသည် latency 10ms ထက်နည်းသော latency ကိုပြသပါသည်။ သူတို့ရဲ့ ရလဒ်တွေကို သဘောမတူကြောင်း ကြေညာဖို့ အဆင်သင့်ဖြစ်နေပါပြီ။ ဒါပေမယ့် စာကိုနောက်ထပ်ကြည့်လိုက်တော့ အသစ်တစ်ခုကို သတိထားမိခဲ့တယ်၊ သူတို့ပြောခဲ့တဲ့ အခြေအနေတွေကို အတိအကျ မစမ်းသပ်ဖူးဘူး၊ သူတို့ရဲ့ QPS က ငါ့ထက် အများကြီးနိမ့်တယ်။ ငါ 40k QPS ဖြင့်စမ်းသပ်ခဲ့သော်လည်း 1k သာရှိသည်။ ဤတစ်ကြိမ်တွင် QPS လျှော့နည်းဖြင့် အခြားစမ်းသပ်ချက်တစ်ခုကို ကျွန်ုပ်လုပ်ဆောင်ခဲ့သည်၊

ကျွန်တော် ဒီအကြောင်းကို ဘလော့ရေးနေတာကြောင့်၊ သူတို့ရဲ့ နံပါတ်တွေ မှန်ကန်တယ်ဆိုတာ သင်သိပြီးသားဖြစ်နိုင်ပါတယ်။ တူညီသောရလဒ်ဖြင့် ကျွန်ုပ်၏ virtual client ကို ထပ်ခါတလဲလဲ စမ်းသပ်ခဲ့သည်- တောင်းဆိုချက်အရေအတွက်နည်းပါးခြင်းသည် latency ကိုတိုးစေရုံသာမက 10 ms ထက်ပိုသော latency ဖြင့် တောင်းဆိုချက်အရေအတွက်ကို တိုးစေသည်။ တစ်နည်းဆိုရသော် 40k QPS တွင် တစ်စက္ကန့်လျှင် တောင်းဆိုချက် 50 ခန့်သည် 50 ms ကျော်လွန်ပါက၊ 1k QPS တွင် တစ်စက္ကန့်လျှင် 100 ms အထက် တောင်းဆိုချက် 50 ရှိသည်။ ဝိရောဓိ!

ရှာဖွေမှုကို ကျဉ်းမြောင်းစေသည်။

အစိတ်အပိုင်းများစွာပါရှိသောဖြန့်ဝေစနစ်တွင် latency ပြဿနာနှင့်ရင်ဆိုင်ရသည့်အခါ ပထမအဆင့်မှာ သံသယရှိသူစာရင်းတိုကို ဖန်တီးရန်ဖြစ်သည်။ Alvin ရဲ့ ဗိသုကာလက်ရာကို နည်းနည်းလေးနက်နက်နဲနဲလေ့လာကြည့်ရအောင်။

ကောင်းသောအစမှတ်မှာ ပြီးဆုံးသွားသော I/O အကူးအပြောင်းများစာရင်း (ကွန်ရက်ခေါ်ဆိုမှုများ/ဒစ်ခ်ရှာဖွေမှုများ၊ စသည်)။ ဘယ်မှာ နှောင့်နှေးနေလဲဆိုတာ အဖြေရှာကြည့်ရအောင်။ Client နှင့် သိသာထင်ရှားသော I/O များအပြင် Alvin သည် ဒေတာစတိုးကို ဝင်ကြည့်သည် ။ သို့သော်၊ ဤသိုလှောင်မှုသည် Alvin ကဲ့သို့ တူညီသောအစုအဝေးတွင် လည်ပတ်နေသောကြောင့် ၎င်းတွင် latency သည် client ထက်နည်းသင့်သည်။ ဒါကြောင့် သံသယရှိသူစာရင်း၊

1. client မှ Alvin သို့ ကွန်ရက်ခေါ်ဆိုမှု။
2. Alvin မှ ဒေတာစတိုးသို့ ကွန်ရက်ခေါ်ဆိုမှု။
3. ဒေတာစတိုးရှိ disk တွင်ရှာဖွေပါ။
4. ဒေတာဂိုဒေါင်မှ Alvin သို့ ကွန်ရက်ခေါ်ဆိုမှု။
5. Alvin မှ သုံးစွဲသူတစ်ဦးထံ ကွန်ရက်ခေါ်ဆိုမှု။

အချက်အချို့ကို ကျော်ဖြတ်ကြည့်ရအောင်။

ဒေတာသိမ်းဆည်းတာနဲ့ ဘာမှမဆိုင်ပါဘူး။

ကျွန်တော် ပထမဆုံးလုပ်ခဲ့တာကတော့ တောင်းဆိုချက်တွေကို မလုပ်ဆောင်နိုင်တဲ့ ping-ping ဆာဗာတစ်ခုအဖြစ် Alvin ကို ပြောင်းလိုက်တာပဲ ဖြစ်ပါတယ်။ တောင်းဆိုမှုတစ်ခုကို လက်ခံရရှိသောအခါ၊ ၎င်းသည် အချည်းနှီးသော တုံ့ပြန်မှုကို ပြန်ပေးသည်။ latency လျော့နည်းသွားပါက Alvin သို့မဟုတ် data warehouse အကောင်အထည်ဖော်မှုတွင် ဘာဂ်တစ်ခုမျှ မကြားရပါ။ ပထမစမ်းသပ်မှုတွင် အောက်ပါဂရပ်ကို ကျွန်ုပ်တို့ ရရှိသည် ။

သင်တွေ့မြင်ရသည့်အတိုင်း ping-ping ဆာဗာကို အသုံးပြုသည့်အခါ တိုးတက်မှုမရှိပါ။ ဆိုလိုသည်မှာ data warehouse သည် latency တိုးမလာဘဲ၊ သံသယရှိသူများစာရင်းကို တစ်ဝက်ဖြတ်လိုက်သည်-

1. client မှ Alvin သို့ ကွန်ရက်ခေါ်ဆိုမှု။
2. Alvin မှ သုံးစွဲသူတစ်ဦးထံ ကွန်ရက်ခေါ်ဆိုမှု။

မိုက်တယ်! စာရင်းက မြန်မြန်ကျသွားတယ်။ အကြောင်းရင်းကို အဖြေရှာလုနီးပါးလို့ ထင်ခဲ့တယ်။

gRPC

ယခုအချိန်သည် ကစားသမားသစ်တစ်ဦးနှင့် မိတ်ဆက်ပေးရမည့်အချိန်ဖြစ်သည်။ gRPC. ၎င်းသည် လုပ်ငန်းစဉ်အတွင်း ဆက်သွယ်မှုအတွက် Google မှ ပွင့်လင်းသော ရင်းမြစ်စာကြည့်တိုက်တစ်ခုဖြစ်သည်။ CPR... သော်လည်း gRPC ကောင်းမွန်စွာ ပြုပြင်ဖန်တီးထားပြီး ကျယ်ကျယ်ပြန့်ပြန့် အသုံးပြုနေသည်၊ ဤအရွယ်အစားရှိ စနစ်တစ်ခုတွင် ၎င်းကို အသုံးပြုခြင်းသည် ကျွန်ုပ်၏ ပထမဆုံး အကြိမ်ဖြစ်ပြီး ကျွန်ုပ်၏ အကောင်အထည်ဖော်မှုသည် အကောင်းဆုံးဖြစ်မည်ဟု မျှော်လင့်ပါသည် - အနည်းဆုံးပြောရလျှင်။

အသုံးပြုနိုင်မှု gRPC အစုအဝေးတွင် မေးခွန်းအသစ်တစ်ခု ဖြစ်ပေါ်လာသည်- ၎င်းသည် ကျွန်ုပ်၏ အကောင်အထည်ဖော်မှု သို့မဟုတ် ကျွန်ုပ်ကိုယ်တိုင် ဖြစ်နိုင်သည်။ gRPC latency ပြဿနာကို ဖြစ်စေသလား။ စာရင်းထဲသို့ သံသယအသစ်ကို ထည့်နေသည်-

1. Клиент вызывает библиотеку gRPC
2. စာကြည့်တိုက် gRPC client ပေါ်ရှိ စာကြည့်တိုက်သို့ ကွန်ရက်ခေါ်ဆိုမှု ပြုလုပ်သည်။ gRPC ဆာဗာပေါ်တွင်
3. စာကြည့်တိုက် gRPC Alvin ကို ဆက်သွယ်ပါ (ပင်ပေါင်ဆာဗာအတွက် လုပ်ဆောင်မှု မရှိပါ)

ကုဒ်၏ပုံသဏ္ဍာန်ကို သင့်အား စိတ်ကူးတစ်ခုပေးရန်၊ ကျွန်ုပ်၏ client/Alvin အကောင်အထည်ဖော်မှုသည် client-server များနှင့် များစွာကွာခြားမှုမရှိပါ။ async ဥပမာများ.

မှတ်ချက်- အထက်ဖော်ပြပါစာရင်းသည် အနည်းငယ်ရိုးရှင်းသောကြောင့်ဖြစ်သည်။ gRPC execution stack ကို ရောယှက်ထားသည့် သင်၏ကိုယ်ပိုင် (ပုံစံပလိတ်?) threading မော်ဒယ်ကို အသုံးပြုရန် ဖြစ်နိုင်သည်။ gRPC နှင့်အသုံးပြုသူအကောင်အထည်ဖော်မှု။ ရိုးရှင်းမှုအတွက်၊ ကျွန်ုပ်တို့သည် ဤပုံစံကို မှီဝဲပါမည်။

ပရိုဖိုင်လုပ်ခြင်းသည် အရာအားလုံးကို ပြုပြင်ပေးလိမ့်မည်။

ဒေတာစတိုးဆိုင်တွေကိုဖြတ်ကျော်ပြီး ပြီးခါနီးပြီထင်တယ်- “အခုတော့ လွယ်သွားပြီ။ ပရိုဖိုင်ကိုအသုံးပြုပြီး နှောင့်နှေးမှုဖြစ်ပွားသည့်နေရာကို ရှာဖွေကြပါစို့။" ငါ တိကျသော profileing ၏ပရိတ်သတ်ကြီးအဘယ်ကြောင့်ဆိုသော် CPU များသည် အလွန်မြန်ပြီး အများစုမှာ ပိတ်ဆို့ခြင်းမဟုတ်သောကြောင့်ဖြစ်သည်။ ပရိုဆက်ဆာသည် အခြားအရာတစ်ခုခုလုပ်ဆောင်ရန် လုပ်ဆောင်ခြင်းကို ရပ်ထားသည့်အခါ နှောင့်နှေးမှုအများစု ဖြစ်ပေါ်သည်။ တိကျသော CPU Profiling သည် ထိုကဲ့သို့ လုပ်ဆောင်သည်- ၎င်းသည် အရာအားလုံးကို တိကျစွာ မှတ်တမ်းတင်သည်။ ဆက်စပ်ခလုတ်များ နှောင့်နှေးမှုများ ဖြစ်ပေါ်လာသည့် နေရာကို ရှင်းလင်းစွာ ပြုလုပ်ပါ။

ကျွန်ုပ်သည် ပရိုဖိုင်လေးခုကို ယူခဲ့သည်- မြင့်မားသော QPS (လေနေချိန်နည်းသော) နှင့် ဖောက်သည်ဘက်ခြမ်းနှင့် ဆာဗာဘက်ခြမ်းတွင် နိမ့်သော QPS (မြင့်မားသော latency) ပါသော ping-pong ဆာဗာဖြင့်၊ ဥပမာအနေနဲ့ ပရိုဆက်ဆာပရိုဖိုင်ကိုလည်း ယူခဲ့တယ်။ ပရိုဖိုင်များကို နှိုင်းယှဉ်သောအခါတွင်၊ ပုံမှန်အားဖြင့် ကျွန်ုပ်သည် မှားယွင်းသောခေါ်ဆိုမှုအစုတစ်ခုကို ရှာဖွေနေပါသည်။ ဥပမာအားဖြင့်၊ မြင့်မားသော latency ရှိသော မကောင်းသည့်ဘက်တွင် နောက်ထပ် ဆက်စပ်ခလုတ်များ (၁၀ ကြိမ်နှင့်အထက်) ရှိပါသည်။ ဒါပေမယ့် ငါ့ကိစ္စမှာ၊ ဆက်စပ်ခလုတ်တွေရဲ့ အရေအတွက်က အတူတူနီးပါးပါပဲ။ ငါ့ရဲ့ ထိတ်လန့်စရာအတွက်၊ အဲဒီမှာ ထူးထူးခြားခြား ဘာမှမရှိဘူး။

နောက်ထပ် အမှားရှာပြင်ခြင်း။

စိတ်ပျက်လက်ပျက်ဖြစ်ခဲ့တယ်။ အခြားမည်သည့်ကိရိယာများကို ကျွန်ုပ်သုံးနိုင်သည်ကို ကျွန်ုပ်မသိခဲ့ဘဲ၊ ကျွန်ုပ်၏နောက်ထပ်အစီအစဉ်မှာ ပြဿနာကို ရှင်းရှင်းလင်းလင်းစစ်ဆေးခြင်းထက် မတူညီသောကွဲပြားမှုများဖြင့် လက်တွေ့စမ်းသပ်မှုများကို ထပ်လုပ်ရန်ဖြစ်သည်။

တကယ်လို့ ... ဘာဖြစ်မလဲ

အစကတည်းက၊ တိကျတဲ့ 50ms latency ကို ကျွန်တော် စိတ်ပူခဲ့တယ်။ ဒီအချိန်က အရမ်းကြီးတယ်။ ဒီအမှားအယွင်းဖြစ်စေတဲ့ ဘယ်အပိုင်းကို အတိအကျ မသိနိုင်မချင်း ကုဒ်ထဲက အတုံးတွေကို ဖြတ်ပစ်မယ်လို့ ဆုံးဖြတ်လိုက်တယ်။ နောက်တော့ လက်တွေ့ကျတဲ့ စမ်းသပ်မှုတစ်ခု ရောက်လာတယ်။

ခါတိုင်းလိုပဲ၊ နောက်ကွယ်မှာ အရာအားလုံးက သိသာထင်ရှားနေပုံရတယ်။ ကျွန်ုပ်သည် ဖောက်သည်အား Alvin ကဲ့သို့ စက်ပေါ်တွင် တင်ကာ တောင်းဆိုချက်တစ်ခု ပေးပို့ခဲ့သည်။ localhost. ပြီးတော့ latency တိုးလာတာ ပျောက်သွားတယ်။

ကွန်ရက်တွင် တစ်ခုခု မှားယွင်းနေပါသည်။

Network Engineering ကျွမ်းကျင်မှုကို သင်ယူပါ။

ကျွန်ုပ် ဝန်ခံရမည်- ကျွန်ုပ်၏ ကွန်ရက်နည်းပညာများကို သိရှိခြင်းသည် အလွန်ကြောက်စရာကောင်းသည်၊ အထူးသဖြင့် ကျွန်ုပ်သည် ၎င်းတို့နှင့် နေ့တိုင်း အလုပ်လုပ်နေကြောင်း ထည့်သွင်းစဉ်းစားပါသည်။ ဒါပေမယ့် ကွန်ရက်က အဓိကသံသယဖြစ်ခဲ့ပြီး အဲဒါကို အမှားရှာနည်းကို လေ့လာဖို့လိုတယ်။

ကံကောင်းစွာပဲ အင်တာနက်က လေ့လာလိုသူတွေကို သဘောကျတယ်။ ping နှင့် tracert ပေါင်းစပ်မှုသည် ကွန်ရက်သယ်ယူပို့ဆောင်ရေးပြဿနာများကို အမှားရှာရန် လုံလောက်သော စတင်မှုကောင်းတစ်ခုဟု ထင်ရသည်။

ပထမဦးစွာငါစတင်ခဲ့သည်။ PsPing Alvin ၏ TCP ဆိပ်ကမ်းသို့ ကျွန်ုပ်သည် ပုံသေဆက်တင်များကို အသုံးပြုခဲ့သည် - ဘာမှမထူးခြားပါ။ pings တစ်ထောင်ကျော်တွင် ပထမတစ်ခုမှလွဲ၍ 10 ms ထက်မကျော်လွန်ပါ။ ၎င်းသည် 50th percentile တွင် 99 ms ကြာမြင့်ချိန် 100 ms တိုးလာမှုနှင့် ဆန့်ကျင်ဘက်ဖြစ်သည်- အဲဒီမှာ တောင်းဆိုချက် 50 တိုင်းအတွက် XNUMX ms latency ရှိတဲ့ တောင်းဆိုချက်တစ်ခုလောက်ကို တွေ့သင့်တယ်။

ပြီးတော့ ငါကြိုးစားတယ်။ ရက်ရာဇာ: Alvin နှင့် client ကြားရှိ လမ်းကြောင်းတစ်လျှောက်ရှိ node များထဲမှ တစ်ခုတွင် ပြဿနာရှိနိုင်သည်။ သို့သော် ခြေရာခံသည် လက်ဗလာဖြင့် ပြန်သွားခဲ့သည်။

ထို့ကြောင့် ၎င်းသည် ကျွန်ုပ်၏ကုဒ်၊ gRPC အကောင်အထည်ဖော်မှု သို့မဟုတ် နှောင့်နှေးမှုကို ဖြစ်စေသော ကွန်ရက်မဟုတ်ပါ။ ဒါကို ဘယ်တော့မှ နားမလည်နိုင်တော့မှာကို စိုးရိမ်လာတယ်။

အခု ငါတို့က ဘာ OS လဲ။

gRPC Linux တွင် အသုံးများသော်လည်း Windows တွင် ထူးခြားဆန်းပြားသည်။ အလုပ်ဖြစ်ခဲ့တဲ့ စမ်းသပ်မှုတစ်ခုကို စမ်းကြည့်ဖို့ ဆုံးဖြတ်ခဲ့တယ်- Linux virtual machine တစ်ခုကို ဖန်တီးခဲ့ပြီး Linux အတွက် Alvin ကို ပြုစုပြီး အသုံးပြုခဲ့ပါတယ်။

ဤနေရာတွင် ဖြစ်ပျက်ခဲ့သည်- ဒေတာရင်းမြစ်သည် မတူညီသော်လည်း Linux ပင်ပေါင်ဆာဗာတွင် အလားတူ Windows host ကဲ့သို့ နှောင့်နှေးမှုများ မရှိပါ။ ပြဿနာသည် Windows အတွက် gRPC အကောင်အထည်ဖော်မှုတွင် ရှိနေကြောင်း တွေ့ရှိရသည်။

Nagle ၏ အယ်လဂိုရီသမ်

ဒီတစ်ခါတော့ အလံတစ်ခု ပျောက်နေတယ်ထင်တယ် gRPC. အခုတော့ အဲဒါ တကယ်ကို နားလည်သွားပြီ gRPC Windows အလံ ပျောက်နေသည်။ အလံအစုံလိုက်အားလုံးအတွက် အဆင်ပြေမယ်လို့ ယုံကြည်ထားတဲ့ အတွင်းပိုင်း RPC စာကြည့်တိုက်တစ်ခုကို တွေ့ခဲ့တယ်။ Winsock. ထို့နောက် ကျွန်ုပ်သည် ဤအလံများအားလုံးကို gRPC သို့ထည့်လိုက်ပြီး ဖာထေးထားသော Windows ping-pong ဆာဗာတွင် Alvin ကို Windows တွင် အသုံးချခဲ့သည်။

နီးပါး ပြီးပါပြီ- အကြောင်းရင်းကို ရှာဖွေဖော်ထုတ်နိုင်စေရန် ဆုတ်ယုတ်မှုပြန်ဖြစ်လာသည်အထိ တစ်ကြိမ်လျှင် ထည့်သွင်းထားသော အလံများကို ဖယ်ရှားခဲ့သည်။ နာမည်ပျက်ခဲ့တယ်။ TCP_NODELAYNagle ၏ အယ်လဂိုရီသမ် ခလုတ်။

Nagle ၏ အယ်လဂိုရီသမ် packet အရွယ်အစားသည် သတ်မှတ်ထားသော bytes အရေအတွက်ထက်ကျော်လွန်သည်အထိ မက်ဆေ့ခ်ျပို့ခြင်းကို နှောင့်နှေးခြင်းဖြင့် ကွန်ရက်တစ်ခုမှ ပေးပို့သည့် ပက်ကတ်အရေအတွက်ကို လျှော့ချရန် ကြိုးပမ်းသည်။ ၎င်းသည် ပျမ်းမျှအသုံးပြုသူအတွက် ကောင်းမွန်သော်လည်း OS သည် အချို့သော မက်ဆေ့ချ်များကို နှောင့်နှေးစေမည်ဖြစ်ပြီး QPS နည်းပါးသောအချိန်များတွင် နောက်ကျကျန်နေသောကြောင့် ၎င်းသည် အချိန်နှင့်တပြေးညီ ဆာဗာများအတွက် ပျက်စီးစေသည်။ U gRPC ဤအလံကို TCP sockets အတွက် Linux အကောင်အထည်ဖော်မှုတွင် သတ်မှတ်ထားသော်လည်း Windows တွင်မဟုတ်ပါ။ ငါက ဒီလို ပြုပြင်ခဲ့သည်။.

ကောက်ချက်

QPS နိမ့်ချိန်တွင် ကြာမြင့်ချိန်သည် OS ပိုမိုကောင်းမွန်အောင်ပြုလုပ်ခြင်းကြောင့် ဖြစ်ပေါ်လာခြင်းဖြစ်သည်။ နောက်ကြောင်းပြန်အားဖြင့်၊ ပရိုဖိုင်းဆွဲခြင်းသည် ကာနယ်မုဒ်တွင် ထည့်သွင်းခြင်းမဟုတ်ဘဲ ကာနယ်မုဒ်တွင် လုပ်ဆောင်သောကြောင့် latency ကို ရှာမတွေ့ပါ။ အသုံးပြုသူမုဒ်. Nagle ၏ အယ်လဂိုရီသမ်ကို ETW ဖမ်းယူမှုများမှတစ်ဆင့် စောင့်ကြည့်နိုင်သည်ဆိုသည်ကို ကျွန်ုပ်မသိသော်လည်း စိတ်ဝင်စားဖွယ်ကောင်းပါသည်။

localhost စမ်းသပ်မှုအတွက်၊ ၎င်းသည် အမှန်တကယ် networking code ကို မထိဘဲ ဖြစ်နိုင်ပြီး Nagle ၏ algorithm သည် run ခြင်းမရှိသောကြောင့် client သည် localhost မှတဆင့် Alvin သို့ရောက်ရှိသောအခါ latency ပြဿနာများ ပျောက်သွားပါသည်။

တစ်စက္ကန့်လျှင် တောင်းဆိုမှုအရေအတွက် လျော့နည်းလာသည်နှင့်အမျှ latency တိုးလာသောအခါတွင်၊ Nagle ၏ အယ်လဂိုရီသမ်သည် သင့်သံသယရှိသူစာရင်းတွင် ရှိသင့်သည်။

source: www.habr.com