ការបកប្រែអត្ថបទ៖ គំរូខ្សែស្រឡាយប្រេសិត - https://blog.envoyproxy.io/envoy-threading-model-a8d44b922310

ខ្ញុំបានរកឃើញអត្ថបទនេះគួរឱ្យចាប់អារម្មណ៍ណាស់ ហើយចាប់តាំងពី Envoy ត្រូវបានគេប្រើញឹកញាប់បំផុតជាផ្នែកមួយនៃ "istio" ឬសាមញ្ញជា "ឧបករណ៍បញ្ជា ingress" នៃ kubernetes មនុស្សភាគច្រើនមិនមានអន្តរកម្មផ្ទាល់ជាមួយវាដូចឧទាហរណ៍ជាមួយធម្មតាទេ។ ការដំឡើង Nginx ឬ Haproxy ។ ទោះជាយ៉ាងណាក៏ដោយប្រសិនបើមានអ្វីមួយខូច វាជាការល្អក្នុងការយល់ពីរបៀបដែលវាដំណើរការពីខាងក្នុង។ ខ្ញុំបានព្យាយាមបកប្រែអត្ថបទជាភាសារុស្សីឱ្យបានច្រើនតាមដែលអាចធ្វើទៅបាន រួមទាំងពាក្យពិសេសផងដែរ សម្រាប់អ្នកដែលយល់ឃើញថាវាឈឺចាប់ក្នុងការមើលរឿងនេះ ខ្ញុំបានទុកអក្សរដើមនៅក្នុងវង់ក្រចក។ សូមស្វាគមន៍មកកាន់ឆ្មា។

ឯកសារបច្ចេកទេសកម្រិតទាបសម្រាប់មូលដ្ឋានកូដ Envoy បច្ចុប្បន្នមានកម្រិតតិចតួច។ ដើម្បី​ដោះស្រាយ​បញ្ហា​នេះ ខ្ញុំ​មាន​គម្រោង​ធ្វើ​ការ​ប្រកាស​ប្លក់​ជា​បន្តបន្ទាប់​អំពី​ប្រព័ន្ធ​រង​ផ្សេងៗ​របស់ Envoy ។ ដោយសារនេះជាអត្ថបទដំបូង សូមប្រាប់ខ្ញុំពីអ្វីដែលអ្នកគិត និងអ្វីដែលអ្នកប្រហែលជាចាប់អារម្មណ៍នៅក្នុងអត្ថបទនាពេលអនាគត។

សំណួរបច្ចេកទេសទូទៅបំផុតមួយដែលខ្ញុំទទួលបានអំពី Envoy គឺការស្នើសុំការពិពណ៌នាកម្រិតទាបនៃគំរូខ្សែស្រឡាយដែលវាប្រើ។ នៅក្នុងការបង្ហោះនេះ ខ្ញុំនឹងរៀបរាប់ពីរបៀបដែល Envoy ភ្ជាប់ផែនទីភ្ជាប់ទៅខ្សែស្រលាយ ក៏ដូចជាប្រព័ន្ធ Thread Local Storage ដែលវាប្រើប្រាស់ខាងក្នុងដើម្បីធ្វើឱ្យកូដកាន់តែមានភាពស្របគ្នា និងមានប្រសិទ្ធភាពខ្ពស់។

ទិដ្ឋភាពទូទៅនៃខ្សែស្រឡាយ

បេសកជនប្រើស្ទ្រីមបីប្រភេទផ្សេងគ្នា៖

• មេ៖ ខ្សែស្រលាយនេះគ្រប់គ្រងដំណើរការចាប់ផ្តើម និងការបញ្ចប់ ដំណើរការទាំងអស់នៃ XDS (xDiscovery Service) API រួមទាំង DNS ការត្រួតពិនិត្យសុខភាព ការគ្រប់គ្រងចង្កោមទូទៅ និងពេលដំណើរការ ការកំណត់ឡើងវិញ ស្ថិតិ ការគ្រប់គ្រង និងការគ្រប់គ្រងដំណើរការទូទៅ - សញ្ញាលីនុច ការចាប់ផ្តើមឡើងវិញក្តៅ។ល។ កើតឡើងនៅក្នុងខ្សែស្រឡាយនេះគឺអសមកាល និង "មិនទប់ស្កាត់" ។ ជាទូទៅ ខ្សែសំខាន់សម្របសម្រួលដំណើរការមុខងារសំខាន់ៗទាំងអស់ ដែលមិនត្រូវការ CPU ច្រើនដើម្បីដំណើរការ។ នេះអនុញ្ញាតឱ្យសរសេរកូដគ្រប់គ្រងភាគច្រើនដូចជាវាត្រូវបានបញ្ចូលតែមួយខ្សែ។
• កម្មករ៖ តាមលំនាំដើម ប្រេសិតបង្កើតខ្សែស្រឡាយកម្មករសម្រាប់ខ្សែស្រឡាយផ្នែករឹងនីមួយៗនៅក្នុងប្រព័ន្ធ វាអាចត្រូវបានគ្រប់គ្រងដោយប្រើជម្រើស --concurrency. ខ្សែស្រឡាយកម្មករនិមួយៗដំណើរការរង្វិលជុំព្រឹត្តិការណ៍ "មិនរារាំង" ដែលទទួលខុសត្រូវចំពោះការស្តាប់អ្នកស្តាប់នីមួយៗ នៅពេលសរសេរ (ថ្ងៃទី 29 ខែកក្កដា ឆ្នាំ 2017) មិនមានការបំបែកអ្នកស្តាប់ទេ ការទទួលយកការតភ្ជាប់ថ្មី បង្កើតបណ្តុំតម្រងភ្លាមៗសម្រាប់ ការតភ្ជាប់ និងដំណើរការប្រតិបត្តិការបញ្ចូល/ទិន្នផល (IO) ទាំងអស់ក្នុងអំឡុងពេលនៃការតភ្ជាប់។ ជាថ្មីម្តងទៀត នេះអនុញ្ញាតឱ្យកូដគ្រប់គ្រងការតភ្ជាប់ភាគច្រើនត្រូវបានសរសេរដូចជាប្រសិនបើវាត្រូវបានបញ្ចូលខ្សែតែមួយ។
• ឧបករណ៍បំលែងឯកសារ៖ ឯកសារនីមួយៗដែល Envoy សរសេរ ភាគច្រើនចូលប្រើកំណត់ហេតុ បច្ចុប្បន្នមានបណ្តាញទប់ស្កាត់ឯករាជ្យ។ នេះគឺដោយសារតែការពិតដែលថាការសរសេរទៅឯកសារដែលផ្ទុកដោយប្រព័ន្ធឯកសារសូម្បីតែនៅពេលប្រើ O_NONBLOCK ពេលខ្លះអាចត្រូវបានរារាំង (ដកដង្ហើមធំ) ។ នៅពេលដែលខ្សែស្រឡាយកម្មករត្រូវការសរសេរទៅឯកសារមួយ ទិន្នន័យពិតជាត្រូវបានផ្លាស់ទីទៅសតិបណ្ដោះអាសន្នក្នុងអង្គចងចាំ ដែលទីបំផុតវាត្រូវបានហូរតាមខ្សែស្រលាយ លុបឯកសារ. នេះគឺជាផ្នែកមួយនៃកូដដែលតាមបច្ចេកទេស ខ្សែស្រឡាយកម្មករទាំងអស់អាចបិទសោដូចគ្នា ខណៈពេលដែលព្យាយាមបំពេញអង្គចងចាំ។

ការគ្រប់គ្រងការភ្ជាប់

ដូចដែលបានពិភាក្សាដោយសង្ខេបខាងលើ ខ្សែសង្វាក់កម្មករទាំងអស់ ស្តាប់អ្នកស្តាប់ទាំងអស់ដោយមិនមានការខ្វែងគំនិតឡើយ។ ដូច្នេះ ខឺណែល​ត្រូវ​បាន​ប្រើ​ដើម្បី​ផ្ញើ​រន្ធ​ដែល​ទទួល​យក​ដោយ​ប្រណិត​ទៅ​កាន់​ខ្សែ​ស្រឡាយ​របស់​កម្មករ។ ខឺណែលទំនើបជាទូទៅល្អណាស់ចំពោះរឿងនេះ ពួកគេប្រើលក្ខណៈពិសេសដូចជាការជំរុញអាទិភាពបញ្ចូល/ទិន្នផល (IO) ដើម្បីព្យាយាមបំពេញខ្សែស្រឡាយជាមួយការងារ មុនពេលពួកគេចាប់ផ្តើមប្រើខ្សែស្រឡាយផ្សេងទៀតដែលកំពុងស្តាប់នៅលើរន្ធដូចគ្នា ហើយក៏មិនប្រើរ៉ូប៊ីនមូលដែរ។ ចាក់សោ (Spinlock) ដើម្បីដំណើរការសំណើនីមួយៗ។
នៅពេលដែលការតភ្ជាប់ត្រូវបានទទួលយកនៅលើខ្សែស្រឡាយកម្មករ វាមិនដែលចាកចេញពីខ្សែស្រឡាយនោះទេ។ ដំណើរការបន្ថែមទៀតនៃការតភ្ជាប់ទាំងអស់ត្រូវបានគ្រប់គ្រងទាំងស្រុងនៅក្នុងខ្សែស្រឡាយរបស់កម្មករ រួមទាំងឥរិយាបថបញ្ជូនបន្ត។

វាមានផលវិបាកសំខាន់ៗមួយចំនួន៖

• បណ្តាញតភ្ជាប់ទាំងអស់នៅក្នុង Envoy ត្រូវបានចាត់ឱ្យទៅខ្សែស្រឡាយកម្មករ។ ដូច្នេះ ទោះបីជាក្រុមតភ្ជាប់ HTTP/2 បង្កើតការតភ្ជាប់តែមួយទៅម៉ាស៊ីនខាងលើនីមួយៗនៅពេលតែមួយក៏ដោយ ប្រសិនបើមានខ្សែស្រឡាយកម្មករចំនួន 2 វានឹងមានការតភ្ជាប់ HTTP/XNUMX ចំនួនបួនក្នុងមួយម៉ាស៊ីនខាងលើក្នុងស្ថានភាពស្ថិរភាព។
• ហេតុផលដែល Envoy ធ្វើការតាមរបៀបនេះគឺដោយសារការរក្សាអ្វីៗគ្រប់យ៉ាងនៅលើខ្សែស្រឡាយកម្មករតែមួយ កូដស្ទើរតែទាំងអស់អាចត្រូវបានសរសេរដោយមិនមានការទប់ស្កាត់ ហើយដូចជាវាជាខ្សែតែមួយ។ ការរចនានេះធ្វើឱ្យមានភាពងាយស្រួលក្នុងការសរសេរកូដជាច្រើន និងធ្វើមាត្រដ្ឋានបានយ៉ាងល្អមិនគួរឱ្យជឿចំពោះចំនួនខ្សែស្រឡាយកម្មករស្ទើរតែគ្មានដែនកំណត់។
• ទោះជាយ៉ាងណាក៏ដោយ ចំណុចសំខាន់មួយគឺថា ពីអង្គចងចាំ និងទស្សនៈប្រសិទ្ធភាពនៃការតភ្ជាប់ វាពិតជាមានសារៈសំខាន់ខ្លាំងណាស់ក្នុងការកំណត់រចនាសម្ព័ន្ធ --concurrency. ការមានខ្សែស្រឡាយកម្មករច្រើនជាងការចាំបាច់នឹងខ្ជះខ្ជាយការចងចាំ បង្កើតការតភ្ជាប់ទំនេរច្រើន និងកាត់បន្ថយអត្រានៃការតភ្ជាប់បញ្ចូលគ្នា។ នៅ Lyft កុងតឺន័ររថយន្តចំហៀងរបស់បេសកជនរបស់យើងដំណើរការដោយភាពស្របគ្នាទាបបំផុត ដូច្នេះការអនុវត្តប្រហាក់ប្រហែលនឹងសេវាកម្មដែលពួកគេអង្គុយក្បែរ។ យើងដំណើរការ Envoy ជាប្រូកស៊ីគែមតែនៅស្របគ្នាអតិបរមាប៉ុណ្ណោះ។

តើការមិនទប់ស្កាត់មានន័យដូចម្តេច?

ពាក្យថា "មិនទប់ស្កាត់" ត្រូវបានគេប្រើច្រើនដងមកហើយ រហូតមកដល់ពេលនេះ នៅពេលពិភាក្សាអំពីរបៀបដែលខ្សែមេ និងកម្មករធ្វើការ។ កូដទាំងអស់ត្រូវបានសរសេរនៅលើការសន្មត់ថាគ្មានអ្វីដែលត្រូវបានរារាំងឡើយ។ ទោះយ៉ាងណាក៏ដោយនេះមិនពិតទាំងស្រុងទេ (តើអ្វីមិនពិតទាំងស្រុង?)

បេសកជនប្រើការចាក់សោដំណើរការដ៏វែងជាច្រើន៖

• ដូចដែលបានពិភាក្សា នៅពេលសរសេរកំណត់ហេតុចូលដំណើរការ ខ្សែស្រលាយកម្មករទាំងអស់ទទួលបានសោដូចគ្នា មុនពេលសតិបណ្ដោះអាសន្នកំណត់ហេតុក្នុងអង្គចងចាំត្រូវបានបំពេញ។ ពេលវេលានៃការចាក់សោរគួរតែមានកម្រិតទាបបំផុត ប៉ុន្តែវាគឺអាចធ្វើទៅបានដើម្បីឱ្យសោត្រូវបានប្រកួតប្រជែងជាមួយនឹងតម្លៃស្របគ្នា និងទិន្នផលខ្ពស់។
• បេសកជនប្រើប្រាស់ប្រព័ន្ធដ៏ស្មុគស្មាញមួយដើម្បីគ្រប់គ្រងស្ថិតិដែលមានមូលដ្ឋាននៅក្នុងខ្សែស្រលាយ។ នេះនឹងជាប្រធានបទនៃការប្រកាសដាច់ដោយឡែក។ ទោះជាយ៉ាងណាក៏ដោយ ខ្ញុំនឹងនិយាយដោយសង្ខេបថា ជាផ្នែកនៃដំណើរការស្ថិតិខ្សែស្រឡាយក្នុងស្រុក ជួនកាលវាចាំបាច់ដើម្បីទទួលបានសោនៅលើ "ឃ្លាំងស្ថិតិ" កណ្តាល។ ការចាក់សោនេះមិនគួរត្រូវបានទាមទារទេ។
• ខ្សែស្រឡាយសំខាន់ជាទៀងទាត់ត្រូវការសម្របសម្រួលជាមួយខ្សែស្រឡាយកម្មករទាំងអស់។ នេះត្រូវបានធ្វើដោយ "បោះពុម្ព" ពីខ្សែស្រឡាយមេទៅខ្សែស្រឡាយកម្មករ ហើយជួនកាលពីខ្សែស្រឡាយកម្មករត្រឡប់ទៅខ្សែស្រឡាយមេវិញ។ ការផ្ញើតម្រូវឱ្យចាក់សោ ដូច្នេះសារដែលបានបោះផ្សាយអាចត្រូវបានតម្រង់ជួរសម្រាប់ការចែកចាយនៅពេលក្រោយ។ ការចាក់សោទាំងនេះមិនគួរត្រូវបានប្រកួតប្រជែងខ្លាំងនោះទេ ប៉ុន្តែពួកគេនៅតែអាចទប់ស្កាត់តាមបច្ចេកទេស។
• នៅពេលដែល Envoy សរសេរកំណត់ហេតុទៅកាន់ស្ទ្រីមកំហុសប្រព័ន្ធ (កំហុសស្តង់ដារ) វាទទួលបានសោនៅលើដំណើរការទាំងមូល។ ជាទូទៅ ការកាប់ឈើក្នុងស្រុករបស់ Envoy ត្រូវបានចាត់ទុកថាជារឿងដ៏អាក្រក់ពីទិដ្ឋភាពនៃការអនុវត្ត ដូច្នេះមិនមានការយកចិត្តទុកដាក់ច្រើនក្នុងការកែលម្អវាទេ។
• មានការចាក់សោដោយចៃដន្យមួយចំនួនផ្សេងទៀត ប៉ុន្តែគ្មាននរណាម្នាក់ក្នុងចំនោមពួកគេគឺមានសារៈសំខាន់ និងមិនគួរត្រូវបានជំទាស់ឡើយ។

ឧបករណ៍ផ្ទុកក្នុងតំបន់

ដោយសារតែវិធីដែល Envoy បំបែកការទទួលខុសត្រូវនៃខ្សែស្រឡាយមេពីការទទួលខុសត្រូវនៃខ្សែស្រឡាយកម្មករ វាមានតម្រូវការដែលដំណើរការស្មុគស្មាញអាចត្រូវបានធ្វើនៅលើខ្សែស្រឡាយមេ ហើយបន្ទាប់មកផ្តល់ទៅឱ្យខ្សែស្រឡាយកម្មករនិមួយៗក្នុងលក្ខណៈស្របគ្នាខ្ពស់។ ផ្នែកនេះពិពណ៌នាអំពីឧបករណ៍ផ្ទុកក្នុងតំបន់ Envoy Thread Local Storage (TLS) នៅកម្រិតខ្ពស់។ នៅផ្នែកបន្ទាប់ ខ្ញុំនឹងរៀបរាប់អំពីរបៀបដែលវាត្រូវបានប្រើដើម្បីគ្រប់គ្រងចង្កោម។


ដូចដែលបានពណ៌នារួចមកហើយ ខ្សែសំខាន់គ្រប់គ្រងស្ទើរតែទាំងអស់នូវការគ្រប់គ្រង និងគ្រប់គ្រងមុខងាររបស់យន្តហោះនៅក្នុងដំណើរការ Envoy ។ យន្តហោះត្រួតពិនិត្យគឺផ្ទុកលើសទម្ងន់បន្តិចនៅទីនេះ ប៉ុន្តែនៅពេលអ្នកមើលវានៅក្នុងដំណើរការ Envoy ខ្លួនវា ហើយប្រៀបធៀបវាទៅនឹងការបញ្ជូនបន្តដែលខ្សែស្រឡាយកម្មករធ្វើ វាសមហេតុផល។ ច្បាប់ទូទៅគឺថាដំណើរការខ្សែស្រឡាយមេដំណើរការខ្លះហើយបន្ទាប់មកវាត្រូវធ្វើបច្ចុប្បន្នភាពខ្សែស្រឡាយនិយោជិតនីមួយៗដោយយោងទៅតាមលទ្ធផលនៃការងារនោះ។ ក្នុងករណីនេះ ខ្សែសង្វាក់កម្មករមិនចាំបាច់ទទួលបានសោលើការចូលប្រើនីមួយៗទេ។.

ប្រព័ន្ធ TLS (Thread local storage) របស់ Envoy ដំណើរការដូចខាងក្រោម៖

• កូដដែលកំពុងដំណើរការនៅលើខ្សែមេអាចបែងចែករន្ធដោត TLS សម្រាប់ដំណើរការទាំងមូល។ ទោះបីជាវាមានលក្ខណៈអរូបីក៏ដោយ ប៉ុន្តែនៅក្នុងការអនុវត្ត វាគឺជាលិបិក្រមទៅក្នុងវ៉ិចទ័រ ដោយផ្តល់នូវការចូលប្រើ O(1)។
• ខ្សែសំខាន់អាចដំឡើងទិន្នន័យបំពានទៅក្នុងរន្ធដោតរបស់វា។ នៅពេលនេះត្រូវបានធ្វើរួច ទិន្នន័យត្រូវបានបោះផ្សាយទៅខ្សែស្រលាយកម្មករនិមួយៗជាព្រឹត្តិការណ៍រង្វិលជុំព្រឹត្តិការណ៍ធម្មតា។
• ខ្សែស្រឡាយកម្មករអាចអានពីរន្ធដោត TLS របស់ពួកគេ និងទាញយកទិន្នន័យខ្សែបណ្តាញមូលដ្ឋានណាមួយដែលមាននៅទីនោះ។

ទោះបីជាវាជាគំរូដ៏សាមញ្ញ និងមានឥទ្ធិពលមិនគួរឱ្យជឿក៏ដោយ ក៏វាស្រដៀងទៅនឹងគំនិតនៃការទប់ស្កាត់ RCU (Read-Copy-Update) ។ ជាការសំខាន់ ខ្សែស្រឡាយកម្មករមិនដែលឃើញការផ្លាស់ប្តូរទិន្នន័យណាមួយនៅក្នុងរន្ធដោត TLS ទេ ខណៈពេលដែលការងារកំពុងដំណើរការ។ ការផ្លាស់ប្តូរកើតឡើងតែក្នុងអំឡុងពេលដែលនៅសល់រវាងព្រឹត្តិការណ៍ការងារ។

បេសកជនប្រើវិធីពីរយ៉ាងផ្សេងគ្នា៖

• តាមរយៈការរក្សាទុកទិន្នន័យផ្សេងៗគ្នានៅលើខ្សែសង្វាក់កម្មករនិមួយៗ ទិន្នន័យអាចចូលដំណើរការបានដោយមិនមានការទប់ស្កាត់ណាមួយឡើយ។
• ដោយរក្សាបាននូវទ្រនិចដែលបានចែករំលែកទៅកាន់ទិន្នន័យសកលនៅក្នុងរបៀបបានតែអាននៅលើខ្សែសង្វាក់បុគ្គលិកនីមួយៗ។ ដូច្នេះ ខ្សែសង្វាក់កម្មករនិមួយៗមានចំនួនយោងទិន្នន័យ ដែលមិនអាចបន្ថយបាន ខណៈពេលដែលការងារកំពុងដំណើរការ។ លុះត្រាតែកម្មករទាំងអស់ស្ងប់ចិត្ត ហើយបង្ហោះទិន្នន័យដែលបានចែករំលែកថ្មី ទិន្នន័យចាស់នឹងត្រូវបំផ្លាញ។ នេះគឺដូចគ្នាបេះបិទទៅនឹង RCU ។

ការ​ធ្វើ​បច្ចុប្បន្នភាព​បណ្តុំ​ខ្សែ​ស្រឡាយ

នៅក្នុងផ្នែកនេះ ខ្ញុំនឹងរៀបរាប់អំពីរបៀបដែល TLS (Thread local storage) ត្រូវបានប្រើដើម្បីគ្រប់គ្រងចង្កោម។ ការគ្រប់គ្រងចង្កោមរួមមាន xDS API និង/ឬដំណើរការ DNS ក៏ដូចជាការត្រួតពិនិត្យសុខភាព។


ការគ្រប់គ្រងលំហូរចង្កោម រួមមានធាតុផ្សំ និងជំហានដូចខាងក្រោម៖

1. កម្មវិធីគ្រប់គ្រងចង្កោមគឺជាធាតុផ្សំមួយនៅក្នុងប្រេសិតដែលគ្រប់គ្រងការផ្សាយរបស់ចង្កោមដែលគេស្គាល់ទាំងអស់ Cluster Discovery Service (CDS) API សេវាស្វែងរកសម្ងាត់ (SDS) និង Endpoint Discovery Service (EDS) APIs DNS និងការត្រួតពិនិត្យខាងក្រៅសកម្ម ការត្រួតពិនិត្យសុខភាព។ វាមានទំនួលខុសត្រូវក្នុងការបង្កើតទិដ្ឋភាព "នៅទីបំផុតស្របគ្នា" នៃចង្កោមចរន្តនីមួយៗ ដែលរួមមានម៉ាស៊ីនដែលបានរកឃើញ ក៏ដូចជាស្ថានភាពសុខភាពផងដែរ។
2. កម្មវិធីពិនិត្យសុខភាពធ្វើការត្រួតពិនិត្យសុខភាពសកម្ម ហើយរាយការណ៍ពីការផ្លាស់ប្តូរស្ថានភាពសុខភាពទៅកាន់អ្នកគ្រប់គ្រងចង្កោម។
3. CDS (សេវាស្វែងរកចង្កោម) / SDS (សេវាកម្មស្វែងរកអាថ៌កំបាំង) / EDS (សេវាស្វែងរកចំណុចបញ្ចប់) / DNS ត្រូវបានអនុវត្តដើម្បីកំណត់សមាជិកភាពចង្កោម។ ការផ្លាស់ប្តូររដ្ឋត្រូវបានត្រលប់ទៅអ្នកគ្រប់គ្រងចង្កោម។
4. ខ្សែស្រឡាយកម្មករនិមួយៗបន្តដំណើរការរង្វិលជុំព្រឹត្តិការណ៍។
5. នៅពេលដែលអ្នកគ្រប់គ្រងចង្កោមកំណត់ថាស្ថានភាពសម្រាប់ចង្កោមបានផ្លាស់ប្តូរ វាបង្កើតរូបថតដែលបានអានបានតែថ្មីនៃស្ថានភាពរបស់ចង្កោម ហើយផ្ញើវាទៅខ្សែស្រលាយកម្មករនីមួយៗ។
6. កំឡុងពេលស្ងាត់បន្ទាប់ ខ្សែស្រឡាយកម្មករនឹងធ្វើបច្ចុប្បន្នភាពរូបថតនៅក្នុងរន្ធដោត TLS ដែលបានបែងចែក។
7. ក្នុងអំឡុងពេលព្រឹត្តិការណ៍ I/O ដែលត្រូវបានគេសន្មត់ថាកំណត់ម៉ាស៊ីនដើម្បីផ្ទុកសមតុល្យ អ្នកផ្ទុកតុល្យភាពនឹងស្នើសុំរន្ធដោត TLS (Thread local storage) ដើម្បីទទួលបានព័ត៌មានអំពីម៉ាស៊ីន។ នេះមិនតម្រូវឱ្យមានសោ។ សូមចំណាំផងដែរថា TLS ក៏អាចបង្កឱ្យមានព្រឹត្តិការណ៍អាប់ដេត ដូច្នេះការផ្ទុកសមតុល្យ និងសមាសធាតុផ្សេងទៀតអាចគណនាឡើងវិញនូវឃ្លាំងសម្ងាត់ រចនាសម្ព័ន្ធទិន្នន័យ។ល។ នេះហួសពីវិសាលភាពនៃប្រកាសនេះ ប៉ុន្តែត្រូវបានប្រើប្រាស់នៅកន្លែងផ្សេងៗក្នុងកូដ។

ដោយប្រើនីតិវិធីខាងលើ បេសកជនអាចដំណើរការរាល់សំណើដោយមិនមានការរារាំងណាមួយឡើយ (លើកលែងដូចបានរៀបរាប់ពីមុន)។ ក្រៅពីភាពស្មុគស្មាញនៃកូដ TLS ខ្លួនវា ភាគច្រើននៃកូដមិនចាំបាច់យល់ពីរបៀបដែល multithreading ដំណើរការ និងអាចត្រូវបានសរសេរតែមួយខ្សែ។ នេះធ្វើឱ្យកូដភាគច្រើនងាយស្រួលក្នុងការសរសេរ បន្ថែមពីលើដំណើរការល្អជាង។

ប្រព័ន្ធរងផ្សេងទៀតដែលប្រើ TLS

TLS (Thread local storage) និង RCU (Read Copy Update) ត្រូវបានគេប្រើយ៉ាងទូលំទូលាយនៅក្នុង Envoy ។

ឧទាហរណ៍នៃការប្រើប្រាស់៖

• យន្តការសម្រាប់ការផ្លាស់ប្តូរមុខងារកំឡុងពេលប្រតិបត្តិ៖ បញ្ជីបច្ចុប្បន្ននៃមុខងារដែលបានបើកត្រូវបានគណនានៅក្នុងខ្សែស្រឡាយមេ។ បន្ទាប់មក ខ្សែស្រលាយកម្មករនិមួយៗត្រូវបានផ្តល់រូបថតដែលបានអានតែប៉ុណ្ណោះដោយប្រើ RCU semantics ។
• ការជំនួសតារាងផ្លូវ៖ សម្រាប់តារាងផ្លូវដែលផ្តល់ដោយ RDS (Route Discovery Service) តារាងផ្លូវត្រូវបានបង្កើតនៅលើខ្សែស្រឡាយមេ។ រូបថត​ដែល​បាន​តែ​អាន​នឹង​ត្រូវ​បាន​ផ្តល់​ជូន​ជា​បន្តបន្ទាប់​ដល់​ខ្សែ​ស្រឡាយ​របស់​កម្មករ​និមួយៗ​ដោយ​ប្រើ RCU (Read Copy Update) semantics។ នេះធ្វើឱ្យការផ្លាស់ប្តូរតារាងផ្លូវប្រកបដោយប្រសិទ្ធភាព។
• ឃ្លាំងសម្ងាត់បឋមកថា HTTP៖ ដូចដែលវាប្រែថាការគណនាបឋមកថា HTTP សម្រាប់សំណើនីមួយៗ (ខណៈពេលកំពុងដំណើរការ ~ 25K + RPS ក្នុងមួយស្នូល) គឺមានតម្លៃថ្លៃណាស់។ ប្រេសិតកណ្តាលគណនាបឋមកថាប្រហែលរៀងរាល់ពាក់កណ្តាលវិនាទី ហើយផ្តល់វាដល់កម្មករម្នាក់ៗតាមរយៈ TLS និង RCU ។

មានករណីផ្សេងទៀត ប៉ុន្តែឧទាហរណ៍ពីមុនគួរតែផ្តល់នូវការយល់ដឹងដ៏ល្អអំពីអ្វីដែល TLS ត្រូវបានប្រើសម្រាប់។

កំហុសនៃការអនុវត្តដែលគេស្គាល់

ខណៈពេលដែល Envoy ដំណើរការបានល្អជារួម មានចំណុចគួរឱ្យកត់សម្គាល់មួយចំនួនដែលទាមទារឱ្យមានការយកចិត្តទុកដាក់នៅពេលដែលវាត្រូវបានគេប្រើជាមួយនឹងភាពស្របគ្នា និងលទ្ធផលខ្ពស់ខ្លាំង៖

• ដូចដែលបានពិពណ៌នានៅក្នុងអត្ថបទនេះ បច្ចុប្បន្ន ខ្សែស្រលាយកម្មករទាំងអស់ទទួលបានសោនៅពេលសរសេរទៅសតិបណ្ដោះអាសន្ននៃកំណត់ហេតុចូលដំណើរការ។ ដោយភាពស៊ីសង្វាក់គ្នាខ្ពស់ និងលំហូរចូលខ្ពស់ អ្នកនឹងត្រូវបាច់កំណត់ហេតុចូលដំណើរការសម្រាប់ខ្សែស្រឡាយកម្មករនិមួយៗ ដោយចំណាយលើការដឹកជញ្ជូនក្រៅការបញ្ជាទិញនៅពេលសរសេរទៅឯកសារចុងក្រោយ។ ម៉្យាងទៀត អ្នកអាចបង្កើតកំណត់ហេតុចូលប្រើប្រាស់ដាច់ដោយឡែកសម្រាប់ខ្សែស្រឡាយកម្មករនិមួយៗ។
• ទោះបីជាស្ថិតិត្រូវបានធ្វើឱ្យប្រសើរខ្ពស់ក៏ដោយ ស្របគ្នានិងទិន្នផលខ្ពស់ ទំនងជានឹងមានជម្លោះអាតូមិកលើស្ថិតិបុគ្គល។ ដំណោះស្រាយចំពោះបញ្ហានេះគឺបញ្ជរក្នុងមួយខ្សែរបស់កម្មករ ជាមួយនឹងការកំណត់ឡើងវិញតាមកាលកំណត់នៃបញ្ជរកណ្តាល។ នេះនឹងត្រូវបានពិភាក្សានៅក្នុងការប្រកាសជាបន្តបន្ទាប់។
• ស្ថាបត្យកម្មបច្ចុប្បន្ននឹងមិនដំណើរការល្អទេ ប្រសិនបើ Envoy ត្រូវបានដាក់ពង្រាយនៅក្នុងសេណារីយ៉ូដែលមានការតភ្ជាប់តិចតួចបំផុតដែលត្រូវការធនធានដំណើរការសំខាន់ៗ។ មិនមានការធានាថាការតភ្ជាប់នឹងត្រូវបានចែកចាយស្មើៗគ្នាក្នុងចំណោមខ្សែស្រឡាយកម្មករនោះទេ។ នេះអាចត្រូវបានដោះស្រាយដោយការអនុវត្តតុល្យភាពនៃការតភ្ជាប់កម្មករដែលនឹងអនុញ្ញាតឱ្យមានការផ្លាស់ប្តូរទំនាក់ទំនងរវាងខ្សែស្រឡាយកម្មករ។

សេចក្តីសន្និដ្ឋាន

គំរូខ្សែស្រឡាយរបស់ Envoy ត្រូវបានរចនាឡើងដើម្បីផ្តល់នូវភាពងាយស្រួលនៃការសរសេរកម្មវិធី និងភាពស្របគ្នាដ៏ធំដោយចំណាយនៃការចងចាំ និងការភ្ជាប់ដែលអាចខ្ជះខ្ជាយ ប្រសិនបើមិនបានកំណត់រចនាសម្ព័ន្ធត្រឹមត្រូវ។ ម៉ូដែលនេះអនុញ្ញាតឱ្យវាដំណើរការបានយ៉ាងល្អនៅចំនួនខ្សែស្រឡាយខ្ពស់ និងឆ្លងកាត់។
ដូចដែលខ្ញុំបាននិយាយយ៉ាងខ្លីនៅលើ Twitter ការរចនាក៏អាចដំណើរការនៅលើបណ្តាញបណ្តាញរបៀបអ្នកប្រើប្រាស់ពេញលេញដូចជា DPDK (Data Plane Development Kit) ដែលអាចបណ្តាលឱ្យម៉ាស៊ីនមេធម្មតាដោះស្រាយសំណើរាប់លានក្នុងមួយវិនាទីជាមួយនឹងដំណើរការ L7 ពេញលេញ។ វានឹងគួរឱ្យចាប់អារម្មណ៍ខ្លាំងណាស់ក្នុងការមើលអ្វីដែលត្រូវបានសាងសង់ក្នុងរយៈពេលពីរបីឆ្នាំខាងមុខ។
មតិយោបល់រហ័សចុងក្រោយមួយ៖ ខ្ញុំត្រូវបានគេសួរជាច្រើនដងថាហេតុអ្វីបានជាយើងជ្រើសរើស C++ សម្រាប់ Envoy ។ ហេតុផលនៅតែថាវានៅតែជាភាសាថ្នាក់ឧស្សាហកម្មដែលត្រូវបានប្រើប្រាស់យ៉ាងទូលំទូលាយតែមួយគត់ដែលស្ថាបត្យកម្មដែលបានពិពណ៌នានៅក្នុងការប្រកាសនេះអាចសាងសង់បាន។ C ++ គឺពិតជាមិនស័ក្តិសមសម្រាប់គម្រោងទាំងអស់ ឬសូម្បីតែច្រើន ប៉ុន្តែសម្រាប់ករណីប្រើប្រាស់មួយចំនួន វានៅតែជាឧបករណ៍តែមួយគត់ដើម្បីបំពេញការងារ។

តំណភ្ជាប់ទៅលេខកូដ

តំណភ្ជាប់ទៅឯកសារដែលមានចំណុចប្រទាក់ និងការអនុវត្តបឋមកថាដែលបានពិភាក្សានៅក្នុងការប្រកាសនេះ៖

• github.com/lyft/envoy/blob/master/include/envoy/thread_local/thread_local.h
• github.com/lyft/envoy/blob/master/source/common/thread_local/thread_local_impl.h
• github.com/lyft/envoy/blob/master/include/envoy/upstream/cluster_manager.h
• github.com/lyft/envoy/blob/master/source/common/upstream/cluster_manager_impl.h

ប្រភព: www.habr.com