Istio Circuit Breaker: ປິດການໃຊ້ງານພາຊະນະບັນຈຸທີ່ຜິດພາດ

ມື້ພັກໝົດແລ້ວ ແລະພວກເຮົາກັບມາດ້ວຍການຕອບທີສອງຂອງພວກເຮົາໃນຊຸດ Istio Service Mesh.

ຫົວຂໍ້ໃນມື້ນີ້ແມ່ນ Circuit Breaker, ເຊິ່ງແປເປັນວິສະວະກໍາໄຟຟ້າລັດເຊຍຫມາຍຄວາມວ່າ "ເຄື່ອງຕັດວົງຈອນ", ໃນຄໍາສັບທົ່ວໄປ - "ເຄື່ອງຕັດວົງຈອນ". ພຽງແຕ່ໃນ Istio ເຄື່ອງຈັກນີ້ບໍ່ໄດ້ຕັດການເຊື່ອມຕໍ່ວົງຈອນສັ້ນຫຼື overloaded, ແຕ່ບັນຈຸມີຄວາມຜິດພາດ.

ວິທີການນີ້ຄວນຈະເຮັດວຽກທີ່ເຫມາະສົມ

ເມື່ອບໍລິການຈຸນລະພາກຖືກຈັດການໂດຍ Kubernetes, ຕົວຢ່າງພາຍໃນແພລະຕະຟອມ OpenShift, ພວກມັນຂະຫຍາຍຂຶ້ນແລະລົງໂດຍອັດຕະໂນມັດຂຶ້ນກັບການໂຫຼດ. ເນື່ອງຈາກການບໍລິການຈຸນລະພາກເຮັດວຽກຢູ່ໃນພອດ, ສາມາດມີຫຼາຍຕົວຢ່າງຂອງການບໍລິການຈຸນລະພາກທີ່ບັນຈຸຢູ່ໃນຈຸດສິ້ນສຸດອັນດຽວ, ແລະ Kubernetes ຈະສົ່ງເສັ້ນທາງການຮ້ອງຂໍແລະຄວາມສົມດຸນການໂຫຼດລະຫວ່າງພວກມັນ. ແລະ - ໂດຍສະເພາະ - ທັງຫມົດນີ້ຄວນຈະເຮັດວຽກຢ່າງສົມບູນ.

ພວກເຮົາຈື່ໄວ້ວ່າບໍລິການຈຸລະພາກມີຂະຫນາດນ້ອຍແລະ ephemeral. Ephemerality, ຊຶ່ງໃນນີ້ຫມາຍຄວາມວ່າຄວາມງ່າຍຂອງການປະກົດຕົວແລະຫາຍໄປ, ມັກຈະຖືກປະເມີນຫນ້ອຍລົງ. ການເກີດແລະການຕາຍຂອງຕົວຢ່າງອື່ນຂອງ microservice ໃນຝັກແມ່ນເປັນສິ່ງທີ່ຂ້ອນຂ້າງຄາດຫວັງ, OpenShift ແລະ Kubernetes ຈັດການກັບສິ່ງນີ້ໄດ້ດີ, ແລະທຸກສິ່ງທຸກຢ່າງເຮັດວຽກໄດ້ດີ - ແຕ່ໃນທາງທິດສະດີ.

ມັນເຮັດວຽກແນວໃດແທ້ໆ

ຕອນນີ້ຈິນຕະນາການວ່າຕົວຢ່າງສະເພາະຂອງບໍລິການຈຸລະພາກ, ນັ້ນແມ່ນ, ຕູ້ຄອນເທນເນີ, ໄດ້ກາຍເປັນສິ່ງທີ່ບໍ່ສາມາດໃຊ້ໄດ້: ມັນບໍ່ໄດ້ຕອບສະຫນອງ (ຂໍ້ຜິດພາດ 503), ຫຼືສິ່ງທີ່ບໍ່ພໍໃຈກວ່ານັ້ນ, ມັນຕອບສະຫນອງ, ແຕ່ຊ້າເກີນໄປ. ໃນຄໍາສັບຕ່າງໆອື່ນໆ, ມັນຈະກາຍເປັນ glitchy ຫຼືບໍ່ຕອບສະຫນອງຕໍ່ການຮ້ອງຂໍ, ແຕ່ມັນບໍ່ໄດ້ຖືກໂຍກຍ້າຍອັດຕະໂນມັດອອກຈາກສະນຸກເກີ. ສິ່ງທີ່ຄວນເຮັດໃນກໍລະນີນີ້? ລອງໃຫມ່ບໍ? ຂ້ອຍຄວນເອົາມັນອອກຈາກໂຄງການເສັ້ນທາງບໍ? ແລະ "ຊ້າເກີນໄປ" ຫມາຍຄວາມວ່າແນວໃດ - ມັນມີຈໍານວນເທົ່າໃດ, ແລະໃຜເປັນຜູ້ກໍານົດພວກມັນ? ບາງທີໃຫ້ມັນພັກຜ່ອນແລ້ວລອງໃໝ່ໃນພາຍຫຼັງບໍ? ຖ້າເປັນດັ່ງນັ້ນ, ຫຼາຍປານໃດຕໍ່ມາ?

Pool Ejection ໃນ Istio ແມ່ນຫຍັງ

ແລະໃນທີ່ນີ້ Istio ເຂົ້າມາຊ່ວຍຊີວິດດ້ວຍເຄື່ອງປ້ອງກັນ Circuit Breaker ຂອງມັນ, ເຊິ່ງເອົາຕູ້ຄອນເທນເນີທີ່ຜິດພາດອອກຈາກລະບົບການສົ່ງຊັບພະຍາກອນ ແລະ ການດຸ່ນດ່ຽງການໂຫຼດເປັນການຊົ່ວຄາວ, ປະຕິບັດຂັ້ນຕອນການປະຖິ້ມສະລອຍນໍ້າ.

ການນໍາໃຊ້ຍຸດທະສາດການຊອກຄົ້ນຫາ outlier, Istio ກວດພົບເສັ້ນໂຄ້ງຂອງຝັກທີ່ບໍ່ມີເສັ້ນແລະເອົາພວກມັນອອກຈາກກຸ່ມຊັບພະຍາກອນສໍາລັບໄລຍະເວລາທີ່ກໍານົດໄວ້ກ່ອນ, ເອີ້ນວ່າປ່ອງຢ້ຽມນອນ.

ເພື່ອສະແດງໃຫ້ເຫັນວ່າມັນເຮັດວຽກແນວໃດໃນ Kubernetes ໃນແພລະຕະຟອມ OpenShift, ໃຫ້ເລີ່ມຕົ້ນດ້ວຍຮູບຫນ້າຈໍຂອງ microservices ທີ່ເຮັດວຽກປົກກະຕິຈາກຕົວຢ່າງໃນບ່ອນເກັບມ້ຽນ. Red Hat Developer Demos. ໃນທີ່ນີ້ພວກເຮົາມີສອງຝັກ, v1 ແລະ v2, ແຕ່ລະຄົນແລ່ນຫນຶ່ງຖັງ. ເມື່ອກົດລະບຽບການກຳນົດເສັ້ນທາງ Istio ບໍ່ໄດ້ໃຊ້, Kubernetes ຈະຕັ້ງຄ່າເລີ່ມຕົ້ນເປັນການຈັດເສັ້ນທາງຮອບ-ໂຣບິນທີ່ສົມດູນກັນ:

ການກຽມພ້ອມສໍາລັບອຸປະຕິເຫດ

ກ່ອນທີ່ຈະເຮັດ Pool Ejection, ທ່ານຈໍາເປັນຕ້ອງສ້າງກົດລະບຽບການກໍານົດເສັ້ນທາງ Istio. ໃຫ້ເວົ້າວ່າພວກເຮົາຕ້ອງການແຈກຢາຍການຮ້ອງຂໍລະຫວ່າງຝັກໃນອັດຕາສ່ວນ 50/50. ນອກຈາກນັ້ນ, ພວກເຮົາຈະເພີ່ມຈໍານວນຖັງ v2 ຈາກຫນຶ່ງຫາສອງ, ເຊັ່ນນີ້:

oc scale deployment recommendation-v2 --replicas=2 -n tutorial

ໃນປັດຈຸບັນພວກເຮົາກໍານົດກົດລະບຽບການສົ່ງຕໍ່ເພື່ອໃຫ້ການຈະລາຈອນຖືກແຈກຢາຍລະຫວ່າງຝັກໃນອັດຕາສ່ວນ 50/50.

ນີ້ແມ່ນສິ່ງທີ່ຜົນໄດ້ຮັບຂອງກົດລະບຽບນີ້ເບິ່ງຄືວ່າ:

ເຈົ້າສາມາດພົບຄວາມຜິດກັບຄວາມຈິງທີ່ວ່າຫນ້າຈໍນີ້ບໍ່ແມ່ນ 50/50, ແຕ່ 14: 9, ແຕ່ເມື່ອເວລາຜ່ານໄປ, ສະຖານະການຈະດີຂຶ້ນ.

ການເຮັດຜິດ

ຕອນນີ້ໃຫ້ປິດການໃຊ້ງານໜຶ່ງໃນສອງຕູ້ບັນຈຸ v2 ເພື່ອໃຫ້ພວກເຮົາມີພາຊະນະ v1 ທີ່ມີສຸຂະພາບດີອັນໜຶ່ງ, ຕູ້ບັນຈຸ v2 ທີ່ມີສຸຂະພາບດີອັນໜຶ່ງ ແລະ ກ່ອງບັນຈຸ v2 ທີ່ຜິດພາດອັນໜຶ່ງ:

ການ​ແກ້​ໄຂ glitch ໄດ້​

ດັ່ງນັ້ນ, ພວກເຮົາມີພາຊະນະທີ່ຜິດພາດ, ແລະມັນເຖິງເວລາສໍາລັບ Pool Ejection. ການນໍາໃຊ້ config ງ່າຍດາຍຫຼາຍ, ພວກເຮົາຈະຍົກເວັ້ນພາຊະນະທີ່ລົ້ມເຫລວນີ້ຈາກໂຄງການເສັ້ນທາງໃດໆສໍາລັບ 15 ວິນາທີໂດຍຫວັງວ່າມັນຈະກັບຄືນສູ່ສະພາບສຸຂະພາບ (ບໍ່ວ່າຈະ restart ຫຼືຟື້ນຟູການປະຕິບັດ). ນີ້ແມ່ນສິ່ງທີ່ config ນີ້ເບິ່ງຄືວ່າແລະຜົນໄດ້ຮັບຂອງການເຮັດວຽກຂອງມັນ:

ດັ່ງທີ່ທ່ານສາມາດເບິ່ງເຫັນໄດ້, ກ່ອງບັນຈຸ v2 ທີ່ລົ້ມເຫລວບໍ່ໄດ້ຖືກນໍາໃຊ້ສໍາລັບການຮ້ອງຂໍການກໍານົດເສັ້ນທາງເນື່ອງຈາກວ່າມັນໄດ້ຖືກໂຍກຍ້າຍອອກຈາກສະນຸກເກີ. ແຕ່ຫຼັງຈາກ 15 ວິນາທີມັນຈະກັບຄືນສູ່ສະລອຍນ້ໍາໂດຍອັດຕະໂນມັດ. ຕົວຈິງແລ້ວ, ພວກເຮົາພຽງແຕ່ສະແດງໃຫ້ເຫັນວິທີການ Pool Ejection ເຮັດວຽກ.

ໃຫ້ເລີ່ມຕົ້ນການກໍ່ສ້າງສະຖາປັດຕະ

Pool Ejection, ບວກກັບຄວາມສາມາດໃນການກວດສອບຂອງ Istio, ຊ່ວຍໃຫ້ທ່ານສາມາດເລີ່ມຕົ້ນການສ້າງກອບສໍາລັບການປ່ຽນແທນພາຊະນະທີ່ຜິດພາດໂດຍອັດຕະໂນມັດເພື່ອຫຼຸດຜ່ອນ, ຖ້າບໍ່ລົບລ້າງ, downtime ແລະຄວາມລົ້ມເຫລວ.
 
ອົງການ NASA ມີຄຳຂວັນອັນໜຶ່ງອັນໜຶ່ງຄື ຄວາມລົ້ມເຫຼວບໍ່ແມ່ນທາງເລືອກ, ຜູ້ຂຽນຖືວ່າເປັນຜູ້ອຳນວຍການບິນ. Gene Kranz. ມັນສາມາດແປເປັນພາສາລັດເຊຍວ່າ "ຄວາມລົ້ມເຫຼວບໍ່ແມ່ນທາງເລືອກ," ແລະຄວາມຫມາຍນີ້ແມ່ນວ່າທຸກສິ່ງທຸກຢ່າງສາມາດເຮັດວຽກໄດ້ຖ້າທ່ານມີຄວາມຕັ້ງໃຈພຽງພໍ. ຢ່າງໃດກໍຕາມ, ໃນຊີວິດຈິງ, ຄວາມລົ້ມເຫຼວບໍ່ພຽງແຕ່ເກີດຂຶ້ນ, ພວກມັນເປັນສິ່ງທີ່ຫຼີກລ່ຽງບໍ່ໄດ້, ຢູ່ທົ່ວທຸກແຫ່ງແລະໃນທຸກສິ່ງທຸກຢ່າງ. ແລະວິທີການຈັດການກັບພວກມັນໃນກໍລະນີຂອງ microservices? ໃນຄວາມຄິດເຫັນຂອງພວກເຮົາ, ມັນດີກວ່າທີ່ຈະບໍ່ອີງໃສ່ຄວາມຕັ້ງໃຈ, ແຕ່ກ່ຽວກັບຄວາມສາມາດຂອງຖັງ, Kubernetes, RedHat OpenShiftແລະ ອິຊິໂອ.

Istio, ດັ່ງທີ່ພວກເຮົາຂຽນຂ້າງເທິງ, ປະຕິບັດແນວຄວາມຄິດຂອງ breakers ວົງຈອນ, ເຊິ່ງໄດ້ພິສູດຕົວເອງໄດ້ດີໃນໂລກທາງດ້ານຮ່າງກາຍ. ແລະຄືກັນກັບເຄື່ອງຕັດວົງຈອນໄຟຟ້າປິດພາກສ່ວນບັນຫາຂອງວົງຈອນ, ຊອບແວຂອງ Istio Circuit Breaker ເປີດການເຊື່ອມຕໍ່ລະຫວ່າງກະແສການຮ້ອງຂໍແລະກ່ອງບັນຈຸບັນຫາເມື່ອມີບາງຢ່າງຜິດພາດກັບຈຸດສິ້ນສຸດ, ຕົວຢ່າງ, ເມື່ອເຄື່ອງແມ່ຂ່າຍຂັດຂ້ອງຫຼືເລີ່ມເຮັດວຽກ. ຊ້າ​ລົງ.

ຍິ່ງໄປກວ່ານັ້ນ, ໃນກໍລະນີທີສອງມີບັນຫາຫຼາຍ, ເນື່ອງຈາກວ່າເບກຂອງຖັງຫນຶ່ງບໍ່ພຽງແຕ່ເຮັດໃຫ້ເກີດຄວາມລ່າຊ້າຂອງການບໍລິການທີ່ເຂົ້າເຖິງມັນແລະ, ດັ່ງນັ້ນ, ຫຼຸດຜ່ອນການປະຕິບັດຂອງລະບົບທັງຫມົດ, ແຕ່ຍັງສ້າງຊ້ໍາອີກ. ຮ້ອງຂໍການບໍລິການທີ່ເຮັດວຽກຊ້າແລ້ວ, ເຊິ່ງພຽງແຕ່ເຮັດໃຫ້ສະຖານະການຮ້າຍແຮງຂຶ້ນ.

Circuit Breaker ໃນທິດສະດີ

Circuit Breaker ແມ່ນຕົວແທນທີ່ຄວບຄຸມການໄຫຼເຂົ້າຂອງການຮ້ອງຂໍໄປຫາຈຸດສິ້ນສຸດ. ເມື່ອຈຸດນີ້ຢຸດເຮັດວຽກຫຼື, ອີງຕາມການຕັ້ງຄ່າທີ່ລະບຸ, ເລີ່ມຊ້າລົງ, ຕົວແທນຈະທໍາລາຍການເຊື່ອມຕໍ່ກັບຖັງ. ການຈາລະຈອນຈະຖືກໂອນໄປຫາບ່ອນບັນຈຸອື່ນໆ, ພຽງແຕ່ຍ້ອນການດຸ່ນດ່ຽງການໂຫຼດ. ການເຊື່ອມຕໍ່ຍັງຄົງເປີດສໍາລັບປ່ອງຢ້ຽມນອນທີ່ໃຫ້, ເວົ້າສອງນາທີ, ແລະຫຼັງຈາກນັ້ນຖືວ່າເປີດເຄິ່ງຫນຶ່ງ. ຄວາມພະຍາຍາມທີ່ຈະສົ່ງຄໍາຮ້ອງຂໍຕໍ່ໄປກໍານົດສະຖານະເພີ່ມເຕີມຂອງການເຊື່ອມຕໍ່. ຖ້າທຸກສິ່ງທຸກຢ່າງແມ່ນດີກັບການບໍລິການ, ການເຊື່ອມຕໍ່ກັບຄືນສູ່ສະພາບການເຮັດວຽກແລະອີກເທື່ອຫນຶ່ງຈະຖືກປິດ. ຖ້າຍັງມີບາງຢ່າງຜິດພາດກັບການບໍລິການ, ການເຊື່ອມຕໍ່ຖືກຕັດການເຊື່ອມຕໍ່ແລະປ່ອງຢ້ຽມນອນໄດ້ຖືກເປີດໃຊ້ຄືນໃຫມ່. ນີ້ແມ່ນສິ່ງທີ່ແຜນວາດລັດ Circuit Breaker ແບບງ່າຍດາຍເບິ່ງຄືວ່າ:

ມັນເປັນສິ່ງສໍາຄັນທີ່ຈະສັງເກດວ່າທັງຫມົດນີ້ເກີດຂື້ນໃນລະດັບ, ດັ່ງນັ້ນ, ເວົ້າ, ຖາປັດຕະຍະລະບົບ. ດັ່ງນັ້ນໃນບາງຈຸດທ່ານຈະຕ້ອງສອນຄໍາຮ້ອງສະຫມັກຂອງທ່ານໃຫ້ເຮັດວຽກກັບ Circuit Breaker, ເຊັ່ນການສະຫນອງຄ່າເລີ່ມຕົ້ນໃນການຕອບສະຫນອງຫຼື, ຖ້າເປັນໄປໄດ້, ບໍ່ສົນໃຈການມີຢູ່ຂອງການບໍລິການ. ຮູບແບບ bulkhead ແມ່ນໃຊ້ສໍາລັບການນີ້, ແຕ່ມັນເກີນຂອບເຂດຂອງບົດຄວາມນີ້.

Circuit Breaker ໃນການປະຕິບັດ

ຕົວຢ່າງ, ພວກເຮົາຈະດໍາເນີນການສອງສະບັບຂອງບໍລິການຈຸນລະພາກທີ່ແນະນໍາຂອງພວກເຮົາໃນ OpenShift. ຮຸ່ນ 1 ຈະເຮັດວຽກໄດ້ດີ, ແຕ່ໃນ v2 ພວກເຮົາຈະສ້າງການຊັກຊ້າເພື່ອຈໍາລອງການຊ້າລົງໃນເຄື່ອງແມ່ຂ່າຍ. ເພື່ອເບິ່ງຜົນໄດ້ຮັບ, ໃຊ້ເຄື່ອງມື siege:

siege -r 2 -c 20 -v customer-tutorial.$(minishift ip).nip.io

ທຸກຢ່າງເບິ່ງຄືວ່າຈະເຮັດວຽກ, ແຕ່ວ່າລາຄາເທົ່າໃດ? ຢູ່ glance ທໍາອິດ, ພວກເຮົາມີຄວາມພ້ອມ 100%, ແຕ່ເບິ່ງໃກ້ຊິດ - ໄລຍະເວລາການເຮັດທຸລະກໍາສູງສຸດແມ່ນເທົ່າກັບ 12 ວິນາທີ. ນີ້​ແມ່ນ​ເປັນ​ຂອດ​ຢ່າງ​ຈະ​ແຈ້ງ​ແລະ​ຕ້ອງ​ໄດ້​ຮັບ​ການ​ຂະ​ຫຍາຍ.

ເພື່ອເຮັດສິ່ງນີ້, ພວກເຮົາຈະໃຊ້ Istio ເພື່ອລົບລ້າງການໂທໄປຫາຕູ້ຄອນເທນເນີຊ້າ. ນີ້ແມ່ນສິ່ງທີ່ config ທີ່ສອດຄ້ອງກັນເບິ່ງຄືວ່າການນໍາໃຊ້ Circuit Breaker:

ເສັ້ນສຸດທ້າຍທີ່ມີຕົວກໍານົດການ httpMaxRequestsPerConnection ສັນຍານວ່າການເຊື່ອມຕໍ່ກັບຄວນຈະຖືກຕັດການເຊື່ອມຕໍ່ໃນເວລາທີ່ພະຍາຍາມສ້າງອື່ນ - ທີສອງ - ການເຊື່ອມຕໍ່ນອກເຫນືອຈາກທີ່ມີຢູ່ແລ້ວ. ນັບຕັ້ງແຕ່ຕູ້ຄອນເທນເນີຂອງພວກເຮົາຈໍາລອງການບໍລິການຊ້າ, ສະຖານະການດັ່ງກ່າວຈະເກີດຂື້ນເປັນແຕ່ລະໄລຍະ, ແລະຫຼັງຈາກນັ້ນ Istio ຈະສົ່ງຄືນຂໍ້ຜິດພາດ 503, ແຕ່ນີ້ແມ່ນສິ່ງທີ່ siege ຈະສະແດງໃຫ້ເຫັນ:

ຕົກລົງ, ພວກເຮົາມີ Circuit Breaker, ແມ່ນຫຍັງຕໍ່ໄປ?

ດັ່ງນັ້ນ, ພວກເຮົາປະຕິບັດການປິດອັດຕະໂນມັດໂດຍບໍ່ມີການສໍາຜັດກັບລະຫັດແຫຼ່ງຂອງການບໍລິການດ້ວຍຕົນເອງທັງຫມົດ. ການນໍາໃຊ້ Circuit Breaker ແລະຂັ້ນຕອນ Pool Ejection ທີ່ອະທິບາຍຂ້າງເທິງ, ພວກເຮົາສາມາດເອົາຖັງເບກອອກຈາກສະນຸກເກີຊັບພະຍາກອນຈົນກ່ວາພວກເຂົາກັບຄືນສູ່ສະພາບປົກກະຕິ, ແລະກວດເບິ່ງສະຖານະຂອງພວກເຂົາໃນຄວາມຖີ່ທີ່ກໍານົດໄວ້ - ໃນຕົວຢ່າງຂອງພວກເຮົາ, ນີ້ແມ່ນສອງນາທີ (ພາລາມິເຕີ sleepWindow).

ໃຫ້ສັງເກດວ່າຄວາມສາມາດຂອງແອັບພລິເຄຊັນເພື່ອຕອບສະຫນອງຂໍ້ຜິດພາດ 503 ຍັງຖືກຕັ້ງຢູ່ໃນລະດັບລະຫັດແຫຼ່ງ. ມີຫຼາຍຍຸດທະສາດສໍາລັບການນໍາໃຊ້ Circuit Breaker, ຂຶ້ນກັບສະຖານະການ.

ໃນບົດຄວາມຕໍ່ໄປ: ພວກເຮົາຈະສົນທະນາກ່ຽວກັບການຕິດຕາມແລະການຕິດຕາມທີ່ສ້າງໃນແລ້ວຫຼືຖືກເພີ່ມເຂົ້າໃນ Istio, ເຊັ່ນດຽວກັນກັບວິທີການແນະນໍາຄວາມຜິດພາດໃນລະບົບໂດຍເຈດຕະນາ.

ແຫຼ່ງຂໍ້ມູນ: www.habr.com