FAQ ກ່ຽວກັບຖາປັດຕະຍະແລະການເຮັດວຽກຂອງ VKontakte

ປະຫວັດຂອງການສ້າງ VKontakte ແມ່ນຢູ່ໃນ Wikipedia; ມັນຖືກບອກໂດຍ Pavel ເອງ. ເບິ່ງຄືວ່າທຸກຄົນຮູ້ຈັກນາງແລ້ວ. ກ່ຽວກັບພາຍໃນ, ສະຖາປັດຕະຍະກໍາແລະໂຄງສ້າງຂອງສະຖານທີ່ໃນ HighLoad++ Pavel ບອກຂ້ອຍຄືນໃນປີ 2010. ເຄື່ອງແມ່ຂ່າຍຈໍານວນຫຼາຍໄດ້ຮົ່ວໄຫຼຕັ້ງແຕ່ນັ້ນມາ, ດັ່ງນັ້ນພວກເຮົາຈະປັບປຸງຂໍ້ມູນ: ພວກເຮົາຈະຕັດມັນ, ເອົາພາຍໃນອອກ, ຊັ່ງນໍ້າຫນັກແລະເບິ່ງອຸປະກອນ VK ຈາກມຸມເບິ່ງດ້ານວິຊາການ.

Alexey Akulovich (AterCattus) ນັກພັດທະນາ backend ໃນທີມງານ VKontakte. ບົດບັນທຶກຂອງບົດລາຍງານນີ້ແມ່ນຄໍາຕອບລວມສໍາລັບຄໍາຖາມທີ່ມັກຖາມເລື້ອຍໆກ່ຽວກັບການດໍາເນີນງານຂອງເວທີ, ໂຄງສ້າງພື້ນຖານ, ເຄື່ອງແມ່ຂ່າຍແລະການໂຕ້ຕອບລະຫວ່າງພວກເຂົາ, ແຕ່ບໍ່ແມ່ນກ່ຽວກັບການພັດທະນາ, ຄື. ກ່ຽວກັບທາດເຫຼັກ. ແຍກຕ່າງຫາກ, ກ່ຽວກັບຖານຂໍ້ມູນແລະສິ່ງທີ່ VK ມີແທນທີ່ຈະ, ກ່ຽວກັບການເກັບກໍາຂໍ້ມູນບັນທຶກແລະການຕິດຕາມໂຄງການທັງຫມົດ. ລາຍລະອຽດພາຍໃຕ້ການຕັດ.

ສໍາລັບຫຼາຍກວ່າສີ່ປີຂ້າພະເຈົ້າໄດ້ຈັດການກັບທຸກປະເພດຂອງວຽກງານທີ່ກ່ຽວຂ້ອງກັບ backend.

• ການ​ອັບ​ໂຫຼດ​, ການ​ເກັບ​ຮັກ​ສາ​, ການ​ປຸງ​ແຕ່ງ​, ການ​ແຈກ​ຢາຍ​ສື່​ມວນ​ຊົນ​: ວິ​ດີ​ໂອ​, ນ​້​ໍ​າ​ສົດ​, ສຽງ​, ຮູບ​ພາບ​, ເອ​ກະ​ສານ​.
• ໂຄງສ້າງພື້ນຖານ, ເວທີ, ການຕິດຕາມຜູ້ພັດທະນາ, ບັນທຶກ, ຖານຄວາມຈໍາຂອງພາກພື້ນ, CDN, ອະນຸສັນຍາ RPC ທີ່ເປັນເຈົ້າຂອງ.
• ການປະສົມປະສານກັບການບໍລິການພາຍນອກ: ແຈ້ງການຊຸກຍູ້, ການແຍກວິເຄາະການເຊື່ອມຕໍ່ພາຍນອກ, ອາຫານ RSS.
• ຊ່ວຍເຫຼືອເພື່ອນຮ່ວມງານດ້ວຍຄໍາຖາມຕ່າງໆ, ຄໍາຕອບທີ່ຮຽກຮ້ອງໃຫ້ດໍານ້ໍາເຂົ້າໄປໃນລະຫັດທີ່ບໍ່ຮູ້ຈັກ.

ໃນລະຫວ່າງເວລານີ້, ຂ້າພະເຈົ້າໄດ້ມີມືໃນຫຼາຍໆອົງປະກອບຂອງເວັບໄຊທ໌. ຂ້ອຍຕ້ອງການແບ່ງປັນປະສົບການນີ້.

ສະຖາປັດຕະຍະກໍາທົ່ວໄປ

ທຸກສິ່ງທຸກຢ່າງ, ຕາມປົກກະຕິ, ເລີ່ມຕົ້ນດ້ວຍເຄື່ອງແມ່ຂ່າຍຫຼືກຸ່ມຂອງເຄື່ອງແມ່ຂ່າຍທີ່ຍອມຮັບຄໍາຮ້ອງຂໍ.

ເຊີບເວີດ້ານຫນ້າ

ເຄື່ອງແມ່ຂ່າຍດ້ານຫນ້າຍອມຮັບການຮ້ອງຂໍຜ່ານ HTTPS, RTMP ແລະ WSS.

ສະຖານທີ່ HTTP - ເຫຼົ່ານີ້ແມ່ນການຮ້ອງຂໍສໍາລັບສະບັບເວັບໄຊຕ໌ຕົ້ນຕໍແລະມືຖືຂອງເວັບໄຊທ໌: vk.com ແລະ m.vk.com, ແລະລູກຄ້າຢ່າງເປັນທາງການແລະບໍ່ເປັນທາງການອື່ນໆຂອງ API ຂອງພວກເຮົາ: ລູກຄ້າມືຖື, messengers. ພວກເຮົາມີການຕ້ອນຮັບ RTMP-traffic ສໍາລັບການອອກອາກາດສົດກັບເຄື່ອງແມ່ຂ່າຍທາງຫນ້າແຍກຕ່າງຫາກແລະ WSS- ການເຊື່ອມຕໍ່ສໍາລັບ Streaming API.

ສໍາລັບ HTTPS ແລະ WSS ໃນເຄື່ອງແມ່ຂ່າຍມັນຄຸ້ມຄ່າ nginx. ສໍາລັບການອອກອາກາດ RTMP, ພວກເຮົາບໍ່ດົນມານີ້ໄດ້ປ່ຽນໄປຫາການແກ້ໄຂຂອງພວກເຮົາເອງ ກະວີ, ແຕ່ມັນເກີນຂອບເຂດຂອງບົດລາຍງານ. ສໍາລັບຄວາມທົນທານຕໍ່ຄວາມຜິດ, ເຄື່ອງແມ່ຂ່າຍເຫຼົ່ານີ້ໂຄສະນາທີ່ຢູ່ IP ທົ່ວໄປແລະປະຕິບັດເປັນກຸ່ມເພື່ອວ່າຖ້າມີບັນຫາຢູ່ໃນເຄື່ອງແມ່ຂ່າຍຫນຶ່ງ, ການຮ້ອງຂໍຂອງຜູ້ໃຊ້ຈະບໍ່ສູນເສຍ. ສໍາລັບ HTTPS ແລະ WSS, ເຊີບເວີດຽວກັນເຫຼົ່ານີ້ເຂົ້າລະຫັດການຈາລະຈອນເພື່ອເອົາສ່ວນຫນຶ່ງຂອງການໂຫຼດ CPU ດ້ວຍຕົນເອງ.

ພວກເຮົາຈະບໍ່ເວົ້າຕື່ມອີກກ່ຽວກັບ WSS ແລະ RTMP, ແຕ່ວ່າພຽງແຕ່ກ່ຽວກັບການຮ້ອງຂໍ HTTPS ມາດຕະຖານ, ເຊິ່ງປົກກະຕິແລ້ວແມ່ນກ່ຽວຂ້ອງກັບໂຄງການເວັບໄຊຕ໌.

backend

ຢູ່ທາງຫລັງດ້ານຫນ້າມັກຈະມີເຄື່ອງແມ່ຂ່າຍ backend. ພວກເຂົາເຈົ້າດໍາເນີນການຮ້ອງຂໍທີ່ເຄື່ອງແມ່ຂ່າຍທາງຫນ້າໄດ້ຮັບຈາກລູກຄ້າ.

ນີ້ kPHP ເຊີບເວີ, ທີ່ HTTP daemon ກໍາລັງແລ່ນ, ເພາະວ່າ HTTPS ຖືກຖອດລະຫັດແລ້ວ. kPHP ເປັນເຊີບເວີທີ່ເຮັດວຽກຢູ່ ແບບ prefork: ເລີ່ມຕົ້ນຂະບວນການແມ່ບົດ, ຂະບວນການຂອງເດັກນ້ອຍຫຼາຍ, ຜ່ານຊ່ອງສຽບການຟັງໃຫ້ພວກເຂົາແລະພວກເຂົາດໍາເນີນການຮ້ອງຂໍຂອງພວກເຂົາ. ໃນກໍລະນີນີ້, ຂະບວນການບໍ່ໄດ້ຖືກເລີ່ມຕົ້ນໃຫມ່ລະຫວ່າງແຕ່ລະຄໍາຮ້ອງຂໍຈາກຜູ້ໃຊ້, ແຕ່ພຽງແຕ່ປັບສະຖານະຂອງພວກເຂົາເປັນສູນມູນຄ່າຕົ້ນສະບັບ - ຮ້ອງຂໍຫຼັງຈາກການຮ້ອງຂໍ, ແທນທີ່ຈະເລີ່ມຕົ້ນໃຫມ່.

ໂຫລດການແຈກຈ່າຍ

backends ຂອງພວກເຮົາທັງຫມົດບໍ່ແມ່ນສະນຸກເກີຂະຫນາດໃຫຍ່ຂອງເຄື່ອງຈັກທີ່ສາມາດປະມວນຜົນການຮ້ອງຂໍໃດໆ. ພວກເຮົາເຂົາເຈົ້າ ແບ່ງ​ອອກ​ເປັນ​ກຸ່ມ​ແຍກ​ຕ່າງ​ຫາກ​: ທົ່ວໄປ, ມືຖື, api, ວິດີໂອ, staging... ບັນຫາໃນກຸ່ມເຄື່ອງທີ່ແຍກກັນຈະບໍ່ສົ່ງຜົນກະທົບຕໍ່ຄົນອື່ນທັງໝົດ. ໃນ​ກໍ​ລະ​ນີ​ທີ່​ມີ​ບັນ​ຫາ​ກ່ຽວ​ກັບ​ວິ​ດີ​ໂອ​, ຜູ້​ໃຊ້​ທີ່​ຟັງ​ເພງ​ຈະ​ບໍ່​ຮູ້​ກ່ຽວ​ກັບ​ບັນ​ຫາ​. ເຊິ່ງ backend ທີ່ຈະສົ່ງຄໍາຮ້ອງຂໍໃຫ້ຖືກຕັດສິນໂດຍ nginx ຢູ່ດ້ານຫນ້າຕາມການຕັ້ງຄ່າ.

ການ​ເກັບ​ກໍາ​ຂໍ້​ມູນ​ແລະ​ການ​ດຸ່ນ​ດ່ຽງ​

ເພື່ອເຂົ້າໃຈວ່າພວກເຮົາຈໍາເປັນຕ້ອງມີລົດຫຼາຍປານໃດໃນແຕ່ລະກຸ່ມ, ພວກເຮົາ ຢ່າອີງໃສ່ QPS. backends ແມ່ນແຕກຕ່າງກັນ, ພວກເຂົາມີຄໍາຮ້ອງຂໍທີ່ແຕກຕ່າງກັນ, ແຕ່ລະຄໍາຮ້ອງຂໍມີຄວາມສັບສົນທີ່ແຕກຕ່າງກັນຂອງການຄິດໄລ່ QPS. ນັ້ນແມ່ນເຫດຜົນທີ່ພວກເຮົາ ພວກເຮົາດໍາເນີນການກັບແນວຄວາມຄິດຂອງການໂຫຼດຢູ່ໃນເຄື່ອງແມ່ຂ່າຍທັງຫມົດ - ໃນ CPU ແລະ perf.

ພວກເຮົາມີເຄື່ອງແມ່ຂ່າຍດັ່ງກ່າວຫລາຍພັນຄົນ. ແຕ່ລະເຄື່ອງແມ່ຂ່າຍທາງດ້ານຮ່າງກາຍດໍາເນີນການກຸ່ມ kPHP ເພື່ອເອົາແກນທັງຫມົດຄືນໃຫມ່ (ເພາະວ່າ kPHP ເປັນ threaded ດຽວ).

ເຊີບເວີເນື້ອຫາ

CS ຫຼື Content Server ແມ່ນການເກັບຮັກສາ. CS ເປັນເຊີບເວີທີ່ເກັບຮັກສາໄຟລ໌ ແລະຍັງປະມວນຜົນໄຟລ໌ທີ່ອັບໂຫລດ ແລະທຸກປະເພດຂອງວຽກ synchronous ພື້ນຫຼັງທີ່ໜ້າເວັບຫຼັກມອບໝາຍໃຫ້ມັນ.

ພວກເຮົາມີເຄື່ອງແມ່ຂ່າຍທາງດ້ານຮ່າງກາຍຫຼາຍສິບພັນອັນທີ່ເກັບຮັກສາໄຟລ໌. ຜູ້ໃຊ້ມັກອັບໂຫລດໄຟລ໌, ແລະພວກເຮົາມັກເກັບຮັກສາແລະແບ່ງປັນມັນ. ບາງເຄື່ອງແມ່ຂ່າຍເຫຼົ່ານີ້ຖືກປິດໂດຍເຄື່ອງແມ່ຂ່າຍ pu / pp ພິເສດ.

pu/pp

ຖ້າທ່ານເປີດແຖບເຄືອຂ່າຍໃນ VK, ທ່ານຈະເຫັນ pu/pp.

pu/pp ແມ່ນຫຍັງ? ຖ້າພວກເຮົາປິດເຄື່ອງແມ່ຂ່າຍຫນຶ່ງຫຼັງຈາກທີ່ອື່ນ, ຫຼັງຈາກນັ້ນ, ມີສອງທາງເລືອກໃນການອັບໂຫລດແລະດາວໂຫລດໄຟລ໌ໄປຫາເຄື່ອງແມ່ຂ່າຍທີ່ຖືກປິດ: ໂດຍກົງ ໂດຍຜ່ານການ http://cs100500.userapi.com/path ຫຼື ຜ່ານເຊີບເວີລະດັບກາງ - http://pu.vk.com/c100500/path.

Pu ແມ່ນຊື່ປະຫວັດສາດສໍາລັບການອັບໂຫລດຮູບພາບ, ແລະ pp ແມ່ນຕົວແທນຮູບພາບ. ນັ້ນແມ່ນ, ເຄື່ອງແມ່ຂ່າຍຫນຶ່ງແມ່ນສໍາລັບການອັບໂຫລດຮູບພາບ, ແລະອີກອັນຫນຶ່ງແມ່ນສໍາລັບການອັບໂຫລດ. ໃນປັດຈຸບັນບໍ່ພຽງແຕ່ຮູບພາບໄດ້ຖືກໂຫລດ, ແຕ່ຊື່ໄດ້ຖືກເກັບຮັກສາໄວ້.

ເຊີບເວີເຫຼົ່ານີ້ ຢຸດເຊດຊັນ HTTPSເພື່ອເອົາການໂຫຼດຂອງໂປເຊດເຊີອອກຈາກບ່ອນເກັບຂໍ້ມູນ. ນອກຈາກນີ້, ເນື່ອງຈາກໄຟລ໌ຜູ້ໃຊ້ຖືກປະມວນຜົນຢູ່ໃນເຄື່ອງແມ່ຂ່າຍເຫຼົ່ານີ້, ຂໍ້ມູນທີ່ລະອຽດອ່ອນຫນ້ອຍເກັບຮັກສາໄວ້ໃນເຄື່ອງເຫຼົ່ານີ້, ດີກວ່າ. ຕົວຢ່າງ, ລະຫັດການເຂົ້າລະຫັດ HTTPS.

ນັບຕັ້ງແຕ່ເຄື່ອງຈັກຖືກປິດໂດຍເຄື່ອງອື່ນໆຂອງພວກເຮົາ, ພວກເຮົາສາມາດທີ່ຈະບໍ່ໃຫ້ພວກມັນ "ສີຂາວ" IPs ພາຍນອກ, ແລະ. ໃຫ້ "ສີຂີ້ເຖົ່າ". ດ້ວຍວິທີນີ້, ພວກເຮົາບັນທຶກໄວ້ໃນສະນຸກເກີ IP ແລະຮັບປະກັນເພື່ອປົກປ້ອງເຄື່ອງຈັກຈາກການເຂົ້າເຖິງພາຍນອກ - ມີພຽງແຕ່ບໍ່ມີ IP ທີ່ຈະເຂົ້າໄປໃນມັນ.

ຄວາມຢືດຢຸ່ນຫຼາຍກວ່າ IP ທີ່ແບ່ງປັນ. ໃນແງ່ຂອງຄວາມທົນທານຕໍ່ຄວາມຜິດ, ໂຄງການເຮັດວຽກດຽວກັນ - ເຄື່ອງແມ່ຂ່າຍທາງດ້ານຮ່າງກາຍຈໍານວນຫນຶ່ງມີ IP ທາງດ້ານຮ່າງກາຍທົ່ວໄປ, ແລະຮາດແວທີ່ຢູ່ທາງຫນ້າຂອງພວກເຂົາເລືອກບ່ອນທີ່ຈະສົ່ງຄໍາຮ້ອງຂໍ. ຂ້ອຍຈະເວົ້າກ່ຽວກັບທາງເລືອກອື່ນໃນພາຍຫຼັງ.

ຈຸດຂັດແຍ້ງແມ່ນວ່າໃນກໍລະນີນີ້ ລູກຄ້າຮັກສາການເຊື່ອມຕໍ່ຫນ້ອຍລົງ. ຖ້າມີ IP ດຽວກັນສໍາລັບຫຼາຍໆເຄື່ອງ - ກັບເຈົ້າພາບດຽວກັນ: pu.vk.com ຫຼື pp.vk.com, ຕົວທ່ອງເວັບຂອງລູກຄ້າມີຂອບເຂດຈໍາກັດກ່ຽວກັບຈໍານວນການຮ້ອງຂໍພ້ອມກັນກັບຫນຶ່ງເຈົ້າພາບ. ແຕ່ໃນຊ່ວງເວລາຂອງ HTTP/2 ຢູ່ທົ່ວທຸກແຫ່ງ, ຂ້ອຍເຊື່ອວ່າມັນບໍ່ກ່ຽວຂ້ອງອີກຕໍ່ໄປ.

ຂໍ້ເສຍທີ່ຈະແຈ້ງຂອງໂຄງການແມ່ນວ່າມັນຕ້ອງ ສູບການຈະລາຈອນທັງຫມົດ, ເຊິ່ງໄປຫາບ່ອນເກັບມ້ຽນ, ຜ່ານເຄື່ອງແມ່ຂ່າຍອື່ນ. ເນື່ອງຈາກພວກເຮົາສູບການຈະລາຈອນຜ່ານເຄື່ອງຈັກ, ພວກເຮົາຍັງບໍ່ສາມາດສະກັດກັ້ນການຈະລາຈອນຢ່າງຮຸນແຮງ, ຕົວຢ່າງ, ວິດີໂອ, ການນໍາໃຊ້ໂຄງການດຽວກັນ. ພວກເຮົາສົ່ງມັນໂດຍກົງ - ການເຊື່ອມຕໍ່ໂດຍກົງແຍກຕ່າງຫາກສໍາລັບການເກັບຮັກສາແຍກຕ່າງຫາກໂດຍສະເພາະສໍາລັບວິດີໂອ. ພວກເຮົາສົ່ງເນື້ອຫາເບົາກວ່າຜ່ານຕົວແທນ.

ເມື່ອບໍ່ດົນຜ່ານມານີ້ ພວກເຮົາໄດ້ຮັບພຣັອກຊີສະບັບປັບປຸງແລ້ວ. ດຽວນີ້ຂ້ອຍຈະບອກເຈົ້າວ່າພວກມັນແຕກຕ່າງຈາກແບບ ທຳ ມະດາແນວໃດແລະເປັນຫຍັງມັນຈຶ່ງ ຈຳ ເປັນ.

ແສງຕາເວັນ

ໃນເດືອນກັນຍາ 2017, Oracle, ເຊິ່ງໄດ້ຊື້ Sun ກ່ອນຫນ້ານີ້, ໄດ້ປົດພະນັກງານ Sun ເປັນຈໍານວນຫຼວງຫຼາຍ. ພວກເຮົາສາມາດເວົ້າໄດ້ວ່າໃນເວລານີ້ບໍລິສັດຢຸດເຊົາຢູ່. ເມື່ອເລືອກຊື່ສໍາລັບລະບົບໃຫມ່, ຜູ້ບໍລິຫານຂອງພວກເຮົາໄດ້ຕັດສິນໃຈທີ່ຈະຈ່າຍ tribute ກັບຄວາມຊົງຈໍາຂອງບໍລິສັດນີ້ແລະຕັ້ງຊື່ລະບົບໃຫມ່ Sun. ໃນບັນດາຕົວເຮົາເອງພວກເຮົາເອີ້ນນາງວ່າ "ດວງອາທິດ".

pp ມີບັນຫາເລັກນ້ອຍ. ຫນຶ່ງ IP ຕໍ່ກຸ່ມ - cache ineffective. ເຊີບເວີທາງກາຍະພາບຫຼາຍອັນແບ່ງປັນທີ່ຢູ່ IP ທົ່ວໄປ, ແລະບໍ່ມີວິທີທີ່ຈະຄວບຄຸມວ່າເຄື່ອງແມ່ຂ່າຍໃດທີ່ຮ້ອງຂໍຈະໄປຫາ. ດັ່ງນັ້ນ, ຖ້າຜູ້ໃຊ້ທີ່ແຕກຕ່າງກັນມາສໍາລັບໄຟລ໌ດຽວກັນ, ຫຼັງຈາກນັ້ນ, ຖ້າມີ cache ໃນເຄື່ອງແມ່ຂ່າຍເຫຼົ່ານີ້, ໄຟລ໌ຈະສິ້ນສຸດລົງໃນ cache ຂອງແຕ່ລະເຄື່ອງແມ່ຂ່າຍ. ນີ້ແມ່ນໂຄງການທີ່ບໍ່ມີປະສິດທິພາບຫຼາຍ, ແຕ່ບໍ່ມີຫຍັງສາມາດເຮັດໄດ້.

ສະ​ນັ້ນ - ພວກເຮົາບໍ່ສາມາດແບ່ງປັນເນື້ອໃນໄດ້, ເນື່ອງຈາກວ່າພວກເຮົາບໍ່ສາມາດເລືອກເຄື່ອງແມ່ຂ່າຍສະເພາະສໍາລັບກຸ່ມນີ້ - ພວກເຂົາມີ IP ທົ່ວໄປ. ນອກຈາກນີ້ສໍາລັບເຫດຜົນພາຍໃນບາງຢ່າງທີ່ພວກເຮົາມີ ມັນບໍ່ສາມາດທີ່ຈະຕິດຕັ້ງເຄື່ອງແມ່ຂ່າຍດັ່ງກ່າວຢູ່ໃນພາກພື້ນ. ພວກເຂົາເຈົ້າຢືນຢູ່ພຽງແຕ່ໃນ St.

ດ້ວຍແສງຕາເວັນ, ພວກເຮົາໄດ້ປ່ຽນລະບົບການຄັດເລືອກ. ໃນປັດຈຸບັນພວກເຮົາມີ ການກຳນົດເສັ້ນທາງ anycast: ການກຳນົດເສັ້ນທາງແບບເຄື່ອນໄຫວ, anycast, daemon ກວດສອບຕົນເອງ. ແຕ່ລະເຄື່ອງແມ່ຂ່າຍມີ IP ຂອງຕົນເອງ, ແຕ່ເຄືອຂ່າຍຍ່ອຍທົ່ວໄປ. ທຸກສິ່ງທຸກຢ່າງຖືກຕັ້ງຄ່າໃນລັກສະນະທີ່ຖ້າເຄື່ອງແມ່ຂ່າຍຫນຶ່ງລົ້ມເຫລວ, ການຈະລາຈອນຈະແຜ່ລາມໄປທົ່ວເຄື່ອງແມ່ຂ່າຍອື່ນໆຂອງກຸ່ມດຽວກັນໂດຍອັດຕະໂນມັດ. ໃນປັດຈຸບັນມັນເປັນໄປໄດ້ທີ່ຈະເລືອກເອົາເຄື່ອງແມ່ຂ່າຍສະເພາະ, ບໍ່ມີການເກັບຂໍ້ມູນຊໍ້າຊ້ອນ, ແລະຄວາມຫນ້າເຊື່ອຖືບໍ່ໄດ້ຮັບຜົນກະທົບ.

ສະຫນັບສະຫນູນນ້ໍາຫນັກ. ໃນປັດຈຸບັນພວກເຮົາສາມາດທີ່ຈະຕິດຕັ້ງເຄື່ອງຈັກທີ່ມີພະລັງງານທີ່ແຕກຕ່າງກັນຕາມຄວາມຕ້ອງການ, ແລະໃນກໍລະນີຂອງບັນຫາຊົ່ວຄາວ, ປ່ຽນນ້ໍາຫນັກຂອງ "ແສງຕາເວັນ" ທີ່ເຮັດວຽກເພື່ອຫຼຸດຜ່ອນການໂຫຼດຂອງພວກມັນ, ດັ່ງນັ້ນພວກເຂົາ "ພັກຜ່ອນ" ແລະເລີ່ມຕົ້ນເຮັດວຽກໃຫມ່.

ແບ່ງປັນໂດຍ ID ເນື້ອໃນ. ສິ່ງທີ່ຕະຫລົກກ່ຽວກັບການ sharding: ພວກເຮົາປົກກະຕິແລ້ວ shard ເນື້ອໃນເພື່ອໃຫ້ຜູ້ໃຊ້ທີ່ແຕກຕ່າງກັນໄປໄຟລ໌ດຽວກັນໂດຍຜ່ານ "ແສງຕາເວັນ" ດຽວກັນເພື່ອໃຫ້ພວກເຂົາເຈົ້າມີຖານຄວາມຈໍາທົ່ວໄປ.

ພວກເຮົາບໍ່ດົນມານີ້ໄດ້ເປີດຕົວ "Clover" ຄໍາຮ້ອງສະຫມັກ. ນີ້ແມ່ນແບບສອບຖາມອອນໄລນ໌ໃນການອອກອາກາດສົດ, ບ່ອນທີ່ເຈົ້າພາບຖາມຄໍາຖາມແລະຄໍາຕອບຂອງຜູ້ໃຊ້ໃນເວລາທີ່ແທ້ຈິງ, ເລືອກທາງເລືອກ. ແອັບຯມີການສົນທະນາທີ່ຜູ້ໃຊ້ສາມາດສົນທະນາໄດ້. ພ້ອມກັນສາມາດເຊື່ອມຕໍ່ກັບການອອກອາກາດໄດ້ ຫຼາຍກວ່າ 100 ພັນຄົນ. ພວກເຂົາທັງຫມົດຂຽນຂໍ້ຄວາມທີ່ຖືກສົ່ງໄປຫາຜູ້ເຂົ້າຮ່ວມທັງຫມົດ, ແລະ avatar ມາພ້ອມກັບຂໍ້ຄວາມ. ຖ້າ 100 ຄົນມາຫາຮູບແທນຕົວຫນຶ່ງໃນຫນຶ່ງ "ແສງຕາເວັນ", ຫຼັງຈາກນັ້ນ, ບາງຄັ້ງມັນສາມາດມ້ວນຢູ່ຫລັງເມກ.

ເພື່ອທົນຕໍ່ການຮ້ອງຂໍໄຟລ໌ດຽວກັນ, ມັນແມ່ນສໍາລັບບາງປະເພດຂອງເນື້ອຫາທີ່ພວກເຮົາເປີດໂຄງການໂງ່ຈ້າທີ່ກະຈາຍໄຟລ໌ໃນທົ່ວ "ແສງຕາເວັນ" ທີ່ມີຢູ່ໃນພາກພື້ນ.

ແດດຈາກພາຍໃນ

Reverse proxy ໃນ nginx, cache ບໍ່ວ່າຈະຢູ່ໃນ RAM ຫຼືໃນແຜ່ນ Optane / NVMe ທີ່ໄວ. ຕົວຢ່າງ: http://sun4-2.userapi.com/c100500/path — ການ​ເຊື່ອມ​ຕໍ່​ກັບ "ແສງ​ຕາ​ເວັນ​"​, ທີ່​ຕັ້ງ​ຢູ່​ໃນ​ພາກ​ພື້ນ​ທີ່​ສີ່​, ກຸ່ມ​ເຄື່ອງ​ແມ່​ຂ່າຍ​ທີ່​ສອງ​. ມັນປິດໄຟລ໌ເສັ້ນທາງ, ເຊິ່ງຢູ່ໃນເຄື່ອງແມ່ຂ່າຍ 100500.

ການປົກຫຸ້ມຂອງ

ພວກເຮົາເພີ່ມອີກອັນໜຶ່ງໃຫ້ກັບໂຄງສະຖາປັດຕະຍະກຳຂອງພວກເຮົາ - ສະພາບແວດລ້ອມການເກັບຂໍ້ມູນ.

ຂ້າງລຸ່ມນີ້ແມ່ນແຜນວາດການຈັດວາງ ຖານ​ຄວາມ​ຈໍາ​ພາກ​ພື້ນ​, ມີປະມານ 20 ຂອງພວກເຂົາ. ເຫຼົ່ານີ້ແມ່ນບ່ອນທີ່ຖານຄວາມຈໍາແລະ "ແສງຕາເວັນ" ຕັ້ງຢູ່, ເຊິ່ງສາມາດເກັບຂໍ້ມູນການຈະລາຈອນຜ່ານຕົວມັນເອງ.

ນີ້​ແມ່ນ​ການ​ເກັບ​ຄວາມ​ຈໍາ​ຂອງ​ເນື້ອ​ໃນ multimedia; ບໍ່​ມີ​ຂໍ້​ມູນ​ຜູ້​ໃຊ້​ໄດ້​ຖືກ​ເກັບ​ຮັກ​ສາ​ໄວ້​ທີ່​ນີ້ - ພຽງ​ແຕ່​ເພງ​, ວິ​ດີ​ໂອ​, ຮູບ​ພາບ​.

ເພື່ອກໍານົດພາກພື້ນຂອງຜູ້ໃຊ້, ພວກເຮົາ ພວກເຮົາເກັບກໍາຄໍານໍາຫນ້າເຄືອຂ່າຍ BGP ປະກາດໃນພາກພື້ນ. ໃນກໍລະນີຂອງ fallback, ພວກເຮົາຍັງຕ້ອງແຍກຖານຂໍ້ມູນ geoip ຖ້າພວກເຮົາບໍ່ສາມາດຊອກຫາ IP ໂດຍຄໍານໍາຫນ້າ. ພວກເຮົາກໍານົດພາກພື້ນໂດຍ IP ຂອງຜູ້ໃຊ້. ໃນລະຫັດ, ພວກເຮົາສາມາດເບິ່ງຫນຶ່ງຫຼືຫຼາຍພາກພື້ນຂອງຜູ້ໃຊ້ - ຈຸດເຫຼົ່ານັ້ນທີ່ລາວຢູ່ໃກ້ກັບພູມສັນຖານ.

ມັນບໍ່ໄດ້ແນວໃດເຮັດວຽກ?

ພວກເຮົານັບຄວາມນິຍົມຂອງໄຟລ໌ຕາມພາກພື້ນ. ມີຈໍານວນແຄດຂອງພາກພື້ນທີ່ຜູ້ໃຊ້ຕັ້ງຢູ່, ແລະຕົວລະບຸໄຟລ໌ - ພວກເຮົາເອົາຄູ່ນີ້ແລະເພີ່ມການຈັດອັນດັບດ້ວຍການດາວໂຫລດແຕ່ລະຄົນ.

ໃນຂະນະດຽວກັນ, ຜີປີສາດ - ການບໍລິການໃນພາກພື້ນ - ບາງຄັ້ງກໍ່ເຂົ້າມາ API ແລະເວົ້າວ່າ: "ຂ້ອຍເປັນເຊັ່ນນັ້ນແລະເປັນ cache, ໃຫ້ຂ້ອຍບັນຊີລາຍຊື່ຂອງໄຟລ໌ທີ່ນິຍົມທີ່ສຸດໃນພາກພື້ນຂອງຂ້ອຍທີ່ຍັງບໍ່ທັນມີຢູ່ໃນຂ້ອຍ. ” API ສະໜອງບັນດາໄຟລ໌ທີ່ຈັດຮຽງຕາມການຈັດອັນດັບ, daemon ດາວໂຫຼດພວກມັນ, ເອົາພວກມັນໄປຫາພາກພື້ນ ແລະສົ່ງໄຟລ໌ຈາກບ່ອນນັ້ນ. ນີ້ແມ່ນຄວາມແຕກຕ່າງພື້ນຖານລະຫວ່າງ pu / pp ແລະ Sun ຈາກຖານຄວາມຈໍາ: ພວກເຂົາໃຫ້ໄຟລ໌ຜ່ານຕົວມັນເອງທັນທີ, ເຖິງແມ່ນວ່າໄຟລ໌ນີ້ບໍ່ໄດ້ຢູ່ໃນ cache, ແລະ cache ທໍາອິດດາວໂຫລດໄຟລ໌ກັບຕົວມັນເອງ, ແລະຫຼັງຈາກນັ້ນເລີ່ມຕົ້ນໃຫ້ມັນຄືນ.

ໃນກໍລະນີນີ້ພວກເຮົາໄດ້ຮັບ ເນື້ອຫາໃກ້ຊິດກັບຜູ້ໃຊ້ ແລະແຜ່ຂະຫຍາຍການໂຫຼດເຄືອຂ່າຍ. ຕົວຢ່າງ, ພຽງແຕ່ຈາກແຄດ Moscow ທີ່ພວກເຮົາແຈກຢາຍຫຼາຍກວ່າ 1 Tbit / s ໃນຊ່ວງເວລາສູງສຸດ.

ແຕ່​ມີ​ບັນ​ຫາ - ເຊີບເວີ cache ບໍ່ແມ່ນຢາງ. ສໍາລັບເນື້ອຫາທີ່ມີຄວາມນິຍົມສູງ, ບາງຄັ້ງບໍ່ມີເຄືອຂ່າຍພຽງພໍສໍາລັບເຄື່ອງແມ່ຂ່າຍແຍກຕ່າງຫາກ. ເຊີບເວີ cache ຂອງພວກເຮົາແມ່ນ 40-50 Gbit/s, ແຕ່ມີເນື້ອຫາທີ່ປິດຊ່ອງດັ່ງກ່າວຢ່າງສົມບູນ. ພວກເຮົາກຳລັງກ້າວໄປສູ່ການຈັດຕັ້ງປະຕິບັດການຈັດເກັບຫຼາຍກວ່າໜຶ່ງສຳເນົາຂອງໄຟລ໌ທີ່ນິຍົມໃນພາກພື້ນ. ຂ້າພະເຈົ້າຫວັງວ່າພວກເຮົາຈະປະຕິບັດມັນໃນທ້າຍປີ.

ພວກເຮົາໄດ້ເບິ່ງສະຖາປັດຕະຍະກໍາທົ່ວໄປ.

• ເຊີບເວີດ້ານຫນ້າທີ່ຍອມຮັບການຮ້ອງຂໍ.
• Backends ຂະບວນການຮ້ອງຂໍ.
• ການເກັບຮັກສາທີ່ຖືກປິດໂດຍພຣັອກຊີສອງປະເພດ.
• ຖານຄວາມຈໍາຂອງພາກພື້ນ.

ສິ່ງທີ່ຂາດຫາຍໄປຈາກແຜນວາດນີ້? ແນ່ນອນ, ຖານຂໍ້ມູນທີ່ພວກເຮົາເກັບຂໍ້ມູນ.

ຖານຂໍ້ມູນຫຼືເຄື່ອງຈັກ

ພວກເຮົາໂທຫາພວກເຂົາບໍ່ແມ່ນຖານຂໍ້ມູນ, ແຕ່ເຄື່ອງຈັກ - ເຄື່ອງຈັກ, ເພາະວ່າພວກເຮົາປະຕິບັດບໍ່ມີຖານຂໍ້ມູນໃນຄວາມຮູ້ສຶກທີ່ຍອມຮັບໂດຍທົ່ວໄປ.

ນີ້ແມ່ນມາດຕະການທີ່ຈໍາເປັນ. ນີ້ເກີດຂຶ້ນເນື່ອງຈາກວ່າໃນປີ 2008-2009, ໃນເວລາທີ່ VK ມີການຂະຫຍາຍຕົວຢ່າງຫຼວງຫຼາຍໃນຄວາມນິຍົມ, ໂຄງການໄດ້ເຮັດວຽກທັງຫມົດໃນ MySQL ແລະ Memcache ແລະມີບັນຫາ. MySQL ມັກທີ່ຈະຂັດຂ້ອງແລະໄຟລ໌ເສຍຫາຍ, ຫຼັງຈາກນັ້ນມັນຈະບໍ່ຟື້ນຕົວ, ແລະ Memcache ຄ່ອຍໆຫຼຸດລົງໃນການປະຕິບັດແລະຕ້ອງໄດ້ຮັບການເລີ່ມຕົ້ນໃຫມ່.

ມັນ turns ໃຫ້ ເຫັນ ວ່າ ໂຄງ ການ ທີ່ ເພີ່ມ ຂຶ້ນ ມີ ການ ເກັບ ຮັກ ສາ ຄົງ ທີ່ , ທີ່ ສໍ້ ລາດ ບັງ ຫຼວງ ຂໍ້ ມູນ , ແລະ ຖານ ຄວາມ ຈໍາ , ເຊິ່ງ ຊ້າ ລົງ . ໃນເງື່ອນໄຂດັ່ງກ່າວ, ມັນຍາກທີ່ຈະພັດທະນາໂຄງການທີ່ເຕີບໃຫຍ່. ມັນໄດ້ຖືກຕັດສິນໃຈທີ່ຈະພະຍາຍາມຂຽນຄືນໃຫມ່ສິ່ງທີ່ສໍາຄັນທີ່ໂຄງການແມ່ນສຸມໃສ່ລົດຖີບຂອງພວກເຮົາເອງ.

ການແກ້ໄຂແມ່ນປະສົບຜົນສໍາເລັດ. ມີໂອກາດທີ່ຈະເຮັດແນວນີ້, ເຊັ່ນດຽວກັນກັບຄວາມຈໍາເປັນທີ່ສຸດ, ເພາະວ່າວິທີການອື່ນໆຂອງຂະຫນາດບໍ່ມີຢູ່ໃນເວລານັ້ນ. ບໍ່ມີຖານຂໍ້ມູນຫຼາຍ, NoSQL ຍັງບໍ່ທັນມີ, ມີພຽງແຕ່ MySQL, Memcache, PostrgreSQL - ແລະນັ້ນແມ່ນມັນ.

ການດໍາເນີນງານທົ່ວໄປ. ການພັດທະນາແມ່ນນໍາພາໂດຍທີມງານນັກພັດທະນາ C ຂອງພວກເຮົາແລະທຸກສິ່ງທຸກຢ່າງແມ່ນເຮັດໄດ້ຢ່າງສອດຄ່ອງ. ໂດຍບໍ່ສົນເລື່ອງຂອງເຄື່ອງຈັກ, ພວກເຂົາທັງຫມົດມີປະມານຮູບແບບໄຟລ໌ດຽວກັນທີ່ຂຽນໃສ່ແຜ່ນ, ຕົວກໍານົດການເປີດຕົວດຽວກັນ, ສັນຍານທີ່ຖືກປຸງແຕ່ງໃນລັກສະນະດຽວກັນ, ແລະປະຕິບັດປະມານດຽວກັນໃນກໍລະນີຂອງສະຖານະການແລະບັນຫາ. ດ້ວຍການຂະຫຍາຍຕົວຂອງເຄື່ອງຈັກ, ມັນສະດວກສໍາລັບຜູ້ບໍລິຫານໃນການດໍາເນີນງານຂອງລະບົບ - ບໍ່ມີສວນສັດທີ່ຕ້ອງໄດ້ຮັບການຮັກສາ, ແລະພວກເຂົາຕ້ອງຮຽນຮູ້ວິທີການປະຕິບັດງານຂອງແຕ່ລະຖານຂໍ້ມູນຂອງພາກສ່ວນທີສາມໃຫມ່, ເຊິ່ງເຮັດໃຫ້ມັນເປັນໄປໄດ້ໄວແລະໄວ. ສະດວກເພີ່ມຈໍານວນຂອງເຂົາເຈົ້າ.

ປະເພດຂອງເຄື່ອງຈັກ

ທີມງານຂຽນເຄື່ອງຈັກບໍ່ຫຼາຍປານໃດ. ນີ້ແມ່ນບາງອັນເທົ່ານັ້ນ: ໝູ່, ຄຳໃບ້, ຮູບພາບ, ipdb, ຈົດໝາຍ, ລາຍຊື່, ບັນທຶກ, memcached, meowdb, ຂ່າວ, nostradamus, ຮູບພາບ, ລາຍການຫຼິ້ນ, pmemcached, sandbox, ຊອກຫາ, ການເກັບຮັກສາ, ມັກ, ໜ້າວຽກ, ...

ສໍາລັບແຕ່ລະວຽກງານທີ່ຕ້ອງການໂຄງສ້າງຂໍ້ມູນສະເພາະຫຼືຂະບວນການຮ້ອງຂໍ atypical, ທີມງານ C ຂຽນເຄື່ອງຈັກໃຫມ່. ເປັນ​ຫຍັງ​ບໍ່.

ພວກເຮົາມີເຄື່ອງຈັກແຍກຕ່າງຫາກ memcached, ເຊິ່ງຄ້າຍຄືກັນກັບປົກກະຕິ, ແຕ່ມີຊໍ່ຂອງ goodies, ແລະທີ່ບໍ່ຊ້າລົງ. ບໍ່ແມ່ນ ClickHouse, ແຕ່ມັນຍັງເຮັດວຽກ. ມີໃຫ້ແຍກຕ່າງຫາກ pmemcached - ນີ້​ແມ່ນ memcached ຄົງຢູ່, ເຊິ່ງຍັງສາມາດເກັບຮັກສາຂໍ້ມູນໃນແຜ່ນ, ນອກຈາກນັ້ນ, ກ່ວາເຫມາະກັບ RAM, ເພື່ອບໍ່ໃຫ້ສູນເສຍຂໍ້ມູນໃນເວລາທີ່ restarting. ມີເຄື່ອງຈັກຕ່າງໆສໍາລັບວຽກງານສ່ວນບຸກຄົນ: ແຖວ, ລາຍການ, ຊຸດ - ທຸກສິ່ງທຸກຢ່າງທີ່ໂຄງການຂອງພວກເຮົາຕ້ອງການ.

ກຸ່ມ

ຈາກທັດສະນະຂອງລະຫັດ, ບໍ່ຈໍາເປັນຕ້ອງຄິດວ່າເຄື່ອງຈັກຫຼືຖານຂໍ້ມູນເປັນຂະບວນການ, ຫນ່ວຍງານ, ຫຼືຕົວຢ່າງ. ລະຫັດເຮັດວຽກໂດຍສະເພາະກັບກຸ່ມ, ກັບກຸ່ມຂອງເຄື່ອງຈັກ - ປະເພດໜຶ່ງຕໍ່ກຸ່ມ. ໃຫ້ເວົ້າວ່າມີກຸ່ມ memcached - ມັນເປັນພຽງແຕ່ກຸ່ມຂອງເຄື່ອງຈັກ.

ລະຫັດບໍ່ຈໍາເປັນຕ້ອງຮູ້ສະຖານທີ່ທາງດ້ານຮ່າງກາຍ, ຂະຫນາດ, ຫຼືຈໍານວນເຄື່ອງແມ່ຂ່າຍທັງຫມົດ. ລາວໄປຫາກຸ່ມໂດຍໃຊ້ຕົວລະບຸທີ່ແນ່ນອນ.

ເພື່ອເຮັດສິ່ງນີ້, ທ່ານຈໍາເປັນຕ້ອງເພີ່ມຫນຶ່ງຫນ່ວຍງານທີ່ຕັ້ງຢູ່ລະຫວ່າງລະຫັດແລະເຄື່ອງຈັກ - proxy.

ຕົວແທນ RPC

ຕົວແທນ ລົດເມເຊື່ອມຕໍ່, ທີ່ເກືອບທຸກເວັບໄຊທ໌ແລ່ນ. ໃນເວລາດຽວກັນພວກເຮົາມີ ບໍ່ມີການຄົ້ນພົບການບໍລິການ — ແທນ​ທີ່​ຈະ​ເປັນ, ມີ​ການ​ຕັ້ງ​ຄ່າ​ສໍາ​ລັບ​ຕົວ​ແທນ​ນີ້, ທີ່​ຮູ້​ທີ່​ຕັ້ງ​ຂອງ​ກຸ່ມ​ທັງ​ຫມົດ​ແລະ shards ທັງ​ຫມົດ​ຂອງ cluster ນີ້. ນີ້ແມ່ນສິ່ງທີ່ admin ເຮັດ.

ນັກຂຽນໂປລແກລມບໍ່ສົນໃຈຫຼາຍປານໃດ, ຢູ່ໃສແລະລາຄາເທົ່າໃດ - ພວກເຂົາພຽງແຕ່ໄປຫາກຸ່ມ. ນີ້ອະນຸຍາດໃຫ້ພວກເຮົາຫຼາຍ. ເມື່ອໄດ້ຮັບການຮ້ອງຂໍ, ຕົວແທນປ່ຽນເສັ້ນທາງການຮ້ອງຂໍ, ຮູ້ວ່າບ່ອນໃດ - ມັນກໍານົດຕົວຂອງມັນເອງ.

ໃນກໍລະນີນີ້, ຕົວແທນແມ່ນຈຸດປ້ອງກັນຄວາມລົ້ມເຫຼວຂອງການບໍລິການ. ຖ້າບາງເຄື່ອງຈັກຊ້າລົງຫຼືຂັດຂ້ອງ, ຕົວແທນຈະເຂົ້າໃຈເລື່ອງນີ້ແລະຕອບສະຫນອງຕາມຄວາມຕ້ອງການຂອງລູກຄ້າ. ນີ້ອະນຸຍາດໃຫ້ທ່ານເອົາເວລາຫມົດເວລາ - ລະຫັດບໍ່ໄດ້ລໍຖ້າເຄື່ອງຈັກຕອບສະຫນອງ, ແຕ່ເຂົ້າໃຈວ່າມັນບໍ່ເຮັດວຽກແລະຈໍາເປັນຕ້ອງປະຕິບັດບາງຢ່າງທີ່ແຕກຕ່າງກັນ. ລະຫັດຕ້ອງໄດ້ຮັບການກະກຽມສໍາລັບຄວາມຈິງທີ່ວ່າຖານຂໍ້ມູນບໍ່ສະເຫມີໄປເຮັດວຽກ.

ການປະຕິບັດສະເພາະ

ບາງຄັ້ງພວກເຮົາກໍ່ຍັງຕ້ອງການທີ່ຈະມີບາງປະເພດຂອງການແກ້ໄຂທີ່ບໍ່ແມ່ນມາດຕະຖານເປັນເຄື່ອງຈັກ. ໃນເວລາດຽວກັນ, ມັນໄດ້ຖືກຕັດສິນໃຈທີ່ຈະບໍ່ໃຊ້ rpc-proxy ທີ່ກຽມພ້ອມຂອງພວກເຮົາ, ສ້າງໂດຍສະເພາະສໍາລັບເຄື່ອງຈັກຂອງພວກເຮົາ, ແຕ່ເພື່ອສ້າງຕົວແທນແຍກຕ່າງຫາກສໍາລັບວຽກງານ.

ສໍາລັບ MySQL, ທີ່ພວກເຮົາຍັງມີຢູ່ທີ່ນີ້ແລະຢູ່ທີ່ນັ້ນ, ພວກເຮົາໃຊ້ db-proxy, ແລະສໍາລັບ ClickHouse - ເຮືອນແມວ.

ມັນເຮັດວຽກໂດຍທົ່ວໄປເຊັ່ນນີ້. ມີເຄື່ອງແມ່ຂ່າຍທີ່ແນ່ນອນ, ມັນແລ່ນ kPHP, Go, Python - ໂດຍທົ່ວໄປ, ລະຫັດໃດໆທີ່ສາມາດໃຊ້ໂປໂຕຄອນ RPC ຂອງພວກເຮົາ. ລະຫັດດໍາເນີນການຢູ່ໃນທ້ອງຖິ່ນໃນຕົວແທນ RPC - ແຕ່ລະເຄື່ອງແມ່ຂ່າຍທີ່ລະຫັດຕັ້ງຢູ່ຈະດໍາເນີນການຕົວແທນທ້ອງຖິ່ນຂອງຕົນເອງ. ຕາມການຮ້ອງຂໍ, ຕົວແທນເຂົ້າໃຈບ່ອນທີ່ຈະໄປ.

ຖ້າເຄື່ອງຈັກຫນຶ່ງຕ້ອງການໄປຫາອີກ, ເຖິງແມ່ນວ່າຈະເປັນເພື່ອນບ້ານ, ມັນຜ່ານຕົວແທນ, ເພາະວ່າເພື່ອນບ້ານອາດຈະຢູ່ໃນສູນຂໍ້ມູນອື່ນ. ເຄື່ອງຈັກບໍ່ຄວນອີງໃສ່ການຮູ້ສະຖານທີ່ຂອງສິ່ງອື່ນນອກເຫນືອຈາກຕົວມັນເອງ - ນີ້ແມ່ນການແກ້ໄຂມາດຕະຖານຂອງພວກເຮົາ. ແຕ່ແນ່ນອນມີຂໍ້ຍົກເວັ້ນ :)

ຕົວຢ່າງຂອງ TL-scheme ຕາມທີ່ເຄື່ອງຈັກທັງຫມົດເຮັດວຽກ.

memcache.not_found                                = memcache.Value;
memcache.strvalue	value:string flags:int = memcache.Value;
memcache.addOrIncr key:string flags:int delay:int value:long = memcache.Value;

tasks.task
    fields_mask:#
    flags:int
    tag:%(Vector int)
    data:string
    id:fields_mask.0?long
    retries:fields_mask.1?int
    scheduled_time:fields_mask.2?int
    deadline:fields_mask.3?int
    = tasks.Task;
 
tasks.addTask type_name:string queue_id:%(Vector int) task:%tasks.Task = Long;

ນີ້ແມ່ນອະນຸສັນຍາຄູ່, ການປຽບທຽບທີ່ໃກ້ຄຽງທີ່ສຸດ protobuf. schema ອະທິບາຍເຂດຂໍ້ມູນທາງເລືອກ, ປະເພດສະລັບສັບຊ້ອນ - ການຂະຫຍາຍຂອງ scalar ໃນຕົວ, ແລະການສອບຖາມ. ທຸກຢ່າງເຮັດວຽກຕາມໂປຣໂຕຄໍນີ້.

RPC ຜ່ານ TL ຜ່ານ TCP/UDP… UDP?

ພວກເຮົາມີໂປໂຕຄອນ RPC ສໍາລັບການປະຕິບັດການຮ້ອງຂໍເຄື່ອງຈັກທີ່ດໍາເນີນການຢູ່ເທິງສຸດຂອງ TL scheme. ທັງໝົດນີ້ເຮັດວຽກຜ່ານການເຊື່ອມຕໍ່ TCP/UDP. TCP ແມ່ນເຂົ້າໃຈໄດ້, ແຕ່ເປັນຫຍັງພວກເຮົາຕ້ອງການ UDP ເລື້ອຍໆ?

UDP ຊ່ວຍ ຫຼີກເວັ້ນບັນຫາຂອງການເຊື່ອມຕໍ່ຈໍານວນຫລາຍລະຫວ່າງເຄື່ອງແມ່ຂ່າຍ. ຖ້າແຕ່ລະເຄື່ອງແມ່ຂ່າຍມີຕົວແທນ RPC ແລະ, ໂດຍທົ່ວໄປ, ມັນສາມາດໄປຫາເຄື່ອງຈັກໃດກໍ່ຕາມ, ຫຼັງຈາກນັ້ນ, ມີການເຊື່ອມຕໍ່ TCP ຫຼາຍສິບພັນຄົນຕໍ່ເຄື່ອງແມ່ຂ່າຍ. ມີການໂຫຼດ, ແຕ່ມັນບໍ່ມີປະໂຫຍດ. ໃນກໍລະນີຂອງ UDP ບັນຫານີ້ບໍ່ມີ.

ບໍ່ມີການຈັບມື TCP ຊໍ້າຊ້ອນ. ນີ້ແມ່ນບັນຫາທົ່ວໄປ: ເມື່ອເຄື່ອງຈັກໃຫມ່ຫຼືເຄື່ອງແມ່ຂ່າຍໃຫມ່ຖືກເປີດຕົວ, ການເຊື່ອມຕໍ່ TCP ຫຼາຍແມ່ນສ້າງຕັ້ງຂຶ້ນໃນເວລາດຽວກັນ. ສໍາລັບການຮ້ອງຂໍນ້ໍາຫນັກເບົາຂະຫນາດນ້ອຍ, ສໍາລັບການຍົກຕົວຢ່າງ, UDP payload, ການສື່ສານທັງຫມົດລະຫວ່າງລະຫັດແລະເຄື່ອງຈັກແມ່ນ ສອງແພັກເກັດ UDP: ຫນຶ່ງບິນໄປໃນທິດທາງຫນຶ່ງ, ທີສອງໃນອີກດ້ານຫນຶ່ງ. ການເດີນທາງຮອບຫນຶ່ງ - ແລະລະຫັດໄດ້ຮັບການຕອບສະຫນອງຈາກເຄື່ອງຈັກໂດຍບໍ່ມີການຈັບມື.

ແມ່ນແລ້ວ, ມັນທັງຫມົດພຽງແຕ່ເຮັດວຽກ ມີອັດຕາສ່ວນຫນ້ອຍຫຼາຍຂອງການສູນເສຍແພັກເກັດ. ໂປໂຕຄອນມີການສະຫນັບສະຫນູນສໍາລັບ retransmits ແລະການຫມົດເວລາ, ແຕ່ຖ້າພວກເຮົາສູນເສຍຫຼາຍ, ພວກເຮົາຈະໄດ້ຮັບເກືອບ TCP, ເຊິ່ງບໍ່ເປັນປະໂຫຍດ. ພວກເຮົາບໍ່ໄດ້ຂັບລົດ UDP ຂ້າມມະຫາສະຫມຸດ.

ພວກເຮົາມີເຄື່ອງແມ່ຂ່າຍດັ່ງກ່າວຫລາຍພັນຄົນ, ແລະໂຄງການແມ່ນຄືກັນ: ເຄື່ອງຈັກຊຸດຫນຶ່ງຖືກຕິດຕັ້ງຢູ່ໃນແຕ່ລະເຄື່ອງແມ່ຂ່າຍທາງດ້ານຮ່າງກາຍ. ພວກມັນສ່ວນຫຼາຍແມ່ນເປັນກະທູ້ດຽວເພື່ອແລ່ນໄວເທົ່າທີ່ຈະໄວໄດ້ໂດຍບໍ່ມີການປິດກັ້ນ, ແລະຖືກຕັດເປັນເສັ້ນດ່ຽວ. ໃນເວລາດຽວກັນ, ພວກເຮົາບໍ່ມີຫຍັງທີ່ຫນ້າເຊື່ອຖືຫຼາຍກ່ວາເຄື່ອງຈັກເຫຼົ່ານີ້, ແລະຄວາມສົນໃຈຫຼາຍແມ່ນຈ່າຍໃຫ້ກັບການເກັບຮັກສາຂໍ້ມູນຢ່າງຕໍ່ເນື່ອງ.

ການເກັບຮັກສາຂໍ້ມູນຄົງທີ່

ເຄື່ອງຈັກຂຽນ binlogs. binlog ແມ່ນໄຟລ໌ໃນຕອນທ້າຍຂອງເຫດການສໍາລັບການປ່ຽນແປງຂອງລັດຫຼືຂໍ້ມູນຖືກເພີ່ມ. ໃນການແກ້ໄຂທີ່ແຕກຕ່າງກັນມັນຖືກເອີ້ນວ່າແຕກຕ່າງກັນ: ບັນທຶກຄູ່, WAL, AOF, ແຕ່ຫຼັກການແມ່ນຄືກັນ.

ເພື່ອປ້ອງກັນເຄື່ອງຈັກຈາກການອ່ານ binlog ທັງຫມົດຄືນໃຫມ່ເປັນເວລາຫລາຍປີເມື່ອ restart, ເຄື່ອງຈັກຂຽນ ພາບຖ່າຍ - ສະຖານະປັດຈຸບັນ. ຖ້າຈໍາເປັນ, ພວກເຂົາອ່ານຈາກມັນກ່ອນ, ແລະຫຼັງຈາກນັ້ນໃຫ້ສໍາເລັດການອ່ານຈາກ binlog. binlogs ທັງຫມົດແມ່ນຂຽນໃນຮູບແບບຖານສອງດຽວກັນ - ອີງຕາມໂຄງການ TL, ເພື່ອໃຫ້ຜູ້ບໍລິຫານສາມາດຄຸ້ມຄອງພວກມັນໄດ້ເທົ່າທຽມກັນກັບເຄື່ອງມືຂອງພວກເຂົາ. ບໍ່ມີຄວາມຈໍາເປັນດັ່ງກ່າວສໍາລັບການຖ່າຍພາບ. ມີສ່ວນຫົວທົ່ວໄປທີ່ຊີ້ບອກວ່າການຖ່າຍຮູບຂອງໃຜເປັນ int, magic ຂອງເຄື່ອງຈັກ, ແລະຮ່າງກາຍໃດທີ່ບໍ່ສໍາຄັນສໍາລັບໃຜ. ນີ້ແມ່ນບັນຫາກັບເຄື່ອງຈັກທີ່ບັນທຶກພາບຖ່າຍ.

ຂ້າພະເຈົ້າຈະອະທິບາຍຢ່າງໄວວາຫຼັກການຂອງການດໍາເນີນງານ. ມີເຄື່ອງແມ່ຂ່າຍທີ່ເຄື່ອງຈັກເຮັດວຽກ. ລາວເປີດ binlog ຫວ່າງເປົ່າໃຫມ່ສໍາລັບການຂຽນແລະຂຽນເຫດການສໍາລັບການປ່ຽນແປງມັນ.

ໃນບາງຈຸດ, ລາວຕັດສິນໃຈຖ່າຍຮູບຕົນເອງ, ຫຼືລາວໄດ້ຮັບສັນຍານ. ເຊີບເວີສ້າງໄຟລ໌ໃຫມ່, ຂຽນລັດທັງຫມົດເຂົ້າໄປໃນມັນ, ຕື່ມຂໍ້ມູນໃສ່ຂະຫນາດ binlog ໃນປັດຈຸບັນ - offset - ໃນຕອນທ້າຍຂອງໄຟລ໌, ແລະສືບຕໍ່ຂຽນຕໍ່ໄປ. ບຼັອກໃໝ່ບໍ່ໄດ້ຖືກສ້າງ.

ໃນບາງຈຸດ, ເມື່ອເຄື່ອງຈັກ restart, ຈະມີທັງ binlog ແລະ snapshot ໃນແຜ່ນ. ເຄື່ອງຈັກຈະອ່ານພາບຖ່າຍທັງໝົດ ແລະເພີ່ມສະຖານະຂອງມັນຢູ່ໃນຈຸດໃດໜຶ່ງ.

ອ່ານຕຳແໜ່ງທີ່ຢູ່ໃນເວລາທີ່ພາບຖ່າຍຖືກສ້າງ ແລະຂະໜາດຂອງ binlog.

ອ່ານຕອນທ້າຍຂອງ binlog ເພື່ອຮັບສະຖານະປັດຈຸບັນ ແລະສືບຕໍ່ຂຽນເຫດການຕໍ່ໄປ. ນີ້ແມ່ນໂຄງການທີ່ງ່າຍດາຍ; ເຄື່ອງຈັກຂອງພວກເຮົາທັງຫມົດເຮັດວຽກຕາມມັນ.

ການຈຳລອງຂໍ້ມູນ

ດັ່ງນັ້ນ, ການຈໍາລອງຂໍ້ມູນໃນຂອງພວກເຮົາ ອີງ​ຕາມ​ການ​ຖະ​ແຫຼງ​ການ​ — ພວກ​ເຮົາ​ຂຽນ​ໃນ binlog ບໍ່​ມີ​ການ​ປ່ຽນ​ແປງ​ຫນ້າ​ໃດ​ຫນຶ່ງ, ແຕ່​ວ່າ​ຄື ການປ່ຽນແປງການຮ້ອງຂໍ. ຄ້າຍຄືກັນຫຼາຍກັບສິ່ງທີ່ມາໃນເຄືອຂ່າຍ, ພຽງແຕ່ດັດແກ້ເລັກນ້ອຍ.

ໂຄງການດຽວກັນຖືກນໍາໃຊ້ບໍ່ພຽງແຕ່ສໍາລັບການຈໍາລອງ, ແຕ່ຍັງ ເພື່ອສ້າງສໍາຮອງຂໍ້ມູນ. ພວກເຮົາມີເຄື່ອງຈັກ - ແມ່ບົດການຂຽນທີ່ຂຽນໃສ່ binlog. ໃນສະຖານທີ່ອື່ນໆທີ່ຜູ້ເບິ່ງແຍງໄດ້ຕັ້ງມັນ, binlog ນີ້ຖືກຄັດລອກ, ແລະນັ້ນແມ່ນມັນ - ພວກເຮົາມີສໍາຮອງຂໍ້ມູນ.

ຖ້າຕ້ອງການ ການອ່ານແບບຈຳລອງເພື່ອຫຼຸດຜ່ອນການໂຫຼດການອ່ານ CPU, ເຄື່ອງຈັກການອ່ານຖືກເປີດຕົວພຽງແຕ່, ເຊິ່ງອ່ານທ້າຍຂອງ binlog ແລະປະຕິບັດຄໍາສັ່ງເຫຼົ່ານີ້ຢູ່ໃນທ້ອງຖິ່ນ.

ຄວາມຫຍາບຄາຍຢູ່ທີ່ນີ້ມີໜ້ອຍຫຼາຍ, ແລະສາມາດຊອກຮູ້ໄດ້ວ່າເຄື່ອງແບບຈຳລອງນັ້ນຢູ່ເບື້ອງຫຼັງແມ່ບົດຫຼາຍປານໃດ.

ການແບ່ງປັນຂໍ້ມູນໃນ RPC proxy

sharding ເຮັດວຽກແນວໃດ? ຕົວແທນເຂົ້າໃຈແນວໃດວ່າກຸ່ມ shard ໃດທີ່ຈະສົ່ງໄປຫາ? ລະຫັດບໍ່ໄດ້ເວົ້າວ່າ: "ສົ່ງສໍາລັບ 15 shards!" - ບໍ່, ນີ້ແມ່ນເຮັດໂດຍຕົວແທນ.

ໂຄງ​ການ​ທີ່​ງ່າຍ​ທີ່​ສຸດ​ແມ່ນ firstint - ຕົວເລກທໍາອິດໃນຄໍາຮ້ອງຂໍ.

get(photo100_500) => 100 % N.

ນີ້ແມ່ນຕົວຢ່າງສໍາລັບໂປໂຕຄອນຂໍ້ຄວາມ memcached ງ່າຍດາຍ, ແຕ່, ແນ່ນອນ, ຄໍາຖາມສາມາດສະລັບສັບຊ້ອນແລະໂຄງສ້າງ. ຕົວຢ່າງເອົາຕົວເລກທໍາອິດໃນການສອບຖາມແລະສ່ວນທີ່ເຫຼືອເມື່ອແບ່ງອອກໂດຍຂະຫນາດຂອງກຸ່ມ.

ນີ້ເປັນປະໂຫຍດເມື່ອພວກເຮົາຕ້ອງການໃຫ້ຂໍ້ມູນທ້ອງຖິ່ນຂອງຫນ່ວຍງານດຽວ. ສົມມຸດວ່າ 100 ແມ່ນ ID ຜູ້ໃຊ້ ຫຼືກຸ່ມ, ແລະພວກເຮົາຕ້ອງການໃຫ້ຂໍ້ມູນທັງໝົດຂອງໜ່ວຍງານໜຶ່ງຢູ່ໃນໜຶ່ງແຊຣ໌ ສຳລັບການສອບຖາມທີ່ສັບສົນ.

ຖ້າພວກເຮົາບໍ່ສົນໃຈວ່າຄໍາຮ້ອງຂໍຖືກແຜ່ຂະຫຍາຍໄປທົ່ວກຸ່ມ, ມີທາງເລືອກອື່ນ - hashing shard ທັງຫມົດ.

hash(photo100_500) => 3539886280 % N

ພວກເຮົາຍັງໄດ້ຮັບ hash, ສ່ວນທີ່ເຫຼືອຂອງພະແນກແລະຈໍານວນ shard.

ທັງສອງທາງເລືອກນີ້ເຮັດວຽກພຽງແຕ່ຖ້າພວກເຮົາກຽມພ້ອມສໍາລັບຄວາມຈິງທີ່ວ່າເມື່ອພວກເຮົາເພີ່ມຂະຫນາດຂອງກຸ່ມ, ພວກເຮົາຈະແບ່ງປັນມັນຫຼືເພີ່ມມັນຫຼາຍຄັ້ງ. ຕົວຢ່າງ, ພວກເຮົາມີ 16 shards, ພວກເຮົາບໍ່ມີພຽງພໍ, ພວກເຮົາຕ້ອງການຫຼາຍ - ພວກເຮົາສາມາດໄດ້ຮັບການ 32 ​​ຢ່າງປອດໄພໂດຍບໍ່ມີການ downtime. ຖ້າພວກເຮົາຕ້ອງການເພີ່ມບໍ່ຄູນ, ມັນຈະມີເວລາຢຸດເຮັດວຽກ, ເພາະວ່າພວກເຮົາຈະບໍ່ສາມາດແບ່ງປັນທຸກຢ່າງຢ່າງຖືກຕ້ອງໂດຍບໍ່ມີການສູນເສຍ. ທາງເລືອກເຫຼົ່ານີ້ແມ່ນເປັນປະໂຫຍດ, ແຕ່ບໍ່ແມ່ນສະເຫມີໄປ.

ຖ້າພວກເຮົາຕ້ອງການເພີ່ມຫຼືເອົາຈໍານວນເຄື່ອງແມ່ຂ່າຍທີ່ກໍານົດເອງ, ພວກເຮົາໃຊ້ hashing ສອດຄ່ອງໃນວົງ a la Ketama. ແຕ່ໃນເວລາດຽວກັນ, ພວກເຮົາສູນເສຍພື້ນທີ່ຂອງຂໍ້ມູນຢ່າງສິ້ນເຊີງ; ພວກເຮົາຕ້ອງລວມຄໍາຮ້ອງຂໍໃຫ້ກັບກຸ່ມເພື່ອໃຫ້ແຕ່ລະຊິ້ນສົ່ງຄືນຄໍາຕອບນ້ອຍໆຂອງຕົນເອງ, ແລະຫຼັງຈາກນັ້ນລວມຄໍາຕອບກັບຕົວແທນ.

ມີການຮ້ອງຂໍສະເພາະພິເສດ. ມັນເບິ່ງຄືວ່ານີ້: RPC proxy ໄດ້ຮັບການຮ້ອງຂໍ, ກໍານົດກຸ່ມທີ່ຈະໄປຫາແລະກໍານົດ shard. ຫຼັງຈາກນັ້ນ, ມີທັງແມ່ບົດການຂຽນ, ຫຼື, ຖ້າກຸ່ມມີການສະຫນັບສະຫນູນ replica, ມັນສົ່ງໄປຫາ replica ຕາມຄວາມຕ້ອງການ. ຕົວແທນເຮັດທັງຫມົດນີ້.

ບັນທຶກ

ພວກເຮົາຂຽນບັນທຶກໃນຫຼາຍວິທີ. ທີ່ຈະແຈ້ງທີ່ສຸດແລະງ່າຍດາຍແມ່ນ ຂຽນບັນທຶກໃສ່ memcache.

ring-buffer: prefix.idx = line

ມີຄໍານໍາຫນ້າທີ່ສໍາຄັນ - ຊື່ຂອງບັນທຶກ, ເສັ້ນ, ແລະມີຂະຫນາດຂອງບັນທຶກນີ້ - ຈໍານວນເສັ້ນ. ພວກເຮົາເອົາຕົວເລກສຸ່ມຈາກ 0 ໄປຫາຈໍານວນເສັ້ນລົບ 1. ທີ່ສໍາຄັນໃນ memcache ແມ່ນຄໍານໍາຫນ້າທີ່ມີຕົວເລກແບບສຸ່ມນີ້. ພວກເຮົາປະຫຍັດເສັ້ນບັນທຶກແລະເວລາປະຈຸບັນໃຫ້ກັບມູນຄ່າ.

ໃນເວລາທີ່ມັນເປັນສິ່ງຈໍາເປັນທີ່ຈະອ່ານບັນທຶກ, ພວກເຮົາປະຕິບັດ ໄດ້ຫຼາຍ ກະແຈທັງໝົດ, ຈັດຮຽງຕາມເວລາ, ແລະດັ່ງນັ້ນຈຶ່ງໄດ້ຮັບບັນທຶກການຜະລິດໃນເວລາຈິງ. ໂຄງການດັ່ງກ່າວໄດ້ຖືກນໍາໃຊ້ໃນເວລາທີ່ທ່ານຕ້ອງການ debug ບາງສິ່ງບາງຢ່າງໃນການຜະລິດໃນເວລາທີ່ແທ້ຈິງ, ໂດຍບໍ່ມີການທໍາລາຍສິ່ງໃດກໍ່ຕາມ, ໂດຍບໍ່ມີການຢຸດຫຼືອະນຸຍາດໃຫ້ການຈະລາຈອນກັບເຄື່ອງຈັກອື່ນໆ, ແຕ່ບັນທຶກນີ້ບໍ່ດົນ.

ສໍາລັບການເກັບຮັກສາບັນທຶກທີ່ເຊື່ອຖືໄດ້ພວກເຮົາມີເຄື່ອງຈັກ ເຄື່ອງຈັກບັນທຶກ. ນີ້ແມ່ນແທ້ວ່າເປັນຫຍັງມັນຖືກສ້າງຂື້ນ, ແລະຖືກນໍາໃຊ້ຢ່າງກວ້າງຂວາງໃນກຸ່ມຈໍານວນຫລາຍ. ກຸ່ມທີ່ໃຫຍ່ທີ່ສຸດທີ່ຂ້ອຍຮູ້ຈັກເກັບຮັກສາ 600 TB ຂອງບັນທຶກທີ່ບັນຈຸ.

ເຄື່ອງຈັກແມ່ນມີອາຍຸຫຼາຍ, ມີກຸ່ມທີ່ມີອາຍຸ 6-7 ປີແລ້ວ. ມີບັນຫາກັບມັນທີ່ພວກເຮົາກໍາລັງພະຍາຍາມແກ້ໄຂ, ຕົວຢ່າງ, ພວກເຮົາເລີ່ມໃຊ້ ClickHouse ຢ່າງຈິງຈັງເພື່ອເກັບບັນທຶກ.

ເກັບກໍາຂໍ້ມູນບັນທຶກໃນ ClickHouse

ແຜນວາດນີ້ສະແດງໃຫ້ເຫັນວິທີທີ່ພວກເຮົາຍ່າງເຂົ້າໄປໃນເຄື່ອງຈັກຂອງພວກເຮົາ.

ມີລະຫັດທີ່ໄປຫາທ້ອງຖິ່ນໂດຍຜ່ານ RPC ກັບ RPC-proxy, ແລະມັນເຂົ້າໃຈບ່ອນທີ່ຈະໄປຫາເຄື່ອງຈັກ. ຖ້າພວກເຮົາຕ້ອງການຂຽນບັນທຶກໃນ ClickHouse, ພວກເຮົາຈໍາເປັນຕ້ອງມີການປ່ຽນແປງສອງສ່ວນໃນໂຄງການນີ້:

• ທົດແທນເຄື່ອງຈັກບາງຢ່າງດ້ວຍ ClickHouse;
• ແທນທີ່ຕົວແທນ RPC, ເຊິ່ງບໍ່ສາມາດເຂົ້າເຖິງ ClickHouse, ດ້ວຍການແກ້ໄຂບາງຢ່າງທີ່ສາມາດ, ແລະຜ່ານ RPC.

ເຄື່ອງຈັກແມ່ນງ່າຍດາຍ - ພວກເຮົາທົດແທນມັນດ້ວຍເຄື່ອງແມ່ຂ່າຍຫຼືກຸ່ມຂອງເຄື່ອງແມ່ຂ່າຍທີ່ມີ ClickHouse.

ແລະໄປ ClickHouse, ພວກເຮົາໄດ້ເຮັດ KittenHouse. ຖ້າພວກເຮົາໄປໂດຍກົງຈາກ KittenHouse ໄປ ClickHouse, ມັນຈະບໍ່ຮັບມືກັບ. ເຖິງແມ່ນວ່າບໍ່ມີການຮ້ອງຂໍ, ມັນເພີ່ມຈາກການເຊື່ອມຕໍ່ HTTP ຂອງເຄື່ອງຈັກຈໍານວນຫລາຍ. ສໍາລັບໂຄງການທີ່ຈະເຮັດວຽກ, ໃນເຄື່ອງແມ່ຂ່າຍທີ່ມີ ClickHouse ຕົວແທນ reverse ທ້ອງຖິ່ນຖືກຍົກຂຶ້ນມາ, ເຊິ່ງຂຽນໃນລັກສະນະທີ່ມັນສາມາດທົນກັບປະລິມານການເຊື່ອມຕໍ່ທີ່ຕ້ອງການ. ມັນຍັງສາມາດ buffer ຂໍ້ມູນພາຍໃນຕົວຂອງມັນເອງຂ້ອນຂ້າງເຊື່ອຖືໄດ້.

ບາງຄັ້ງພວກເຮົາບໍ່ຕ້ອງການທີ່ຈະປະຕິບັດໂຄງການ RPC ໃນການແກ້ໄຂທີ່ບໍ່ແມ່ນມາດຕະຖານ, ສໍາລັບການຍົກຕົວຢ່າງ, ໃນ nginx. ດັ່ງນັ້ນ, KittenHouse ມີຄວາມສາມາດໃນການຮັບບັນທຶກຜ່ານ UDP.

ຖ້າຜູ້ສົ່ງແລະຜູ້ຮັບບັນທຶກເຮັດວຽກຢູ່ໃນເຄື່ອງດຽວກັນ, ຄວາມເປັນໄປໄດ້ຂອງການສູນເສຍແພັກເກັດ UDP ພາຍໃນເຈົ້າພາບທ້ອງຖິ່ນແມ່ນຂ້ອນຂ້າງຕໍ່າ. ເປັນການປະນີປະນອມລະຫວ່າງຄວາມຕ້ອງການທີ່ຈະປະຕິບັດ RPC ໃນການແກ້ໄຂແລະຄວາມຫນ້າເຊື່ອຖືຂອງພາກສ່ວນທີສາມ, ພວກເຮົາພຽງແຕ່ໃຊ້ການສົ່ງ UDP. ພວກເຮົາຈະກັບຄືນໄປຫາໂຄງການນີ້ໃນພາຍຫຼັງ.

ການຕິດຕາມ

ພວກເຮົາມີສອງປະເພດຂອງບັນທຶກ: ທີ່ເກັບກໍາໂດຍຜູ້ບໍລິຫານຢູ່ໃນເຄື່ອງແມ່ຂ່າຍຂອງພວກເຂົາແລະຜູ້ທີ່ຂຽນໂດຍນັກພັດທະນາຈາກລະຫັດ. ພວກມັນກົງກັບສອງປະເພດຂອງການວັດແທກ: ລະບົບແລະຜະລິດຕະພັນ.

ການວັດແທກລະບົບ

ມັນເຮັດວຽກຢູ່ໃນເຄື່ອງແມ່ຂ່າຍຂອງພວກເຮົາທັງຫມົດ ເນັດ, ເຊິ່ງເກັບກໍາສະຖິຕິແລະສົ່ງໃຫ້ພວກເຂົາ ກາກບອນ Graphite. ດັ່ງນັ້ນ, ClickHouse ຖືກນໍາໃຊ້ເປັນລະບົບການເກັບຮັກສາ, ແລະບໍ່ແມ່ນ Whisper, ສໍາລັບການຍົກຕົວຢ່າງ. ຖ້າຈໍາເປັນ, ທ່ານສາມາດອ່ານໂດຍກົງຈາກ ClickHouse, ຫຼືໃຊ້ ກຣາຟານາ ສໍາລັບ metrics, ເສັ້ນສະແດງແລະບົດລາຍງານ. ໃນຖານະນັກພັດທະນາ, ພວກເຮົາມີການເຂົ້າເຖິງ Netdata ແລະ Grafana ພຽງພໍ.

ການວັດແທກຜະລິດຕະພັນ

ເພື່ອຄວາມສະດວກ, ພວກເຮົາໄດ້ຂຽນຫຼາຍສິ່ງຫຼາຍຢ່າງ. ຕົວຢ່າງ, ມີຊຸດຂອງຫນ້າທີ່ທໍາມະດາທີ່ຊ່ວຍໃຫ້ທ່ານສາມາດຂຽນ Counts, UniqueCounts ເຂົ້າໃນສະຖິຕິ, ເຊິ່ງຖືກສົ່ງໄປບ່ອນອື່ນ.

statlogsCountEvent   ( ‘stat_name’,            $key1, $key2, …)
statlogsUniqueCount ( ‘stat_name’, $uid,    $key1, $key2, …)
statlogsValuetEvent  ( ‘stat_name’, $value, $key1, $key2, …)

$stats = statlogsStatData($params)

ຫຼັງຈາກນັ້ນ, ພວກເຮົາສາມາດນໍາໃຊ້ການກັ່ນຕອງການຈັດລຽງແລະຈັດກຸ່ມແລະເຮັດທຸກສິ່ງທີ່ພວກເຮົາຕ້ອງການຈາກສະຖິຕິ - build graphs, configure Watchdogs .

ພວກເຮົາຂຽນຫຼາຍ metrics ຫຼາຍ ຈໍານວນເຫດການແມ່ນມາຈາກ 600 ຕື້ຫາ 1 ພັນຕື້ຕໍ່ມື້. ຢ່າງໃດກໍຕາມ, ພວກເຮົາຕ້ອງການທີ່ຈະຮັກສາໃຫ້ເຂົາເຈົ້າ ຢ່າງ​ຫນ້ອຍ​ສອງ​ສາມ​ປີ​ເພື່ອເຂົ້າໃຈແນວໂນ້ມໃນ metrics. ເອົາມັນທັງຫມົດຮ່ວມກັນເປັນບັນຫາໃຫຍ່ທີ່ພວກເຮົາຍັງບໍ່ທັນໄດ້ແກ້ໄຂເທື່ອ. ຂ້ອຍຈະບອກເຈົ້າວ່າມັນເຮັດວຽກແນວໃດໃນສອງສາມປີຜ່ານມາ.

ພວກເຮົາມີຫນ້າທີ່ຂຽນ metrics ເຫຼົ່ານີ້ ກັບ memcache ທ້ອງຖິ່ນເພື່ອຫຼຸດຜ່ອນຈໍານວນລາຍການ. ເມື່ອ​ໃດ​ໃນ​ໄລ​ຍະ​ສັ້ນ​ຂອງ​ທີ່​ໃຊ້​ເວ​ລາ​ໃນ​ທ້ອງ​ຖິ່ນ​ໄດ້​ເປີດ​ຕົວ​ ສະຖິຕິ-daemon ເກັບ​ກໍາ​ຂໍ້​ມູນ​ທັງ​ຫມົດ​. ຕໍ່ໄປ, ຜີປີສາດໄດ້ລວມຕົວວັດແທກເຂົ້າໄປໃນສອງຊັ້ນຂອງເຄື່ອງແມ່ຂ່າຍ ຜູ້ເກັບບັນທຶກ, ເຊິ່ງລວບລວມສະຖິຕິຈາກບັນດາເຄື່ອງຈັກຂອງພວກເຮົາເພື່ອວ່າຊັ້ນທີ່ຢູ່ເບື້ອງຫລັງພວກມັນບໍ່ຕາຍ.

ຖ້າຈໍາເປັນ, ພວກເຮົາສາມາດຂຽນໂດຍກົງຫາຜູ້ເກັບບັນທຶກ.

ແຕ່ການຂຽນລະຫັດໂດຍກົງໄປຫາຕົວເກັບລວບລວມ, ຂ້າມ stas-daemom, ແມ່ນການແກ້ໄຂທີ່ບໍ່ສາມາດຂະຫຍາຍໄດ້ເນື່ອງຈາກມັນເພີ່ມການໂຫຼດຂອງຕົວເກັບລວບລວມ. ການ​ແກ້​ໄຂ​ແມ່ນ​ເຫມາະ​ສົມ​ພຽງ​ແຕ່​ຖ້າ​ຫາກ​ວ່າ​ສໍາ​ລັບ​ເຫດ​ຜົນ​ບາງ​ຢ່າງ​ທີ່​ພວກ​ເຮົາ​ບໍ່​ສາ​ມາດ​ຍົກ memcache stats-daemon ໃນ​ເຄື່ອງ​, ຫຼື​ມັນ crashed ແລະ​ພວກ​ເຮົາ​ໄປ​ໂດຍ​ກົງ​.

ຕໍ່ໄປ, logs-collectors ລວມສະຖິຕິເຂົ້າໄປໃນ meowDB - ນີ້ແມ່ນຖານຂໍ້ມູນຂອງພວກເຮົາ, ເຊິ່ງຍັງສາມາດເກັບຮັກສາ metrics.

ຫຼັງຈາກນັ້ນ, ພວກເຮົາສາມາດເຮັດໃຫ້ທາງເລືອກຖານສອງ "ໃກ້ SQL" ຈາກລະຫັດ.

ການທົດລອງ

ໃນຊ່ວງລຶະເບິ່ງຮ້ອນຂອງ 2018, ພວກເຮົາມີ hackathon ພາຍໃນ, ແລະຄວາມຄິດທີ່ເກີດຂື້ນເພື່ອພະຍາຍາມປ່ຽນສ່ວນສີແດງຂອງແຜນວາດດ້ວຍບາງສິ່ງບາງຢ່າງທີ່ສາມາດເກັບຮັກສາ metrics ໃນ ClickHouse. ພວກເຮົາມີບັນທຶກກ່ຽວກັບ ClickHouse - ເປັນຫຍັງບໍ່ລອງມັນ?

ພວກເຮົາມີໂຄງການທີ່ຂຽນບັນທຶກຜ່ານ KittenHouse.

ພວກເຮົາຕັດສິນໃຈ ເພີ່ມ "* ເຮືອນ" ອື່ນໃສ່ແຜນວາດ, ເຊິ່ງຈະໄດ້ຮັບຢ່າງແນ່ນອນ metrics ໃນຮູບແບບທີ່ລະຫັດຂອງພວກເຮົາຂຽນໃຫ້ເຂົາເຈົ້າຜ່ານ UDP. ຫຼັງ​ຈາກ​ນັ້ນ​, ເຮືອນ * ນີ້​ປ່ຽນ​ໃຫ້​ເຂົາ​ເຈົ້າ​ເຂົ້າ​ໄປ​ໃນ​ການ​ແຊກ​, ເຊັ່ນ​ໄມ້​ທ່ອນ​, ທີ່ KittenHouse ເຂົ້າ​ໃຈ​. ລາວສາມາດສົ່ງບັນທຶກເຫຼົ່ານີ້ຢ່າງສົມບູນກັບ ClickHouse, ເຊິ່ງຄວນຈະສາມາດອ່ານໄດ້.

ໂຄງ​ການ​ທີ່​ມີ memcache, stats-daemon ແລະ​ຖານ​ຂໍ້​ມູນ logs-collectors ຖືກ​ທົດ​ແທນ​ດ້ວຍ​ອັນ​ນີ້.

ໂຄງ​ການ​ທີ່​ມີ memcache, stats-daemon ແລະ​ຖານ​ຂໍ້​ມູນ logs-collectors ຖືກ​ທົດ​ແທນ​ດ້ວຍ​ອັນ​ນີ້.

• ມີການຈັດສົ່ງຈາກລະຫັດຢູ່ທີ່ນີ້, ເຊິ່ງຂຽນຢູ່ໃນທ້ອງຖິ່ນໃນ StatsHouse.
• StatsHouse ຂຽນ UDP metrics, ປ່ຽນເປັນ SQL inserts ແລ້ວ, ເປັນ KittenHouse ໃນຊຸດ.
• KittenHouse ສົ່ງພວກເຂົາໄປຫາ ClickHouse.
• ຖ້າພວກເຮົາຕ້ອງການອ່ານພວກມັນ, ຫຼັງຈາກນັ້ນພວກເຮົາອ່ານພວກເຂົາຜ່ານ StatsHouse - ໂດຍກົງຈາກ ClickHouse ໂດຍໃຊ້ SQL ປົກກະຕິ.

ຍັງຢູ່ບໍ? ທົດລອງ, ແຕ່ພວກເຮົາມັກເຮັດແນວໃດມັນ turns ອອກ. ຖ້າພວກເຮົາແກ້ໄຂບັນຫາກັບໂຄງການ, ບາງທີພວກເຮົາຈະປ່ຽນໄປໃຊ້ມັນຢ່າງສົມບູນ. ສ່ວນບຸກຄົນ, ຂ້າພະເຈົ້າຫວັງວ່າດັ່ງນັ້ນ.

ໂຄງການ ບໍ່ປະຫຍັດທາດເຫຼັກ. ຕ້ອງການເຊີບເວີໜ້ອຍລົງ, ສະຖິຕິ-daemons ທ້ອງຖິ່ນ ແລະຕົວເກັບກຳຂໍ້ມູນບໍ່ຈຳເປັນ, ແຕ່ ClickHouse ຕ້ອງການເຊີບເວີທີ່ໃຫຍ່ກວ່າໃນລະບົບປັດຈຸບັນ. ຕ້ອງການເຄື່ອງແມ່ຂ່າຍຫນ້ອຍລົງ, ແຕ່ພວກມັນຕ້ອງມີລາຄາແພງກວ່າແລະມີອໍານາດຫຼາຍ.

ນຳໃຊ້

ທໍາອິດ, ໃຫ້ເບິ່ງການນໍາໃຊ້ PHP. ພວກເຮົາກໍາລັງພັດທະນາຢູ່ໃນ ໄປ: ໃຊ້ GitLab и ທີມເມືອງ ສໍາ​ລັບ​ການ​ນໍາ​ໃຊ້​. ສາຂາການພັດທະນາໄດ້ຖືກລວມເຂົ້າກັບສາຂາແມ່ບົດ, ຈາກຕົ້ນສະບັບສໍາລັບການທົດສອບພວກມັນຖືກລວມເຂົ້າໃນຂັ້ນຕອນ, ແລະຈາກຂັ້ນຕອນການຜະລິດ.

ກ່ອນທີ່ຈະນໍາໄປໃຊ້, ສາຂາການຜະລິດໃນປະຈຸບັນແລະກ່ອນຫນ້າແມ່ນຖືກປະຕິບັດ, ແລະໄຟລ໌ທີ່ແຕກຕ່າງກັນຖືກພິຈາລະນາໃນພວກມັນ - ການປ່ຽນແປງ: ສ້າງ, ລຶບ, ປ່ຽນແປງ. ການປ່ຽນແປງນີ້ແມ່ນຖືກບັນທຶກໄວ້ໃນ binlog ຂອງເຄື່ອງຈັກ copyfast ພິເສດ, ເຊິ່ງສາມາດ replicate ການປ່ຽນແປງຢ່າງໄວວາກັບເຮືອເຊີຟເວີທັງຫມົດຂອງພວກເຮົາ. ສິ່ງທີ່ຖືກນໍາໃຊ້ຢູ່ທີ່ນີ້ບໍ່ແມ່ນການຄັດລອກໂດຍກົງ, ແຕ່ ການຈໍາລອງການນິນທາ, ເມື່ອເຄື່ອງແມ່ຂ່າຍຫນຶ່ງສົ່ງການປ່ຽນແປງໄປຫາເພື່ອນບ້ານໃກ້ຄຽງທີ່ສຸດ, ເຫຼົ່ານັ້ນໄປຫາເພື່ອນບ້ານ, ແລະອື່ນໆ. ນີ້ອະນຸຍາດໃຫ້ທ່ານປັບປຸງລະຫັດໃນສິບແລະຫນ່ວຍຂອງວິນາທີໃນທົ່ວເຮືອທັງຫມົດ. ເມື່ອການປ່ຽນແປງໄປຮອດການຈໍາລອງທ້ອງຖິ່ນ, ມັນໃຊ້ patches ເຫຼົ່ານີ້ກັບມັນ ລະບົບໄຟລ໌ທ້ອງຖິ່ນ. Rollback ແມ່ນດໍາເນີນໄປຕາມໂຄງການດຽວກັນ.

ພວກເຮົາຍັງໃຊ້ kPHP ຢ່າງຫຼວງຫຼາຍແລະມັນຍັງມີການພັດທະນາຂອງຕົນເອງ ໄປ ອີງຕາມແຜນວາດຂ້າງເທິງ. ນັບຕັ້ງແຕ່ນີ້ HTTP server binary, ຫຼັງຈາກນັ້ນພວກເຮົາບໍ່ສາມາດຜະລິດຄວາມແຕກຕ່າງ - binary ການປ່ອຍນ້ໍາຫນັກຫຼາຍຮ້ອຍ MB. ດັ່ງນັ້ນ, ມີທາງເລືອກອື່ນຢູ່ທີ່ນີ້ - ສະບັບແມ່ນຂຽນເຖິງ binlog copyfast. ດ້ວຍແຕ່ລະການກໍ່ສ້າງມັນເພີ່ມຂຶ້ນ, ແລະໃນລະຫວ່າງການ rollback ມັນຍັງເພີ່ມຂຶ້ນ. ຮຸ່ນ replicated ກັບເຄື່ອງແມ່ຂ່າຍ. copyfasts ທ້ອງຖິ່ນເຫັນວ່າສະບັບໃຫມ່ໄດ້ເຂົ້າໄປໃນ binlog, ແລະໂດຍການຈໍາລອງການນິນທາດຽວກັນພວກເຂົາເອົາສະບັບຫລ້າສຸດຂອງ binary ສໍາລັບຕົວເອງ, ໂດຍບໍ່ມີການເມື່ອຍເຄື່ອງແມ່ຂ່າຍຕົ້ນສະບັບຂອງພວກເຮົາ, ແຕ່ລະມັດລະວັງການແຜ່ກະຈາຍການໂຫຼດໃນທົ່ວເຄືອຂ່າຍ. ສິ່ງຕໍ່ໄປນີ້ ການເປີດຄືນທີ່ສະຫງ່າງາມ ສໍາລັບສະບັບໃຫມ່.

ສໍາລັບເຄື່ອງຈັກຂອງພວກເຮົາ, ເຊິ່ງແມ່ນ binaries ທີ່ສໍາຄັນ, ໂຄງການແມ່ນຄ້າຍຄືກັນຫຼາຍ:

• git master ສາຂາ;
• binary ໃນ deb;
• ສະບັບໄດ້ຖືກຂຽນໄວ້ໃນ binlog copyfast;
• replicated ກັບເຄື່ອງແມ່ຂ່າຍ;
• ເຄື່ອງແມ່ຂ່າຍດຶງອອກ .dep ສົດ;
• dpkg -i;
• ການເປີດຕົວທີ່ງົດງາມກັບສະບັບໃຫມ່.

ຄວາມແຕກຕ່າງແມ່ນວ່າ binary ຂອງພວກເຮົາຖືກຫຸ້ມຫໍ່ຢູ່ໃນບ່ອນເກັບມ້ຽນ deb, ແລະໃນເວລາທີ່ pumping ອອກເຂົາເຈົ້າ dpkg -i ຖືກຈັດໃສ່ໃນລະບົບ. ເປັນຫຍັງ kPHP ຈຶ່ງຖືກນຳໃຊ້ເປັນຖານສອງ, ແລະເຄື່ອງຈັກຖືກນຳໃຊ້ເປັນ dpkg? ມັນເກີດຂຶ້ນແບບນັ້ນ. ມັນເຮັດວຽກ - ຢ່າແຕະຕ້ອງມັນ.

ການເຊື່ອມຕໍ່ທີ່ເປັນປະໂຫຍດ:

• ລາຍງານໂດຍ Anton Kiryushkin "ຜູ້ເບິ່ງແຍງລະບົບ Vkontakte. ແນວໃດ?" ມີລາຍລະອຽດກ່ຽວກັບ copyfast ແລະການນິນທາ.
• ລາຍງານໂດຍ Yuri Nasretdinov "ວິທີການ VK ແຊກຂໍ້ມູນເຂົ້າໄປໃນ CLickHouse ຈາກຫລາຍສິບພັນເຄື່ອງແມ່ຂ່າຍ".
• ບົດລາຍງານຂອງຂ້ອຍ "ຖາປັດຕະຍະຂອງໂຄງການການຂະຫຍາຍຕົວໂດຍໃຊ້ຕົວຢ່າງຂອງ VKontakte", ແຕ່ຈາກທັດສະນະການພັດທະນາ, ບໍ່ແມ່ນຮາດແວ.

Alexey Akulovich ແມ່ນຫນຶ່ງໃນຜູ້ທີ່, ເປັນສ່ວນຫນຶ່ງຂອງຄະນະກໍາມະການໂຄງການ, ຊ່ວຍ PHP ລັດເຊຍ ໃນວັນທີ 17 ເດືອນພຶດສະພາຈະກາຍເປັນເຫດການທີ່ໃຫຍ່ທີ່ສຸດສໍາລັບນັກພັດທະນາ PHP ໃນເວລາທີ່ຜ່ານມາ. ເບິ່ງສິ່ງທີ່ເປັນ PC ເຢັນທີ່ພວກເຮົາມີ, ແມ່ນຫຍັງ ລໍາໂພງ (ສອງຂອງພວກເຂົາກໍາລັງພັດທະນາຫຼັກ PHP!) - ເບິ່ງຄືວ່າບາງສິ່ງບາງຢ່າງທີ່ທ່ານບໍ່ສາມາດພາດຖ້າທ່ານຂຽນ PHP.

ແຫຼ່ງຂໍ້ມູນ: www.habr.com