ባዮይኖ - የተከፋፈለ፣ ሊለኩ የሚችሉ መለኪያዎች ሰብሳቢ

ስለዚህ መለኪያዎች ይሰበስባሉ. እንደ እኛ. መለኪያዎችንም እንሰበስባለን. እርግጥ ነው, ለንግድ ስራ አስፈላጊ ነው. ዛሬ ስለ የክትትል ስርዓታችን የመጀመሪያ አገናኝ እንነጋገራለን - ከስታቲስቲክስ ጋር ተኳሃኝ የሆነ ስብስብ አገልጋይ bioiyoለምን እንደጻፍነው እና ለምን ብሩቤክን እንደተተወን.

ከቀደምት ጽሑፎቻችን (1, 2) እስከተወሰነ ጊዜ ድረስ በመጠቀም ምልክቶችን እንደሰበሰብን ማወቅ ይችላሉ ብሩቤክ. በሲ የተጻፈው በኮድ እይታ ልክ እንደ ተሰኪ ነው (ይህ ማዋጣት ሲፈልጉ አስፈላጊ ነው) እና ከሁሉም በላይ ደግሞ የእኛን ጥራዞች በሴኮንድ 2 ሚሊዮን ሜትሪክስ (MPS) በከፍተኛ ደረጃ ያስተናግዳል. ያለ ምንም ችግር. ሰነዱ ለ 4 ሚሊዮን MPS በኮከብ ምልክት ድጋፍ እንደሚሰጥ ይገልጻል። ይህ ማለት ኔትወርኩን በሊኑክስ ላይ በትክክል ካዋቀሩ የተገለፀውን አሃዝ ያገኛሉ ማለት ነው። (ከአውታረ መረቡ ከወጡ ምን ያህል MPS ማግኘት እንደሚችሉ አናውቅም)። ምንም እንኳን እነዚህ ጥቅሞች ቢኖሩም, ስለ ብሩቤክ ብዙ ከባድ ቅሬታዎች ነበሩን.

የይገባኛል ጥያቄ 1. የፕሮጀክቱ ገንቢ Github መደገፉን አቁሟል፡ ጥገናዎችን እና ጥገናዎችን ማተም ፣የእኛን እና (የእኛን ብቻ ሳይሆን) PRን መቀበል። ባለፉት ጥቂት ወራት (ከየካቲት-መጋቢት 2018) እንቅስቃሴው ቀጥሏል፣ ነገር ግን ከዚያ በፊት ወደ 2 ዓመታት ገደማ ሙሉ በሙሉ መረጋጋት ነበር። በተጨማሪም ፕሮጀክቱ እየተዘጋጀ ነው ለውስጣዊ ጊሁብ ፍላጎቶች, ይህም አዳዲስ ባህሪያትን ለማስተዋወቅ ከባድ እንቅፋት ሊሆን ይችላል.

የይገባኛል ጥያቄ 2. የስሌቶች ትክክለኛነት. ብሩቤክ በአጠቃላይ 65536 እሴቶችን ይሰበስባል። በእኛ ሁኔታ ፣ ለአንዳንድ መለኪያዎች ፣ በድምር ጊዜ (30 ሰከንድ) ፣ ብዙ ተጨማሪ እሴቶች ሊደርሱ ይችላሉ (1 በከፍተኛው)። በዚህ ናሙና ምክንያት, ከፍተኛው እና ዝቅተኛ ዋጋዎች ምንም ፋይዳ የሌላቸው ሆነው ይታያሉ. ለምሳሌ፣ እንደዚህ፡-

እንደነበረው

እንዴት መሆን ነበረበት

በተመሳሳይ ምክንያት, መጠኖች በአጠቃላይ በስህተት ይሰላሉ. የ32-ቢት ተንሳፋፊ የትርፍ ፍሰት ያለው ስህተት እዚህ ያክሉ፣ ይህም በአጠቃላይ ንፁህ የሚመስል መለኪያ ሲቀበል አገልጋዩን ወደ segfault ይልካል፣ እና ሁሉም ነገር ምርጥ ይሆናል። በነገራችን ላይ ስህተቱ አልተስተካከለም።

እና በመጨረሻም የይገባኛል ጥያቄ X. ይህ ዘገባ እስከተጠናቀረበት ጊዜ ድረስ ልናገኛቸው ለቻልናቸው 14 ብዙ ወይም ከዚያ በታች የሚሰሩ የስታቲስቲክስ አተገባበርዎችን ለማቅረብ ዝግጁ ነን። አንዳንድ ነጠላ መሰረተ ልማቶች በጣም ስላደጉ 4 ሚሊዮን MPS መቀበል በቂ እንዳልሆነ እናስብ። ወይም ምንም እንኳን እስካሁን ያላደገ ቢሆንም፣ ልኬቶቹ ለእርስዎ በጣም አስፈላጊ ከመሆናቸው የተነሳ በገበታዎቹ ውስጥ ያሉት 2-3 ደቂቃዎች አጭር እንኳን ወሳኝ ሊሆኑ እና በአስተዳዳሪዎች መካከል የማይታለፍ የመንፈስ ጭንቀት ሊያስከትሉ ይችላሉ። የመንፈስ ጭንቀትን ማከም ምስጋና ቢስ ተግባር ስለሆነ ቴክኒካዊ መፍትሄዎች ያስፈልጋሉ.

በመጀመሪያ, ስህተትን መቻቻል, በአገልጋዩ ላይ ድንገተኛ ችግር በቢሮ ውስጥ የስነ-አእምሮ ዞምቢ አፖካሊፕስ አያመጣም. በሁለተኛ ደረጃ፣ የሊኑክስ ኔትወርክ ቁልል ውስጥ በጥልቀት ሳይቆፍሩ እና በተረጋጋ ሁኔታ "በስፋት" በሚፈለገው መጠን ሳያሳድጉ ከ4 ሚሊዮን MPS በላይ ለመቀበል መቻል።

ለመለካት ቦታ ስለነበረን፣ ከስህተት መቻቻል ለመጀመር ወሰንን። "ስለ! ስህተትን መታገስ! ቀላል ነው፣ ልናደርገው እንችላለን” ብለን አሰብን እና 2 አገልጋዮችን አስጀመርን በእያንዳንዱ ላይ የብሩቤክ ቅጂ አነሳን። ይህንን ለማድረግ ትራፊክን በመለኪያዎች ወደ ሁለቱም አገልጋዮች መቅዳት እና ለዚህ እንኳን መጻፍ ነበረብን አነስተኛ መገልገያ. የስህተት መቻቻልን ችግር በዚህ ፈትተናል፣ ነገር ግን... በጣም ጥሩ አይደለም። መጀመሪያ ላይ ሁሉም ነገር በጣም ጥሩ ይመስል ነበር-እያንዳንዱ ብሩቤክ የራሱን የስብስብ ስሪት ይሰበስባል, በየ 30 ሰከንድ አንድ ጊዜ መረጃን ወደ ግራፋይት ይጽፋል, የድሮውን ክፍተት ይጽፋል (ይህ በግራፋይ በኩል ይከናወናል). አንድ አገልጋይ በድንገት ካልተሳካ ሁልጊዜ የራሱ የሆነ የተዋሃደ ውሂብ ቅጂ ያለው ሁለተኛ ደረጃ አለን። ግን ችግሩ እዚህ አለ: አገልጋዩ ካልተሳካ, "ማየት" በግራፎች ላይ ይታያል. ይህ የሆነበት ምክንያት የብሩቤክ የ 30 ሰከንድ ክፍተቶች ስላልተመሳሰሉ እና በአደጋ ጊዜ ከመካከላቸው አንዱ ስላልተፃፈ ነው። ሁለተኛው አገልጋይ ሲጀምር, ተመሳሳይ ነገር ይከሰታል. በጣም ታጋሽ ፣ ግን የተሻለ እፈልጋለሁ! የመለጠጥ ችግርም አልጠፋም። ሁሉም መለኪያዎች አሁንም ወደ አንድ አገልጋይ "ይበርራሉ" እና ስለዚህ በኔትወርክ ደረጃ ላይ በመመስረት ለተመሳሳይ 2-4 ሚሊዮን MPS ተገድበናል.

ስለ ችግሩ ትንሽ ካሰቡ እና በተመሳሳይ ጊዜ በረዶን በአካፋ ከቆፈሩ, የሚከተለው ግልጽ ሀሳብ ወደ አእምሮዎ ሊመጣ ይችላል-በተከፋፈለ ሁነታ ውስጥ ሊሰራ የሚችል ስታቲስቲክስ ያስፈልግዎታል. ያም ማለት በጊዜ እና በመለኪያዎች መካከል በመስቀለኛ መንገድ መካከል ማመሳሰልን ተግባራዊ የሚያደርግ ነው። "በእርግጥ እንደዚህ አይነት መፍትሄ ምናልባት አስቀድሞ አለ" አልንና ወደ ጎግል ሄድን…. እና ምንም አላገኙም። ለተለያዩ ስታቲስቲክስ ሰነዶችን ካለፉ በኋላ (https://github.com/etsy/statsd/wiki#server-implementations ከዲሴምበር 11.12.2017 ቀን XNUMX ጀምሮ) ምንም ነገር አላገኘንም። በግልጽ ለማየት እንደሚቻለው, የእነዚህ መፍትሄዎች ገንቢዎችም ሆኑ ተጠቃሚዎች እስካሁን ድረስ በጣም ብዙ መለኪያዎች አላጋጠሟቸውም, አለበለዚያ በእርግጠኝነት የሆነ ነገር ይዘው ይመጣሉ.

እና ከዚያ በኋላ ስለ “አሻንጉሊት” ስታቲስቲክስ - ባዮዮኖ አስታወስን ፣ በ Just for Fun hackathon (የፕሮጀክቱ ስም የተፈጠረው ከ hackathon መጀመሪያ በፊት በስክሪፕቱ ነው) እና የራሳችንን ስታቲስቲክስ በአስቸኳይ እንደሚያስፈልገን ተገነዘብን። ለምንድነው?

• ምክንያቱም በዓለም ውስጥ በጣም ጥቂት የስታቲስቲክስ ክሎኖች አሉ ፣
• የተፈለገውን ወይም የሚፈለገውን የስህተት መቻቻል እና መጠነ-ሰፊነት ማቅረብ ስለሚቻል (የተጠቃለሉ መለኪያዎችን በአገልጋዮች መካከል ማመሳሰል እና ግጭቶችን የመላክ ችግርን መፍታትን ጨምሮ)
• ምክንያቱም ከ brubeck የበለጠ መለኪያዎችን በትክክል ማስላት ይቻላል ፣
• ምክንያቱም እርስዎ እራስዎ የበለጠ ዝርዝር ስታቲስቲክስን መሰብሰብ ይችላሉ ፣ ይህም ብሩቤክ በተግባር ለእኛ አልሰጠንም ፣
• የሌላ ተመሳሳይ ሃይፐርፎርም አርክቴክቸር ሙሉ በሙሉ የማይደግመው የራሴን የሃይፐር ፐርፎርማንስ የተከፋፈለ ስኬል ላብራቶሪ መተግበሪያ የማዘጋጀት እድል ስለነበረኝ... በቃ፣ በቃ።

በምን ላይ መፃፍ? እርግጥ ነው, በሩስት ውስጥ. ለምን?

• ቀደም ሲል የፕሮቶታይፕ መፍትሄ ስለነበረ,
• የአንቀጹ ደራሲ በዚያን ጊዜ ዝገትን ስለሚያውቅ እና በክፍት ምንጭ ውስጥ ለማስቀመጥ እድሉን በመጠቀም ለምርት የሆነ ነገር ለመፃፍ ጓጉቷል ፣
• ምክንያቱም ከጂሲ ጋር ያሉ ቋንቋዎች ለእኛ ተስማሚ አይደሉም በተቀበሉት የትራፊክ ተፈጥሮ (በአሁኑ ጊዜ ማለት ይቻላል) እና የጂሲ ለአፍታ ማቆም በተግባር ተቀባይነት የለውም።
• ምክንያቱም ከ C ጋር የሚወዳደር ከፍተኛ አፈፃፀም ያስፈልግዎታል
• ምክንያቱም ዝገት ያለ ፍርሀት ኮንፈረንስ ይሰጠናል፣ እና በC/C++ ላይ መፃፍ ከጀመርን ከቡራቤክ የበለጠ ተጋላጭነቶችን፣ መጨናነቅን፣ የዘር ሁኔታዎችን እና ሌሎች አስፈሪ ቃላትን እናስፈራራ ነበር።

በተጨማሪም ዝገት ላይ ክርክር ነበር. ኩባንያው በሩስት ውስጥ ፕሮጀክቶችን የመፍጠር ልምድ አልነበረውም, እና አሁን ደግሞ በዋናው ፕሮጀክት ውስጥ ለመጠቀም እቅድ የለንም. ስለዚህ, ምንም ነገር አይሰራም የሚል ከባድ ፍራቻ ነበር, ነገር ግን እድል ለመውሰድ ወስነናል እና ሞከርን.

ጊዜ አለፈ...

በመጨረሻም, ከበርካታ ያልተሳኩ ሙከራዎች በኋላ, የመጀመሪያው የስራ ስሪት ዝግጁ ነበር. ምን ሆነ? የሆነውም ይህ ነው።

እያንዳንዱ መስቀለኛ መንገድ የራሱን የመለኪያዎች ስብስብ ይቀበላል እና ያከማቻል፣ እና ለመጨረሻው ድምር ሙሉ ስብስባቸው የሚያስፈልገው ለእነዚህ አይነቶች መለኪያዎችን አያጠቃልልም። አንጓዎቹ በአንድ ዓይነት የተከፋፈለ የመቆለፊያ ፕሮቶኮል እርስ በርስ የተያያዙ ናቸው, ይህም ከነሱ መካከል ብቸኛውን (እዚህ አለቀስን) ለታላቁ ሰው መለኪያዎችን ለመላክ ብቁ የሆነውን ለመምረጥ ያስችልዎታል. ይህ ችግር በአሁኑ ጊዜ የሚፈታው በ ቆንጆነገር ግን ወደፊት የጸሐፊው ምኞት ወደ ላይ ይደርሳል የራሱ ትግበራ Raft ፣ በጣም ብቁ የሆነው ፣ በእርግጥ ፣ የጋራ ስምምነት መሪ መስቀለኛ መንገድ ይሆናል። ከስምምነት በተጨማሪ አንጓዎች ብዙ ጊዜ (በነባሪ በሴኮንድ አንድ ጊዜ) በዚያ ሰከንድ መሰብሰብ የቻሉትን ቀድሞ የተዋሃዱ መለኪያዎችን ለጎረቤቶቻቸው ይልካሉ። የመለኪያ እና የስህተት መቻቻል እንደተጠበቀ ሆኖ - እያንዳንዱ መስቀለኛ መንገድ አሁንም ሙሉ የመለኪያዎች ስብስብ ይይዛል ፣ ግን ልኬቶቹ ቀድሞውኑ የተዋሃዱ ፣ በ TCP በኩል እና ወደ ሁለትዮሽ ፕሮቶኮል ይላካሉ ፣ ስለሆነም የማባዛት ወጪዎች ከ UDP ጋር ሲነፃፀሩ በከፍተኛ ሁኔታ ቀንሰዋል። ምንም እንኳን ብዙ ቁጥር ያላቸው ገቢ መለኪያዎች ቢኖሩም ፣ ክምችት በጣም ትንሽ ማህደረ ትውስታ እና እንዲያውም ያነሰ ሲፒዩ ይፈልጋል። ለበለጠ የታመቀ ሜርቲክስ ይህ ጥቂት አስር ሜጋባይት ዳታ ብቻ ነው። እንደ ቡርቤክ እንደ ተጨማሪ ጉርሻ በግራፋይት ውስጥ ምንም አላስፈላጊ ውሂብ እንደገና መፃፍ አናገኝም።

የ UDP ፓኬቶች በቀላል ክብ ሮቢን በኩል በኔትወርክ መሳሪያዎች ላይ ባሉ አንጓዎች መካከል ሚዛናቸውን የጠበቁ አይደሉም። በእርግጥ የኔትወርኩ ሃርድዌር የፓኬቶችን ይዘት አይተነተንም እና ስለዚህ ምንም የማያውቀውን መለኪያዎች ሳንጠቅስ በሰከንድ ከ4M በላይ ፓኬቶችን መሳብ ይችላል። መለኪያዎቹ በእያንዳንዱ ፓኬት ውስጥ አንድ በአንድ እንደማይመጡ ግምት ውስጥ ካስገባን, በዚህ ቦታ ላይ ምንም አይነት የአፈፃፀም ችግር አንመለከትም. አገልጋዩ ከተበላሸ የኔትዎርክ መሳሪያው በፍጥነት (በ1-2 ሰከንድ ውስጥ) ይህንን እውነታ አውቆ የተበላሸውን አገልጋይ ከመዞር ያስወግዳል። በዚህ ምክንያት, ተገብሮ (ማለትም መሪ ያልሆኑ) ኖዶች በገበታዎቹ ላይ ስዕሎችን ሳያሳዩ በተግባራዊ ሁኔታ ሊበሩ እና ሊጠፉ ይችላሉ. የምናጣው ከፍተኛው በመጨረሻው ሰከንድ ውስጥ የገቡት የመለኪያዎች አካል ነው። ድንገተኛ የመሪ መጥፋት/መዘጋት/መቀያየር አሁንም መጠነኛ የሆነ ችግር ይፈጥራል (የ30 ሰከንድ ክፍተት አሁንም አልተመሳሰለም) ነገር ግን በአንጓዎች መካከል ግንኙነት ካለ እነዚህ ችግሮች ሊቀንስ ይችላል ለምሳሌ የማመሳሰል ፓኬጆችን በመላክ .

ስለ ውስጣዊ መዋቅር ትንሽ. አፕሊኬሽኑ በርግጥም ባለ ብዙ ክር ነው ነገር ግን የክርን አርክቴክቸር በብሩቤክ ከሚገለገልበት የተለየ ነው። በብሩቤክ ውስጥ ያሉት ክሮች ተመሳሳይ ናቸው - እያንዳንዳቸው ለሁለቱም የመረጃ አሰባሰብ እና ውህደት ተጠያቂ ናቸው. በቢዮኖ ውስጥ, ሰራተኞች በሁለት ቡድን ይከፈላሉ-የአውታረ መረቡ ኃላፊነት ያለባቸው እና የመደመር ኃላፊነት ያላቸው. ይህ ክፍፍል እንደ ሜትሪክስ አይነት መተግበሪያውን በተለዋዋጭ እንዲያስተዳድሩ ይፈቅድልዎታል-የተጠናከረ ውህደት በሚያስፈልግበት ቦታ ፣ ብዙ የአውታረ መረብ ትራፊክ ባለበት ፣ የአውታረ መረብ ፍሰቶችን ቁጥር ማከል ይችላሉ ። በአሁኑ ጊዜ በአገልጋዮቻችን ላይ በ 8 አውታረመረብ እና በ 4 ድምር ፍሰቶች ውስጥ እንሰራለን.

ቆጠራው (ለመደመር ኃላፊነት ያለው) ክፍል በጣም አሰልቺ ነው። በኔትወርክ ፍሰቶች የተሞሉ ቋጥኞች በመቁጠር ፍሰቶች መካከል ይሰራጫሉ፣ እነሱም በመቀጠል ተተነተኑ እና ተደምረዋል። በተጠየቀ ጊዜ፣ መለኪያዎች ወደ ሌሎች አንጓዎች ለመላክ ተሰጥተዋል። ይህ ሁሉ፣ በኖዶች መካከል ያለውን መረጃ መላክ እና ከቆንስል ጋር አብሮ መስራትን ጨምሮ፣ በማዕቀፉ ላይ በመስራት ባልተመሳሰል መልኩ ይከናወናሉ። ቶኪዮ.

በእድገት ወቅት ብዙ ተጨማሪ ችግሮች የተፈጠሩት መለኪያዎችን ለመቀበል ኃላፊነት ባለው የአውታረ መረብ ክፍል ነው። የአውታረ መረብ ፍሰቶችን ወደ ተለያዩ አካላት የመለየት ዋና ግብ ፍሰት የሚያጠፋውን ጊዜ የመቀነስ ፍላጎት ነበር። አይደለም ከሶኬት ላይ ውሂብ ለማንበብ. ያልተመሳሰለ UDP እና መደበኛ recvmsg የሚጠቀሙ አማራጮች በፍጥነት ጠፍተዋል፡ የመጀመሪያው ለክስተት ሂደት ብዙ የተጠቃሚ ቦታ ሲፒዩ ይበላል፣ ሁለተኛው ደግሞ ብዙ የአውድ መቀየሪያዎችን ይፈልጋል። ስለዚህ አሁን ጥቅም ላይ ይውላል recvmmsg በትልልቅ ቋት (እና ቋጠሮዎች፣ የተከበሩ መኮንኖች፣ ለእርስዎ ምንም አይደሉም!) ለመደበኛ የ UDP ድጋፍ recvmmsg ለማያስፈልግ ለብርሃን ጉዳዮች የተጠበቀ ነው። በመልቲሜሴጅ ሁነታ ውስጥ ዋናውን ነገር ማሳካት ይቻላል-በአብዛኛው የአውታረ መረብ ክር የስርዓተ ክወናውን ወረፋ ያስነሳል - ከሶኬት ላይ መረጃን በማንበብ ወደ የተጠቃሚ ቦታ ቋት ያስተላልፋል ፣ አልፎ አልፎ ብቻ የተሞላውን ቋት ወደ መስጠት ይቀየራል። ሰብሳቢዎች. በሶኬት ውስጥ ያለው ወረፋ በተግባር አይከማችም, የተጣሉ እሽጎች ቁጥር በተግባር አያድግም.

አመለከተ

በነባሪ ቅንጅቶች ውስጥ የቋት መጠኑ በጣም ትልቅ እንዲሆን ተቀናብሯል። በድንገት አገልጋዩን እራስዎ ለመሞከር ከወሰኑ አነስተኛ ቁጥር ያላቸውን መለኪያዎች ከላኩ በኋላ በኔትወርክ ዥረት ቋት ውስጥ የቀሩ ግራፋይት ውስጥ እንደማይደርሱ ሊያጋጥሙዎት ይችላሉ። ከትንሽ መለኪያዎች ጋር ለመስራት ባፍ መጠን እና የተግባር ወረፋ መጠን በማዋቀር ውስጥ ወደ ትናንሽ እሴቶች ማዘጋጀት ያስፈልግዎታል።

በመጨረሻም፣ ለገበታ አፍቃሪዎች አንዳንድ ገበታዎች።

ለእያንዳንዱ አገልጋይ የገቢ መለኪያዎች ብዛት ላይ ስታቲስቲክስ፡ ከ2 ሚሊዮን MPS በላይ።

ከአንጓዎቹ አንዱን በማሰናከል እና ገቢ መለኪያዎችን እንደገና ማሰራጨት።

በወጪ መለኪያዎች ላይ ስታቲስቲክስ፡ አንድ መስቀለኛ መንገድ ብቻ ሁልጊዜ ይልካል - የወረራ አለቃ።

በተለያዩ የስርዓት ሞጁሎች ውስጥ ያሉትን ስህተቶች ግምት ውስጥ በማስገባት የእያንዳንዱ መስቀለኛ መንገድ አሠራር ስታቲስቲክስ.

የገቢ መለኪያዎች ዝርዝር (ሜትሪክ ስሞች ተደብቀዋል)።

ይህን ሁሉ በቀጣይ ምን ለማድረግ አስበናል? እርግጥ ነው, ኮድ ጻፍ, የተረገመ ...! ፕሮጀክቱ መጀመሪያ ላይ ክፍት ምንጭ እንዲሆን ታቅዶ ነበር እናም በህይወቱ በሙሉ ይቆያል። የእኛ የቅርብ ጊዜ ዕቅዶች ወደ የራሳችን የራፍት ስሪት መቀየር፣ የአቻ ፕሮቶኮልን ወደ ተጓጓዥ መቀየር፣ ተጨማሪ የውስጥ ስታቲስቲክስን ማስተዋወቅን፣ አዳዲስ የመለኪያ ዓይነቶችን፣ የሳንካ ጥገናዎችን እና ሌሎች ማሻሻያዎችን ያካትታሉ።

እርግጥ ነው, ሁሉም ሰው በፕሮጀክቱ ልማት ውስጥ ለመርዳት እንኳን ደህና መጡ: PR, ጉዳዮችን ይፍጠሩ, ከተቻለ ምላሽ እንሰጣለን, ማሻሻል, ወዘተ.

እንዲህ ከተባለ፣ ያ ሁሉ ሰዎች፣ ዝሆኖቻችንን ግዙ!

ምንጭ: hab.com