🥇በሳይበርፐንክ የተቀመመ የደመና አገልግሎት አፈጣጠር ታሪክ

በአይቲ ውስጥ ሲሰሩ ስርዓቶች የራሳቸው ባህሪ እንዳላቸው ማስተዋል ይጀምራሉ። ተለዋዋጭ፣ ጸጥተኛ፣ ግርዶሽ እና ጥብቅ ሊሆኑ ይችላሉ። እነሱ መሳብ ወይም መቃወም ይችላሉ. አንድ ወይም ሌላ መንገድ, ከእነሱ ጋር "መደራደር" አለብህ, በ "ወጥመዶች" መካከል መንቀሳቀስ እና የግንኙነታቸውን ሰንሰለት መገንባት.

ስለዚህ የደመና መድረክን የመገንባት ክብር ነበረን እና ለዚህም ከእኛ ጋር አብረው እንዲሰሩ ሁለት ንዑስ ስርዓቶችን "ማሳመን" ያስፈልገናል። እንደ እድል ሆኖ፣ “ኤፒአይ ቋንቋ”፣ ቀጥተኛ እጆች እና ከፍተኛ ጉጉት አለን።

ይህ ጽሑፍ በቴክኒካል ሃርድኮር አይሆንም፣ ነገር ግን ደመናን ስንገነባ ያጋጠሙንን ችግሮች ይገልጻል። ከስርዓቶች ጋር የጋራ ቋንቋን እንዴት እንደፈለግን እና ከእሱ ምን እንደ ወጡ መንገዳችንን በብርሃን ቴክኒካዊ ቅዠት መልክ ለመግለጽ ወሰንኩ ።

ወደ ድመት እንኳን በደህና መጡ።

የጉዞው መጀመሪያ

ከተወሰነ ጊዜ በፊት ቡድናችን ለደንበኞቻችን የደመና መድረክን የማስጀመር ኃላፊነት ተሰጥቶት ነበር። የአገልግሎቱን የሶፍትዌር ክፍል ለመተግበር ቴክኖሎጂዎችን ለመምረጥ የአስተዳደር ድጋፍ፣ ግብዓቶች፣ የሃርድዌር ቁልል እና ነፃነት አግኝተናል።

በርካታ መስፈርቶችም ነበሩ፡-

አገልግሎቱ ምቹ የሆነ የግል መለያ ያስፈልገዋል;
የመሳሪያ ስርዓቱ አሁን ባለው የሂሳብ አከፋፈል ስርዓት ውስጥ መካተት አለበት;
ሶፍትዌር እና ሃርድዌር፡- OpenStack + Tungsten Fabric (Open Contrail)፣ መሐንዲሶቻችን በደንብ “ማብሰል”ን የተማሩት።

የሀብራ ማህበረሰብ ፍላጎት ካለው ቡድኑ እንዴት እንደተሰበሰበ ፣የግል መለያ በይነገጽ እንደተፈጠረ እና የንድፍ ውሳኔዎች እንደተደረጉ ሌላ ጊዜ እንነግራችኋለን።
ለመጠቀም የወሰንናቸው መሳሪያዎች፡-

Python + Flask + Swagger + SQLAlchemy - ሙሉ በሙሉ መደበኛ የፓይዘን ስብስብ;
Vue.js ለ frontend;
በ AMQP ላይ Celery ን በመጠቀም በንጥረ ነገሮች እና በአገልግሎቶች መካከል ያለውን መስተጋብር ለመስራት ወስነናል።

Pythonን ስለመምረጥ ጥያቄዎችን በመጠባበቅ, እገልጻለሁ. ቋንቋው በኩባንያችን ውስጥ የራሱን ቦታ አግኝቷል እና ትንሽ ፣ ግን አሁንም ባህል ፣ በዙሪያው አዳብሯል። ስለዚህ አገልግሎቱን በላዩ ላይ መገንባት እንዲጀምር ተወስኗል። ከዚህም በላይ በእንደዚህ ዓይነት ችግሮች ውስጥ የእድገት ፍጥነት ብዙውን ጊዜ ወሳኝ ነው.

ስለዚህ ትውውቅ እንጀምር።

ጸጥ ያለ ቢል - የሂሳብ አከፋፈል

ይህን ሰው ለረጅም ጊዜ አውቀነዋል። ሁል ጊዜ አጠገቤ ተቀምጦ ዝም ብሎ የሆነ ነገር ቆጥሮ ነበር። አንዳንድ ጊዜ የተጠቃሚ ጥያቄዎችን ወደ እኛ አስተላልፏል፣ የደንበኛ ደረሰኞችን አውጥቷል እና አገልግሎቶችን ያስተዳድራል። ተራ ታታሪ ሰው። እውነት ነው፣ ችግሮች ነበሩ። እሱ ዝም ይላል, አንዳንድ ጊዜ አሳቢ እና ብዙ ጊዜ በራሱ አእምሮ.

ሒሳብ አከፋፈል ጓደኛ ለማድረግ የሞከርንበት የመጀመሪያው ሥርዓት ነው። እና ለመጀመሪያ ጊዜ ያጋጠመን ችግር አገልግሎቶችን በሚሰራበት ጊዜ ነበር።

ለምሳሌ, ሲፈጠር ወይም ሲሰረዝ, አንድ ተግባር ወደ ውስጣዊ የሂሳብ አከፋፈል ወረፋ ውስጥ ይገባል. ስለዚህ ከአገልግሎቶች ጋር የማይመሳሰል ሥራ ስርዓት ተግባራዊ ይሆናል. የአገልግሎቶቻችንን ዓይነቶች ለማስኬድ ተግባሮቻችንን በዚህ ወረፋ ውስጥ "ማስገባት" ያስፈልገናል። እና እዚህ ችግር አጋጥሞናል፡ የሰነድ እጥረት።

በሶፍትዌሩ ኤፒአይ ገለፃ መሰረት አሁንም ይህንን ችግር መፍታት ይቻላል ነገርግን የተገላቢጦሽ ምህንድስና ለመስራት ጊዜ ስላልነበረን አመክንዮውን ወደ ውጭ አውጥተን በ RabbitMQ አናት ላይ የተግባር ወረፋ አዘጋጅተናል። በአገልግሎት ላይ የሚደረግ ቀዶ ጥገና በደንበኛው የተጀመረው ከግል መለያው ነው ፣ በኋለኛው በኩል ወደ ሴሊሪ “ተግባር” ይቀየራል እና በሂሳብ አከፋፈል እና በOpenStack በኩል ይከናወናል። ሴሊሪ ተግባሮችን ለማስተዳደር ፣ ድግግሞሾችን ለማደራጀት እና ሁኔታን ለመቆጣጠር በጣም ምቹ ያደርገዋል። ስለ “ሴሊሪ” የበለጠ ማንበብ ይችላሉ ፣ ለምሳሌ ፣ እዚህ.

እንዲሁም፣ የሂሳብ አከፋፈል ገንዘብ ያለቀበትን ፕሮጀክት አላቆመም። ከገንቢዎች ጋር በመገናኘት, ስታቲስቲክስን ሲያሰሉ (እና በትክክል ይህን አይነት ሎጂክ መተግበር ያስፈልገናል), የማቆሚያ ደንቦች ውስብስብ ግንኙነት እንዳለ አውቀናል. ግን እነዚህ ሞዴሎች ከእውነታዎቻችን ጋር በትክክል አይጣጣሙም. የአገልግሎቱን አስተዳደር አመክንዮ ወደ ኋለኛው ጎን በመውሰድ በሴሊሪ ላይ ባሉ ተግባራት ተግባራዊ አድርገነዋል።

ከላይ የተጠቀሱት ሁለቱም ችግሮች ኮዱ ትንሽ እንዲበሳጭ አድርጓቸዋል እናም ለወደፊቱ ከተግባሮች ጋር አብሮ የመስራትን አመክንዮ ወደ ተለየ አገልግሎት ለማንቀሳቀስ እንደገና ማደስ አለብን። ይህንን አመክንዮ ለመደገፍ ስለተጠቃሚዎች እና አገልግሎቶቻቸው አንዳንድ መረጃዎችን በጠረጴዛዎቻችን ውስጥ ማከማቸት አለብን።

ሌላው ችግር ዝምታ ነው።

ቢሊ ለአንዳንድ የኤፒአይ ጥያቄዎች "እሺ" በማለት በጸጥታ ይመልሳል። ይህ ነበር፣ ለምሳሌ፣ በፈተና ወቅት ቃል የተገባላቸው ክፍያዎችን ስንከፍል (በተጨማሪም በኋላ ላይ)። ጥያቄዎቹ በትክክል ተፈጽመዋል እና ምንም ስህተቶች አላየንም።

በ UI በኩል ከስርዓቱ ጋር ስሰራ ምዝግቦቹን ማጥናት ነበረብኝ. የሂሳብ አከፋፈል ራሱ ተመሳሳይ ጥያቄዎችን እንደሚያከናውን ተረጋግጧል ፣ ወሰንን ወደ አንድ የተወሰነ ተጠቃሚ ለምሳሌ ፣ አስተዳዳሪ ፣ በሱ ግቤት ውስጥ ያስተላልፋል።

በአጠቃላይ, በሰነዶቹ ውስጥ ክፍተቶች እና ጥቃቅን የኤፒአይ ጉድለቶች ቢኖሩም, ሁሉም ነገር በጥሩ ሁኔታ ሄደ. ምዝግብ ማስታወሻዎች እንዴት እንደሚዋቀሩ እና ምን እንደሚፈልጉ ከተረዱ በከባድ ጭነት ውስጥ እንኳን ሊነበቡ ይችላሉ. የመረጃ ቋቱ አወቃቀር ያጌጠ ነው ፣ ግን በጣም ምክንያታዊ እና በአንዳንድ መንገዶች እንኳን ማራኪ ነው።

ስለዚህ ፣ ለማጠቃለል ፣ በግንኙነት ደረጃ ያጋጠሙን ዋና ዋና ችግሮች ከአንድ የተወሰነ ስርዓት የአፈፃፀም ባህሪዎች ጋር የተገናኙ ናቸው ።

በአንድ ወይም በሌላ መንገድ እኛን የሚነኩ ሰነዶች የሌላቸው "ባህሪዎች";
የተዘጋ ምንጭ (የሂሳብ አከፋፈል በ C ++ ውስጥ ተጽፏል), በውጤቱም - ችግር 1 ከ "ሙከራ እና ስህተት" በስተቀር በማንኛውም መንገድ መፍታት አይቻልም.

እንደ እድል ሆኖ፣ ምርቱ በጣም ሰፊ የሆነ ኤፒአይ አለው እና የሚከተሉትን ንዑስ ስርዓቶች ወደ የግል መለያችን አዋህደናል።

የቴክኒክ ድጋፍ ሞጁል - ከግል መለያዎ የሚቀርቡ ጥያቄዎች ለአገልግሎት ደንበኞች ግልጽ በሆነ መልኩ ለሂሳብ አከፋፈል “ተኪ ናቸው”፣
የፋይናንሺያል ሞጁል - ለአሁኑ ደንበኞች ደረሰኞችን እንዲሰጡ ይፈቅድልዎታል ፣ ይፃፉ እና የክፍያ ሰነዶችን ያመነጫሉ ፣
የአገልግሎት መቆጣጠሪያ ሞጁል - ለዚህም የራሳችንን ተቆጣጣሪ መተግበር ነበረብን. የስርአቱ መስፋፋት በእጃችን ተጫውቷል እና ለቢሊ አዲስ አይነት አገልግሎት "አስተማርነው"።
ትንሽ ጣጣ ነበር ነገር ግን አንድ መንገድ ወይም ሌላ እኔና ቢሊ የምንስማማበት ይመስለኛል።

በ tungsten መስኮች መራመድ - Tungsten Fabric

የተንግስተን ሜዳዎች በመቶዎች በሚቆጠሩ ሽቦዎች የተሞሉ፣ በሺዎች የሚቆጠሩ መረጃዎችን በእነሱ ውስጥ በማለፍ። መረጃ በ "ፓኬቶች" ውስጥ ይሰበሰባል, የተተነተነ, ውስብስብ መንገዶችን በመገንባት, በአስማት ይመስላል.

ይህ ጓደኛ ማፍራት የነበረብን የሁለተኛው ስርዓት ጎራ ነው - Tungsten Fabric (TF)፣ ቀደም ሲል ክፍት ኮንትራክተር። የእሱ ተግባር የኔትወርክ መሳሪያዎችን ማስተዳደር ነው, እንደ ተጠቃሚ የሶፍትዌር ማጠቃለያ በማቅረብ. TF - SDN, ከአውታረ መረብ መሳሪያዎች ጋር የመሥራት ውስብስብ ሎጂክን ያጠቃልላል. ስለ ቴክኖሎጂው ራሱ ጥሩ መጣጥፍ አለ ለምሳሌ፡- እዚህ.

ስርዓቱ በኒውትሮን ፕለጊን ከOpenStack (ከዚህ በታች ተብራርቷል) ጋር ተዋህዷል።

የOpenStack አገልግሎቶች መስተጋብር።

ከኦፕሬሽን ዲፓርትመንት የመጡት ሰዎች ወደዚህ ሥርዓት አስተዋወቁን። የአገልግሎቶቻችንን የአውታረ መረብ ቁልል ለማስተዳደር የስርዓቱን ኤፒአይ እንጠቀማለን። እስካሁን ድረስ ምንም አይነት ከባድ ችግር አልፈጠረብንም (ከOE ለወንዶቹ መናገር አልችልም) ነገር ግን በመስተጋብር ውስጥ አንዳንድ ያልተለመዱ ነገሮች ነበሩ።

የመጀመሪያው ይህን ይመስላል፡ በኤስኤስኤች ሲገናኙ ብዙ ዳታ ወደ ለምሳሌ ኮንሶል ለማውጣት የሚያስፈልጋቸው ትዕዛዞች በቀላሉ ግንኙነቱን "ዘጋው" በVNC በኩል ግን ሁሉም ነገር በትክክል ይሰራል።

ችግሩን ለማያውቁት, በጣም አስቂኝ ይመስላል: ls / root በትክክል ይሰራል, ለምሳሌ, ከላይ "ቀዝቃዛዎች" ሙሉ በሙሉ. እንደ እድል ሆኖ, ከዚህ በፊት ተመሳሳይ ችግሮች አጋጥመውናል. ከኮምፒዩተር ኖዶች ወደ ራውተሮች በሚወስደው መንገድ ላይ MTU ን በማስተካከል ተወስኗል. በነገራችን ላይ ይህ የTF ችግር አይደለም.

የሚቀጥለው ችግር ጥግ አካባቢ ነበር። በአንድ “ቆንጆ” ቅጽበት፣ የማዘዋወር አስማት ልክ እንደዛው ጠፋ። TF በመሳሪያዎቹ ላይ ማዘዋወር አቁሟል።

ከአስተዳዳሪው ከ Opentack ጋር ሠርተናል እና ከዚያ በኋላ ወደሚፈለገው የተጠቃሚ ደረጃ ተዛወርን። ኤስዲኤን ድርጊቶቹ የተከናወኑበትን የተጠቃሚውን ወሰን "ለመጠለፍ" ይመስላል። እውነታው ግን ተመሳሳይ የአስተዳዳሪ መለያ TF እና OpenStackን ለማገናኘት ጥቅም ላይ ይውላል. ወደ ተጠቃሚው በመቀየር ደረጃ, "አስማት" ጠፋ. ከስርዓቱ ጋር ለመስራት የተለየ መለያ ለመፍጠር ተወስኗል። ይህ የመዋሃድ ተግባርን ሳናቋርጥ እንድንሰራ አስችሎናል.

የሲሊኮን የሕይወት ቅርጾች - ክፍት ስታክ

አስገራሚ ቅርጽ ያለው የሲሊኮን ፍጡር በ tungsten መስኮች አቅራቢያ ይኖራል። ከሁሉም በላይ፣ በአንድ ዥዋዥዌ ሊጨቁን የሚችል፣ ያደገ ልጅ ይመስላል፣ ነገር ግን ከእሱ የሚመጣ ግልጽ የሆነ ጥቃት የለም። ፍርሃትን አያመጣም, ነገር ግን መጠኑ ፍርሃትን ያነሳሳል. በዙሪያው እየተከሰቱ ያሉ ውስብስብ ነገሮች እንዳሉት.

OpenStack የእኛ መድረክ ዋና አካል ነው።

OpenStack በርካታ ንዑስ ስርዓቶች አሉት፣ ከእነዚህም ውስጥ በአሁኑ ጊዜ Nova፣ Glance እና Cinder በብዛት እንጠቀማለን። እያንዳንዳቸው የራሳቸው ኤፒአይ አላቸው። ኖቫ ሀብቶችን ለማስላት እና ምሳሌዎችን ለመፍጠር ሃላፊነት አለበት ፣ ሲንደር ጥራዞችን እና ቅጽበተ-ፎቶዎቻቸውን የማስተዳደር ሃላፊነት አለበት ፣ Glance የስርዓተ ክወና አብነቶችን እና ሜታኢን መረጃን በእነሱ ላይ የሚያስተዳድር የምስል አገልግሎት ነው።

እያንዳንዱ አገልግሎት በእቃ መያዣ ውስጥ ይሰራል, እና የመልዕክት ደላላው "ነጭ ጥንቸል" - RabbitMQ ነው.

ይህ ስርዓት በጣም ያልተጠበቀ ችግር ፈጠረን.

እና ተጨማሪ ድምጽን ከአገልጋዩ ጋር ለማገናኘት ስንሞክር የመጀመሪያው ችግር ብዙም አልነበረም። የሲንደር ኤፒአይ ይህንን ተግባር ለመፈፀም ፈቃደኛ አልሆነም። ይበልጥ በትክክል፣ OpenStackን እራሱ ካመኑ ግንኙነቱ ተመስርቷል፣ ነገር ግን በቨርቹዋል ሰርቨር ውስጥ ምንም የዲስክ መሳሪያ የለም።

አቅጣጫ ለማዞር ወስነናል እና ተመሳሳይ እርምጃ ከኖቫ ኤፒአይ ጠየቅን። ውጤቱም መሳሪያው በትክክል መገናኘቱ እና በአገልጋዩ ውስጥ ተደራሽ ነው. ችግሩ የሚከሰተው አግድ-ማከማቻ ለሲንደር ምላሽ በማይሰጥበት ጊዜ ይመስላል.

ከዲስኮች ጋር ስንሰራ ሌላ ችግር ይጠብቀናል. የስርዓት መጠኑ ከአገልጋዩ ሊቋረጥ አልቻለም።

እንደገና ፣ OpenStack ራሱ ግንኙነቱን እንዳጠፋው “ይማል” እና አሁን በድምጽ በተናጥል በትክክል መሥራት ይችላሉ። ነገር ግን ኤፒአይ በከፊል በዲስክ ላይ ስራዎችን ማከናወን አልፈለገም.

እዚህ በተለይ ለመዋጋት ወስነናል, ነገር ግን የአገልግሎቱን አመክንዮአችንን ለመለወጥ. አንድ ምሳሌ ካለ፣ የስርዓት መጠንም መኖር አለበት። ስለዚህ, ተጠቃሚው "አገልጋዩን" ሳይሰርዝ የስርዓቱን "ዲስክ" ገና ማስወገድ ወይም ማሰናከል አይችልም.

OpenStack የራሱ መስተጋብር አመክንዮ እና ያጌጠ ኤፒአይ ያለው በጣም የተወሳሰበ የስርዓቶች ስብስብ ነው። በትክክል በተዘረዘሩ ሰነዶች እና በእርግጥ በሙከራ እና በስህተት (ያለ እኛ የት እንሆናለን) እንረዳለን።

የሙከራ ሩጫ

ባለፈው ዓመት በታህሳስ ወር የሙከራ ጅምር አድርገናል። ዋናው ተግባር ፕሮጀክታችንን በውጊያ ሁነታ ከቴክኒካል ጎን እና ከ UX ጎን መሞከር ነበር. ታዳሚው ተመርጦ ተጋብዞ ፈተናው ተዘጋ። ነገር ግን፣ በድረ-ገጻችን ላይ የፈተና መዳረሻን ለመጠየቅም ምርጫውን ትተናል።

ፈተናው ራሱ፣ በእርግጥ፣ ያለአስቂኝ ጊዜዎቹ አልነበረም፣ ምክንያቱም ይህ ጀብዱዎቻችን ገና እየጀመሩ ያሉት ነው።

በመጀመሪያ፣ የፕሮጀክቱን ፍላጎት በመጠኑም ቢሆን በስህተት ገምግመናል እና በፈተና ወቅት በትክክል የሂሳብ ኖዶችን በፍጥነት መጨመር ነበረብን። ለክላስተር የተለመደ ጉዳይ፣ ግን እዚህም አንዳንድ ጥቃቅን ነገሮች ነበሩ። ለአንድ የተወሰነ የቲኤፍ እትም ሰነድ የሚያመለክተው ከvRouter ጋር ስራ የተሞከረበትን ልዩ የከርነል ስሪት ነው። ኖዶችን በቅርብ ጊዜ ከርነሎች ለማስጀመር ወስነናል። በውጤቱም, TF ከአንጓዎች መስመሮችን አልተቀበለም. አስኳላዎቹን በአስቸኳይ ወደ ኋላ መመለስ ነበረብኝ።

ሌላ የማወቅ ጉጉት በግል መለያዎ ውስጥ ካለው "የይለፍ ቃል ለውጥ" ቁልፍ ተግባር ጋር የተያያዘ ነው።

ከክፍለ-ጊዜዎች ጋር እንዳንሠራ ወደ የግል መለያችን ለመግባት JWT ን ለመጠቀም ወሰንን። ስርዓቶቹ የተለያዩ እና የተበታተኑ በመሆናቸው የራሳችንን ማስመሰያ እናስተዳድራለን፣ በዚህ ውስጥ ክፍለ-ጊዜዎችን ከክፍያ መጠየቂያ እና ከ OpenStack ማስመሰያ የምንጠቀልልበት። የይለፍ ቃሉ ሲቀየር ማስመሰያው በእርግጥ "መጥፎ ይሄዳል" ምክንያቱም የተጠቃሚው ውሂብ ከአሁን በኋላ የሚሰራ አይደለም እና እንደገና መታተም ያስፈልገዋል።

ይህንን ነጥብ አይተናል፣ እና በቀላሉ ይህን ቁራጭ በፍጥነት ለመጨረስ በቂ ሀብቶች አልነበሩም። ሙከራውን ከመጀመርዎ በፊት ተግባራዊነቱን ማቋረጥ ነበረብን።
በአሁኑ ጊዜ የይለፍ ቃሉ ከተቀየረ ተጠቃሚውን እናወጣለን።

ምንም እንኳን እነዚህ ልዩነቶች ቢኖሩም, ሙከራው ጥሩ ነበር. በጥቂት ሳምንታት ውስጥ ወደ 300 የሚጠጉ ሰዎች ቆሙ። ምርቱን በተጠቃሚዎች ዓይን ለማየት፣ በተግባር ፈትነን እና ከፍተኛ ጥራት ያለው ግብረመልስ ለመሰብሰብ ችለናል።

እንዲቀጥል

ለብዙዎቻችን ይህ የዚህ ልኬት የመጀመሪያ ፕሮጀክት ነው። በቡድን እንዴት መስራት እና የስነ-ህንፃ እና የንድፍ ውሳኔዎችን ማድረግን በተመለከተ በርካታ ጠቃሚ ትምህርቶችን ተምረናል። ውስብስብ ስርዓቶችን በትንሽ ሀብቶች እንዴት ማቀናጀት እና ወደ ምርት ማሸጋገር እንደሚቻል።

እርግጥ ነው, በሁለቱም በኮድ እና በስርዓት ውህደት መገናኛዎች ላይ የሚሰራ አንድ ነገር አለ. ፕሮጀክቱ በጣም ወጣት ነው፣ ነገር ግን ወደ አስተማማኝ እና ምቹ አገልግሎት ለማሳደግ ብዙ ምኞቶች ነን።

ስርአቶቹን ማሳመን ችለናል። ቢል በቁም ሣጥኑ ውስጥ ቆጠራን፣ የሂሳብ አከፋፈልን እና የተጠቃሚ ጥያቄዎችን በአግባቡ ይቆጣጠራል። የ tungsten መስኮች "አስማት" የተረጋጋ ግንኙነት ይሰጠናል. እና OpenStack ብቻ አንዳንድ ጊዜ ይገርማል፣ እንደ "'WSREP ገና ለትግበራ አገልግሎት መስቀለኛ መንገድ አላዘጋጀም።" ግን ይህ ፈጽሞ የተለየ ታሪክ ነው ...

በቅርቡ አገልግሎቱን ጀምረናል።
ሁሉንም ዝርዝሮች በእኛ ላይ ማግኘት ይችላሉ ጣቢያ.

CLO ልማት ቡድን

ጠቃሚ አገናኞች

OpenStack

የተንግስተን ጨርቅ

ምንጭ: hab.com

በሳይበርፐንክ የተቀመመ የደመና አገልግሎት የመፍጠር ታሪክ