కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

MegaFon వంటి సంస్థకు బిల్లింగ్‌లో టరాన్టూల్ ఎందుకు అవసరం? బయటి నుండి చూస్తే, విక్రేత సాధారణంగా వస్తాడు, ఒక రకమైన పెద్ద పెట్టెను తీసుకువస్తాడు, ప్లగ్‌ని సాకెట్‌లోకి ప్లగ్ చేస్తాడు - మరియు అది బిల్లింగ్! ఇది ఒకప్పుడు కేసు, కానీ ఇప్పుడు ఇది పురాతనమైనది మరియు అలాంటి డైనోసార్‌లు ఇప్పటికే అంతరించిపోయాయి లేదా అంతరించిపోతున్నాయి. ప్రారంభంలో, బిల్లింగ్ అనేది ఇన్‌వాయిస్‌లను జారీ చేయడానికి ఒక వ్యవస్థ - ఒక లెక్కింపు యంత్రం లేదా కాలిక్యులేటర్. ఆధునిక టెలికాంలలో ఇది కాంట్రాక్ట్ ముగింపు నుండి ముగింపు వరకు చందాదారులతో పరస్పర చర్య యొక్క మొత్తం జీవిత చక్రం కోసం ఆటోమేషన్ సిస్టమ్, నిజ-సమయ బిల్లింగ్, చెల్లింపు అంగీకారం మరియు మరిన్నింటితో సహా. టెలికాం కంపెనీలలో బిల్లింగ్ అనేది పోరాట రోబోట్ లాంటిది - పెద్దది, శక్తివంతమైనది మరియు ఆయుధాలతో నిండి ఉంటుంది.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

టరాన్టూల్‌కి దానితో సంబంధం ఏమిటి? వారు దాని గురించి మాట్లాడతారు ఒలేగ్ ఇవ్లెవ్ и ఆండ్రీ క్న్యాజెవ్. ఒలేగ్ సంస్థ యొక్క చీఫ్ ఆర్కిటెక్ట్ మెగాఫోన్ విదేశీ కంపెనీలలో పనిచేసిన విస్తృత అనుభవంతో, ఆండ్రీ వ్యాపార వ్యవస్థల డైరెక్టర్. వారి నివేదిక ట్రాన్స్క్రిప్ట్ నుండి టరాన్టూల్ కాన్ఫరెన్స్ 2018 కార్పొరేషన్‌లలో R&D ఎందుకు అవసరం, టరాన్టూల్ అంటే ఏమిటి, కంపెనీలో ఈ డేటాబేస్ కనిపించడానికి నిలువు స్కేలింగ్ మరియు ప్రపంచీకరణ యొక్క ప్రతిష్టంభన ఎలా అవసరమైంది, సాంకేతిక సవాళ్లు, నిర్మాణ పరివర్తన మరియు MegaFon యొక్క టెక్నోస్టాక్ నెట్‌ఫ్లిక్స్ మాదిరిగానే ఎలా ఉందో మీరు నేర్చుకుంటారు. , Google మరియు Amazon.

ప్రాజెక్ట్ "యూనిఫైడ్ బిల్లింగ్"

ప్రశ్నలోని ప్రాజెక్ట్‌ను "యూనిఫైడ్ బిల్లింగ్" అంటారు. ఇక్కడే టరాన్టూల్ తన ఉత్తమ లక్షణాలను చూపించింది.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

హై-ఎండ్ పరికరాల ఉత్పాదకతలో పెరుగుదల సబ్‌స్క్రైబర్ బేస్ పెరుగుదలకు అనుగుణంగా లేదు మరియు M2M, IoT మరియు బ్రాంచ్ ఫీచర్‌ల కారణంగా సబ్‌స్క్రైబర్‌లు మరియు సేవల సంఖ్య మరింత పెరగవచ్చని అంచనా. టైమ్-టు-మార్కెట్‌లో క్షీణతకు. ప్రస్తుత 8 విభిన్న బిల్లింగ్ సిస్టమ్‌లకు బదులుగా, ప్రత్యేకమైన ప్రపంచ-స్థాయి మాడ్యులర్ ఆర్కిటెక్చర్‌తో ఏకీకృత వ్యాపార వ్యవస్థను రూపొందించాలని కంపెనీ నిర్ణయించింది.

మెగాఫోన్ ఏకంగా ఎనిమిది కంపెనీలు. 2009లో, పునర్వ్యవస్థీకరణ పూర్తయింది: రష్యా అంతటా ఉన్న శాఖలు ఒకే సంస్థ, MegaFon OJSC (ఇప్పుడు PJSC)లో విలీనం చేయబడ్డాయి. అందువలన, కంపెనీ వారి స్వంత "కస్టమ్" పరిష్కారాలు, శాఖ లక్షణాలు మరియు విభిన్న సంస్థాగత నిర్మాణాలు, IT మరియు మార్కెటింగ్‌తో 8 బిల్లింగ్ సిస్టమ్‌లను కలిగి ఉంది.

మేము ఒక సాధారణ ఫెడరల్ ఉత్పత్తిని ప్రారంభించే వరకు అంతా బాగానే ఉంది. ఇక్కడ చాలా ఇబ్బందులు తలెత్తాయి: కొంతమందికి, సుంకాలు చుట్టుముట్టబడ్డాయి, మరికొన్నింటికి రౌండ్ డౌన్, మరియు ఇతరులకు - అంకగణిత సగటు ఆధారంగా. అలాంటి క్షణాలు వేల సంఖ్యలో ఉన్నాయి.

బిల్లింగ్ సిస్టమ్ యొక్క ఒక వెర్షన్ మాత్రమే ఉన్నప్పటికీ, ఒక సరఫరాదారు, సెట్టింగులు చాలా మళ్లాయి, అది కలిసి ఉంచడానికి చాలా సమయం పట్టింది. మేము వారి సంఖ్యను తగ్గించడానికి ప్రయత్నించాము మరియు అనేక సంస్థలకు తెలిసిన రెండవ సమస్యను ఎదుర్కొన్నాము.

నిలువు స్కేలింగ్. ఆ సమయంలో చక్కని హార్డ్‌వేర్ కూడా అవసరాలను తీర్చలేదు. మేము సూపర్‌డోమ్ హై-ఎండ్ లైన్ నుండి హ్యూలెట్-ప్యాకర్డ్ పరికరాలను ఉపయోగించాము, కానీ అది రెండు శాఖల అవసరాలను కూడా తీర్చలేదు. పెద్ద నిర్వహణ ఖర్చులు మరియు మూలధన పెట్టుబడులు లేకుండా నేను సమాంతర స్కేలింగ్‌ని కోరుకున్నాను.

చందాదారులు మరియు సేవల సంఖ్య పెరుగుదల అంచనా. కన్సల్టెంట్‌లు చాలా కాలంగా IoT మరియు M2M గురించి టెలికాం ప్రపంచానికి కథనాలను తీసుకువచ్చారు: ప్రతి ఫోన్ మరియు ఐరన్‌లో SIM కార్డ్ మరియు రెండు రిఫ్రిజిరేటర్‌లో ఉండే సమయం వస్తుంది. ఈ రోజు మనకు ఒక సంఖ్యలో చందాదారులు ఉన్నారు, కానీ సమీప భవిష్యత్తులో ఇంకా చాలా మంది ఉంటారు.

సాంకేతిక సవాళ్లు

ఈ నాలుగు కారణాలు తీవ్రమైన మార్పులు చేయడానికి మమ్మల్ని ప్రేరేపించాయి. సిస్టమ్‌ను అప్‌గ్రేడ్ చేయడం మరియు మొదటి నుండి డిజైన్ చేయడం మధ్య ఎంపిక ఉంది. చాలా సేపు ఆలోచించి, తీవ్రమైన నిర్ణయాలు తీసుకున్నాం, టెండర్లు ఆడాం. ఫలితంగా, మేము మొదటి నుండి రూపకల్పన చేయాలని నిర్ణయించుకున్నాము మరియు ఆసక్తికరమైన సవాళ్లను - సాంకేతిక సవాళ్లను స్వీకరించాము.

స్కేలబిలిటీ

ఇది ముందు ఉంటే, చెప్పండి, చెప్పండి 8 మిలియన్ల సబ్‌స్క్రైబర్‌లకు 15 బిల్లింగ్‌లు, మరియు ఇప్పుడు అది పని చేసి ఉండాలి 100 మిలియన్ల మంది సభ్యులు మరియు మరిన్ని - లోడ్ అనేది అధిక పరిమాణంలో ఉండే క్రమం.

మేము Mail.ru లేదా Netflix వంటి పెద్ద ఇంటర్నెట్ ప్లేయర్‌లతో స్కేల్‌లో పోల్చదగినదిగా మారాము.

కానీ లోడ్ మరియు సబ్‌స్క్రైబర్ బేస్‌ను పెంచడానికి మరింత ఉద్యమం మాకు తీవ్రమైన సవాళ్లను సెట్ చేసింది.

మన విశాల దేశం యొక్క భౌగోళిక శాస్త్రం

కాలినిన్గ్రాడ్ మరియు వ్లాడివోస్టాక్ మధ్య 7500 కిమీ మరియు 10 సమయ మండలాలు. కాంతి వేగం పరిమితమైనది మరియు అటువంటి దూరాలలో ఆలస్యం ఇప్పటికే ముఖ్యమైనది. చక్కని ఆధునిక ఆప్టికల్ ఛానెల్‌లలో 150 ఎంఎస్‌లు నిజ-సమయ బిల్లింగ్‌కు చాలా ఎక్కువ, ప్రత్యేకించి ఇది ఇప్పుడు రష్యాలో టెలికామ్‌లో ఉంది. అదనంగా, మీరు ఒక వ్యాపార రోజులో అప్‌డేట్ చేయాలి మరియు వివిధ సమయ మండలాలతో ఇది సమస్య.

మేము కేవలం సబ్‌స్క్రిప్షన్ ఫీజు కోసం సేవలను అందించము, మా వద్ద సంక్లిష్టమైన టారిఫ్‌లు, ప్యాకేజీలు మరియు వివిధ మాడిఫైయర్‌లు ఉన్నాయి. మేము చందాదారుని మాట్లాడటానికి అనుమతించడం లేదా తిరస్కరించడం మాత్రమే కాకుండా, అతనికి ఒక నిర్దిష్ట కోటాను ఇవ్వాలి - కాల్‌లు మరియు చర్యలను నిజ సమయంలో లెక్కించండి, తద్వారా అతను గమనించడు.

తప్పు సహనం

ఇది కేంద్రీకరణకు మరో వైపు.

మేము సభ్యులందరినీ ఒకే సిస్టమ్‌లో సేకరిస్తే, ఏదైనా అత్యవసర సంఘటనలు మరియు విపత్తులు వ్యాపారానికి వినాశకరమైనవి. అందువల్ల, మొత్తం సబ్‌స్క్రైబర్ బేస్‌పై ప్రమాదాల ప్రభావాన్ని తొలగించే విధంగా మేము సిస్టమ్‌ను రూపొందిస్తాము.

ఇది మళ్లీ నిలువుగా స్కేల్ చేయడానికి నిరాకరించిన పరిణామం. మేము అడ్డంగా స్కేల్ చేసినప్పుడు, మేము సర్వర్‌ల సంఖ్యను వందల నుండి వేలకు పెంచాము. అవి నిర్వహించబడాలి మరియు పరస్పరం మార్చుకోవాలి, IT అవస్థాపనను స్వయంచాలకంగా బ్యాకప్ చేయాలి మరియు పంపిణీ చేయబడిన వ్యవస్థను పునరుద్ధరించాలి.

మేము అలాంటి ఆసక్తికరమైన సవాళ్లను ఎదుర్కొన్నాము. మేము సిస్టమ్‌ను రూపొందించాము మరియు ఆ సమయంలో మనం ట్రెండ్‌లో ఎలా ఉన్నాము, అధునాతన సాంకేతికతలను ఎంతమేరకు అనుసరిస్తున్నాము అని తనిఖీ చేయడానికి గ్లోబల్ బెస్ట్ ప్రాక్టీస్‌లను కనుగొనడానికి ప్రయత్నించాము.

ప్రపంచ అనుభవం

ఆశ్చర్యకరంగా, గ్లోబల్ టెలికామ్‌లో మాకు ఒక్క సూచన కూడా కనిపించలేదు.

యూరప్ చందాదారుల సంఖ్య మరియు స్కేల్ పరంగా, USA - దాని సుంకాల యొక్క ఫ్లాట్‌నెస్ పరంగా దూరంగా పడిపోయింది. మేము చైనాలో కొన్నింటిని చూశాము మరియు భారతదేశంలో కొందరిని కనుగొన్నాము మరియు Vodafone ఇండియా నుండి నిపుణులను నియమించుకున్నాము.

నిర్మాణాన్ని విశ్లేషించడానికి, మేము IBM నేతృత్వంలోని డ్రీమ్ టీమ్‌ని సమీకరించాము - వివిధ రంగాలకు చెందిన ఆర్కిటెక్ట్‌లు. ఈ వ్యక్తులు మనం ఏమి చేస్తున్నామో తగినంతగా అంచనా వేయగలరు మరియు మా నిర్మాణానికి నిర్దిష్ట జ్ఞానాన్ని తీసుకురాగలరు.

స్కేల్

ఉదాహరణ కోసం కొన్ని సంఖ్యలు.

మేము వ్యవస్థను రూపొందించాము ఒక బిలియన్ రిజర్వ్‌తో 80 మిలియన్ల సబ్‌స్క్రైబర్‌లు. ఈ విధంగా మేము భవిష్యత్ థ్రెషోల్డ్‌లను తొలగిస్తాము. ఇది మేము చైనాను స్వాధీనం చేసుకోబోతున్నందున కాదు, IoT మరియు M2M యొక్క దాడి కారణంగా.

300 మిలియన్ పత్రాలు నిజ సమయంలో ప్రాసెస్ చేయబడ్డాయి. మాకు 80 మిలియన్ల మంది సబ్‌స్క్రైబర్‌లు ఉన్నప్పటికీ, మేము స్వీకరించదగిన వాటిని సేకరించాలంటే సంభావ్య క్లయింట్‌లు మరియు మమ్మల్ని విడిచిపెట్టిన వారితో కలిసి పని చేస్తాము. అందువల్ల, వాస్తవ వాల్యూమ్‌లు గుర్తించదగినంత పెద్దవిగా ఉంటాయి.

2 బిలియన్ల లావాదేవీలు బ్యాలెన్స్ ప్రతిరోజూ మారుతుంది - ఇవి చెల్లింపులు, ఛార్జీలు, కాల్‌లు మరియు ఇతర ఈవెంట్‌లు. 200 TB డేటా సక్రియంగా మారుతోంది, కొంచెం నెమ్మదిగా మార్చండి 8 PB డేటా, మరియు ఇది ఆర్కైవ్ కాదు, కానీ ఒకే బిల్లింగ్‌లో ప్రత్యక్ష డేటా. డేటా సెంటర్ వారీగా స్కేల్ - 5 సైట్లలో 14 వేల సర్వర్లు.

టెక్నాలజీ స్టాక్

మేము నిర్మాణాన్ని ప్లాన్ చేసి, సిస్టమ్‌ను సమీకరించడం ప్రారంభించినప్పుడు, మేము అత్యంత ఆసక్తికరమైన మరియు అధునాతన సాంకేతికతలను దిగుమతి చేసుకున్నాము. ఫలితం ఏదైనా ఇంటర్నెట్ ప్లేయర్ మరియు అధిక-లోడ్ సిస్టమ్‌లను తయారు చేసే కార్పొరేషన్‌లకు సుపరిచితమైన టెక్నాలజీ స్టాక్.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

స్టాక్ ఇతర ప్రధాన ఆటగాళ్ల స్టాక్‌ల మాదిరిగానే ఉంటుంది: నెట్‌ఫ్లిక్స్, ట్విట్టర్, వైబర్. ఇది 6 భాగాలను కలిగి ఉంటుంది, కానీ మేము దానిని తగ్గించి, ఏకీకృతం చేయాలనుకుంటున్నాము.

వశ్యత మంచిది, కానీ పెద్ద కార్పొరేషన్‌లో ఏకీకరణ లేకుండా మార్గం లేదు.

మేము అదే ఒరాకిల్‌ను టరాన్టూల్‌గా మార్చడం లేదు. పెద్ద కంపెనీల వాస్తవికతలలో, ఇది ఒక ఆదర్శధామం, లేదా అస్పష్టమైన ఫలితంతో 5-10 సంవత్సరాలుగా క్రూసేడ్. కానీ కాసాండ్రా మరియు కౌచ్‌బేస్‌లను టరాన్టూల్‌తో సులభంగా భర్తీ చేయవచ్చు మరియు దాని కోసం మేము ప్రయత్నిస్తున్నాము.

టరాన్టూల్ ఎందుకు?

మేము ఈ డేటాబేస్ను ఎందుకు ఎంచుకున్నాము అనే 4 సాధారణ ప్రమాణాలు ఉన్నాయి.

వేగం. మేము MegaFon పారిశ్రామిక వ్యవస్థలపై లోడ్ పరీక్షలను నిర్వహించాము. టరాన్టూల్ గెలిచింది - ఇది అత్యుత్తమ ప్రదర్శనను కనబరిచింది.

ఇతర వ్యవస్థలు MegaFon అవసరాలను తీర్చలేవని దీని అర్థం కాదు. ప్రస్తుత మెమరీ సొల్యూషన్‌లు చాలా ఉత్పాదకంగా ఉన్నాయి, కంపెనీ నిల్వలు తగినంత కంటే ఎక్కువగా ఉన్నాయి. కానీ లోడ్ టెస్ట్‌తో సహా వెనుకబడిన వారితో కాకుండా నాయకుడితో వ్యవహరించడంలో మాకు ఆసక్తి ఉంది.

Tarantool దీర్ఘకాలంలో కూడా కంపెనీ అవసరాలను కవర్ చేస్తుంది.

TCO ఖర్చు. MegaFon వాల్యూమ్‌లలో కౌచ్‌బేస్ కోసం మద్దతు ఖగోళ శాస్త్రానికి సంబంధించిన మొత్తంలో డబ్బును ఖర్చు చేస్తుంది, అయితే టరాన్టూల్‌తో పరిస్థితి చాలా ఆహ్లాదకరంగా ఉంటుంది మరియు అవి కార్యాచరణలో సమానంగా ఉంటాయి.

మా ఎంపికను కొద్దిగా ప్రభావితం చేసిన మరో మంచి ఫీచర్ ఏమిటంటే, ఇతర డేటాబేస్‌ల కంటే టరాన్టూల్ మెమరీతో మెరుగ్గా పనిచేస్తుంది. అతను చూపిస్తాడు గరిష్ట సామర్థ్యం.

విశ్వసనీయత. MegaFon విశ్వసనీయతలో పెట్టుబడి పెడుతుంది, బహుశా అందరికంటే ఎక్కువ. కాబట్టి మేము టరాన్టూల్‌ను చూసినప్పుడు, అది మా అవసరాలకు అనుగుణంగా ఉండాలని మేము గ్రహించాము.

మేము మా సమయం మరియు ఆర్థిక వనరులను పెట్టుబడి పెట్టాము మరియు Mail.ruతో కలిసి మేము ఎంటర్‌ప్రైజ్ వెర్షన్‌ను సృష్టించాము, ఇది ఇప్పుడు అనేక ఇతర కంపెనీలలో ఉపయోగించబడుతుంది.

భద్రత, విశ్వసనీయత మరియు లాగింగ్ పరంగా Tarantool-enterprise మమ్మల్ని పూర్తిగా సంతృప్తిపరిచింది.

భాగస్వామ్యం

నాకు చాలా ముఖ్యమైన విషయం డెవలపర్‌తో ప్రత్యక్ష పరిచయం. టరాన్టూల్ నుండి వచ్చిన అబ్బాయిలు లంచం ఇచ్చినది ఇదే.

మీరు ఒక ప్లేయర్ వద్దకు వచ్చి, ముఖ్యంగా యాంకర్ క్లయింట్‌తో పని చేసే వ్యక్తి వద్దకు వచ్చి, ఇది, ఇది మరియు ఇది చేయగలిగేలా మీకు డేటాబేస్ అవసరమని చెబితే, అతను సాధారణంగా సమాధానమిస్తాడు:

- సరే, ఆ కుప్ప దిగువన అవసరాలను ఉంచండి - ఏదో ఒక రోజు, మేము బహుశా వాటిని చేరుకుంటాము.

చాలామందికి రాబోయే 2-3 సంవత్సరాలలో రోడ్‌మ్యాప్ ఉంది మరియు అక్కడ ఏకీకృతం చేయడం దాదాపు అసాధ్యం, కానీ టరాన్టూల్ డెవలపర్‌లు వారి బహిరంగతతో ఆకర్షిస్తారు మరియు మెగాఫోన్ నుండి మాత్రమే కాకుండా, వారి సిస్టమ్‌ను కస్టమర్‌కు అనుగుణంగా మార్చుకుంటారు. ఇది బాగుంది మరియు మేము దీన్ని నిజంగా ఇష్టపడతాము.

మేము టరాన్టూల్‌ని ఎక్కడ ఉపయోగించాము

మేము అనేక అంశాలలో టరాన్టూల్‌ని ఉపయోగిస్తాము. మొదటిది పైలట్‌లో ఉంది, మేము చిరునామా డైరెక్టరీ సిస్టమ్‌లో తయారు చేసాము. ఒక సమయంలో నేను ఇది Yandex.Maps మరియు Google Maps మాదిరిగా ఉండే సిస్టమ్‌గా ఉండాలని కోరుకున్నాను, కానీ అది కొద్దిగా భిన్నంగా మారింది.

ఉదాహరణకు, సేల్స్ ఇంటర్‌ఫేస్‌లోని చిరునామా కేటలాగ్. ఒరాకిల్‌లో, కావలసిన చిరునామా కోసం వెతకడానికి 12-13 సెకన్లు పడుతుంది. - అసౌకర్య సంఖ్యలు. మేము టరాన్టూల్‌కి మారినప్పుడు, ఒరాకిల్‌ను కన్సోల్‌లో మరొక డేటాబేస్‌తో భర్తీ చేసి, అదే శోధనను చేసినప్పుడు, మేము 200x వేగాన్ని పొందుతాము! మూడవ అక్షరం తర్వాత నగరం కనిపిస్తుంది. ఇప్పుడు మేము ఇంటర్‌ఫేస్‌ను స్వీకరించాము, తద్వారా ఇది మొదటిదాని తర్వాత జరుగుతుంది. అయితే, ప్రతిస్పందన వేగం పూర్తిగా భిన్నంగా ఉంటుంది - సెకన్లకు బదులుగా మిల్లీసెకన్లు.

రెండవ అప్లికేషన్ టూ-స్పీడ్ IT అని పిలువబడే అధునాతన థీమ్. కార్పోరేషన్‌లు అక్కడికి వెళ్లాలని ప్రతి మూల నుండి కన్సల్టెంట్‌లు చెబుతున్నారు.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

ఇన్‌ఫ్రాస్ట్రక్చర్ లేయర్ ఉంది, దాని పైన డొమైన్‌లు ఉన్నాయి, ఉదాహరణకు, టెలికాం, కార్పొరేట్ సిస్టమ్‌లు, కార్పొరేట్ రిపోర్టింగ్ వంటి బిల్లింగ్ సిస్టమ్. ఇది తాకవలసిన అవసరం లేని కోర్. అంటే, వాస్తవానికి, ఇది సాధ్యమే, కానీ మతిస్థిమితం లేని నాణ్యతను నిర్ధారిస్తుంది, ఎందుకంటే ఇది కార్పొరేషన్కు డబ్బును తెస్తుంది.

తదుపరి మైక్రోసర్వీసెస్ యొక్క పొర వస్తుంది - ఇది ఆపరేటర్ లేదా ఇతర ప్లేయర్‌ను వేరు చేస్తుంది. నిర్దిష్ట కాష్‌ల ఆధారంగా మైక్రోసర్వీస్‌లు త్వరగా సృష్టించబడతాయి, వివిధ డొమైన్‌ల నుండి డేటాను అక్కడకు తీసుకురావచ్చు. ఇక్కడ ప్రయోగాల కోసం ఫీల్డ్ - ఏదైనా పని చేయకపోతే, నేను ఒక మైక్రోసర్వీస్‌ని మూసివేసి, మరొకటి తెరిచాను. ఇది మార్కెట్‌కి నిజంగా పెరిగిన సమయాన్ని అందిస్తుంది మరియు సంస్థ యొక్క విశ్వసనీయత మరియు వేగాన్ని పెంచుతుంది.

మైక్రోసర్వీస్‌లు బహుశా మెగాఫోన్‌లో టరాన్టూల్ యొక్క ప్రధాన పాత్ర.

మేము టరాన్టూల్‌ని ఎక్కడ ఉపయోగించాలనుకుంటున్నాము

మేము మా విజయవంతమైన బిల్లింగ్ ప్రాజెక్ట్‌ను డ్యుయిష్ టెలికామ్, స్వ్యాజ్‌కామ్, వోడాఫోన్ ఇండియాలోని ట్రాన్స్‌ఫర్మేషన్ ప్రోగ్రామ్‌లతో పోల్చినట్లయితే, ఇది ఆశ్చర్యకరంగా డైనమిక్ మరియు సృజనాత్మకంగా ఉంటుంది. ఈ ప్రాజెక్ట్ను అమలు చేసే ప్రక్రియలో, MegaFon మరియు దాని నిర్మాణం మాత్రమే రూపాంతరం చెందింది, కానీ Tarantool-enterprise కూడా Mail.ruలో కనిపించింది మరియు మా విక్రేత Nexign (గతంలో పీటర్-సర్వీస్) - BSS బాక్స్ (ఒక బాక్స్డ్ బిల్లింగ్ పరిష్కారం).

ఇది ఒక కోణంలో, రష్యన్ మార్కెట్ కోసం ఒక చారిత్రాత్మక ప్రాజెక్ట్. ఫ్రెడరిక్ బ్రూక్స్ రాసిన "ది మిథికల్ మ్యాన్-మంత్" పుస్తకంలో వివరించిన దానితో దీనిని పోల్చవచ్చు. తర్వాత, 60వ దశకంలో, మెయిన్‌ఫ్రేమ్‌ల కోసం కొత్త OS/360 ఆపరేటింగ్ సిస్టమ్‌ను అభివృద్ధి చేయడానికి IBM 5 మందిని నియమించుకుంది. మా వద్ద తక్కువ - 000 ఉన్నాయి, కానీ మాది దుస్తులు ధరించింది మరియు ఓపెన్ సోర్స్ మరియు కొత్త విధానాల వినియోగాన్ని పరిగణనలోకి తీసుకుంటే, మేము మరింత ఉత్పాదకంగా పని చేస్తాము.

క్రింద బిల్లింగ్ డొమైన్‌లు లేదా, మరింత విస్తృతంగా చెప్పాలంటే, వ్యాపార వ్యవస్థలు ఉన్నాయి. ఎంటర్‌ప్రైజ్‌లోని వ్యక్తులకు CRM గురించి బాగా తెలుసు. ప్రతి ఒక్కరూ ఇప్పటికే ఇతర సిస్టమ్‌లను కలిగి ఉండాలి: API, API గేట్‌వేని తెరవండి.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

API ని తెరవండి

సంఖ్యలను మళ్లీ చూద్దాం మరియు ఓపెన్ API ప్రస్తుతం ఎలా పనిచేస్తుందో చూద్దాం. దాని భారం సెకనుకు 10 లావాదేవీలు. మేము మైక్రోసర్వీసెస్ లేయర్‌ను చురుకుగా అభివృద్ధి చేయడానికి మరియు MegaFon పబ్లిక్ APIని రూపొందించాలని ప్లాన్ చేస్తున్నందున, ఈ భాగంలో భవిష్యత్తులో మరింత వృద్ధిని మేము ఆశిస్తున్నాము. ఖచ్చితంగా 100 లావాదేవీలు ఉంటాయి.

మేము SSOలో Mail.ruతో పోల్చగలమో లేదో నాకు తెలియదు - అబ్బాయిలు సెకనుకు 1 లావాదేవీలను కలిగి ఉన్నట్లు అనిపిస్తుంది. వారి పరిష్కారం మాకు చాలా ఆసక్తికరంగా ఉంది మరియు మేము వారి అనుభవాన్ని స్వీకరించాలని ప్లాన్ చేస్తున్నాము - ఉదాహరణకు, Tarantool ఉపయోగించి ఫంక్షనల్ SSO బ్యాకప్‌ను తయారు చేయడం. ఇప్పుడు Mail.ru నుండి డెవలపర్లు మా కోసం దీన్ని చేస్తున్నారు.

CRM

CRM అదే 80 మిలియన్ సబ్‌స్క్రైబర్‌లు, మేము ఒక బిలియన్‌కు పెంచాలనుకుంటున్నాము, ఎందుకంటే ఇప్పటికే మూడు సంవత్సరాల చరిత్రను కలిగి ఉన్న 300 మిలియన్ పత్రాలు ఉన్నాయి. మేము నిజంగా ఇక్కడ కొత్త సేవల కోసం ఎదురు చూస్తున్నాము గ్రోత్ పాయింట్ కనెక్ట్ చేయబడిన సేవలు. మరింత సేవలు ఉంటుంది ఎందుకంటే ఈ, పెరుగుతాయి ఒక బంతి. దీని ప్రకారం, మనకు కథ అవసరం;

ఇన్‌వాయిస్‌లను జారీ చేయడం, స్వీకరించదగిన కస్టమర్ ఖాతాలతో పని చేయడం వంటి వాటి విషయంలో స్వయంగా బిల్లింగ్ ప్రత్యేక డొమైన్‌గా మార్చబడింది. పనితీరును మెరుగుపరచడానికి, అనువర్తిత డొమైన్ ఆర్కిటెక్చర్ ఆర్కిటెక్చరల్ నమూనా.

సిస్టమ్ డొమైన్‌లుగా విభజించబడింది, లోడ్ పంపిణీ చేయబడుతుంది మరియు తప్పు సహనం నిర్ధారించబడుతుంది. అదనంగా, మేము పంపిణీ చేయబడిన ఆర్కిటెక్చర్‌తో పని చేసాము.

మిగతావన్నీ ఎంటర్‌ప్రైజ్-స్థాయి పరిష్కారాలు. కాల్ నిల్వలో - రోజుకు 2 బిలియన్లు, నెలకు 60 బిలియన్లు. కొన్నిసార్లు మీరు వాటిని ఒక నెలలో లెక్కించవలసి ఉంటుంది మరియు ఇది త్వరగా మంచిది. ఆర్థిక పర్యవేక్షణ - ఇది నిరంతరం పెరుగుతున్న మరియు పెరుగుతున్న అదే 300 మిలియన్లు: చందాదారులు తరచుగా ఆపరేటర్ల మధ్య నడుస్తారు, ఈ భాగాన్ని పెంచుతారు.

మొబైల్ కమ్యూనికేషన్లలో అత్యంత టెలికాం భాగం ఆన్‌లైన్ బిల్లింగ్. ఇవి కాల్ చేయడానికి లేదా కాల్ చేయడానికి మిమ్మల్ని అనుమతించే వ్యవస్థలు, నిజ సమయంలో నిర్ణయాలు తీసుకుంటాయి. ఇక్కడ లోడ్ సెకనుకు 30 లావాదేవీలు, కానీ డేటా బదిలీ పెరుగుదలను పరిగణనలోకి తీసుకుని, మేము ప్లాన్ చేస్తాము 250 లావాదేవీలు, అందువలన మేము టరాన్టూల్ పట్ల చాలా ఆసక్తిని కలిగి ఉన్నాము.

మునుపటి చిత్రం మేము టరాన్టూల్‌ని ఉపయోగించబోయే డొమైన్‌లు. CRM, వాస్తవానికి, విస్తృతమైనది మరియు మేము దానిని కోర్‌లోనే ఉపయోగించబోతున్నాము.

మా అంచనా వేసిన TTX సంఖ్య 100 మిలియన్ల మంది చందాదారుల సంఖ్య ఆర్కిటెక్ట్‌గా నన్ను గందరగోళానికి గురిచేస్తుంది - 101 మిలియన్ అయితే? మీరు మళ్లీ ప్రతిదీ పునరావృతం చేయాలా? ఇది జరగకుండా నిరోధించడానికి, మేము కాష్‌లను ఉపయోగిస్తాము, అదే సమయంలో ప్రాప్యతను పెంచుతాము.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

సాధారణంగా, Tarantool ఉపయోగించడానికి రెండు విధానాలు ఉన్నాయి. ప్రధమ - మైక్రోసర్వీస్ స్థాయిలో అన్ని కాష్‌లను రూపొందించండి. నేను అర్థం చేసుకున్నంతవరకు, VimpelCom ఈ మార్గాన్ని అనుసరిస్తోంది, క్లయింట్‌ల కాష్‌ని సృష్టిస్తోంది.

మేము విక్రేతలపై తక్కువ ఆధారపడతాము, మేము BSS కోర్‌ని మారుస్తున్నాము, కాబట్టి మేము బాక్స్ వెలుపల ఒకే క్లయింట్ ఫైల్‌ని కలిగి ఉన్నాము. కానీ మేము దానిని విస్తరించాలనుకుంటున్నాము. కాబట్టి, మేము కొంచెం భిన్నమైన విధానాన్ని తీసుకుంటాము - సిస్టమ్‌ల లోపల కాష్‌లను చేయండి.

ఈ విధంగా తక్కువ సమకాలీకరణ ఉంది - కాష్ మరియు ప్రధాన మాస్టర్ సోర్స్ రెండింటికీ ఒక సిస్టమ్ బాధ్యత వహిస్తుంది.

అప్‌డేట్‌లకు సంబంధించిన భాగాలు, అంటే డేటా మార్పులు మాత్రమే అప్‌డేట్ చేయబడినప్పుడు, లావాదేవీ అస్థిపంజరంతో టరాన్టూల్ విధానంతో పద్ధతి బాగా సరిపోతుంది. మిగతావన్నీ వేరే చోట నిల్వ చేయవచ్చు. భారీ డేటా లేక్, నిర్వహించని గ్లోబల్ కాష్ లేదు. కాష్‌లు సిస్టమ్ కోసం లేదా ఉత్పత్తుల కోసం లేదా క్లయింట్‌ల కోసం లేదా నిర్వహణ కోసం జీవితాన్ని సులభతరం చేయడానికి రూపొందించబడ్డాయి. ఒక సబ్‌స్క్రైబర్ కాల్ చేసి, మీ సేవ నాణ్యత గురించి కలత చెందినప్పుడు, మీరు నాణ్యమైన సేవను అందించాలనుకుంటున్నారు.

RTO మరియు RPO

ఐటీలో రెండు పదాలున్నాయి- RTO и RPO.

రికవరీ సమయం లక్ష్యం వైఫల్యం తర్వాత సేవను పునరుద్ధరించడానికి పట్టే సమయం. RTO = 0 అంటే ఏదైనా విఫలమైనప్పటికీ, సేవ పని చేస్తూనే ఉంటుంది.

రికవరీ పాయింట్ లక్ష్యం - ఇది డేటా రికవరీ సమయం, నిర్దిష్ట వ్యవధిలో మనం ఎంత డేటాను కోల్పోవచ్చు. RPO = 0 అంటే మనం డేటాను కోల్పోవడం లేదు.

టరాన్టూల్ టాస్క్

టరాన్టూల్ సమస్యను పరిష్కరించడానికి ప్రయత్నిద్దాం.

ఇచ్చిన: ప్రతి ఒక్కరూ అర్థం చేసుకునే అప్లికేషన్‌ల బుట్ట, ఉదాహరణకు, అమెజాన్‌లో లేదా మరెక్కడైనా. అవసరం తద్వారా షాపింగ్ కార్ట్ వారానికి 24 గంటలు 7 రోజులు లేదా 99,99% పని చేస్తుంది. మాకు వచ్చే ఆర్డర్‌లు తప్పనిసరిగా క్రమంలో ఉండాలి, ఎందుకంటే మేము యాదృచ్ఛికంగా చందాదారుల కనెక్షన్‌ని ఆన్ లేదా ఆఫ్ చేయలేము - ప్రతిదీ ఖచ్చితంగా స్థిరంగా ఉండాలి. మునుపటి సబ్‌స్క్రిప్షన్ తదుపరి దాన్ని ప్రభావితం చేస్తుంది, కాబట్టి డేటా ముఖ్యం - ఏదీ మిస్ అవ్వకూడదు.

నిర్ణయం. మీరు దీన్ని నేరుగా పరిష్కరించడానికి ప్రయత్నించవచ్చు మరియు డేటాబేస్ డెవలపర్‌లను అడగవచ్చు, కానీ సమస్య గణితశాస్త్రంలో పరిష్కరించబడదు. మీరు సిద్ధాంతాలు, పరిరక్షణ చట్టాలు, క్వాంటం భౌతిక శాస్త్రాన్ని గుర్తుంచుకోవచ్చు, కానీ ఎందుకు - ఇది DB స్థాయిలో పరిష్కరించబడదు.

మంచి పాత నిర్మాణ విధానం ఇక్కడ పని చేస్తుంది - మీరు సబ్జెక్ట్ ఏరియాను బాగా తెలుసుకోవాలి మరియు ఈ పజిల్‌ను పరిష్కరించడానికి దాన్ని ఉపయోగించాలి.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

మా పరిష్కారం: టరాన్టూల్‌లో పంపిణీ చేయబడిన అప్లికేషన్‌ల రిజిస్ట్రీని సృష్టించడం - జియో-డిస్ట్రిబ్యూటెడ్ క్లస్టర్. రేఖాచిత్రంలో, ఇవి మూడు వేర్వేరు డేటా ప్రాసెసింగ్ కేంద్రాలు - యురల్స్‌కు ముందు రెండు, యురల్స్‌కు మించి ఒకటి, మరియు మేము ఈ కేంద్రాల మధ్య అన్ని అభ్యర్థనలను పంపిణీ చేస్తాము.

ఇప్పుడు ITలో అగ్రగామిగా పరిగణించబడుతున్న నెట్‌ఫ్లిక్స్ 2012 వరకు ఒకే డేటా సెంటర్‌ను కలిగి ఉంది. డిసెంబర్ 24న కాథలిక్ క్రిస్మస్ సందర్భంగా, ఈ డేటా సెంటర్ డౌన్ అయింది. కెనడా మరియు USAలోని వినియోగదారులు తమకు ఇష్టమైన సినిమాలు లేకుండా పోయారు, చాలా కలత చెందారు మరియు దాని గురించి సోషల్ నెట్‌వర్క్‌లలో వ్రాసారు. నెట్‌ఫ్లిక్స్ ఇప్పుడు పశ్చిమ-తూర్పు తీరంలో మూడు డేటా సెంటర్‌లను మరియు పశ్చిమ ఐరోపాలో ఒకటి కలిగి ఉంది.

మేము మొదట్లో జియో-డిస్ట్రిబ్యూటెడ్ సొల్యూషన్‌ను రూపొందిస్తున్నాము - తప్పును సహించడం మాకు ముఖ్యం.

కాబట్టి మనకు క్లస్టర్ ఉంది, అయితే RPO = 0 మరియు RTO = 0 గురించి ఏమిటి? విషయం మీద ఆధారపడి పరిష్కారం సులభం.

అప్లికేషన్లలో ఏది ముఖ్యమైనది? రెండు భాగాలు: బాస్కెట్ విసరడం కు కొనుగోలు నిర్ణయం తీసుకోవడం, మరియు తరువాత. టెలికాంలో DO భాగాన్ని సాధారణంగా అంటారు ఆర్డర్ క్యాప్చర్ లేదా ఆర్డర్ చర్చలు. టెలికామ్‌లో, ఇది ఆన్‌లైన్ స్టోర్‌లో కంటే చాలా కష్టంగా ఉంటుంది, ఎందుకంటే అక్కడ క్లయింట్ తప్పనిసరిగా సేవ చేయాలి, 5 ఎంపికలను అందించాలి మరియు ఇదంతా కొంత సమయం వరకు జరుగుతుంది, కానీ బుట్ట నిండిపోయింది. ఈ సమయంలో, ఒక వైఫల్యం సాధ్యమే, కానీ ఇది భయానకంగా లేదు, ఎందుకంటే ఇది మానవ పర్యవేక్షణలో ఇంటరాక్టివ్గా జరుగుతుంది.

మాస్కో డేటా సెంటర్ అకస్మాత్తుగా విఫలమైతే, స్వయంచాలకంగా మరొక డేటా సెంటర్‌కు మారడం ద్వారా, మేము పనిని కొనసాగిస్తాము. సిద్ధాంతపరంగా, కార్ట్‌లో ఒక ఉత్పత్తి పోయి ఉండవచ్చు, కానీ మీరు దాన్ని చూస్తారు, మళ్లీ కార్ట్‌కి జోడించి పనిని కొనసాగించండి. ఈ సందర్భంలో RTO = 0.

అదే సమయంలో, రెండవ ఎంపిక ఉంది: మేము "సమర్పించు" క్లిక్ చేసినప్పుడు, డేటాను కోల్పోకూడదని మేము కోరుకుంటున్నాము. ఈ క్షణం నుండి, ఆటోమేషన్ పని చేయడం ప్రారంభమవుతుంది - ఇది RPO = 0. ఈ రెండు వేర్వేరు నమూనాలను ఉపయోగించి, ఒక సందర్భంలో ఇది కేవలం ఒక స్విచ్ చేయగల మాస్టర్‌తో జియో-డిస్ట్రిబ్యూటెడ్ క్లస్టర్ కావచ్చు, మరొక సందర్భంలో ఒక రకమైన కోరమ్ రికార్డ్. నమూనాలు మారవచ్చు, కానీ మేము సమస్యను పరిష్కరిస్తాము.

ఇంకా, పంపిణీ చేయబడిన అప్లికేషన్‌ల రిజిస్ట్రీని కలిగి ఉంటే, మేము వాటన్నింటినీ స్కేల్ చేయవచ్చు - ఈ రిజిస్ట్రీని యాక్సెస్ చేసే అనేక మంది డిస్పాచర్‌లు మరియు ఎగ్జిక్యూటర్‌లను కలిగి ఉంటారు.

కొత్త తరం బిల్లింగ్ ఆర్కిటెక్చర్: టరాన్టూల్‌కు మార్పుతో పరివర్తన

కాసాండ్రా మరియు టరాన్టూల్ కలిసి

మరొక సందర్భం ఉంది - "బాకీల ప్రదర్శన". కాసాండ్రా మరియు టరాన్టూల్ ఉమ్మడి ఉపయోగం యొక్క ఆసక్తికరమైన సందర్భం ఇక్కడ ఉంది.

మేము కాసాండ్రాను ఉపయోగిస్తాము ఎందుకంటే రోజుకు 2 బిలియన్ కాల్‌లు పరిమితి కాదు, ఇంకా ఎక్కువ ఉంటుంది. మార్కెటర్లు సోర్స్ ద్వారా ట్రాఫిక్‌ను వర్ణీకరించడానికి ఇష్టపడతారు, ఉదాహరణకు సోషల్ నెట్‌వర్క్‌లలో మరిన్ని వివరాలు కనిపిస్తాయి. ఇదంతా కథకు జోడిస్తుంది.

కాసాండ్రా మిమ్మల్ని ఏ పరిమాణానికి అయినా అడ్డంగా స్కేల్ చేయడానికి అనుమతిస్తుంది.

మేము కాసాండ్రాతో సుఖంగా ఉన్నాము, కానీ దానికి ఒక సమస్య ఉంది - ఇది చదవడం మంచిది కాదు. రికార్డింగ్‌లో అంతా బాగానే ఉంది, సెకనుకు 30 సమస్య కాదు - పఠన సమస్య.

అందువల్ల, కాష్‌తో ఒక అంశం కనిపించింది మరియు అదే సమయంలో మేము ఈ క్రింది సమస్యను పరిష్కరించాము: ఆన్‌లైన్ బిల్లింగ్ నుండి స్విచ్ నుండి పరికరాలు మేము కాసాండ్రాలోకి లోడ్ చేసే ఫైల్‌లలోకి వచ్చినప్పుడు పాత సాంప్రదాయ కేసు ఉంది. IBM మేనేజర్ ఫైల్ బదిలీ సలహాను ఉపయోగించి కూడా ఈ ఫైల్‌ల విశ్వసనీయ డౌన్‌లోడ్ సమస్యతో మేము పోరాడుతున్నాము - TCP కాకుండా UDP ప్రోటోకాల్‌ని ఉపయోగించి ఫైల్ బదిలీని సమర్ధవంతంగా నిర్వహించే పరిష్కారాలు ఉన్నాయి. ఇది చాలా బాగుంది, కానీ మేము ఇంకా అన్నింటినీ లోడ్ చేయలేదు మరియు కాల్ సెంటర్‌లోని ఆపరేటర్ క్లయింట్‌కు అతని బ్యాలెన్స్‌కు ఏమి జరిగిందో సమాధానం ఇవ్వలేరు - మేము వేచి ఉండాలి.

ఇది జరగకుండా నిరోధించడానికి, మేము మేము సమాంతర ఫంక్షనల్ రిజర్వ్‌ని ఉపయోగిస్తాము. మేము కాఫ్కా ద్వారా టరాన్టూల్‌కు ఈవెంట్‌ను పంపినప్పుడు, నిజ సమయంలో కంకరలను తిరిగి లెక్కించడం, ఉదాహరణకు, ఈ రోజు కోసం, మనకు లభిస్తుంది నగదు నిల్వలు, ఇది ఏ వేగంతోనైనా బ్యాలెన్స్‌లను బదిలీ చేయగలదు, ఉదాహరణకు, సెకనుకు 100 వేల లావాదేవీలు మరియు అదే 2 సెకన్లు.

లక్ష్యం ఏమిటంటే, కాల్ చేసిన తర్వాత, మీ వ్యక్తిగత ఖాతాలో 2 సెకన్లలోపు మార్చబడిన బ్యాలెన్స్ మాత్రమే కాకుండా, అది ఎందుకు మారిందనే దాని గురించి సమాచారం ఉంటుంది.

తీర్మానం

ఇవి టరాన్టూల్‌ను ఉపయోగించే ఉదాహరణలు. Mail.ru యొక్క నిష్కాపట్యత మరియు విభిన్న కేసులను పరిగణనలోకి తీసుకునే వారి సుముఖతను మేము నిజంగా ఇష్టపడ్డాము.

BCG లేదా McKinsey, Accenture లేదా IBM నుండి వచ్చే కన్సల్టెంట్‌లు కొత్త వాటితో మమ్మల్ని ఆశ్చర్యపరచడం ఇప్పటికే కష్టంగా ఉంది - వారు అందించే వాటిలో చాలా వరకు, మేము ఇప్పటికే చేస్తాము, చేసాము లేదా చేయాలనుకుంటున్నాము. మా టెక్నాలజీ స్టాక్‌లో టరాన్టూల్ సరైన స్థానాన్ని తీసుకుంటుందని మరియు ఇప్పటికే ఉన్న అనేక సాంకేతికతలను భర్తీ చేస్తుందని నేను భావిస్తున్నాను. మేము ఈ ప్రాజెక్ట్ అభివృద్ధి యొక్క క్రియాశీల దశలో ఉన్నాము.

ఒలేగ్ మరియు ఆండ్రీ యొక్క నివేదిక గత సంవత్సరం టరాన్టూల్ కాన్ఫరెన్స్‌లో అత్యుత్తమమైనది మరియు జూన్ 17 న ఒలేగ్ ఇవ్లెవ్ ప్రసంగిస్తారు T+ కాన్ఫరెన్స్ 2019 ఒక నివేదికతో “ఎంటర్‌ప్రైజ్‌లో టరాన్టూల్ ఎందుకు”. అలెగ్జాండర్ డ్యూలిన్ మెగాఫోన్ నుండి ప్రదర్శనను కూడా ఇస్తారు "టారంటూల్ కాష్‌లు మరియు ఒరాకిల్ నుండి ప్రతిరూపం". ఏమేం మారాయి, ఎలాంటి ప్రణాళికలు అమలు చేశారో తెలుసుకుందాం. చేరండి - సమావేశం ఉచితం, మీరు చేయాల్సిందల్లా సైన్ అప్. అన్ని నివేదికలు ఆమోదించబడ్డాయి మరియు కాన్ఫరెన్స్ ప్రోగ్రామ్ రూపొందించబడింది: కొత్త కేసులు, టరాన్టూల్, ఆర్కిటెక్చర్, ఎంటర్‌ప్రైజ్, ట్యుటోరియల్‌లు మరియు మైక్రోసర్వీస్‌లను ఉపయోగించడంలో కొత్త అనుభవం.

మూలం: www.habr.com

ఒక వ్యాఖ్యను జోడించండి