टर्नएफएस वितरित फ़ाइल सिस्टम कोड खुला स्रोत है

XTX मार्केट्स ने TernFS फ़ाइल सिस्टम को ओपन-सोर्स किया है, जिसे कई भौगोलिक रूप से वितरित डेटा केंद्रों में वितरित स्टोरेज बनाने के लिए डिज़ाइन किया गया है और यह दसियों एक्साबाइट डेटा, खरबों फ़ाइलें और सैकड़ों अरबों निर्देशिकाएँ संग्रहीत करने में सक्षम है, जिन्हें लाखों क्लाइंट एक साथ एक्सेस कर सकते हैं। इस परियोजना का कोड C++ और Go में लिखा गया है और GPLv2 के अंतर्गत लाइसेंस प्राप्त है। प्रोटोकॉल विनिर्देश और क्लाइंट लाइब्रेरी Apache 2.0 लाइसेंस के अंतर्गत लाइसेंस प्राप्त हैं।

फ़ाइल सिस्टम को मशीन लर्निंग सिस्टम के विशिष्ट कार्यभार के लिए अनुकूलित किया गया है—ऐसी फ़ाइलें लिखना और पढ़ना जो निर्माण के बाद अपरिवर्तनीय होती हैं और जिनमें कुछ मेगाबाइट से ज़्यादा डेटा होता है। फ़ाइल सिस्टम को बार-बार नई निर्देशिकाएँ बनाने या निर्देशिकाओं के बीच बार-बार फ़ाइल स्थानांतरण के लिए डिज़ाइन नहीं किया गया है। इसकी विशेषताओं में गलती से हटाई गई फ़ाइलों या निर्देशिकाओं की पुनर्प्राप्ति, साथ ही स्थायी विलोपन के लिए नीतियों का कॉन्फ़िगरेशन शामिल है। फ़ाइल सिस्टम की सामग्री को विभिन्न क्षेत्रों में स्थित कई डेटा केंद्रों के बीच दोहराया जा सकता है। स्टोरेज नोड्स में विभिन्न प्रकार के स्टोरेज (डिस्क-आधारित और फ़्लैश मेमोरी) शामिल हो सकते हैं।

डिज़ाइन की एक आवश्यकता एकल विफलता बिंदु का अभाव और उच्च भंडारण विश्वसनीयता थी। बिजली की कटौती से फ़ाइल सिस्टम को नुकसान नहीं पहुँचना चाहिए, और फ़ाइलों को आंशिक रूप से नहीं लिखा जा सकता (केवल पूरी तरह से लिखी गई फ़ाइलें ही सुलभ होती हैं)। यह सिस्टम व्यक्तिगत ड्राइव, मेटाडेटा नोड्स और स्टोरेज नोड्स की विफलता के प्रति लचीला है। संचालन में बाधा डाले बिना भंडारण रखरखाव संभव है।

XTX मार्केट्स ने डेढ़ साल के विकास के बाद, 2023 की गर्मियों में TernFS-आधारित स्टोरेज को लागू करना शुरू कर दिया। 2024 के मध्य तक, सभी XTX मार्केट्स मशीन लर्निंग सिस्टम TernFS में स्थानांतरित हो गए। वर्तमान में स्टोरेज में 30 से ज़्यादा डिस्क और 10 फ्लैश ड्राइव शामिल हैं, जो तीन डेटा केंद्रों में स्थित हैं। कुल संग्रहीत डेटा की मात्रा 500 पेटाबाइट अनुमानित है, जिसका अधिकतम प्रदर्शन कई पेटाबाइट प्रति सेकंड तक पहुँच सकता है। स्टोरेज का उपयोग 100 से ज़्यादा कंप्यूटिंग नोड्स के क्लस्टर में किया जाता है। दो वर्षों के संचालन में डेटा हानि की कोई घटना नहीं हुई है।

टर्नएफएस की सीमाओं में शामिल हैं: लिखित फाइलों को संशोधित नहीं किया जा सकता; 2 एमबी से छोटी फाइलों के साथ काम करते समय कम दक्षता; निर्देशिका निर्माण और विलोपन कार्यों का कम प्रदर्शन; अनुमति पृथक्करण का अभाव।

TernFS स्टोरेज क्लस्टर बनाने वाले घटक हैं:

• मेटाडेटा भंडारण नोड्स निर्देशिका संरचनाओं और फ़ाइल विशेषताओं के बारे में जानकारी के प्रबंधन के लिए जिम्मेदार हैं।
• क्रॉस-डायरेक्टरी कोऑर्डिनेटर (सीडीसी) नोड्स जो विभिन्न निर्देशिकाओं में लेनदेन करते हैं।
• भंडारण सेवाएँ जो फ़ाइल सामग्री का भंडारण प्रदान करती हैं।
• एक रजिस्ट्री जिसमें अन्य सभी सेवाओं के बारे में जानकारी होती है और उनके संचालन की निगरानी होती है।
• उपयोगकर्ताओं के लिए FS तक पहुंच हेतु क्लाइंट सेवाएं:
  • ternweb - वेब एपीआई के माध्यम से भंडारण तक पहुंच।
  • terncli एक कमांड लाइन इंटरफ़ेस है.
  • ternfs.ko — модуль для ядра Linux, позволяющий монтировать хранилище для работы как с локальной ФС.
  • टर्नफ्यूज, FUSE सबसिस्टम का उपयोग करते हुए, FS के साथ कार्य करने के लिए एक क्लाइंट कार्यान्वयन है।
  • टर्न्स3 अमेज़न एस3 एपीआई का कार्यान्वयन है।
• पृष्ठभूमि प्रक्रियाएँ:
  • GC एक कचरा संग्रहकर्ता है जो समाप्त हो चुके स्नैपशॉट (हटाए गए लेकिन शुद्ध नहीं किए गए फ़ाइलें) को मुक्त करता है और स्थायी रूप से हटाए गए फ़ाइलों के लिए ब्लॉक को साफ करता है।
  • स्क्रबर - डेटा क्षरण का पता लगाना और पुनर्प्राप्ति।
  • माइग्रेटर - विफल डिस्क को भंडारण से बाहर निकालें।

स्रोत: opennet.ru