সার্ভিস ট্রেসিং, ওপেনট্রেসিং এবং জেগার

আমরা আমাদের প্রকল্পগুলিতে মাইক্রোসার্ভিস আর্কিটেকচার ব্যবহার করি। যখন পারফরম্যান্সের প্রতিবন্ধকতা দেখা দেয়, তখন লগ পর্যবেক্ষণ এবং পার্সিং করতে অনেক সময় ব্যয় হয়। একটি লগ ফাইলে স্বতন্ত্র ক্রিয়াকলাপের সময় লগ করার সময়, এই ক্রিয়াকলাপগুলির আহ্বানের কারণ কী ছিল তা বোঝা সাধারণত কঠিন, বিভিন্ন পরিষেবাতে অন্যটির তুলনায় একটি ক্রিয়াকলাপের সময় পরিবর্তনের ক্রম ট্র্যাক করা।

কায়িক শ্রম কমানোর জন্য, আমরা ট্রেসিং টুলগুলির একটি ব্যবহার করার সিদ্ধান্ত নিয়েছি। কীভাবে এবং কেন আপনি ট্রেসিং ব্যবহার করতে পারেন এবং আমরা কীভাবে এটি করেছি সে সম্পর্কে এবং এই নিবন্ধে আলোচনা করা হবে।

ট্রেসিং দিয়ে কি কি সমস্যা সমাধান করা যায়

1. একটি একক পরিষেবার মধ্যে এবং সমস্ত অংশগ্রহণকারী পরিষেবাগুলির মধ্যে সম্পূর্ণ সম্পাদন ট্রি উভয় ক্ষেত্রেই পারফরম্যান্সের বাধাগুলি খুঁজুন৷ উদাহরণ স্বরূপ:
   • পরিষেবাগুলির মধ্যে অনেকগুলি সংক্ষিপ্ত পরপর কল, উদাহরণস্বরূপ, জিওকোডিং বা একটি ডাটাবেসে।
   • দীর্ঘ I/O অপেক্ষা, যেমন নেটওয়ার্ক স্থানান্তর বা ডিস্ক রিড।
   • দীর্ঘ তথ্য পার্সিং.
   • দীর্ঘ অপারেশনের জন্য সিপিইউ প্রয়োজন।
   • কোডের বিভাগগুলি যা চূড়ান্ত ফলাফল পেতে প্রয়োজন হয় না এবং সরানো বা বিলম্বিত হতে পারে।
2. অপারেশনটি সঞ্চালিত হলে কী বলা হয় এবং কী ঘটে তা কী ক্রমানুসারে পরিষ্কারভাবে বোঝুন।
   
   এটি দেখা যায় যে, উদাহরণস্বরূপ, অনুরোধটি WS পরিষেবাতে এসেছে -> WS পরিষেবা R পরিষেবার মাধ্যমে ডেটা পরিপূরক করেছে -> তারপর V পরিষেবাতে একটি অনুরোধ পাঠিয়েছে -> V পরিষেবাটি থেকে প্রচুর ডেটা লোড করেছে R পরিষেবা -> P পরিষেবাতে গিয়েছিল -> P পরিষেবা আবার পরিষেবাতে গিয়েছিল R -> পরিষেবা V ফলাফল উপেক্ষা করে J -> পরিষেবাতে গিয়েছিল এবং শুধুমাত্র তখনই পরিষেবা WS-এ প্রতিক্রিয়া ফেরত দিয়েছিল, অন্য কিছু গণনা চালিয়ে যাওয়ার সময় পটভূমি
   পুরো প্রক্রিয়ার জন্য এই ধরনের একটি ট্রেস বা বিস্তারিত ডকুমেন্টেশন ছাড়া, আপনি যখন প্রথমবার কোডটি দেখেন তখন কী ঘটছে তা বোঝা খুব কঠিন, এবং কোডটি বিভিন্ন পরিষেবা জুড়ে ছড়িয়ে ছিটিয়ে রয়েছে এবং একগুচ্ছ বিন এবং ইন্টারফেসের আড়ালে লুকিয়ে আছে।
3. পরবর্তী বিলম্বিত বিশ্লেষণের জন্য মৃত্যুদন্ডের গাছ সম্পর্কে তথ্য সংগ্রহ। এক্সিকিউশনের প্রতিটি পর্যায়ে, আপনি এই পর্যায়ে উপলব্ধ ট্রেসে তথ্য যোগ করতে পারেন এবং তারপরে কোন ইনপুট ডেটা অনুরূপ দৃশ্যের দিকে পরিচালিত করে তা বের করতে পারেন। উদাহরণ স্বরূপ:
   • ব্যবহারকারীর প্রমানপত্র
   • অধিকার
   • নির্বাচিত পদ্ধতির ধরন
   • লগ বা সঞ্চালন ত্রুটি
4. ট্রেসগুলিকে মেট্রিক্সের একটি উপসেটে পরিণত করা এবং মেট্রিক্সের আকারে ইতিমধ্যেই আরও বিশ্লেষণ।

কি ট্রেস লগ করতে পারেন. স্প্যান

ট্রেসিংয়ের ক্ষেত্রে একটি স্প্যানের ধারণা রয়েছে, এটি কনসোলের সাথে একটি লগের একটি অ্যানালগ। স্পা আছে:

• নাম, সাধারণত যে পদ্ধতিটি কার্যকর করা হয়েছিল তার নাম
• যে পরিষেবাতে স্প্যান তৈরি করা হয়েছিল তার নাম৷
• নিজস্ব অনন্য আইডি
• একটি কী/মানের আকারে কিছু মেটা তথ্য যা এতে লগ ইন করা হয়েছে। উদাহরণস্বরূপ, পদ্ধতির পরামিতি বা পদ্ধতিটি একটি ত্রুটির সাথে শেষ হয়েছে বা না
• এই স্প্যানের জন্য শুরু এবং শেষের সময়
• অভিভাবক স্প্যান আইডি

প্রতিটি স্প্যান স্প্যান সংগ্রাহকের কাছে পাঠানো হয় যাতে এটি কার্যকর করা শেষ হওয়ার সাথে সাথে পরবর্তী পর্যালোচনার জন্য ডাটাবেসে সংরক্ষণ করা হয়। ভবিষ্যতে, আপনি অভিভাবক আইডি দ্বারা সংযোগ করে সমস্ত স্প্যানের একটি গাছ তৈরি করতে পারেন। বিশ্লেষণ করার সময়, আপনি খুঁজে পেতে পারেন, উদাহরণস্বরূপ, কিছু পরিষেবার সমস্ত স্প্যান যা কিছু সময়ের চেয়ে বেশি সময় নেয়। আরও, একটি নির্দিষ্ট স্প্যানে গিয়ে, এই স্প্যানের উপরে এবং নীচে পুরো গাছটি দেখুন।

Opentrace, Jagger এবং কিভাবে আমরা আমাদের প্রকল্পের জন্য এটি বাস্তবায়ন করেছি

একটি সাধারণ মান আছে opentrace, যেটি বর্ণনা করে কিভাবে এবং কি সংগ্রহ করা উচিত, কোন ভাষায় একটি নির্দিষ্ট বাস্তবায়নের সাথে আবদ্ধ না হয়ে। উদাহরণস্বরূপ, জাভাতে, ট্রেস সহ সমস্ত কাজ সাধারণ Opentrace API-এর মাধ্যমে করা হয় এবং এর অধীনে, উদাহরণস্বরূপ, Jaeger বা একটি খালি ডিফল্ট বাস্তবায়ন যা কিছুই লুকিয়ে রাখতে পারে না।
আমরা ব্যবহার করছি একধরনের বিশুদ্ধ পশমের কাপড় Opentrace এর বাস্তবায়ন হিসাবে। এটি বিভিন্ন উপাদান নিয়ে গঠিত:

• Jaeger-agent হল একটি স্থানীয় এজেন্ট যা সাধারণত প্রতিটি মেশিনে ইনস্টল করা হয় এবং পরিষেবাগুলি স্থানীয় ডিফল্ট পোর্টে লগ ইন করা হয়। যদি কোন এজেন্ট না থাকে, তাহলে এই মেশিনে সমস্ত পরিষেবার ট্রেস সাধারণত অক্ষম থাকে
• Jaeger-সংগ্রাহক - সমস্ত এজেন্ট এটিতে সংগৃহীত ট্রেস পাঠায় এবং এটি তাদের নির্বাচিত ডাটাবেসে রাখে
• ডাটাবেস তাদের পছন্দের ক্যাসান্ড্রা, কিন্তু আমরা ইলাস্টিক সার্চ ব্যবহার করি, আরও কয়েকটি ডাটাবেসের জন্য বাস্তবায়ন রয়েছে এবং একটি ইন-মেমরি বাস্তবায়ন রয়েছে যা ডিস্কে কিছু সংরক্ষণ করে না
• Jaeger-query হল একটি পরিষেবা যা ডাটাবেসে যায় এবং বিশ্লেষণের জন্য ইতিমধ্যে সংগ্রহ করা ট্রেস ফেরত দেয়
• Jaeger-ui হল অনুসন্ধান এবং ট্রেস দেখার জন্য একটি ওয়েব ইন্টারফেস, এটি jaeger-query-এ যায়

একটি পৃথক উপাদানকে নির্দিষ্ট ভাষার জন্য ওপেনট্রেস জেগারের বাস্তবায়ন বলা যেতে পারে, যার মাধ্যমে স্প্যানগুলি জেগার-এজেন্টকে পাঠানো হয়।
জাভাতে জ্যাগার সংযোগ করা হচ্ছে io.opentracing.Tracer ইন্টারফেস বাস্তবায়নে নেমে আসে, যার পরে এর মাধ্যমে সমস্ত ট্রেস আসল এজেন্টের কাছে উড়ে যাবে।

এছাড়াও বসন্ত উপাদান জন্য, আপনি সংযোগ করতে পারেন opentracing-বসন্ত-ক্লাউড-স্টার্টার এবং Jaeger থেকে বাস্তবায়ন opentracing-spring-jaeger-Cloud-starter যা এই উপাদানগুলির মধ্য দিয়ে যাওয়া সমস্ত কিছুর জন্য স্বয়ংক্রিয়ভাবে ট্রেসিং কনফিগার করবে, উদাহরণস্বরূপ কন্ট্রোলারের কাছে HTTP অনুরোধ, jdbc-এর মাধ্যমে ডাটাবেসের অনুরোধ ইত্যাদি।

জাভা লগিং ট্রেস

উপরের স্তরে কোথাও, প্রথম স্প্যানটি তৈরি করতে হবে, এটি স্বয়ংক্রিয়ভাবে করা যেতে পারে, উদাহরণস্বরূপ, একটি অনুরোধ প্রাপ্ত হলে স্প্রিং কন্ট্রোলার দ্বারা, অথবা যদি কোনওটি না থাকে তবে ম্যানুয়ালি৷ তারপর এটি নীচের স্কোপের মাধ্যমে প্রেরণ করা হয়। যদি নীচের যে কোনও পদ্ধতি একটি স্প্যান যোগ করতে চায়, তবে এটি স্কোপ থেকে বর্তমান সক্রিয়স্প্যানটি নেয়, একটি নতুন স্প্যান তৈরি করে এবং বলে যে এটির অভিভাবক হল সক্রিয় স্প্যান, এবং নতুন স্প্যানটিকে সক্রিয় করে। বাহ্যিক পরিষেবাগুলিকে কল করার সময়, বর্তমান সক্রিয় স্প্যানটি তাদের কাছে প্রেরণ করা হয় এবং সেই পরিষেবাগুলি এই স্প্যানটি উল্লেখ করে নতুন স্প্যান তৈরি করে৷
সমস্ত কাজ ট্রেসার ইনস্ট্যান্সের মাধ্যমে হয়, আপনি এটি ডিআই মেকানিজমের মাধ্যমে পেতে পারেন, অথবা গ্লোবাল ভ্যারিয়েবল হিসেবে GlobalTracer.get() যদি DI মেকানিজম কাজ না করে। ডিফল্টরূপে, যদি ট্রেসার আরম্ভ করা না হয়, NoopTracer ফিরে আসবে যা কিছুই করে না।
আরও, বর্তমান স্কোপটি স্কোপম্যানেজারের মাধ্যমে ট্রেসার থেকে প্রাপ্ত করা হয়, নতুন স্প্যানের বাঁধন সহ বর্তমান থেকে একটি নতুন স্কোপ তৈরি করা হয়, এবং তারপরে তৈরি স্কোপটি বন্ধ করা হয়, যা তৈরি স্প্যানটি বন্ধ করে এবং পূর্ববর্তী স্কোপটিকে ফিরিয়ে দেয় সক্রিয় রাষ্ট্র। স্কোপ একটি থ্রেডের সাথে আবদ্ধ, তাই যখন মাল্টি-থ্রেডেড প্রোগ্রামিং, আপনি এই স্প্যানের রেফারেন্স সহ অন্য থ্রেডের স্কোপ আরও সক্রিয় করার জন্য সক্রিয় স্প্যানটিকে অন্য থ্রেডে স্থানান্তর করতে ভুলবেন না।

io.opentracing.Tracer tracer = ...; // GlobalTracer.get()

void DoSmth () {
   try (Scope scope = tracer.buildSpan("DoSmth").startActive(true)) {
      ...
   }
}
void DoOther () {
    Span span = tracer.buildSpan("someWork").start();
    try (Scope scope = tracer.scopeManager().activate(span, false)) {
        // Do things.
    } catch(Exception ex) {
        Tags.ERROR.set(span, true);
        span.log(Map.of(Fields.EVENT, "error", Fields.ERROR_OBJECT, ex, Fields.MESSAGE, ex.getMessage()));
    } finally {
        span.finish();
    }
}

void DoAsync () {
    try (Scope scope = tracer.buildSpan("ServiceHandlerSpan").startActive(false)) {
        ...
        final Span span = scope.span();
        doAsyncWork(() -> {
            // STEP 2 ABOVE: reactivate the Span in the callback, passing true to
            // startActive() if/when the Span must be finished.
            try (Scope scope = tracer.scopeManager().activate(span, false)) {
                ...
            }
        });
    }
}

মাল্টি-থ্রেডেড প্রোগ্রামিং-এর জন্য, TracedExecutorService এবং অনুরূপ র‌্যাপার রয়েছে যেগুলি অ্যাসিঙ্ক্রোনাস কাজগুলি চালু করার সময় স্বয়ংক্রিয়ভাবে বর্তমান স্প্যানটিকে থ্রেডে ফরোয়ার্ড করে:

private ExecutorService executor = new TracedExecutorService(
    Executors.newFixedThreadPool(10), GlobalTracer.get()
);

বহিরাগত http অনুরোধের জন্য আছে TracingHttpClient

HttpClient httpClient = new TracingHttpClientBuilder().build();

আমরা যে সমস্যার সম্মুখীন হয়েছি

• মটরশুটি এবং ডিআই সবসময় কাজ করে না যদি ট্রেসার একটি পরিষেবা বা উপাদানে ব্যবহার না করা হয়, তাহলে অটোওয়্যারড ট্রেসার কাজ নাও করতে পারে এবং আপনাকে GlobalTracer.ge() ব্যবহার করতে হবে।
• টীকাগুলি কাজ করে না যদি এটি একটি উপাদান বা পরিষেবা না হয়, অথবা যদি পদ্ধতিটি একই শ্রেণীর একটি প্রতিবেশী পদ্ধতি থেকে কল করা হয়। @Traced কাজ না করলে কি কাজ করে তা পরীক্ষা করার জন্য আপনাকে সতর্ক থাকতে হবে এবং ম্যানুয়াল ট্রেস তৈরি ব্যবহার করতে হবে। আপনি জাভা টীকাগুলির জন্য একটি অতিরিক্ত কম্পাইলার সংযুক্ত করতে পারেন, তারপর তাদের সর্বত্র কাজ করা উচিত।
• পুরানো স্প্রিং এবং স্প্রিং বুটে, ওপেনট্রেং স্প্রিং ক্লাউড স্বয়ংক্রিয় কনফিগারেশন ডিআই-তে বাগগুলির কারণে কাজ করে না, তাহলে আপনি যদি স্প্রিং উপাদানগুলির ট্রেসগুলি স্বয়ংক্রিয়ভাবে কাজ করতে চান, আপনি সাদৃশ্য দ্বারা এটি করতে পারেন github.com/opentracing-contrib/java-spring-jaeger/blob/master/opentracing-spring-jaeger-starter/src/main/java/io/opentracing/contrib/java/spring/jaeger/starter/JaegerAutoConfiguration.java
• সম্পদের সাথে চেষ্টা করুন গ্রুভিতে কাজ করে না, আপনাকে অবশ্যই শেষ পর্যন্ত ব্যবহার করতে হবে।
• প্রতিটি পরিষেবার নিজস্ব spring.application.name থাকতে হবে যার অধীনে ট্রেসগুলি লগ করা হবে৷ বিক্রয় এবং পরীক্ষা জন্য একটি পৃথক নাম কি, যাতে তাদের একসঙ্গে হস্তক্ষেপ না.
• আপনি যদি GlobalTracer এবং tomcat ব্যবহার করেন, তাহলে এই টমক্যাটে চলমান সমস্ত পরিষেবার একটি GlobalTracer আছে, তাই তাদের সকলের একই পরিষেবার নাম থাকবে।
• একটি পদ্ধতিতে ট্রেস যোগ করার সময়, আপনাকে নিশ্চিত হতে হবে যে এটি লুপে বহুবার বলা হয় না। সমস্ত কলের জন্য একটি সাধারণ ট্রেস যোগ করা প্রয়োজন, যা মোট কাজের সময়ের গ্যারান্টি দেয়। অন্যথায়, একটি অতিরিক্ত লোড তৈরি করা হবে।
• একবার jaeger-ui-তে, প্রচুর সংখ্যক ট্রেসের জন্য খুব বড় অনুরোধ করা হয়েছিল, এবং যেহেতু তারা প্রতিক্রিয়ার জন্য অপেক্ষা করেনি, তারা আবার এটি করেছিল। ফলস্বরূপ, jaeger-query অনেক স্মৃতি খেতে শুরু করে এবং ইলাস্টিককে ধীর করে দেয়। jaeger-query পুনরায় চালু করে সাহায্য করা হয়েছে

স্যাম্পলিং, সঞ্চয় এবং দেখার ট্রেস

তিন প্রকার স্যাম্পলিং ট্রেস:

1. Const যা সমস্ত ট্রেস পাঠায় এবং সংরক্ষণ করে।
2. সম্ভাব্যতা যা কিছু প্রদত্ত সম্ভাব্যতার সাথে ট্রেস ফিল্টার করে।
3. রেটলিমিটিং যা প্রতি সেকেন্ডে ট্রেসের সংখ্যা সীমাবদ্ধ করে। আপনি ক্লায়েন্টে এই সেটিংস কনফিগার করতে পারেন, হয় jaeger-এজেন্ট বা সংগ্রাহকের উপর। এখন আমরা ভ্যালুয়েটর স্ট্যাকে const 1 ব্যবহার করি, যেহেতু খুব বেশি অনুরোধ নেই, কিন্তু সেগুলি অনেক সময় নেয়। ভবিষ্যতে, যদি এটি সিস্টেমে একটি অতিরিক্ত লোড প্রয়োগ করে, আপনি এটি সীমিত করতে পারেন।

আপনি যদি ক্যাসান্ড্রা ব্যবহার করেন, তবে ডিফল্টরূপে এটি শুধুমাত্র দুই দিনের জন্য ট্রেস সংরক্ষণ করে। আমরা ব্যবহার করছি স্থিতিস্থাপক এবং ট্রেস সব সময়ের জন্য সংরক্ষণ করা হয় এবং মুছে ফেলা হয় না. প্রতিটি দিনের জন্য একটি পৃথক সূচক তৈরি করা হয়, উদাহরণস্বরূপ jaeger-service-2019-03-04। ভবিষ্যতে, আপনাকে পুরানো ট্রেসগুলির স্বয়ংক্রিয় পরিস্কার কনফিগার করতে হবে।

আপনার প্রয়োজন ট্রেস দেখতে যাতে:

• যে পরিষেবাটির মাধ্যমে আপনি ট্রেস ফিল্টার করতে চান সেটি নির্বাচন করুন, উদাহরণস্বরূপ, টমক্যাটে চলমান একটি পরিষেবার জন্য tomcat7-ডিফল্ট এবং এর নিজস্ব নাম নেই।
• তারপর অপারেশন নির্বাচন করুন, সময়ের ব্যবধান এবং সর্বনিম্ন অপারেশন সময়, উদাহরণস্বরূপ 10 সেকেন্ড থেকে, শুধুমাত্র দীর্ঘ মৃত্যুদন্ড নিতে।
  
• ট্রেসগুলির একটিতে যান এবং দেখুন সেখানে কী ধীরগতি ছিল।
  

এছাড়াও, যদি কিছু রিকোয়েস্ট আইডি জানা থাকে, তাহলে আপনি ট্যাগ সার্চের মাধ্যমে এই আইডির মাধ্যমে একটি ট্রেস খুঁজে পেতে পারেন, যদি এই আইডিটি ট্রেস স্প্যানে লগ ইন করা থাকে।

Документация

• opentracing ডকুমেন্টেশন opentracing.io/docs/overview/what-is-tracing
• জাইগার ডকুমেন্টেশন www.jaegertracing.io/docs/1.10
• Jaeger জাভা সংযোগ github.com/jaegertracing/jaeger-client-java
• বসন্ত খোলা ট্রেসিং সংযোগ
  github.com/jaegertracing/jaeger-client-java
  github.com/opentracing-contrib/java-spring-cloud

প্রবন্ধ

• habr.com/ru/company/carprice/blog/340946 জেগার ওপেনট্রেসিং এবং মাইক্রোসার্ভিসেস একটি বাস্তব পিএইচপি এবং গোলং প্রকল্পে
• www.uber.com/distributed-tracing উবার ইঞ্জিনিয়ারিং এ ইভলভিং ডিস্ট্রিবিউটেড ট্রেসিং
• opentracing.io/guides/java
• medium.com/jaegertracing/running-jaeger-agent-on-bare-metal-d1fc47d31fab খালি ধাতু উপর Jaeger এজেন্ট চলমান

ভিডিও

• www.youtube.com/watch?v=qg0ENOdP1Lo কীভাবে আমরা বিদ্যুত-দ্রুত ব্যবহারকারীর প্রশ্নগুলি সরবরাহ করতে জেগার এবং প্রমিথিউস ব্যবহার করেছি - ব্রায়ান বোরহাম
• www.youtube.com/watch?v=WRntQsUajow ভূমিকা: Jaeger - Yuri Shkuro, Uber এবং Pavol Loffay, Red Hat
• www.youtube.com/watch?v=fsHb0qK37bc সের্গেই ইয়াকভলেভ, "একটি বড় বিজয়ের একটি ছোট গল্প: ওপেনট্রেসিং, এডব্লিউএস এবং জেগার"

উত্স: www.habr.com