উচ্চ কর্মক্ষমতা TSDB বেঞ্চমার্ক ভিক্টোরিয়ামেট্রিক্স বনাম TimescaleDB বনাম InfluxDB

ভিক্টোরিয়ামেট্রিক্স, টাইমস্কেলডিবি এবং ইনফ্লাক্সডিবি-তে তুলনা করা হয়েছে পূর্ববর্তী নিবন্ধ 40K অনন্য টাইম সিরিজের অন্তর্গত এক বিলিয়ন ডেটা পয়েন্ট সহ একটি ডেটাসেটের উপরে।

কয়েক বছর আগে ছিল Zabbix এর যুগ। প্রতিটি বেয়ার মেটাল সার্ভারে কয়েকটি মেট্রিকের বেশি ছিল না - CPU ব্যবহার, RAM ব্যবহার, ডিস্ক ব্যবহার এবং নেটওয়ার্ক ব্যবহার। এইভাবে, হাজার হাজার সার্ভারের মেট্রিক্স 40 হাজার অনন্য টাইম সিরিজে ফিট করতে পারে এবং Zabbix মাইএসকিউএলকে টাইম সিরিজ ডেটার জন্য ব্যাকএন্ড হিসেবে ব্যবহার করতে পারে 🙂

বর্তমানে এক node_exporter ডিফল্ট কনফিগারেশন সহ একটি গড় হোস্টে 500 টিরও বেশি মেট্রিক্স প্রদান করে। এখানে অনেক রপ্তানিকারকদের বিভিন্ন ডাটাবেস, ওয়েব সার্ভার, হার্ডওয়্যার সিস্টেম ইত্যাদির জন্য। সবই অনেক দরকারী মেট্রিক্স প্রদান করে। সব আরো এবং আরো অ্যাপ্লিকেশন নিজেদের উপর বিভিন্ন সূচক প্রদর্শন শুরু. গুচ্ছ এবং শুঁটি সহ কুবারনেটস রয়েছে যা প্রচুর পরিমাপ প্রকাশ করে। এর ফলে সার্ভারগুলি হোস্ট প্রতি হাজার হাজার অনন্য মেট্রিক প্রকাশ করে। তাই অনন্য 40K টাইম সিরিজ আর উচ্চ শক্তি নয়। এটি মূলধারায় পরিণত হচ্ছে, যা একটি একক সার্ভারে যেকোনো আধুনিক TSDB দ্বারা সহজেই পরিচালনা করা উচিত।

এই মুহূর্তে অনন্য সময় সিরিজের একটি বড় সংখ্যা কি? সম্ভবত 400K বা 4M? নাকি ৪০মি? আসুন এই সংখ্যাগুলির সাথে আধুনিক TSDB-এর তুলনা করি।

বেঞ্চমার্ক ইনস্টলেশন

টিএসবিএস TSDB-এর জন্য একটি দুর্দান্ত বেঞ্চমার্কিং টুল। এটি আপনাকে 10 - পতাকা দ্বারা বিভক্ত সময়ের সিরিজের প্রয়োজনীয় সংখ্যক পাস করে মেট্রিক্সের একটি নির্বিচারে সংখ্যা তৈরি করতে দেয় -স্কেল (সাবেক -scale-var) 10 হল প্রতিটি হোস্ট, সার্ভারে তৈরি হওয়া পরিমাপের সংখ্যা (মেট্রিক্স)। বেঞ্চমার্কিংয়ের জন্য TSBS ব্যবহার করে নিম্নলিখিত ডেটাসেটগুলি তৈরি করা হয়েছিল:

• 400K অনন্য টাইম সিরিজ, ডেটা পয়েন্টের মধ্যে 60 সেকেন্ডের ব্যবধান, ডেটা সম্পূর্ণ 3 দিন, ~1.7B ডেটা পয়েন্টের মোট সংখ্যা।
• 4M অনন্য টাইম সিরিজ, 600 সেকেন্ডের ব্যবধান, ডেটা সম্পূর্ণ 3 দিন, ~1.7B মোট ডেটা পয়েন্ট।
• 40M অনন্য টাইম সিরিজ, 1 ঘন্টা ব্যবধান, ডেটা সম্পূর্ণ 3 দিন, ~2.8B ডেটা পয়েন্টের মোট সংখ্যা।

ক্লায়েন্ট এবং সার্ভার ডেডিকেটেড দৃষ্টান্তে চলমান ছিল n1-মান-16 গুগল ক্লাউডে। এই উদাহরণগুলির নিম্নলিখিত কনফিগারেশন ছিল:

• vCPUs: 16
• র‌্যাম: 60 জিবি
• স্টোরেজ: স্ট্যান্ডার্ড 1TB হার্ড ড্রাইভ। এটি 120Mbps রিড/রাইট থ্রুপুট, প্রতি সেকেন্ডে 750 রিড এবং প্রতি সেকেন্ডে 1,5K রাইটিং প্রদান করে।

টিএসডিবিগুলি অফিসিয়াল ডকার ইমেজ থেকে টেনে আনা হয়েছে এবং নিম্নলিখিত কনফিগারেশন সহ ডকারে চালানো হয়েছে:

• ভিক্টোরিয়ামেট্রিক্স:

  docker run -it --rm -v /mnt/disks/storage/vmetrics-data:/victoria-metrics-data -p 8080:8080 valyala/victoria-metrics

• উচ্চ কার্ডিনালিটি সমর্থন করার জন্য InfluxDB (-e) মানগুলি প্রয়োজন৷ এ বিবরণ দেখুন৷ ডকুমেন্টেশন):

  docker run -it --rm -p 8086:8086 
  -e INFLUXDB_DATA_MAX_VALUES_PER_TAG=4000000 
  -e INFLUXDB_DATA_CACHE_MAX_MEMORY_SIZE=100g 
  -e INFLUXDB_DATA_MAX_SERIES_PER_DATABASE=0 
  -v /mnt/disks/storage/influx-data:/var/lib/influxdb influxdb

• TimescaleDB (কনফিগারেশন থেকে নেওয়া হয়েছিল এটা ফাইল):

MEM=`free -m | grep "Mem" | awk ‘{print $7}’`
let "SHARED=$MEM/4"
let "CACHE=2*$MEM/3"
let "WORK=($MEM-$SHARED)/30"
let "MAINT=$MEM/16"
let "WAL=$MEM/16"
docker run -it — rm -p 5432:5432 
--shm-size=${SHARED}MB 
-v /mnt/disks/storage/timescaledb-data:/var/lib/postgresql/data 
timescale/timescaledb:latest-pg10 postgres 
-cmax_wal_size=${WAL}MB 
-clog_line_prefix="%m [%p]: [%x] %u@%d" 
-clogging_collector=off 
-csynchronous_commit=off 
-cshared_buffers=${SHARED}MB 
-ceffective_cache_size=${CACHE}MB 
-cwork_mem=${WORK}MB 
-cmaintenance_work_mem=${MAINT}MB 
-cmax_files_per_process=100

ডেটা লোডারটি 16টি সমান্তরাল থ্রেড দিয়ে শুরু হয়েছিল।

এই নিবন্ধটি শুধুমাত্র সন্নিবেশ বেঞ্চমার্ক জন্য ফলাফল রয়েছে. নির্বাচনী বেঞ্চমার্কের ফলাফল একটি পৃথক নিবন্ধে প্রকাশ করা হবে।

400K অনন্য সময় সিরিজ

আসুন সাধারণ উপাদান দিয়ে শুরু করি - 400K। বেঞ্চমার্ক ফলাফল:

• ভিক্টোরিয়ামেট্রিক্স: প্রতি সেকেন্ডে 2,6M ডেটা পয়েন্ট; RAM ব্যবহার: 3 গিগাবাইট; ডিস্কে চূড়ান্ত ডেটার আকার: 965 এমবি
• ইনফ্লাক্সডিবি: প্রতি সেকেন্ডে 1.2M ডেটা পয়েন্ট; RAM ব্যবহার: 8.5 GB; ডিস্কের চূড়ান্ত ডেটার আকার: 1.6 GB
• টাইমস্কেল: প্রতি সেকেন্ডে 849K ডেটা পয়েন্ট; RAM ব্যবহার: 2,5 GB; ডিস্কে চূড়ান্ত ডেটার আকার: 50 গিগাবাইট

আপনি উপরের ফলাফলগুলি থেকে দেখতে পাচ্ছেন, ভিক্টোরিয়ামেট্রিক্স ইনসার্ট পারফরম্যান্স এবং কম্প্রেশন রেশিওতে জিতেছে। টাইমলাইনটি RAM ব্যবহারে জয়ী হয়, তবে এটি প্রচুর ডিস্ক স্পেস ব্যবহার করে - প্রতি ডেটা পয়েন্টে 29 বাইট।

বেঞ্চমার্কের সময় প্রতিটি TSDB-এর জন্য CPU ব্যবহারের গ্রাফ নীচে দেওয়া হল:

উপরের স্ক্রিনশট: ভিক্টোরিয়ামেট্রিক্স - 400K অনন্য মেট্রিকের জন্য পরীক্ষা CPU ব্যবহার সন্নিবেশ করুন।

উপরের স্ক্রিনশট: InfluxDB - 400K অনন্য মেট্রিকের জন্য সন্নিবেশ পরীক্ষায় CPU ব্যবহার।

উপরের স্ক্রিনশট: TimescaleDB - 400K অনন্য মেট্রিকের জন্য সন্নিবেশ পরীক্ষায় CPU ব্যবহার।

VictoriaMetrics সমস্ত উপলব্ধ vCPU ব্যবহার করে যখন InfluxDB 2টি vCPU-এর মধ্যে ~16 কম ব্যবহার করে।

টাইমস্কেল ১৬টি ভিসিপিইউ-এর মধ্যে মাত্র ৩-৪টি ব্যবহার করে। TimescaleDB টাইমস্কেল গ্রাফে iowait এবং সিস্টেমের উচ্চ অনুপাত ইনপুট/আউটপুট (I/O) সাবসিস্টেমে একটি বাধা নির্দেশ করে। আসুন ডিস্ক ব্যান্ডউইথ ব্যবহারের গ্রাফগুলি দেখি:

উপরের স্ক্রিনশট: ভিক্টোরিয়ামেট্রিক্স - 400K অনন্য মেট্রিক্সের জন্য টেস্ট ডিস্ক ব্যান্ডউইথ ব্যবহার সন্নিবেশ করুন।

উপরের স্ক্রিনশট: InfluxDB - 400K অনন্য মেট্রিক্সের জন্য টেস্ট ডিস্ক ব্যান্ডউইথ ব্যবহার সন্নিবেশ করুন।

উপরের স্ক্রিনশট: TimescaleDB - 400K অনন্য মেট্রিক্সের জন্য টেস্ট ডিস্ক ব্যান্ডউইথ ব্যবহার সন্নিবেশ করুন।

ভিক্টোরিয়ামেট্রিক্স 20Mbps-এ ডেটা রেকর্ড করে যার সর্বোচ্চ 45Mbps পর্যন্ত। চূড়াগুলি গাছের মধ্যে বড় আংশিক মিলনের সাথে মিলে যায় এলএসএম.

ইনফ্লাক্সডিবি 160MB/সেকেন্ডে ডেটা লেখে যখন একটি 1TB ডিস্ক সীমিত করা উচিত 120 MB/s এর ব্যান্ডউইথ লিখুন।

TimescaleDB 120Mbps রাইট থ্রুপুট পর্যন্ত সীমাবদ্ধ, কিন্তু কখনও কখনও এটি সেই সীমা ভেঙ্গে 220Mbps-এ শীর্ষে উঠে। এই চূড়াগুলি পূর্ববর্তী গ্রাফে অনুপযুক্ত ব্যবহার হ্রাসের সাথে মিলে যায়৷

আসুন I/O ব্যবহার গ্রাফগুলি দেখি:

উপরের স্ক্রিনশট: ভিক্টোরিয়ামেট্রিক্স - 400K অনন্য মেট্রিক্সের জন্য পরীক্ষা I/O ব্যবহার সন্নিবেশ করুন।

উপরের স্ক্রিনশট: InfluxDB - 400K অনন্য মেট্রিক্সের জন্য পরীক্ষা I/O ব্যবহার সন্নিবেশ করুন।

উপরের স্ক্রিনশট: TimescaleDB - 400K অনন্য মেট্রিক্সের জন্য পরীক্ষা I/O ব্যবহার সন্নিবেশ করুন।

এখন এটা স্পষ্ট যে TimescaleDB I/O সীমাতে আঘাত করছে তাই এটি অবশিষ্ট 12 vCPU ব্যবহার করতে পারে না।

4M অনন্য সময় সিরিজ

4M টাইম সিরিজ একটু বিদ্বেষপূর্ণ দেখায়। কিন্তু আমাদের প্রতিযোগীরা সফলভাবে এই পরীক্ষায় উত্তীর্ণ হয়। বেঞ্চমার্ক ফলাফল:

• ভিক্টোরিয়ামেট্রিক্স: প্রতি সেকেন্ডে 2,2M ডেটা পয়েন্ট; RAM ব্যবহার: 6 গিগাবাইট; ডিস্কের চূড়ান্ত ডেটার আকার: 3 গিগাবাইট।
• ইনফ্লাক্সডিবি: প্রতি সেকেন্ডে 330K ডেটা পয়েন্ট; RAM ব্যবহার: 20,5 GB; ডিস্কে চূড়ান্ত ডেটার আকার: 18,4 GB।
• TimescaleDB: প্রতি সেকেন্ডে 480K ডেটা পয়েন্ট; RAM ব্যবহার: 2,5 GB; ডিস্কে চূড়ান্ত ডেটার আকার: 52 গিগাবাইট।

InfluxDB কর্মক্ষমতা 1,2K টাইম সিরিজের জন্য প্রতি সেকেন্ডে 400M ডেটা পয়েন্ট থেকে 330M টাইম সিরিজের জন্য প্রতি সেকেন্ডে 4K ডেটা পয়েন্টে নেমে এসেছে। অন্যান্য প্রতিযোগীদের তুলনায় এটি একটি উল্লেখযোগ্য কর্মক্ষমতা ক্ষতি। এই ক্ষতির মূল কারণ বোঝার জন্য আসুন CPU ব্যবহার গ্রাফগুলি দেখি:

উপরের স্ক্রিনশট: ভিক্টোরিয়ামেট্রিক্স - অনন্য 4M টাইম সিরিজের জন্য পরীক্ষা CPU ব্যবহার সন্নিবেশ করুন।

উপরের স্ক্রিনশট: InfluxDB - 4M ইউনিক টাইম সিরিজের জন্য টেস্ট CPU ব্যবহার সন্নিবেশ করুন।

উপরের স্ক্রিনশট: TimescaleDB - অনন্য 4M টাইম সিরিজের জন্য পরীক্ষা CPU ব্যবহার সন্নিবেশ করুন।

VictoriaMetrics প্রায় সমস্ত প্রক্রিয়াকরণ শক্তি (CPU) ব্যবহার করে। শেষের ড্রপটি সমস্ত ডেটা সন্নিবেশ করার পরে অবশিষ্ট LSM মার্জগুলির সাথে মিলে যায়৷

InfluxDB 8টির মধ্যে শুধুমাত্র 16টি vCPU ব্যবহার করে যখন TimsecaleDB 4টির মধ্যে 16টি vCPU ব্যবহার করে। তাদের চার্টে কি মিল আছে? উচ্চ শেয়ার iowait, যা আবার একটি I/O বাধা নির্দেশ করে।

TimescaleDB এর একটি উচ্চ শেয়ার রয়েছে system. আমরা বিশ্বাস করি যে উচ্চ ক্ষমতা অনেক সিস্টেম কল বা অনেকের দিকে পরিচালিত করেছে ছোট পৃষ্ঠার ত্রুটি.

আসুন ডিস্ক ব্যান্ডউইথ গ্রাফগুলি দেখি:

উপরের স্ক্রিনশট: ভিক্টোরিয়ামেট্রিক্স - 4M অনন্য মেট্রিক্স সন্নিবেশ করতে ডিস্ক ব্যান্ডউইথ ব্যবহার।

উপরের স্ক্রিনশট: InfluxDB - 4M অনন্য মেট্রিক্স সন্নিবেশ করতে ডিস্ক ব্যান্ডউইথ ব্যবহার।

উপরের স্ক্রিনশট: TimescaleDB - 4M অনন্য মেট্রিক্স সন্নিবেশ করতে ডিস্ক ব্যান্ডউইথ ব্যবহার।

ভিক্টোরিয়ামেট্রিক্স 120MB/s-এ পৌঁছেছে যখন গড় লেখার গতি ছিল 40MB/s৷ পিক চলাকালীন সম্ভবত বেশ কিছু ভারী LSM মার্জ করা হয়েছিল।

InfluxDB আবার 200MB/s লেখার সীমা সহ একটি ডিস্কে 340MB/s পর্যন্ত পিক সহ 120MB/s এর গড় লেখার থ্রুপুট বের করছে :)

TimescaleDB আর ডিস্ক-সীমিত নয়। দেখে মনে হচ্ছে এটি উচ্চ অনুপাতের সাথে সম্পর্কিত অন্য কিছু দ্বারা সীমাবদ্ধ системной CPU লোড।

আসুন IO ব্যবহার গ্রাফগুলি দেখি:

উপরের স্ক্রিনশট: ভিক্টোরিয়ামেট্রিক্স - 4M অনন্য টাইম সিরিজের জন্য সন্নিবেশ পরীক্ষার সময় I/O ব্যবহার করা।

উপরের স্ক্রিনশট: InfluxDB - 4M অনন্য টাইম সিরিজের জন্য সন্নিবেশ পরীক্ষার সময় I/O ব্যবহার।

উপরের স্ক্রিনশট: TimescaleDB - 4M অনন্য টাইম সিরিজের জন্য সন্নিবেশ পরীক্ষার সময় I/O ব্যবহার।

IO ব্যবহার গ্রাফগুলি ডিস্ক ব্যান্ডউইথ ব্যবহারের গ্রাফগুলিকে মিরর করে - InfluxDB IO সীমিত, যখন VictoriaMetrics এবং TimescaleDB এর কাছে অতিরিক্ত IO IO সংস্থান রয়েছে৷

40M অনন্য সময় সিরিজ

InfluxDB 🙁 এর জন্য 40M অনন্য টাইম সিরিজ অনেক বড় ছিল

বেঞ্চমার্ক ফলাফল:

• ভিক্টোরিয়ামেট্রিক্স: প্রতি সেকেন্ডে 1,7M ডেটা পয়েন্ট; RAM ব্যবহার: 29 গিগাবাইট; ডিস্ক স্পেস ব্যবহার: 17 জিবি।
• InfluxDB: শেষ হয়নি কারণ এটির জন্য 60GB এর বেশি RAM প্রয়োজন।
• TimescaleDB: প্রতি সেকেন্ডে 330K ডেটা পয়েন্ট, RAM ব্যবহার: 2,5 GB; ডিস্ক স্পেস ব্যবহার: 84GB।

TimescaleDB 2,5GB এর ব্যতিক্রমীভাবে কম এবং স্থিতিশীল র‌্যাম ব্যবহার দেখায়, যা অনন্য 4M এবং 400K মেট্রিক্সের মতো।

সমস্ত 100M লেবেলযুক্ত মেট্রিক নাম প্রক্রিয়া না হওয়া পর্যন্ত ভিক্টোরিয়ামেট্রিক্স ধীরে ধীরে প্রতি সেকেন্ডে 40k ডেটা পয়েন্টের হারে বৃদ্ধি পেয়েছে। এটি তখন প্রতি সেকেন্ডে 1,5-2,0M ডেটা পয়েন্টের একটি অবিচলিত সন্নিবেশ হার অর্জন করে, যাতে শেষ ফলাফলটি প্রতি সেকেন্ডে 1,7M ডেটা পয়েন্ট হয়।

40M অনন্য টাইম সিরিজের প্লটগুলি 4M অনন্য টাইম সিরিজের মতোই, তাই আসুন সেগুলি এড়িয়ে যাই।

তথ্যও

• আধুনিক TSDBs একটি একক সার্ভারে লক্ষ লক্ষ অনন্য টাইম সিরিজের জন্য সন্নিবেশ পরিচালনা করতে সক্ষম। পরের প্রবন্ধে, আমরা পরীক্ষা করব যে TSDB গুলি লক্ষ লক্ষ অনন্য টাইম সিরিজে কতটা ভালোভাবে নির্বাচন করে।
• অপর্যাপ্ত CPU ব্যবহার সাধারণত একটি I/O বাধা নির্দেশ করে। উপরন্তু, এটি খুব রুক্ষ ব্লকিং নির্দেশ করতে পারে, যখন শুধুমাত্র কয়েকটি থ্রেড একই সময়ে কাজ করতে পারে।
• I/O বটলনেক বিদ্যমান, বিশেষ করে নন-এসএসডি স্টোরেজ যেমন ক্লাউড প্রদানকারীদের ভার্চুয়ালাইজড ব্লক ডিভাইসে।
• VictoriaMetrics ধীর, কম I/O স্টোরেজের জন্য সেরা অপ্টিমাইজেশন প্রদান করে। এটি সর্বোত্তম গতি এবং সর্বোত্তম কম্প্রেশন অনুপাত প্রদান করে।

ডাউনলোড ভিক্টোরিয়ামেট্রিক্স একক সার্ভার চিত্র এবং আপনার ডেটাতে এটি চেষ্টা করুন। সংশ্লিষ্ট স্ট্যাটিক বাইনারি এখানে উপলব্ধ GitHub.

এতে ভিক্টোরিয়ামেট্রিক্স সম্পর্কে আরও পড়ুন প্রবন্ধ.

আপডেট: প্রকাশিত InfluxDB-এর সাথে VictoriaMetrics সন্নিবেশ কর্মক্ষমতা তুলনা করা নিবন্ধ প্রজননযোগ্য ফলাফল সহ।

আপডেট #2: এছাড়াও পড়ুন উল্লম্ব স্কেলেবিলিটি নিবন্ধ ভিক্টোরিয়ামেট্রিক্স বনাম ইনফ্লাক্সডিবি বনাম টাইমস্কেলডিবি.

আপডেট #3: ভিক্টোরিয়ামেট্রিক্স এখন ওপেন সোর্স!

টেলিগ্রাম চ্যাট: https://t.me/VictoriaMetrics_ru1

উত্স: www.habr.com