R এবং PowerShell ব্যবহার করে ভার্চুয়াল মেশিনের স্বাস্থ্যের উপর দৈনিক প্রতিবেদন

R এবং PowerShell ব্যবহার করে ভার্চুয়াল মেশিনের স্বাস্থ্যের উপর দৈনিক প্রতিবেদন

প্রবেশ

শুভ অপরাহ্ন. এখন অর্ধেক বছর ধরে আমরা একটি স্ক্রিপ্ট (অথবা বরং স্ক্রিপ্টের একটি সেট) চালাচ্ছি যা ভার্চুয়াল মেশিনের অবস্থার (এবং শুধু নয়) প্রতিবেদন তৈরি করে। আমি আমার সৃষ্টির অভিজ্ঞতা এবং কোড নিজেই শেয়ার করার সিদ্ধান্ত নিয়েছি। আমি সমালোচনার জন্য আশা করি এবং এই উপাদানটি কারো জন্য উপযোগী হতে পারে।

প্রয়োজনের গঠন

আমাদের কাছে প্রচুর ভার্চুয়াল মেশিন রয়েছে (1500টি vCenter জুড়ে প্রায় 3 VM বিতরণ করা হয়েছে)। নতুনগুলি তৈরি করা হয় এবং পুরানোগুলি প্রায়শই মুছে ফেলা হয়। শৃঙ্খলা বজায় রাখার জন্য, ভিএমগুলিকে সাবসিস্টেমগুলিতে বিভক্ত করতে, তারা পরীক্ষামূলক কিনা এবং কার দ্বারা এবং কখন সেগুলি তৈরি করা হয়েছিল তা নির্দেশ করতে vCenter-এ বেশ কয়েকটি কাস্টম ক্ষেত্র যোগ করা হয়েছিল। মানব ফ্যাক্টরটি এই সত্যের দিকে পরিচালিত করেছিল যে অর্ধেকেরও বেশি মেশিন ফাঁকা ক্ষেত্র রেখেছিল, যা কাজকে জটিল করে তুলেছিল। প্রতি ছয় মাসে একবার, কেউ বিরক্ত হয়ে এই ডেটা আপডেট করার জন্য কাজ শুরু করে, কিন্তু ফলাফল দেড় সপ্তাহ পরে প্রাসঙ্গিক হওয়া বন্ধ করে দেয়।
আমি এখনই স্পষ্ট করে দিই যে সবাই বুঝতে পারে যে মেশিন তৈরির জন্য অ্যাপ্লিকেশন থাকতে হবে, তাদের তৈরির জন্য একটি প্রক্রিয়া ইত্যাদি। এবং তাই এবং একই সময়ে, প্রত্যেকে কঠোরভাবে এই প্রক্রিয়াটি অনুসরণ করে এবং সবকিছু ক্রমানুসারে রয়েছে। দুর্ভাগ্যবশত, এটি এখানে নয়, তবে এটি নিবন্ধের বিষয় নয় :)

সাধারণভাবে, ক্ষেত্রগুলি পূরণ করার সঠিকতা পরীক্ষা করা স্বয়ংক্রিয়ভাবে করার সিদ্ধান্ত নেওয়া হয়েছিল।
আমরা সিদ্ধান্ত নিয়েছি যে সমস্ত দায়ী প্রকৌশলী এবং তাদের বসদের ভুলভাবে পূরণ করা মেশিনের তালিকা সহ একটি দৈনিক চিঠি একটি ভাল শুরু হবে।

এই মুহুর্তে, আমার একজন সহকর্মী ইতিমধ্যেই PowerShell-এ একটি স্ক্রিপ্ট প্রয়োগ করেছিলেন, যা প্রতিদিন, একটি সময়সূচী অনুসারে, সমস্ত vCenter-এর সমস্ত মেশিনের তথ্য সংগ্রহ করে এবং 3টি csv নথি তৈরি করে (প্রতিটি নিজস্ব vCenter-এর জন্য), যা আপলোড করা হয়েছিল একটি সাধারণ ডিস্ক। এই স্ক্রিপ্টটিকে ভিত্তি হিসাবে নেওয়ার সিদ্ধান্ত নেওয়া হয়েছিল এবং R ভাষা ব্যবহার করে চেকের সাথে এটি পরিপূরক করার সিদ্ধান্ত নেওয়া হয়েছিল, যার সাথে আমাদের কিছু অভিজ্ঞতা ছিল।

চূড়ান্তকরণের প্রক্রিয়ায়, সমাধানটি মেইলের মাধ্যমে তথ্য, একটি প্রধান এবং ঐতিহাসিক সারণী সহ একটি ডাটাবেস (এটি সম্পর্কে আরও পরে) এবং সেইসাথে vm-এর প্রকৃত নির্মাতা এবং তাদের সৃষ্টির সময় খুঁজে বের করার জন্য vSphere লগগুলির একটি বিশ্লেষণ।

IDE RStudio Desktop এবং PowerShell ISE বিকাশের জন্য ব্যবহার করা হয়েছিল।

স্ক্রিপ্টটি একটি নিয়মিত উইন্ডোজ ভার্চুয়াল মেশিন থেকে চালু করা হয়েছে।

সাধারণ যুক্তির বর্ণনা।

স্ক্রিপ্টগুলির সাধারণ যুক্তি নিম্নরূপ।

  • আমরা একটি PowerShell স্ক্রিপ্ট ব্যবহার করে ভার্চুয়াল মেশিনে ডেটা সংগ্রহ করি, যেটিকে আমরা R এর মাধ্যমে কল করি এবং ফলাফলটিকে একটি csv-এ একত্রিত করি। ভাষার মধ্যে বিপরীত মিথস্ক্রিয়া একইভাবে করা হয়। (ভেরিয়েবলের আকারে সরাসরি R থেকে PowerShell-এ ডেটা ড্রাইভ করা সম্ভব ছিল, কিন্তু এটি কঠিন, এবং মধ্যবর্তী csvs থাকলে ডিবাগ করা এবং কারো সাথে মধ্যবর্তী ফলাফল শেয়ার করা সহজ হয়)।
  • R ব্যবহার করে, আমরা সেই ক্ষেত্রগুলির জন্য বৈধ প্যারামিটার তৈরি করি যার মান আমরা পরীক্ষা করছি। — আমরা একটি ওয়ার্ড ডকুমেন্ট তৈরি করছি যাতে তথ্য পত্রে সন্নিবেশের জন্য এই ক্ষেত্রগুলির মান থাকবে, যা সহকর্মীদের প্রশ্নের উত্তর হবে "না, তবে আমি কীভাবে এটি পূরণ করব?"
  • আমরা R ব্যবহার করে csv থেকে সমস্ত VM-এর জন্য ডেটা লোড করি, একটি ডেটাফ্রেম তৈরি করি, অপ্রয়োজনীয় ক্ষেত্রগুলি মুছে ফেলি এবং একটি তথ্য xlsx নথি তৈরি করি যাতে সমস্ত VM-এর সারসংক্ষেপ তথ্য থাকবে, যা আমরা একটি শেয়ার্ড রিসোর্সে আপলোড করি।
  • আমরা সমস্ত VM-এর জন্য ডেটাফ্রেমে ক্ষেত্রগুলি পূরণ করার সঠিকতার জন্য সমস্ত চেক প্রয়োগ করি এবং ভুলভাবে ভরা ক্ষেত্রগুলি (এবং শুধুমাত্র এই ক্ষেত্রগুলি) সহ শুধুমাত্র VM সমন্বিত একটি টেবিল তৈরি করি।
  • আমরা VM-এর ফলাফলের তালিকাটি অন্য PowerShell স্ক্রিপ্টে পাঠাই, যা VM তৈরির ইভেন্টগুলির জন্য vCenter লগগুলি দেখবে, যা আমাদের VM তৈরির আনুমানিক সময় এবং উদ্দিষ্ট নির্মাতাকে নির্দেশ করার অনুমতি দেবে। এটি সেই ক্ষেত্রে যখন কেউ স্বীকার করে না যে এটি কার। এই স্ক্রিপ্টটি দ্রুত কাজ করে না, বিশেষ করে যদি প্রচুর লগ থাকে, তাই আমরা শুধুমাত্র শেষ 2 সপ্তাহের দিকে নজর রাখি, এবং এমন একটি ওয়ার্কফ্লোও ব্যবহার করি যা আপনাকে একই সময়ে একাধিক VM-এ তথ্য অনুসন্ধান করতে দেয়। উদাহরণের স্ক্রিপ্টে এই প্রক্রিয়াটির উপর বিস্তারিত মন্তব্য রয়েছে। আমরা একটি csv-এ ফলাফল যোগ করি, যা আমরা আবার R-এ লোড করি।
  • আমরা একটি সুন্দর ফর্ম্যাট করা xlsx ডকুমেন্ট তৈরি করি যেখানে ভুলভাবে ভরা ক্ষেত্রগুলি লাল রঙে হাইলাইট করা হবে, ফিল্টারগুলি কিছু কলামে প্রয়োগ করা হবে এবং উদ্দিষ্ট নির্মাতা এবং VM তৈরির সময় সম্বলিত অতিরিক্ত কলামগুলি নির্দেশিত হবে।
  • আমরা একটি ইমেল তৈরি করি, যেখানে আমরা বৈধ ক্ষেত্রের মানগুলি বর্ণনা করে একটি নথি সংযুক্ত করি, সেইসাথে ভুলভাবে ভরা ক্ষেত্রগুলির সাথে একটি টেবিল। পাঠ্যে আমরা ভুলভাবে তৈরি করা VM-এর মোট সংখ্যা, শেয়ার করা সম্পদের একটি লিঙ্ক এবং একটি প্রেরণামূলক ছবি নির্দেশ করি। যদি কোনও ভুলভাবে ভরা VM না থাকে, আমরা একটি সুখী প্রেরণামূলক ছবি সহ আরেকটি চিঠি পাঠাই।
  • আমরা এসকিউএল সার্ভার ডাটাবেসে সমস্ত ভিএম-এর জন্য ডেটা রেকর্ড করি, ঐতিহাসিক সারণীগুলির বাস্তবায়িত প্রক্রিয়াকে বিবেচনায় নিয়ে (একটি খুব আকর্ষণীয় প্রক্রিয়া - যার সম্পর্কে আরও পরে)

আসলে স্ক্রিপ্ট

প্রধান R কোড ফাইল

# Путь к рабочей директории (нужно для корректной работы через виндовый планировщик заданий)
setwd("C:ScriptsgetVm")
#### Подгружаем необходимые пакеты ####
library(tidyverse)
library(xlsx)
library(mailR)
library(rmarkdown)
##### Определяем пути к исходным файлам и другие переменные #####
source(file = "const.R", local = T, encoding = "utf-8")
# Проверяем существование файла со всеми ВМ и удаляем, если есть.
if (file.exists(filenameVmCreationRules)) {file.remove(filenameVmCreationRules)}
#### Создаём вордовский документ с допустимыми полями
render("VM_name_rules.Rmd",
output_format = word_document(),
output_file = filenameVmCreationRules)
# Проверяем существование файла со всеми ВМ и удаляем, если есть
if (file.exists(allVmXlsxPath)) {file.remove(allVmXlsxPath)}
#### Забираем данные по всем машинам через PowerShell скрипт. На выходе получим csv.
system(paste0("powershell -File ", getVmPsPath))
# Полный df
fullXslx_df <- allVmXlsxPath %>% 
read.csv2(stringsAsFactors = FALSE)
# Проверяем корректность заполненных полей
full_df <- fullXslx_df %>%
mutate(
# Сначала убираем все лишние пробелы и табуляции, потом учитываем разделитель запятую, потом проверяем вхождение в допустимые значения,
isSubsystemCorrect = Subsystem %>% 
gsub("[[:space:]]", "", .) %>% 
str_split(., ",") %>% 
map(function(x) (all(x %in% AllowedValues$Subsystem))) %>%
as.logical(),
isOwnerCorrect = Owner %in% AllowedValues$Owner,
isCategoryCorrect = Category %in% AllowedValues$Category,
isCreatorCorrect = (!is.na(Creator) & Creator != ''),
isCreation.DateCorrect = map(Creation.Date, IsDate)
)
# Проверяем существование файла со всеми ВМ и удаляем, если есть.
if (file.exists(filenameAll)) {file.remove(filenameAll)}
#### Формируем xslx файл с отчётом ####
# Общие данные на отдельный лист
full_df %>% write.xlsx(file=filenameAll,
sheetName=names[1],
col.names=TRUE,
row.names=FALSE,
append=FALSE)
#### Формируем xslx файл с неправильно заполненными полями ####
# Формируем df
incorrect_df <- full_df %>%
select(VM.Name, 
IP.s, 
Owner,
Subsystem,
Creator,
Category,
Creation.Date,
isOwnerCorrect, 
isSubsystemCorrect, 
isCategoryCorrect,
isCreatorCorrect,
vCenter.Name) %>%
filter(isSubsystemCorrect == F | 
isOwnerCorrect == F |
isCategoryCorrect == F |
isCreatorCorrect == F)
# Проверяем существование файла со всеми ВМ и удаляем, если есть.
if (file.exists(filenameIncVM)) {file.remove(filenameIncVM)}
# Сохраняем список VM с незаполненными полями в csv
incorrect_df %>%
select(VM.Name) %>%
write_csv2(path = filenameIncVM, append = FALSE)
# Фильтруем для вставки в почту
incorrect_df_filtered <- incorrect_df %>% 
select(VM.Name, 
IP.s, 
Owner, 
Subsystem, 
Category,
Creator,
vCenter.Name,
Creation.Date
)
# Считаем количество строк
numberOfRows <- nrow(incorrect_df)
#### Начало условия ####
# Дальше либо у нас есть неправильно заполненные поля, либо нет.
# Если есть - запускаем ещё один скрипт
if (numberOfRows > 0) {
# Проверяем существование файла с создателями и удаляем, если есть.
if (file.exists(creatorsFilePath)) {file.remove(creatorsFilePath)}
# Запускаем PowerShell скрипт, который найдёт создателей найденных VM. На выходе получим csv.
system(paste0("powershell -File ", getCreatorsPath))
# Читаем файл с создателями
creators_df <- creatorsFilePath %>%
read.csv2(stringsAsFactors = FALSE)
# Фильтруем для вставки в почту, добавляем данные из таблицы с создателями
incorrect_df_filtered <- incorrect_df_filtered %>% 
select(VM.Name, 
IP.s, 
Owner, 
Subsystem, 
Category,
Creator,
vCenter.Name,
Creation.Date
) %>% 
left_join(creators_df, by = "VM.Name") %>% 
rename(`Предполагаемый создатель` = CreatedBy, 
`Предполагаемая дата создания` = CreatedOn)  
# Формируем тело письма
emailBody <- paste0(
'<html>
<h3>Добрый день, уважаемые коллеги.</h3>
<p>Полную актуальную информацию по виртуальным машинам вы можете посмотреть на диске H: вот тут:<p>
<p>server.ruVM', sourceFileFormat, '</p>
<p>Также во вложении список ВМ с <strong>некорректно заполненными</strong> полями. Всего их <strong>', numberOfRows,'</strong>.</p>
<p>В таблице появилось 2 дополнительные колонки. <strong>Предполагаемый создатель</strong> и <strong>Предполагаемая дата создания</strong>, которые достаются из логов vCenter за последние 2 недели</p>
<p>Просьба создателей машин уточнить данные и заполнить поля корректно. Правила заполнения полей также во вложении</p>
<p><img src="data/meme.jpg"></p>
</html>'
)
# Проверяем существование файла
if (file.exists(filenameIncorrect)) {file.remove(filenameIncorrect)}
# Формируем красивую таблицу с форматами и т.д.
source(file = "email.R", local = T, encoding = "utf-8")
#### Формируем письмо с плохо подписанными машинами ####
send.mail(from = emailParams$from,
to = emailParams$to,
subject = "ВМ с некорректно заполненными полями",
body = emailBody,
encoding = "utf-8",
html = TRUE,
inline = TRUE,
smtp = emailParams$smtpParams,
authenticate = TRUE,
send = TRUE,
attach.files = c(filenameIncorrect, filenameVmCreationRules),
debug = FALSE)
#### Дальше пойдёт блок, если нет проблем с ВМ ####
} else {
# Формируем тело письма
emailBody <- paste0(
'<html>
<h3>Добрый день, уважаемые коллеги</h3>
<p>Полную актуальную информацию по виртуальным машинам вы можете посмотреть на диске H: вот тут:<p>
<p>server.ruVM', sourceFileFormat, '</p>
<p>Также, на текущий момент, все поля ВМ корректно заполнены</p>
<p><img src="data/meme_correct.jpg"></p>
</html>'
)
#### Формируем письмо без плохо заполненных VM ####
send.mail(from = emailParams$from,
to = emailParams$to,
subject = "Сводная информация",
body = emailBody,
encoding = "utf-8",
html = TRUE,
inline = TRUE,
smtp = emailParams$smtpParams,
authenticate = TRUE,
send = TRUE,
debug = FALSE)
}
####### Записываем данные в БД #####
source(file = "DB.R", local = T, encoding = "utf-8")

PowerShell-এ vm-এর তালিকা পাওয়ার জন্য স্ক্রিপ্ট

# Данные для подключения и другие переменные
$vCenterNames = @(
"vcenter01", 
"vcenter02", 
"vcenter03"
)
$vCenterUsername = "myusername"
$vCenterPassword = "mypassword"
$filename = "C:ScriptsgetVmdataallvmall-vm-$(get-date -f yyyy-MM-dd).csv"
$destinationSMB = "server.rumyfolder$vm"
$IP0=""
$IP1=""
$IP2=""
$IP3=""
$IP4=""
$IP5=""
# Подключение ко всем vCenter, что содержатся в переменной. Будет работать, если логин и пароль одинаковые (например, доменные)
Connect-VIServer -Server $vCenterNames -User $vCenterUsername -Password $vCenterPassword
write-host ""
# Создаём функцию с циклом по всем vCenter-ам
function Get-VMinventory {
# В этой переменной будет списко всех ВМ, как объектов
$AllVM = Get-VM | Sort Name
$cnt = $AllVM.Count
$count = 1
# Начинаем цикл по всем ВМ и собираем необходимые параметры каждого объекта
foreach ($vm in $AllVM) {
$StartTime = $(get-date)
$IP0 = $vm.Guest.IPAddress[0]
$IP1 = $vm.Guest.IPAddress[1]
$IP2 = $vm.Guest.IPAddress[2]
$IP3 = $vm.Guest.IPAddress[3]
$IP4 = $vm.Guest.IPAddress[4]
$IP5 = $vm.Guest.IPAddress[5]
If ($IP0 -ne $null) {If ($IP0.Contains(":") -ne 0) {$IP0=""}}
If ($IP1 -ne $null) {If ($IP1.Contains(":") -ne 0) {$IP1=""}}
If ($IP2 -ne $null) {If ($IP2.Contains(":") -ne 0) {$IP2=""}}
If ($IP3 -ne $null) {If ($IP3.Contains(":") -ne 0) {$IP3=""}}
If ($IP4 -ne $null) {If ($IP4.Contains(":") -ne 0) {$IP4=""}}
If ($IP5 -ne $null) {If ($IP5.Contains(":") -ne 0) {$IP5=""}}
$cluster = $vm | Get-Cluster | Select-Object -ExpandProperty name  
$Bootime = $vm.ExtensionData.Runtime.BootTime
$TotalHDDs = $vm.ProvisionedSpaceGB -as [int]
$CreationDate = $vm.CustomFields.Item("CreationDate") -as [string]
$Creator = $vm.CustomFields.Item("Creator") -as [string]
$Category = $vm.CustomFields.Item("Category") -as [string]
$Owner = $vm.CustomFields.Item("Owner") -as [string]
$Subsystem = $vm.CustomFields.Item("Subsystem") -as [string]
$IPS = $vm.CustomFields.Item("IP") -as [string]
$vCPU = $vm.NumCpu
$CorePerSocket = $vm.ExtensionData.config.hardware.NumCoresPerSocket
$Sockets = $vCPU/$CorePerSocket
$Id = $vm.Id.Split('-')[2] -as [int]
# Собираем все параметры в один объект
$Vmresult = New-Object PSObject
$Vmresult | add-member -MemberType NoteProperty -Name "Id" -Value $Id   
$Vmresult | add-member -MemberType NoteProperty -Name "VM Name" -Value $vm.Name  
$Vmresult | add-member -MemberType NoteProperty -Name "Cluster" -Value $cluster  
$Vmresult | add-member -MemberType NoteProperty -Name "Esxi Host" -Value $VM.VMHost  
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 1" -Value $IP0
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 2" -Value $IP1
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 3" -Value $IP2
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 4" -Value $IP3
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 5" -Value $IP4
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 6" -Value $IP5
$Vmresult | add-member -MemberType NoteProperty -Name "vCPU" -Value $vCPU
$Vmresult | Add-Member -MemberType NoteProperty -Name "CPU Sockets" -Value $Sockets
$Vmresult | Add-Member -MemberType NoteProperty -Name "Core per Socket" -Value $CorePerSocket
$Vmresult | add-member -MemberType NoteProperty -Name "RAM (GB)" -Value $vm.MemoryGB
$Vmresult | add-member -MemberType NoteProperty -Name "Total-HDD (GB)" -Value $TotalHDDs
$Vmresult | add-member -MemberType NoteProperty -Name "Power State" -Value $vm.PowerState
$Vmresult | add-member -MemberType NoteProperty -Name "OS" -Value $VM.ExtensionData.summary.config.guestfullname  
$Vmresult | Add-Member -MemberType NoteProperty -Name "Boot Time" -Value $Bootime
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Status" -Value $vm.ExtensionData.Guest.ToolsStatus  
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Version" -Value $vm.ExtensionData.Guest.ToolsVersion  
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Version Status" -Value $vm.ExtensionData.Guest.ToolsVersionStatus  
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Running Status" -Value $vm.ExtensionData.Guest.ToolsRunningStatus  
$Vmresult | add-member -MemberType NoteProperty -Name "Creation Date" -Value $CreationDate
$Vmresult | add-member -MemberType NoteProperty -Name "Creator" -Value $Creator
$Vmresult | add-member -MemberType NoteProperty -Name "Category" -Value $Category
$Vmresult | add-member -MemberType NoteProperty -Name "Owner" -Value $Owner
$Vmresult | add-member -MemberType NoteProperty -Name "Subsystem" -Value $Subsystem
$Vmresult | add-member -MemberType NoteProperty -Name "IP's" -Value $IPS
$Vmresult | add-member -MemberType NoteProperty -Name "vCenter Name" -Value $vm.Uid.Split('@')[1].Split(':')[0]  
# Считаем общее и оставшееся время выполнения и выводим на экран результаты. Использовалось для тестирования, но по факту оказалось очень удобно.
$elapsedTime = $(get-date) - $StartTime
$totalTime = "{0:HH:mm:ss}" -f ([datetime]($elapsedTime.Ticks*($cnt - $count)))
clear-host
Write-Host "Processing" $count "from" $cnt 
Write-host "Progress:" ([math]::Round($count/$cnt*100, 2)) "%" 
Write-host "You have about " $totalTime "for cofee"
Write-host ""
$count++
# Выводим результат, чтобы цикл "знал" что является результатом выполнения одного прохода
$Vmresult
}
}
# Вызываем получившуюся функцию и сразу выгружаем результат в csv
$allVm = Get-VMinventory | Export-CSV -Path $filename -NoTypeInformation -UseCulture -Force
# Пытаемся выложить полученный файл в нужное нам место и, в случае ошибки, пишем лог.
try
{
Copy-Item $filename -Destination $destinationSMB -Force -ErrorAction SilentlyContinue
}
catch
{
$error | Export-CSV -Path $filename".error" -NoTypeInformation -UseCulture -Force
}

একটি পাওয়ারশেল স্ক্রিপ্ট যা ভার্চুয়াল মেশিনের নির্মাতা এবং তাদের তৈরির তারিখ লগ থেকে বের করে

# Путь к файлу, из которого будем доставать список VM
$VMfilePath = "C:ScriptsgetVmcreators_VMcreators_VM_$(get-date -f yyyy-MM-dd).csv"
# Путь к файлу, в который будем записывать результат
$filePath = "C:ScriptsgetVmdatacreatorscreators-$(get-date -f yyyy-MM-dd).csv"
# Создаём вокрфлоу
Workflow GetCreators-Wf
{
# Параметры, которые можно будет передать при вызове скрипта
param([string[]]$VMfilePath)
# Параметры, которые доступны только внутри workflow
$vCenterUsername = "myusername"
$vCenterPassword = "mypassword"
$daysToLook = 14
$start = (get-date).AddDays(-$daysToLook)
$finish = get-date
# Значения, которые будут вписаны в csv для машин, по которым не будет ничего найдено
$UnknownUser = "UNKNOWN"
$UnknownCreatedTime = "0000-00-00"
# Определяем параметры подключения и выводной файл, которые будут доступны во всём скрипте.
$vCenterNames = @(
"vcenter01", 
"vcenter02", 
"vcenter03"
)
# Получаем список VM из csv и загружаем соответствующие объекты
$list = Import-Csv $VMfilePath -UseCulture | select -ExpandProperty VM.Name
# Цикл, который будет выполняться параллельно (по 5 машин за раз)
foreach -parallel ($row in $list)
{
# Это скрипт, который видит только свои переменные и те, которые ему переданы через $Using
InlineScript {
# Время начала выполнения отдельного блока
$StartTime = $(get-date)
Write-Host ""
Write-Host "Processing $Using:row started at $StartTime"
Write-Host ""
# Подключение оборачиваем в переменную, чтобы информация о нём не мешалась в консоли
$con = Connect-VIServer -Server $Using:vCenterNames -User $Using:vCenterUsername -Password $Using:vCenterPassword
# Получаем объект vm
$vm = Get-VM -Name $Using:row
# Ниже 2 одинаковые команды. Одна с фильтром по времени, вторая - без. Можно пользоваться тем,
$Event = $vm | Get-VIEvent -Start $Using:start -Finish $Using:finish -Types Info | Where { $_.Gettype().Name -eq "VmBeingDeployedEvent" -or $_.Gettype().Name -eq "VmCreatedEvent" -or $_.Gettype().Name -eq "VmRegisteredEvent" -or $_.Gettype().Name -eq "VmClonedEvent"}
# $Event = $vm | Get-VIEvent -Types Info | Where { $_.Gettype().Name -eq "VmBeingDeployedEvent" -or $_.Gettype().Name -eq "VmCreatedEvent" -or $_.Gettype().Name -eq "VmRegisteredEvent" -or $_.Gettype().Name -eq "VmClonedEvent"}
# Заполняем параметры в зависимости от того, удалось ли в логах найти что-то
If (($Event | Measure-Object).Count -eq 0){
$User = $Using:UnknownUser
$Created = $Using:UnknownCreatedTime
$CreatedFormat = $Using:UnknownCreatedTime
} Else {
If ($Event.Username -eq "" -or $Event.Username -eq $null) {
$User = $Using:UnknownUser
} Else {
$User = $Event.Username
} # Else
$CreatedFormat = $Event.CreatedTime
# Один из коллег отдельно просил, чтобы время было в таком формате, поэтому дублируем его. А в БД пойдёт нормальный формат.
$Created = $Event.CreatedTime.ToString('yyyy-MM-dd')
} # Else
Write-Host "Creator for $vm is $User. Creating object."
# Создаём объект. Добавляем параметры.
$Vmresult = New-Object PSObject
$Vmresult | add-member -MemberType NoteProperty -Name "VM Name" -Value $vm.Name  
$Vmresult | add-member -MemberType NoteProperty -Name "CreatedBy" -Value $User
$Vmresult | add-member -MemberType NoteProperty -Name "CreatedOn" -Value $CreatedFormat
$Vmresult | add-member -MemberType NoteProperty -Name "CreatedOnFormat" -Value $Created           
# Выводим результаты
$Vmresult
} # Inline
} # ForEach
}
$Creators = GetCreators-Wf $VMfilePath
# Записываем результат в файл
$Creators | select 'VM Name', CreatedBy, CreatedOn | Export-Csv -Path $filePath -NoTypeInformation -UseCulture -Force
Write-Host "CSV generetion finisghed at $(get-date). PROFIT"

লাইব্রেরি বিশেষ মনোযোগের দাবি রাখে XLSX, যা কেবলমাত্র একটি CSV টেবিল নয়, চিঠির সাথে সংযুক্তিটিকে স্পষ্টভাবে ফরম্যাট করা সম্ভব করেছে (ব্যবস্থাপনার পছন্দ অনুযায়ী)।

ভুলভাবে ভরা মেশিনের তালিকা সহ একটি সুন্দর xlsx নথি তৈরি করা হচ্ছে

# Создаём новую книгу
# Возможные значения : "xls" и "xlsx"
wb<-createWorkbook(type="xlsx")
# Стили для имён рядов и колонок в таблицах
TABLE_ROWNAMES_STYLE <- CellStyle(wb) + Font(wb, isBold=TRUE)
TABLE_COLNAMES_STYLE <- CellStyle(wb) + Font(wb, isBold=TRUE) +
Alignment(wrapText=TRUE, horizontal="ALIGN_CENTER") +
Border(color="black", position=c("TOP", "BOTTOM"), 
pen=c("BORDER_THIN", "BORDER_THICK"))
# Создаём новый лист
sheet <- createSheet(wb, sheetName = names[2])
# Добавляем таблицу
addDataFrame(incorrect_df_filtered, 
sheet, startRow=1, startColumn=1,  row.names=FALSE, byrow=FALSE,
colnamesStyle = TABLE_COLNAMES_STYLE,
rownamesStyle = TABLE_ROWNAMES_STYLE)
# Меняем ширину, чтобы форматирование было автоматическим
autoSizeColumn(sheet = sheet, colIndex=c(1:ncol(incorrect_df)))
# Добавляем фильтры
addAutoFilter(sheet, cellRange = "C1:G1")
# Определяем стиль
fo2 <- Fill(foregroundColor="red")
cs2 <- CellStyle(wb, 
fill = fo2, 
dataFormat = DataFormat("@"))
# Находим ряды с неверно заполненным полем Владельца и применяем к ним определённый стиль
rowsOwner <- getRows(sheet, rowIndex = (which(!incorrect_df$isOwnerCorrect) + 1))
cellsOwner <- getCells(rowsOwner, colIndex = which( colnames(incorrect_df_filtered) == "Owner" )) 
lapply(names(cellsOwner), function(x) setCellStyle(cellsOwner[[x]], cs2))
# Находим ряды с неверно заполненным полем Подсистемы и применяем к ним определённый стиль
rowsSubsystem <- getRows(sheet, rowIndex = (which(!incorrect_df$isSubsystemCorrect) + 1))
cellsSubsystem <- getCells(rowsSubsystem, colIndex = which( colnames(incorrect_df_filtered) == "Subsystem" )) 
lapply(names(cellsSubsystem), function(x) setCellStyle(cellsSubsystem[[x]], cs2))
# Аналогично по Категории
rowsCategory <- getRows(sheet, rowIndex = (which(!incorrect_df$isCategoryCorrect) + 1))
cellsCategory <- getCells(rowsCategory, colIndex = which( colnames(incorrect_df_filtered) == "Category" )) 
lapply(names(cellsCategory), function(x) setCellStyle(cellsCategory[[x]], cs2))
# Создатель
rowsCreator <- getRows(sheet, rowIndex = (which(!incorrect_df$isCreatorCorrect) + 1))
cellsCreator <- getCells(rowsCreator, colIndex = which( colnames(incorrect_df_filtered) == "Creator" )) 
lapply(names(cellsCreator), function(x) setCellStyle(cellsCreator[[x]], cs2))
# Сохраняем файл
saveWorkbook(wb, filenameIncorrect)

আউটপুট এই মত কিছু দেখায়:

R এবং PowerShell ব্যবহার করে ভার্চুয়াল মেশিনের স্বাস্থ্যের উপর দৈনিক প্রতিবেদন

উইন্ডোজ শিডিউলার সেট আপ করার বিষয়ে একটি আকর্ষণীয় সূক্ষ্মতাও ছিল। সঠিক অধিকার এবং সেটিংস খুঁজে পাওয়া অসম্ভব ছিল যাতে সবকিছু যেমন করা উচিত তেমনি শুরু হয়। ফলস্বরূপ, R লাইব্রেরি পাওয়া গেছে, যা নিজেই একটি R স্ক্রিপ্ট চালু করার জন্য একটি টাস্ক তৈরি করে এবং এমনকি লগ ফাইল সম্পর্কে ভুলে যায় না। তারপর আপনি ম্যানুয়ালি টাস্ক সংশোধন করতে পারেন.

দুটি উদাহরণ সহ R কোডের একটি অংশ যা উইন্ডোজ শিডিউলারে একটি টাস্ক তৈরি করে

library(taskscheduleR)
myscript <- file.path(getwd(), "all_vm.R")
## запускаем скрипт через 62 секунды
taskscheduler_create(taskname = "getAllVm", rscript = myscript, 
schedule = "ONCE", starttime = format(Sys.time() + 62, "%H:%M"))
## запускаем скрипт каждый день в 09:10
taskscheduler_create(taskname = "getAllVmDaily", rscript = myscript, 
schedule = "WEEKLY", 
days = c("MON", "TUE", "WED", "THU", "FRI"),
starttime = "02:00")
## удаляем задачи
taskscheduler_delete(taskname = "getAllVm")
taskscheduler_delete(taskname = "getAllVmDaily")
# Смотрим логи (последние 4 строчки)
tail(readLines("all_vm.log"), sep ="n", n = 4)

ডাটাবেস সম্পর্কে আলাদাভাবে

স্ক্রিপ্ট সেট আপ করার পরে, অন্যান্য সমস্যা দেখা দিতে শুরু করে। উদাহরণস্বরূপ, আমি VM মুছে ফেলার তারিখ খুঁজে পেতে চেয়েছিলাম, কিন্তু vCenter-এর লগগুলি ইতিমধ্যেই জীর্ণ হয়ে গেছে। যেহেতু স্ক্রিপ্টটি প্রতিদিন একটি ফোল্ডারে ফাইল রাখে এবং এটি পরিষ্কার করে না (আমাদের মনে পড়লে আমরা এটি আমাদের হাত দিয়ে পরিষ্কার করি), আপনি পুরানো ফাইলগুলি দেখতে পারেন এবং প্রথম ফাইলটি খুঁজে পেতে পারেন যেখানে এই VM উপস্থিত নেই। কিন্তু যে শান্ত না.

আমি একটি ঐতিহাসিক ডাটাবেস তৈরি করতে চেয়েছিলাম।

MS SQL SERVER-এর কার্যকারিতা - সিস্টেম-সংস্করণ টেম্পোরাল টেবিল - উদ্ধারে এসেছে। এটি সাধারণত অস্থায়ী (অস্থায়ী নয়) টেবিল হিসাবে অনুবাদ করা হয়।

আপনি বিস্তারিত পড়তে পারেন অফিসিয়াল মাইক্রোসফ্ট ডকুমেন্টেশন.

সংক্ষেপে, আমরা একটি টেবিল তৈরি করি, বলি যে এটি সংস্করণ সহ আমাদের কাছে থাকবে এবং এসকিউএল সার্ভার এই টেবিলে 2টি অতিরিক্ত ডেটটাইম কলাম তৈরি করে (রেকর্ড তৈরির তারিখ এবং রেকর্ডের মেয়াদ শেষ হওয়ার তারিখ) এবং একটি অতিরিক্ত টেবিল যার মধ্যে পরিবর্তন হয়। লেখা হবে। ফলস্বরূপ, আমরা আপ-টু-ডেট তথ্য পাই এবং, সাধারণ প্রশ্নের মাধ্যমে, যার উদাহরণ ডকুমেন্টেশনে দেওয়া আছে, আমরা হয় একটি নির্দিষ্ট ভার্চুয়াল মেশিনের জীবনচক্র, অথবা একটি নির্দিষ্ট সময়ে সমস্ত VM-এর অবস্থা দেখতে পারি। সময়ের মধ্যে

কার্যক্ষমতার দৃষ্টিকোণ থেকে, অস্থায়ী টেবিলে লেখার লেনদেন সম্পূর্ণ না হওয়া পর্যন্ত মূল টেবিলে লেখার লেনদেন সম্পূর্ণ হবে না। সেগুলো. প্রচুর সংখ্যক লেখার ক্রিয়াকলাপ সহ টেবিলে, এই কার্যকারিতাটি সতর্কতার সাথে প্রয়োগ করা উচিত, তবে আমাদের ক্ষেত্রে এটি সত্যিই দুর্দান্ত জিনিস।

প্রক্রিয়াটি সঠিকভাবে কাজ করার জন্য, আমাকে R-এ কোডের একটি ছোট অংশ যোগ করতে হয়েছিল যা ডাটাবেসে সংরক্ষিত সমস্ত VM-এর ডেটার সাথে নতুন টেবিলের তুলনা করবে এবং এতে শুধুমাত্র পরিবর্তিত সারি লিখবে। কোডটি বিশেষ করে চতুর নয়; এটি compareDF লাইব্রেরি ব্যবহার করে, কিন্তু আমি এটি নীচে উপস্থাপন করব।

একটি ডাটাবেসে ডেটা লেখার জন্য R কোড

# Подцепляем пакеты
library(odbc)
library(compareDF)
# Формируем коннект
con <- dbConnect(odbc(),
Driver = "ODBC Driver 13 for SQL Server",
Server = DBParams$server,
Database = DBParams$database,
UID = DBParams$UID,
PWD = DBParams$PWD,
Port = 1433)
#### Проверяем есть ли таблица. Если нет - создаём. ####
if (!dbExistsTable(con, DBParams$TblName)) {
#### Создаём таблицу ####
create <- dbSendStatement(
con,
paste0(
'CREATE TABLE ',
DBParams$TblName,
'(
[Id] [int] NOT NULL PRIMARY KEY CLUSTERED,
[VM.Name] [varchar](255) NULL,
[Cluster] [varchar](255) NULL,
[Esxi.Host] [varchar](255) NULL,
[IP.Address.1] [varchar](255) NULL,
[IP.Address.2] [varchar](255) NULL,
[IP.Address.3] [varchar](255) NULL,
[IP.Address.4] [varchar](255) NULL,
[IP.Address.5] [varchar](255) NULL,
[IP.Address.6] [varchar](255) NULL,
[vCPU] [int] NULL,
[CPU.Sockets] [int] NULL,
[Core.per.Socket] [int] NULL,
[RAM..GB.] [int] NULL,
[Total.HDD..GB.] [int] NULL,
[Power.State] [varchar](255) NULL,
[OS] [varchar](255) NULL,
[Boot.Time] [varchar](255) NULL,
[VMTools.Status] [varchar](255) NULL,
[VMTools.Version] [int] NULL,
[VMTools.Version.Status] [varchar](255) NULL,
[VMTools.Running.Status] [varchar](255) NULL,
[Creation.Date] [varchar](255) NULL,
[Creator] [varchar](255) NULL,
[Category] [varchar](255) NULL,
[Owner] [varchar](255) NULL,
[Subsystem] [varchar](255) NULL,
[IP.s] [varchar](255) NULL,
[vCenter.Name] [varchar](255) NULL,
DateFrom datetime2 GENERATED ALWAYS AS ROW START NOT NULL,
DateTo datetime2 GENERATED ALWAYS AS ROW END NOT NULL,
PERIOD FOR SYSTEM_TIME (DateFrom, DateTo)
) ON [PRIMARY]
WITH (SYSTEM_VERSIONING = ON (HISTORY_TABLE = ', DBParams$TblHistName,'));'
)
)
# Отправляем подготовленный запрос
dbClearResult(create)
} # if
#### Начало работы с таблицей ####
# Обозначаем таблицу, с которой будем работать
allVM_db_con <- tbl(con, DBParams$TblName) 
#### Сравниваем таблицы ####
# Собираем данные с таблицы (убираем служебные временные поля)
allVM_db <- allVM_db_con %>% 
select(c(-"DateTo", -"DateFrom")) %>% 
collect()
# Создаём таблицу со сравнением объектов. Сравниваем по Id
# Удалённые объекты там будут помечены через -, созданные через +, изменённые через - и +
ctable_VM <- fullXslx_df %>% 
compare_df(allVM_db, 
c("Id"))
#### Удаление строк ####
# Выдираем Id виртуалок, записи о которых надо удалить 
remove_Id <- ctable_VM$comparison_df %>% 
filter(chng_type == "-") %>%
select(Id)
# Проверяем, что есть записи (если записей нет - и удалять ничего не нужно)
if (remove_Id %>% nrow() > 0) {
# Конструируем шаблон для запроса на удаление данных
delete <- dbSendStatement(con, 
paste0('
DELETE 
FROM ',
DBParams$TblName,
' WHERE "Id"=?
') # paste
) # send
# Создаём запрос на удаление данных
dbBind(delete, remove_Id)
# Отправляем подготовленный запрос
dbClearResult(delete)
} # if
#### Добавление строк ####
# Выделяем таблицу, содержащую строки, которые нужно добавить.
allVM_add <- ctable_VM$comparison_df %>% 
filter(chng_type == "+") %>% 
select(-chng_type)
# Проверяем, есть ли строки, которые нужно добавить и добавляем (если нет - не добавляем)
if (allVM_add %>% nrow() > 0) {
# Пишем таблицу со всеми необходимыми данными
dbWriteTable(con,
DBParams$TblName,
allVM_add,
overwrite = FALSE,
append = TRUE)
} # if
#### Не забываем сделать дисконнект ####
dbDisconnect(con)

মোটে

স্ক্রিপ্ট বাস্তবায়নের ফলস্বরূপ, কয়েক মাসের মধ্যে আদেশ পুনরুদ্ধার এবং বজায় রাখা হয়েছিল। কখনও কখনও ভুলভাবে ভরা VMগুলি উপস্থিত হয়, কিন্তু স্ক্রিপ্টটি একটি ভাল অনুস্মারক হিসাবে কাজ করে এবং একটি বিরল VM একটি সারিতে 2 দিনের জন্য তালিকায় আসে৷

ঐতিহাসিক তথ্য বিশ্লেষণের জন্য ভিত্তিও তৈরি করা হয়েছিল।

এটা স্পষ্ট যে এর বেশিরভাগই হাঁটুতে নয়, বিশেষায়িত সফ্টওয়্যার দিয়ে প্রয়োগ করা যেতে পারে, তবে কাজটি আকর্ষণীয় ছিল এবং কেউ বলতে পারেন, ঐচ্ছিক।

R আবার নিজেকে একটি চমৎকার সার্বজনীন ভাষা হিসেবে দেখিয়েছে, যা শুধুমাত্র পরিসংখ্যানগত সমস্যা সমাধানের জন্যই নিখুঁত নয়, অন্যান্য ডেটা উৎসের মধ্যে একটি চমৎকার "স্তর" হিসেবেও কাজ করে।

R এবং PowerShell ব্যবহার করে ভার্চুয়াল মেশিনের স্বাস্থ্যের উপর দৈনিক প্রতিবেদন

উত্স: www.habr.com

একটি মন্তব্য জুড়ুন