โปรโฮสต์ > บล็อก > การบริหาร > รายงานรายวันเกี่ยวกับความสมบูรณ์ของเครื่องเสมือนที่ใช้ R และ PowerShell

รายงานรายวันเกี่ยวกับความสมบูรณ์ของเครื่องเสมือนที่ใช้ R และ PowerShell

รายงานรายวันเกี่ยวกับความสมบูรณ์ของเครื่องเสมือนที่ใช้ R และ PowerShell

การเข้า

สวัสดีตอนบ่าย. เป็นเวลาครึ่งปีแล้วที่เราใช้งานสคริปต์ (หรือชุดสคริปต์) ที่สร้างรายงานเกี่ยวกับสถานะของเครื่องเสมือน (และไม่เพียงเท่านั้น) ฉันตัดสินใจแบ่งปันประสบการณ์การสร้างสรรค์ของฉันและตัวโค้ดเอง ฉันหวังว่าจะได้รับการวิจารณ์และเนื้อหานี้อาจเป็นประโยชน์กับใครบางคน

การก่อตัวของความต้องการ

เรามีเครื่องเสมือนจำนวนมาก (ประมาณ 1500 VM ที่กระจายอยู่ใน 3 vCenters) อันใหม่ถูกสร้างขึ้นและอันเก่าจะถูกลบค่อนข้างบ่อย เพื่อรักษาลำดับ ฟิลด์ที่กำหนดเองหลายฟิลด์ได้ถูกเพิ่มลงใน vCenter เพื่อแบ่ง VM ออกเป็นระบบย่อย ระบุว่าเป็นการทดสอบหรือไม่ และสร้างขึ้นโดยใครและเมื่อใด ปัจจัยด้านมนุษย์ทำให้เครื่องจักรมากกว่าครึ่งหนึ่งเหลือพื้นที่ว่าง ซึ่งทำให้งานยุ่งยาก ทุกๆ หกเดือน จะมีคนสติแตกและเริ่มอัปเดตข้อมูลนี้ แต่ผลลัพธ์กลับไม่เกี่ยวข้องอีกต่อไปหลังจากผ่านไปหนึ่งสัปดาห์ครึ่ง
ผมขอชี้แจงทันทีว่าทุกคนเข้าใจดีว่าจะต้องมีแอพพลิเคชั่นสำหรับการสร้างเครื่องจักร กระบวนการในการสร้างสรรค์ ฯลฯ และอื่น ๆ และในขณะเดียวกันทุกคนก็ปฏิบัติตามกระบวนการนี้อย่างเคร่งครัดและทุกอย่างเป็นไปตามลำดับ น่าเสียดายที่นี่ไม่ใช่กรณีนี้ แต่นี่ไม่ใช่หัวข้อของบทความ :)

โดยทั่วไป มีการตัดสินใจให้ตรวจสอบความถูกต้องของการกรอกข้อมูลในช่องโดยอัตโนมัติ
เราตัดสินใจว่าจดหมายรายวันพร้อมรายการเครื่องจักรที่กรอกไม่ถูกต้องถึงวิศวกรที่รับผิดชอบทุกคนและหัวหน้าของพวกเขาจะเป็นการเริ่มต้นที่ดี

ณ จุดนี้ เพื่อนร่วมงานคนหนึ่งของฉันได้ติดตั้งสคริปต์ใน PowerShell แล้ว ซึ่งทุกวันตามกำหนดเวลาจะรวบรวมข้อมูลบนเครื่องทั้งหมดของ vCenters ทั้งหมด และสร้างเอกสาร csv 3 ฉบับ (แต่ละไฟล์สำหรับ vCenter ของตัวเอง) ซึ่งถูกอัปโหลดไปยัง ดิสก์ทั่วไป มีการตัดสินใจที่จะใช้สคริปต์นี้เป็นพื้นฐานและเสริมด้วยการตรวจสอบโดยใช้ภาษา R ซึ่งเรามีประสบการณ์มาบ้าง

ในกระบวนการสรุปผล โซลูชันได้รับข้อมูลทางไปรษณีย์ ฐานข้อมูลที่มีตารางหลักและตารางประวัติ (จะมีรายละเอียดเพิ่มเติมในภายหลัง) รวมถึงการวิเคราะห์บันทึก vSphere เพื่อค้นหาผู้สร้างจริงของ vm และเวลาที่สร้าง

IDE RStudio Desktop และ PowerShell ISE ถูกนำมาใช้เพื่อการพัฒนา

สคริปต์ถูกเรียกใช้จากเครื่องเสมือน Windows ปกติ

คำอธิบายตรรกะทั่วไป

ตรรกะทั่วไปของสคริปต์มีดังนี้

  • เรารวบรวมข้อมูลบนเครื่องเสมือนโดยใช้สคริปต์ PowerShell ซึ่งเราเรียกผ่าน R และรวมผลลัพธ์ไว้ใน csv เดียว การโต้ตอบแบบย้อนกลับระหว่างภาษาก็ทำในทำนองเดียวกัน (เป็นไปได้ที่จะขับเคลื่อนข้อมูลโดยตรงจาก R ไปยัง PowerShell ในรูปแบบของตัวแปร แต่นี่เป็นเรื่องยาก และการการมี csv ระดับกลางทำให้ง่ายต่อการแก้ไขจุดบกพร่องและแบ่งปันผลลัพธ์ระดับกลางกับผู้อื่น)
  • การใช้ R เราสร้างพารามิเตอร์ที่ถูกต้องสำหรับฟิลด์ที่เรากำลังตรวจสอบค่า — เรากำลังสร้างเอกสารคำที่จะมีค่าของฟิลด์เหล่านี้เพื่อแทรกลงในจดหมายข้อมูลซึ่งจะเป็นคำตอบสำหรับคำถามของเพื่อนร่วมงาน “ไม่ แต่ฉันจะกรอกสิ่งนี้ได้อย่างไร”
  • เราโหลดข้อมูลสำหรับ VM ทั้งหมดจาก csv โดยใช้ R สร้าง dataframe ลบฟิลด์ที่ไม่จำเป็น และสร้างเอกสาร xlsx ข้อมูลที่จะมีข้อมูลสรุปสำหรับ VM ทั้งหมด ซึ่งเราอัปโหลดไปยังทรัพยากรที่ใช้ร่วมกัน
  • เราใช้การตรวจสอบทั้งหมดเพื่อความถูกต้องของการกรอกข้อมูลในฟิลด์กับ dataframe สำหรับ VM ทั้งหมด และสร้างตารางที่มีเฉพาะ VM ที่กรอกข้อมูลไม่ถูกต้อง (และเฉพาะฟิลด์เหล่านี้เท่านั้น)
  • เราส่งรายการผลลัพธ์ของ VM ไปยังสคริปต์ PowerShell อื่น ซึ่งจะดูบันทึก vCenter สำหรับเหตุการณ์การสร้าง VM ซึ่งจะช่วยให้เราระบุเวลาโดยประมาณในการสร้าง VM และผู้สร้างที่ต้องการได้ กรณีนี้ไม่มีใครยอมรับว่าเป็นรถของใคร สคริปต์นี้ทำงานไม่เร็วนัก โดยเฉพาะอย่างยิ่งหากมีบันทึกจำนวนมาก ดังนั้นเราจึงดูเฉพาะ 2 สัปดาห์ที่ผ่านมาเท่านั้น และยังใช้เวิร์กโฟลว์ที่ช่วยให้คุณสามารถค้นหาข้อมูลบน VM หลายเครื่องพร้อมกันได้ สคริปต์ตัวอย่างประกอบด้วยความคิดเห็นโดยละเอียดเกี่ยวกับกลไกนี้ เราเพิ่มผลลัพธ์ลงใน csv ซึ่งเราจะโหลดลงใน R อีกครั้ง
  • เราสร้างเอกสาร xlsx ที่มีรูปแบบสวยงาม โดยจะไฮไลต์ช่องที่กรอกไม่ถูกต้องด้วยสีแดง ตัวกรองจะถูกนำไปใช้กับบางคอลัมน์ และคอลัมน์เพิ่มเติมที่มีผู้สร้างที่ต้องการและเวลาที่สร้าง VM จะถูกระบุ
  • เราสร้างอีเมล โดยแนบเอกสารที่อธิบายค่าฟิลด์ที่ถูกต้อง รวมถึงตารางที่กรอกฟิลด์ไม่ถูกต้อง ในข้อความ เราระบุจำนวน VM ที่สร้างขึ้นอย่างไม่ถูกต้อง ลิงก์ไปยังแหล่งข้อมูลที่แชร์ และรูปภาพที่สร้างแรงบันดาลใจ หากไม่มี VM ที่กรอกไม่ถูกต้อง เราจะส่งจดหมายอีกฉบับพร้อมรูปภาพสร้างแรงบันดาลใจที่มีความสุขมากขึ้น
  • เราบันทึกข้อมูลสำหรับ VM ทั้งหมดในฐานข้อมูล SQL Server โดยคำนึงถึงกลไกที่นำไปใช้ของตารางประวัติ (กลไกที่น่าสนใจมาก - ซึ่งจะเพิ่มเติมในภายหลัง)

จริงๆแล้วสคริปต์

ไฟล์รหัส R หลัก

# Путь к рабочей директории (нужно для корректной работы через виндовый планировщик заданий)
setwd("C:ScriptsgetVm")
#### Подгружаем необходимые пакеты ####
library(tidyverse)
library(xlsx)
library(mailR)
library(rmarkdown)
##### Определяем пути к исходным файлам и другие переменные #####
source(file = "const.R", local = T, encoding = "utf-8")
# Проверяем существование файла со всеми ВМ и удаляем, если есть.
if (file.exists(filenameVmCreationRules)) {file.remove(filenameVmCreationRules)}
#### Создаём вордовский документ с допустимыми полями
render("VM_name_rules.Rmd",
output_format = word_document(),
output_file = filenameVmCreationRules)
# Проверяем существование файла со всеми ВМ и удаляем, если есть
if (file.exists(allVmXlsxPath)) {file.remove(allVmXlsxPath)}
#### Забираем данные по всем машинам через PowerShell скрипт. На выходе получим csv.
system(paste0("powershell -File ", getVmPsPath))
# Полный df
fullXslx_df <- allVmXlsxPath %>% 
read.csv2(stringsAsFactors = FALSE)
# Проверяем корректность заполненных полей
full_df <- fullXslx_df %>%
mutate(
# Сначала убираем все лишние пробелы и табуляции, потом учитываем разделитель запятую, потом проверяем вхождение в допустимые значения,
isSubsystemCorrect = Subsystem %>% 
gsub("[[:space:]]", "", .) %>% 
str_split(., ",") %>% 
map(function(x) (all(x %in% AllowedValues$Subsystem))) %>%
as.logical(),
isOwnerCorrect = Owner %in% AllowedValues$Owner,
isCategoryCorrect = Category %in% AllowedValues$Category,
isCreatorCorrect = (!is.na(Creator) & Creator != ''),
isCreation.DateCorrect = map(Creation.Date, IsDate)
)
# Проверяем существование файла со всеми ВМ и удаляем, если есть.
if (file.exists(filenameAll)) {file.remove(filenameAll)}
#### Формируем xslx файл с отчётом ####
# Общие данные на отдельный лист
full_df %>% write.xlsx(file=filenameAll,
sheetName=names[1],
col.names=TRUE,
row.names=FALSE,
append=FALSE)
#### Формируем xslx файл с неправильно заполненными полями ####
# Формируем df
incorrect_df <- full_df %>%
select(VM.Name, 
IP.s, 
Owner,
Subsystem,
Creator,
Category,
Creation.Date,
isOwnerCorrect, 
isSubsystemCorrect, 
isCategoryCorrect,
isCreatorCorrect,
vCenter.Name) %>%
filter(isSubsystemCorrect == F | 
isOwnerCorrect == F |
isCategoryCorrect == F |
isCreatorCorrect == F)
# Проверяем существование файла со всеми ВМ и удаляем, если есть.
if (file.exists(filenameIncVM)) {file.remove(filenameIncVM)}
# Сохраняем список VM с незаполненными полями в csv
incorrect_df %>%
select(VM.Name) %>%
write_csv2(path = filenameIncVM, append = FALSE)
# Фильтруем для вставки в почту
incorrect_df_filtered <- incorrect_df %>% 
select(VM.Name, 
IP.s, 
Owner, 
Subsystem, 
Category,
Creator,
vCenter.Name,
Creation.Date
)
# Считаем количество строк
numberOfRows <- nrow(incorrect_df)
#### Начало условия ####
# Дальше либо у нас есть неправильно заполненные поля, либо нет.
# Если есть - запускаем ещё один скрипт
if (numberOfRows > 0) {
# Проверяем существование файла с создателями и удаляем, если есть.
if (file.exists(creatorsFilePath)) {file.remove(creatorsFilePath)}
# Запускаем PowerShell скрипт, который найдёт создателей найденных VM. На выходе получим csv.
system(paste0("powershell -File ", getCreatorsPath))
# Читаем файл с создателями
creators_df <- creatorsFilePath %>%
read.csv2(stringsAsFactors = FALSE)
# Фильтруем для вставки в почту, добавляем данные из таблицы с создателями
incorrect_df_filtered <- incorrect_df_filtered %>% 
select(VM.Name, 
IP.s, 
Owner, 
Subsystem, 
Category,
Creator,
vCenter.Name,
Creation.Date
) %>% 
left_join(creators_df, by = "VM.Name") %>% 
rename(`Предполагаемый создатель` = CreatedBy, 
`Предполагаемая дата создания` = CreatedOn)  
# Формируем тело письма
emailBody <- paste0(
'<html>
<h3>Добрый день, уважаемые коллеги.</h3>
<p>Полную актуальную информацию по виртуальным машинам вы можете посмотреть на диске H: вот тут:<p>
<p>\server.ruVM', sourceFileFormat, '</p>
<p>Также во вложении список ВМ с <strong>некорректно заполненными</strong> полями. Всего их <strong>', numberOfRows,'</strong>.</p>
<p>В таблице появилось 2 дополнительные колонки. <strong>Предполагаемый создатель</strong> и <strong>Предполагаемая дата создания</strong>, которые достаются из логов vCenter за последние 2 недели</p>
<p>Просьба создателей машин уточнить данные и заполнить поля корректно. Правила заполнения полей также во вложении</p>
<p><img src="data/meme.jpg"></p>
</html>'
)
# Проверяем существование файла
if (file.exists(filenameIncorrect)) {file.remove(filenameIncorrect)}
# Формируем красивую таблицу с форматами и т.д.
source(file = "email.R", local = T, encoding = "utf-8")
#### Формируем письмо с плохо подписанными машинами ####
send.mail(from = emailParams$from,
to = emailParams$to,
subject = "ВМ с некорректно заполненными полями",
body = emailBody,
encoding = "utf-8",
html = TRUE,
inline = TRUE,
smtp = emailParams$smtpParams,
authenticate = TRUE,
send = TRUE,
attach.files = c(filenameIncorrect, filenameVmCreationRules),
debug = FALSE)
#### Дальше пойдёт блок, если нет проблем с ВМ ####
} else {
# Формируем тело письма
emailBody <- paste0(
'<html>
<h3>Добрый день, уважаемые коллеги</h3>
<p>Полную актуальную информацию по виртуальным машинам вы можете посмотреть на диске H: вот тут:<p>
<p>\server.ruVM', sourceFileFormat, '</p>
<p>Также, на текущий момент, все поля ВМ корректно заполнены</p>
<p><img src="data/meme_correct.jpg"></p>
</html>'
)
#### Формируем письмо без плохо заполненных VM ####
send.mail(from = emailParams$from,
to = emailParams$to,
subject = "Сводная информация",
body = emailBody,
encoding = "utf-8",
html = TRUE,
inline = TRUE,
smtp = emailParams$smtpParams,
authenticate = TRUE,
send = TRUE,
debug = FALSE)
}
####### Записываем данные в БД #####
source(file = "DB.R", local = T, encoding = "utf-8")

สคริปต์สำหรับรับรายการ vm ใน PowerShell

# Данные для подключения и другие переменные
$vCenterNames = @(
"vcenter01", 
"vcenter02", 
"vcenter03"
)
$vCenterUsername = "myusername"
$vCenterPassword = "mypassword"
$filename = "C:ScriptsgetVmdataallvmall-vm-$(get-date -f yyyy-MM-dd).csv"
$destinationSMB = "server.rumyfolder$vm"
$IP0=""
$IP1=""
$IP2=""
$IP3=""
$IP4=""
$IP5=""
# Подключение ко всем vCenter, что содержатся в переменной. Будет работать, если логин и пароль одинаковые (например, доменные)
Connect-VIServer -Server $vCenterNames -User $vCenterUsername -Password $vCenterPassword
write-host ""
# Создаём функцию с циклом по всем vCenter-ам
function Get-VMinventory {
# В этой переменной будет списко всех ВМ, как объектов
$AllVM = Get-VM | Sort Name
$cnt = $AllVM.Count
$count = 1
# Начинаем цикл по всем ВМ и собираем необходимые параметры каждого объекта
foreach ($vm in $AllVM) {
$StartTime = $(get-date)
$IP0 = $vm.Guest.IPAddress[0]
$IP1 = $vm.Guest.IPAddress[1]
$IP2 = $vm.Guest.IPAddress[2]
$IP3 = $vm.Guest.IPAddress[3]
$IP4 = $vm.Guest.IPAddress[4]
$IP5 = $vm.Guest.IPAddress[5]
If ($IP0 -ne $null) {If ($IP0.Contains(":") -ne 0) {$IP0=""}}
If ($IP1 -ne $null) {If ($IP1.Contains(":") -ne 0) {$IP1=""}}
If ($IP2 -ne $null) {If ($IP2.Contains(":") -ne 0) {$IP2=""}}
If ($IP3 -ne $null) {If ($IP3.Contains(":") -ne 0) {$IP3=""}}
If ($IP4 -ne $null) {If ($IP4.Contains(":") -ne 0) {$IP4=""}}
If ($IP5 -ne $null) {If ($IP5.Contains(":") -ne 0) {$IP5=""}}
$cluster = $vm | Get-Cluster | Select-Object -ExpandProperty name  
$Bootime = $vm.ExtensionData.Runtime.BootTime
$TotalHDDs = $vm.ProvisionedSpaceGB -as [int]
$CreationDate = $vm.CustomFields.Item("CreationDate") -as [string]
$Creator = $vm.CustomFields.Item("Creator") -as [string]
$Category = $vm.CustomFields.Item("Category") -as [string]
$Owner = $vm.CustomFields.Item("Owner") -as [string]
$Subsystem = $vm.CustomFields.Item("Subsystem") -as [string]
$IPS = $vm.CustomFields.Item("IP") -as [string]
$vCPU = $vm.NumCpu
$CorePerSocket = $vm.ExtensionData.config.hardware.NumCoresPerSocket
$Sockets = $vCPU/$CorePerSocket
$Id = $vm.Id.Split('-')[2] -as [int]
# Собираем все параметры в один объект
$Vmresult = New-Object PSObject
$Vmresult | add-member -MemberType NoteProperty -Name "Id" -Value $Id   
$Vmresult | add-member -MemberType NoteProperty -Name "VM Name" -Value $vm.Name  
$Vmresult | add-member -MemberType NoteProperty -Name "Cluster" -Value $cluster  
$Vmresult | add-member -MemberType NoteProperty -Name "Esxi Host" -Value $VM.VMHost  
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 1" -Value $IP0
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 2" -Value $IP1
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 3" -Value $IP2
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 4" -Value $IP3
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 5" -Value $IP4
$Vmresult | add-member -MemberType NoteProperty -Name "IP Address 6" -Value $IP5
$Vmresult | add-member -MemberType NoteProperty -Name "vCPU" -Value $vCPU
$Vmresult | Add-Member -MemberType NoteProperty -Name "CPU Sockets" -Value $Sockets
$Vmresult | Add-Member -MemberType NoteProperty -Name "Core per Socket" -Value $CorePerSocket
$Vmresult | add-member -MemberType NoteProperty -Name "RAM (GB)" -Value $vm.MemoryGB
$Vmresult | add-member -MemberType NoteProperty -Name "Total-HDD (GB)" -Value $TotalHDDs
$Vmresult | add-member -MemberType NoteProperty -Name "Power State" -Value $vm.PowerState
$Vmresult | add-member -MemberType NoteProperty -Name "OS" -Value $VM.ExtensionData.summary.config.guestfullname  
$Vmresult | Add-Member -MemberType NoteProperty -Name "Boot Time" -Value $Bootime
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Status" -Value $vm.ExtensionData.Guest.ToolsStatus  
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Version" -Value $vm.ExtensionData.Guest.ToolsVersion  
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Version Status" -Value $vm.ExtensionData.Guest.ToolsVersionStatus  
$Vmresult | add-member -MemberType NoteProperty -Name "VMTools Running Status" -Value $vm.ExtensionData.Guest.ToolsRunningStatus  
$Vmresult | add-member -MemberType NoteProperty -Name "Creation Date" -Value $CreationDate
$Vmresult | add-member -MemberType NoteProperty -Name "Creator" -Value $Creator
$Vmresult | add-member -MemberType NoteProperty -Name "Category" -Value $Category
$Vmresult | add-member -MemberType NoteProperty -Name "Owner" -Value $Owner
$Vmresult | add-member -MemberType NoteProperty -Name "Subsystem" -Value $Subsystem
$Vmresult | add-member -MemberType NoteProperty -Name "IP's" -Value $IPS
$Vmresult | add-member -MemberType NoteProperty -Name "vCenter Name" -Value $vm.Uid.Split('@')[1].Split(':')[0]  
# Считаем общее и оставшееся время выполнения и выводим на экран результаты. Использовалось для тестирования, но по факту оказалось очень удобно.
$elapsedTime = $(get-date) - $StartTime
$totalTime = "{0:HH:mm:ss}" -f ([datetime]($elapsedTime.Ticks*($cnt - $count)))
clear-host
Write-Host "Processing" $count "from" $cnt 
Write-host "Progress:" ([math]::Round($count/$cnt*100, 2)) "%" 
Write-host "You have about " $totalTime "for cofee"
Write-host ""
$count++
# Выводим результат, чтобы цикл "знал" что является результатом выполнения одного прохода
$Vmresult
}
}
# Вызываем получившуюся функцию и сразу выгружаем результат в csv
$allVm = Get-VMinventory | Export-CSV -Path $filename -NoTypeInformation -UseCulture -Force
# Пытаемся выложить полученный файл в нужное нам место и, в случае ошибки, пишем лог.
try
{
Copy-Item $filename -Destination $destinationSMB -Force -ErrorAction SilentlyContinue
}
catch
{
$error | Export-CSV -Path $filename".error" -NoTypeInformation -UseCulture -Force
}

สคริปต์ PowerShell ที่ดึงข้อมูลจากบันทึกของผู้สร้างเครื่องเสมือนและวันที่สร้าง

# Путь к файлу, из которого будем доставать список VM
$VMfilePath = "C:ScriptsgetVmcreators_VMcreators_VM_$(get-date -f yyyy-MM-dd).csv"
# Путь к файлу, в который будем записывать результат
$filePath = "C:ScriptsgetVmdatacreatorscreators-$(get-date -f yyyy-MM-dd).csv"
# Создаём вокрфлоу
Workflow GetCreators-Wf
{
# Параметры, которые можно будет передать при вызове скрипта
param([string[]]$VMfilePath)
# Параметры, которые доступны только внутри workflow
$vCenterUsername = "myusername"
$vCenterPassword = "mypassword"
$daysToLook = 14
$start = (get-date).AddDays(-$daysToLook)
$finish = get-date
# Значения, которые будут вписаны в csv для машин, по которым не будет ничего найдено
$UnknownUser = "UNKNOWN"
$UnknownCreatedTime = "0000-00-00"
# Определяем параметры подключения и выводной файл, которые будут доступны во всём скрипте.
$vCenterNames = @(
"vcenter01", 
"vcenter02", 
"vcenter03"
)
# Получаем список VM из csv и загружаем соответствующие объекты
$list = Import-Csv $VMfilePath -UseCulture | select -ExpandProperty VM.Name
# Цикл, который будет выполняться параллельно (по 5 машин за раз)
foreach -parallel ($row in $list)
{
# Это скрипт, который видит только свои переменные и те, которые ему переданы через $Using
InlineScript {
# Время начала выполнения отдельного блока
$StartTime = $(get-date)
Write-Host ""
Write-Host "Processing $Using:row started at $StartTime"
Write-Host ""
# Подключение оборачиваем в переменную, чтобы информация о нём не мешалась в консоли
$con = Connect-VIServer -Server $Using:vCenterNames -User $Using:vCenterUsername -Password $Using:vCenterPassword
# Получаем объект vm
$vm = Get-VM -Name $Using:row
# Ниже 2 одинаковые команды. Одна с фильтром по времени, вторая - без. Можно пользоваться тем,
$Event = $vm | Get-VIEvent -Start $Using:start -Finish $Using:finish -Types Info | Where { $_.Gettype().Name -eq "VmBeingDeployedEvent" -or $_.Gettype().Name -eq "VmCreatedEvent" -or $_.Gettype().Name -eq "VmRegisteredEvent" -or $_.Gettype().Name -eq "VmClonedEvent"}
# $Event = $vm | Get-VIEvent -Types Info | Where { $_.Gettype().Name -eq "VmBeingDeployedEvent" -or $_.Gettype().Name -eq "VmCreatedEvent" -or $_.Gettype().Name -eq "VmRegisteredEvent" -or $_.Gettype().Name -eq "VmClonedEvent"}
# Заполняем параметры в зависимости от того, удалось ли в логах найти что-то
If (($Event | Measure-Object).Count -eq 0){
$User = $Using:UnknownUser
$Created = $Using:UnknownCreatedTime
$CreatedFormat = $Using:UnknownCreatedTime
} Else {
If ($Event.Username -eq "" -or $Event.Username -eq $null) {
$User = $Using:UnknownUser
} Else {
$User = $Event.Username
} # Else
$CreatedFormat = $Event.CreatedTime
# Один из коллег отдельно просил, чтобы время было в таком формате, поэтому дублируем его. А в БД пойдёт нормальный формат.
$Created = $Event.CreatedTime.ToString('yyyy-MM-dd')
} # Else
Write-Host "Creator for $vm is $User. Creating object."
# Создаём объект. Добавляем параметры.
$Vmresult = New-Object PSObject
$Vmresult | add-member -MemberType NoteProperty -Name "VM Name" -Value $vm.Name  
$Vmresult | add-member -MemberType NoteProperty -Name "CreatedBy" -Value $User
$Vmresult | add-member -MemberType NoteProperty -Name "CreatedOn" -Value $CreatedFormat
$Vmresult | add-member -MemberType NoteProperty -Name "CreatedOnFormat" -Value $Created           
# Выводим результаты
$Vmresult
} # Inline
} # ForEach
}
$Creators = GetCreators-Wf $VMfilePath
# Записываем результат в файл
$Creators | select 'VM Name', CreatedBy, CreatedOn | Export-Csv -Path $filePath -NoTypeInformation -UseCulture -Force
Write-Host "CSV generetion finisghed at $(get-date). PROFIT"

ห้องสมุดสมควรได้รับความสนใจเป็นพิเศษ xlsxซึ่งทำให้สามารถจัดรูปแบบไฟล์แนบในจดหมายได้อย่างชัดเจน (ตามที่ฝ่ายบริหารชอบ) ไม่ใช่แค่ตาราง CSV

สร้างเอกสาร xlsx ที่สวยงามพร้อมรายการเครื่องที่กรอกไม่ถูกต้อง

# Создаём новую книгу
# Возможные значения : "xls" и "xlsx"
wb<-createWorkbook(type="xlsx")
# Стили для имён рядов и колонок в таблицах
TABLE_ROWNAMES_STYLE <- CellStyle(wb) + Font(wb, isBold=TRUE)
TABLE_COLNAMES_STYLE <- CellStyle(wb) + Font(wb, isBold=TRUE) +
Alignment(wrapText=TRUE, horizontal="ALIGN_CENTER") +
Border(color="black", position=c("TOP", "BOTTOM"), 
pen=c("BORDER_THIN", "BORDER_THICK"))
# Создаём новый лист
sheet <- createSheet(wb, sheetName = names[2])
# Добавляем таблицу
addDataFrame(incorrect_df_filtered, 
sheet, startRow=1, startColumn=1,  row.names=FALSE, byrow=FALSE,
colnamesStyle = TABLE_COLNAMES_STYLE,
rownamesStyle = TABLE_ROWNAMES_STYLE)
# Меняем ширину, чтобы форматирование было автоматическим
autoSizeColumn(sheet = sheet, colIndex=c(1:ncol(incorrect_df)))
# Добавляем фильтры
addAutoFilter(sheet, cellRange = "C1:G1")
# Определяем стиль
fo2 <- Fill(foregroundColor="red")
cs2 <- CellStyle(wb, 
fill = fo2, 
dataFormat = DataFormat("@"))
# Находим ряды с неверно заполненным полем Владельца и применяем к ним определённый стиль
rowsOwner <- getRows(sheet, rowIndex = (which(!incorrect_df$isOwnerCorrect) + 1))
cellsOwner <- getCells(rowsOwner, colIndex = which( colnames(incorrect_df_filtered) == "Owner" )) 
lapply(names(cellsOwner), function(x) setCellStyle(cellsOwner[[x]], cs2))
# Находим ряды с неверно заполненным полем Подсистемы и применяем к ним определённый стиль
rowsSubsystem <- getRows(sheet, rowIndex = (which(!incorrect_df$isSubsystemCorrect) + 1))
cellsSubsystem <- getCells(rowsSubsystem, colIndex = which( colnames(incorrect_df_filtered) == "Subsystem" )) 
lapply(names(cellsSubsystem), function(x) setCellStyle(cellsSubsystem[[x]], cs2))
# Аналогично по Категории
rowsCategory <- getRows(sheet, rowIndex = (which(!incorrect_df$isCategoryCorrect) + 1))
cellsCategory <- getCells(rowsCategory, colIndex = which( colnames(incorrect_df_filtered) == "Category" )) 
lapply(names(cellsCategory), function(x) setCellStyle(cellsCategory[[x]], cs2))
# Создатель
rowsCreator <- getRows(sheet, rowIndex = (which(!incorrect_df$isCreatorCorrect) + 1))
cellsCreator <- getCells(rowsCreator, colIndex = which( colnames(incorrect_df_filtered) == "Creator" )) 
lapply(names(cellsCreator), function(x) setCellStyle(cellsCreator[[x]], cs2))
# Сохраняем файл
saveWorkbook(wb, filenameIncorrect)

ผลลัพธ์จะมีลักษณะดังนี้:

รายงานรายวันเกี่ยวกับความสมบูรณ์ของเครื่องเสมือนที่ใช้ R และ PowerShell

นอกจากนี้ยังมีข้อแตกต่างที่น่าสนใจเกี่ยวกับการตั้งค่าตัวกำหนดเวลาของ Windows เป็นไปไม่ได้ที่จะค้นหาสิทธิ์และการตั้งค่าที่ถูกต้องเพื่อให้ทุกอย่างเริ่มต้นอย่างที่ควรจะเป็น เป็นผลให้พบไลบรารี R ซึ่งสร้างงานเพื่อเรียกใช้สคริปต์ R และไม่ลืมเกี่ยวกับไฟล์บันทึกด้วยซ้ำ จากนั้นคุณสามารถแก้ไขงานได้ด้วยตนเอง

ชิ้นส่วนของโค้ด R ที่มีสองตัวอย่างที่สร้างงานใน Windows Scheduler

library(taskscheduleR)
myscript <- file.path(getwd(), "all_vm.R")
## запускаем скрипт через 62 секунды
taskscheduler_create(taskname = "getAllVm", rscript = myscript, 
schedule = "ONCE", starttime = format(Sys.time() + 62, "%H:%M"))
## запускаем скрипт каждый день в 09:10
taskscheduler_create(taskname = "getAllVmDaily", rscript = myscript, 
schedule = "WEEKLY", 
days = c("MON", "TUE", "WED", "THU", "FRI"),
starttime = "02:00")
## удаляем задачи
taskscheduler_delete(taskname = "getAllVm")
taskscheduler_delete(taskname = "getAllVmDaily")
# Смотрим логи (последние 4 строчки)
tail(readLines("all_vm.log"), sep ="n", n = 4)

แยกเกี่ยวกับฐานข้อมูล

หลังจากตั้งค่าสคริปต์แล้ว ปัญหาอื่นๆ ก็เริ่มปรากฏขึ้น ตัวอย่างเช่น ฉันต้องการค้นหาวันที่ที่ VM ถูกลบ แต่บันทึกใน vCenter หมดไปแล้ว เนื่องจากสคริปต์วางไฟล์ไว้ในโฟลเดอร์ทุกวันและไม่ได้ทำความสะอาด (เมื่อเราจำได้เราทำความสะอาดด้วยมือ) คุณจึงสามารถดูไฟล์เก่าและค้นหาไฟล์แรกที่ไม่มี VM นี้ได้ แต่นั่นไม่เจ๋ง

ฉันต้องการสร้างฐานข้อมูลเชิงประวัติศาสตร์

ฟังก์ชันการทำงานของ MS SQL SERVER ซึ่งเป็นตารางชั่วคราวเวอร์ชันระบบได้เข้ามาช่วยเหลือแล้ว โดยปกติจะแปลเป็นตารางชั่วคราว (ไม่ใช่ชั่วคราว)

สามารถอ่านรายละเอียดได้ที่ เอกสารอย่างเป็นทางการของ Microsoft.

กล่าวโดยสรุป เราสร้างตารางโดยบอกว่าเราจะมีตารางดังกล่าวพร้อมกับการกำหนดเวอร์ชัน และ SQL Server จะสร้างคอลัมน์วันที่และเวลาเพิ่มเติม 2 คอลัมน์ในตารางนี้ (วันที่สร้างบันทึกและวันหมดอายุของบันทึก) และตารางเพิ่มเติมที่มีการเปลี่ยนแปลง จะถูกเขียน ด้วยเหตุนี้ เราจึงได้รับข้อมูลที่ทันสมัย ​​และผ่านการสืบค้นตัวอย่างง่ายๆ ซึ่งมีระบุไว้ในเอกสารประกอบ ทำให้เราสามารถดูวงจรชีวิตของเครื่องเสมือนเฉพาะหรือสถานะของ VM ทั้งหมด ณ จุดหนึ่งได้ ภายในเวลาที่กำหนด.

จากมุมมองของประสิทธิภาพ ธุรกรรมการเขียนไปยังตารางหลักจะไม่สมบูรณ์จนกว่าธุรกรรมการเขียนไปยังตารางชั่วคราวจะเสร็จสมบูรณ์ เหล่านั้น. บนโต๊ะที่มีการดำเนินการเขียนจำนวนมาก ฟังก์ชันนี้ควรถูกนำมาใช้ด้วยความระมัดระวัง แต่ในกรณีของเรา มันเป็นสิ่งที่ดีจริงๆ

เพื่อให้กลไกทำงานได้อย่างถูกต้อง ฉันต้องเพิ่มโค้ดเล็กๆ ใน R ที่จะเปรียบเทียบตารางใหม่กับข้อมูลสำหรับ VM ทั้งหมดกับตารางที่เก็บไว้ในฐานข้อมูล และเขียนเฉพาะแถวที่เปลี่ยนแปลงลงไป รหัสนี้ไม่ฉลาดนัก มันใช้ไลบรารี comparisonDF แต่ฉันจะนำเสนอด้านล่างด้วย

รหัส R สำหรับการเขียนข้อมูลลงฐานข้อมูล

# Подцепляем пакеты
library(odbc)
library(compareDF)
# Формируем коннект
con <- dbConnect(odbc(),
Driver = "ODBC Driver 13 for SQL Server",
Server = DBParams$server,
Database = DBParams$database,
UID = DBParams$UID,
PWD = DBParams$PWD,
Port = 1433)
#### Проверяем есть ли таблица. Если нет - создаём. ####
if (!dbExistsTable(con, DBParams$TblName)) {
#### Создаём таблицу ####
create <- dbSendStatement(
con,
paste0(
'CREATE TABLE ',
DBParams$TblName,
'(
[Id] [int] NOT NULL PRIMARY KEY CLUSTERED,
[VM.Name] [varchar](255) NULL,
[Cluster] [varchar](255) NULL,
[Esxi.Host] [varchar](255) NULL,
[IP.Address.1] [varchar](255) NULL,
[IP.Address.2] [varchar](255) NULL,
[IP.Address.3] [varchar](255) NULL,
[IP.Address.4] [varchar](255) NULL,
[IP.Address.5] [varchar](255) NULL,
[IP.Address.6] [varchar](255) NULL,
[vCPU] [int] NULL,
[CPU.Sockets] [int] NULL,
[Core.per.Socket] [int] NULL,
[RAM..GB.] [int] NULL,
[Total.HDD..GB.] [int] NULL,
[Power.State] [varchar](255) NULL,
[OS] [varchar](255) NULL,
[Boot.Time] [varchar](255) NULL,
[VMTools.Status] [varchar](255) NULL,
[VMTools.Version] [int] NULL,
[VMTools.Version.Status] [varchar](255) NULL,
[VMTools.Running.Status] [varchar](255) NULL,
[Creation.Date] [varchar](255) NULL,
[Creator] [varchar](255) NULL,
[Category] [varchar](255) NULL,
[Owner] [varchar](255) NULL,
[Subsystem] [varchar](255) NULL,
[IP.s] [varchar](255) NULL,
[vCenter.Name] [varchar](255) NULL,
DateFrom datetime2 GENERATED ALWAYS AS ROW START NOT NULL,
DateTo datetime2 GENERATED ALWAYS AS ROW END NOT NULL,
PERIOD FOR SYSTEM_TIME (DateFrom, DateTo)
) ON [PRIMARY]
WITH (SYSTEM_VERSIONING = ON (HISTORY_TABLE = ', DBParams$TblHistName,'));'
)
)
# Отправляем подготовленный запрос
dbClearResult(create)
} # if
#### Начало работы с таблицей ####
# Обозначаем таблицу, с которой будем работать
allVM_db_con <- tbl(con, DBParams$TblName) 
#### Сравниваем таблицы ####
# Собираем данные с таблицы (убираем служебные временные поля)
allVM_db <- allVM_db_con %>% 
select(c(-"DateTo", -"DateFrom")) %>% 
collect()
# Создаём таблицу со сравнением объектов. Сравниваем по Id
# Удалённые объекты там будут помечены через -, созданные через +, изменённые через - и +
ctable_VM <- fullXslx_df %>% 
compare_df(allVM_db, 
c("Id"))
#### Удаление строк ####
# Выдираем Id виртуалок, записи о которых надо удалить 
remove_Id <- ctable_VM$comparison_df %>% 
filter(chng_type == "-") %>%
select(Id)
# Проверяем, что есть записи (если записей нет - и удалять ничего не нужно)
if (remove_Id %>% nrow() > 0) {
# Конструируем шаблон для запроса на удаление данных
delete <- dbSendStatement(con, 
paste0('
DELETE 
FROM ',
DBParams$TblName,
' WHERE "Id"=?
') # paste
) # send
# Создаём запрос на удаление данных
dbBind(delete, remove_Id)
# Отправляем подготовленный запрос
dbClearResult(delete)
} # if
#### Добавление строк ####
# Выделяем таблицу, содержащую строки, которые нужно добавить.
allVM_add <- ctable_VM$comparison_df %>% 
filter(chng_type == "+") %>% 
select(-chng_type)
# Проверяем, есть ли строки, которые нужно добавить и добавляем (если нет - не добавляем)
if (allVM_add %>% nrow() > 0) {
# Пишем таблицу со всеми необходимыми данными
dbWriteTable(con,
DBParams$TblName,
allVM_add,
overwrite = FALSE,
append = TRUE)
} # if
#### Не забываем сделать дисконнект ####
dbDisconnect(con)

เบ็ดเสร็จ

ผลจากการใช้งานสคริปต์ คำสั่งซื้อจึงได้รับการกู้คืนและคงไว้ภายในเวลาไม่กี่เดือน บางครั้ง VM ที่กรอกไม่ถูกต้องจะปรากฏขึ้น แต่สคริปต์ทำหน้าที่เป็นตัวเตือนที่ดีและ VM ที่หายากจะอยู่ในรายการเป็นเวลา 2 วันติดต่อกัน

มีการสร้างรากฐานสำหรับการวิเคราะห์ข้อมูลในอดีตด้วย

เป็นที่ชัดเจนว่าสิ่งนี้ส่วนใหญ่สามารถนำไปใช้ได้ไม่ใช่บนหัวเข่า แต่ด้วยซอฟต์แวร์พิเศษ แต่งานนั้นน่าสนใจและใคร ๆ ก็บอกว่าเป็นทางเลือก

R ได้แสดงให้เห็นอีกครั้งว่าเป็นภาษาสากลที่ยอดเยี่ยม ซึ่งสมบูรณ์แบบไม่เพียงแต่สำหรับการแก้ปัญหาทางสถิติเท่านั้น แต่ยังทำหน้าที่เป็น "ชั้น" ที่ยอดเยี่ยมระหว่างแหล่งข้อมูลอื่น ๆ

รายงานรายวันเกี่ยวกับความสมบูรณ์ของเครื่องเสมือนที่ใช้ R และ PowerShell

ที่มา: will.com

เพิ่มความคิดเห็น