Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Znova pokračujúc v téme usporiadania Zero Touch PROD pod RDS. Budúci DBA nebudú mať možnosť pripojiť sa k PROD serverom priamo, ale budú môcť používať Jenkins jobs na obmedzený súbor operácií. DBA spustí job a po chvíli dostane email s reportom o vykonaní tejto operácie. Poďme sa pozrieť na spôsoby prezentácie týchto výsledkov používateľovi.

Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Plain Text

Začneme s tým najtriviálnejším. Prvý spôsob je tak jednoduchý, že niet o čom ani hovoriť (autor sa ďalej odvoláva na FreeStyle jobs):

Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

sqlcmd niečo vykonáva a to prezentujeme používateľovi. Ideálne sa hodí pre, napríklad, backup jobs:

Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Nesmíme zabudnúť na to, že pod RDS backup/restore je asynchronný, takže by sme si na to mali počkať:

declare @rds table
  (id int, task_type varchar(128), database_name sysname, pct int, duration int, 
   lifecycle varchar(128), taskinfo varchar(max) null, 
   upd datetime, cre datetime,
   s3 varchar(256), ovr int, KMS varchar(256) null)
waitfor delay '00:00:20' 
insert into @rds exec msdb.dbo.rds_task_status @db_name='{db}'
select @xid=max(id) from @rds

again:
waitfor delay '00:00:02'
delete from @rds
insert into @rds exec msdb.dbo.rds_task_status @db_name='{db}' 
# {db} substituované s názvom db pomocou powershellu
select @stat=lifecycle,@info=taskinfo from @rds where id=@xid
if @stat not in ('ERROR','SUCCESS','CANCELLED') goto again

Druhý spôsob, CSV

Tu je všetko tiež veľmi jednoduché:

Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Tento spôsob však funguje len v prípade, že dáta vracané v CSV sú "jednoduché". Ak sa pokúsite podobným spôsobom vrátiť, napríklad, zoznam TOP N CPU intenzívnych dotazov, CSV sa "rozpadne" kvôli tomu, že text dotazu môže obsahovať akékoľvek znaky — čiarky, úvodzovky a dokonca aj návrhy riadkov. Preto budeme potrebovať niečo zložitejšie.

Krásne tabuľky na HTML

I hneď uvediem útržok kódu

$Header = @"
<style>
TABLE {border-width: 1px; border-style: solid; border-color: black; border-collapse: collapse;}
TH {border-width: 1px; padding: 3px; border-style: solid; border-color: black; background-color: #6495ED;}
TD {border-width: 1px; padding: 3px; border-style: solid; border-color: black;}
</style>
"@
  
$Result = invoke-Sqlcmd -ConnectionString $jstr -Query "select * from DbInv" `
  | Select-Object -Property * -ExcludeProperty "ItemArray", "RowError", "RowState", "Table", "HasErrors"
if ($Result -eq $null) { $cnt = 0; }
elseif ($Result.getType().FullName -eq "System.Management.Automation.PSCustomObject") { $cnt = 1; }
else { $cnt = $Result.Rows.Count; } 
if ($cnt -gt 0) {
  $body = "<h2>Moja tabuľa</h2>"
  $Result | ConvertTo-HTML -Title "Rows" -Head $header -body $body `
    | Out-File "res.log" -Append -Encoding UTF8
  } else {
    "<h3>Žiadne údaje</h3>" | Out-File "res.log" -Append -Encoding UTF8
  }

Mimochodom, všimnite si riadok so System.Management.Automation.PSCustomObject, je to magické, ak je v mriežke práve jedna línia, vznikali nejaké problémy. Riešenie bolo prevzaté z internetu, ani veľmi sa tým nezaoberajúc. Výsledkom budete mať výstup formátovaný približne takto:

Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Kreslíme grafy

Pozor: zvrátený kód nižšie!
Existuje vtipný dotaz na SQL server, ktorý zobrazuje CPU za posledných N minút — ukazuje sa, že pán major všetko pamätá! Skúste tento dotaz:

VYHLÁSENIE @ts_now bigint = (SELECT cpu_ticks/(cpu_ticks/ms_ticks) 
  FROM sys.dm_os_sys_info WITH (NOLOCK)); 
SELECT TOP(256) 
  DATEADD(ms, -1 * (@ts_now - [timestamp]), GETDATE()) AS [EventTime],
  SQLProcessUtilization AS [SQLCPU], 
  100 - SystemIdle - SQLProcessUtilization AS [OtherCPU]
FROM (SELECT record.value('(.\/Record\/@id)[1]', 'int') AS record_id, 
  record.value('(.\/Record\/SchedulerMonitorEvent\/SystemHealth\/SystemIdle)[1]', 'int') 
    AS [SystemIdle], 
  record.value('(.\/Record\/SchedulerMonitorEvent\/SystemHealth\/ProcessUtilization)[1]', 'int') 
    AS [SQLProcessUtilization], [timestamp] 
  FROM (SELECT [timestamp], CONVERT(xml, record) AS [record] 
  FROM sys.dm_os_ring_buffers WITH (NOLOCK)
  WHERE ring_buffer_type = N'RING_BUFFER_SCHEDULER_MONITOR' 
    AND record LIKE N'%%') AS x) AS y 
ORDER BY 1 DESC OPTION (RECOMPILE);

Teraz, používajúc takéto formátovanie (premenná $Fragment)

<table style="width: 100%"><tbody><tr style="background-color: white; height: 2pt;">
  <td style="width: SQLCPU%; background-color: green;"></td>
  <td style="width: OtherCPU%; background-color: blue;"></td>
  <td style="width: REST%; background-color: #C0C0C0;"></td></tr></tbody>
</table>

Môžeme vytvoriť telo správy:

$Result = invoke-Sqlcmd -ConnectionString $connstr -Query $Query `
  | Select-Object -Property * -ExcludeProperty `
  "ItemArray", "RowError", "RowState", "Table", "HasErrors"
if ($Result.HasRows) {
  foreach($item in $Result) 
    { 
    $time = $itemEventTime 
    $sqlcpu = $item.SQLCPU
    $other = $itemOtherCPU
    $rest = 100 - $sqlcpu - $other
    $f = $fragment -replace "SQLCPU", $sqlcpu
    $f = $f -replace "OtherCPU", $other
    $f = $f -replace "REST", $rest
    $f | Out-File "res.log" -Append -Encoding UTF8
    }

Ktoré bude vyzerať takto:

Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Tak áno, pán vie, o čom točenie! Zaujímavé, že tento kód obsahuje: Powershell (na ktorom je napísaný), SQL, Xquery, HTML. Škoda, že do HTML nemôžeme pridať Javascript (lebo to patrí do správy), ale vylepšiť kód Pythonu (ktorý môžeme použiť v SQL) je povinnosť každého!

Výstup SQL profiler trace

Je jasné, že trace sa „neprenesie“ do CSV kvôli poľu TextData. Avšak zobrazenie trace v mriežke v e-maile je tiež zvláštne - a z dôvodu veľkosti, a preto, že sa tieto údaje často používajú na ďalšiu analýzu. Preto robíme nasledovné: voláme cez invoke-SqlCmd nejaký skript, v ktorého srdci sa robí

select 
  SPID,EventClass,TextData,
  Duration,Reads,Writes,CPU,
  StartTime,EndTime,DatabaseName,HostName,
  ApplicationName,LoginName
   from ::fn_trace_gettable ( @filename , default )  

Ďalej, na druhém serveri, dostupnom DBA, existuje databáza Traces s prázdnou šablónou, tabuľkou Model, pripravenou prijať všetky uvedené stĺpce. Túto šablónu kopírujeme do novej tabuľky s jedinečným menom:

$dt = Get-Date -format "yyyyMMdd"
$tm = Get-Date -format "hhmmss"
$tableName = $srv + "_" + $dt + "_" + $tm
$copytab = "select * into " + $tableName + " from Model"
invoke-SqlCmd -ConnectionString $tstr -Query $copytab 

A teraz tam môžeme zapísať náš trace pomocou Data.SqlClient.SqlBulkCopy — príklad tohto som už uvádzal vyššie. Áno, bolo by pekné urobiť masking konštánt v TextData:

# mask data
foreach ($Row in $Result)
{ 
  $v = $Row["TextData"]
  $v = $v -replace "'([^']{2,})'", "'str'" -replace "[0-9][0-9]+", '999'
  $Row["TextData"] = $v
}

Nahrádzame čísla dlhšie ako jeden znak 999 a reťazce dlhšie ako jeden znak nahrádzame na 'str'. Čísla od 0 do 9 sa často používajú ako príznaky, a preto ich nechávame nedotknuté, rovnako ako prázdne a jednoznakové reťazce — medzi nimi sú často prítomné 'Y', 'N' atď.

Pridajme farby do nášho života (iba 18+)

V tabuľkách často chceme zvýrazniť bunky, ktoré si zaslúžia pozornosť. Napríklad FAILS, vysoká úroveň fragmentácie atď. Samozrejme, to sa dá urobiť aj pomocou holého SQL, generovaním HTML cez PRINT, a v Jenkins nastaviť typ súboru HTML:

vyhlásenie @body varchar(max), @chunk varchar(max)
nastaviť @body='<font face="Lucida Console" size="3">'
nastaviť @body=@body+'<b>Názov servera: '+@@servername+'</b><br>'
nastaviť @body=@body+'<br><br>'
nastaviť @body=@body+'<table><tr><th>Práca</th><th>Posledné spustenie</th><th>Priemerná doba trvania, sekundy</th><th>Posledné spustenie, sekundy</th><th>Posledný stav</th></tr>'
print @body

VYHLÁSENIE tab CURSOR PRE VYBERTE '<tr><td>'+name+'</td><td>'+
  PoslednéSpustenie+'</td><td>'+
  konvertovať(varchar, PriemernáDoba)+'</td><td>'+
  konvertovať(varchar, PoslednáDoba)+'</td><td>'+
    prípad keď PoslednýStav<>'Uspešne' potom '<font color="red">' inak '' koniec+
      PoslednýStav+
      prípad keď PoslednýStav<>'Uspešne' potom '</font>' inak '' koniec+
     +'</td><td>'
  z #j2
OTVORIŤ tab;
ZÍSKEJTE ĎALŠIE Z tab do @chunk
Pokiaľ @@FETCH_STATUS = 0
ZAČAŤ
  print @chunk
  ZÍSKEJTE ĎALŠIE Z tab do @chunk;
KONIEC
ZAVRIŤ tab;
ODSTRÁNIŤ tab;
print '</table>'

Prečo som napísal taký kód?

Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Ale existuje krajšie riešenie. ConvertTo-HTML nám nedovoľuje farbiť bunky, ale môžeme to urobiť aj dodatočne. Napríklad, chceme zvýrazniť bunky s úrovňou fragmentácie nad 80 a nad 90. Pridáme štýly:

.SQLmarkup-red { color: red; background-color: yellow; }
.SQLmarkup-yellow { color: black; background-color: #FFFFE0; }
.SQLmarkup-default { color: black; background-color: white; }

Do samej dotazovej úlohy pridáme fiktívny stĺpec priamo pred stĺpec, ktorý chceme zafarbiť. Stĺpec by sa mal nazývať SQLmarkup-niečo:

case  
  when ps.avg_fragmentation_in_percent>=90.0 then 'SQLmarkup-red'
  when ps.avg_fragmentation_in_percent>=80.0 then 'SQLmarkup-yellow'
  else 'SQLmarkup-default' 
  end as [SQLmarkup-1], 
ps.avg_fragmentation_in_percent, 

Teraz, keď máme HTML vytvorené Powershellom, odstránime fiktívny stĺpec z hlavičky a v tele údajov presunieme hodnotu zo stĺpca do štýlu. To sa dá urobiť dvoma substitúciami:

$html = $html `
  -nahradiť "<th>SQLmarkup[^<]*</th>", "" `
  -nahradiť "<td>SQLmarkup-(.+?)</td><td>",'<td class="SQLmarkup-$1">'

Výsledok:
Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Nie je to elegantné? Hoci nie, niečo táto farba mi pripomína.
Automatizácia SQL servera v Jenkins: vraciame výsledok krásne

Zdroj: habr.com

Kúpte si spoľahlivý hosting pre webové stránky s ochranou proti DDoS, VPS VDS servery 🔥 Kúpte si spoľahlivý hosting pre webové stránky s ochranou proti DDoS, VPS VDS servery | ProHoster