ProHoster > Blog > Administrace > Jedna z metod, jak získat historii blokací v PostgreSQL

Jedna z metod, jak získat historii blokací v PostgreSQL

Pokračování článku «Pokračování pokusu o vytvoření ekvivalentu ASH pro PostgreSQL «.

V článku bude rozebráno a ukázáno na konkrétních dotazech a příkladech — jaké užitečné informace lze získat pomocí historie zobrazení pg_locks.

Upozornění.
Vzhledem k novosti tématu a nedokončení testovacího období může článek obsahovat chyby. Kritika a připomínky jsou vítány a očekávány.

Vstupní data

Historie zobrazení pg_locks

archive_locking

CREATE TABLE archive_locking 
(       timepoint timestamp without time zone ,
	locktype text ,
	relation oid ,
	mode text ,
	tid xid ,
	vtid text ,
	pid integer ,
	blocking_pids integer[] ,
	granted boolean ,
        queryid bigint 
);

V podstatě je tabulka podobná tabulce archive_pg_stat_activity, podrobněji popsané zde — pg_stat_statements + pg_stat_activity + loq_query = pg_ash? a zde — Pokračování pokusu o vytvoření ekvivalentu ASH pro PostgreSQL.

Pro vyplnění sloupce queryid se používá funkce

update_history_locking_by_queryid

--update_history_locking_by_queryid.sql
CREATE OR REPLACE FUNCTION update_history_locking_by_queryid() RETURNS boolean AS $$
DECLARE
  result boolean ;
  current_minute double precision ; 
  
  start_minute integer ;
  finish_minute integer ;
  
  start_period timestamp without time zone ;
  finish_period timestamp without time zone ;
  
  lock_rec record ; 
  endpoint_rec record ; 
  
  current_hour_diff double precision ;
BEGIN
  RAISE NOTICE '***update_history_locking_by_queryid';
  
  result = TRUE ;
  
  current_minute = extract ( minute from now() );

  SELECT * FROM endpoint WHERE is_need_monitoring
  INTO endpoint_rec ;
  
  current_hour_diff = endpoint_rec.hour_diff ;
  
  IF current_minute < 5 
  THEN
	RAISE NOTICE 'Current time is less than 5 minute.';
	
	start_period = date_trunc('hour',now()) + (current_hour_diff * interval '1 hour');
    finish_period = start_period - interval '5 minute' ;
  ELSE 
    finish_minute =  extract ( minute from now() ) / 5 ;
    start_minute =  finish_minute - 1 ;
  
    start_period = date_trunc('hour',now()) + interval '1 minute'*start_minute*5+(current_hour_diff * interval '1 hour');
    finish_period = date_trunc('hour',now()) + interval '1 minute'*finish_minute*5+(current_hour_diff * interval '1 hour') ;
    
  END IF ;  
  
  RAISE NOTICE 'start_period = %', start_period;
  RAISE NOTICE 'finish_period = %', finish_period;

	FOR lock_rec IN   
	WITH act_queryid AS
	 (
		SELECT 
				pid , 
				timepoint ,
				query_start AS started ,			
				MAX(timepoint) OVER (PARTITION BY pid ,	query_start   ) AS finished ,			
				queryid 
		FROM 
				activity_hist.history_pg_stat_activity 			
		WHERE 			
				timepoint BETWEEN start_period and 
								  finish_period
		GROUP BY 
				pid , 
				timepoint ,  
				query_start ,
				queryid 
	 ),
	 lock_pids AS
		(
			SELECT
				hl.pid , 
				hl.locktype  ,
				hl.mode ,
				hl.timepoint , 
				MIN ( timepoint ) OVER (PARTITION BY pid , locktype  ,mode ) as started 
			FROM 
				activity_hist.history_locking hl
			WHERE 
				hl.timepoint between start_period and 
								     finish_period
			GROUP BY 
				hl.pid , 
				hl.locktype  ,
				hl.mode ,
				hl.timepoint 
		)
	SELECT 
		lp.pid , 
		lp.locktype  ,
		lp.mode ,
		lp.timepoint ,     
		aq.queryid 
	FROM lock_pids 	lp LEFT OUTER JOIN act_queryid aq ON ( lp.pid = aq.pid AND lp.started BETWEEN aq.started AND aq.finished )
	WHERE aq.queryid IS NOT NULL 
	GROUP BY  
		lp.pid , 
		lp.locktype  ,
		lp.mode ,
		lp.timepoint , 
		aq.queryid
	LOOP
		UPDATE activity_hist.history_locking SET queryid = lock_rec.queryid 
		WHERE pid = lock_rec.pid AND locktype = lock_rec.locktype AND mode = lock_rec.mode AND timepoint = lock_rec.timepoint ;	
	END LOOP;    
  
  RETURN result ;
END
$$ LANGUAGE plpgsql;

Vysvětlení: Hodnota sloupce queryid je aktualizována v tabulce history_locking a poté, při vytváření nové sekce pro tabulku archive_locking, bude hodnota uložena v historických hodnotách.

Výstupní data

Obecné informace o procesech jako celku.

ČEKÁNÍ NA ZAMKNUTÍ PODLE TYPŮ ZAMKNUTÍ

Dotaz

WITH
t AS
(
	SELECT 
		locktype  ,
		mode ,
		count(*) as total 
	FROM 
		activity_hist.archive_locking
	WHERE 
		timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND 
		NOT granted
	GROUP BY 
		locktype  ,
		mode  
)
SELECT 
	locktype  ,
	mode ,
	total * interval '1 second' as duration			
FROM t 		
ORDER BY 3 DESC

Příklad

| ČEKÁNÍ NA ZÁMKY PODLE TYPU ZÁMKU
+--------------------+------------------------------+--------------------
|            typ_zámku|                          režim|            trvání
+--------------------+------------------------------+--------------------
|       id_transakce|                     ShareLock|            19:39:26
|               n-tice|           AccessExclusiveLock|            00:03:35
+--------------------+------------------------------+--------------------

ZÍNÁNÍ ZÁMKŮ PODLE TYPU ZÁMKU

Dotaz

S
t AS
(
	VYBER
		typ_zámku  ,
		režim ,
		count(*) jako celkem 
	Z
		activity_hist.archive_locking
	KDE 
		timepoint mezi pg_stat_history_begin+(current_hour_diff * interval '1 hour') A pg_stat_history_end+(current_hour_diff * interval '1 hour') A 
		uděleno
	SKUPINA PODLE 
		typ_zámku  ,
		režim  
)
VYBER 
	typ_zámku  ,
	režim ,
	delka * interval '1 second' jako trvání			
Z t 		
ŘADIT PODLE 3 DESC

Příklad

| ZÍNÁNÍ ZÁMKŮ PODLE TYPU ZÁMKU
+--------------------+------------------------------+--------------------
|            typ_zámku|                          režim|            trvání
+--------------------+------------------------------+--------------------
|            vztah|              RowExclusiveLock|            51:11:10
|          virtualxid|                 ExclusiveLock|            48:10:43
|       id_transakce|                 ExclusiveLock|            44:24:53
|            vztah|               AccessShareLock|            20:06:13
|               n-tice|           AccessExclusiveLock|            17:58:47
|               n-tice|                 ExclusiveLock|            01:40:41
|            vztah|      ShareUpdateExclusiveLock|            00:26:41
|              objekt|              RowExclusiveLock|            00:00:01
|       id_transakce|                     ShareLock|            00:00:01
|              rozšíření|                 ExclusiveLock|            00:00:01
+--------------------+------------------------------+--------------------

Podrobnosti o konkrétních dotazech queryid

ČEKÁNÍ NA ZÁMKY PODLE TYPU ZÁMKU PODLE QUERYID

Dotaz

S
lt AS
(
	VYBER
		pid , 
		typ_zámku  ,
		režim ,
		timepoint , 
		queryid , 
		blokující_pid ,
                MIN ( timepoint ) NAD (PARTITION BY pid , typ_zámku  ,režim ) jako začátek  
	Z
		activity_hist.archive_locking
	KDE 
		timepoint mezi pg_stat_history_begin+(current_hour_diff * interval '1 hour') A 
			                  pg_stat_history_end+(current_hour_diff * interval '1 hour') A 
		NEUDĚLENÝ A
	       queryid NENÍ NULL 
	SKUPINA PODLE 
	        pid , 
		typ_zámku  ,
		režim ,
		timepoint ,
		queryid ,
		blokující_pid 
)
VYBER 
        lt.pid , 
	lt.typ_zámku  ,
	lt.režim ,			
        lt.začátek ,
	lt.queryid  , 
	lt.blokující_pid ,
	COUNT(*)  * interval '1 second'	 jako trvání		
Z lt 	
SKUPINA PODLE 
	lt.pid , 
        lt.typ_zámku  ,
	lt.režim ,			
        lt.začátek ,
        lt.queryid ,
	lt.blokující_pid 
ŘADIT PODLE 4

Příklad

| ČEKÁNÍ NA ZÁMKY DLE DRUHŮ ZÁMKŮ PODLE QUERYID
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
|       pid|                 locktype|                mode|                       started|             queryid|       blocking_pids|            duration
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
|     11288|            transactionid|           ShareLock|    2019-09-17 10:00:00.302936|  389015618226997618|             {11092}|            00:03:34
|     11626|            transactionid|           ShareLock|    2019-09-17 10:00:21.380921|  389015618226997618|             {12380}|            00:00:29
|     11626|            transactionid|           ShareLock|    2019-09-17 10:00:21.380921|  389015618226997618|             {11092}|            00:03:25
|     11626|            transactionid|           ShareLock|    2019-09-17 10:00:21.380921|  389015618226997618|             {12213}|            00:01:55
|     11626|            transactionid|           ShareLock|    2019-09-17 10:00:21.380921|  389015618226997618|             {12751}|            00:00:01
|     11629|            transactionid|           ShareLock|    2019-09-17 10:00:24.331935|  389015618226997618|             {11092}|            00:03:22
|     11629|            transactionid|           ShareLock|    2019-09-17 10:00:24.331935|  389015618226997618|             {12007}|            00:00:01
|     12007|            transactionid|           ShareLock|    2019-09-17 10:05:03.327933|  389015618226997618|             {11629}|            00:00:13
|     12007|            transactionid|           ShareLock|    2019-09-17 10:05:03.327933|  389015618226997618|             {11092}|            00:01:10
|     12007|            transactionid|           ShareLock|    2019-09-17 10:05:03.327933|  389015618226997618|             {11288}|            00:00:05
|     12213|            transactionid|           ShareLock|    2019-09-17 10:06:07.328019|  389015618226997618|             {12007}|            00:00:10

ZÍSKÁVÁNÍ ZÁMKŮ DLE DRUHŮ ZÁMKŮ PODLE QUERYID

Dotaz

S
lt AS
(
	VYBER
		pid , 
		locktype  ,
		mode ,
		timepoint , 
		queryid , 
		blocking_pids ,
                MIN ( timepoint ) OVER (PARTITION BY pid , locktype  ,mode ) as started  
	Z
		activity_hist.archive_locking
	KDE 
		timepoint mezi pg_stat_history_begin+(current_hour_diff * interval '1 hour') A
			                  pg_stat_history_end+(current_hour_diff * interval '1 hour') A
		uděleno A
		queryid IS NOT NULL 
	GROUP BY 
	        pid , 
		locktype  ,
		mode ,
		timepoint ,
		queryid ,
		blocking_pids 
)
VYBER 
        lt.pid , 
	lt.locktype  ,
	lt.mode ,			
        lt.started ,
	lt.queryid  ,
	lt.blocking_pids ,
	COUNT(*)  * interval '1 second'	 as duration			
Z lt 	
GROUP BY 
	lt.pid , 
	lt.locktype  ,
	lt.mode ,			
        lt.started ,
	lt.queryid ,
	lt.blocking_pids 
ORDER BY 4

Příklad

| ZAMYKÁNÍ ZÁMKŮ PODLE TYPU ZÁMKU PODLE QUERYID
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
|       pid|                 typzámku|                mód|                       začátek|             queryid|       blokující_pid|            trvání
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
|     11288|                 vztah|    ŘádkovýExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|             {11092}|            00:03:34
|     11092|            transakčníid|       ExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|                  {}|            00:03:34
|     11288|                 vztah|    ŘádkovýExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|                  {}|            00:00:10
|     11092|                 vztah|    ŘádkovýExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|                  {}|            00:03:34
|     11092|               virtuálníid|       ExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|                  {}|            00:03:34
|     11288|               virtuálníid|       ExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|             {11092}|            00:03:34
|     11288|            transakčníid|       ExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|             {11092}|            00:03:34
|     11288|                    tuple| PřístupovýExkluzivníZámek|    2019-09-17 10:00:00.302936|  389015618226997618|             {11092}|            00:03:34

Zpracování historie zámků při analýze incidentů výkonu.

  1. Dotaz s queryid=389015618226997618 vykonávaný procesem s pid=11288 čekal na zámek od 2019-09-17 10:00:00 po dobu 3 minut.
  2. Zámek držel proces s pid=11092
  3. Proces s pid=11092 vykonávající dotaz s queryid=389015618226997618 od 2019-09-17 10:00:00 držel zámek po dobu 3 minut.

Výsledek

Teď doufám, že začne to nejzajímavější a nejužitečnější - sběr statistik a analýza případů na historii čekání a zámků.

Do budoucna doufám, že vznikne soubor poznámek (podobně jako metalink Oracle).

Vlastně právě z tohoto důvodu se používá metodika, která je co nejrychleji prezentována pro všeobecné seznámení.

Co nejdříve se pokusím zveřejnit projekt na githubu.

Zdroj: habr.com

Koupit spolehlivý hosting pro webové stránky s ochranou proti DDoS, VPS VDS servery 🔥 Koupit spolehlivý hosting pro webové stránky s ochranou proti DDoS, VPS VDS servery | ProHoster