🥇Један од метода за добијање историје закључавања у ПостгреСКЛ

Наставак чланка "Покушај да се направи аналогни АСХ за ПостгреСКЛ ".

Чланак ће размотрити и показати на конкретним упитима и примерима које корисне информације се могу добити помоћу историје прегледа пг_лоцкс.

Упозорење
Због новине теме и непотпуности периода тестирања, чланак може садржати грешке. Критике и коментари су добродошли и очекивани.

Унос података

пг_лоцкс историја представљања

арцхиве_лоцкинг

CREATE TABLE archive_locking 
(       timepoint timestamp without time zone ,
	locktype text ,
	relation oid ,
	mode text ,
	tid xid ,
	vtid text ,
	pid integer ,
	blocking_pids integer[] ,
	granted boolean ,
        queryid bigint 
);

У основи, табела је слична табели арцхиве_пг_стат_ацтивитидетаљније описано овде - пг_стат_статементс + пг_стат_ацтивити + лок_куери = пг_асх? и овде - Покушај да се направи аналогни АСХ за ПостгреСКЛ.

Да попуни колону куериид функција се користи

упдате_хистори_лоцкинг_би_куериид

--update_history_locking_by_queryid.sql
CREATE OR REPLACE FUNCTION update_history_locking_by_queryid() RETURNS boolean AS $$
DECLARE
  result boolean ;
  current_minute double precision ; 
  
  start_minute integer ;
  finish_minute integer ;
  
  start_period timestamp without time zone ;
  finish_period timestamp without time zone ;
  
  lock_rec record ; 
  endpoint_rec record ; 
  
  current_hour_diff double precision ;
BEGIN
  RAISE NOTICE '***update_history_locking_by_queryid';
  
  result = TRUE ;
  
  current_minute = extract ( minute from now() );

  SELECT * FROM endpoint WHERE is_need_monitoring
  INTO endpoint_rec ;
  
  current_hour_diff = endpoint_rec.hour_diff ;
  
  IF current_minute < 5 
  THEN
	RAISE NOTICE 'Current time is less than 5 minute.';
	
	start_period = date_trunc('hour',now()) + (current_hour_diff * interval '1 hour');
    finish_period = start_period - interval '5 minute' ;
  ELSE 
    finish_minute =  extract ( minute from now() ) / 5 ;
    start_minute =  finish_minute - 1 ;
  
    start_period = date_trunc('hour',now()) + interval '1 minute'*start_minute*5+(current_hour_diff * interval '1 hour');
    finish_period = date_trunc('hour',now()) + interval '1 minute'*finish_minute*5+(current_hour_diff * interval '1 hour') ;
    
  END IF ;  
  
  RAISE NOTICE 'start_period = %', start_period;
  RAISE NOTICE 'finish_period = %', finish_period;

	FOR lock_rec IN   
	WITH act_queryid AS
	 (
		SELECT 
				pid , 
				timepoint ,
				query_start AS started ,			
				MAX(timepoint) OVER (PARTITION BY pid ,	query_start   ) AS finished ,			
				queryid 
		FROM 
				activity_hist.history_pg_stat_activity 			
		WHERE 			
				timepoint BETWEEN start_period and 
								  finish_period
		GROUP BY 
				pid , 
				timepoint ,  
				query_start ,
				queryid 
	 ),
	 lock_pids AS
		(
			SELECT
				hl.pid , 
				hl.locktype  ,
				hl.mode ,
				hl.timepoint , 
				MIN ( timepoint ) OVER (PARTITION BY pid , locktype  ,mode ) as started 
			FROM 
				activity_hist.history_locking hl
			WHERE 
				hl.timepoint between start_period and 
								     finish_period
			GROUP BY 
				hl.pid , 
				hl.locktype  ,
				hl.mode ,
				hl.timepoint 
		)
	SELECT 
		lp.pid , 
		lp.locktype  ,
		lp.mode ,
		lp.timepoint ,     
		aq.queryid 
	FROM lock_pids 	lp LEFT OUTER JOIN act_queryid aq ON ( lp.pid = aq.pid AND lp.started BETWEEN aq.started AND aq.finished )
	WHERE aq.queryid IS NOT NULL 
	GROUP BY  
		lp.pid , 
		lp.locktype  ,
		lp.mode ,
		lp.timepoint , 
		aq.queryid
	LOOP
		UPDATE activity_hist.history_locking SET queryid = lock_rec.queryid 
		WHERE pid = lock_rec.pid AND locktype = lock_rec.locktype AND mode = lock_rec.mode AND timepoint = lock_rec.timepoint ;	
	END LOOP;    
  
  RETURN result ;
END
$$ LANGUAGE plpgsql;

Објашњење: вредност колоне куериид се ажурира у табели хистори_лоцкинг, а затим када се креира нова партиција за табелу арцхиве_лоцкинг, вредност ће бити ускладиштена у историјским вредностима.

Оутпут

Опште информације о процесима уопште.

ЧЕКА НА БРАВЕ ПО ВРСТАМА БРАВА

Захтев

WITH
t AS
(
	SELECT 
		locktype  ,
		mode ,
		count(*) as total 
	FROM 
		activity_hist.archive_locking
	WHERE 
		timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND 
		NOT granted
	GROUP BY 
		locktype  ,
		mode  
)
SELECT 
	locktype  ,
	mode ,
	total * interval '1 second' as duration			
FROM t 		
ORDER BY 3 DESC

Пример

| ЧЕКА НА БРАВЕ ПО ВРСТАМА БРАВА +-------------------+----------------------- -------+------------------- | лоцктипе| моде| трајање +--------------------+--------------------- ---+-- ------------------ | трансакција| схарелоцк| 19:39:26 | тупле| АццессЕкцлусивеЛоцк| 00:03:35 +--------------------+-------------------------------- -------+-------------------

УЗИМАЊЕ БРАВА ПО ВРСТАМА БРАВА

Захтев

WITH
t AS
(
	SELECT 
		locktype  ,
		mode ,
		count(*) as total 
	FROM 
		activity_hist.archive_locking
	WHERE 
		timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND 
		granted
	GROUP BY 
		locktype  ,
		mode  
)
SELECT 
	locktype  ,
	mode ,
	total * interval '1 second' as duration			
FROM t 		
ORDER BY 3 DESC

Пример

| УЗИМАЊЕ БРАВА ПО ВРСТАМА БРАВА +-------------------+----------------------- -------+------------------- | лоцктипе| моде| трајање +--------------------+--------------------- ---+-- ------------------ | однос| РовЕкцлусивеЛоцк| 51:11:10 | виртуалкид| ЕкцлусивеЛоцк| 48:10:43 | трансакција| ЕкцлусивеЛоцк| 44:24:53 | однос| АццессСхареЛоцк| 20:06:13 | тупле| АццессЕкцлусивеЛоцк| 17:58:47 | тупле| ЕкцлусивеЛоцк| 01:40:41 | однос| СхареУпдатеЕкцлусивеЛоцк| 00:26:41 | објекат| РовЕкцлусивеЛоцк| 00:00:01 | трансакција| схарелоцк| 00:00:01 | проширити| ЕкцлусивеЛоцк| 00:00:01 +-------------------+----------------------- -------+-------------------

Детаљне информације за специфичне упите куериид

ЧЕКА СЕ ЗАКЉУЧАВАЊА ПО ВРСТАМА ЗАКЉУЧАВАЊА ПО КУЕРИИД-у

Захтев

WITH
lt AS
(
	SELECT
		pid , 
		locktype  ,
		mode ,
		timepoint , 
		queryid , 
		blocking_pids ,
                MIN ( timepoint ) OVER (PARTITION BY pid , locktype  ,mode ) as started  
	FROM 
		activity_hist.archive_locking
	WHERE 
		timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND 
			                  pg_stat_history_end+(current_hour_diff * interval '1 hour') AND 
		NOT granted AND
	       queryid IS NOT NULL 
	GROUP BY 
	        pid , 
		locktype  ,
		mode ,
		timepoint ,
		queryid ,
		blocking_pids 
)
SELECT 
        lt.pid , 
	lt.locktype  ,
	lt.mode ,			
        lt.started ,
	lt.queryid  ,
	lt.blocking_pids ,
	COUNT(*)  * interval '1 second'	 as duration		
FROM lt 	
GROUP BY 
	lt.pid , 
        lt.locktype  ,
	lt.mode ,			
        lt.started ,
        lt.queryid ,
	lt.blocking_pids 
ORDER BY 4

Пример

| ЧЕКА НА БРАВЕ ПРЕМА ВРСТАМА БРАТОВА ПРЕМА КУЕРИИД-у +----------+-------------------------+----- ---------------+------------------------------+--- ------------------+-------------------+--------- - --------- | пид| лоцктипе| моде| започео| куериид| блоцкинг_пидс| трајање +----------+-------------------------+---------- ---------+------------------------------+-------- ---+-------------------+---------------- --- | 11288| трансакција| схарелоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11626| трансакција| схарелоцк| 2019-09-17 10:00:21.380921| 389015618226997618| {12380}| 00:00:29 | 11626| трансакција| схарелоцк| 2019-09-17 10:00:21.380921| 389015618226997618| {11092}| 00:03:25 | 11626| трансакција| схарелоцк| 2019-09-17 10:00:21.380921| 389015618226997618| {12213}| 00:01:55 | 11626| трансакција| схарелоцк| 2019-09-17 10:00:21.380921| 389015618226997618| {12751}| 00:00:01 | 11629| трансакција| схарелоцк| 2019-09-17 10:00:24.331935| 389015618226997618| {11092}| 00:03:22 | 11629| трансакција| схарелоцк| 2019-09-17 10:00:24.331935| 389015618226997618| {12007}| 00:00:01 | 12007| трансакција| схарелоцк| 2019-09-17 10:05:03.327933| 389015618226997618| {11629}| 00:00:13 | 12007| трансакција| схарелоцк| 2019-09-17 10:05:03.327933| 389015618226997618| {11092}| 00:01:10 | 12007| трансакција| схарелоцк| 2019-09-17 10:05:03.327933| 389015618226997618| {11288}| 00:00:05 | 12213| трансакција| схарелоцк| 2019-09-17 10:06:07.328019| 389015618226997618| {12007}| 00:00:10

УЗИМАЊЕ БРАВА ПО ВРСТАМА БРАВА ПО КУЕРИИД-у

Захтев

WITH
lt AS
(
	SELECT
		pid , 
		locktype  ,
		mode ,
		timepoint , 
		queryid , 
		blocking_pids ,
                MIN ( timepoint ) OVER (PARTITION BY pid , locktype  ,mode ) as started  
	FROM 
		activity_hist.archive_locking
	WHERE 
		timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND 
			                  pg_stat_history_end+(current_hour_diff * interval '1 hour') AND 
		granted AND
		queryid IS NOT NULL 
	GROUP BY 
	        pid , 
		locktype  ,
		mode ,
		timepoint ,
		queryid ,
		blocking_pids 
)
SELECT 
        lt.pid , 
	lt.locktype  ,
	lt.mode ,			
        lt.started ,
	lt.queryid  ,
	lt.blocking_pids ,
	COUNT(*)  * interval '1 second'	 as duration			
FROM lt 	
GROUP BY 
	lt.pid , 
	lt.locktype  ,
	lt.mode ,			
        lt.started ,
	lt.queryid ,
	lt.blocking_pids 
ORDER BY 4

Пример

| УЗИМАЊЕ БРАВА ПРЕМА ВРСТАМА БРАВА ПРЕМА КУЕРИИД-у +---------+-------------------------+------ --------------+------------------------------+---- -+--------------------+----------- -------- | пид| лоцктипе| моде| започео| куериид| блоцкинг_пидс| трајање +----------+-------------------------+---------- ---------+------------------------------+-------- ---+-------------------+---------------- --- | 11288| однос| РовЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11092| трансакција| ЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34 | 11288| однос| РовЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:00:10 | 11092| однос| РовЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34 | 11092| виртуалкид| ЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34 | 11288| виртуалкид| ЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11288| трансакција| ЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11288| тупле| АццессЕкцлусивеЛоцк| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34

Коришћење историје блокирања приликом анализе инцидената перформанси.

Упит са куериид=389015618226997618 који је извршио процес са пид=11288 чека на закључавање од 2019-09-17 10:00:00 3 минута.
Закључавање је одржано процесом са пид=11092
Процес са пид=11092 који извршава упит са куериид=389015618226997618 од 2019-09-17 10:00:00 држао је закључавање 3 минута.

Укупан

Сада ће, надам се, почети оно најзанимљивије и најкорисније - прикупљање статистике и анализа случајева о историји очекивања и блокирања.

У будућности, желео бих да верујем, добићете сет неке врсте белешки (слично Орацле-овом металинк-у).

Уопштено говорећи, из тог разлога се коришћена методологија приказује што је брже могуће ради упознавања јавности.

У блиској будућности покушаћу да ставим пројекат на гитхуб.

Извор: ввв.хабр.цом

Један од метода за добијање историје закључавања у ПостгреСКЛ-у

Унос података

пг_лоцкс историја представљања

Оутпут

ЧЕКА НА БРАВЕ ПО ВРСТАМА БРАВА

УЗИМАЊЕ БРАВА ПО ВРСТАМА БРАВА

ЧЕКА СЕ ЗАКЉУЧАВАЊА ПО ВРСТАМА ЗАКЉУЧАВАЊА ПО КУЕРИИД-у

УЗИМАЊЕ БРАВА ПО ВРСТАМА БРАВА ПО КУЕРИИД-у

Укупан

Додај коментар Одустани од одговора