記事の続き「
この記事では、特定のクエリと例を使用して、pg_locks ビューの履歴を使用してどのような有用な情報を取得できるかを調査し、示します。
警告
トピックの新規性とテスト期間が未完了であるため、記事には誤りが含まれている可能性があります。 批判やコメントは大いに歓迎され、期待されます。
入力データ
pg_locks 表現の歴史
アーカイブロック
CREATE TABLE archive_locking
( timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean ,
queryid bigint
);
基本的に、このテーブルは次のテーブルと似ています。 archive_pg_stat_activityここで詳しく説明します -
列を埋めるには クエリID 関数が使われている
update_history_locking_by_queryid
--update_history_locking_by_queryid.sql
CREATE OR REPLACE FUNCTION update_history_locking_by_queryid() RETURNS boolean AS $$
DECLARE
result boolean ;
current_minute double precision ;
start_minute integer ;
finish_minute integer ;
start_period timestamp without time zone ;
finish_period timestamp without time zone ;
lock_rec record ;
endpoint_rec record ;
current_hour_diff double precision ;
BEGIN
RAISE NOTICE '***update_history_locking_by_queryid';
result = TRUE ;
current_minute = extract ( minute from now() );
SELECT * FROM endpoint WHERE is_need_monitoring
INTO endpoint_rec ;
current_hour_diff = endpoint_rec.hour_diff ;
IF current_minute < 5
THEN
RAISE NOTICE 'Current time is less than 5 minute.';
start_period = date_trunc('hour',now()) + (current_hour_diff * interval '1 hour');
finish_period = start_period - interval '5 minute' ;
ELSE
finish_minute = extract ( minute from now() ) / 5 ;
start_minute = finish_minute - 1 ;
start_period = date_trunc('hour',now()) + interval '1 minute'*start_minute*5+(current_hour_diff * interval '1 hour');
finish_period = date_trunc('hour',now()) + interval '1 minute'*finish_minute*5+(current_hour_diff * interval '1 hour') ;
END IF ;
RAISE NOTICE 'start_period = %', start_period;
RAISE NOTICE 'finish_period = %', finish_period;
FOR lock_rec IN
WITH act_queryid AS
(
SELECT
pid ,
timepoint ,
query_start AS started ,
MAX(timepoint) OVER (PARTITION BY pid , query_start ) AS finished ,
queryid
FROM
activity_hist.history_pg_stat_activity
WHERE
timepoint BETWEEN start_period and
finish_period
GROUP BY
pid ,
timepoint ,
query_start ,
queryid
),
lock_pids AS
(
SELECT
hl.pid ,
hl.locktype ,
hl.mode ,
hl.timepoint ,
MIN ( timepoint ) OVER (PARTITION BY pid , locktype ,mode ) as started
FROM
activity_hist.history_locking hl
WHERE
hl.timepoint between start_period and
finish_period
GROUP BY
hl.pid ,
hl.locktype ,
hl.mode ,
hl.timepoint
)
SELECT
lp.pid ,
lp.locktype ,
lp.mode ,
lp.timepoint ,
aq.queryid
FROM lock_pids lp LEFT OUTER JOIN act_queryid aq ON ( lp.pid = aq.pid AND lp.started BETWEEN aq.started AND aq.finished )
WHERE aq.queryid IS NOT NULL
GROUP BY
lp.pid ,
lp.locktype ,
lp.mode ,
lp.timepoint ,
aq.queryid
LOOP
UPDATE activity_hist.history_locking SET queryid = lock_rec.queryid
WHERE pid = lock_rec.pid AND locktype = lock_rec.locktype AND mode = lock_rec.mode AND timepoint = lock_rec.timepoint ;
END LOOP;
RETURN result ;
END
$$ LANGUAGE plpgsql;
説明: queryid 列の値は、history_locking テーブルで更新され、archive_locking テーブルに新しいパーティションが作成されると、その値は履歴値に格納されます。
出力
プロセス全般に関する一般情報。
ロックタイプ別のロックの待機
問い合わせ
WITH
t AS
(
SELECT
locktype ,
mode ,
count(*) as total
FROM
activity_hist.archive_locking
WHERE
timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted
GROUP BY
locktype ,
mode
)
SELECT
locktype ,
mode ,
total * interval '1 second' as duration
FROM t
ORDER BY 3 DESC
例
| ロックタイプごとにロックを待機しています +-----------+----------------------- --------+ ------------------- | ロックタイプ| モード| 期間 +----------------------+-------------------------- - ----------------------- | トランザクションID| シェアロック| 19:39:26 | タプル| アクセス排他ロック| 00:03:35 +----------------------+----------------------- - -------+----------
ロックタイプ別のロックの取得
問い合わせ
WITH
t AS
(
SELECT
locktype ,
mode ,
count(*) as total
FROM
activity_hist.archive_locking
WHERE
timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
granted
GROUP BY
locktype ,
mode
)
SELECT
locktype ,
mode ,
total * interval '1 second' as duration
FROM t
ORDER BY 3 DESC
例
| ロックタイプ別のロックの取得 +----------------------+---------------------- --------+-------- | ロックタイプ| モード| 期間 +----------------------+-------------------------- - ----------------------- | 関係| 行排他ロック| 51:11:10 | 仮想XID| 排他的ロック| 48:10:43 | トランザクションID| 排他的ロック| 44:24:53 | 関係| アクセスシェアロック| 20:06:13 | タプル| アクセス排他ロック| 17:58:47 | タプル| 排他的ロック| 01:40:41 | 関係| ShareUpdateExclusiveLock| 00:26:41 | オブジェクト| 行排他ロック| 00:00:01 | トランザクションID| シェアロック| 00:00:01 | 延長する| 排他的ロック| 00:00:01 +---------------------+---------------------- - -------+----------
特定のクエリ ID リクエストに関する詳細情報
QUERYID によるロックタイプによるロックを待機しています
問い合わせ
WITH
lt AS
(
SELECT
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blocking_pids ,
MIN ( timepoint ) OVER (PARTITION BY pid , locktype ,mode ) as started
FROM
activity_hist.archive_locking
WHERE
timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND
pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
queryid IS NOT NULL
GROUP BY
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blocking_pids
)
SELECT
lt.pid ,
lt.locktype ,
lt.mode ,
lt.started ,
lt.queryid ,
lt.blocking_pids ,
COUNT(*) * interval '1 second' as duration
FROM lt
GROUP BY
lt.pid ,
lt.locktype ,
lt.mode ,
lt.started ,
lt.queryid ,
lt.blocking_pids
ORDER BY 4
例
| クエリ ID によるロックタイプによるロックを待機しています +----------+----------+----- --------------- +----------------------------+--- --------------- -----------------------+--------------- --------- | ピド| ロックタイプ| モード| 開始しました| クエリID| ブロッキング_pids| 期間 +----------+--------------------------+--------------- --------+------------------------------+---------- -----------+-----------------------------+--------------- --- | 11288| トランザクションID| シェアロック| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11626| トランザクションID| シェアロック| 2019-09-17 10:00:21.380921| 389015618226997618| {12380}| 00:00:29 | 11626| トランザクションID| シェアロック| 2019-09-17 10:00:21.380921| 389015618226997618| {11092}| 00:03:25 | 11626| トランザクションID| シェアロック| 2019-09-17 10:00:21.380921| 389015618226997618| {12213}| 00:01:55 | 11626| トランザクションID| シェアロック| 2019-09-17 10:00:21.380921| 389015618226997618| {12751}| 00:00:01 | 11629| トランザクションID| シェアロック| 2019-09-17 10:00:24.331935| 389015618226997618| {11092}| 00:03:22 | 11629| トランザクションID| シェアロック| 2019-09-17 10:00:24.331935| 389015618226997618| {12007}| 00:00:01 | 12007| トランザクションID| シェアロック| 2019-09-17 10:05:03.327933| 389015618226997618| {11629}| 00:00:13 | 12007| トランザクションID| シェアロック| 2019-09-17 10:05:03.327933| 389015618226997618| {11092}| 00:01:10 | 12007| トランザクションID| シェアロック| 2019-09-17 10:05:03.327933| 389015618226997618| {11288}| 00:00:05 | 12213| トランザクションID| シェアロック| 2019-09-17 10:06:07.328019| 389015618226997618| {12007}| 00:00:10
QUERYID によるロックタイプによるロックの取得
問い合わせ
WITH
lt AS
(
SELECT
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blocking_pids ,
MIN ( timepoint ) OVER (PARTITION BY pid , locktype ,mode ) as started
FROM
activity_hist.archive_locking
WHERE
timepoint between pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND
pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
granted AND
queryid IS NOT NULL
GROUP BY
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blocking_pids
)
SELECT
lt.pid ,
lt.locktype ,
lt.mode ,
lt.started ,
lt.queryid ,
lt.blocking_pids ,
COUNT(*) * interval '1 second' as duration
FROM lt
GROUP BY
lt.pid ,
lt.locktype ,
lt.mode ,
lt.started ,
lt.queryid ,
lt.blocking_pids
ORDER BY 4
例
| クエリ ID によるロックタイプによるロックの取得 +----------+----------+------ --------------+ ------------------------+---- ---------------+ --------+--------------- -------- | ピド| ロックタイプ| モード| 開始しました| クエリID| ブロッキング_pids| 期間 +----------+--------------------------+--------------- --------+------------------------------+---------- -----------+-----------------------------+--------------- --- | 11288| 関係| 行排他ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11092| トランザクションID| 排他的ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34 | 11288| 関係| 行排他ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:00:10 | 11092| 関係| 行排他ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34 | 11092| 仮想XID| 排他的ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34 | 11288| 仮想XID| 排他的ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11288| トランザクションID| 排他的ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34 | 11288| タプル| アクセス排他ロック| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34
ロック履歴を使用してパフォーマンス インシデントを分析します。
- pid=389015618226997618 のプロセスによって実行された queryid=11288 のリクエストは、2019-09-17 10:00:00 から 3 分間ブロックを待機していました。
- ロックは pid=11092 のプロセスによって保持されていました
- 11092-389015618226997618-2019 09:17:10 から開始される queryid=00 のリクエストを実行する pid=00 のプロセスは、3 分間ロックを保持しました。
合計
さて、統計を収集し、待機とブロックの履歴に関するケースを分析するという、最も興味深く有用な部分が始まることを願っています。
将来的には、いくつかのメモのセット (Oracle の metalink に似たもの) が得られると私は信じたいと思います。
一般に、使用される方法論ができるだけ早く誰もが利用できるようにするのはこのためです。
近い将来、プロジェクトを github に投稿しようと思います。
出所: habr.com