Część druga artykułu „«.
W artykule szczegółowo omówimy i przedstawimy na konkretnych zapytaniach i przykładach, jaką użyteczną informację można uzyskać dzięki historii widoku pg_locks.
Ostrzeżenie.
W związku z nowością tematu i zakończeniem okresu testowania, artykuł może zawierać błędy. Krytyka i uwagi są jak najbardziej mile widziane i oczekiwane.
Dane wejściowe
Historia widoku pg_locks
archive_locking
CREATE TABLE archive_locking
( timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean ,
queryid bigint
);W zasadzie tabela jest analogiczna do tabeli archive_pg_stat_activity, bardziej szczegółowo opisanej tutaj — i tutaj —
Do wypełnienia kolumny queryid używana jest funkcja
update_history_locking_by_queryid
--update_history_locking_by_queryid.sql
CREATE OR REPLACE FUNCTION update_history_locking_by_queryid() RETURNS boolean AS $$
DECLARE
result boolean ;
current_minute double precision ;
start_minute integer ;
finish_minute integer ;
start_period timestamp without time zone ;
finish_period timestamp without time zone ;
lock_rec record ;
endpoint_rec record ;
current_hour_diff double precision ;
BEGIN
RAISE NOTICE '***update_history_locking_by_queryid';
result = TRUE ;
current_minute = extract ( minute from now() );
SELECT * FROM endpoint WHERE is_need_monitoring
INTO endpoint_rec ;
current_hour_diff = endpoint_rec.hour_diff ;
IF current_minute < 5
THEN
RAISE NOTICE 'Obecny czas jest krótszy niż 5 minut.';
start_period = date_trunc('hour',now()) + (current_hour_diff * interval '1 hour');
finish_period = start_period - interval '5 minute' ;
ELSE
finish_minute = extract ( minute from now() ) / 5 ;
start_minute = finish_minute - 1 ;
start_period = date_trunc('hour',now()) + interval '1 minute'*start_minute*5+(current_hour_diff * interval '1 hour');
finish_period = date_trunc('hour',now()) + interval '1 minute'*finish_minute*5+(current_hour_diff * interval '1 hour') ;
END IF ;
RAISE NOTICE 'start_period = %', start_period;
RAISE NOTICE 'finish_period = %', finish_period;
FOR lock_rec IN
WITH act_queryid AS
(
SELECT
pid ,
timepoint ,
query_start AS started ,
MAX(timepoint) OVER (PARTITION BY pid , query_start ) AS finished ,
queryid
FROM
activity_hist.history_pg_stat_activity
WHERE
timepoint BETWEEN start_period and
finish_period
GROUP BY
pid ,
timepoint ,
query_start ,
queryid
),
lock_pids AS
(
SELECT
hl.pid ,
hl.locktype ,
hl.mode ,
hl.timepoint ,
MIN ( timepoint ) OVER (PARTITION BY pid , locktype ,mode ) as started
FROM
activity_hist.history_locking hl
WHERE
hl.timepoint between start_period and
finish_period
GROUP BY
hl.pid ,
hl.locktype ,
hl.mode ,
hl.timepoint
)
SELECT
lp.pid ,
lp.locktype ,
lp.mode ,
lp.timepoint ,
aq.queryid
FROM lock_pids lp LEFT OUTER JOIN act_queryid aq ON ( lp.pid = aq.pid AND lp.started BETWEEN aq.started AND aq.finished )
WHERE aq.queryid IS NOT NULL
GROUP BY
lp.pid ,
lp.locktype ,
lp.mode ,
lp.timepoint ,
aq.queryid
LOOP
UPDATE activity_hist.history_locking SET queryid = lock_rec.queryid
WHERE pid = lock_rec.pid AND locktype = lock_rec.locktype AND mode = lock_rec.mode AND timepoint = lock_rec.timepoint ;
END LOOP;
RETURN result ;
END
$$ LANGUAGE plpgsql;Wyjaśnienie: Wartość kolumny queryid jest aktualizowana w tabeli history_locking, a następnie podczas tworzenia nowej sekcji dla tabeli archive_locking wartość ta zostanie zachowana w wartościach historycznych.
Wyniki
Ogólne informacje o procesach jako całości.
OCZEKIWANIE NA ZASTAWY WEDŁUG TYPÓW ZASTAWÓW
Zapytanie
Z
AS
(
WYBIERZ
locktype ,
mode ,
count(*) jako total
Z
activity_hist.archive_locking
GDZIE
timepoint między pg_stat_history_begin+(current_hour_diff * interwał '1 godzina') A pg_stat_history_end+(current_hour_diff * interwał '1 godzina') I
NIE przyznano
GRUPUJ WEDŁUG
locktype ,
mode
)
WYBIERZ
locktype ,
mode ,
total * interwał '1 sekunda' jako duration
Z t
ZAMÓW WEDŁUG 3 DESC Przykład
| OCZEKIWANIE NA ZASTAWY WEDŁUG TYPÓW ZASTAWÓW +--------------------+------------------------------+-------------------- | locktype| mode| duration +--------------------+------------------------------+-------------------- | transactionid| ShareLock| 19:39:26 | tuple| AccessExclusiveLock| 00:03:35 +--------------------+------------------------------+--------------------
UZYSKANE ZASTAWY WEDŁUG TYPÓW ZASTAWÓW
Zapytanie
Z
AS
(
WYBIERZ
locktype ,
mode ,
count(*) jako total
Z
activity_hist.archive_locking
GDZIE
timepoint między pg_stat_history_begin+(current_hour_diff * interwał '1 godzina') A pg_stat_history_end+(current_hour_diff * interwał '1 godzina') I
przyznano
GRUPUJ WEDŁUG
locktype ,
mode
)
WYBIERZ
locktype ,
mode ,
total * interwał '1 sekunda' jako duration
Z t
ZAMÓW WEDŁUG 3 DESC Przykład
| UZYSKANE ZASTAWY WEDŁUG TYPÓW ZASTAWÓW +--------------------+------------------------------+-------------------- | locktype| mode| duration +--------------------+------------------------------+-------------------- | relation| RowExclusiveLock| 51:11:10 | virtualxid| ExclusiveLock| 48:10:43 | transactionid| ExclusiveLock| 44:24:53 | relation| AccessShareLock| 20:06:13 | tuple| AccessExclusiveLock| 17:58:47 | tuple| ExclusiveLock| 01:40:41 | relation| ShareUpdateExclusiveLock| 00:26:41 | object| RowExclusiveLock| 00:00:01 | transactionid| ShareLock| 00:00:01 | extend| ExclusiveLock| 00:00:01 +--------------------+------------------------------+--------------------
Szczegółowe informacje dotyczące konkretnych zapytań queryid
OCZEKIWANIE NA ZASTAWY WEDŁUG TYPÓW ZASTAWÓW WEDŁUG QUERYID
Zapytanie
Z
lt AS
(
WYBIERZ
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blocking_pids ,
MIN ( timepoint ) OVER (PARTITION BY pid , locktype ,mode ) jako started
Z
activity_hist.archive_locking
GDZIE
timepoint między pg_stat_history_begin+(current_hour_diff * interwał '1 godzina') A
pg_stat_history_end+(current_hour_diff * interwał '1 godzina') I
NIE przyznano I
queryid NIE JEST NULL
GRUPUJ WEDŁUG
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blocking_pids
)
WYBIERZ
lt.pid ,
lt.locktype ,
lt.mode ,
lt.started ,
lt.queryid ,
lt.blocking_pids ,
COUNT(*) * interwał '1 sekunda' jako duration
Z lt
GRUPUJ WEDŁUG
lt.pid ,
lt.locktype ,
lt.mode ,
lt.started ,
lt.queryid ,
lt.blocking_pids
ZAMÓW WEDŁUG 4Przykład
| OCZEKIWANIE NA ZAMKI ZDANYMI LOCKTYPE I QUERYID
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
| pid| locktype| mode| rozpoczęto| queryid| blokujące_pids| czas trwania
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
| 11288| transactionid| ShareLock| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34
| 11626| transactionid| ShareLock| 2019-09-17 10:00:21.380921| 389015618226997618| {12380}| 00:00:29
| 11626| transactionid| ShareLock| 2019-09-17 10:00:21.380921| 389015618226997618| {11092}| 00:03:25
| 11626| transactionid| ShareLock| 2019-09-17 10:00:21.380921| 389015618226997618| {12213}| 00:01:55
| 11626| transactionid| ShareLock| 2019-09-17 10:00:21.380921| 389015618226997618| {12751}| 00:00:01
| 11629| transactionid| ShareLock| 2019-09-17 10:00:24.331935| 389015618226997618| {11092}| 00:03:22
| 11629| transactionid| ShareLock| 2019-09-17 10:00:24.331935| 389015618226997618| {12007}| 00:00:01
| 12007| transactionid| ShareLock| 2019-09-17 10:05:03.327933| 389015618226997618| {11629}| 00:00:13
| 12007| transactionid| ShareLock| 2019-09-17 10:05:03.327933| 389015618226997618| {11092}| 00:01:10
| 12007| transactionid| ShareLock| 2019-09-17 10:05:03.327933| 389015618226997618| {11288}| 00:00:05
| 12213| transactionid| ShareLock| 2019-09-17 10:06:07.328019| 389015618226997618| {12007}| 00:00:10ZABIERANIE ZAMKÓW ZDANYMI LOCKTYPE I QUERYID
Zapytanie
Z
lt AS
(
WYBIERZ
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blokujące_pids ,
MIN ( timepoint ) OVER (PARTITION BY pid , locktype ,mode ) as rozpoczęto
Z
activity_hist.archive_locking
GDZIE
timepoint pomiędzy pg_stat_history_begin+(current_hour_diff * interval '1 hour') I
tpg_stat_history_end+(current_hour_diff * interval '1 hour') I
przyznane I
queryid IS NOT NULL
GRUPUJ
pid ,
locktype ,
mode ,
timepoint ,
queryid ,
blokujące_pids
)
WYBIERZ
lt.pid ,
lt.locktype ,
lt.mode ,
lt.zaczął ,
lt.queryid ,
lt.blokujące_pids ,
COUNT(*) * interval '1 second' as czas_trwania
Z lt
GRUPUJ
lt.pid ,
lt.locktype ,
lt.mode ,
lt.zaczął ,
lt.queryid ,
lt.blokujące_pids
ZAMÓW PO 4Przykład
| ZABEZPIECZANIE ZAMKNIĘĆ PRZEZ TYPY ZAMKNIĘĆ NA PODSTAWIE QUERYID
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
| pid| typ_zamknięcia| tryb| rozpoczęto| queryid| blokujące_pid| czas_trwania
+----------+-------------------------+--------------------+------------------------------+--------------------+--------------------+--------------------
| 11288| relacja| RowExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34
| 11092| identyfikator_transakcji| ExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34
| 11288| relacja| RowExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:00:10
| 11092| relacja| RowExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34
| 11092| wirtualny_xid| ExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {}| 00:03:34
| 11288| wirtualny_xid| ExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34
| 11288| identyfikator_transakcji| ExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34
| 11288| krotka| AccessExclusiveLock| 2019-09-17 10:00:00.302936| 389015618226997618| {11092}| 00:03:34Wykorzystanie historii blokad do analizy incydentów wydajności.
- Proces o queryid=389015618226997618 działający z pid=11288 oczekiwał na blokadę od 2019-09-17 10:00:00 przez 3 minuty.
- Blokadę utrzymywał proces z pid=11092.
- Proces z pid=11092 wykonując zapytanie o queryid=389015618226997618 od 2019-09-17 10:00:00 utrzymywał blokadę przez 3 minuty.
Podsumowanie
Teraz mam nadzieję, że zaczyna się to, co najciekawsze i najprzydatniejsze - zbieranie statystyk i analiza przypadków z historii oczekiwań i blokad.
W przyszłości, mam nadzieję, uda się stworzyć zbiór pewnych notatek (na wzór metalinku Oracle).
Właściwie z tego powodu stosujemy metodę, która jest jak najszybciej przedstawiana do ogólnego zapoznania się.
W najbliższym czasie postaram się opublikować projekt na githubie.
Źródło: habr.com
