За да се оптимизираат прашањата на PostgreSQL, многу е потребна способност да се анализира историјата на активности, особено чекањата, заклучувањата и статистиката на табелата.
пгсентинел екстензија :
«Сите акумулирани информации се складираат само во RAM меморија, а потрошената количина на меморија се регулира со бројот на последните зачувани записи.
Полето queryid е додадено - истиот прашалник од наставката pg_stat_statements (потребна е претинсталација).«
Ова, се разбира, многу би помогнало, но најпроблематичната работа е првата точка“.Сите акумулирани информации се чуваат само во RAM меморија “, т.е. има влијание врз целната база. Покрај тоа, нема историја на заклучување и статистика на табелата. Оние. решението е генерално кажано нецелосно: “Сè уште нема готов пакет за инсталација. Се предлага самите да ги преземете изворите и да ја составите библиотеката. Прво треба да го инсталирате пакетот „devel“ за вашиот сервер и да ја поставите патеката до pg_config во променливата PATH.".
Во принцип, има многу гужва, а во случај на сериозни производствени бази на податоци, можеби нема да биде можно да се направи ништо со серверот. Треба повторно да смислиме нешто свое.
Предупредување
Поради прилично големиот обем и поради нецелосниот период на тестирање, написот е главно од информативен карактер, а повеќе како збир на тези и средни резултати.
Подетален материјал ќе биде подготвен подоцна, во делови
Нацрт барања за решението
Неопходно е да се развие алатка која ви овозможува да складирате:
историја на преглед на pg_stat_activity Историја на заклучување сесии користејќи го приказот pg_locks
Барање за решение– минимизирајте го влијанието врз целната база на податоци.
Општа идеја– агентот за собирање податоци не се активира во целната база на податоци, туку во базата за следење како системска услуга. Да, извесна загуба на податоци е можна, но тоа не е критично за известување, но нема влијание врз целната база на податоци во однос на меморијата и просторот на дискот. И во случај на користење на базен за поврзување, влијанието врз корисничките процеси е минимално.
Фази на имплементација
1.Сервисни маси
Посебна шема се користи за складирање на табели, за да не се комплицира анализата на користените главни табели.
DROP SCHEMA IF EXISTS activity_hist ;
CREATE SCHEMA activity_hist AUTHORIZATION monitor ;
Важно: Шемата не е креирана во целната база на податоци, туку во базата за следење.
историја на преглед на pg_stat_activity
Табелата се користи за складирање на тековните снимки од приказот pg_stat_activity
activity_hist.history_pg_stat_activity :
--ACTIVITY_HIST.HISTORY_PG_STAT_ACTIVITY
DROP TABLE IF EXISTS activity_hist.history_pg_stat_activity;
CREATE TABLE activity_hist.history_pg_stat_activity
(
timepoint timestamp without time zone ,
datid oid ,
datname name ,
pid integer,
usesysid oid ,
usename name ,
application_name text ,
client_addr inet ,
client_hostname text ,
client_port integer,
backend_start timestamp with time zone ,
xact_start timestamp with time zone ,
query_start timestamp with time zone ,
state_change timestamp with time zone ,
wait_event_type text ,
wait_event text ,
state text ,
backend_xid xid ,
backend_xmin xid ,
query text ,
backend_type text ,
queryid bigint
);
За да се забрза вметнувањето - нема индекси или ограничувања.
За да се зачува самата историја, се користи поделена табела:
activity_hist.archive_pg_stat_activity :
DROP TABLE IF EXISTS activity_hist.archive_pg_stat_activity;
CREATE TABLE activity_hist.archive_pg_stat_activity
(
timepoint timestamp without time zone ,
datid oid ,
datname name ,
pid integer,
usesysid oid ,
usename name ,
application_name text ,
client_addr inet ,
client_hostname text ,
client_port integer,
backend_start timestamp with time zone ,
xact_start timestamp with time zone ,
query_start timestamp with time zone ,
state_change timestamp with time zone ,
wait_event_type text ,
wait_event text ,
state text ,
backend_xid xid ,
backend_xmin xid ,
query text ,
backend_type text ,
queryid bigint
)
PARTITION BY RANGE (timepoint);
Бидејќи во овој случај нема барања за брзина на вметнување, создадени се некои индекси за да се забрза креирањето извештаи.
Историја на блокирање сесии
Табелата се користи за складирање на тековните снимки од заклучувањата на сесиите:
activity_hist.history_locking:
--ACTIVITY_HIST.HISTORY_LOCKING
DROP TABLE IF EXISTS activity_hist.history_locking;
CREATE TABLE activity_hist.history_locking
(
timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean
);
Исто така, за да се забрза вметнувањето, нема индекси или ограничувања.
За да се зачува самата историја, се користи поделена табела:
activity_hist.archive_locking:
DROP TABLE IF EXISTS activity_hist.archive_locking;
CREATE TABLE activity_hist.archive_locking
(
timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean
)
PARTITION BY RANGE (timepoint);
Бидејќи во овој случај нема барања за брзина на вметнување, создадени се некои индекси за да се забрза креирањето извештаи.
2.Пополнување на тековната историја
За директно собирање снимки од прегледи, се користи баш скрипта што ја извршува функцијата plpgsql.
plpgsql Функцијата dblink пристапува до прегледите во целната база на податоци и вметнува редови во табелите за услуги во базата на податоци за следење.
get_current_activity.sql
CREATE OR REPLACE FUNCTION activity_hist.get_current_activity( current_host text , current_s_name text , current_s_pass text ) RETURNS BOOLEAN AS $$
DECLARE
database_rec record;
dblink_str text ;
BEGIN
EXECUTE 'SELECT dblink_connect(''LINK1'',''host='||current_host||' port=5432 dbname=postgres'||
' user='||current_s_name||' password='||current_s_pass|| ' '')';
--------------------------------------------------------------------
--GET pg_stat_activity stats
INSERT INTO activity_hist.history_pg_stat_activity
(
SELECT * FROM dblink('LINK1',
'SELECT
now() ,
datid ,
datname ,
pid ,
usesysid ,
usename ,
application_name ,
client_addr ,
client_hostname ,
client_port ,
backend_start ,
xact_start ,
query_start ,
state_change ,
wait_event_type ,
wait_event ,
state ,
backend_xid ,
backend_xmin ,
query ,
backend_type
FROM pg_stat_activity
')
AS t (
timepoint timestamp without time zone ,
datid oid ,
datname name ,
pid integer,
usesysid oid ,
usename name ,
application_name text ,
client_addr inet ,
client_hostname text ,
client_port integer,
backend_start timestamp with time zone ,
xact_start timestamp with time zone ,
query_start timestamp with time zone ,
state_change timestamp with time zone ,
wait_event_type text ,
wait_event text ,
state text ,
backend_xid xid ,
backend_xmin xid ,
query text ,
backend_type text
)
);
---------------------------------------
--ACTIVITY_HIST.HISTORY_LOCKING
INSERT INTO activity_hist.history_locking
(
SELECT * FROM dblink('LINK1',
'SELECT
now() ,
lock.locktype,
lock.relation,
lock.mode,
lock.transactionid as tid,
lock.virtualtransaction as vtid,
lock.pid,
pg_blocking_pids(lock.pid),
lock.granted
FROM pg_catalog.pg_locks lock LEFT JOIN pg_catalog.pg_database db ON db.oid = lock.database
WHERE NOT lock.pid = pg_backend_pid()
')
AS t (
timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean
)
);
PERFORM dblink_disconnect('LINK1');
RETURN TRUE ;
END
$$ LANGUAGE plpgsql;
За да се соберат снимки од прегледи, се користи услугата systemd и две скрипти:
pg_current_activity.service
# /etc/systemd/system/pg_current_activity.service
[Unit]
Description=Collect history of pg_stat_activity , pg_locks
Wants=pg_current_activity.timer
[Service]
Type=forking
StartLimitIntervalSec=0
ExecStart=/home/postgres/pgutils/demon/get_current_activity.sh 10.124.70.40 postgres postgres
[Install]
WantedBy=multi-user.target
pg_current_activity.тајмер
# /etc/systemd/system/pg_current_activity.timer
[Unit]
Description=Run pg_current_activity.sh every 1 second
Requires=pg_current_activity.service
[Timer]
Unit=pg_current_activity.service
OnCalendar=*:*:0/1
AccuracySec=1
[Install]
WantedBy=timers.target
Доделете права на скрипти:
# chmod 755 pg_current_activity.timer
# chmod 755 pg_current_activity.service
Да ја започнеме услугата:
# systemctl демон презареждане
# systemctl стартува pg_current_activity.service
Така, историјата на погледите се собира во форма на снимки од секунда во секунда. Се разбира, ако сè остане како што е, масите многу брзо ќе се зголемат во големина и повеќе или помалку продуктивна работа ќе стане невозможна.
Неопходно е да се организира архивирање на податоци.
3. Архивирање историја
За архивирање, се користи архива на поделени табели*.
Нови партиции се создаваат секој час, додека старите податоци се отстрануваат од табелите за историја*, така што големината на табелите за историја* не се менува многу и брзината на вметнување не се намалува со текот на времето.
Креирањето на нови секции се врши со функцијата plpgsql activity_hist.archive_current_activity. Алгоритмот на работа е многу едноставен (користејќи го примерот на делот за табелата archive_pg_stat_activity).
Креирајте и пополнете нов дел
EXECUTE format(
'CREATE TABLE ' || partition_name ||
' PARTITION OF activity_hist.archive_pg_stat_activity FOR VALUES FROM ( %L ) TO ( %L ) ' ,
to_char(date_trunc('year', partition_min_range ),'YYYY')||'-'||
to_char(date_trunc('month', partition_min_range ),'MM')||'-'||
to_char(date_trunc('day', partition_min_range ),'DD')||' '||
to_char(date_trunc('hour', partition_min_range ),'HH24')||':00',
to_char(date_trunc('year', partition_max_range ),'YYYY')||'-'||
to_char(date_trunc('month', partition_max_range ),'MM')||'-'||
to_char(date_trunc('day', partition_max_range ),'DD')||' '||
to_char(date_trunc('hour', partition_max_range ),'HH24')||':00'
);
INSERT INTO activity_hist.archive_pg_stat_activity
(
SELECT *
FROM activity_hist.history_pg_stat_activity
WHERE timepoint BETWEEN partition_min_range AND partition_max_range
);
Креирање на индекси
EXECUTE format (
'CREATE INDEX '||index_name||
' ON '||partition_name||' ( wait_event_type , backend_type , timepoint )'
);
EXECUTE format ('CREATE INDEX '||index_name||
' ON '||partition_name||' ( wait_event_type , backend_type , timepoint , queryid )'
);
Отстранување на стари податоци од табелата history_pg_stat_activity
DELETE
FROM activity_hist.history_pg_stat_activity
WHERE timepoint < partition_max_range;
Се разбира, од време на време, старите делови се бришат како непотребни.
Основни извештаи
Всушност, зошто сето ова се прави? Да се добијат извештаи кои многу нејасно потсетуваат на AWR на Oracle.
Важно е да се додаде дека за да примате извештаи, треба да изградите врска помеѓу приказите pg_stat_activity и pg_stat_statements. Табелите се поврзуваат со додавање на колона „queryid“ во табелите „history_pg_stat_activity“, „archive_pg_stat_activity“. Начинот на додавање вредност на колоната е надвор од опсегот на овој напис и е опишан овде − pg_stat_statements + pg_stat_activity + loq_query = pg_ash? .
ВКУПНО ВРЕМЕ НА процесорот за прашања
Барање:
WITH hist AS
(
SELECT
aa.query ,aa.queryid ,
count(*) * interval '1 second' AS duration
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND backend_type = 'client backend' AND datname != 'postgres' AND ( aa.wait_event_type IS NULL ) ANDaa.state = 'active'
GROUP BY aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid
UNION
SELECT
ha.query ,ha.queryid,
count(*) * interval '1 second' AS duration
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND backend_type = 'client backend' AND datname != 'postgres' AND ( ha.wait_event_type IS NULL )AND ha.state = 'active'
GROUP BY ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid
)
SELECT query , queryid , SUM( duration ) as duration
FROM hist
GROUP BY query , queryid
ORDER BY 3 DESC
WITH hist AS
(
SELECT
aa.query ,aa.queryid ,
count(*) * interval '1 second' AS duration
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( aa.wait_event_type IS NOT NULL )
GROUP BY aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid
UNION
SELECT
ha.query ,ha.queryid,
count(*) * interval '1 second' AS duration
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( ha.wait_event_type IS NOT NULL )
GROUP BY ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid
)
SELECT query , queryid , SUM( duration ) as duration
FROM hist
GROUP BY query , queryid
ORDER BY 3 DESC
WITH hist AS
(
SELECT
aa.wait_event_type , aa.wait_event
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
aa.wait_event IS NOT NULL
GROUP BY aa.wait_event_type , aa.wait_event
UNION
SELECT
ha.wait_event_type , ha.wait_event
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
ha.wait_event IS NOT NULL
GROUP BY ha.wait_event_type , ha.wait_event
)
SELECT wait_event_type , wait_event
FROM hist
GROUP BY wait_event_type , wait_event
ORDER BY 1 ASC,2 ASC
----------------------------------------------------------------------
WITH hist AS
(
SELECT
aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid ,
count(*) * interval '1 second' AS duration
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( aa.wait_event_type = waitings_stat_rec.wait_event_type AND aa.wait_event = waitings_stat_rec.wait_event )
GROUP BY aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid
UNION
SELECT
ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid,
count(*) * interval '1 second' AS duration
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( ha.wait_event_type = waitings_stat_rec.wait_event_type AND ha.wait_event = waitings_stat_rec.wait_event )
GROUP BY ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid
)
SELECT query , queryid , SUM( duration ) as duration
FROM hist
GROUP BY query , queryid
ORDER BY 3 DESC
SELECT
MIN(date_trunc('second',timepoint)) AS started ,
count(*) * interval '1 second' as duration ,
pid , blocking_pids , relation , mode , locktype
FROM
activity_hist.archive_locking al
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY pid , blocking_pids , relation , mode , locktype
UNION
SELECT
MIN(date_trunc('second',timepoint)) AS started ,
count(*) * interval '1 second' as duration ,
pid , blocking_pids , relation , mode , locktype
FROM
activity_hist.history_locking
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY pid , blocking_pids , relation , mode , locktype
ORDER BY 1
Пример:
------------------------------------------------- ------------------------------------------------- ---------------------------------- | ИСТОРИЈА НА ЗАКЛУЧЕНИ ПРОЦЕСИ +-----+----------+-----+--------------------------- --------+-------------------------- ---------------- +------------------- | #| пид| започна| времетраење| blocking_pids| однос| режим| тип на заклучување +----------+----------+-----+----------- +--------- -----------+---------------------------------------- -------------- | 1| 26224| 2019-09-02 19:32:16| 00:01:45| {26211}| 16541| AccessShareLock| однос | 2| 26390| 2019-09-02 19:34:03| 00:00:53| {26211}| 16541| AccessShareLock| однос | 3| 26391| 2019-09-02 19:34:03| 00:00:53| {26211}| 16541| AccessShareLock| однос | 4| 26531| 2019 09:02:19| 35:27:00| {00}| 12| AccessShareLock| однос | 26211| 16541| 5-27284-2019 09:02:19| 44:02:00| {00}| 19| AccessShareLock| однос | 27276| 16541| 6-27283-2019 09:02:19| 44:02:00| {00}| 19| AccessShareLock| однос | 27276| 16541| 7-27286-2019 09:02:19| 44:02:00| {00}| 19| AccessShareLock| однос | 27276| 16541| 8 27423:2019:09| 02:19:45| {24}| 00| AccessShareLock| однос | 00| 12| 27394-16541-9 27648:2019:09| 02:19:48| {06}| 00| AccessShareLock| однос | 00| 20| 27647-16541-10 27650:2019:09| 02:19:48| {06}| 00| AccessShareLock| однос | 00| 20| 27647-16541-11 27735:2019:09| 02:19:49| {08}| 00| AccessExclusiveLock| однос | 00| 06| 27650-16541-12 28380:2019:09| 02:19:56| {03}| 00| AccessShareLock| однос | 01| 56| 28379-16541-13 28379:2019:09| 02:19:56| 03| 00| AccessExclusiveLock| однос | | | | | 00| |
БЛОКИРАЊЕ ИСТОРИЈА НА ПРОЦЕСИ
Барања:
SELECT
blocking_pids
FROM
activity_hist.archive_locking al
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY blocking_pids
UNION
SELECT
blocking_pids
FROM
activity_hist.history_locking
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY blocking_pids
ORDER BY 1
---------------------------------------------------------------
SELECT
pid , usename , application_name , datname ,
MIN(date_trunc('second',timepoint)) as started ,
count(*) * interval '1 second' as duration ,
state ,
query
FROM activity_hist.archive_pg_stat_activity
WHERE pid= current_pid AND
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour')
GROUP BY pid , usename , application_name ,
datname ,
state_change,
state ,
query
UNION
SELECT
pid , usename , application_name , datname ,
MIN(date_trunc('second',timepoint)) as started ,
count(*) * interval '1 second' as duration ,
state ,
query
FROM activity_hist.history_pg_stat_activity_for_reports
WHERE pid= current_pid AND
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour')
GROUP BY pid , usename , application_name ,
datname ,
state_change,
state ,
query
ORDER BY 5 , 1
Прикажаните основни прашања и извештаите што произлегуваат веќе го олеснуваат животот кога се анализираат инциденти со перформансите.
Врз основа на основните прашања, можете да добиете извештај што нејасно наликува на AWR на Oracle. Пример за збирен извештај
+------------------------------------------------- ------------------------------------ | КОНСОЛИДИРАН ИЗВЕШТАЈ ЗА ДЕЈНОСТ И ЧЕКАЊА.
Продолжува. Следно на ред е создавањето историја на заклучување (pg_stat_locks), подетален опис на процесот на пополнување табели.