pgsentinel кеңейтімі :
«Барлық жинақталған ақпарат тек жедел жадта сақталады, ал тұтынылатын жад көлемі соңғы сақталған жазбалар санымен реттеледі.
Queryid өрісі қосылды - pg_stat_statements кеңейтіміндегі бірдей сұрау идентификаторы (алдын ала орнату қажет).«
Бұл, әрине, көп көмегін тигізер еді, бірақ ең қиыны – бірінші нүкте».Барлық жинақталған ақпарат тек жедел жадта сақталады ”, яғни. мақсатты базаға әсері бар. Сонымен қатар, құлыптау тарихы мен кесте статистикасы жоқ. Анау. Шешім әдетте толық емес: «Орнату үшін дайын пакет әлі жоқ. Дереккөздерді жүктеп алып, кітапхананы өзіңіз құрастыру ұсынылады. Алдымен серверіңіз үшін «devel» бумасын орнату керек және PATH айнымалысында pg_config жолын орнату керек.«.
Тұтастай алғанда, көп әбігер бар және елеулі өндірістік деректер базасы болған жағдайда сервермен ештеңе істеу мүмкін болмауы мүмкін. Біз тағы да өзімізден бір нәрсе ойлап табуымыз керек.
Ескерту.
Көлемі өте үлкен болғандықтан және тестілеу мерзімі аяқталмағандықтан, мақала тезистер мен аралық нәтижелер жиынтығы ретінде емес, негізінен ақпараттық мақсаттарға арналған.
Толығырақ материал кейінірек, бөліктерде дайындалады
Шешімге қойылатын талаптар жобасы
Мыналарды сақтауға мүмкіндік беретін құралды әзірлеу қажет:
pg_stat_activity көру тарихы pg_locks көрінісі арқылы сеансты құлыптау тарихы
Шешім талабы– мақсатты дерекқорға әсер етуді азайту.
Жалпы идея– деректерді жинау агенті мақсатты дерекқорда емес, жүйелік қызмет ретінде мониторинг деректер базасында іске қосылады. Иә, кейбір деректер жоғалуы мүмкін, бірақ бұл есеп беру үшін маңызды емес, бірақ жад пен дискілік кеңістік тұрғысынан мақсатты дерекқорға әсер етпейді. Ал қосылым пулын пайдаланған жағдайда пайдаланушы процестеріне әсері аз болады.
Іске асыру кезеңдері
1.Қызмет көрсету кестелері
Қолданылатын негізгі кестелерді талдауды қиындатпау үшін кестелерді сақтау үшін жеке схема қолданылады.
DROP SCHEMA IF EXISTS activity_hist ;
CREATE SCHEMA activity_hist AUTHORIZATION monitor ;
Маңызды: Схема мақсатты дерекқорда емес, мониторинг дерекқорында жасалады.
pg_stat_activity көру тарихы
Кесте pg_stat_activity көрінісінің ағымдағы суретін сақтау үшін пайдаланылады
activity_hist.history_pg_stat_activity :
--ACTIVITY_HIST.HISTORY_PG_STAT_ACTIVITY
DROP TABLE IF EXISTS activity_hist.history_pg_stat_activity;
CREATE TABLE activity_hist.history_pg_stat_activity
(
timepoint timestamp without time zone ,
datid oid ,
datname name ,
pid integer,
usesysid oid ,
usename name ,
application_name text ,
client_addr inet ,
client_hostname text ,
client_port integer,
backend_start timestamp with time zone ,
xact_start timestamp with time zone ,
query_start timestamp with time zone ,
state_change timestamp with time zone ,
wait_event_type text ,
wait_event text ,
state text ,
backend_xid xid ,
backend_xmin xid ,
query text ,
backend_type text ,
queryid bigint
);
Енгізуді жылдамдату үшін - индекстер немесе шектеулер жоқ.
Тарихтың өзін сақтау үшін бөлінген кесте қолданылады:
activity_hist.archive_pg_stat_activity :
DROP TABLE IF EXISTS activity_hist.archive_pg_stat_activity;
CREATE TABLE activity_hist.archive_pg_stat_activity
(
timepoint timestamp without time zone ,
datid oid ,
datname name ,
pid integer,
usesysid oid ,
usename name ,
application_name text ,
client_addr inet ,
client_hostname text ,
client_port integer,
backend_start timestamp with time zone ,
xact_start timestamp with time zone ,
query_start timestamp with time zone ,
state_change timestamp with time zone ,
wait_event_type text ,
wait_event text ,
state text ,
backend_xid xid ,
backend_xmin xid ,
query text ,
backend_type text ,
queryid bigint
)
PARTITION BY RANGE (timepoint);
Бұл жағдайда кірістіру жылдамдығына талаптар болмағандықтан, есептерді құруды жылдамдату үшін кейбір индекстер жасалды.
Сеансты блоктау тарихы
Кесте сеанс құлыптарының ағымдағы суреттерін сақтау үшін пайдаланылады:
activity_hist.history_locking :
--ACTIVITY_HIST.HISTORY_LOCKING
DROP TABLE IF EXISTS activity_hist.history_locking;
CREATE TABLE activity_hist.history_locking
(
timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean
);
Сондай-ақ, кірістіруді жылдамдату үшін индекстер немесе шектеулер жоқ.
Тарихтың өзін сақтау үшін бөлінген кесте қолданылады:
activity_hist.archive_locking:
DROP TABLE IF EXISTS activity_hist.archive_locking;
CREATE TABLE activity_hist.archive_locking
(
timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean
)
PARTITION BY RANGE (timepoint);
Бұл жағдайда кірістіру жылдамдығына талаптар болмағандықтан, есептерді құруды жылдамдату үшін кейбір индекстер жасалды.
2.Ағымдағы тарихты толтыру
Көрініс суреттерін тікелей жинау үшін plpgsql функциясын іске қосатын bash сценарийі пайдаланылады.
plpgsql dblink функциясы мақсатты дерекқордағы көріністерге қатынасады және бақылау дерекқорындағы қызмет кестелеріне жолдарды кірістіреді.
get_current_activity.sql
CREATE OR REPLACE FUNCTION activity_hist.get_current_activity( current_host text , current_s_name text , current_s_pass text ) RETURNS BOOLEAN AS $$
DECLARE
database_rec record;
dblink_str text ;
BEGIN
EXECUTE 'SELECT dblink_connect(''LINK1'',''host='||current_host||' port=5432 dbname=postgres'||
' user='||current_s_name||' password='||current_s_pass|| ' '')';
--------------------------------------------------------------------
--GET pg_stat_activity stats
INSERT INTO activity_hist.history_pg_stat_activity
(
SELECT * FROM dblink('LINK1',
'SELECT
now() ,
datid ,
datname ,
pid ,
usesysid ,
usename ,
application_name ,
client_addr ,
client_hostname ,
client_port ,
backend_start ,
xact_start ,
query_start ,
state_change ,
wait_event_type ,
wait_event ,
state ,
backend_xid ,
backend_xmin ,
query ,
backend_type
FROM pg_stat_activity
')
AS t (
timepoint timestamp without time zone ,
datid oid ,
datname name ,
pid integer,
usesysid oid ,
usename name ,
application_name text ,
client_addr inet ,
client_hostname text ,
client_port integer,
backend_start timestamp with time zone ,
xact_start timestamp with time zone ,
query_start timestamp with time zone ,
state_change timestamp with time zone ,
wait_event_type text ,
wait_event text ,
state text ,
backend_xid xid ,
backend_xmin xid ,
query text ,
backend_type text
)
);
---------------------------------------
--ACTIVITY_HIST.HISTORY_LOCKING
INSERT INTO activity_hist.history_locking
(
SELECT * FROM dblink('LINK1',
'SELECT
now() ,
lock.locktype,
lock.relation,
lock.mode,
lock.transactionid as tid,
lock.virtualtransaction as vtid,
lock.pid,
pg_blocking_pids(lock.pid),
lock.granted
FROM pg_catalog.pg_locks lock LEFT JOIN pg_catalog.pg_database db ON db.oid = lock.database
WHERE NOT lock.pid = pg_backend_pid()
')
AS t (
timepoint timestamp without time zone ,
locktype text ,
relation oid ,
mode text ,
tid xid ,
vtid text ,
pid integer ,
blocking_pids integer[] ,
granted boolean
)
);
PERFORM dblink_disconnect('LINK1');
RETURN TRUE ;
END
$$ LANGUAGE plpgsql;
Көрініс суреттерін жинау үшін systemd қызметі және екі сценарий пайдаланылады:
pg_current_activity.service
# /etc/systemd/system/pg_current_activity.service
[Unit]
Description=Collect history of pg_stat_activity , pg_locks
Wants=pg_current_activity.timer
[Service]
Type=forking
StartLimitIntervalSec=0
ExecStart=/home/postgres/pgutils/demon/get_current_activity.sh 10.124.70.40 postgres postgres
[Install]
WantedBy=multi-user.target
pg_current_activity.timer
# /etc/systemd/system/pg_current_activity.timer
[Unit]
Description=Run pg_current_activity.sh every 1 second
Requires=pg_current_activity.service
[Timer]
Unit=pg_current_activity.service
OnCalendar=*:*:0/1
AccuracySec=1
[Install]
WantedBy=timers.target
Қызметті бастайық:
# systemctl деemon-reload
# systemctl pg_current_activity.service бастау
Осылайша, көріністер тарихы секундына секундтық сурет түрінде жиналады. Әрине, егер бәрі сол күйінде қалса, кестелер өте тез ұлғаяды және көп немесе аз өнімді жұмыс мүмкін болмайды.
Мәліметтерді мұрағаттауды ұйымдастыру қажет.
3. Мұрағаттау тарихы
Мұрағаттау үшін бөлінген кестелер мұрағаты* пайдаланылады.
Жаңа бөлімдер сағат сайын жасалады, ал ескі деректер тарих* кестелерінен жойылады, сондықтан тарих* кестелерінің өлшемі көп өзгермейді және уақыт өте келе кірістіру жылдамдығы төмендемейді.
Жаңа бөлімдерді жасау plpgsql activity_hist.archive_current_activity функциясы арқылы орындалады. Жұмыс алгоритмі өте қарапайым (archive_pg_stat_activity кестесіне арналған бөлімнің мысалын пайдалану).
Жаңа бөлімді жасаңыз және толтырыңыз
EXECUTE format(
'CREATE TABLE ' || partition_name ||
' PARTITION OF activity_hist.archive_pg_stat_activity FOR VALUES FROM ( %L ) TO ( %L ) ' ,
to_char(date_trunc('year', partition_min_range ),'YYYY')||'-'||
to_char(date_trunc('month', partition_min_range ),'MM')||'-'||
to_char(date_trunc('day', partition_min_range ),'DD')||' '||
to_char(date_trunc('hour', partition_min_range ),'HH24')||':00',
to_char(date_trunc('year', partition_max_range ),'YYYY')||'-'||
to_char(date_trunc('month', partition_max_range ),'MM')||'-'||
to_char(date_trunc('day', partition_max_range ),'DD')||' '||
to_char(date_trunc('hour', partition_max_range ),'HH24')||':00'
);
INSERT INTO activity_hist.archive_pg_stat_activity
(
SELECT *
FROM activity_hist.history_pg_stat_activity
WHERE timepoint BETWEEN partition_min_range AND partition_max_range
);
Индекстерді құру
EXECUTE format (
'CREATE INDEX '||index_name||
' ON '||partition_name||' ( wait_event_type , backend_type , timepoint )'
);
EXECUTE format ('CREATE INDEX '||index_name||
' ON '||partition_name||' ( wait_event_type , backend_type , timepoint , queryid )'
);
History_pg_stat_activity кестесінен ескі деректерді жою
DELETE
FROM activity_hist.history_pg_stat_activity
WHERE timepoint < partition_max_range;
Әрине, мезгіл-мезгіл ескі бөлімдер қажетсіз деп жойылады.
Негізгі есептер
Шындығында, мұның бәрі не үшін жасалып жатыр? Oracle AWR-ді өте анық емес еске түсіретін есептерді алу үшін.
Есептерді алу үшін pg_stat_activity және pg_stat_statements көріністері арасында байланыс орнату қажет екенін қосу маңызды. Кестелер "history_pg_stat_activity", "archive_pg_stat_activity" кестелеріне "queryid" бағанын қосу арқылы байланыстырылады. Баған мәнін қосу әдісі осы мақаланың ауқымынан тыс және мұнда сипатталған − pg_stat_statements + pg_stat_activity + loq_query = pg_ash? .
СҰРАУЛАР ҮШІН ЖАЛПЫ CPU УАҚЫТЫ
Сұраныс:
WITH hist AS
(
SELECT
aa.query ,aa.queryid ,
count(*) * interval '1 second' AS duration
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND backend_type = 'client backend' AND datname != 'postgres' AND ( aa.wait_event_type IS NULL ) ANDaa.state = 'active'
GROUP BY aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid
UNION
SELECT
ha.query ,ha.queryid,
count(*) * interval '1 second' AS duration
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND backend_type = 'client backend' AND datname != 'postgres' AND ( ha.wait_event_type IS NULL )AND ha.state = 'active'
GROUP BY ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid
)
SELECT query , queryid , SUM( duration ) as duration
FROM hist
GROUP BY query , queryid
ORDER BY 3 DESC
WITH hist AS
(
SELECT
aa.query ,aa.queryid ,
count(*) * interval '1 second' AS duration
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( aa.wait_event_type IS NOT NULL )
GROUP BY aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid
UNION
SELECT
ha.query ,ha.queryid,
count(*) * interval '1 second' AS duration
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( ha.wait_event_type IS NOT NULL )
GROUP BY ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid
)
SELECT query , queryid , SUM( duration ) as duration
FROM hist
GROUP BY query , queryid
ORDER BY 3 DESC
WITH hist AS
(
SELECT
aa.wait_event_type , aa.wait_event
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
aa.wait_event IS NOT NULL
GROUP BY aa.wait_event_type , aa.wait_event
UNION
SELECT
ha.wait_event_type , ha.wait_event
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
ha.wait_event IS NOT NULL
GROUP BY ha.wait_event_type , ha.wait_event
)
SELECT wait_event_type , wait_event
FROM hist
GROUP BY wait_event_type , wait_event
ORDER BY 1 ASC,2 ASC
----------------------------------------------------------------------
WITH hist AS
(
SELECT
aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid ,
count(*) * interval '1 second' AS duration
FROM activity_hist.archive_pg_stat_activity aa
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( aa.wait_event_type = waitings_stat_rec.wait_event_type AND aa.wait_event = waitings_stat_rec.wait_event )
GROUP BY aa.wait_event_type , aa.wait_event , aa.query ,aa.queryid
UNION
SELECT
ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid,
count(*) * interval '1 second' AS duration
FROM activity_hist.history_pg_stat_activity_for_reports ha
WHERE timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
backend_type = 'client backend' AND datname != 'postgres' AND
( ha.wait_event_type = waitings_stat_rec.wait_event_type AND ha.wait_event = waitings_stat_rec.wait_event )
GROUP BY ha.wait_event_type , ha.wait_event , ha.query ,ha.queryid
)
SELECT query , queryid , SUM( duration ) as duration
FROM hist
GROUP BY query , queryid
ORDER BY 3 DESC
SELECT
MIN(date_trunc('second',timepoint)) AS started ,
count(*) * interval '1 second' as duration ,
pid , blocking_pids , relation , mode , locktype
FROM
activity_hist.archive_locking al
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY pid , blocking_pids , relation , mode , locktype
UNION
SELECT
MIN(date_trunc('second',timepoint)) AS started ,
count(*) * interval '1 second' as duration ,
pid , blocking_pids , relation , mode , locktype
FROM
activity_hist.history_locking
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY pid , blocking_pids , relation , mode , locktype
ORDER BY 1
SELECT
blocking_pids
FROM
activity_hist.archive_locking al
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY blocking_pids
UNION
SELECT
blocking_pids
FROM
activity_hist.history_locking
WHERE
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour') AND
NOT granted AND
locktype = 'relation'
GROUP BY blocking_pids
ORDER BY 1
---------------------------------------------------------------
SELECT
pid , usename , application_name , datname ,
MIN(date_trunc('second',timepoint)) as started ,
count(*) * interval '1 second' as duration ,
state ,
query
FROM activity_hist.archive_pg_stat_activity
WHERE pid= current_pid AND
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour')
GROUP BY pid , usename , application_name ,
datname ,
state_change,
state ,
query
UNION
SELECT
pid , usename , application_name , datname ,
MIN(date_trunc('second',timepoint)) as started ,
count(*) * interval '1 second' as duration ,
state ,
query
FROM activity_hist.history_pg_stat_activity_for_reports
WHERE pid= current_pid AND
timepoint BETWEEN pg_stat_history_begin+(current_hour_diff * interval '1 hour') AND pg_stat_history_end+(current_hour_diff * interval '1 hour')
GROUP BY pid , usename , application_name ,
datname ,
state_change,
state ,
query
ORDER BY 5 , 1
Көрсетілген негізгі сұраулар және алынған есептер өнімділік оқиғаларын талдау кезінде өмірді әлдеқайда жеңілдетеді.
Негізгі сұрауларға сүйене отырып, Oracle AWR-ге анық ұқсамайтын есепті алуға болады. Жиынтық есептің мысалы
+------------------------------------------------ ---------------------------------- | ҚЫЗМЕТ ЖӘНЕ КҮТІЛЕР БОЙЫНША ШОҒЫРЫЛҒАН ЕСЕП.
Жалғасы бар. Келесі кезекте құлыптау тарихын жасау (pg_stat_locks), кестелерді толтыру процесінің егжей-тегжейлі сипаттамасы.