Анборро клон кунед pg_tpch ва файлҳоро нусхабардорӣ кунед csv в pg_tpch/dss/data.
Эҷоди дархостҳо бо фармон qgen.
Бо фармон маълумотро ба базаи маълумот бор кунед ./tpch.sh.
Сканкунии пайдарпайи параллелӣ
Он метавонад на аз сабаби хондани мувозӣ, балки аз сабаби он ки маълумот дар бисёр ядроҳои CPU паҳн шудааст, тезтар бошад. Дар системаҳои оператсионии муосир, файлҳои додаҳои PostgreSQL хуб кэш карда мешаванд. Бо хондани пешакӣ, аз анбор нисбат ба дархостҳои демони PG блоки калонтар гирифтан мумкин аст. Аз ин рӯ, иҷрои дархостҳо бо диски I/O маҳдуд намешавад. Он давраҳои CPU-ро барои:
сатрҳоро як ба як аз саҳифаҳои ҷадвал хонед;
арзишҳо ва шартҳои сатрро муқоиса кунед WHERE.
Биёед як дархости оддиро иҷро кунем select:
tpch=# explain analyze select l_quantity as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------
Seq Scan on lineitem (cost=0.00..1964772.00 rows=58856235 width=5) (actual time=0.014..16951.669 rows=58839715 loops=1)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 1146337
Planning Time: 0.203 ms
Execution Time: 19035.100 ms
Сканкунии пайдарпай сатрҳои аз ҳад зиёдро бидуни ҷамъоварӣ тавлид мекунад, аз ин рӯ дархост аз ҷониби як ядрои CPU иҷро карда мешавад.
PostgreSQL 9.6+ может выполнять вложенные циклы параллельно — это простая операция.
explain (costs off) select c_custkey, count(o_orderkey)
from customer left outer join orders on
c_custkey = o_custkey and o_comment not like '%special%deposits%'
group by c_custkey;
QUERY PLAN
--------------------------------------------------------------------------------------
Finalize GroupAggregate
Group Key: customer.c_custkey
-> Gather Merge
Workers Planned: 4
-> Partial GroupAggregate
Group Key: customer.c_custkey
-> Nested Loop Left Join
-> Parallel Index Only Scan using customer_pkey on customer
-> Index Scan using idx_orders_custkey on orders
Index Cond: (customer.c_custkey = o_custkey)
Filter: ((o_comment)::text !~~ '%special%deposits%'::text)
Ҷамъоварӣ дар марҳилаи охирин сурат мегирад, аз ин рӯ пайвастагии Nested Loop Left Join як амалиёти мувозӣ аст. Танҳо Scan Index Parallel танҳо дар версияи 10 ҷорӣ карда шуд. Он ба сканкунии силсилавии параллелӣ монанд кор мекунад. Вазъият c_custkey = o_custkey як фармоишро барои як сатри муштарӣ мехонад. Пас, он параллел нест.
Ҳамроҳ шудан
Ҳар як раванди корӣ то PostgreSQL 11 ҷадвали хэш-и худро эҷод мекунад. Ва агар зиёда аз чор ин раванд мавҷуд бошад, иҷроиш беҳтар намешавад. Дар версияи нав, ҷадвали hash муштарак аст. Ҳар як раванди коргар метавонад WORK_MEM-ро барои сохтани ҷадвали ҳаш истифода барад.
select
l_shipmode,
sum(case
when o_orderpriority = '1-URGENT'
or o_orderpriority = '2-HIGH'
then 1
else 0
end) as high_line_count,
sum(case
when o_orderpriority <> '1-URGENT'
and o_orderpriority <> '2-HIGH'
then 1
else 0
end) as low_line_count
from
orders,
lineitem
where
o_orderkey = l_orderkey
and l_shipmode in ('MAIL', 'AIR')
and l_commitdate < l_receiptdate
and l_shipdate < l_commitdate
and l_receiptdate >= date '1996-01-01'
and l_receiptdate < date '1996-01-01' + interval '1' year
group by
l_shipmode
order by
l_shipmode
LIMIT 1;
QUERY PLAN
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=1964755.66..1964961.44 rows=1 width=27) (actual time=7579.592..7922.997 rows=1 loops=1)
-> Finalize GroupAggregate (cost=1964755.66..1966196.11 rows=7 width=27) (actual time=7579.590..7579.591 rows=1 loops=1)
Group Key: lineitem.l_shipmode
-> Gather Merge (cost=1964755.66..1966195.83 rows=28 width=27) (actual time=7559.593..7922.319 rows=6 loops=1)
Workers Planned: 4
Workers Launched: 4
-> Partial GroupAggregate (cost=1963755.61..1965192.44 rows=7 width=27) (actual time=7548.103..7564.592 rows=2 loops=5)
Group Key: lineitem.l_shipmode
-> Sort (cost=1963755.61..1963935.20 rows=71838 width=27) (actual time=7530.280..7539.688 rows=62519 loops=5)
Sort Key: lineitem.l_shipmode
Sort Method: external merge Disk: 2304kB
Worker 0: Sort Method: external merge Disk: 2064kB
Worker 1: Sort Method: external merge Disk: 2384kB
Worker 2: Sort Method: external merge Disk: 2264kB
Worker 3: Sort Method: external merge Disk: 2336kB
-> Parallel Hash Join (cost=382571.01..1957960.99 rows=71838 width=27) (actual time=7036.917..7499.692 rows=62519 loops=5)
Hash Cond: (lineitem.l_orderkey = orders.o_orderkey)
-> Parallel Seq Scan on lineitem (cost=0.00..1552386.40 rows=71838 width=19) (actual time=0.583..4901.063 rows=62519 loops=5)
Filter: ((l_shipmode = ANY ('{MAIL,AIR}'::bpchar[])) AND (l_commitdate < l_receiptdate) AND (l_shipdate < l_commitdate) AND (l_receiptdate >= '1996-01-01'::date) AND (l_receiptdate < '1997-01-01 00:00:00'::timestamp without time zone))
Rows Removed by Filter: 11934691
-> Parallel Hash (cost=313722.45..313722.45 rows=3750045 width=20) (actual time=2011.518..2011.518 rows=3000000 loops=5)
Buckets: 65536 Batches: 256 Memory Usage: 3840kB
-> Parallel Seq Scan on orders (cost=0.00..313722.45 rows=3750045 width=20) (actual time=0.029..995.948 rows=3000000 loops=5)
Planning Time: 0.977 ms
Execution Time: 7923.770 ms
Дархости 12 аз TPC-H пайвасти параллелӣ нишон медиҳад. Ҳар як раванди коргарӣ ба эҷоди ҷадвали умумии ҳаш мусоидат мекунад.
Ҳамроҳ шудан
Якҷоякунӣ табиатан мувозӣ нест. Парво накунед, агар ин қадами охирини пурсиш бошад - он метавонад ба ҳар ҳол мувозӣ кор кунад.
-- Query 2 from TPC-H
explain (costs off) select s_acctbal, s_name, n_name, p_partkey, p_mfgr, s_address, s_phone, s_comment
from part, supplier, partsupp, nation, region
where
p_partkey = ps_partkey
and s_suppkey = ps_suppkey
and p_size = 36
and p_type like '%BRASS'
and s_nationkey = n_nationkey
and n_regionkey = r_regionkey
and r_name = 'AMERICA'
and ps_supplycost = (
select
min(ps_supplycost)
from partsupp, supplier, nation, region
where
p_partkey = ps_partkey
and s_suppkey = ps_suppkey
and s_nationkey = n_nationkey
and n_regionkey = r_regionkey
and r_name = 'AMERICA'
)
order by s_acctbal desc, n_name, s_name, p_partkey
LIMIT 100;
QUERY PLAN
----------------------------------------------------------------------------------------------------------
Limit
-> Sort
Sort Key: supplier.s_acctbal DESC, nation.n_name, supplier.s_name, part.p_partkey
-> Merge Join
Merge Cond: (part.p_partkey = partsupp.ps_partkey)
Join Filter: (partsupp.ps_supplycost = (SubPlan 1))
-> Gather Merge
Workers Planned: 4
-> Parallel Index Scan using <strong>part_pkey</strong> on part
Filter: (((p_type)::text ~~ '%BRASS'::text) AND (p_size = 36))
-> Materialize
-> Sort
Sort Key: partsupp.ps_partkey
-> Nested Loop
-> Nested Loop
Join Filter: (nation.n_regionkey = region.r_regionkey)
-> Seq Scan on region
Filter: (r_name = 'AMERICA'::bpchar)
-> Hash Join
Hash Cond: (supplier.s_nationkey = nation.n_nationkey)
-> Seq Scan on supplier
-> Hash
-> Seq Scan on nation
-> Index Scan using idx_partsupp_suppkey on partsupp
Index Cond: (ps_suppkey = supplier.s_suppkey)
SubPlan 1
-> Aggregate
-> Nested Loop
Join Filter: (nation_1.n_regionkey = region_1.r_regionkey)
-> Seq Scan on region region_1
Filter: (r_name = 'AMERICA'::bpchar)
-> Nested Loop
-> Nested Loop
-> Index Scan using idx_partsupp_partkey on partsupp partsupp_1
Index Cond: (part.p_partkey = ps_partkey)
-> Index Scan using supplier_pkey on supplier supplier_1
Index Cond: (s_suppkey = partsupp_1.ps_suppkey)
-> Index Scan using nation_pkey on nation nation_1
Index Cond: (n_nationkey = supplier_1.s_nationkey)
Гиреҳи "Ҳамроҳшавӣ" дар болои "Ҷамъоварии якҷоя" ҷойгир аст. Ҳамин тавр, якҷоякунӣ коркарди мувозиро истифода намебарад. Аммо гиреҳи "Scan Index Parallel" то ҳол дар сегмент кӯмак мекунад part_pkey.
Пайвастшавӣ аз рӯи бахшҳо
Дар PostgreSQL 11 Пайвастшавӣ аз рӯи бахшҳо бо нобаёнӣ ғайрифаъол: он дорои ҷадвали хеле гарон аст. Ҷадвалҳои дорои тақсимоти шабеҳ метавонанд ба қисмҳо ба қисмҳо пайваст карда шаванд. Бо ин роҳ Postgres ҷадвалҳои хурдтарро истифода хоҳад кард. Ҳар як пайвасти бахшҳо метавонад параллел бошад.
tpch=# set enable_partitionwise_join=t;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
QUERY PLAN
---------------------------------------------------
Append
-> Hash Join
Hash Cond: (t2.b = t1.a)
-> Seq Scan on prt2_p1 t2
Filter: ((b >= 0) AND (b <= 10000))
-> Hash
-> Seq Scan on prt1_p1 t1
Filter: (b = 0)
-> Hash Join
Hash Cond: (t2_1.b = t1_1.a)
-> Seq Scan on prt2_p2 t2_1
Filter: ((b >= 0) AND (b <= 10000))
-> Hash
-> Seq Scan on prt1_p2 t1_1
Filter: (b = 0)
tpch=# set parallel_setup_cost = 1;
tpch=# set parallel_tuple_cost = 0.01;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
QUERY PLAN
-----------------------------------------------------------
Gather
Workers Planned: 4
-> Parallel Append
-> Parallel Hash Join
Hash Cond: (t2_1.b = t1_1.a)
-> Parallel Seq Scan on prt2_p2 t2_1
Filter: ((b >= 0) AND (b <= 10000))
-> Parallel Hash
-> Parallel Seq Scan on prt1_p2 t1_1
Filter: (b = 0)
-> Parallel Hash Join
Hash Cond: (t2.b = t1.a)
-> Parallel Seq Scan on prt2_p1 t2
Filter: ((b >= 0) AND (b <= 10000))
-> Parallel Hash
-> Parallel Seq Scan on prt1_p1 t1
Filter: (b = 0)
Муҳим он аст, ки пайвастшавӣ дар бахшҳо танҳо дар сурати ба қадри кофӣ калон будани ин қисмҳо параллел аст.
Замимаи мувозӣ
Замимаи мувозӣ метавонад ба ҷои блокҳои гуногун дар равандҳои гуногуни корӣ истифода шавад. Ин одатан бо дархостҳои UNION ALL рӯй медиҳад. Камбудӣ параллелизм камтар аст, зеро ҳар як коргар танҳо 1 дархостро коркард мекунад.
tpch=# explain (costs off) select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day union all select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '2000-12-01' - interval '105' day;
QUERY PLAN
------------------------------------------------------------------------------------------------
Gather
Workers Planned: 2
-> Parallel Append
-> Aggregate
-> Seq Scan on lineitem
Filter: (l_shipdate <= '2000-08-18 00:00:00'::timestamp without time zone)
-> Aggregate
-> Seq Scan on lineitem lineitem_1
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Муҳимтарин тағирёбандаҳо
WORK_MEM хотираи як равандро маҳдуд мекунад, на танҳо дархостҳо: work_mem равандҳои пайвастшавӣ = хотираи зиёд.
max_parallel_workers_per_gather — программаи ичрошаванда барои коркарди параллел аз план чанд про-цесси коргариро истифода мебарад.