Sodobni procesorji imajo veliko jeder. Aplikacije že leta vzporedno pošiljajo poizvedbe v baze podatkov. Če gre za poizvedbo poročila o več vrsticah v tabeli, teče hitreje, če uporablja več procesorjev, in PostgreSQL to lahko počne od različice 9.6.
Implementacija funkcije vzporednih poizvedb je trajala 3 leta – kodo smo morali prepisati na različnih stopnjah izvajanja poizvedbe. PostgreSQL 9.6 je uvedel infrastrukturo za nadaljnje izboljšanje kode. V naslednjih različicah se druge vrste poizvedb izvajajo vzporedno.
Omejitve
- Ne omogočite vzporednega izvajanja, če so vsa jedra že zasedena, sicer se bodo druge zahteve upočasnile.
- Najpomembneje je, da vzporedna obdelava z visokimi vrednostmi WORK_MEM porabi veliko pomnilnika - vsako zgoščevanje ali razvrščanje zavzame pomnilnik work_mem.
- Poizvedb OLTP z nizko zakasnitvijo ni mogoče pospešiti z vzporednim izvajanjem. In če poizvedba vrne eno vrstico, jo bo vzporedna obdelava samo upočasnila.
- Razvijalci radi uporabljajo merilo TPC-H. Morda imate podobne poizvedbe za popolno vzporedno izvajanje.
- Samo poizvedbe SELECT brez predikatnega zaklepanja se izvajajo vzporedno.
- Včasih je pravilno indeksiranje boljše od zaporednega skeniranja tabele v vzporednem načinu.
- Začasna zaustavitev poizvedb in kazalcev ni podprta.
- Okenske funkcije in agregatne funkcije urejenega niza niso vzporedne.
- Pri V/I delovni obremenitvi ne pridobite ničesar.
- Vzporednih algoritmov za razvrščanje ni. Vendar se lahko poizvedbe z razvrščanjem v nekaterih vidikih izvajajo vzporedno.
- Zamenjajte CTE (WITH ...) z ugnezdenim SELECT, da omogočite vzporedno obdelavo.
- Ovoji podatkov tretjih oseb še ne podpirajo vzporedne obdelave (vendar bi lahko!)
- FULL OUTER JOIN ni podprt.
- max_rows onemogoči vzporedno obdelavo.
- Če ima poizvedba funkcijo, ki ni označena kot PARALLEL SAFE, bo enonitna.
- Raven izolacije transakcije SERIALIZABLE onemogoči vzporedno obdelavo.
Testno okolje
Razvijalci PostgreSQL so poskušali skrajšati odzivni čas primerjalnih poizvedb TPC-H. Prenesite merilo uspešnosti in . To je neuradna uporaba merila uspešnosti TPC-H - ne za primerjavo baze podatkov ali strojne opreme.
- Prenesite TPC-H_Tools_v2.17.3.zip (ali novejšo različico) .
- Preimenujte makefile.suite v Makefile in spremenite, kot je opisano tukaj: . Prevedite kodo z ukazom make.
- Ustvari podatke:
./dbgen -s 10ustvari bazo podatkov 23 GB. To je dovolj, da vidimo razliko v uspešnosti vzporednih in nevzporednih poizvedb. - Pretvori datoteke
tblвcsv с forиsed. - Klonirajte repozitorij
pg_tpchin kopirajte datotekecsvвpg_tpch/dss/data. - Ustvarite poizvedbe z ukazom
qgen. - Z ukazom naloži podatke v bazo podatkov
./tpch.sh.
Vzporedno zaporedno skeniranje
Morda ni hitrejši zaradi vzporednega branja, temveč zato, ker so podatki razpršeni po številnih jedrih CPE. V sodobnih operacijskih sistemih so podatkovne datoteke PostgreSQL dobro predpomnjene. Z vnaprejšnjim branjem je mogoče dobiti večji blok iz pomnilnika, kot zahteva demon PG. Zato zmogljivost poizvedbe ni omejena z V/I diska. Porabi cikle procesorja za:
- branje vrstic eno za drugo s strani tabele;
- primerjajte vrednosti in pogoje nizov
WHERE.
Zaženimo preprosto poizvedbo select:
tpch=# explain analyze select l_quantity as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------
Seq Scan on lineitem (cost=0.00..1964772.00 rows=58856235 width=5) (actual time=0.014..16951.669 rows=58839715 loops=1)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 1146337
Planning Time: 0.203 ms
Execution Time: 19035.100 msZaporedno skeniranje proizvede preveč vrstic brez združevanja, zato poizvedbo izvede eno jedro CPE.
Če dodate SUM(), lahko vidite, da bosta dva poteka dela pomagala pospešiti poizvedbo:
explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 msVzporedno združevanje
Vozlišče Parallel Seq Scan ustvari vrstice za delno združevanje. Vozlišče "Delni agregat" te črte obreže z uporabo SUM(). Na koncu vozlišče »Gather« zbere števec SUM iz vsakega delovnega procesa.
Končni rezultat izračuna vozlišče »Finalize Aggregate«. Če imate lastne funkcije združevanja, jih ne pozabite označiti kot "vzporedno varno".
Število delovnih procesov
Število delovnih procesov je mogoče povečati brez ponovnega zagona strežnika:
explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 msKaj se tukaj dogaja? Delovnih procesov je bilo 2-krat več, zahteva pa je postala le 1,6599-krat hitrejša. Izračuni so zanimivi. Imeli smo 2 delavska procesa in 1 vodjo. Po menjavi je postalo 4+1.
Naša največja pospešitev zaradi vzporedne obdelave: 5/3 = 1,66(6)-krat.
Kako deluje?
Procesi
Izvedba zahteve se vedno začne z vodilnim procesom. Vodja dela vse nevzporedno in nekaj vzporedne obdelave. Drugi procesi, ki izvajajo iste zahteve, se imenujejo delovni procesi. Vzporedna obdelava uporablja infrastrukturo (od različice 9.4). Ker drugi deli PostgreSQL uporabljajo procese namesto niti, je lahko poizvedba s 3 delovnimi procesi 4-krat hitrejša od tradicionalne obdelave.
Interakcija
Delovni procesi komunicirajo z vodjo prek čakalne vrste sporočil (na podlagi skupnega pomnilnika). Vsak proces ima 2 čakalni vrsti: za napake in za tuple.
Koliko delovnih tokov je potrebnih?
Najmanjša meja je določena s parametrom . Izvajalec zahtev nato vzame delovne procese iz skupine, omejene s parametrom . Zadnja omejitev je , to je skupno število procesov v ozadju.
Če delavskega procesa ni bilo mogoče dodeliti, bo obdelava enoprocesna.
Načrtovalnik poizvedb lahko zmanjša poteke dela glede na velikost tabele ali indeksa. Za to obstajajo parametri и .
set min_parallel_table_scan_size='8MB'
8MB table => 1 worker
24MB table => 2 workers
72MB table => 3 workers
x => log(x / min_parallel_table_scan_size) / log(3) + 1 workerVsakič, ko je miza 3-krat večja od min_parallel_(index|table)_scan_size, Postgres doda delovni proces. Število delovnih tokov ne temelji na stroških. Krožna odvisnost otežuje kompleksne izvedbe. Namesto tega načrtovalec uporablja preprosta pravila.
V praksi ta pravila niso vedno primerna za proizvodnjo, zato lahko spremenite število delovnih procesov za določeno tabelo: ALTER TABLE ... SET (parallel_workers = N).
Zakaj se vzporedna obdelava ne uporablja?
Poleg dolgega seznama omejitev obstajajo tudi pregledi stroškov:
- izogibanje vzporedni obdelavi kratkih zahtev. Ta parameter ocenjuje čas za pripravo pomnilnika, začetek procesa in začetno izmenjavo podatkov.
: komunikacija med vodjo in delavci je lahko zakasnjena sorazmerno s številom tuplov iz delovnih procesov. Ta parameter izračuna stroške izmenjave podatkov.
Spoji ugnezdene zanke
PostgreSQL 9.6+ может выполнять вложенные циклы параллельно — это простая операция.
explain (costs off) select c_custkey, count(o_orderkey)
from customer left outer join orders on
c_custkey = o_custkey and o_comment not like '%special%deposits%'
group by c_custkey;
QUERY PLAN
--------------------------------------------------------------------------------------
Finalize GroupAggregate
Group Key: customer.c_custkey
-> Gather Merge
Workers Planned: 4
-> Partial GroupAggregate
Group Key: customer.c_custkey
-> Nested Loop Left Join
-> Parallel Index Only Scan using customer_pkey on customer
-> Index Scan using idx_orders_custkey on orders
Index Cond: (customer.c_custkey = o_custkey)
Filter: ((o_comment)::text !~~ '%special%deposits%'::text)Zbiranje poteka na zadnji stopnji, zato je levo združevanje ugnezdene zanke vzporedna operacija. Parallel Index Only Scan je bil predstavljen šele v različici 10. Deluje podobno kot vzporedno zaporedno skeniranje. Pogoj c_custkey = o_custkey prebere eno naročilo na odjemalski niz. Torej ni vzporedno.
Zgoščena pridružitev
Vsak delovni proces ustvari lastno razpršilno tabelo do PostgreSQL 11. In če je teh procesov več kot štiri, se zmogljivost ne bo izboljšala. V novi različici je zgoščena tabela v skupni rabi. Vsak delovni proces lahko uporabi WORK_MEM za ustvarjanje zgoščene tabele.
select
l_shipmode,
sum(case
when o_orderpriority = '1-URGENT'
or o_orderpriority = '2-HIGH'
then 1
else 0
end) as high_line_count,
sum(case
when o_orderpriority <> '1-URGENT'
and o_orderpriority <> '2-HIGH'
then 1
else 0
end) as low_line_count
from
orders,
lineitem
where
o_orderkey = l_orderkey
and l_shipmode in ('MAIL', 'AIR')
and l_commitdate < l_receiptdate
and l_shipdate < l_commitdate
and l_receiptdate >= date '1996-01-01'
and l_receiptdate < date '1996-01-01' + interval '1' year
group by
l_shipmode
order by
l_shipmode
LIMIT 1;
QUERY PLAN
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=1964755.66..1964961.44 rows=1 width=27) (actual time=7579.592..7922.997 rows=1 loops=1)
-> Finalize GroupAggregate (cost=1964755.66..1966196.11 rows=7 width=27) (actual time=7579.590..7579.591 rows=1 loops=1)
Group Key: lineitem.l_shipmode
-> Gather Merge (cost=1964755.66..1966195.83 rows=28 width=27) (actual time=7559.593..7922.319 rows=6 loops=1)
Workers Planned: 4
Workers Launched: 4
-> Partial GroupAggregate (cost=1963755.61..1965192.44 rows=7 width=27) (actual time=7548.103..7564.592 rows=2 loops=5)
Group Key: lineitem.l_shipmode
-> Sort (cost=1963755.61..1963935.20 rows=71838 width=27) (actual time=7530.280..7539.688 rows=62519 loops=5)
Sort Key: lineitem.l_shipmode
Sort Method: external merge Disk: 2304kB
Worker 0: Sort Method: external merge Disk: 2064kB
Worker 1: Sort Method: external merge Disk: 2384kB
Worker 2: Sort Method: external merge Disk: 2264kB
Worker 3: Sort Method: external merge Disk: 2336kB
-> Parallel Hash Join (cost=382571.01..1957960.99 rows=71838 width=27) (actual time=7036.917..7499.692 rows=62519 loops=5)
Hash Cond: (lineitem.l_orderkey = orders.o_orderkey)
-> Parallel Seq Scan on lineitem (cost=0.00..1552386.40 rows=71838 width=19) (actual time=0.583..4901.063 rows=62519 loops=5)
Filter: ((l_shipmode = ANY ('{MAIL,AIR}'::bpchar[])) AND (l_commitdate < l_receiptdate) AND (l_shipdate < l_commitdate) AND (l_receiptdate >= '1996-01-01'::date) AND (l_receiptdate < '1997-01-01 00:00:00'::timestamp without time zone))
Rows Removed by Filter: 11934691
-> Parallel Hash (cost=313722.45..313722.45 rows=3750045 width=20) (actual time=2011.518..2011.518 rows=3000000 loops=5)
Buckets: 65536 Batches: 256 Memory Usage: 3840kB
-> Parallel Seq Scan on orders (cost=0.00..313722.45 rows=3750045 width=20) (actual time=0.029..995.948 rows=3000000 loops=5)
Planning Time: 0.977 ms
Execution Time: 7923.770 msPoizvedba 12 iz TPC-H jasno kaže vzporedno zgoščevalno povezavo. Vsak delovni proces prispeva k ustvarjanju skupne zgoščene tabele.
Spoji Pridružite se
Spajanje po naravi je nevzporedno. Ne skrbite, če je to zadnji korak poizvedbe – še vedno se lahko izvaja vzporedno.
-- Query 2 from TPC-H
explain (costs off) select s_acctbal, s_name, n_name, p_partkey, p_mfgr, s_address, s_phone, s_comment
from part, supplier, partsupp, nation, region
where
p_partkey = ps_partkey
and s_suppkey = ps_suppkey
and p_size = 36
and p_type like '%BRASS'
and s_nationkey = n_nationkey
and n_regionkey = r_regionkey
and r_name = 'AMERICA'
and ps_supplycost = (
select
min(ps_supplycost)
from partsupp, supplier, nation, region
where
p_partkey = ps_partkey
and s_suppkey = ps_suppkey
and s_nationkey = n_nationkey
and n_regionkey = r_regionkey
and r_name = 'AMERICA'
)
order by s_acctbal desc, n_name, s_name, p_partkey
LIMIT 100;
QUERY PLAN
----------------------------------------------------------------------------------------------------------
Limit
-> Sort
Sort Key: supplier.s_acctbal DESC, nation.n_name, supplier.s_name, part.p_partkey
-> Merge Join
Merge Cond: (part.p_partkey = partsupp.ps_partkey)
Join Filter: (partsupp.ps_supplycost = (SubPlan 1))
-> Gather Merge
Workers Planned: 4
-> Parallel Index Scan using <strong>part_pkey</strong> on part
Filter: (((p_type)::text ~~ '%BRASS'::text) AND (p_size = 36))
-> Materialize
-> Sort
Sort Key: partsupp.ps_partkey
-> Nested Loop
-> Nested Loop
Join Filter: (nation.n_regionkey = region.r_regionkey)
-> Seq Scan on region
Filter: (r_name = 'AMERICA'::bpchar)
-> Hash Join
Hash Cond: (supplier.s_nationkey = nation.n_nationkey)
-> Seq Scan on supplier
-> Hash
-> Seq Scan on nation
-> Index Scan using idx_partsupp_suppkey on partsupp
Index Cond: (ps_suppkey = supplier.s_suppkey)
SubPlan 1
-> Aggregate
-> Nested Loop
Join Filter: (nation_1.n_regionkey = region_1.r_regionkey)
-> Seq Scan on region region_1
Filter: (r_name = 'AMERICA'::bpchar)
-> Nested Loop
-> Nested Loop
-> Index Scan using idx_partsupp_partkey on partsupp partsupp_1
Index Cond: (part.p_partkey = ps_partkey)
-> Index Scan using supplier_pkey on supplier supplier_1
Index Cond: (s_suppkey = partsupp_1.ps_suppkey)
-> Index Scan using nation_pkey on nation nation_1
Index Cond: (n_nationkey = supplier_1.s_nationkey)Vozlišče »Spoji združi« se nahaja nad »Združi združi«. Tako združevanje ne uporablja vzporedne obdelave. Toda vozlišče »Parallel Index Scan« še vedno pomaga pri segmentu part_pkey.
Povezava po odsekih
V PostgreSQL 11 privzeto onemogočeno: ima zelo drago razporejanje. Tabele s podobnimi particijami je mogoče združiti particijo za particijo. Na ta način bo Postgres uporabljal manjše zgoščene tabele. Vsaka povezava odsekov je lahko vzporedna.
tpch=# set enable_partitionwise_join=t;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
QUERY PLAN
---------------------------------------------------
Append
-> Hash Join
Hash Cond: (t2.b = t1.a)
-> Seq Scan on prt2_p1 t2
Filter: ((b >= 0) AND (b <= 10000))
-> Hash
-> Seq Scan on prt1_p1 t1
Filter: (b = 0)
-> Hash Join
Hash Cond: (t2_1.b = t1_1.a)
-> Seq Scan on prt2_p2 t2_1
Filter: ((b >= 0) AND (b <= 10000))
-> Hash
-> Seq Scan on prt1_p2 t1_1
Filter: (b = 0)
tpch=# set parallel_setup_cost = 1;
tpch=# set parallel_tuple_cost = 0.01;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
QUERY PLAN
-----------------------------------------------------------
Gather
Workers Planned: 4
-> Parallel Append
-> Parallel Hash Join
Hash Cond: (t2_1.b = t1_1.a)
-> Parallel Seq Scan on prt2_p2 t2_1
Filter: ((b >= 0) AND (b <= 10000))
-> Parallel Hash
-> Parallel Seq Scan on prt1_p2 t1_1
Filter: (b = 0)
-> Parallel Hash Join
Hash Cond: (t2.b = t1.a)
-> Parallel Seq Scan on prt2_p1 t2
Filter: ((b >= 0) AND (b <= 10000))
-> Parallel Hash
-> Parallel Seq Scan on prt1_p1 t1
Filter: (b = 0)Glavna stvar je, da je povezava v odsekih vzporedna le, če so ti odseki dovolj veliki.
Parallel Append
se lahko uporablja namesto različnih blokov v različnih potekih dela. To se običajno zgodi pri poizvedbah UNION ALL. Pomanjkljivost je manjši paralelizem, ker vsak delovni proces obdela samo 1 zahtevo.
Tukaj se izvajata 2 delovna procesa, čeprav so 4 omogočeni.
tpch=# explain (costs off) select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day union all select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '2000-12-01' - interval '105' day;
QUERY PLAN
------------------------------------------------------------------------------------------------
Gather
Workers Planned: 2
-> Parallel Append
-> Aggregate
-> Seq Scan on lineitem
Filter: (l_shipdate <= '2000-08-18 00:00:00'::timestamp without time zone)
-> Aggregate
-> Seq Scan on lineitem lineitem_1
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)Najpomembnejše spremenljivke
- WORK_MEM omejuje pomnilnik na proces, ne le na poizvedbe: work_mem procesov povezave = veliko pomnilnika.
- — koliko delovnih procesov bo izvajalni program uporabil za vzporedno obdelavo iz načrta.
- — prilagodi skupno število delovnih procesov številu jeder CPU na strežniku.
- - enako, vendar za vzporedne delovne procese.
Rezultati
Od različice 9.6 naprej lahko vzporedna obdelava močno izboljša učinkovitost zapletenih poizvedb, ki pregledujejo številne vrstice ali indekse. V PostgreSQL 10 je vzporedna obdelava privzeto omogočena. Ne pozabite ga onemogočiti na strežnikih z veliko obremenitvijo OLTP. Zaporedni pregledi ali pregledi indeksov porabijo veliko virov. Če ne izvajate poročila o celotnem naboru podatkov, lahko izboljšate učinkovitost poizvedb tako, da preprosto dodate manjkajoče indekse ali uporabite ustrezno particioniranje.
reference
Vir: www.habr.com