CPU-të moderne kanë shumë bërthama. Për vite me radhë, aplikacionet kanë dërguar pyetje në bazat e të dhënave paralelisht. Nëse është një pyetje raporti në rreshta të shumtë në një tabelë, ai funksionon më shpejt kur përdorni CPU të shumta dhe PostgreSQL ka qenë në gjendje ta bëjë këtë që nga versioni 9.6.
U deshën 3 vjet për të zbatuar veçorinë e pyetjeve paralele - na u desh të rishkruanim kodin në faza të ndryshme të ekzekutimit të pyetjes. PostgreSQL 9.6 prezantoi infrastrukturën për të përmirësuar më tej kodin. Në versionet e mëvonshme, llojet e tjera të pyetjeve ekzekutohen paralelisht.
Kufizimet
- Mos aktivizoni ekzekutimin paralel nëse të gjitha bërthamat janë tashmë të zëna, përndryshe kërkesat e tjera do të ngadalësohen.
- Më e rëndësishmja, përpunimi paralel me vlera të larta WORK_MEM përdor shumë memorie - çdo bashkim hash ose renditje merr memorie work_mem.
- Pyetjet OLTP me vonesë të ulët nuk mund të përshpejtohen nga ekzekutimi paralel. Dhe nëse pyetja kthen një rresht, përpunimi paralel vetëm do ta ngadalësojë atë.
- Zhvilluesve u pëlqen të përdorin standardin TPC-H. Ndoshta keni pyetje të ngjashme për ekzekutim paralel të përsosur.
- Vetëm pyetjet SELECT pa kyçje predikate ekzekutohen paralelisht.
- Ndonjëherë indeksimi i duhur është më i mirë se skanimi i njëpasnjëshëm i tabelës në modalitetin paralel.
- Ndërprerja e pyetjeve dhe kursorëve nuk mbështetet.
- Funksionet e dritares dhe funksionet agregate të grupeve të renditura nuk janë paralele.
- Ju nuk fitoni asgjë në ngarkesën e punës I/O.
- Nuk ka algoritme paralele të renditjes. Por pyetjet me renditje mund të ekzekutohen paralelisht në disa aspekte.
- Zëvendësoni CTE (ME ...) me një SELECT të vendosur për të mundësuar përpunimin paralel.
- Mbështjellësit e të dhënave të palëve të treta nuk mbështesin ende përpunimin paralel (por mund!)
- BASHKIMI I PLOTË I JASHTËM nuk mbështetet.
- max_rows çaktivizon përpunimin paralel.
- Nëse një pyetje ka një funksion që nuk është shënuar PARALLEL SAFE, ai do të jetë me një fije të vetme.
- Niveli i izolimit të transaksionit SERIALIZABLE çaktivizon përpunimin paralel.
Mjedisi i testimit
Zhvilluesit e PostgreSQL u përpoqën të reduktonin kohën e përgjigjes së pyetjeve të standardeve TPC-H. Shkarkoni standardin dhe . Ky është një përdorim jozyrtar i standardit TPC-H - jo për krahasimin e bazës së të dhënave ose harduerit.
- Shkarko TPC-H_Tools_v2.17.3.zip (ose version më të ri) .
- Riemërto makefile.suite në Makefile dhe ndrysho siç përshkruhet këtu: . Përpiloni kodin me komandën make.
- Gjeneroni të dhëna:
./dbgen -s 10krijon një bazë të dhënash 23 GB. Kjo është e mjaftueshme për të parë ndryshimin në performancën e pyetjeve paralele dhe joparalele. - Konvertoni skedarë
tblвcsv с forиsed. - Klononi depon
pg_tpchdhe kopjoni skedarëtcsvвpg_tpch/dss/data. - Krijoni pyetje me një komandë
qgen. - Ngarkoni të dhënat në bazën e të dhënave me komandën
./tpch.sh.
Skanim paralel sekuencial
Mund të jetë më i shpejtë jo për shkak të leximit paralel, por sepse të dhënat shpërndahen në shumë bërthama të CPU-së. Në sistemet moderne operative, skedarët e të dhënave PostgreSQL ruhen mirë. Me lexim përpara, është e mundur të merrni një bllok më të madh nga ruajtja sesa kërkesat e demonit PG. Prandaj, performanca e pyetjes nuk kufizohet nga I/O e diskut. Ai konsumon ciklet e CPU për:
- lexoni rreshtat një nga një nga faqet e tabelës;
- krahasoni vlerat dhe kushtet e vargut
WHERE.
Le të bëjmë një pyetje të thjeshtë select:
tpch=# explain analyze select l_quantity as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------
Seq Scan on lineitem (cost=0.00..1964772.00 rows=58856235 width=5) (actual time=0.014..16951.669 rows=58839715 loops=1)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 1146337
Planning Time: 0.203 ms
Execution Time: 19035.100 msSkanimi sekuencial prodhon shumë rreshta pa grumbullim, kështu që pyetja ekzekutohet nga një bërthamë e vetme CPU.
Nëse shtoni SUM(), mund të shihni se dy rrjedha pune do të ndihmojnë në përshpejtimin e pyetjes:
explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 msGrumbullimi paralel
Nyja Parallel Seq Scan prodhon rreshta për grumbullim të pjesshëm. Nyja "Parial Aggregate" shkurton këto rreshta duke përdorur SUM(). Në fund, numëruesi SUM nga çdo proces punëtor mblidhet nga nyja “Gather”.
Rezultati përfundimtar llogaritet nga nyja "Finalize Aggregate". Nëse keni funksionet tuaja të grumbullimit, mos harroni t'i shënoni ato si "paralele të sigurta".
Numri i proceseve të punëtorëve
Numri i proceseve të punëtorëve mund të rritet pa rifilluar serverin:
explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 msCfare po ndodh ketu? Ka pasur 2 herë më shumë procese pune dhe kërkesa është bërë vetëm 1,6599 herë më e shpejtë. Llogaritjet janë interesante. Kishim 2 procese pune dhe 1 drejtues. Pas ndryshimit u bë 4+1.
Shpejtësia jonë maksimale nga përpunimi paralel: 5/3 = 1,66 (6) herë.
Si funksionon kjo gjë?
proceset
Ekzekutimi i kërkesës gjithmonë fillon me procesin drejtues. Udhëheqësi bën gjithçka jo paralele dhe disa përpunime paralele. Proceset e tjera që kryejnë të njëjtat kërkesa quhen procese punëtore. Përpunimi paralel përdor infrastrukturën (nga versioni 9.4). Meqenëse pjesët e tjera të PostgreSQL përdorin procese në vend të thread-ave, një pyetje me 3 procese punonjëse mund të jetë 4 herë më e shpejtë se përpunimi tradicional.
Bashkëveprim
Proceset e punës komunikojnë me liderin përmes një radhe mesazhesh (bazuar në kujtesën e përbashkët). Çdo proces ka 2 radhë: për gabime dhe për tuples.
Sa flukse pune nevojiten?
Kufiri minimal përcaktohet nga parametri . Drejtuesi i kërkesës më pas merr proceset e punëtorit nga grupi i kufizuar nga parametri . Kufizimi i fundit është , domethënë numri i përgjithshëm i proceseve të sfondit.
Nëse nuk do të ishte e mundur të ndahej një proces pune, përpunimi do të jetë një procesor.
Planifikuesi i pyetjeve mund të zvogëlojë rrjedhat e punës në varësi të madhësisë së tabelës ose indeksit. Ka parametra për këtë и .
set min_parallel_table_scan_size='8MB'
8MB table => 1 worker
24MB table => 2 workers
72MB table => 3 workers
x => log(x / min_parallel_table_scan_size) / log(3) + 1 workerÇdo herë tabela është 3 herë më e madhe se min_parallel_(index|table)_scan_size, Postgres shton një proces pune. Numri i flukseve të punës nuk bazohet në kosto. Varësia rrethore i bën të vështira implementimet komplekse. Në vend të kësaj, planifikuesi përdor rregulla të thjeshta.
Në praktikë, këto rregulla nuk janë gjithmonë të përshtatshme për prodhim, kështu që ju mund të ndryshoni numrin e proceseve të punëtorëve për një tabelë specifike: ALTER TABLE ... SET (parallel_workers = N).
Pse nuk përdoret përpunimi paralel?
Përveç listës së gjatë të kufizimeve, ka edhe kontrolle të kostos:
- për të shmangur përpunimin paralel të kërkesave të shkurtra. Ky parametër vlerëson kohën për përgatitjen e memories, fillimin e procesit dhe shkëmbimin fillestar të të dhënave.
: komunikimi ndërmjet drejtuesit dhe punëtorëve mund të vonohet në përpjesëtim me numrin e tupleve nga proceset e punës. Ky parametër llogarit koston e shkëmbimit të të dhënave.
Lidhjet e Nested Loop
PostgreSQL 9.6+ может выполнять вложенные циклы параллельно — это простая операция.
explain (costs off) select c_custkey, count(o_orderkey)
from customer left outer join orders on
c_custkey = o_custkey and o_comment not like '%special%deposits%'
group by c_custkey;
QUERY PLAN
--------------------------------------------------------------------------------------
Finalize GroupAggregate
Group Key: customer.c_custkey
-> Gather Merge
Workers Planned: 4
-> Partial GroupAggregate
Group Key: customer.c_custkey
-> Nested Loop Left Join
-> Parallel Index Only Scan using customer_pkey on customer
-> Index Scan using idx_orders_custkey on orders
Index Cond: (customer.c_custkey = o_custkey)
Filter: ((o_comment)::text !~~ '%special%deposits%'::text)Mbledhja ndodh në fazën e fundit, kështu që Nested Loop Left Join është një operacion paralel. Paralel Index Only Scan u prezantua vetëm në versionin 10. Punon ngjashëm me skanimin serial paralel. gjendja c_custkey = o_custkey lexon një porosi për vargun e klientit. Pra nuk është paralele.
Hash Join
Çdo proces i punës krijon tabelën e vet hash deri në PostgreSQL 11. Dhe nëse ka më shumë se katër nga këto procese, performanca nuk do të përmirësohet. Në versionin e ri, tabela hash është e përbashkët. Çdo proces punonjës mund të përdorë WORK_MEM për të krijuar një tabelë hash.
select
l_shipmode,
sum(case
when o_orderpriority = '1-URGENT'
or o_orderpriority = '2-HIGH'
then 1
else 0
end) as high_line_count,
sum(case
when o_orderpriority <> '1-URGENT'
and o_orderpriority <> '2-HIGH'
then 1
else 0
end) as low_line_count
from
orders,
lineitem
where
o_orderkey = l_orderkey
and l_shipmode in ('MAIL', 'AIR')
and l_commitdate < l_receiptdate
and l_shipdate < l_commitdate
and l_receiptdate >= date '1996-01-01'
and l_receiptdate < date '1996-01-01' + interval '1' year
group by
l_shipmode
order by
l_shipmode
LIMIT 1;
QUERY PLAN
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=1964755.66..1964961.44 rows=1 width=27) (actual time=7579.592..7922.997 rows=1 loops=1)
-> Finalize GroupAggregate (cost=1964755.66..1966196.11 rows=7 width=27) (actual time=7579.590..7579.591 rows=1 loops=1)
Group Key: lineitem.l_shipmode
-> Gather Merge (cost=1964755.66..1966195.83 rows=28 width=27) (actual time=7559.593..7922.319 rows=6 loops=1)
Workers Planned: 4
Workers Launched: 4
-> Partial GroupAggregate (cost=1963755.61..1965192.44 rows=7 width=27) (actual time=7548.103..7564.592 rows=2 loops=5)
Group Key: lineitem.l_shipmode
-> Sort (cost=1963755.61..1963935.20 rows=71838 width=27) (actual time=7530.280..7539.688 rows=62519 loops=5)
Sort Key: lineitem.l_shipmode
Sort Method: external merge Disk: 2304kB
Worker 0: Sort Method: external merge Disk: 2064kB
Worker 1: Sort Method: external merge Disk: 2384kB
Worker 2: Sort Method: external merge Disk: 2264kB
Worker 3: Sort Method: external merge Disk: 2336kB
-> Parallel Hash Join (cost=382571.01..1957960.99 rows=71838 width=27) (actual time=7036.917..7499.692 rows=62519 loops=5)
Hash Cond: (lineitem.l_orderkey = orders.o_orderkey)
-> Parallel Seq Scan on lineitem (cost=0.00..1552386.40 rows=71838 width=19) (actual time=0.583..4901.063 rows=62519 loops=5)
Filter: ((l_shipmode = ANY ('{MAIL,AIR}'::bpchar[])) AND (l_commitdate < l_receiptdate) AND (l_shipdate < l_commitdate) AND (l_receiptdate >= '1996-01-01'::date) AND (l_receiptdate < '1997-01-01 00:00:00'::timestamp without time zone))
Rows Removed by Filter: 11934691
-> Parallel Hash (cost=313722.45..313722.45 rows=3750045 width=20) (actual time=2011.518..2011.518 rows=3000000 loops=5)
Buckets: 65536 Batches: 256 Memory Usage: 3840kB
-> Parallel Seq Scan on orders (cost=0.00..313722.45 rows=3750045 width=20) (actual time=0.029..995.948 rows=3000000 loops=5)
Planning Time: 0.977 ms
Execution Time: 7923.770 msPyetja 12 nga TPC-H tregon qartë një lidhje paralele hash. Çdo proces i punës kontribuon në krijimin e një tabele të përbashkët hash.
Merge Join
Një bashkim i bashkimit nuk është paralel në natyrë. Mos u shqetësoni nëse ky është hapi i fundit i pyetjes - ai ende mund të funksionojë paralelisht.
-- Query 2 from TPC-H
explain (costs off) select s_acctbal, s_name, n_name, p_partkey, p_mfgr, s_address, s_phone, s_comment
from part, supplier, partsupp, nation, region
where
p_partkey = ps_partkey
and s_suppkey = ps_suppkey
and p_size = 36
and p_type like '%BRASS'
and s_nationkey = n_nationkey
and n_regionkey = r_regionkey
and r_name = 'AMERICA'
and ps_supplycost = (
select
min(ps_supplycost)
from partsupp, supplier, nation, region
where
p_partkey = ps_partkey
and s_suppkey = ps_suppkey
and s_nationkey = n_nationkey
and n_regionkey = r_regionkey
and r_name = 'AMERICA'
)
order by s_acctbal desc, n_name, s_name, p_partkey
LIMIT 100;
QUERY PLAN
----------------------------------------------------------------------------------------------------------
Limit
-> Sort
Sort Key: supplier.s_acctbal DESC, nation.n_name, supplier.s_name, part.p_partkey
-> Merge Join
Merge Cond: (part.p_partkey = partsupp.ps_partkey)
Join Filter: (partsupp.ps_supplycost = (SubPlan 1))
-> Gather Merge
Workers Planned: 4
-> Parallel Index Scan using <strong>part_pkey</strong> on part
Filter: (((p_type)::text ~~ '%BRASS'::text) AND (p_size = 36))
-> Materialize
-> Sort
Sort Key: partsupp.ps_partkey
-> Nested Loop
-> Nested Loop
Join Filter: (nation.n_regionkey = region.r_regionkey)
-> Seq Scan on region
Filter: (r_name = 'AMERICA'::bpchar)
-> Hash Join
Hash Cond: (supplier.s_nationkey = nation.n_nationkey)
-> Seq Scan on supplier
-> Hash
-> Seq Scan on nation
-> Index Scan using idx_partsupp_suppkey on partsupp
Index Cond: (ps_suppkey = supplier.s_suppkey)
SubPlan 1
-> Aggregate
-> Nested Loop
Join Filter: (nation_1.n_regionkey = region_1.r_regionkey)
-> Seq Scan on region region_1
Filter: (r_name = 'AMERICA'::bpchar)
-> Nested Loop
-> Nested Loop
-> Index Scan using idx_partsupp_partkey on partsupp partsupp_1
Index Cond: (part.p_partkey = ps_partkey)
-> Index Scan using supplier_pkey on supplier supplier_1
Index Cond: (s_suppkey = partsupp_1.ps_suppkey)
-> Index Scan using nation_pkey on nation nation_1
Index Cond: (n_nationkey = supplier_1.s_nationkey)Nyja "Merge Join" ndodhet mbi "Gather Merge". Pra, bashkimi nuk përdor përpunim paralel. Por nyja "Parallel Index Scan" ende ndihmon me segmentin part_pkey.
Lidhja sipas seksioneve
Në PostgreSQL 11 i çaktivizuar si parazgjedhje: ka një planifikim shumë të shtrenjtë. Tabelat me ndarje të ngjashme mund të bashkohen ndarje pas ndarje. Në këtë mënyrë Postgres do të përdorë tabela hash më të vogla. Çdo lidhje e seksioneve mund të jetë paralele.
tpch=# set enable_partitionwise_join=t;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
QUERY PLAN
---------------------------------------------------
Append
-> Hash Join
Hash Cond: (t2.b = t1.a)
-> Seq Scan on prt2_p1 t2
Filter: ((b >= 0) AND (b <= 10000))
-> Hash
-> Seq Scan on prt1_p1 t1
Filter: (b = 0)
-> Hash Join
Hash Cond: (t2_1.b = t1_1.a)
-> Seq Scan on prt2_p2 t2_1
Filter: ((b >= 0) AND (b <= 10000))
-> Hash
-> Seq Scan on prt1_p2 t1_1
Filter: (b = 0)
tpch=# set parallel_setup_cost = 1;
tpch=# set parallel_tuple_cost = 0.01;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
QUERY PLAN
-----------------------------------------------------------
Gather
Workers Planned: 4
-> Parallel Append
-> Parallel Hash Join
Hash Cond: (t2_1.b = t1_1.a)
-> Parallel Seq Scan on prt2_p2 t2_1
Filter: ((b >= 0) AND (b <= 10000))
-> Parallel Hash
-> Parallel Seq Scan on prt1_p2 t1_1
Filter: (b = 0)
-> Parallel Hash Join
Hash Cond: (t2.b = t1.a)
-> Parallel Seq Scan on prt2_p1 t2
Filter: ((b >= 0) AND (b <= 10000))
-> Parallel Hash
-> Parallel Seq Scan on prt1_p1 t1
Filter: (b = 0)Gjëja kryesore është se lidhja në seksione është paralele vetëm nëse këto seksione janë mjaft të mëdha.
Shtojca paralele
mund të përdoret në vend të blloqeve të ndryshme në rrjedha të ndryshme pune. Kjo zakonisht ndodh me pyetjet UNION ALL. Disavantazhi është më pak paralelizëm, sepse çdo proces punonjësi përpunon vetëm 1 kërkesë.
Këtu funksionojnë 2 procese pune, megjithëse 4 janë aktivizuar.
tpch=# explain (costs off) select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day union all select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '2000-12-01' - interval '105' day;
QUERY PLAN
------------------------------------------------------------------------------------------------
Gather
Workers Planned: 2
-> Parallel Append
-> Aggregate
-> Seq Scan on lineitem
Filter: (l_shipdate <= '2000-08-18 00:00:00'::timestamp without time zone)
-> Aggregate
-> Seq Scan on lineitem lineitem_1
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)Variablat më të rëndësishëm
- WORK_MEM kufizon kujtesën për proces, jo vetëm pyetjet: work_mem proceset lidhje = shumë memorie.
- — sa procese punëtore do të përdorë programi ekzekutues për përpunim paralel nga plani.
- — rregullon numrin total të proceseve të punës me numrin e bërthamave të CPU-së në server.
- - e njëjta gjë, por për proceset paralele të punës.
Rezultatet e
Që nga versioni 9.6, përpunimi paralel mund të përmirësojë shumë performancën e pyetjeve komplekse që skanojnë shumë rreshta ose indekse. Në PostgreSQL 10, përpunimi paralel është aktivizuar si parazgjedhje. Mos harroni ta çaktivizoni atë në serverët me një ngarkesë të madhe pune OLTP. Skanimet sekuenciale ose skanimet e indeksit konsumojnë shumë burime. Nëse nuk po ekzekutoni një raport për të gjithë grupin e të dhënave, mund të përmirësoni performancën e pyetjes thjesht duke shtuar indekset që mungojnë ose duke përdorur ndarjen e duhur.
Referencat
Burimi: www.habr.com