Παράλληλες ερωτήσεις στην PostgreSQL

Παράλληλες ερωτήσεις στην PostgreSQL
Οι σύγχρονοι CPU έχουν πολλούς πυρήνες. Για χρόνια, οι εφαρμογές στέλνουν ερωτήματα σε βάσεις δεδομένων παράλληλα. Εάν πρόκειται για ερώτημα αναφοράς σε πολλές σειρές σε έναν πίνακα, εκτελείται πιο γρήγορα όταν χρησιμοποιούνται πολλές CPU και η PostgreSQL μπορεί να το κάνει αυτό από την έκδοση 9.6.

Χρειάστηκαν 3 χρόνια για να υλοποιηθεί η δυνατότητα παράλληλου ερωτήματος - έπρεπε να ξαναγράψουμε τον κώδικα σε διαφορετικά στάδια της εκτέλεσης του ερωτήματος. Η PostgreSQL 9.6 εισήγαγε υποδομή για περαιτέρω βελτίωση του κώδικα. Σε επόμενες εκδόσεις, άλλοι τύποι ερωτημάτων εκτελούνται παράλληλα.

Περιορισμοί

  • Μην ενεργοποιείτε την παράλληλη εκτέλεση εάν όλοι οι πυρήνες είναι ήδη απασχολημένοι, διαφορετικά άλλα αιτήματα θα επιβραδυνθούν.
  • Το πιο σημαντικό, η παράλληλη επεξεργασία με υψηλές τιμές WORK_MEM χρησιμοποιεί πολλή μνήμη - κάθε σύνδεση κατακερματισμού ή ταξινόμηση καταλαμβάνει μνήμη work_mem.
  • Τα ερωτήματα OLTP χαμηλής καθυστέρησης δεν μπορούν να επιταχυνθούν με παράλληλη εκτέλεση. Και αν το ερώτημα επιστρέψει μία σειρά, η παράλληλη επεξεργασία θα το επιβραδύνει.
  • Στους προγραμματιστές αρέσει να χρησιμοποιούν το σημείο αναφοράς TPC-H. Ίσως έχετε παρόμοια ερωτήματα για τέλεια παράλληλη εκτέλεση.
  • Μόνο τα ερωτήματα SELECT χωρίς κλείδωμα κατηγορήματος εκτελούνται παράλληλα.
  • Μερικές φορές η σωστή ευρετηρίαση είναι καλύτερη από τη διαδοχική σάρωση πίνακα σε παράλληλη λειτουργία.
  • Η παύση ερωτημάτων και δρομέων δεν υποστηρίζεται.
  • Οι συναρτήσεις παραθύρου και οι συναρτήσεις συγκεντρωτικών διατεταγμένων συνόλων δεν είναι παράλληλες.
  • Δεν κερδίζετε τίποτα στον φόρτο εργασίας I/O.
  • Δεν υπάρχουν παράλληλοι αλγόριθμοι ταξινόμησης. Αλλά τα ερωτήματα με ταξινόμηση μπορούν να εκτελεστούν παράλληλα σε ορισμένες πτυχές.
  • Αντικαταστήστε το CTE (WITH ...) με ένα ένθετο SELECT για να ενεργοποιήσετε την παράλληλη επεξεργασία.
  • Τα περιτυλίγματα δεδομένων τρίτων δεν υποστηρίζουν ακόμη την παράλληλη επεξεργασία (αλλά θα μπορούσαν!)
  • Το FULL OUTER JOIN δεν υποστηρίζεται.
  • Το max_rows απενεργοποιεί την παράλληλη επεξεργασία.
  • Εάν ένα ερώτημα έχει μια συνάρτηση που δεν έχει επισημανθεί PARALLEL SAFE, θα είναι μονού νήματος.
  • Το επίπεδο απομόνωσης συναλλαγής SERIALIZABLE απενεργοποιεί την παράλληλη επεξεργασία.

Περιβάλλον δοκιμής

Οι προγραμματιστές της PostgreSQL προσπάθησαν να μειώσουν τον χρόνο απόκρισης των ερωτημάτων αναφοράς TPC-H. Κατεβάστε το σημείο αναφοράς και προσαρμόστε το στην PostgreSQL. Αυτή είναι μια ανεπίσημη χρήση του σημείου αναφοράς TPC-H - όχι για σύγκριση βάσης δεδομένων ή υλικού.

  1. Λήψη του TPC-H_Tools_v2.17.3.zip (ή νεότερης έκδοσης) από το TPC εκτός έδρας.
  2. Μετονομάστε το makefile.suite σε Makefile και αλλάξτε το όπως περιγράφεται εδώ: https://github.com/tvondra/pg_tpch . Μεταγλωττίστε τον κώδικα με την εντολή make.
  3. Δημιουργία δεδομένων: ./dbgen -s 10 δημιουργεί μια βάση δεδομένων 23 GB. Αυτό αρκεί για να δούμε τη διαφορά στην απόδοση των παράλληλων και των μη παράλληλων ερωτημάτων.
  4. Μετατροπή αρχείων tbl в csv с for и sed.
  5. Κλωνοποιήστε το αποθετήριο pg_tpch και αντιγράψτε τα αρχεία csv в pg_tpch/dss/data.
  6. Δημιουργήστε ερωτήματα με μια εντολή qgen.
  7. Φόρτωση δεδομένων στη βάση δεδομένων με την εντολή ./tpch.sh.

Παράλληλη διαδοχική σάρωση

Μπορεί να είναι πιο γρήγορο όχι λόγω παράλληλης ανάγνωσης, αλλά επειδή τα δεδομένα είναι κατανεμημένα σε πολλούς πυρήνες CPU. Στα σύγχρονα λειτουργικά συστήματα, τα αρχεία δεδομένων PostgreSQL αποθηκεύονται καλά. Με την ανάγνωση μπροστά, είναι δυνατό να αποκτήσετε μεγαλύτερο μπλοκ από την αποθήκευση από ό,τι ζητά ο δαίμονας PG. Επομένως, η απόδοση του ερωτήματος δεν περιορίζεται από την είσοδο/έξοδο του δίσκου. Καταναλώνει κύκλους CPU για:

  • Διαβάστε τις σειρές μία κάθε φορά από σελίδες πίνακα.
  • συγκρίνετε τιμές και συνθήκες συμβολοσειράς WHERE.

Ας εκτελέσουμε ένα απλό ερώτημα select:

tpch=# explain analyze select l_quantity as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------
Seq Scan on lineitem (cost=0.00..1964772.00 rows=58856235 width=5) (actual time=0.014..16951.669 rows=58839715 loops=1)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 1146337
Planning Time: 0.203 ms
Execution Time: 19035.100 ms

Η διαδοχική σάρωση παράγει πάρα πολλές σειρές χωρίς συνάθροιση, επομένως το ερώτημα εκτελείται από έναν μόνο πυρήνα CPU.

Αν προσθέσετε SUM(), μπορείτε να δείτε ότι δύο ροές εργασίας θα βοηθήσουν στην επιτάχυνση του ερωτήματος:

explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 ms

Παράλληλη συσσώρευση

Ο κόμβος Parallel Seq Scan παράγει σειρές για μερική συνάθροιση. Ο κόμβος "Partial Aggregate" περικόπτει αυτές τις γραμμές χρησιμοποιώντας SUM(). Στο τέλος, ο μετρητής SUM από κάθε διεργασία εργαζομένου συλλέγεται από τον κόμβο "Gather".

Το τελικό αποτέλεσμα υπολογίζεται από τον κόμβο «Ολοκλήρωση συγκεντρωτικών». Εάν έχετε τις δικές σας λειτουργίες συγκέντρωσης, μην ξεχάσετε να τις επισημάνετε ως "παράλληλες ασφαλείς".

Αριθμός διαδικασιών εργαζομένων

Ο αριθμός των διαδικασιών εργασίας μπορεί να αυξηθεί χωρίς επανεκκίνηση του διακομιστή:

explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 ms

Τι συμβαίνει εδώ? Υπήρχαν 2 φορές περισσότερες διαδικασίες εργασίας και το αίτημα έγινε μόνο 1,6599 φορές ταχύτερο. Οι υπολογισμοί είναι ενδιαφέροντες. Είχαμε 2 διαδικασίες εργαζομένων και 1 ηγέτη. Μετά την αλλαγή έγινε 4+1.

Η μέγιστη επιτάχυνσή μας από παράλληλη επεξεργασία: 5/3 = 1,66(6) φορές.

Πώς λειτουργεί;

Διαδικασίες

Η εκτέλεση του αιτήματος ξεκινά πάντα με την κύρια διαδικασία. Ο αρχηγός κάνει τα πάντα μη παράλληλα και κάποια παράλληλη επεξεργασία. Άλλες διεργασίες που εκτελούν τα ίδια αιτήματα ονομάζονται διεργασίες εργασίας. Η παράλληλη επεξεργασία χρησιμοποιεί υποδομές δυναμικές διαδικασίες εργαζομένων στο παρασκήνιο (από την έκδοση 9.4). Δεδομένου ότι άλλα μέρη της PostgreSQL χρησιμοποιούν διεργασίες αντί για νήματα, ένα ερώτημα με 3 διεργασίες εργασίας θα μπορούσε να είναι 4 φορές ταχύτερο από την παραδοσιακή επεξεργασία.

Αλληλεπίδραση

Οι διεργασίες των εργαζομένων επικοινωνούν με τον ηγέτη μέσω μιας ουράς μηνυμάτων (με βάση την κοινή μνήμη). Κάθε διεργασία έχει 2 ουρές: για σφάλματα και για πλειάδες.

Πόσες ροές εργασιών χρειάζονται;

Το ελάχιστο όριο καθορίζεται από την παράμετρο max_parallel_workers_per_gather. Στη συνέχεια, ο runner αιτήματος λαμβάνει διεργασίες εργασίας από το pool που περιορίζεται από την παράμετρο max_parallel_workers size. Ο τελευταίος περιορισμός είναι max_worker_processes, δηλαδή ο συνολικός αριθμός των διεργασιών παρασκηνίου.

Εάν δεν ήταν δυνατό να εκχωρηθεί μια διαδικασία εργασίας, η επεξεργασία θα είναι μίας διαδικασίας.

Το πρόγραμμα σχεδιασμού ερωτημάτων μπορεί να μειώσει τις ροές εργασίας ανάλογα με το μέγεθος του πίνακα ή του ευρετηρίου. Υπάρχουν παράμετροι για αυτό min_parallel_table_scan_size и min_parallel_index_scan_size.

set min_parallel_table_scan_size='8MB'
8MB table => 1 worker
24MB table => 2 workers
72MB table => 3 workers
x => log(x / min_parallel_table_scan_size) / log(3) + 1 worker

Κάθε φορά το τραπέζι είναι 3 φορές μεγαλύτερο από min_parallel_(index|table)_scan_size, η Postgres προσθέτει μια διαδικασία εργασίας. Ο αριθμός των ροών εργασίας δεν βασίζεται στο κόστος. Η κυκλική εξάρτηση δυσκολεύει τις πολύπλοκες υλοποιήσεις. Αντίθετα, ο σχεδιαστής χρησιμοποιεί απλούς κανόνες.

Στην πράξη, αυτοί οι κανόνες δεν είναι πάντα κατάλληλοι για παραγωγή, επομένως μπορείτε να αλλάξετε τον αριθμό των διαδικασιών εργασίας για έναν συγκεκριμένο πίνακα: ALTER TABLE ... SET (parallel_workers = N).

Γιατί δεν χρησιμοποιείται παράλληλη επεξεργασία;

Εκτός από τη μακρά λίστα περιορισμών, υπάρχουν επίσης έλεγχοι κόστους:

parallel_setup_cost - για αποφυγή παράλληλης επεξεργασίας σύντομων αιτημάτων. Αυτή η παράμετρος υπολογίζει το χρόνο προετοιμασίας της μνήμης, έναρξης της διαδικασίας και αρχικής ανταλλαγής δεδομένων.

parallel_tuple_cost: Η επικοινωνία μεταξύ του ηγέτη και των εργαζομένων μπορεί να καθυστερήσει ανάλογα με τον αριθμό των πλειάδων από τις εργασιακές διαδικασίες. Αυτή η παράμετρος υπολογίζει το κόστος ανταλλαγής δεδομένων.

Ενώσεις με ένθετο βρόχο

PostgreSQL 9.6+ может выполнять вложенные циклы параллельно — это простая операция.

explain (costs off) select c_custkey, count(o_orderkey)
                from    customer left outer join orders on
                                c_custkey = o_custkey and o_comment not like '%special%deposits%'
                group by c_custkey;
                                      QUERY PLAN
--------------------------------------------------------------------------------------
 Finalize GroupAggregate
   Group Key: customer.c_custkey
   ->  Gather Merge
         Workers Planned: 4
         ->  Partial GroupAggregate
               Group Key: customer.c_custkey
               ->  Nested Loop Left Join
                     ->  Parallel Index Only Scan using customer_pkey on customer
                     ->  Index Scan using idx_orders_custkey on orders
                           Index Cond: (customer.c_custkey = o_custkey)
                           Filter: ((o_comment)::text !~~ '%special%deposits%'::text)

Η συλλογή πραγματοποιείται στο τελευταίο στάδιο, επομένως το Nested Loop Left Join είναι μια παράλληλη λειτουργία. Το Parallel Index Only Scan εισήχθη μόνο στην έκδοση 10. Λειτουργεί παρόμοια με την παράλληλη σειριακή σάρωση. Κατάσταση c_custkey = o_custkey διαβάζει μία παραγγελία ανά συμβολοσειρά πελάτη. Άρα δεν είναι παράλληλη.

Hash Join

Κάθε διεργασία εργασίας δημιουργεί τον δικό της πίνακα κατακερματισμού μέχρι την PostgreSQL 11. Και αν υπάρχουν περισσότερες από τέσσερις από αυτές τις διεργασίες, η απόδοση δεν θα βελτιωθεί. Στη νέα έκδοση, ο πίνακας κατακερματισμού είναι κοινόχρηστος. Κάθε διεργασία εργασίας μπορεί να χρησιμοποιήσει το WORK_MEM για να δημιουργήσει έναν πίνακα κατακερματισμού.

select
        l_shipmode,
        sum(case
                when o_orderpriority = '1-URGENT'
                        or o_orderpriority = '2-HIGH'
                        then 1
                else 0
        end) as high_line_count,
        sum(case
                when o_orderpriority <> '1-URGENT'
                        and o_orderpriority <> '2-HIGH'
                        then 1
                else 0
        end) as low_line_count
from
        orders,
        lineitem
where
        o_orderkey = l_orderkey
        and l_shipmode in ('MAIL', 'AIR')
        and l_commitdate < l_receiptdate
        and l_shipdate < l_commitdate
        and l_receiptdate >= date '1996-01-01'
        and l_receiptdate < date '1996-01-01' + interval '1' year
group by
        l_shipmode
order by
        l_shipmode
LIMIT 1;
                                                                                                                                    QUERY PLAN
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
 Limit  (cost=1964755.66..1964961.44 rows=1 width=27) (actual time=7579.592..7922.997 rows=1 loops=1)
   ->  Finalize GroupAggregate  (cost=1964755.66..1966196.11 rows=7 width=27) (actual time=7579.590..7579.591 rows=1 loops=1)
         Group Key: lineitem.l_shipmode
         ->  Gather Merge  (cost=1964755.66..1966195.83 rows=28 width=27) (actual time=7559.593..7922.319 rows=6 loops=1)
               Workers Planned: 4
               Workers Launched: 4
               ->  Partial GroupAggregate  (cost=1963755.61..1965192.44 rows=7 width=27) (actual time=7548.103..7564.592 rows=2 loops=5)
                     Group Key: lineitem.l_shipmode
                     ->  Sort  (cost=1963755.61..1963935.20 rows=71838 width=27) (actual time=7530.280..7539.688 rows=62519 loops=5)
                           Sort Key: lineitem.l_shipmode
                           Sort Method: external merge  Disk: 2304kB
                           Worker 0:  Sort Method: external merge  Disk: 2064kB
                           Worker 1:  Sort Method: external merge  Disk: 2384kB
                           Worker 2:  Sort Method: external merge  Disk: 2264kB
                           Worker 3:  Sort Method: external merge  Disk: 2336kB
                           ->  Parallel Hash Join  (cost=382571.01..1957960.99 rows=71838 width=27) (actual time=7036.917..7499.692 rows=62519 loops=5)
                                 Hash Cond: (lineitem.l_orderkey = orders.o_orderkey)
                                 ->  Parallel Seq Scan on lineitem  (cost=0.00..1552386.40 rows=71838 width=19) (actual time=0.583..4901.063 rows=62519 loops=5)
                                       Filter: ((l_shipmode = ANY ('{MAIL,AIR}'::bpchar[])) AND (l_commitdate < l_receiptdate) AND (l_shipdate < l_commitdate) AND (l_receiptdate >= '1996-01-01'::date) AND (l_receiptdate < '1997-01-01 00:00:00'::timestamp without time zone))
                                       Rows Removed by Filter: 11934691
                                 ->  Parallel Hash  (cost=313722.45..313722.45 rows=3750045 width=20) (actual time=2011.518..2011.518 rows=3000000 loops=5)
                                       Buckets: 65536  Batches: 256  Memory Usage: 3840kB
                                       ->  Parallel Seq Scan on orders  (cost=0.00..313722.45 rows=3750045 width=20) (actual time=0.029..995.948 rows=3000000 loops=5)
 Planning Time: 0.977 ms
 Execution Time: 7923.770 ms

Το ερώτημα 12 από το TPC-H δείχνει ξεκάθαρα μια παράλληλη σύνδεση κατακερματισμού. Κάθε διαδικασία εργασίας συμβάλλει στη δημιουργία ενός κοινού πίνακα κατακερματισμού.

Συγχώνευση Συμμετοχής

Μια ένωση συγχώνευσης δεν είναι παράλληλη από τη φύση της. Μην ανησυχείτε αν αυτό είναι το τελευταίο βήμα του ερωτήματος - μπορεί να εκτελεστεί παράλληλα.

-- Query 2 from TPC-H
explain (costs off) select s_acctbal, s_name, n_name, p_partkey, p_mfgr, s_address, s_phone, s_comment
from    part, supplier, partsupp, nation, region
where
        p_partkey = ps_partkey
        and s_suppkey = ps_suppkey
        and p_size = 36
        and p_type like '%BRASS'
        and s_nationkey = n_nationkey
        and n_regionkey = r_regionkey
        and r_name = 'AMERICA'
        and ps_supplycost = (
                select
                        min(ps_supplycost)
                from    partsupp, supplier, nation, region
                where
                        p_partkey = ps_partkey
                        and s_suppkey = ps_suppkey
                        and s_nationkey = n_nationkey
                        and n_regionkey = r_regionkey
                        and r_name = 'AMERICA'
        )
order by s_acctbal desc, n_name, s_name, p_partkey
LIMIT 100;
                                                QUERY PLAN
----------------------------------------------------------------------------------------------------------
 Limit
   ->  Sort
         Sort Key: supplier.s_acctbal DESC, nation.n_name, supplier.s_name, part.p_partkey
         ->  Merge Join
               Merge Cond: (part.p_partkey = partsupp.ps_partkey)
               Join Filter: (partsupp.ps_supplycost = (SubPlan 1))
               ->  Gather Merge
                     Workers Planned: 4
                     ->  Parallel Index Scan using <strong>part_pkey</strong> on part
                           Filter: (((p_type)::text ~~ '%BRASS'::text) AND (p_size = 36))
               ->  Materialize
                     ->  Sort
                           Sort Key: partsupp.ps_partkey
                           ->  Nested Loop
                                 ->  Nested Loop
                                       Join Filter: (nation.n_regionkey = region.r_regionkey)
                                       ->  Seq Scan on region
                                             Filter: (r_name = 'AMERICA'::bpchar)
                                       ->  Hash Join
                                             Hash Cond: (supplier.s_nationkey = nation.n_nationkey)
                                             ->  Seq Scan on supplier
                                             ->  Hash
                                                   ->  Seq Scan on nation
                                 ->  Index Scan using idx_partsupp_suppkey on partsupp
                                       Index Cond: (ps_suppkey = supplier.s_suppkey)
               SubPlan 1
                 ->  Aggregate
                       ->  Nested Loop
                             Join Filter: (nation_1.n_regionkey = region_1.r_regionkey)
                             ->  Seq Scan on region region_1
                                   Filter: (r_name = 'AMERICA'::bpchar)
                             ->  Nested Loop
                                   ->  Nested Loop
                                         ->  Index Scan using idx_partsupp_partkey on partsupp partsupp_1
                                               Index Cond: (part.p_partkey = ps_partkey)
                                         ->  Index Scan using supplier_pkey on supplier supplier_1
                                               Index Cond: (s_suppkey = partsupp_1.ps_suppkey)
                                   ->  Index Scan using nation_pkey on nation nation_1
                                         Index Cond: (n_nationkey = supplier_1.s_nationkey)

Ο κόμβος "Merge Join" βρίσκεται πάνω από το "Gather Merge". Άρα η συγχώνευση δεν χρησιμοποιεί παράλληλη επεξεργασία. Ωστόσο, ο κόμβος "Parallel Index Scan" εξακολουθεί να βοηθάει με το τμήμα part_pkey.

Σύνδεση κατά τμήματα

Στο PostgreSQL 11 σύνδεση κατά τμήματα απενεργοποιημένο από προεπιλογή: έχει πολύ ακριβό προγραμματισμό. Οι πίνακες με παρόμοια κατάτμηση μπορούν να ενωθούν κατά διαμέρισμα. Με αυτόν τον τρόπο η Postgres θα χρησιμοποιήσει μικρότερους πίνακες κατακερματισμού. Κάθε σύνδεση τμημάτων μπορεί να είναι παράλληλη.

tpch=# set enable_partitionwise_join=t;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
                    QUERY PLAN
---------------------------------------------------
 Append
   ->  Hash Join
         Hash Cond: (t2.b = t1.a)
         ->  Seq Scan on prt2_p1 t2
               Filter: ((b >= 0) AND (b <= 10000))
         ->  Hash
               ->  Seq Scan on prt1_p1 t1
                     Filter: (b = 0)
   ->  Hash Join
         Hash Cond: (t2_1.b = t1_1.a)
         ->  Seq Scan on prt2_p2 t2_1
               Filter: ((b >= 0) AND (b <= 10000))
         ->  Hash
               ->  Seq Scan on prt1_p2 t1_1
                     Filter: (b = 0)
tpch=# set parallel_setup_cost = 1;
tpch=# set parallel_tuple_cost = 0.01;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
                        QUERY PLAN
-----------------------------------------------------------
 Gather
   Workers Planned: 4
   ->  Parallel Append
         ->  Parallel Hash Join
               Hash Cond: (t2_1.b = t1_1.a)
               ->  Parallel Seq Scan on prt2_p2 t2_1
                     Filter: ((b >= 0) AND (b <= 10000))
               ->  Parallel Hash
                     ->  Parallel Seq Scan on prt1_p2 t1_1
                           Filter: (b = 0)
         ->  Parallel Hash Join
               Hash Cond: (t2.b = t1.a)
               ->  Parallel Seq Scan on prt2_p1 t2
                     Filter: ((b >= 0) AND (b <= 10000))
               ->  Parallel Hash
                     ->  Parallel Seq Scan on prt1_p1 t1
                           Filter: (b = 0)

Το κύριο πράγμα είναι ότι η σύνδεση σε τμήματα είναι παράλληλη μόνο εάν αυτά τα τμήματα είναι αρκετά μεγάλα.

Παράλληλη προσάρτηση

Παράλληλη προσάρτηση μπορεί να χρησιμοποιηθεί αντί για διαφορετικά μπλοκ σε διαφορετικές ροές εργασίας. Αυτό συμβαίνει συνήθως με τα ερωτήματα UNION ALL. Το μειονέκτημα είναι ο μικρότερος παραλληλισμός, επειδή κάθε διαδικασία εργαζόμενου επεξεργάζεται μόνο 1 αίτημα.

Υπάρχουν 2 διεργασίες εργασίας που εκτελούνται εδώ, αν και 4 είναι ενεργοποιημένες.

tpch=# explain (costs off) select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day union all select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '2000-12-01' - interval '105' day;
                                           QUERY PLAN
------------------------------------------------------------------------------------------------
 Gather
   Workers Planned: 2
   ->  Parallel Append
         ->  Aggregate
               ->  Seq Scan on lineitem
                     Filter: (l_shipdate <= '2000-08-18 00:00:00'::timestamp without time zone)
         ->  Aggregate
               ->  Seq Scan on lineitem lineitem_1
                     Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)

Οι πιο σημαντικές μεταβλητές

  • Το WORK_MEM περιορίζει τη μνήμη ανά διεργασία, όχι μόνο τα ερωτήματα: work_mem διαδικασίες συνδέσεις = πολλή μνήμη.
  • max_parallel_workers_per_gather — πόσες επεξεργασίες εργαζομένων θα χρησιμοποιήσει το πρόγραμμα εκτέλεσης για παράλληλη επεξεργασία από το σχέδιο.
  • max_worker_processes — προσαρμόζει τον συνολικό αριθμό των διεργασιών εργασίας στον αριθμό των πυρήνων της CPU στο διακομιστή.
  • max_parallel_workers - το ίδιο, αλλά για παράλληλες διαδικασίες εργασίας.

Αποτελέσματα της

Από την έκδοση 9.6, η παράλληλη επεξεργασία μπορεί να βελτιώσει σημαντικά την απόδοση σύνθετων ερωτημάτων που σαρώνουν πολλές σειρές ή ευρετήρια. Στο PostgreSQL 10, η παράλληλη επεξεργασία είναι ενεργοποιημένη από προεπιλογή. Θυμηθείτε να το απενεργοποιήσετε σε διακομιστές με μεγάλο φόρτο εργασίας OLTP. Οι διαδοχικές σαρώσεις ή οι σαρώσεις ευρετηρίου καταναλώνουν πολλούς πόρους. Εάν δεν εκτελείτε μια αναφορά για ολόκληρο το σύνολο δεδομένων, μπορείτε να βελτιώσετε την απόδοση του ερωτήματος προσθέτοντας απλώς ευρετήρια που λείπουν ή χρησιμοποιώντας τη σωστή κατάτμηση.

παραπομπές

Πηγή: www.habr.com

Προσθέστε ένα σχόλιο