🥇ການສອບຖາມຂະຫນານໃນ PostgreSQL

CPU ທີ່ທັນສະໄຫມມີແກນຫຼາຍ. ສໍາລັບປີ, ຄໍາຮ້ອງສະຫມັກໄດ້ສົ່ງຄໍາຖາມໄປຫາຖານຂໍ້ມູນໃນຂະຫນານ. ຖ້າມັນເປັນການສອບຖາມລາຍງານຢູ່ໃນຫຼາຍແຖວໃນຕາຕະລາງ, ມັນເຮັດວຽກໄວຂຶ້ນເມື່ອໃຊ້ CPU ຫຼາຍ, ແລະ PostgreSQL ສາມາດເຮັດໄດ້ຕັ້ງແຕ່ຮຸ່ນ 9.6.

ມັນໃຊ້ເວລາ 3 ປີເພື່ອປະຕິບັດຄຸນສົມບັດການສອບຖາມຂະຫນານ - ພວກເຮົາຕ້ອງຂຽນລະຫັດຄືນໃຫມ່ໃນຂັ້ນຕອນຕ່າງໆຂອງການປະຕິບັດການສອບຖາມ. PostgreSQL 9.6 ໄດ້ນໍາສະເຫນີໂຄງສ້າງພື້ນຖານເພື່ອປັບປຸງລະຫັດຕື່ມອີກ. ໃນສະບັບຕໍ່ມາ, ປະເພດການສອບຖາມອື່ນໆແມ່ນດໍາເນີນການຂະຫນານ.

Restrictions

ຢ່າເປີດໃຊ້ງານຂະຫນານຖ້າແກນທັງໝົດບໍ່ຫວ່າງແລ້ວ, ຖ້າບໍ່ດັ່ງນັ້ນການຮ້ອງຂໍອື່ນໆຈະຊ້າລົງ.
ສິ່ງທີ່ສໍາຄັນທີ່ສຸດ, ການປຸງແຕ່ງຂະຫນານທີ່ມີຄ່າ WORK_MEM ສູງໃຊ້ຫນ່ວຍຄວາມຈໍາຫຼາຍ - ແຕ່ລະ hash ເຂົ້າຮ່ວມຫຼືການຈັດລຽງໃຊ້ເວລາເຖິງຫນ່ວຍຄວາມຈໍາ work_mem.
ການສອບຖາມ OLTP ທີ່ມີເວລາຕອບສະໜອງຕໍ່າບໍ່ສາມາດເລັ່ງໄດ້ໂດຍການດຳເນີນການຂະໜານ. ແລະຖ້າການສອບຖາມສົ່ງຄືນຫນຶ່ງແຖວ, ການປຸງແຕ່ງຂະຫນານຈະຊ້າລົງເທົ່ານັ້ນ.
ນັກພັດທະນາມັກໃຊ້ TPC-H benchmark. ບາງທີເຈົ້າມີຄໍາຖາມທີ່ຄ້າຍຄືກັນສໍາລັບການປະຕິບັດຂະຫນານທີ່ສົມບູນແບບ.
ພຽງແຕ່ SELECT queries ໂດຍບໍ່ມີການ locking predicate ໄດ້ຖືກປະຕິບັດໃນຂະຫນານ.
ບາງຄັ້ງການດັດສະນີທີ່ເຫມາະສົມແມ່ນດີກ່ວາການສະແກນຕາຕະລາງຕາມລໍາດັບໃນຮູບແບບຂະຫນານ.
ບໍ່ຮອງຮັບການຢຸດຄິວຣີ ແລະເຄີເຊີ.
ຟັງຊັນໜ້າຕ່າງ ແລະຟັງຊັນລວມທີ່ຕັ້ງຕາມລຳດັບແມ່ນບໍ່ຂະໜານກັນ.
ເຈົ້າບໍ່ໄດ້ຮັບຫຍັງໃນ I/O workload.
ບໍ່ມີລະບົບການຈັດຮຽງແບບຂະໜານ. ແຕ່ການສອບຖາມທີ່ມີການຈັດລຽງສາມາດຖືກປະຕິບັດໃນຂະຫນານໃນບາງດ້ານ.
ແທນທີ່ CTE (ດ້ວຍ ...) ດ້ວຍ SELECT ຊ້ອນກັນເພື່ອເປີດໃຊ້ການປະມວນຜົນຂະໜານ.
ຕົວຫໍ່ຂໍ້ມູນຂອງພາກສ່ວນທີສາມຍັງບໍ່ຮອງຮັບການປະມວນຜົນຂະໜານເທື່ອ (ແຕ່ເຂົາເຈົ້າສາມາດເຮັດໄດ້!)
ບໍ່ຮອງຮັບການເຂົ້າຮ່ວມເຕັມຮູບແບບ.
max_rows ປິດການປະມວນຜົນຂະໜານ.
ຖ້າການສອບຖາມມີຟັງຊັນທີ່ບໍ່ໄດ້ຖືກໝາຍວ່າ PARALLEL SAFE, ມັນຈະເປັນ threaded ດຽວ.
ລະດັບການແຍກທຸລະກຳ SERIALIZABLE ປິດການປະມວນຜົນຂະໜານ.

ສະພາບແວດລ້ອມການທົດສອບ

ນັກພັດທະນາ PostgreSQL ພະຍາຍາມຫຼຸດຜ່ອນເວລາຕອບໂຕ້ຂອງ TPC-H benchmark queries. ດາວນ໌ໂຫລດມາດຕະຖານແລະ ປັບມັນເຂົ້າກັບ PostgreSQL. ນີ້ແມ່ນການນໍາໃຊ້ທີ່ບໍ່ເປັນທາງການຂອງ TPC-H benchmark - ບໍ່ແມ່ນສໍາລັບຖານຂໍ້ມູນຫຼືການປຽບທຽບຮາດແວ.

ດາວໂຫຼດ TPC-H_Tools_v2.17.3.zip (ຫຼືເວີຊັນໃໝ່ກວ່າ) ຈາກ TPC ນອກສະຖານທີ່.
ປ່ຽນຊື່ makefile.suite ເປັນ Makefile ແລະປ່ຽນຕາມທີ່ອະທິບາຍໄວ້ນີ້: https://github.com/tvondra/pg_tpch . ລວບລວມລະຫັດດ້ວຍຄໍາສັ່ງ make.
ສ້າງຂໍ້ມູນ: ./dbgen -s 10 ສ້າງຖານຂໍ້ມູນ 23 GB. ນີ້ແມ່ນພຽງພໍທີ່ຈະເຫັນຄວາມແຕກຕ່າງໃນການປະຕິບັດການສອບຖາມແບບຂະຫນານແລະບໍ່ຂະຫນານ.
ແປງໄຟລ໌ tbl в csv с for и sed.
Clone the repository pg_tpch ແລະຄັດລອກໄຟລ໌ csv в pg_tpch/dss/data.
ສ້າງຄໍາຖາມດ້ວຍຄໍາສັ່ງ qgen.
ໂຫລດຂໍ້ມູນເຂົ້າໄປໃນຖານຂໍ້ມູນດ້ວຍຄໍາສັ່ງ ./tpch.sh.

ການສະແກນຕາມລໍາດັບຂະຫນານ

ມັນອາດຈະໄວກວ່າບໍ່ແມ່ນຍ້ອນການອ່ານຂະຫນານ, ແຕ່ເນື່ອງຈາກວ່າຂໍ້ມູນຖືກແຜ່ຂະຫຍາຍໄປທົ່ວ CPU ຫຼາຍແກນ. ໃນລະບົບປະຕິບັດການທີ່ທັນສະໄຫມ, ໄຟລ໌ຂໍ້ມູນ PostgreSQL ຖືກເກັບໄວ້ດີ. ດ້ວຍການອ່ານລ່ວງຫນ້າ, ມັນເປັນໄປໄດ້ທີ່ຈະໄດ້ຮັບບລັອກຂະຫນາດໃຫຍ່ຈາກການເກັບຮັກສາຫຼາຍກ່ວາຄໍາຮ້ອງຂໍ PG daemon. ດັ່ງນັ້ນ, ການປະຕິບັດການສອບຖາມແມ່ນບໍ່ຈໍາກັດໂດຍ disk I/O. ມັນບໍລິໂພກຮອບວຽນ CPU ເພື່ອ:

ອ່ານແຖວໜຶ່ງຕໍ່ຄັ້ງຈາກໜ້າຕາຕະລາງ;
ປຽບທຽບຄ່າ string ແລະເງື່ອນໄຂ WHERE.

ໃຫ້ດໍາເນີນການສອບຖາມທີ່ງ່າຍດາຍ select:

tpch=# explain analyze select l_quantity as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------
Seq Scan on lineitem (cost=0.00..1964772.00 rows=58856235 width=5) (actual time=0.014..16951.669 rows=58839715 loops=1)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 1146337
Planning Time: 0.203 ms
Execution Time: 19035.100 ms

ການສະແກນຕາມລໍາດັບຜະລິດແຖວຫຼາຍເກີນໄປໂດຍບໍ່ມີການລວບລວມ, ດັ່ງນັ້ນການສອບຖາມໄດ້ຖືກປະຕິບັດໂດຍ CPU core ດຽວ.

ຖ້າທ່ານເພີ່ມ SUM(), ທ່ານສາມາດເບິ່ງວ່າສອງ workflows ຈະຊ່ວຍເລັ່ງການສອບຖາມ:

explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 ms

ການລວບລວມຂະຫນານ

Parallel Seq Scan node ຜະລິດແຖວສໍາລັບການລວບລວມບາງສ່ວນ. ໂນດ "ການລວບລວມບາງສ່ວນ" ຕັດເສັ້ນເຫຼົ່ານີ້ໂດຍໃຊ້ SUM(). ໃນທີ່ສຸດ, ຕົວນັບ SUM ຈາກແຕ່ລະຂະບວນການຂອງພະນັກງານແມ່ນເກັບກໍາໂດຍ node "Gather".

ຜົນໄດ້ຮັບສຸດທ້າຍແມ່ນຄິດໄລ່ໂດຍ "ການລວບລວມສຸດທ້າຍ" node. ຖ້າທ່ານມີຫນ້າທີ່ລວມຂອງທ່ານເອງ, ຢ່າລືມຫມາຍພວກມັນເປັນ "ຄວາມປອດໄພຂະຫນານ".

ຈໍານວນຂະບວນການຂອງພະນັກງານ

ຈໍານວນຂອງຂະບວນການພະນັກງານສາມາດເພີ່ມຂຶ້ນໂດຍບໍ່ມີການ restart server:

explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 ms

ເກີດຫຍັງຂຶ້ນຢູ່ນີ້? ມີຂະບວນການເຮັດວຽກຫຼາຍກວ່າ 2 ເທົ່າ, ແລະການຮ້ອງຂໍໄດ້ກາຍເປັນພຽງແຕ່ 1,6599 ເທື່ອໄວ. ການຄິດໄລ່ແມ່ນຫນ້າສົນໃຈ. ພວກເຮົາມີຂະບວນການພະນັກງານ 2 ຄົນ ແລະ ຜູ້ນໍາ 1 ຄົນ. ຫຼັງຈາກການປ່ຽນແປງມັນກາຍເປັນ 4+1.

ຄວາມໄວສູງສຸດຂອງພວກເຮົາຈາກການປະມວນຜົນຂະຫນານ: 5/3 = 1,66(6) ຄັ້ງ.

ມັນບໍ່ໄດ້ແນວໃດເຮັດວຽກ?

ຂະບວນການຕ່າງໆ

ການປະຕິບັດຄໍາຮ້ອງຂໍເລີ່ມຕົ້ນດ້ວຍຂະບວນການນໍາພາສະເຫມີ. ຜູ້ນໍາເຮັດທຸກສິ່ງທຸກຢ່າງທີ່ບໍ່ແມ່ນຂະຫນານແລະການປຸງແຕ່ງຂະຫນານບາງ. ຂະບວນການອື່ນໆທີ່ປະຕິບັດການຮ້ອງຂໍດຽວກັນເອີ້ນວ່າຂະບວນການຂອງພະນັກງານ. ການປຸງແຕ່ງຂະຫນານໃຊ້ໂຄງສ້າງພື້ນຖານ ຂະບວນການພະນັກງານພື້ນຫຼັງແບບເຄື່ອນໄຫວ (ຈາກຮຸ່ນ 9.4). ເນື່ອງຈາກພາກສ່ວນອື່ນໆຂອງ PostgreSQL ໃຊ້ຂະບວນການຫຼາຍກວ່າກະທູ້, ການສອບຖາມທີ່ມີ 3 ຂະບວນການຂອງພະນັກງານອາດຈະໄວກວ່າການປຸງແຕ່ງແບບດັ້ງເດີມ 4 ເທົ່າ.

ການພົວພັນຮ່ວມກັນ

ຂະບວນການຂອງຜູ້ອອກແຮງງານຕິດຕໍ່ສື່ສານກັບຜູ້ນໍາໂດຍຜ່ານແຖວຂໍ້ຄວາມ (ອີງໃສ່ຄວາມຊົງຈໍາຮ່ວມກັນ). ແຕ່ລະຂະບວນການມີ 2 ຄິວ: ສໍາລັບຄວາມຜິດພາດແລະ tuples.

ຕ້ອງການຂະບວນການເຮັດວຽກຫຼາຍປານໃດ?

ຂອບເຂດຈໍາກັດຕໍາ່ສຸດທີ່ຖືກກໍານົດໂດຍພາລາມິເຕີ max_parallel_workers_per_gather. ຫຼັງຈາກນັ້ນ, ຜູ້ແລ່ນຄໍາຮ້ອງຂໍເອົາຂະບວນການຂອງຜູ້ອອກແຮງງານຈາກສະນຸກເກີທີ່ຈໍາກັດໂດຍພາລາມິເຕີ max_parallel_workers size. ຂໍ້ຈໍາກັດສຸດທ້າຍແມ່ນ max_worker_processes, ນັ້ນແມ່ນ, ຈໍານວນຂະບວນການພື້ນຖານທັງຫມົດ.

ຖ້າບໍ່ສາມາດຈັດສັນຂະບວນການຄົນງານໄດ້, ການປຸງແຕ່ງຈະເປັນຂະບວນການດຽວ.

ຜູ້ວາງແຜນການສອບຖາມສາມາດຫຼຸດຜ່ອນຂັ້ນຕອນການເຮັດວຽກໂດຍອີງຕາມຂະຫນາດຂອງຕາຕະລາງຫຼືດັດສະນີ. ມີຕົວກໍານົດການສໍາລັບການນີ້ min_parallel_table_scan_size и min_parallel_index_scan_size.

set min_parallel_table_scan_size='8MB'
8MB table => 1 worker
24MB table => 2 workers
72MB table => 3 workers
x => log(x / min_parallel_table_scan_size) / log(3) + 1 worker

ທຸກໆຄັ້ງຕາຕະລາງໃຫຍ່ກວ່າ 3 ເທົ່າ min_parallel_(index|table)_scan_size, Postgres ເພີ່ມຂະບວນການພະນັກງານ. ຈໍານວນຂອງຂະບວນການເຮັດວຽກບໍ່ໄດ້ອີງໃສ່ຄ່າໃຊ້ຈ່າຍ. ການຂື້ນກັບວົງວຽນເຮັດໃຫ້ການປະຕິບັດທີ່ສັບສົນມີຄວາມຫຍຸ້ງຍາກ. ແທນທີ່ຈະ, ຜູ້ວາງແຜນໃຊ້ກົດລະບຽບງ່າຍໆ.

ໃນການປະຕິບັດ, ກົດລະບຽບເຫຼົ່ານີ້ບໍ່ສະເຫມີໄປທີ່ເຫມາະສົມກັບການຜະລິດ, ດັ່ງນັ້ນທ່ານສາມາດປ່ຽນຈໍານວນຂະບວນການຂອງພະນັກງານສໍາລັບຕາຕະລາງສະເພາະ: ALTER TABLE ... SET (parallel_workers = N).

ເປັນຫຍັງການປຸງແຕ່ງຂະຫນານຈຶ່ງບໍ່ຖືກນໍາໃຊ້?

ນອກເຫນືອໄປຈາກບັນຊີລາຍຊື່ຍາວຂອງຂໍ້ຈໍາກັດ, ຍັງມີການກວດສອບຄ່າໃຊ້ຈ່າຍ:

parallel_setup_cost - ເພື່ອຫຼີກເວັ້ນການປະມວນຜົນຂະຫນານຂອງການຮ້ອງຂໍສັ້ນ. ພາລາມິເຕີນີ້ຄາດຄະເນເວລາໃນການກະກຽມຄວາມຊົງຈໍາ, ເລີ່ມຕົ້ນຂະບວນການ, ແລະການແລກປ່ຽນຂໍ້ມູນເບື້ອງຕົ້ນ.

parallel_tuple_cost: ການສື່ສານລະຫວ່າງຜູ້ນໍາແລະຜູ້ອອກແຮງງານສາມາດຊັກຊ້າໃນອັດຕາສ່ວນຂອງຈໍານວນ tuples ຈາກຂະບວນການເຮັດວຽກ. ພາລາມິເຕີນີ້ຄິດໄລ່ຄ່າໃຊ້ຈ່າຍຂອງການແລກປ່ຽນຂໍ້ມູນ.

Nested Loop Joins

PostgreSQL 9.6+ может выполнять вложенные циклы параллельно — это простая операция.

explain (costs off) select c_custkey, count(o_orderkey)
                from    customer left outer join orders on
                                c_custkey = o_custkey and o_comment not like '%special%deposits%'
                group by c_custkey;
                                      QUERY PLAN
--------------------------------------------------------------------------------------
 Finalize GroupAggregate
   Group Key: customer.c_custkey
   ->  Gather Merge
         Workers Planned: 4
         ->  Partial GroupAggregate
               Group Key: customer.c_custkey
               ->  Nested Loop Left Join
                     ->  Parallel Index Only Scan using customer_pkey on customer
                     ->  Index Scan using idx_orders_custkey on orders
                           Index Cond: (customer.c_custkey = o_custkey)
                           Filter: ((o_comment)::text !~~ '%special%deposits%'::text)

ການລວບລວມເກີດຂຶ້ນໃນຂັ້ນຕອນສຸດທ້າຍ, ດັ່ງນັ້ນ Nested Loop Left Join ແມ່ນການດໍາເນີນການຂະຫນານ. Parallel Index Only Scan ໄດ້ຖືກນໍາສະເຫນີພຽງແຕ່ໃນຮຸ່ນ 10. ມັນເຮັດວຽກຄ້າຍຄືກັນກັບການສະແກນ serial ຂະຫນານ. ສະພາບ c_custkey = o_custkey ອ່ານຄໍາສັ່ງຫນຶ່ງຕໍ່ສາຍລູກຄ້າ. ດັ່ງນັ້ນມັນບໍ່ແມ່ນຂະຫນານ.

Hash ເຂົ້າຮ່ວມ

ຂະບວນການພະນັກງານແຕ່ລະຄົນສ້າງຕາຕະລາງ hash ຂອງຕົນເອງຈົນກ່ວາ PostgreSQL 11. ແລະຖ້າມີຫຼາຍກວ່າສີ່ຂະບວນການເຫຼົ່ານີ້, ການປະຕິບັດຈະບໍ່ປັບປຸງ. ໃນສະບັບໃຫມ່, ຕາຕະລາງ hash ໄດ້ຖືກແບ່ງປັນ. ແຕ່ລະຂະບວນການຂອງພະນັກງານສາມາດໃຊ້ WORK_MEM ເພື່ອສ້າງຕາຕະລາງ hash.

select
        l_shipmode,
        sum(case
                when o_orderpriority = '1-URGENT'
                        or o_orderpriority = '2-HIGH'
                        then 1
                else 0
        end) as high_line_count,
        sum(case
                when o_orderpriority <> '1-URGENT'
                        and o_orderpriority <> '2-HIGH'
                        then 1
                else 0
        end) as low_line_count
from
        orders,
        lineitem
where
        o_orderkey = l_orderkey
        and l_shipmode in ('MAIL', 'AIR')
        and l_commitdate < l_receiptdate
        and l_shipdate < l_commitdate
        and l_receiptdate >= date '1996-01-01'
        and l_receiptdate < date '1996-01-01' + interval '1' year
group by
        l_shipmode
order by
        l_shipmode
LIMIT 1;
                                                                                                                                    QUERY PLAN
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
 Limit  (cost=1964755.66..1964961.44 rows=1 width=27) (actual time=7579.592..7922.997 rows=1 loops=1)
   ->  Finalize GroupAggregate  (cost=1964755.66..1966196.11 rows=7 width=27) (actual time=7579.590..7579.591 rows=1 loops=1)
         Group Key: lineitem.l_shipmode
         ->  Gather Merge  (cost=1964755.66..1966195.83 rows=28 width=27) (actual time=7559.593..7922.319 rows=6 loops=1)
               Workers Planned: 4
               Workers Launched: 4
               ->  Partial GroupAggregate  (cost=1963755.61..1965192.44 rows=7 width=27) (actual time=7548.103..7564.592 rows=2 loops=5)
                     Group Key: lineitem.l_shipmode
                     ->  Sort  (cost=1963755.61..1963935.20 rows=71838 width=27) (actual time=7530.280..7539.688 rows=62519 loops=5)
                           Sort Key: lineitem.l_shipmode
                           Sort Method: external merge  Disk: 2304kB
                           Worker 0:  Sort Method: external merge  Disk: 2064kB
                           Worker 1:  Sort Method: external merge  Disk: 2384kB
                           Worker 2:  Sort Method: external merge  Disk: 2264kB
                           Worker 3:  Sort Method: external merge  Disk: 2336kB
                           ->  Parallel Hash Join  (cost=382571.01..1957960.99 rows=71838 width=27) (actual time=7036.917..7499.692 rows=62519 loops=5)
                                 Hash Cond: (lineitem.l_orderkey = orders.o_orderkey)
                                 ->  Parallel Seq Scan on lineitem  (cost=0.00..1552386.40 rows=71838 width=19) (actual time=0.583..4901.063 rows=62519 loops=5)
                                       Filter: ((l_shipmode = ANY ('{MAIL,AIR}'::bpchar[])) AND (l_commitdate < l_receiptdate) AND (l_shipdate < l_commitdate) AND (l_receiptdate >= '1996-01-01'::date) AND (l_receiptdate < '1997-01-01 00:00:00'::timestamp without time zone))
                                       Rows Removed by Filter: 11934691
                                 ->  Parallel Hash  (cost=313722.45..313722.45 rows=3750045 width=20) (actual time=2011.518..2011.518 rows=3000000 loops=5)
                                       Buckets: 65536  Batches: 256  Memory Usage: 3840kB
                                       ->  Parallel Seq Scan on orders  (cost=0.00..313722.45 rows=3750045 width=20) (actual time=0.029..995.948 rows=3000000 loops=5)
 Planning Time: 0.977 ms
 Execution Time: 7923.770 ms

Query 12 ຈາກ TPC-H ສະແດງໃຫ້ເຫັນຢ່າງຊັດເຈນການເຊື່ອມຕໍ່ hash ຂະຫນານ. ຂະບວນການພະນັກງານແຕ່ລະຄົນປະກອບສ່ວນເຂົ້າໃນການສ້າງຕາຕະລາງ hash ທົ່ວໄປ.

ຮວມເຂົ້າຮ່ວມ

ການລວມເຂົ້າກັນບໍ່ແມ່ນແບບຂະໜານກັນ. ຢ່າກັງວົນວ່ານີ້ແມ່ນຂັ້ນຕອນສຸດທ້າຍຂອງການສອບຖາມ - ມັນຍັງສາມາດດໍາເນີນການຂະຫນານໄດ້.

-- Query 2 from TPC-H
explain (costs off) select s_acctbal, s_name, n_name, p_partkey, p_mfgr, s_address, s_phone, s_comment
from    part, supplier, partsupp, nation, region
where
        p_partkey = ps_partkey
        and s_suppkey = ps_suppkey
        and p_size = 36
        and p_type like '%BRASS'
        and s_nationkey = n_nationkey
        and n_regionkey = r_regionkey
        and r_name = 'AMERICA'
        and ps_supplycost = (
                select
                        min(ps_supplycost)
                from    partsupp, supplier, nation, region
                where
                        p_partkey = ps_partkey
                        and s_suppkey = ps_suppkey
                        and s_nationkey = n_nationkey
                        and n_regionkey = r_regionkey
                        and r_name = 'AMERICA'
        )
order by s_acctbal desc, n_name, s_name, p_partkey
LIMIT 100;
                                                QUERY PLAN
----------------------------------------------------------------------------------------------------------
 Limit
   ->  Sort
         Sort Key: supplier.s_acctbal DESC, nation.n_name, supplier.s_name, part.p_partkey
         ->  Merge Join
               Merge Cond: (part.p_partkey = partsupp.ps_partkey)
               Join Filter: (partsupp.ps_supplycost = (SubPlan 1))
               ->  Gather Merge
                     Workers Planned: 4
                     ->  Parallel Index Scan using <strong>part_pkey</strong> on part
                           Filter: (((p_type)::text ~~ '%BRASS'::text) AND (p_size = 36))
               ->  Materialize
                     ->  Sort
                           Sort Key: partsupp.ps_partkey
                           ->  Nested Loop
                                 ->  Nested Loop
                                       Join Filter: (nation.n_regionkey = region.r_regionkey)
                                       ->  Seq Scan on region
                                             Filter: (r_name = 'AMERICA'::bpchar)
                                       ->  Hash Join
                                             Hash Cond: (supplier.s_nationkey = nation.n_nationkey)
                                             ->  Seq Scan on supplier
                                             ->  Hash
                                                   ->  Seq Scan on nation
                                 ->  Index Scan using idx_partsupp_suppkey on partsupp
                                       Index Cond: (ps_suppkey = supplier.s_suppkey)
               SubPlan 1
                 ->  Aggregate
                       ->  Nested Loop
                             Join Filter: (nation_1.n_regionkey = region_1.r_regionkey)
                             ->  Seq Scan on region region_1
                                   Filter: (r_name = 'AMERICA'::bpchar)
                             ->  Nested Loop
                                   ->  Nested Loop
                                         ->  Index Scan using idx_partsupp_partkey on partsupp partsupp_1
                                               Index Cond: (part.p_partkey = ps_partkey)
                                         ->  Index Scan using supplier_pkey on supplier supplier_1
                                               Index Cond: (s_suppkey = partsupp_1.ps_suppkey)
                                   ->  Index Scan using nation_pkey on nation nation_1
                                         Index Cond: (n_nationkey = supplier_1.s_nationkey)

ໂຫນດ "Merge Join" ຕັ້ງຢູ່ຂ້າງເທິງ "Gather Merge". ດັ່ງນັ້ນການລວມຕົວບໍ່ໄດ້ໃຊ້ການປຸງແຕ່ງຂະຫນານ. ແຕ່ "Parallel Index Scan" node ຍັງຊ່ວຍໃນສ່ວນ part_pkey.

ການເຊື່ອມຕໍ່ໂດຍພາກສ່ວນ

ໃນ PostgreSQL 11 ການເຊື່ອມຕໍ່ໂດຍພາກສ່ວນ ປິດການໃຊ້ງານໂດຍຄ່າເລີ່ມຕົ້ນ: ມັນມີຕາຕະລາງລາຄາແພງຫຼາຍ. ຕາຕະລາງທີ່ມີການແບ່ງປັນທີ່ຄ້າຍຄືກັນສາມາດເຂົ້າຮ່ວມການແບ່ງປັນໂດຍການແບ່ງປັນ. ວິທີນີ້ Postgres ຈະໃຊ້ຕາຕະລາງ hash ຂະຫນາດນ້ອຍກວ່າ. ການເຊື່ອມຕໍ່ແຕ່ລະພາກສ່ວນສາມາດຂະຫນານໄດ້.

tpch=# set enable_partitionwise_join=t;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
                    QUERY PLAN
---------------------------------------------------
 Append
   ->  Hash Join
         Hash Cond: (t2.b = t1.a)
         ->  Seq Scan on prt2_p1 t2
               Filter: ((b >= 0) AND (b <= 10000))
         ->  Hash
               ->  Seq Scan on prt1_p1 t1
                     Filter: (b = 0)
   ->  Hash Join
         Hash Cond: (t2_1.b = t1_1.a)
         ->  Seq Scan on prt2_p2 t2_1
               Filter: ((b >= 0) AND (b <= 10000))
         ->  Hash
               ->  Seq Scan on prt1_p2 t1_1
                     Filter: (b = 0)
tpch=# set parallel_setup_cost = 1;
tpch=# set parallel_tuple_cost = 0.01;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
                        QUERY PLAN
-----------------------------------------------------------
 Gather
   Workers Planned: 4
   ->  Parallel Append
         ->  Parallel Hash Join
               Hash Cond: (t2_1.b = t1_1.a)
               ->  Parallel Seq Scan on prt2_p2 t2_1
                     Filter: ((b >= 0) AND (b <= 10000))
               ->  Parallel Hash
                     ->  Parallel Seq Scan on prt1_p2 t1_1
                           Filter: (b = 0)
         ->  Parallel Hash Join
               Hash Cond: (t2.b = t1.a)
               ->  Parallel Seq Scan on prt2_p1 t2
                     Filter: ((b >= 0) AND (b <= 10000))
               ->  Parallel Hash
                     ->  Parallel Seq Scan on prt1_p1 t1
                           Filter: (b = 0)

ສິ່ງທີ່ສໍາຄັນແມ່ນວ່າການເຊື່ອມຕໍ່ໃນພາກສ່ວນຕ່າງໆແມ່ນຂະຫນານພຽງແຕ່ຖ້າພາກສ່ວນເຫຼົ່ານີ້ມີຂະຫນາດໃຫຍ່ພຽງພໍ.

Parallel Append

Parallel Append ສາມາດໃຊ້ແທນ blocks ທີ່ແຕກຕ່າງກັນໃນ workflows ທີ່ແຕກຕ່າງກັນ. ນີ້ມັກຈະເກີດຂຶ້ນກັບ UNION ALL queries. ຂໍ້ເສຍແມ່ນຄວາມຂະໜານໜ້ອຍ, ເພາະວ່າແຕ່ລະຂະບວນການຄົນງານພຽງແຕ່ດຳເນີນການ 1 ຄຳຮ້ອງຂໍ.

ມີ 2 ຂະບວນການພະນັກງານແລ່ນຢູ່ທີ່ນີ້, ເຖິງແມ່ນວ່າ 4 ຈະຖືກເປີດໃຊ້.

tpch=# explain (costs off) select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day union all select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '2000-12-01' - interval '105' day;
                                           QUERY PLAN
------------------------------------------------------------------------------------------------
 Gather
   Workers Planned: 2
   ->  Parallel Append
         ->  Aggregate
               ->  Seq Scan on lineitem
                     Filter: (l_shipdate <= '2000-08-18 00:00:00'::timestamp without time zone)
         ->  Aggregate
               ->  Seq Scan on lineitem lineitem_1
                     Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)

ຕົວແປທີ່ສໍາຄັນທີ່ສຸດ

WORK_MEM ຈຳກັດຄວາມຈຳຕໍ່ຂະບວນການ, ບໍ່ພຽງແຕ່ການສອບຖາມເທົ່ານັ້ນ: work_mem ຂະບວນການ ການເຊື່ອມຕໍ່ = ຄວາມຈໍາຫຼາຍ.
max_parallel_workers_per_gather — ມີຈັກຄົນຂະບວນການທີ່ໂຄງການປະຕິບັດຈະໃຊ້ສໍາລັບການປະມວນຜົນຂະຫນານຈາກແຜນການ.
max_worker_processes — ປັບຈໍານວນຂະບວນການພະນັກງານທັງຫມົດກັບຈໍານວນຂອງ CPU cores ໃນເຄື່ອງແມ່ຂ່າຍ.
max_parallel_workers - ດຽວກັນ, ແຕ່ສໍາລັບຂະບວນການເຮັດວຽກຂະຫນານ.

ຜົນໄດ້ຮັບ

ໃນຖານະເປັນສະບັບ 9.6, ການປຸງແຕ່ງຂະຫນານຢ່າງຫຼວງຫຼາຍສາມາດປັບປຸງການປະຕິບັດການສອບຖາມສະລັບສັບຊ້ອນທີ່ສະແກນຫຼາຍແຖວຫຼືດັດສະນີ. ໃນ PostgreSQL 10, ການປະມວນຜົນຂະໜານຈະຖືກເປີດໃຊ້ໂດຍຄ່າເລີ່ມຕົ້ນ. ຢ່າລືມປິດການໃຊ້ງານມັນຢູ່ໃນເຊີບເວີທີ່ມີວຽກ OLTP ຂະຫນາດໃຫຍ່. ການສະແກນຕາມລໍາດັບຫຼືການສະແກນດັດສະນີໃຊ້ຊັບພະຍາກອນຫຼາຍ. ຖ້າທ່ານບໍ່ໄດ້ດໍາເນີນການລາຍງານກ່ຽວກັບຊຸດຂໍ້ມູນທັງຫມົດ, ທ່ານສາມາດປັບປຸງການປະຕິບັດການສອບຖາມໂດຍພຽງແຕ່ເພີ່ມດັດສະນີທີ່ຂາດຫາຍໄປຫຼືໃຊ້ການແບ່ງປັນທີ່ເຫມາະສົມ.

ເອກະສານ

ແຫຼ່ງຂໍ້ມູນ: www.habr.com

ຄໍາຖາມຂະຫນານໃນ PostgreSQL

Restrictions

ສະພາບແວດລ້ອມການທົດສອບ

ການສະແກນຕາມລໍາດັບຂະຫນານ

ການລວບລວມຂະຫນານ

ຈໍານວນຂະບວນການຂອງພະນັກງານ

ມັນບໍ່ໄດ້ແນວໃດເຮັດວຽກ?

ຂະບວນການຕ່າງໆ

ການພົວພັນຮ່ວມກັນ

ຕ້ອງການຂະບວນການເຮັດວຽກຫຼາຍປານໃດ?

ເປັນຫຍັງການປຸງແຕ່ງຂະຫນານຈຶ່ງບໍ່ຖືກນໍາໃຊ້?

Nested Loop Joins

Hash ເຂົ້າຮ່ວມ

ຮວມເຂົ້າຮ່ວມ

ການເຊື່ອມຕໍ່ໂດຍພາກສ່ວນ

Parallel Append

ຕົວແປທີ່ສໍາຄັນທີ່ສຸດ

ຜົນໄດ້ຮັບ

ເອກະສານ

ເພີ່ມຄວາມຄິດເຫັນ Отменитьответ

ຄໍາຖາມຂະຫນານໃນ PostgreSQL

Restrictions

ສະພາບແວດລ້ອມການທົດສອບ

ການສະແກນຕາມລໍາດັບຂະຫນານ

ການລວບລວມຂະຫນານ

ຈໍານວນຂະບວນການຂອງພະນັກງານ

ມັນບໍ່ໄດ້ແນວໃດເຮັດວຽກ?

ຂະບວນການຕ່າງໆ

ການພົວພັນຮ່ວມກັນ

ຕ້ອງການຂະບວນການເຮັດວຽກຫຼາຍປານໃດ?

ເປັນຫຍັງການປຸງແຕ່ງຂະຫນານຈຶ່ງບໍ່ຖືກນໍາໃຊ້?

Nested Loop Joins

Hash ເຂົ້າຮ່ວມ

ຮວມເຂົ້າຮ່ວມ

ການ​ເຊື່ອມ​ຕໍ່​ໂດຍ​ພາກ​ສ່ວນ​

Parallel Append

ຕົວແປທີ່ສໍາຄັນທີ່ສຸດ

ຜົນໄດ້ຮັບ

ເອກະສານ

ເພີ່ມຄວາມຄິດເຫັນ Отменитьответ

ການເຊື່ອມຕໍ່ໂດຍພາກສ່ວນ