🥇שאילתות מקבילות ב-PostgreSQL

למעבדים מודרניים יש הרבה ליבות. במשך שנים, אפליקציות שולחות שאילתות למאגרי מידע במקביל. אם מדובר בשאילתת דוח על מספר שורות בטבלה, היא פועלת מהר יותר בעת שימוש במספר מעבדים, ו-PostgreSQL הצליח לעשות זאת מאז גרסה 9.6.

לקח 3 שנים ליישם את תכונת השאילתה המקבילה - היינו צריכים לשכתב את הקוד בשלבים שונים של ביצוע השאילתה. PostgreSQL 9.6 הציג תשתית לשיפור נוסף של הקוד. בגרסאות הבאות, סוגים אחרים של שאילתות מבוצעות במקביל.

הגבלות

אל תאפשר ביצוע מקביל אם כל הליבות כבר תפוסות, אחרת בקשות אחרות יאטו.
והכי חשוב, עיבוד מקביל עם ערכי WORK_MEM גבוהים משתמש בהרבה זיכרון - כל הצטרפות או מיון hash תופסת זיכרון work_mem.
לא ניתן להאיץ שאילתות OLTP עם חביון נמוך על ידי ביצוע מקביל. ואם השאילתה מחזירה שורה אחת, עיבוד מקביל רק יאט אותה.
מפתחים אוהבים להשתמש במדד TPC-H. אולי יש לך שאילתות דומות לביצוע מקביל מושלם.
רק שאילתות SELECT ללא נעילת פרדיקטים מבוצעות במקביל.
לפעמים אינדקס נכון עדיף על סריקת טבלה רציפה במצב מקבילי.
השהיית שאילתות וסמנים אינם נתמכים.
פונקציות חלון ופונקציות מצטברות מסודרות אינן מקבילות.
אתה לא מרוויח כלום בעומס העבודה של ה-I/O.
אין אלגוריתמי מיון מקבילים. אבל שאילתות עם מיונים יכולות להתבצע במקביל בהיבטים מסוימים.
החלף CTE (עם ...) ב-SELECT מקונן כדי לאפשר עיבוד מקביל.
עטיפות נתונים של צד שלישי אינן תומכות עדיין בעיבוד מקביל (אבל הן יכולות!)
FULL OUTER JOIN אינו נתמך.
max_rows משבית עיבוד מקביל.
אם לשאילתה יש פונקציה שאינה מסומנת כ-PARALLEL SAFE, היא תהיה עם שרשור יחיד.
רמת בידוד העסקאות SERIALIZABLE משביתה עיבוד מקביל.

סביבת בדיקה

מפתחי PostgreSQL ניסו להפחית את זמן התגובה של שאילתות השוואת TPC-H. הורד את הבנצ'מרק ו התאימו אותו ל-PostgreSQL. זהו שימוש לא רשמי במבחן TPC-H - לא להשוואת מסדי נתונים או חומרה.

הורד את TPC-H_Tools_v2.17.3.zip (או גרסה חדשה יותר) מ-TPC מחוץ לאתר.
שנה את השם של makefile.suite ל-Makefile ושנה כמתואר כאן: https://github.com/tvondra/pg_tpch . קומפלו את הקוד עם הפקודה make.
הפקת נתונים: ./dbgen -s 10 יוצר מסד נתונים של 23 GB. זה מספיק כדי לראות את ההבדל בביצועים של שאילתות מקבילות ולא מקבילות.
המרת קבצים tbl в csv с for и sed.
שכפל את המאגר pg_tpch ולהעתיק את הקבצים csv в pg_tpch/dss/data.
צור שאילתות עם פקודה qgen.
טען נתונים למסד הנתונים באמצעות הפקודה ./tpch.sh.

סריקה רציפה מקבילה

זה עשוי להיות מהיר יותר לא בגלל קריאה מקבילה, אלא בגלל שהנתונים מפוזרים על פני ליבות CPU רבות. במערכות הפעלה מודרניות, קבצי הנתונים של PostgreSQL נשמרים היטב. עם הקריאה קדימה, אפשר לקבל בלוק גדול יותר מאחסון מאשר בקשות הדמון PG. לכן, ביצועי השאילתה אינם מוגבלים על ידי קלט/פלט דיסק. זה צורך מחזורי מעבד כדי:

קרא שורות אחת בכל פעם מדפי הטבלה;
השוו ערכי מחרוזת ותנאים WHERE.

בואו נריץ שאילתה פשוטה select:

tpch=# explain analyze select l_quantity as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------
Seq Scan on lineitem (cost=0.00..1964772.00 rows=58856235 width=5) (actual time=0.014..16951.669 rows=58839715 loops=1)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 1146337
Planning Time: 0.203 ms
Execution Time: 19035.100 ms

הסריקה הרציפה מייצרת יותר מדי שורות ללא צבירה, כך שהשאילתה מבוצעת על ידי ליבת מעבד יחידה.

אם תוסיף SUM(), אתה יכול לראות ששתי זרימות עבודה יעזרו להאיץ את השאילתה:

explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 ms

צבירה מקבילה

הצומת Parallel Seq Scan מייצר שורות לצבירה חלקית. הצומת "מצטבר חלקי" חותך קווים אלה באמצעות SUM(). בסוף, מונה ה-SUM מכל תהליך עובד נאסף על ידי הצומת "Gather".

התוצאה הסופית מחושבת על ידי הצומת "Finalize Aggregate". אם יש לך פונקציות צבירה משלך, אל תשכח לסמן אותן כ"בטוחות במקביל".

מספר תהליכי עובד

ניתן להגדיל את מספר תהליכי העבודה מבלי להפעיל מחדש את השרת:

explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day;
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------------
Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1)
-> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1)
Workers Planned: 2
Workers Launched: 2
-> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3)
-> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3)
Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)
Rows Removed by Filter: 382112
Planning Time: 0.241 ms
Execution Time: 8555.131 ms

מה קורה פה? היו פי 2 יותר תהליכי עבודה, והבקשה הפכה למהירה רק פי 1,6599. החישובים מעניינים. היו לנו 2 תהליכי עובד ומנהיג אחד. לאחר השינוי זה הפך ל-1+4.

המהירות המקסימלית שלנו מעיבוד מקביל: 5/3 = 1,66(6) פעמים.

איך זה עובד?

Процессы

ביצוע הבקשה מתחיל תמיד בתהליך המוביל. המנהיג עושה הכל לא מקביל ואיזה עיבוד מקביל. תהליכים אחרים שמבצעים את אותן בקשות נקראים תהליכי עובד. עיבוד מקביל משתמש בתשתית תהליכי עבודה דינמיים ברקע (מגרסה 9.4). מכיוון שחלקים אחרים של PostgreSQL משתמשים בתהליכים ולא בשרשורים, שאילתה עם 3 תהליכי עבודה יכולה להיות מהירה פי 4 מעיבוד מסורתי.

אינטראקציה

תהליכי עובד מתקשרים עם המנהיג באמצעות תור הודעות (מבוסס על זיכרון משותף). לכל תהליך יש 2 תורים: עבור שגיאות ועבור tuples.

כמה זרימות עבודה נדרשות?

הגבול המינימלי מוגדר על ידי הפרמטר max_parallel_workers_per_gather. לאחר מכן, רץ הבקשות לוקח תהליכי עובד מהמאגר המוגבלים על ידי הפרמטר max_parallel_workers size. המגבלה האחרונה היא max_worker_processes, כלומר, המספר הכולל של תהליכי רקע.

אם לא ניתן היה להקצות תהליך עובד, העיבוד יהיה חד-תהליך.

מתכנן השאילתות יכול לצמצם זרימות עבודה בהתאם לגודל הטבלה או האינדקס. יש פרמטרים לזה min_parallel_table_scan_size и min_parallel_index_scan_size.

set min_parallel_table_scan_size='8MB'
8MB table => 1 worker
24MB table => 2 workers
72MB table => 3 workers
x => log(x / min_parallel_table_scan_size) / log(3) + 1 worker

בכל פעם שהשולחן גדול פי 3 מ min_parallel_(index|table)_scan_size, Postgres מוסיף תהליך עובד. מספר זרימות העבודה אינו מבוסס על עלויות. תלות מעגלית מקשה על יישומים מורכבים. במקום זאת, המתכנן משתמש בכללים פשוטים.

בפועל, כללים אלו לא תמיד מתאימים לייצור, כך שניתן לשנות את מספר תהליכי העבודה עבור טבלה ספציפית: ALTER TABLE ... SET (parallel_workers = N).

מדוע לא נעשה שימוש בעיבוד מקביל?

בנוסף לרשימת ההגבלות הארוכה, יש גם בדיקות עלויות:

parallel_setup_cost - להימנע מעיבוד מקביל של בקשות קצרות. פרמטר זה מעריך את זמן הכנת הזיכרון, התחלת התהליך והחלפת נתונים ראשונית.

parallel_tuple_cost: התקשורת בין המנהיג לעובדים יכולה להתעכב ביחס למספר הטפולים מתהליכי העבודה. פרמטר זה מחשב את עלות החלפת הנתונים.

לולאה מקוננת מצטרפת

PostgreSQL 9.6+ может выполнять вложенные циклы параллельно — это простая операция.

explain (costs off) select c_custkey, count(o_orderkey)
                from    customer left outer join orders on
                                c_custkey = o_custkey and o_comment not like '%special%deposits%'
                group by c_custkey;
                                      QUERY PLAN
--------------------------------------------------------------------------------------
 Finalize GroupAggregate
   Group Key: customer.c_custkey
   ->  Gather Merge
         Workers Planned: 4
         ->  Partial GroupAggregate
               Group Key: customer.c_custkey
               ->  Nested Loop Left Join
                     ->  Parallel Index Only Scan using customer_pkey on customer
                     ->  Index Scan using idx_orders_custkey on orders
                           Index Cond: (customer.c_custkey = o_custkey)
                           Filter: ((o_comment)::text !~~ '%special%deposits%'::text)

האיסוף מתרחש בשלב האחרון, אז Nested Loop Left Join הוא פעולה מקבילה. Parallel Index Only Scan הוצג רק בגרסה 10. זה עובד בדומה לסריקה טורית מקבילה. מַצָב c_custkey = o_custkey קורא הזמנה אחת לכל מחרוזת לקוח. אז זה לא מקביל.

Hash Join

כל תהליך עובד יוצר טבלת hash משלו עד ל-PostgreSQL 11. ואם יש יותר מארבעה מהתהליכים האלה, הביצועים לא ישתפרו. בגרסה החדשה, טבלת הגיבוב משותפת. כל תהליך עובד יכול להשתמש ב-WORK_MEM כדי ליצור טבלת גיבוב.

select
        l_shipmode,
        sum(case
                when o_orderpriority = '1-URGENT'
                        or o_orderpriority = '2-HIGH'
                        then 1
                else 0
        end) as high_line_count,
        sum(case
                when o_orderpriority <> '1-URGENT'
                        and o_orderpriority <> '2-HIGH'
                        then 1
                else 0
        end) as low_line_count
from
        orders,
        lineitem
where
        o_orderkey = l_orderkey
        and l_shipmode in ('MAIL', 'AIR')
        and l_commitdate < l_receiptdate
        and l_shipdate < l_commitdate
        and l_receiptdate >= date '1996-01-01'
        and l_receiptdate < date '1996-01-01' + interval '1' year
group by
        l_shipmode
order by
        l_shipmode
LIMIT 1;
                                                                                                                                    QUERY PLAN
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
 Limit  (cost=1964755.66..1964961.44 rows=1 width=27) (actual time=7579.592..7922.997 rows=1 loops=1)
   ->  Finalize GroupAggregate  (cost=1964755.66..1966196.11 rows=7 width=27) (actual time=7579.590..7579.591 rows=1 loops=1)
         Group Key: lineitem.l_shipmode
         ->  Gather Merge  (cost=1964755.66..1966195.83 rows=28 width=27) (actual time=7559.593..7922.319 rows=6 loops=1)
               Workers Planned: 4
               Workers Launched: 4
               ->  Partial GroupAggregate  (cost=1963755.61..1965192.44 rows=7 width=27) (actual time=7548.103..7564.592 rows=2 loops=5)
                     Group Key: lineitem.l_shipmode
                     ->  Sort  (cost=1963755.61..1963935.20 rows=71838 width=27) (actual time=7530.280..7539.688 rows=62519 loops=5)
                           Sort Key: lineitem.l_shipmode
                           Sort Method: external merge  Disk: 2304kB
                           Worker 0:  Sort Method: external merge  Disk: 2064kB
                           Worker 1:  Sort Method: external merge  Disk: 2384kB
                           Worker 2:  Sort Method: external merge  Disk: 2264kB
                           Worker 3:  Sort Method: external merge  Disk: 2336kB
                           ->  Parallel Hash Join  (cost=382571.01..1957960.99 rows=71838 width=27) (actual time=7036.917..7499.692 rows=62519 loops=5)
                                 Hash Cond: (lineitem.l_orderkey = orders.o_orderkey)
                                 ->  Parallel Seq Scan on lineitem  (cost=0.00..1552386.40 rows=71838 width=19) (actual time=0.583..4901.063 rows=62519 loops=5)
                                       Filter: ((l_shipmode = ANY ('{MAIL,AIR}'::bpchar[])) AND (l_commitdate < l_receiptdate) AND (l_shipdate < l_commitdate) AND (l_receiptdate >= '1996-01-01'::date) AND (l_receiptdate < '1997-01-01 00:00:00'::timestamp without time zone))
                                       Rows Removed by Filter: 11934691
                                 ->  Parallel Hash  (cost=313722.45..313722.45 rows=3750045 width=20) (actual time=2011.518..2011.518 rows=3000000 loops=5)
                                       Buckets: 65536  Batches: 256  Memory Usage: 3840kB
                                       ->  Parallel Seq Scan on orders  (cost=0.00..313722.45 rows=3750045 width=20) (actual time=0.029..995.948 rows=3000000 loops=5)
 Planning Time: 0.977 ms
 Execution Time: 7923.770 ms

שאילתה 12 מ-TPC-H מציגה בבירור חיבור גיבוב מקביל. כל תהליך עובד תורם ליצירת טבלת גיבוב משותפת.

מיזוג הצטרף

צירוף מיזוג אינו מקביל באופיו. אל תדאג אם זה השלב האחרון של השאילתה - היא עדיין יכולה לפעול במקביל.

-- Query 2 from TPC-H
explain (costs off) select s_acctbal, s_name, n_name, p_partkey, p_mfgr, s_address, s_phone, s_comment
from    part, supplier, partsupp, nation, region
where
        p_partkey = ps_partkey
        and s_suppkey = ps_suppkey
        and p_size = 36
        and p_type like '%BRASS'
        and s_nationkey = n_nationkey
        and n_regionkey = r_regionkey
        and r_name = 'AMERICA'
        and ps_supplycost = (
                select
                        min(ps_supplycost)
                from    partsupp, supplier, nation, region
                where
                        p_partkey = ps_partkey
                        and s_suppkey = ps_suppkey
                        and s_nationkey = n_nationkey
                        and n_regionkey = r_regionkey
                        and r_name = 'AMERICA'
        )
order by s_acctbal desc, n_name, s_name, p_partkey
LIMIT 100;
                                                QUERY PLAN
----------------------------------------------------------------------------------------------------------
 Limit
   ->  Sort
         Sort Key: supplier.s_acctbal DESC, nation.n_name, supplier.s_name, part.p_partkey
         ->  Merge Join
               Merge Cond: (part.p_partkey = partsupp.ps_partkey)
               Join Filter: (partsupp.ps_supplycost = (SubPlan 1))
               ->  Gather Merge
                     Workers Planned: 4
                     ->  Parallel Index Scan using <strong>part_pkey</strong> on part
                           Filter: (((p_type)::text ~~ '%BRASS'::text) AND (p_size = 36))
               ->  Materialize
                     ->  Sort
                           Sort Key: partsupp.ps_partkey
                           ->  Nested Loop
                                 ->  Nested Loop
                                       Join Filter: (nation.n_regionkey = region.r_regionkey)
                                       ->  Seq Scan on region
                                             Filter: (r_name = 'AMERICA'::bpchar)
                                       ->  Hash Join
                                             Hash Cond: (supplier.s_nationkey = nation.n_nationkey)
                                             ->  Seq Scan on supplier
                                             ->  Hash
                                                   ->  Seq Scan on nation
                                 ->  Index Scan using idx_partsupp_suppkey on partsupp
                                       Index Cond: (ps_suppkey = supplier.s_suppkey)
               SubPlan 1
                 ->  Aggregate
                       ->  Nested Loop
                             Join Filter: (nation_1.n_regionkey = region_1.r_regionkey)
                             ->  Seq Scan on region region_1
                                   Filter: (r_name = 'AMERICA'::bpchar)
                             ->  Nested Loop
                                   ->  Nested Loop
                                         ->  Index Scan using idx_partsupp_partkey on partsupp partsupp_1
                                               Index Cond: (part.p_partkey = ps_partkey)
                                         ->  Index Scan using supplier_pkey on supplier supplier_1
                                               Index Cond: (s_suppkey = partsupp_1.ps_suppkey)
                                   ->  Index Scan using nation_pkey on nation nation_1
                                         Index Cond: (n_nationkey = supplier_1.s_nationkey)

הצומת "Merge Join" ממוקם מעל "Gather Merge". אז מיזוג אינו משתמש בעיבוד מקביל. אבל הצומת "סריקת אינדקס מקבילה" עדיין עוזר עם הקטע part_pkey.

חיבור לפי מקטעים

ב-PostgreSQL 11 חיבור לפי קטעים מושבת כברירת מחדל: יש לו תזמון יקר מאוד. ניתן לחבר טבלאות עם חלוקה דומה למחיצה אחר מחיצה. בדרך זו Postgres ישתמש בטבלאות Hash קטנות יותר. כל חיבור של קטעים יכול להיות מקביל.

tpch=# set enable_partitionwise_join=t;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
                    QUERY PLAN
---------------------------------------------------
 Append
   ->  Hash Join
         Hash Cond: (t2.b = t1.a)
         ->  Seq Scan on prt2_p1 t2
               Filter: ((b >= 0) AND (b <= 10000))
         ->  Hash
               ->  Seq Scan on prt1_p1 t1
                     Filter: (b = 0)
   ->  Hash Join
         Hash Cond: (t2_1.b = t1_1.a)
         ->  Seq Scan on prt2_p2 t2_1
               Filter: ((b >= 0) AND (b <= 10000))
         ->  Hash
               ->  Seq Scan on prt1_p2 t1_1
                     Filter: (b = 0)
tpch=# set parallel_setup_cost = 1;
tpch=# set parallel_tuple_cost = 0.01;
tpch=# explain (costs off) select * from prt1 t1, prt2 t2
where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000;
                        QUERY PLAN
-----------------------------------------------------------
 Gather
   Workers Planned: 4
   ->  Parallel Append
         ->  Parallel Hash Join
               Hash Cond: (t2_1.b = t1_1.a)
               ->  Parallel Seq Scan on prt2_p2 t2_1
                     Filter: ((b >= 0) AND (b <= 10000))
               ->  Parallel Hash
                     ->  Parallel Seq Scan on prt1_p2 t1_1
                           Filter: (b = 0)
         ->  Parallel Hash Join
               Hash Cond: (t2.b = t1.a)
               ->  Parallel Seq Scan on prt2_p1 t2
                     Filter: ((b >= 0) AND (b <= 10000))
               ->  Parallel Hash
                     ->  Parallel Seq Scan on prt1_p1 t1
                           Filter: (b = 0)

העיקר שהחיבור בקטעים הוא מקביל רק אם הקטעים האלה גדולים מספיק.

צרף מקביל

צרף מקביל ניתן להשתמש במקום בלוקים שונים בזרימות עבודה שונות. זה קורה בדרך כלל עם שאילתות UNION ALL. החיסרון הוא פחות מקביליות, מכיוון שכל תהליך עובד מעבד רק בקשה אחת.

פועלים כאן 2 תהליכי עבודה, אם כי 4 מופעלים.

tpch=# explain (costs off) select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day union all select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '2000-12-01' - interval '105' day;
                                           QUERY PLAN
------------------------------------------------------------------------------------------------
 Gather
   Workers Planned: 2
   ->  Parallel Append
         ->  Aggregate
               ->  Seq Scan on lineitem
                     Filter: (l_shipdate <= '2000-08-18 00:00:00'::timestamp without time zone)
         ->  Aggregate
               ->  Seq Scan on lineitem lineitem_1
                     Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone)

המשתנים החשובים ביותר

WORK_MEM מגביל זיכרון לכל תהליך, לא רק שאילתות: work_mem תהליכים חיבורים = הרבה זיכרון.
max_parallel_workers_per_gather - בכמה תהליכי עובד תשתמש התוכנית המבצעת לעיבוד מקביל מהתוכנית.
max_worker_processes - מתאים את המספר הכולל של תהליכי עבודה למספר ליבות המעבד בשרת.
max_parallel_workers - זהה, אבל לתהליכי עבודה מקבילים.

תוצאות של

החל מגרסה 9.6, עיבוד מקביל יכול לשפר מאוד את הביצועים של שאילתות מורכבות הסורקות שורות או אינדקסים רבים. ב-PostgreSQL 10, עיבוד מקביל מופעל כברירת מחדל. זכור להשבית אותו בשרתים עם עומס עבודה OLTP גדול. סריקות רציפות או סריקות אינדקס צורכות משאבים רבים. אם אינך מפעיל דוח על מערך הנתונים כולו, תוכל לשפר את ביצועי השאילתות על ידי הוספת אינדקסים חסרים או שימוש בחלוקה מתאימה.

תזכור

מקור: www.habr.com

שאילתות מקבילות ב-PostgreSQL