സന്തോഷകരമായ പാർട്ടി അല്ലെങ്കിൽ PostgreSQL10-ൽ പാർട്ടീഷനിംഗ് അറിയുന്നതിനെക്കുറിച്ചുള്ള ഓർമ്മകളുടെ രണ്ട് വരികൾ

ആമുഖം അല്ലെങ്കിൽ വിഭജനം എന്ന ആശയം എങ്ങനെ ഉണ്ടായി

കഥ ഇവിടെ തുടങ്ങുന്നു: ഇതെല്ലാം എങ്ങനെ ആരംഭിച്ചുവെന്ന് നിങ്ങൾ ഓർക്കുന്നുണ്ടോ? എല്ലാം ആദ്യമായി വീണ്ടും വീണ്ടും. അഭ്യർത്ഥന ഒപ്റ്റിമൈസ് ചെയ്യുന്നതിനുള്ള മിക്കവാറും എല്ലാ വിഭവങ്ങളും, ആ സമയത്ത്, തീർന്നുപോയപ്പോൾ, ചോദ്യം ഉയർന്നു - അടുത്തത് എന്താണ്? അങ്ങനെയാണ് വിഭജനം എന്ന ആശയം ഉടലെടുത്തത്.

ലിറിക്കൽ ഡൈഗ്രഷൻ:
കൃത്യമായി പറഞ്ഞാൽ 'ആ നിമിഷത്തിൽ', കാരണം അത് മാറിയത് പോലെ, ഉപയോഗിക്കാത്ത ഒപ്റ്റിമൈസേഷൻ കരുതൽ ഉണ്ടായിരുന്നു... നന്ദി asmm ഒപ്പം ഹബ്രു!

അതിനാൽ, നിങ്ങൾക്ക് എങ്ങനെ ഉപഭോക്താവിനെ സന്തോഷിപ്പിക്കാനാകും, അതേ സമയം നിങ്ങളുടെ സ്വന്തം കഴിവുകൾ മെച്ചപ്പെടുത്താം?

എല്ലാം കഴിയുന്നത്ര ലളിതമാക്കാൻഡാറ്റാബേസിന്റെ പ്രകടനത്തിൽ എന്തെങ്കിലും സമൂലമായി മെച്ചപ്പെടുത്താൻ രണ്ട് വഴികളേയുള്ളൂ:
1) വിപുലമായ പാത - ഞങ്ങൾ വിഭവങ്ങൾ വർദ്ധിപ്പിക്കുന്നു, കോൺഫിഗറേഷൻ മാറ്റുന്നു;
2) തീവ്രമായ പാത - അന്വേഷണ ഒപ്റ്റിമൈസേഷൻ

വേഗത്തിലാക്കാനുള്ള അഭ്യർത്ഥനയിൽ മറ്റെന്താണ് മാറ്റേണ്ടതെന്ന് അക്കാലത്ത് വ്യക്തമല്ലാത്തതിനാൽ, ഞാൻ ആവർത്തിക്കുന്നു, പാത തിരഞ്ഞെടുത്തു - ടേബിൾ ഡിസൈൻ മാറ്റങ്ങൾ.

അതിനാൽ, പ്രധാന ചോദ്യം ഉയർന്നുവരുന്നു: നമ്മൾ എന്ത്, എങ്ങനെ മാറും?

പ്രാരംഭ വ്യവസ്ഥകൾ

ഒന്നാമതായി, ഈ ERD ഉണ്ട് (സോപാധികമായി ലളിതമാക്കിയ രീതിയിൽ കാണിച്ചിരിക്കുന്നു):

പ്രധാന സവിശേഷതകൾ:

1. പല പല ബന്ധങ്ങൾ
2. പട്ടികയിൽ ഇതിനകം ഒരു പാർട്ടീഷൻ കീ ഉണ്ട്

യഥാർത്ഥ അഭ്യർത്ഥന:

SELECT
            p."PARAMETER_ID" as  parameter_id,
            pc."PC_NAME" AS pc_name,
            pc."CUSTOMER_PARTNUMBER" AS customer_partnumber,
            w."LASERMARK" AS lasermark,
            w."LOTID" AS lotid,
            w."REPORTED_VALUE" AS reported_value,
            w."LOWER_SPEC_LIMIT" AS lower_spec_limit,
            w."UPPER_SPEC_LIMIT" AS upper_spec_limit,
            p."TYPE_CALCUL" AS type_calcul,
            s."SHIPMENT_NAME" AS shipment_name,
            s."SHIPMENT_DATE" AS shipment_date,
            extract(year from s."SHIPMENT_DATE") AS year,
            extract(month from s."SHIPMENT_DATE") as month,
            s."REPORT_NAME" AS report_name,
            p."SPARAM_NAME" AS SPARAM_name,
            p."CUSTOMERPARAM_NAME" AS customerparam_name
        FROM data w INNER JOIN shipment s ON s."SHIPMENT_ID" = w."SHIPMENT_ID"
             INNER JOIN parameters p ON p."PARAMETER_ID" = w."PARAMETER_ID"
             INNER JOIN shipment_pc sp ON s."SHIPMENT_ID" = sp."SHIPMENT_ID"
             INNER JOIN pc pc ON pc."PC_ID" = sp."PC_ID"
             INNER JOIN ( SELECT w2."LASERMARK" , MAX(s2."SHIPMENT_DATE") AS "SHIPMENT_DATE"
                          FROM shipment s2 INNER JOIN data w2 ON s2."SHIPMENT_ID" = w2."SHIPMENT_ID" 
                          GROUP BY w2."LASERMARK"
                         ) md ON md."SHIPMENT_DATE" = s."SHIPMENT_DATE" AND md."LASERMARK" = w."LASERMARK"
        WHERE 
             s."SHIPMENT_DATE" >= '2018-07-01' AND s."SHIPMENT_DATE" <= '2018-09-30' ;

ടെസ്റ്റ് ഡാറ്റാബേസിലെ നിർവ്വഹണ ഫലങ്ങൾ:
ചെലവ് : 502 997.55
നിർവ്വഹണ സമയം: 505 സെക്കൻഡ്.

നമ്മൾ എന്താണ് കാണുന്നത്? ഒരു സമയ സ്ലൈസിനെ അടിസ്ഥാനമാക്കിയുള്ള ഒരു പതിവ് അഭ്യർത്ഥന.
നമുക്ക് ഏറ്റവും ലളിതമായ ലോജിക്കൽ അനുമാനം ഉണ്ടാക്കാം: ഒരു ടൈം സ്ലൈസിന്റെ സാമ്പിൾ ഉണ്ടെങ്കിൽ, അത് ഞങ്ങളെ സഹായിക്കുമോ? അത് ശരിയാണ് - വിഭജനം.

എന്ത് സെക്ഷൻ ചെയ്യണം?

ഒറ്റനോട്ടത്തിൽ, ചോയ്സ് വ്യക്തമാണ് - "SHIPMENT_DATE" കീ ഉപയോഗിച്ച് "ഷിപ്പ്മെന്റ്" പട്ടികയുടെ ഡിക്ലറേറ്റീവ് പാർട്ടീഷനിംഗ് (വളരെ മുന്നോട്ട് കുതിക്കുന്നു - അവസാനം അത് ഉൽപാദനത്തിൽ അൽപ്പം തെറ്റായി മാറി).

എങ്ങനെ വിഭജിക്കാം?

ഈ ചോദ്യവും വളരെ ബുദ്ധിമുട്ടുള്ള കാര്യമല്ല. ഭാഗ്യവശാൽ, PostgreSQL 10 ൽ, ഇപ്പോൾ ഒരു ഹ്യൂമൻ പാർട്ടീഷനിംഗ് മെക്കാനിസം ഉണ്ട്.
അങ്ങനെ:

1. ഉറവിട പട്ടികയുടെ ഒരു ഡംപ് സംരക്ഷിക്കുക - pg_dump source_table
2. യഥാർത്ഥ പട്ടിക ഇല്ലാതാക്കുക - ഡ്രോപ്പ് ടേബിൾ source_table
3. ശ്രേണി പാർട്ടീഷനിംഗ് ഉപയോഗിച്ച് ഒരു പാരന്റ് ടേബിൾ സൃഷ്ടിക്കുക - പട്ടിക source_table സൃഷ്ടിക്കുക
4. വിഭാഗങ്ങൾ സൃഷ്ടിക്കുക - പട്ടിക source_table സൃഷ്‌ടിക്കുക, സൂചിക സൃഷ്‌ടിക്കുക
5. ഘട്ടം 1-ൽ സൃഷ്‌ടിച്ച ഡംപ് ഇറക്കുമതി ചെയ്യുക - pg_restore

വിഭജനത്തിനുള്ള സ്ക്രിപ്റ്റുകൾ

ലാളിത്യത്തിനും സൗകര്യത്തിനുമായി, 2,3,4 ഘട്ടങ്ങൾ ഒരു സ്ക്രിപ്റ്റിലേക്ക് സംയോജിപ്പിച്ചിരിക്കുന്നു.

അങ്ങനെ:
ഉറവിട പട്ടികയുടെ ഒരു ഡംപ് സംരക്ഷിക്കുക

pg_dump postgres --file=/dump/shipment.dmp --format=c --table=shipment --verbose > /dump/shipment.log 2>&1

ഉറവിട പട്ടിക ഇല്ലാതാക്കുക + റേഞ്ച് പാർട്ടീഷനിംഗ് ഉപയോഗിച്ച് ഒരു പാരന്റ് ടേബിൾ സൃഷ്‌ടിക്കുക + പാർട്ടീഷനുകൾ സൃഷ്‌ടിക്കുക

--create_partition_shipment.sql
do language plpgsql $$
declare 
rec_shipment_date RECORD ;
partition_name varchar;
index_name varchar;
current_year varchar ;
current_month varchar ;
begin_year varchar ;
begin_month varchar ;
next_year varchar ;
next_month varchar ;
first_flag boolean ;
i integer ;
begin
  RAISE NOTICE 'CREATE TEMPORARY TABLE FOR SHIPMENT_DATE';
  CREATE TEMP TABLE tmp_shipment_date as select distinct "SHIPMENT_DATE" from shipment order by "SHIPMENT_DATE" ;

  RAISE NOTICE 'DROP TABLE shipment';
  drop table shipment cascade ;
  
  CREATE TABLE public.shipment
  (
    "SHIPMENT_ID" integer NOT NULL DEFAULT nextval('shipment_shipment_id_seq'::regclass),
    "SHIPMENT_NAME" character varying(30) COLLATE pg_catalog."default",
    "SHIPMENT_DATE" timestamp without time zone,
    "REPORT_NAME" character varying(40) COLLATE pg_catalog."default"
  )
  PARTITION BY RANGE ("SHIPMENT_DATE")
  WITH (
      OIDS = FALSE
  )
  TABLESPACE pg_default;

  RAISE NOTICE 'CREATE PARTITIONS FOR TABLE shipment';

  current_year:='0';
  current_month:='0';

  begin_year := '0' ;
  begin_month := '0'  ;
  next_year := '0' ;
  next_month := '0'  ;

  FOR rec_shipment_date IN SELECT * FROM tmp_shipment_date LOOP
      
      RAISE NOTICE 'SHIPMENT_DATE=%',rec_shipment_date."SHIPMENT_DATE";
      
      current_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE");
      current_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE") ; 

      IF to_number(current_month,'99') < 10 THEN
        current_month := '0'||current_month ; 
      END IF ;

      --Init borders
      IF   begin_year = '0' THEN
       first_flag := true ; --first time flag
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;

      END IF;

      -- Check current date into borders NOT for First time
      IF to_date( current_year||'.'||current_month, 'YYYY.MM') >= to_date( begin_year||'.'||begin_month, 'YYYY.MM') AND 
         to_date( current_year||'.'||current_month, 'YYYY.MM') < to_date( next_year||'.'||next_month, 'YYYY.MM') AND 
         NOT first_flag 
      THEN
         CONTINUE ; 
      ELSE
       --NEW borders only for second and after time 
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;

      END IF;      

      partition_name := 'shipment_shipment_date_'||begin_year||'-'||begin_month||'-01-'|| next_year||'-'||next_month||'-01'  ;
 
     EXECUTE format('CREATE TABLE ' || quote_ident(partition_name) || ' PARTITION OF shipment FOR VALUES FROM ( %L ) TO ( %L )  ' , current_year||'-'||current_month||'-01' , next_year||'-'||next_month||'-01'  ) ; 

      index_name := partition_name||'_shipment_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID") TABLESPACE pg_default ' ) ; 

      --Drop first time flag
      first_flag := false ;
   
  END LOOP;

end
$$;

ഡംപ് ഇറക്കുമതി ചെയ്യുന്നു

pg_restore -d postgres --data-only --format=c --table=shipment --verbose  shipment.dmp > /tmp/data_dump/shipment_restore.log 2>&1

പാർട്ടീഷനിംഗ് ഫലങ്ങൾ പരിശോധിക്കുന്നു

അതിന്റെ ഫലമായി നമുക്ക് എന്താണ് ഉള്ളത്? നിർവ്വഹണ പദ്ധതിയുടെ പൂർണ്ണ വാചകം വലുതും വിരസവുമാണ്, അതിനാൽ അന്തിമ സംഖ്യകളിലേക്ക് സ്വയം പരിമിതപ്പെടുത്തുന്നത് തികച്ചും സാദ്ധ്യമാണ്.

ആയിരുന്നു

ചെലവ്: 502 997.55
നിർവ്വഹണ സമയം: ക്സനുമ്ക്സ സെക്കൻഡ്.

ആയി മാറിയിരിക്കുന്നു

ചെലവ്: 77 872.36
നിർവ്വഹണ സമയം: ക്സനുമ്ക്സ സെക്കൻഡ്.

തികച്ചും നല്ല ഫലം. ചെലവും നിർവ്വഹണ സമയവും കുറച്ചു. അങ്ങനെ, പാർട്ടീഷനിംഗ് ഉപയോഗം പ്രതീക്ഷിച്ച ഫലം നൽകുന്നു, പൊതുവേ, ആശ്ചര്യമില്ല.

ഉപഭോക്താവിനെ സന്തോഷിപ്പിക്കുക

പരിശോധനാ ഫലങ്ങൾ ഉപഭോക്താവിന് അവലോകനത്തിനായി സമർപ്പിച്ചു. അത് അവലോകനം ചെയ്‌ത ശേഷം, അവർക്ക് അൽപ്പം അപ്രതീക്ഷിതമായ ഒരു വിധി ലഭിച്ചു: “കൊള്ളാം, “ഡാറ്റ” പട്ടിക വിഭജിക്കുക.”

അതെ, എന്നാൽ ഞങ്ങൾ തികച്ചും വ്യത്യസ്തമായ "ഷിപ്പ്മെന്റ്" പട്ടിക പരിശോധിച്ചു; "ഡാറ്റ" പട്ടികയിൽ "SHIPMENT_DATE" ഫീൽഡ് ഇല്ല.

കുഴപ്പമില്ല, ചേർക്കുക, മാറ്റുക. പ്രധാന കാര്യം, ഉപഭോക്താവ് ഫലത്തിൽ സംതൃപ്തനാണ്; നടപ്പാക്കൽ വിശദാംശങ്ങൾ പ്രത്യേകിച്ച് പ്രധാനമല്ല.

പ്രധാന പട്ടിക "ഡാറ്റ" വിഭജിക്കുന്നു

പൊതുവേ, പ്രത്യേക ബുദ്ധിമുട്ടുകൾ ഉണ്ടായില്ല. എന്നിരുന്നാലും, പാർട്ടീഷനിംഗ് അൽഗോരിതം, തീർച്ചയായും, കുറച്ച് മാറിയിട്ടുണ്ട്.

"ഡാറ്റ" പട്ടികയിലേക്ക് "SHIPMENT_DATA" കോളം ചേർക്കുന്നു

psql -h хост -U база -d юзер
=> ALTER TABLE data ADD COLUMN "SHIPMENT_DATE" timestamp without time zone ;

"ഷിപ്പ്മെന്റ്" പട്ടികയിൽ നിന്നുള്ള അതേ പേരിലുള്ള കോളത്തിന്റെ മൂല്യങ്ങൾ ഉപയോഗിച്ച് "ഡാറ്റ" പട്ടികയിലെ "SHIPMENT_DATA" കോളത്തിന്റെ മൂല്യങ്ങൾ പൂരിപ്പിക്കുക

-----------------------------
--update_data.sql
--updating for altered table "data" to values of "shipment_data" from the table "shipment"
--version 1.0
do language plpgsql $$
declare 
rec_shipment_data RECORD ;
shipment_date timestamp without time zone ; 
row_count integer ;
total_rows integer ;
begin

  select count(*) into total_rows from shipment ; 
  RAISE NOTICE 'Total %',total_rows;
  row_count:= 0 ;

  FOR rec_shipment_data IN SELECT * FROM shipment LOOP

   update data set "SHIPMENT_DATE" = rec_shipment_data."SHIPMENT_DATE" where "SHIPMENT_ID" = rec_shipment_data."SHIPMENT_ID";
   
   row_count:=  row_count +1 ;
   RAISE NOTICE 'row count = % , from %',row_count,total_rows;
  END LOOP;

end
$$;

"ഡാറ്റ" പട്ടികയുടെ ഒരു ഡംപ് സംരക്ഷിക്കുക

pg_dump postgres --file=/dump/data.dmp --format=c --table=data --verbose > /dump/data.log 2>&1</source

പാർട്ടീഷൻ ചെയ്ത പട്ടിക "ഡാറ്റ" വീണ്ടും സൃഷ്ടിക്കുക

--create_partition_data.sql
--create partitions for the table "wafer data" by range column "shipment_data" with one month duration
--version 1.0
do language plpgsql $$
declare 
rec_shipment_date RECORD ;
partition_name varchar;
index_name varchar;
current_year varchar ;
current_month varchar ;
begin_year varchar ;
begin_month varchar ;
next_year varchar ;
next_month varchar ;
first_flag boolean ;
i integer ;

begin

  RAISE NOTICE 'CREATE TEMPORARY TABLE FOR SHIPMENT_DATE';
  CREATE TEMP TABLE tmp_shipment_date as select distinct "SHIPMENT_DATE" from shipment order by "SHIPMENT_DATE" ;


  RAISE NOTICE 'DROP TABLE data';
  drop table data cascade ;


  RAISE NOTICE 'CREATE PARTITIONED TABLE data';
  
  CREATE TABLE public.data
  (
    "RUN_ID" integer,
    "LASERMARK" character varying(20) COLLATE pg_catalog."default" NOT NULL,
    "LOTID" character varying(80) COLLATE pg_catalog."default",
    "SHIPMENT_ID" integer NOT NULL,
    "PARAMETER_ID" integer NOT NULL,
    "INTERNAL_VALUE" character varying(75) COLLATE pg_catalog."default",
    "REPORTED_VALUE" character varying(75) COLLATE pg_catalog."default",
    "LOWER_SPEC_LIMIT" numeric,
    "UPPER_SPEC_LIMIT" numeric , 
    "SHIPMENT_DATE" timestamp without time zone
  )
  PARTITION BY RANGE ("SHIPMENT_DATE")
  WITH (
    OIDS = FALSE
  )
  TABLESPACE pg_default ;


  RAISE NOTICE 'CREATE PARTITIONS FOR TABLE data';

  current_year:='0';
  current_month:='0';

  begin_year := '0' ;
  begin_month := '0'  ;
  next_year := '0' ;
  next_month := '0'  ;
  i := 1;

  FOR rec_shipment_date IN SELECT * FROM tmp_shipment_date LOOP
      
      RAISE NOTICE 'SHIPMENT_DATE=%',rec_shipment_date."SHIPMENT_DATE";
      
      current_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE");
      current_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE") ; 

      --Init borders
      IF   begin_year = '0' THEN
       RAISE NOTICE '***Init borders';
       first_flag := true ; --first time flag
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;

      END IF;

--      RAISE NOTICE 'current_year=% , current_month=% ',current_year,current_month;
--      RAISE NOTICE 'begin_year=% , begin_month=% ',begin_year,begin_month;
--      RAISE NOTICE 'next_year=% , next_month=% ',next_year,next_month;

      -- Check current date into borders NOT for First time

      RAISE NOTICE 'Current data = %',to_char( to_date( current_year||'.'||current_month, 'YYYY.MM'), 'YYYY.MM');
      RAISE NOTICE 'Begin data = %',to_char( to_date( begin_year||'.'||begin_month, 'YYYY.MM'), 'YYYY.MM');
      RAISE NOTICE 'Next data = %',to_char( to_date( next_year||'.'||next_month, 'YYYY.MM'), 'YYYY.MM');

      IF to_date( current_year||'.'||current_month, 'YYYY.MM') >= to_date( begin_year||'.'||begin_month, 'YYYY.MM') AND 
         to_date( current_year||'.'||current_month, 'YYYY.MM') < to_date( next_year||'.'||next_month, 'YYYY.MM') AND 
         NOT first_flag 
      THEN
         RAISE NOTICE '***CONTINUE';
         CONTINUE ; 
      ELSE
       --NEW borders only for second and after time 
       RAISE NOTICE '***NEW BORDERS';
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;


      END IF;      

      IF to_number(current_month,'99') < 10 THEN
        current_month := '0'||current_month ; 
      END IF ;

      IF to_number(begin_month,'99') < 10 THEN
        begin_month := '0'||begin_month ; 
      END IF ;

      IF to_number(next_month,'99') < 10 THEN
        next_month := '0'||next_month ; 
      END IF ;

      RAISE NOTICE 'current_year=% , current_month=% ',current_year,current_month;
      RAISE NOTICE 'begin_year=% , begin_month=% ',begin_year,begin_month;
      RAISE NOTICE 'next_year=% , next_month=% ',next_year,next_month;

      partition_name := 'data_'||begin_year||begin_month||'01_'||next_year||next_month||'01'  ;

      RAISE NOTICE 'PARTITION NUMBER % , TABLE NAME =%',i , partition_name;
      
      EXECUTE format('CREATE TABLE ' || quote_ident(partition_name) || ' PARTITION OF data FOR VALUES FROM ( %L ) TO ( %L )  ' , begin_year||'-'||begin_month||'-01' , next_year||'-'||next_month||'-01'  ) ; 

      index_name := partition_name||'_shipment_id_parameter_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID", "PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_lasermark_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("LASERMARK" COLLATE pg_catalog."default") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_parameter_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_date_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_DATE") TABLESPACE pg_default ' ) ; 

      --Drop first time flag
      first_flag := false ;

  END LOOP;
end
$$;

ഘട്ടം 3-ൽ സൃഷ്‌ടിച്ച ഡംപ് ലോഡ് ചെയ്യുക.

pg_restore -h хост -юзер -d база --data-only --format=c --table=data --verbose  data.dmp > data_restore.log 2>&1

പഴയ ഡാറ്റയ്ക്കായി ഒരു പ്രത്യേക വിഭാഗം സൃഷ്ടിക്കുക

---------------------------------------------------
--create_partition_for_old_dates.sql
--create partitions for keeping old dates 
--version 1.0
do language plpgsql $$
declare 
rec_shipment_date RECORD ;
partition_name varchar;
index_name varchar;

begin

      SELECT min("SHIPMENT_DATE") AS min_date INTO rec_shipment_date from data ;

      RAISE NOTICE 'Old date is %',rec_shipment_date.min_date ;

      partition_name := 'data_old_dates'  ;

      RAISE NOTICE 'PARTITION NAME IS %',partition_name;

      EXECUTE format('CREATE TABLE ' || quote_ident(partition_name) || ' PARTITION OF data FOR VALUES FROM ( %L ) TO ( %L )  ' , '1900-01-01' , 
              to_char( rec_shipment_date.min_date,'YYYY')||'-'||to_char(rec_shipment_date.min_date,'MM')||'-01'  ) ; 

      index_name := partition_name||'_shipment_id_parameter_id_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID", "PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_lasermark_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("LASERMARK" COLLATE pg_catalog."default") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_id_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_parameter_id_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_date_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_DATE") TABLESPACE pg_default ' ) ; 

end
$$;

അന്തിമ ഫലങ്ങൾ:

ആയിരുന്നു
ചെലവ്: 502 997.55
നിർവ്വഹണ സമയം: 505 സെക്കൻഡ്.

ആയി മാറിയിരിക്കുന്നു
ചെലവ്: 68 533.70
നിർവ്വഹണ സമയം: 69 നിമിഷങ്ങൾ

യോഗ്യൻ, തികച്ചും യോഗ്യൻ. പോസ്‌റ്റ്‌ഗ്രെഎസ്‌ക്യുഎൽ 10-ലെ പാർട്ടീഷനിംഗ് മെക്കാനിസം കൂടുതലോ കുറവോ കൈകാര്യം ചെയ്യാൻ ഞങ്ങൾക്ക് കഴിഞ്ഞു - ഒരു മികച്ച ഫലം.

ലിറിക്കൽ ഡിഗ്രഷൻ

ഇതിലും മികച്ചത് ചെയ്യാൻ കഴിയുമോ - അതെ, നിങ്ങൾക്ക് കഴിയും!ഇത് ചെയ്യുന്നതിന്, നിങ്ങൾ മെറ്റീരിയലൈസ്ഡ് വ്യൂ ഉപയോഗിക്കേണ്ടതുണ്ട്.
മെറ്റീരിയലൈസ്ഡ് വ്യൂ LASERMARK_VIEW സൃഷ്‌ടിക്കുക

CREATE MATERIALIZED VIEW LASERMARK_VIEW 
AS
SELECT w."LASERMARK" , MAX(s."SHIPMENT_DATE") AS "SHIPMENT_DATE"
FROM shipment s INNER JOIN data w ON s."SHIPMENT_ID" = w."SHIPMENT_ID" 
GROUP BY w."LASERMARK" ;

CREATE INDEX lasermark_vw_shipment_date_ind on lasermark_view USING btree ("SHIPMENT_DATE") TABLESPACE pg_default;
analyze lasermark_view ;

ഒരിക്കൽ കൂടി ഞങ്ങൾ അഭ്യർത്ഥന മാറ്റിയെഴുതുന്നു:
വസ്തുനിഷ്ഠമായ കാഴ്ച ഉപയോഗിച്ച് അന്വേഷണം

SELECT
            p."PARAMETER_ID" as  parameter_id,
            pc."PC_NAME" AS pc_name,
            pc."CUSTOMER_PARTNUMBER" AS customer_partnumber,
            w."LASERMARK" AS lasermark,
            w."LOTID" AS lotid,
            w."REPORTED_VALUE" AS reported_value,
            w."LOWER_SPEC_LIMIT" AS lower_spec_limit,
            w."UPPER_SPEC_LIMIT" AS upper_spec_limit,
            p."TYPE_CALCUL" AS type_calcul,
            s."SHIPMENT_NAME" AS shipment_name,
            s."SHIPMENT_DATE" AS shipment_date,
            extract(year from s."SHIPMENT_DATE") AS year,
            extract(month from s."SHIPMENT_DATE") as month,
            s."REPORT_NAME" AS report_name,
            p."STC_NAME" AS STC_name,
            p."CUSTOMERPARAM_NAME" AS customerparam_name
        FROM data w INNER JOIN shipment s ON s."SHIPMENT_ID" = w."SHIPMENT_ID"
             INNER JOIN parameters p ON p."PARAMETER_ID" = w."PARAMETER_ID"
             INNER JOIN shipment_pc sp ON s."SHIPMENT_ID" = sp."SHIPMENT_ID"
             INNER JOIN pc pc ON pc."PC_ID" = sp."PC_ID"
             INNER JOIN LASERMARK_VIEW md ON md."SHIPMENT_DATE" = s."SHIPMENT_DATE" AND md."LASERMARK" = w."LASERMARK"
        WHERE 
              s."SHIPMENT_DATE" >= '2018-07-01' AND s."SHIPMENT_DATE" <= '2018-09-30';

ഞങ്ങൾക്ക് മറ്റൊരു ഫലം ലഭിക്കും:
ആയിരുന്നു
ചെലവ്: 502 997.55
നിർവ്വഹണ സമയം: 505 സെക്കൻഡ്

ആയി മാറിയിരിക്കുന്നു
ചെലവ്: 42 481.16
നിർവ്വഹണ സമയം: ക്സനുമ്ക്സ സെക്കൻഡ്.

തീർച്ചയായും, അത്തരമൊരു വാഗ്ദാനപരമായ ഫലം വഞ്ചനാപരമാണെങ്കിലും, ആശയങ്ങൾ പുതുക്കേണ്ടതുണ്ട്. അതിനാൽ ഡാറ്റ ലഭിക്കാനുള്ള മൊത്തം സമയം വളരെയധികം സഹായിക്കില്ല. എന്നാൽ ഒരു പരീക്ഷണം എന്ന നിലയിൽ ഇത് വളരെ രസകരമാണ്.

യഥാർത്ഥത്തിൽ, അത് മാറിയതുപോലെ, വീണ്ടും നന്ദി asmm ഒപ്പം ഹബ്രു!- ചോദ്യം കൂടുതൽ മെച്ചപ്പെടുത്താം.

Afterword

അതിനാൽ, ഉപഭോക്താവ് സംതൃപ്തനാണ്. ഒപ്പം ആവശ്യം സാഹചര്യം മുതലെടുക്കുക.

പുതിയ ചുമതല: ആഴത്തിലാക്കാനും വിപുലീകരിക്കാനും നിങ്ങൾക്ക് എന്താണ് കൊണ്ടുവരാൻ കഴിയുക?

അപ്പോൾ ഞാൻ ഓർക്കുന്നു - സുഹൃത്തുക്കളേ, ഞങ്ങളുടെ PostgreSQL ഡാറ്റാബേസുകളുടെ നിരീക്ഷണം ഞങ്ങൾക്കില്ല.

AWS-ൽ ക്ലൗഡ് വാച്ചിന്റെ രൂപത്തിൽ ഇപ്പോഴും കുറച്ച് നിരീക്ഷണമുണ്ട്. എന്നാൽ DBA-യ്ക്ക് ഈ നിരീക്ഷണത്തിന്റെ പ്രയോജനം എന്താണ്? പൊതുവേ, പ്രായോഗികമായി ഒന്നുമില്ല.

നിങ്ങൾക്ക് ഉപയോഗപ്രദവും രസകരവുമായ എന്തെങ്കിലും ചെയ്യാൻ നിങ്ങൾക്ക് അവസരമുണ്ടെങ്കിൽ, ഈ അവസരം നിങ്ങൾക്ക് പ്രയോജനപ്പെടുത്താൻ കഴിയില്ല ...
വേണ്ടി



ഞങ്ങൾ ഏറ്റവും രസകരമായ ഭാഗത്തേക്ക് വരുന്നത് ഇങ്ങനെയാണ്:

ഡിസംബർ 3, 2018.
PostgreSQL അന്വേഷണങ്ങളുടെ പ്രകടനം നിരീക്ഷിക്കുന്നതിന് ലഭ്യമായ കഴിവുകളെക്കുറിച്ചുള്ള ഗവേഷണം ആരംഭിക്കാൻ ഒരു തീരുമാനം എടുക്കുന്നു.

എന്നാൽ അത് തികച്ചും വ്യത്യസ്തമായ ഒരു കഥയാണ്.

തുടരും…

അവലംബം: www.habr.com