සතුටු සාදයක් හෝ PostgreSQL10 හි කොටස් කිරීම දැන ගැනීම පිළිබඳ මතක පේළි කිහිපයක්

පෙරවදන හෝ කොටස් කිරීම පිළිබඳ අදහස ඇති වූ ආකාරය

කතාව පටන් ගන්නේ මෙතැනින්. ඒ සියල්ල ආරම්භ වූ ආකාරය ඔබට මතකද. සෑම දෙයක්ම පළමු වතාවට සහ නැවත නැවතත් විය. ඉල්ලීම ප්‍රශස්ත කිරීම සඳහා සියලු සම්පත් පාහේ අවසන් වූ පසු, ප්‍රශ්නය මතු විය - ඊළඟට කුමක් ද? බෙදීමේ අදහස ඇති වූයේ එලෙසිනි.

සතුටු සාදයක් හෝ PostgreSQL10 හි කොටස් කිරීම දැන ගැනීම පිළිබඳ මතක පේළි කිහිපයක්

ගීතමය අපගමනය:
හරියටම 'ඒ මොහොතේ', මන්ද එය සිදු වූ පරිදි, ප්‍රයෝජනයට නොගත් ප්‍රශස්තිකරණ සංචිත තිබුණි. ස්තූතියි asmm සහ හබ්රු!

ඉතින්, ඔබට පාරිභෝගිකයා සතුටු කළ හැක්කේ කෙසේද, ඒ සමඟම ඔබේම කුසලතා වැඩි දියුණු කළ හැක්කේ කෙසේද?

සෑම දෙයක්ම හැකි තරම් සරල කිරීමට, දත්ත සමුදායේ ක්‍රියාකාරීත්වයේ යමක් රැඩිකල් ලෙස වැඩිදියුණු කිරීමට ඇත්තේ ක්‍රම දෙකක් පමණි:
1) පුළුල් මාර්ගය - අපි සම්පත් වැඩි කරන්න, වින්යාසය වෙනස් කරන්න;
2) තීව්‍ර මාර්ගය - විමසුම් ප්‍රශස්තකරණය

වේගවත් කිරීම සඳහා වූ ඉල්ලීමෙහි වෙනත් වෙනස් කළ යුතු දේ එකල පැහැදිලි නොවූ බැවින්, මාර්ගය තෝරා ගන්නා ලදී - මේස සැලසුම් වෙනස්කම්.

ඉතින්, ප්රධාන ප්රශ්නය පැනනගින්නේ: අප වෙනස් කරන්නේ කුමක්ද සහ කෙසේද?

මූලික කොන්දේසි

පළමුව, මෙම ERD ඇත (කොන්දේසි සහිත සරල ආකාරයකින් පෙන්වා ඇත):
සතුටු සාදයක් හෝ PostgreSQL10 හි කොටස් කිරීම දැන ගැනීම පිළිබඳ මතක පේළි කිහිපයක්
ප්රධාන ලක්ෂණ:

  1. බොහෝ-බොහෝ සබඳතා
  2. වගුවේ දැනටමත් විභව කොටස් යතුරක් ඇත

මුල් ඉල්ලීම:

SELECT
            p."PARAMETER_ID" as  parameter_id,
            pc."PC_NAME" AS pc_name,
            pc."CUSTOMER_PARTNUMBER" AS customer_partnumber,
            w."LASERMARK" AS lasermark,
            w."LOTID" AS lotid,
            w."REPORTED_VALUE" AS reported_value,
            w."LOWER_SPEC_LIMIT" AS lower_spec_limit,
            w."UPPER_SPEC_LIMIT" AS upper_spec_limit,
            p."TYPE_CALCUL" AS type_calcul,
            s."SHIPMENT_NAME" AS shipment_name,
            s."SHIPMENT_DATE" AS shipment_date,
            extract(year from s."SHIPMENT_DATE") AS year,
            extract(month from s."SHIPMENT_DATE") as month,
            s."REPORT_NAME" AS report_name,
            p."SPARAM_NAME" AS SPARAM_name,
            p."CUSTOMERPARAM_NAME" AS customerparam_name
        FROM data w INNER JOIN shipment s ON s."SHIPMENT_ID" = w."SHIPMENT_ID"
             INNER JOIN parameters p ON p."PARAMETER_ID" = w."PARAMETER_ID"
             INNER JOIN shipment_pc sp ON s."SHIPMENT_ID" = sp."SHIPMENT_ID"
             INNER JOIN pc pc ON pc."PC_ID" = sp."PC_ID"
             INNER JOIN ( SELECT w2."LASERMARK" , MAX(s2."SHIPMENT_DATE") AS "SHIPMENT_DATE"
                          FROM shipment s2 INNER JOIN data w2 ON s2."SHIPMENT_ID" = w2."SHIPMENT_ID" 
                          GROUP BY w2."LASERMARK"
                         ) md ON md."SHIPMENT_DATE" = s."SHIPMENT_DATE" AND md."LASERMARK" = w."LASERMARK"
        WHERE 
             s."SHIPMENT_DATE" >= '2018-07-01' AND s."SHIPMENT_DATE" <= '2018-09-30' ;

පරීක්ෂණ දත්ත සමුදාය මත ක්රියාත්මක කිරීමේ ප්රතිඵල:
පිරිවැය : 502 997.55
ක්රියාත්මක කිරීමේ කාලයතත්පර 505 යි.

අපි දකින්නේ කුමක්ද? කාල පෙත්තක් මත පදනම්ව, නිතිපතා ඉල්ලීමක්.
අපි සරලම තාර්කික උපකල්පනය කරමු: කාල පෙත්තක නියැදියක් තිබේ නම්, එය අපට උපකාර කරයිද? ඒක හරි - බෙදීම.

අංශයට කුමක් කළ යුතුද?

මුලින්ම බැලූ බැල්මට, තේරීම පැහැදිලිය - "SHIPMENT_DATE" යතුර භාවිතයෙන් "නැව්ගත කිරීමේ" වගුවේ ප්රකාශිත කොටස් කිරීම (බොහෝ ඉදිරියට පැනීම - අවසානයේ එය නිෂ්පාදනයේ දී ටිකක් වැරදි විය).

කොටස් කරන්නේ කෙසේද?

මෙම ප්රශ්නය ද එතරම් අපහසු නොවේ. වාසනාවකට මෙන්, PostgreSQL 10 හි, දැන් මානව කොටස් කිරීමේ යාන්ත්‍රණයක් ඇත.
ඉතින්:

  1. මූලාශ්‍ර වගුවේ ඩම්ප් එකක් සුරකින්න - pg_dump මූලාශ්‍ර_වගුව
  2. මුල් වගුව මකන්න - වගු මූලාශ්‍ර_වගුව අතහරින්න
  3. පරාස කොටස් කිරීම සමඟ මාපිය වගුවක් සාදන්න - වගු source_table සාදන්න
  4. කොටස් සාදන්න - වගු source_table සාදන්න, දර්ශකය සාදන්න
  5. පියවර 1 හි සාදන ලද ඩම්ප් ආයාත කරන්න - pg_restore

කොටස් කිරීම සඳහා ස්ක්‍රිප්ට්

සරල බව සහ පහසුව සඳහා, පියවර 2,3,4 එක් පිටපතකට ඒකාබද්ධ කර ඇත.

ඉතින්:
මූලාශ්‍ර වගුවේ ඩම්ප් එකක් සුරකින්න

pg_dump postgres --file=/dump/shipment.dmp --format=c --table=shipment --verbose > /dump/shipment.log 2>&1

මූලාශ්‍ර වගුව මකන්න + පරාස කොටස් කිරීම සමඟ මව් වගුවක් සාදන්න + කොටස් සාදන්න

--create_partition_shipment.sql
do language plpgsql $$
declare 
rec_shipment_date RECORD ;
partition_name varchar;
index_name varchar;
current_year varchar ;
current_month varchar ;
begin_year varchar ;
begin_month varchar ;
next_year varchar ;
next_month varchar ;
first_flag boolean ;
i integer ;
begin
  RAISE NOTICE 'CREATE TEMPORARY TABLE FOR SHIPMENT_DATE';
  CREATE TEMP TABLE tmp_shipment_date as select distinct "SHIPMENT_DATE" from shipment order by "SHIPMENT_DATE" ;

  RAISE NOTICE 'DROP TABLE shipment';
  drop table shipment cascade ;
  
  CREATE TABLE public.shipment
  (
    "SHIPMENT_ID" integer NOT NULL DEFAULT nextval('shipment_shipment_id_seq'::regclass),
    "SHIPMENT_NAME" character varying(30) COLLATE pg_catalog."default",
    "SHIPMENT_DATE" timestamp without time zone,
    "REPORT_NAME" character varying(40) COLLATE pg_catalog."default"
  )
  PARTITION BY RANGE ("SHIPMENT_DATE")
  WITH (
      OIDS = FALSE
  )
  TABLESPACE pg_default;

  RAISE NOTICE 'CREATE PARTITIONS FOR TABLE shipment';

  current_year:='0';
  current_month:='0';

  begin_year := '0' ;
  begin_month := '0'  ;
  next_year := '0' ;
  next_month := '0'  ;

  FOR rec_shipment_date IN SELECT * FROM tmp_shipment_date LOOP
      
      RAISE NOTICE 'SHIPMENT_DATE=%',rec_shipment_date."SHIPMENT_DATE";
      
      current_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE");
      current_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE") ; 

      IF to_number(current_month,'99') < 10 THEN
        current_month := '0'||current_month ; 
      END IF ;

      --Init borders
      IF   begin_year = '0' THEN
       first_flag := true ; --first time flag
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;

      END IF;

      -- Check current date into borders NOT for First time
      IF to_date( current_year||'.'||current_month, 'YYYY.MM') >= to_date( begin_year||'.'||begin_month, 'YYYY.MM') AND 
         to_date( current_year||'.'||current_month, 'YYYY.MM') < to_date( next_year||'.'||next_month, 'YYYY.MM') AND 
         NOT first_flag 
      THEN
         CONTINUE ; 
      ELSE
       --NEW borders only for second and after time 
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;

      END IF;      

      partition_name := 'shipment_shipment_date_'||begin_year||'-'||begin_month||'-01-'|| next_year||'-'||next_month||'-01'  ;
 
     EXECUTE format('CREATE TABLE ' || quote_ident(partition_name) || ' PARTITION OF shipment FOR VALUES FROM ( %L ) TO ( %L )  ' , current_year||'-'||current_month||'-01' , next_year||'-'||next_month||'-01'  ) ; 

      index_name := partition_name||'_shipment_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID") TABLESPACE pg_default ' ) ; 

      --Drop first time flag
      first_flag := false ;
   
  END LOOP;

end
$$;

ඩම්ප් ආනයනය කිරීම

pg_restore -d postgres --data-only --format=c --table=shipment --verbose  shipment.dmp > /tmp/data_dump/shipment_restore.log 2>&1

කොටස් කිරීමේ ප්රතිඵල පරීක්ෂා කිරීම

එහි ප්‍රතිඵලයක් වශයෙන් අපට ඇත්තේ කුමක්ද? ක්‍රියාත්මක කිරීමේ සැලැස්මේ සම්පූර්ණ පාඨය විශාල හා කම්මැලි ය, එබැවින් අවසාන සංඛ්‍යා වලට ඔබව සීමා කිරීමට තරමක් හැකි ය.

විය

පිරිවැය: 502 997.55
ක්රියාත්මක කිරීමේ කාලය: 505 තත්පර.

බවට පත්ව ඇත

පිරිවැය: 77 872.36
ක්රියාත්මක කිරීමේ කාලය: 79 තත්පර.

තරමක් හොඳ ප්‍රතිඵලයක්. පිරිවැය සහ ක්රියාත්මක කිරීමේ කාලය අඩු කිරීම. මේ අනුව, කොටස් කිරීම භාවිතා කිරීම අපේක්ෂිත බලපෑම ලබා දෙන අතර, සාමාන්යයෙන්, විස්මයන් නොමැත.

පාරිභෝගිකයා සතුටු කරන්න

පරීක්ෂණ ප්රතිඵල සමාලෝචනය සඳහා පාරිභෝගිකයා වෙත ඉදිරිපත් කරන ලදී. එය සමාලෝචනය කිරීමෙන් පසුව, ඔවුන්ට තරමක් අනපේක්ෂිත තීන්දුවක් ලබා දෙන ලදී: "නියමයි, "දත්ත" වගුව කොටස් කරන්න."

ඔව්, නමුත් අපි සම්පූර්ණයෙන්ම වෙනස් "නැව්ගත කිරීමේ" වගුවක් පරීක්ෂා කළෙමු; "දත්ත" වගුවේ "SHIPMENT_DATE" ක්ෂේත්‍රය නොමැත.

ගැටළුවක් නැත, එකතු කරන්න, වෙනස් කරන්න. ප්රධාන දෙය නම් පාරිභෝගිකයා ප්රතිඵලය ගැන සෑහීමකට පත්වීමයි; ක්රියාත්මක කිරීමේ විස්තර විශේෂයෙන් වැදගත් නොවේ.

ප්රධාන වගුව "දත්ත" කොටස් කිරීම

පොදුවේ ගත් කල, විශේෂ දුෂ්කරතා මතු නොවීය. කෙසේ වෙතත්, කොටස් කිරීමේ ඇල්ගොරිතම, ඇත්ත වශයෙන්ම, තරමක් වෙනස් වී ඇත.

"දත්ත" වගුව වෙත "SHIPMENT_DATA" තීරුව එක් කිරීම

psql -h хост -U база -d юзер
=> ALTER TABLE data ADD COLUMN "SHIPMENT_DATE" timestamp without time zone ;

"දත්ත" වගුවේ "SHIPMENT_DATA" තීරුවේ අගයන් "නැව්ගත කිරීමේ" වගුවෙන් එකම නමේ තීරුවේ අගයන් පුරවන්න

-----------------------------
--update_data.sql
--updating for altered table "data" to values of "shipment_data" from the table "shipment"
--version 1.0
do language plpgsql $$
declare 
rec_shipment_data RECORD ;
shipment_date timestamp without time zone ; 
row_count integer ;
total_rows integer ;
begin

  select count(*) into total_rows from shipment ; 
  RAISE NOTICE 'Total %',total_rows;
  row_count:= 0 ;

  FOR rec_shipment_data IN SELECT * FROM shipment LOOP

   update data set "SHIPMENT_DATE" = rec_shipment_data."SHIPMENT_DATE" where "SHIPMENT_ID" = rec_shipment_data."SHIPMENT_ID";
   
   row_count:=  row_count +1 ;
   RAISE NOTICE 'row count = % , from %',row_count,total_rows;
  END LOOP;

end
$$;

"දත්ත" වගුවේ ඩම්ප් එකක් සුරකින්න

pg_dump postgres --file=/dump/data.dmp --format=c --table=data --verbose > /dump/data.log 2>&1</source

කොටස් කළ වගුව "දත්ත" නැවත සාදන්න

--create_partition_data.sql
--create partitions for the table "wafer data" by range column "shipment_data" with one month duration
--version 1.0
do language plpgsql $$
declare 
rec_shipment_date RECORD ;
partition_name varchar;
index_name varchar;
current_year varchar ;
current_month varchar ;
begin_year varchar ;
begin_month varchar ;
next_year varchar ;
next_month varchar ;
first_flag boolean ;
i integer ;

begin

  RAISE NOTICE 'CREATE TEMPORARY TABLE FOR SHIPMENT_DATE';
  CREATE TEMP TABLE tmp_shipment_date as select distinct "SHIPMENT_DATE" from shipment order by "SHIPMENT_DATE" ;


  RAISE NOTICE 'DROP TABLE data';
  drop table data cascade ;


  RAISE NOTICE 'CREATE PARTITIONED TABLE data';
  
  CREATE TABLE public.data
  (
    "RUN_ID" integer,
    "LASERMARK" character varying(20) COLLATE pg_catalog."default" NOT NULL,
    "LOTID" character varying(80) COLLATE pg_catalog."default",
    "SHIPMENT_ID" integer NOT NULL,
    "PARAMETER_ID" integer NOT NULL,
    "INTERNAL_VALUE" character varying(75) COLLATE pg_catalog."default",
    "REPORTED_VALUE" character varying(75) COLLATE pg_catalog."default",
    "LOWER_SPEC_LIMIT" numeric,
    "UPPER_SPEC_LIMIT" numeric , 
    "SHIPMENT_DATE" timestamp without time zone
  )
  PARTITION BY RANGE ("SHIPMENT_DATE")
  WITH (
    OIDS = FALSE
  )
  TABLESPACE pg_default ;


  RAISE NOTICE 'CREATE PARTITIONS FOR TABLE data';

  current_year:='0';
  current_month:='0';

  begin_year := '0' ;
  begin_month := '0'  ;
  next_year := '0' ;
  next_month := '0'  ;
  i := 1;

  FOR rec_shipment_date IN SELECT * FROM tmp_shipment_date LOOP
      
      RAISE NOTICE 'SHIPMENT_DATE=%',rec_shipment_date."SHIPMENT_DATE";
      
      current_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE");
      current_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE") ; 

      --Init borders
      IF   begin_year = '0' THEN
       RAISE NOTICE '***Init borders';
       first_flag := true ; --first time flag
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;

      END IF;

--      RAISE NOTICE 'current_year=% , current_month=% ',current_year,current_month;
--      RAISE NOTICE 'begin_year=% , begin_month=% ',begin_year,begin_month;
--      RAISE NOTICE 'next_year=% , next_month=% ',next_year,next_month;

      -- Check current date into borders NOT for First time

      RAISE NOTICE 'Current data = %',to_char( to_date( current_year||'.'||current_month, 'YYYY.MM'), 'YYYY.MM');
      RAISE NOTICE 'Begin data = %',to_char( to_date( begin_year||'.'||begin_month, 'YYYY.MM'), 'YYYY.MM');
      RAISE NOTICE 'Next data = %',to_char( to_date( next_year||'.'||next_month, 'YYYY.MM'), 'YYYY.MM');

      IF to_date( current_year||'.'||current_month, 'YYYY.MM') >= to_date( begin_year||'.'||begin_month, 'YYYY.MM') AND 
         to_date( current_year||'.'||current_month, 'YYYY.MM') < to_date( next_year||'.'||next_month, 'YYYY.MM') AND 
         NOT first_flag 
      THEN
         RAISE NOTICE '***CONTINUE';
         CONTINUE ; 
      ELSE
       --NEW borders only for second and after time 
       RAISE NOTICE '***NEW BORDERS';
       begin_year := current_year ;
       begin_month := current_month ;   
   
        IF current_month = '12' THEN
          next_year := date_part('year' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 year') ;
        ELSE
          next_year := current_year ;
        END IF;
     
       next_month := date_part('month' ,rec_shipment_date."SHIPMENT_DATE" + interval '1 month') ;


      END IF;      

      IF to_number(current_month,'99') < 10 THEN
        current_month := '0'||current_month ; 
      END IF ;

      IF to_number(begin_month,'99') < 10 THEN
        begin_month := '0'||begin_month ; 
      END IF ;

      IF to_number(next_month,'99') < 10 THEN
        next_month := '0'||next_month ; 
      END IF ;

      RAISE NOTICE 'current_year=% , current_month=% ',current_year,current_month;
      RAISE NOTICE 'begin_year=% , begin_month=% ',begin_year,begin_month;
      RAISE NOTICE 'next_year=% , next_month=% ',next_year,next_month;

      partition_name := 'data_'||begin_year||begin_month||'01_'||next_year||next_month||'01'  ;

      RAISE NOTICE 'PARTITION NUMBER % , TABLE NAME =%',i , partition_name;
      
      EXECUTE format('CREATE TABLE ' || quote_ident(partition_name) || ' PARTITION OF data FOR VALUES FROM ( %L ) TO ( %L )  ' , begin_year||'-'||begin_month||'-01' , next_year||'-'||next_month||'-01'  ) ; 

      index_name := partition_name||'_shipment_id_parameter_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID", "PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_lasermark_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("LASERMARK" COLLATE pg_catalog."default") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_parameter_id_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_date_idx';
      RAISE NOTICE 'INDEX NAME =%',index_name;
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_DATE") TABLESPACE pg_default ' ) ; 

      --Drop first time flag
      first_flag := false ;

  END LOOP;
end
$$;

පියවර 3 හි සාදන ලද ඩම්ප් එක පූරණය කරන්න.

pg_restore -h хост -юзер -d база --data-only --format=c --table=data --verbose  data.dmp > data_restore.log 2>&1

පැරණි දත්ත සඳහා වෙනම කොටසක් සාදන්න

---------------------------------------------------
--create_partition_for_old_dates.sql
--create partitions for keeping old dates 
--version 1.0
do language plpgsql $$
declare 
rec_shipment_date RECORD ;
partition_name varchar;
index_name varchar;

begin

      SELECT min("SHIPMENT_DATE") AS min_date INTO rec_shipment_date from data ;

      RAISE NOTICE 'Old date is %',rec_shipment_date.min_date ;

      partition_name := 'data_old_dates'  ;

      RAISE NOTICE 'PARTITION NAME IS %',partition_name;

      EXECUTE format('CREATE TABLE ' || quote_ident(partition_name) || ' PARTITION OF data FOR VALUES FROM ( %L ) TO ( %L )  ' , '1900-01-01' , 
              to_char( rec_shipment_date.min_date,'YYYY')||'-'||to_char(rec_shipment_date.min_date,'MM')||'-01'  ) ; 

      index_name := partition_name||'_shipment_id_parameter_id_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID", "PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_lasermark_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("LASERMARK" COLLATE pg_catalog."default") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_id_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_parameter_id_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("PARAMETER_ID") TABLESPACE pg_default ' ) ; 

      index_name := partition_name||'_shipment_date_idx';
      EXECUTE format('CREATE INDEX ' || quote_ident(index_name) || ' ON '|| quote_ident(partition_name) ||' USING btree ("SHIPMENT_DATE") TABLESPACE pg_default ' ) ; 

end
$$;

අවසාන ප්රතිඵල:

විය
පිරිවැය: 502 997.55
ක්රියාත්මක කිරීමේ කාලයතත්පර 505 යි.

බවට පත්ව ඇත
පිරිවැය: 68 533.70
ක්රියාත්මක කිරීමේ කාලය: 69 තත්පර

වටිනවා, සෑහෙන්න වටිනවා. ඒ වගේම අපි PostgreSQL 10 හි කොටස් කිරීමේ යාන්ත්‍රණය අඩු වැඩි වශයෙන් ප්‍රගුණ කිරීමට සමත් වූ බව සලකන විට - එය විශිෂ්ට ප්‍රතිඵලයකි.

පද රචනය

ඊටත් වඩා හොඳ දෙයක් කළ හැකිද - ඔව්, ඔබට පුළුවන්!මෙය සිදු කිරීම සඳහා ඔබ MATERIALIZED VIEW භාවිතා කළ යුතුය.
ද්‍රව්‍යකරණය කළ දසුන LASERMARK_VIEW සාදන්න

CREATE MATERIALIZED VIEW LASERMARK_VIEW 
AS
SELECT w."LASERMARK" , MAX(s."SHIPMENT_DATE") AS "SHIPMENT_DATE"
FROM shipment s INNER JOIN data w ON s."SHIPMENT_ID" = w."SHIPMENT_ID" 
GROUP BY w."LASERMARK" ;

CREATE INDEX lasermark_vw_shipment_date_ind on lasermark_view USING btree ("SHIPMENT_DATE") TABLESPACE pg_default;
analyze lasermark_view ;

නැවත වරක් අපි ඉල්ලීම නැවත ලියන්නෙමු:
ද්‍රව්‍යමය දසුන භාවිතයෙන් විමසන්න

SELECT
            p."PARAMETER_ID" as  parameter_id,
            pc."PC_NAME" AS pc_name,
            pc."CUSTOMER_PARTNUMBER" AS customer_partnumber,
            w."LASERMARK" AS lasermark,
            w."LOTID" AS lotid,
            w."REPORTED_VALUE" AS reported_value,
            w."LOWER_SPEC_LIMIT" AS lower_spec_limit,
            w."UPPER_SPEC_LIMIT" AS upper_spec_limit,
            p."TYPE_CALCUL" AS type_calcul,
            s."SHIPMENT_NAME" AS shipment_name,
            s."SHIPMENT_DATE" AS shipment_date,
            extract(year from s."SHIPMENT_DATE") AS year,
            extract(month from s."SHIPMENT_DATE") as month,
            s."REPORT_NAME" AS report_name,
            p."STC_NAME" AS STC_name,
            p."CUSTOMERPARAM_NAME" AS customerparam_name
        FROM data w INNER JOIN shipment s ON s."SHIPMENT_ID" = w."SHIPMENT_ID"
             INNER JOIN parameters p ON p."PARAMETER_ID" = w."PARAMETER_ID"
             INNER JOIN shipment_pc sp ON s."SHIPMENT_ID" = sp."SHIPMENT_ID"
             INNER JOIN pc pc ON pc."PC_ID" = sp."PC_ID"
             INNER JOIN LASERMARK_VIEW md ON md."SHIPMENT_DATE" = s."SHIPMENT_DATE" AND md."LASERMARK" = w."LASERMARK"
        WHERE 
              s."SHIPMENT_DATE" >= '2018-07-01' AND s."SHIPMENT_DATE" <= '2018-09-30';

තවද අපට තවත් ප්‍රතිඵලයක් ලැබේ:
විය
පිරිවැය: 502 997.55
ක්රියාත්මක කිරීමේ කාලය: තත්පර 505 යි

බවට පත්ව ඇත
පිරිවැය: 42 481.16
ක්රියාත්මක කිරීමේ කාලය: 43 තත්පර.

ඇත්ත වශයෙන්ම, එවැනි පොරොන්දු වූ ප්රතිඵලය රැවටිලිකාර වුවත්, අදහස් ප්රබෝධමත් කළ යුතුය. එබැවින් දත්ත ලැබීමට මුළු කාලය බොහෝ උපකාර නොවනු ඇත. නමුත් අත්හදා බැලීමක් ලෙස එය ඉතා සිත්ගන්නා සුළුය.

ඇත්ත වශයෙන්ම, එය සිදු වූ පරිදි, නැවතත් ස්තූතියි asmm සහ හබ්රු!- විමසුම තවදුරටත් වැඩිදියුණු කළ හැක.

පසු පදය

එබැවින්, පාරිභෝගිකයා සෑහීමකට පත්වේ. සහ අවශ්‍යයි තත්වයෙන් ප්‍රයෝජන ගන්න.

නව කාර්යයක්: ගැඹුරු කිරීමට සහ පුළුල් කිරීමට ඔබට කුමක් ඉදිරිපත් කළ හැකිද?

එතකොට මට මතකයි - යාලුවනේ, අපිට අපේ PostgreSQL දත්ත සමුදායන් නිරීක්ෂණයක් නැහැ.

හදවතින්ම, AWS මත Cloud Watch ආකාරයෙන් තවමත් යම් නිරීක්ෂණයක් ඇත. නමුත් DBA සඳහා මෙම අධීක්ෂණයෙන් ඇති ප්‍රයෝජනය කුමක්ද? පොදුවේ, ප්රායෝගිකව කිසිවක් නැත.

ඔබට ප්‍රයෝජනවත් හා රසවත් යමක් කිරීමට ඔබට අවස්ථාවක් තිබේ නම්, ඔබට මෙම අවස්ථාවෙන් ප්‍රයෝජන ගත නොහැක ...
සදහා

සතුටු සාදයක් හෝ PostgreSQL10 හි කොටස් කිරීම දැන ගැනීම පිළිබඳ මතක පේළි කිහිපයක්

අපි වඩාත්ම සිත්ගන්නා කොටසට පැමිණෙන්නේ එලෙසයි.

දෙසැම්බර් 3, 2018.
PostgreSQL විමසුම්වල කාර්ය සාධනය නිරීක්ෂණය කිරීම සඳහා පවතින හැකියාවන් පිළිබඳ පර්යේෂණ ආරම්භ කිරීමට තීරණයක් ගැනීම.

නමුත් එය සම්පූර්ණයෙන්ම වෙනස් කතාවකි.

ඉදිරියට පැවැත්වේ…

මූලාශ්රය: www.habr.com

අදහස් එක් කරන්න