Astudiaeth ar weithredu rhesymeg busnes ar lefel swyddogaethau storio PostgreSQL

Yr ysgogiad ar gyfer ysgrifennu'r braslun hwn oedd yr erthygl “Yn ystod cwarantîn, cynyddodd y llwyth gwaith 5 gwaith, ond roeddem yn barod.” Sut symudodd Lingualeo i PostgreSQL gyda 23 miliwn o ddefnyddwyr. Roedd yr erthygl a gyhoeddwyd 4 blynedd yn ôl yn ddiddorol hefyd - Gweithredu rhesymeg busnes yn MySQL.

Roedd yn ymddangos yn ddiddorol bod yr un meddwl - "gweithredu rhesymeg busnes yn y gronfa ddata".

Astudiaeth ar weithredu rhesymeg busnes ar lefel swyddogaethau storio PostgreSQL

Nid fi yn unig ddaeth i'r meddwl.

Hefyd, ar gyfer y dyfodol, roeddwn i eisiau cadw, yn gyntaf oll, i mi fy hun, y datblygiadau diddorol a gododd yn ystod y gweithredu. Yn enwedig o ystyried bod penderfyniad strategol wedi'i wneud yn gymharol ddiweddar i newid y bensaernïaeth a throsglwyddo rhesymeg busnes i'r lefel backend. Fel na fydd popeth sydd wedi ei ddatblygu yn fuan o unrhyw ddefnydd i neb ac o ddim diddordeb i neb.

Nid yw'r dulliau a ddisgrifir yn rhyw fath o ddarganfyddiad nac yn eithriadol. gwybod sut, mae popeth yn glasurol ac wedi'i weithredu sawl gwaith (er enghraifft, defnyddiais ddull tebyg 20 mlynedd yn ôl ar Oracle) Penderfynais gasglu popeth mewn un lle yn unig. Rhag ofn ei fod yn dod yn ddefnyddiol i rywun. Fel y mae arfer wedi dangos, yn aml iawn daw'r un syniad i wahanol bobl yn annibynnol. Ac mae'n ddefnyddiol ei gadw i chi'ch hun fel cofrodd.

Wrth gwrs, nid oes dim yn y byd hwn yn berffaith, yn anffodus mae camgymeriadau a theipos yn bosibl. Croesewir a disgwylir beirniadaeth a sylwadau yn gryf, ac mae un manylyn bach arall - manylion gweithredu penodol wedi'u hepgor. Eto i gyd, mae popeth yn dal i gael ei ddefnyddio mewn prosiect gweithio go iawn. Felly, dim ond braslun a disgrifiad o'r cysyniad cyffredinol yw'r erthygl, dim byd mwy. Rwy'n gobeithio bod digon o fanylion i ddeall y darlun cyffredinol.

Y syniad cyffredinol yw “rhannu a gorchfygu, cuddio a pherchnogi”

Mae'r syniad yn glasurol - sgema ar wahân ar gyfer tablau, sgema ar wahân ar gyfer swyddogaethau storio.
Nid oes gan y cleient fynediad at y data yn uniongyrchol. Y cyfan y gall y cleient ei wneud yw ffonio'r swyddogaeth sydd wedi'i storio a phrosesu'r ymateb a dderbyniwyd.

Rolau

CREATE ROLE store;

CREATE ROLE sys_functions;

CREATE ROLE loc_audit_functions;

CREATE ROLE service_functions;

CREATE ROLE business_functions;

Cynlluniau

Cynllun storio bwrdd

Tablau targed sy'n gweithredu endidau pwnc.

CREATE SCHEMA store AUTHORIZATION store ;

Diagram swyddogaeth system

Swyddogaethau system, yn arbennig ar gyfer logio newidiadau tabl.

CREATE SCHEMA sys_functions AUTHORIZATION sys_functions ;

Cynllun archwilio lleol

Swyddogaethau a thablau i weithredu archwiliad lleol o gyflawni swyddogaethau storio a newidiadau i dablau targed.

CREATE SCHEMA loc_audit_functions AUTHORIZATION loc_audit_functions;

Diagram swyddogaeth gwasanaeth

Swyddogaethau ar gyfer swyddogaethau gwasanaeth a DML.

CREATE SCHEMA service_functions AUTHORIZATION service_functions;

Diagram swyddogaeth busnes

Swyddogaethau ar gyfer swyddogaethau busnes terfynol a elwir gan y cleient.

CREATE SCHEMA business_functions AUTHORIZATION business_functions;

Hawliau mynediad

Rôl - DBA yn cael mynediad llawn i'r holl sgemâu (ar wahân i rôl Perchennog DB).

CREATE ROLE dba_role;
GRANT store TO dba_role;
GRANT sys_functions TO dba_role;
GRANT loc_audit_functions TO dba_role;
GRANT service_functions TO dba_role;
GRANT business_functions TO dba_role;

Rôl - DEFNYDDIWR yn cael y fraint GWEITHRED yn y diagram swyddogaethau_busnes.

CREATE ROLE user_role;

Breintiau rhwng cynlluniau

CANIATÁU
Gan fod yr holl swyddogaethau'n cael eu creu gyda'r priodoledd DIFFINYDD DIOGELWCH cyfarwyddiadau sydd eu hangen DIDDYMU GWEITHREDIAD AR BOB SWYDDOGAETH… GAN Gyhoedd;

REVOKE EXECUTE ON ALL FUNCTION IN SCHEMA sys_functions FROM public ; 
REVOKE EXECUTE ON ALL FUNCTION IN SCHEMA  loc_audit_functions  FROM public ; 
REVOKE EXECUTE ON ALL FUNCTION IN SCHEMA  service_functions FROM public ; 
REVOKE EXECUTE ON ALL FUNCTION IN SCHEMA  business_functions FROM public ; 

GRANT USAGE ON SCHEMA sys_functions TO dba_role ; 
GRANT EXECUTE ON ALL FUNCTIONS IN SCHEMA sys_functions TO dba_role ;
GRANT USAGE ON SCHEMA loc_audit_functions  TO dba_role ; 
GRANT EXECUTE ON ALL FUNCTIONS IN SCHEMA loc_audit_functions  TO dba_role ;
GRANT USAGE ON SCHEMA service_functions TO dba_role ; 
GRANT EXECUTE ON ALL FUNCTIONS IN SCHEMA service_functions TO dba_role ;
GRANT USAGE ON SCHEMA business_functions TO dba_role ; 
GRANT EXECUTE ON ALL FUNCTIONS IN SCHEMA business_functions TO dba_role ;
GRANT EXECUTE ON ALL FUNCTIONS IN SCHEMA business_functions TO user_role ;

GRANT ALL PRIVILEGES ON SCHEMA store TO GROUP business_functions ;
GRANT ALL PRIVILEGES ON ALL TABLES IN SCHEMA store TO business_functions ;
GRANT USAGE ON ALL SEQUENCES IN SCHEMA store TO business_functions ;

Felly mae sgema'r gronfa ddata yn barod. Gallwch chi ddechrau llenwi'r data.

Tablau targed

Mae creu tablau yn ddibwys. Dim nodweddion arbennig, ac eithrio y penderfynwyd peidio â defnyddio CYFRESOL a chynhyrchu dilyniannau yn benodol. Hefyd, wrth gwrs, y defnydd mwyaf posibl o gyfarwyddiadau

COMMENT ON ...

Sylwadau ar gyfer holl gwrthrychau, yn ddieithriad.

Archwiliad lleol

I gofnodi gweithrediad y swyddogaethau sydd wedi'u storio a newidiadau i dablau targed, defnyddir tabl archwilio lleol, sy'n cynnwys, ymhlith pethau eraill, fanylion y cysylltiad cleient, label y modiwl a elwir, a gwerthoedd gwirioneddol y mewnbwn a paramedrau allbwn ar ffurf JSON.

Swyddogaethau system

Wedi'i gynllunio ar gyfer cofnodi newidiadau mewn tablau targed. Maent yn swyddogaethau sbarduno.

Templed - swyddogaeth system

---------------------------------------------------------
-- INSERT
CREATE OR REPLACE FUNCTION sys_functions.table_insert_log ()
RETURNS TRIGGER AS $$
BEGIN
  PERFORM loc_audit_functions.make_log( ' '||'table' , 'insert' , json_build_object('id', NEW.id)  );
  RETURN NULL ;
END
$$ LANGUAGE plpgsql SECURITY DEFINER;

CREATE TRIGGER table_after_insert AFTER INSERT ON storage.table FOR EACH ROW EXECUTE PROCEDURE sys_functions.table_insert_log();

---------------------------------------------------------
-- UPDATE
CREATE OR REPLACE FUNCTION sys_functions.table_update_log ()
RETURNS TRIGGER AS $$
BEGIN
  IF OLD.column != NEW.column
  THEN
    PERFORM loc_audit_functions.make_log( ' '||'table' , 'update' , json_build_object('OLD.column', OLD.column , 'NEW.column' , NEW.column )  );
  END IF ;
  RETURN NULL ;
END
$$ LANGUAGE plpgsql SECURITY DEFINER;

CREATE TRIGGER table_after_update AFTER UPDATE ON storage.table FOR EACH ROW EXECUTE PROCEDURE sys_functions.table_update_log ();

---------------------------------------------------------
-- DELETE
CREATE OR REPLACE FUNCTION sys_functions.table_delete_log ()
RETURNS TRIGGER AS $$
BEGIN
  PERFORM loc_audit_functions.make_log( ' '||'table' , 'delete' , json_build_object('id', OLD.id )  );
  RETURN NULL ;
END
$$ LANGUAGE plpgsql SECURITY DEFINER;

CREATE TRIGGER table_after_delete AFTER DELETE ON storage.table FOR EACH ROW EXECUTE PROCEDURE sys_functions.table_delete_log ();

Swyddogaethau gwasanaeth

Wedi'i gynllunio i weithredu gweithrediadau gwasanaeth a DML ar dablau targed.

Templed - swyddogaeth gwasanaeth

--INSERT
--RETURN id OF NEW ROW
CREATE OR REPLACE FUNCTION service_functions.table_insert ( new_column store.table.column%TYPE )
RETURNS integer AS $$
DECLARE
  new_id integer ;
BEGIN
  -- Generate new id
  new_id = nextval('store.table.seq');

  -- Insert into table
  INSERT INTO store.table
  ( 
    id ,
    column
   )
  VALUES
  (
   new_id ,
   new_column
   );

RETURN new_id ;
END
$$ LANGUAGE plpgsql SECURITY DEFINER;

--DELETE
--RETURN ROW NUMBERS DELETED
CREATE OR REPLACE FUNCTION service_functions.table_delete ( current_id integer ) 
RETURNS integer AS $$
DECLARE
  rows_count integer  ;    
BEGIN
  DELETE FROM store.table WHERE id = current_id; 

  GET DIAGNOSTICS rows_count = ROW_COUNT;                                                                           

  RETURN rows_count ;
END
$$ LANGUAGE plpgsql SECURITY DEFINER;
 
-- UPDATE DETAILS
-- RETURN ROW NUMBERS UPDATED
CREATE OR REPLACE FUNCTION service_functions.table_update_column 
(
  current_id integer 
  ,new_column store.table.column%TYPE
) 
RETURNS integer AS $$
DECLARE
  rows_count integer  ; 
BEGIN
  UPDATE  store.table
  SET
    column = new_column
  WHERE id = current_id;

  GET DIAGNOSTICS rows_count = ROW_COUNT;                                                                           

  RETURN rows_count ;
END
$$ LANGUAGE plpgsql SECURITY DEFINER;

Swyddogaethau busnes

Wedi'i gynllunio ar gyfer swyddogaethau busnes terfynol a elwir gan y cleient. Maen nhw bob amser yn dychwelyd - JSON. I ryng-gipio a logio gwallau gweithredu, defnyddiwch y bloc EITHRIAD.

Templed - swyddogaeth busnes

CREATE OR REPLACE FUNCTION business_functions.business_function_template(
--Input parameters        
 )
RETURNS JSON AS $$
DECLARE
  ------------------------
  --for exception catching
  error_message text ;
  error_json json ;
  result json ;
  ------------------------ 
BEGIN
--LOGGING
  PERFORM loc_audit_functions.make_log
  (
    'business_function_template',
    'STARTED',
    json_build_object
    (
	--IN Parameters
    ) 
   );

  PERFORM business_functions.notice('business_function_template');            

  --START BUSINESS PART
  --END BUSINESS PART

  -- SUCCESFULLY RESULT
  PERFORM business_functions.notice('result');
  PERFORM business_functions.notice(result);

  PERFORM loc_audit_functions.make_log
  (
    'business_function_template',
    'FINISHED', 
    json_build_object( 'result',result )
  );

  RETURN result ;
----------------------------------------------------------------------------------------------------------
-- EXCEPTION CATCHING
EXCEPTION                        
  WHEN OTHERS THEN    
    PERFORM loc_audit_functions.make_log
    (
      'business_function_template',
      'STARTED',
      json_build_object
      (
	--IN Parameters	
      ) , TRUE );

     PERFORM loc_audit_functions.make_log
     (
       'business_function_template',
       ' ERROR',
       json_build_object('SQLSTATE',SQLSTATE ), TRUE 
     );

     PERFORM loc_audit_functions.make_log
     (
       'business_function_template',
       ' ERROR',
       json_build_object('SQLERRM',SQLERRM  ), TRUE 
      );

     GET STACKED DIAGNOSTICS error_message = RETURNED_SQLSTATE ;
     PERFORM loc_audit_functions.make_log
     (
      'business_function_template',
      ' ERROR-RETURNED_SQLSTATE',json_build_object('RETURNED_SQLSTATE',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = COLUMN_NAME ;
     PERFORM loc_audit_functions.make_log
     (
       'business_function_template',
       ' ERROR-COLUMN_NAME',
       json_build_object('COLUMN_NAME',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = CONSTRAINT_NAME ;
     PERFORM loc_audit_functions.make_log
     (
      'business_function_template',
      ' ERROR-CONSTRAINT_NAME',
      json_build_object('CONSTRAINT_NAME',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = PG_DATATYPE_NAME ;
     PERFORM loc_audit_functions.make_log
     (
       'business_function_template',
       ' ERROR-PG_DATATYPE_NAME',
       json_build_object('PG_DATATYPE_NAME',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = MESSAGE_TEXT ;
     PERFORM loc_audit_functions.make_log
     (
       'business_function_template',
       ' ERROR-MESSAGE_TEXT',json_build_object('MESSAGE_TEXT',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = SCHEMA_NAME ;
     PERFORM loc_audit_functions.make_log
     (s
       'business_function_template',
       ' ERROR-SCHEMA_NAME',json_build_object('SCHEMA_NAME',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = PG_EXCEPTION_DETAIL ;
     PERFORM loc_audit_functions.make_log
     (
      'business_function_template',
      ' ERROR-PG_EXCEPTION_DETAIL',
      json_build_object('PG_EXCEPTION_DETAIL',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = PG_EXCEPTION_HINT ;
     PERFORM loc_audit_functions.make_log
     (
       'business_function_template',
       ' ERROR-PG_EXCEPTION_HINT',json_build_object('PG_EXCEPTION_HINT',error_message  ), TRUE );

     GET STACKED DIAGNOSTICS error_message = PG_EXCEPTION_CONTEXT ;
     PERFORM loc_audit_functions.make_log
     (
      'business_function_template',
      ' ERROR-PG_EXCEPTION_CONTEXT',json_build_object('PG_EXCEPTION_CONTEXT',error_message  ), TRUE );                                      

    RAISE WARNING 'ALARM: %' , SQLERRM ;

    SELECT json_build_object
    (
      'isError' , TRUE ,
      'errorMsg' , SQLERRM
     ) INTO error_json ;

  RETURN  error_json ;
END
$$ LANGUAGE plpgsql SECURITY DEFINER;

Cyfanswm

I ddisgrifio'r darlun cyffredinol, dwi'n meddwl ei fod yn ddigon. Os oes gan unrhyw un ddiddordeb yn y manylion a'r canlyniadau, ysgrifennwch sylwadau, byddaf yn hapus i ychwanegu cyffyrddiadau ychwanegol at y llun.

PS

Logio gwall syml - math o baramedr mewnbwn

-[ RECORD 1 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1072
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          | STARTED
jsonb_pretty    | {
                |     "dko": {
                |         "id": 4,
                |         "type": "Type1",                                                                                                                                                                                            
                |         "title": "CREATED BY addKD",
                |         "Weight": 10,
                |         "Tr": "300",
                |         "reduction": 10,
                |         "isTrud": "TRUE",
                |         "description": "decription",
                |         "lowerTr": "100",
                |         "measurement": "measurement1",
                |         "methodology": "m1",                                                                                                                                                                                           
                |         "passportUrl": "files",
                |         "upperTr": "200",
                |         "weightingFactor": 100.123,
                |         "actualTrValue": null,
                |         "upperTrCalcNumber": "120"
                |     },
                |     "CardId": 3
                | }
-[ RECORD 2 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1073
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR
jsonb_pretty    | {
                |     "SQLSTATE": "22P02"
                | }
-[ RECORD 3 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1074
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR
jsonb_pretty    | {
                |     "SQLERRM": "invalid input syntax for type numeric: "null""
                | }
-[ RECORD 4 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1075
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-RETURNED_SQLSTATE
jsonb_pretty    | {
                |     "RETURNED_SQLSTATE": "22P02"
                | }
-[ RECORD 5 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1076
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-COLUMN_NAME
jsonb_pretty    | {
                |     "COLUMN_NAME": ""
                | }

-[ RECORD 6 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1077
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-CONSTRAINT_NAME
jsonb_pretty    | {
                |     "CONSTRAINT_NAME": ""
                | }
-[ RECORD 7 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1078
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-PG_DATATYPE_NAME
jsonb_pretty    | {
                |     "PG_DATATYPE_NAME": ""
                | }
-[ RECORD 8 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1079
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-MESSAGE_TEXT
jsonb_pretty    | {
                |     "MESSAGE_TEXT": "invalid input syntax for type numeric: "null""
                | }
-[ RECORD 9 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1080
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-SCHEMA_NAME
jsonb_pretty    | {
                |     "SCHEMA_NAME": ""
                | }
-[ RECORD 10 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1081
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-PG_EXCEPTION_DETAIL
jsonb_pretty    | {
                |     "PG_EXCEPTION_DETAIL": ""
                | }
-[ RECORD 11 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1082
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-PG_EXCEPTION_HINT
jsonb_pretty    | {
                |     "PG_EXCEPTION_HINT": ""
                | }
-[ RECORD 12 ]-
date_trunc      | 2020-08-19 13:15:46
id              | 1083
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-PG_EXCEPTION_CONTEXT
jsonb_pretty    | {
usename         | emp1
log_module      | addKD
log_module_hash | 0b4c1529a89af3ddf6af3821dc790e8a
status          |  ERROR-MESSAGE_TEXT
jsonb_pretty    | {
                |     "MESSAGE_TEXT": "invalid input syntax for type numeric: "null""
                | }

Ffynhonnell: hab.com

Ychwanegu sylw