ការបង្ហោះកំណត់ហេតុ PostgreSQL ពីពពក AWS

ឬ tetrisology អនុវត្តតិចតួច។
អ្វី​ដែល​ថ្មី​គឺ​ល្អ​បំភ្លេច​ចោល​របស់​ចាស់​។
Epigraphs ។

ការបង្កើតបញ្ហា

អ្នកត្រូវទាញយកឯកសារកំណត់ហេតុ PostgreSQL បច្ចុប្បន្នពី AWS cloud ជាទៀងទាត់ទៅកាន់ម៉ាស៊ីន Linux ក្នុងតំបន់របស់អ្នក។ មិន​មែន​នៅ​ក្នុង​ពេល​ពិត​ប្រាកដ​ទេ ប៉ុន្តែ​សូម​និយាយ​ថា​នឹង​មាន​ការ​ពន្យារ​ពេល​បន្តិច។
រយៈពេលទាញយកការធ្វើបច្ចុប្បន្នភាពឯកសារកំណត់ហេតុគឺ 5 នាទី។
ឯកសារកំណត់ហេតុក្នុង AWS ត្រូវបានបង្វិលរៀងរាល់ម៉ោង។

ឧបករណ៍ដែលបានប្រើ

ដើម្បីទាញយកឯកសារកំណត់ហេតុទៅម៉ាស៊ីន ស្គ្រីប bash ត្រូវបានប្រើដែលហៅ AWS API "aws rds download-db-log-file-portion"។

ប៉ារ៉ាម៉ែត្រ៖

• -db-instance-identifier: AWS instance name;
• --log-file-name: ឈ្មោះនៃឯកសារកំណត់ហេតុដែលបានបង្កើតបច្ចុប្បន្ន
• --max-item៖ ចំនួនសរុបនៃធាតុដែលបានត្រឡប់មកវិញនៅក្នុងលទ្ធផលពាក្យបញ្ជា។ទំហំផ្នែកនៃឯកសារដែលបានទាញយក។
• --starting-token៖ និមិត្តសញ្ញាចាប់ផ្តើម

ក្នុងករណីពិសេសនេះ ភារកិច្ចនៃការផ្ទុកកំណត់ហេតុបានកើតឡើងកំឡុងពេលធ្វើការលើ តាមដានការអនុវត្តសំណួរ PostgreSQL ។

ហើយវាសាមញ្ញ - កិច្ចការគួរឱ្យចាប់អារម្មណ៍សម្រាប់ការបណ្តុះបណ្តាល និងភាពខុសគ្នាក្នុងអំឡុងពេលម៉ោងធ្វើការ។
ខ្ញុំនឹងសន្មតថាបញ្ហាត្រូវបានដោះស្រាយរួចហើយដោយសារតែជីវិតប្រចាំថ្ងៃ។ ប៉ុន្តែ Google រហ័ស​មិន​បាន​ណែនាំ​ដំណោះស្រាយ​ណាមួយ​ឡើយ ហើយ​ខ្ញុំ​មិន​មាន​បំណង​ចង់​ស្វែង​រក​ឱ្យ​បាន​ស៊ី​ជម្រៅ​បន្ថែម​ទៀត​ទេ។ ទោះយ៉ាងណាក៏ដោយ វាជាការហាត់ប្រាណដ៏ល្អ។

ការរៀបចំជាផ្លូវការនៃភារកិច្ច

ឯកសារកំណត់ហេតុចុងក្រោយមានបន្ទាត់ជាច្រើននៃប្រវែងអថេរ។ តាមក្រាហ្វិក ឯកសារកំណត់ហេតុអាចត្រូវបានតំណាងអ្វីមួយដូចនេះ៖


តើវារំលឹកអ្នកអំពីអ្វីមួយហើយឬនៅ? តើ Tetris ទាក់ទងអ្វីជាមួយវា? ហើយនេះគឺជាអ្វីដែលវាត្រូវធ្វើជាមួយវា។
ប្រសិនបើយើងស្រមៃមើលជម្រើសដែលអាចកើតមាននៅពេលផ្ទុកឯកសារបន្ទាប់ជាក្រាហ្វិក (សម្រាប់ភាពសាមញ្ញ ក្នុងករណីនេះអនុញ្ញាតឱ្យបន្ទាត់មានប្រវែងដូចគ្នា) យើងទទួលបាន បំណែក Tetris ស្តង់ដារ៖

1) ឯកសារត្រូវបានទាញយកទាំងស្រុង ហើយជាឯកសារចុងក្រោយ។ ទំហំផ្នែកគឺធំជាងទំហំឯកសារចុងក្រោយ៖


2) ឯកសារបន្ត។ ទំហំកំណាត់គឺតូចជាងទំហំឯកសារចុងក្រោយ៖


3) ឯកសារគឺជាការបន្តនៃឯកសារមុន និងមានការបន្ត។ ទំហំកំណាត់គឺតូចជាងទំហំដែលនៅសល់នៃឯកសារចុងក្រោយ៖


4) ឯកសារគឺជាការបន្តនៃឯកសារមុន និងជាឯកសារចុងក្រោយ។ ទំហំកំណាត់មានទំហំធំជាងទំហំដែលនៅសល់នៃឯកសារចុងក្រោយ៖


ភារកិច្ចគឺប្រមូលផ្តុំចតុកោណកែងឬលេង Tetris នៅលើកម្រិតថ្មីមួយ។

បញ្ហាដែលកើតឡើងនៅពេលដោះស្រាយបញ្ហា

1) កាវបិទខ្សែ 2 បំណែក

ជាទូទៅមិនមានបញ្ហាពិសេសទេ។ បញ្ហាស្តង់ដារពីវគ្គសិក្សាសរសេរកម្មវិធីដំបូង។

ទំហំបម្រើល្អបំផុត

ប៉ុន្តែនេះគួរឱ្យចាប់អារម្មណ៍ជាងនេះបន្តិច។
ជាអកុសល មិនមានវិធីប្រើអុហ្វសិតបន្ទាប់ពីស្លាកផ្នែកចាប់ផ្តើមទេ៖

ដូចដែលអ្នកបានដឹងហើយថាជម្រើស —starting-token ត្រូវបានប្រើដើម្បីបញ្ជាក់កន្លែងដែលត្រូវចាប់ផ្តើមការសរសេរទំព័រ។ ជម្រើសនេះយកតម្លៃ String ដែលមានន័យថាប្រសិនបើអ្នកព្យាយាមបន្ថែមតម្លៃអុហ្វសិតនៅពីមុខខ្សែអក្សរ Next Token ជម្រើសនឹងមិនត្រូវបានគេយកមកពិចារណាជាអុហ្វសិតទេ។

ដូច្នេះហើយ អ្នកត្រូវអានជាកំណាត់ៗ។
ប្រសិនបើអ្នកអានក្នុងផ្នែកធំ ចំនួននៃការអាននឹងមានតិចតួច ប៉ុន្តែបរិមាណនឹងមានអតិបរមា។
ប្រសិនបើអ្នកអានក្នុងផ្នែកតូចៗ ផ្ទុយទៅវិញ ចំនួននៃការអាននឹងមានអតិបរមា ប៉ុន្តែបរិមាណនឹងមានតិចតួចបំផុត។
ដូច្នេះ ដើម្បីកាត់បន្ថយចរាចរណ៍ និងដើម្បីសោភ័ណភាពទូទៅនៃដំណោះស្រាយ ខ្ញុំត្រូវមករកដំណោះស្រាយមួយប្រភេទ ដែលជាអកុសលមើលទៅដូចជាឈើច្រត់បន្តិច។

សម្រាប់ឧទាហរណ៍ សូមពិចារណាដំណើរការនៃការទាញយកឯកសារកំណត់ហេតុជា 2 កំណែដែលងាយស្រួលបំផុត។ ចំនួននៃការអាននៅក្នុងករណីទាំងពីរគឺអាស្រ័យលើទំហំផ្នែក។

1) ផ្ទុកក្នុងផ្នែកតូចៗ:


2) ផ្ទុកនៅក្នុងផ្នែកធំ:


ដូចធម្មតាដំណោះស្រាយល្អបំផុតគឺនៅកណ្តាល.
ទំហំបម្រើគឺតិចតួច ប៉ុន្តែក្នុងអំឡុងពេលដំណើរការអាន ទំហំអាចត្រូវបានបង្កើន ដើម្បីកាត់បន្ថយចំនួននៃការអាន។

វាគួរតែត្រូវបានកត់សម្គាល់ ថាបញ្ហានៃការជ្រើសរើសទំហំដ៏ល្អប្រសើរនៃផ្នែកដែលអាចអានបានមិនទាន់ត្រូវបានដោះស្រាយនៅឡើយ ហើយទាមទារឱ្យមានការសិក្សា និងការវិភាគស៊ីជម្រៅបន្ថែមទៀត។ ប្រហែលជាបន្តិចក្រោយមក។

ការពិពណ៌នាទូទៅនៃការអនុវត្ត

តារាងសេវាកម្មដែលបានប្រើ

CREATE TABLE endpoint
(
id SERIAL ,
host text 
);

TABLE database
(
id SERIAL , 
…
last_aws_log_time text ,
last_aws_nexttoken text ,
aws_max_item_size integer 
);
last_aws_log_time — временная метка последнего загруженного лог-файла в формате YYYY-MM-DD-HH24.
last_aws_nexttoken — текстовая метка последней загруженной порции.
aws_max_item_size- эмпирическим путем, подобранный начальный размер порции.

អត្ថបទស្គ្រីបពេញ

ទាញយក_aws_piece.sh

#!/bin/bash
#########################################################
# download_aws_piece.sh
# downloan piece of log from AWS
# version HABR
 let min_item_size=1024
 let max_item_size=1048576
 let growth_factor=3
 let growth_counter=1
 let growth_counter_max=3

 echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:''STARTED'
 
 AWS_LOG_TIME=$1
 echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:AWS_LOG_TIME='$AWS_LOG_TIME
  
 database_id=$2
 echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:database_id='$database_id
 RESULT_FILE=$3 
  
 endpoint=`psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE_DATABASE -A -t -c "select e.host from endpoint e join database d on e.id = d.endpoint_id where d.id = $database_id "`
 echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:endpoint='$endpoint
  
 db_instance=`echo $endpoint | awk -F"." '{print toupper($1)}'`
 
 echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:db_instance='$db_instance

 LOG_FILE=$RESULT_FILE'.tmp_log'
 TMP_FILE=$LOG_FILE'.tmp'
 TMP_MIDDLE=$LOG_FILE'.tmp_mid'  
 TMP_MIDDLE2=$LOG_FILE'.tmp_mid2'  
  
 current_aws_log_time=`psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -A -t -c "select last_aws_log_time from database where id = $database_id "`

 echo $(date +%Y%m%d%H%M)':      download_aws_piece.sh:current_aws_log_time='$current_aws_log_time
  
  if [[ $current_aws_log_time != $AWS_LOG_TIME  ]];
  then
    is_new_log='1'
	if ! psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -v ON_ERROR_STOP=1 -A -t -q -c "update database set last_aws_log_time = '$AWS_LOG_TIME' where id = $database_id "
	then
	  echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: FATAL_ERROR - update database set last_aws_log_time .'
	  exit 1
	fi
  else
    is_new_log='0'
  fi
  
  echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:is_new_log='$is_new_log
  
  let last_aws_max_item_size=`psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -A -t -c "select aws_max_item_size from database where id = $database_id "`
  echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: last_aws_max_item_size='$last_aws_max_item_size
  
  let count=1
  if [[ $is_new_log == '1' ]];
  then    
	echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: START DOWNLOADING OF NEW AWS LOG'
	if ! aws rds download-db-log-file-portion 
		--max-items $last_aws_max_item_size 
		--region REGION 
		--db-instance-identifier  $db_instance 
		--log-file-name error/postgresql.log.$AWS_LOG_TIME > $LOG_FILE
	then
		echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: FATAL_ERROR - Could not get log from AWS .'
		exit 2
	fi  	
  else
    next_token=`psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -v ON_ERROR_STOP=1 -A -t -c "select last_aws_nexttoken from database where id = $database_id "`
	
	if [[ $next_token == '' ]];
	then
	  next_token='0'	  
	fi
	
	echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: CONTINUE DOWNLOADING OF AWS LOG'
	if ! aws rds download-db-log-file-portion 
	    --max-items $last_aws_max_item_size 
		--starting-token $next_token 
		--region REGION 
		--db-instance-identifier  $db_instance 
		--log-file-name error/postgresql.log.$AWS_LOG_TIME > $LOG_FILE
	then
		echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: FATAL_ERROR - Could not get log from AWS .'
		exit 3
	fi       
	
	line_count=`cat  $LOG_FILE | wc -l`
	let lines=$line_count-1
	  
	tail -$lines $LOG_FILE > $TMP_MIDDLE 
	mv -f $TMP_MIDDLE $LOG_FILE
  fi
  
  next_token_str=`cat $LOG_FILE | grep NEXTTOKEN` 
  next_token=`echo $next_token_str | awk -F" " '{ print $2}' `
  
  grep -v NEXTTOKEN $LOG_FILE  > $TMP_FILE 
  
  if [[ $next_token == '' ]];
  then
	  cp $TMP_FILE $RESULT_FILE
	  
	  echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:  NEXTTOKEN NOT FOUND - FINISH '
	  rm $LOG_FILE 
	  rm $TMP_FILE
	  rm $TMP_MIDDLE
          rm $TMP_MIDDLE2	  
	  exit 0  
  else
	psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -v ON_ERROR_STOP=1 -A -t -q -c "update database set last_aws_nexttoken = '$next_token' where id = $database_id "
  fi
  
  first_str=`tail -1 $TMP_FILE`
  
  line_count=`cat  $TMP_FILE | wc -l`
  let lines=$line_count-1    
  
  head -$lines $TMP_FILE  > $RESULT_FILE

###############################################
# MAIN CIRCLE
  let count=2
  while [[ $next_token != '' ]];
  do 
    echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: count='$count
	
	echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: START DOWNLOADING OF AWS LOG'
	if ! aws rds download-db-log-file-portion 
             --max-items $last_aws_max_item_size 
             --starting-token $next_token 
             --region REGION 
             --db-instance-identifier  $db_instance 
             --log-file-name error/postgresql.log.$AWS_LOG_TIME > $LOG_FILE
	then
		echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: FATAL_ERROR - Could not get log from AWS .'
		exit 4
	fi

	next_token_str=`cat $LOG_FILE | grep NEXTTOKEN` 
	next_token=`echo $next_token_str | awk -F" " '{ print $2}' `

	TMP_FILE=$LOG_FILE'.tmp'
	grep -v NEXTTOKEN $LOG_FILE  > $TMP_FILE  
	
	last_str=`head -1 $TMP_FILE`
  
    if [[ $next_token == '' ]];
	then
	  concat_str=$first_str$last_str
	  	  
	  echo $concat_str >> $RESULT_FILE
		 
	  line_count=`cat  $TMP_FILE | wc -l`
	  let lines=$line_count-1
	  
	  tail -$lines $TMP_FILE >> $RESULT_FILE
	  
	  echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:  NEXTTOKEN NOT FOUND - FINISH '
	  rm $LOG_FILE 
	  rm $TMP_FILE
	  rm $TMP_MIDDLE
          rm $TMP_MIDDLE2	  
	  exit 0  
	fi
	
    if [[ $next_token != '' ]];
	then
		let growth_counter=$growth_counter+1
		if [[ $growth_counter -gt $growth_counter_max ]];
		then
			let last_aws_max_item_size=$last_aws_max_item_size*$growth_factor
			let growth_counter=1
		fi
	
		if [[ $last_aws_max_item_size -gt $max_item_size ]]; 
		then
			let last_aws_max_item_size=$max_item_size
		fi 

	  psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -A -t -q -c "update database set last_aws_nexttoken = '$next_token' where id = $database_id "
	  
	  concat_str=$first_str$last_str
	  	  
	  echo $concat_str >> $RESULT_FILE
		 
	  line_count=`cat  $TMP_FILE | wc -l`
	  let lines=$line_count-1
	  
	  #############################
	  #Get middle of file
	  head -$lines $TMP_FILE > $TMP_MIDDLE
	  
	  line_count=`cat  $TMP_MIDDLE | wc -l`
	  let lines=$line_count-1
	  tail -$lines $TMP_MIDDLE > $TMP_MIDDLE2
	  
	  cat $TMP_MIDDLE2 >> $RESULT_FILE	  
	  
	  first_str=`tail -1 $TMP_FILE`	  
	fi
	  
    let count=$count+1

  done
#
#################################################################

exit 0  

បំណែកស្គ្រីបជាមួយនឹងការពន្យល់មួយចំនួន៖

ប៉ារ៉ាម៉ែត្រ​បញ្ចូល​ស្គ្រីប៖

• ត្រាពេលវេលានៃឈ្មោះឯកសារកំណត់ហេតុក្នុងទម្រង់ YYYY-MM-DD-HH24: AWS_LOG_TIME=$1
• លេខសម្គាល់មូលដ្ឋានទិន្នន័យ៖ database_id=$2
• ឈ្មោះឯកសារកំណត់ហេតុដែលប្រមូលបាន៖ RESULT_FILE=$3

ទទួលបានត្រាពេលវេលានៃឯកសារកំណត់ហេតុដែលបានផ្ទុកចុងក្រោយ៖

current_aws_log_time=`psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -A -t -c "select last_aws_log_time from database where id = $database_id "`

ប្រសិនបើត្រាពេលវេលានៃឯកសារកំណត់ហេតុដែលបានផ្ទុកចុងក្រោយមិនត្រូវគ្នានឹងប៉ារ៉ាម៉ែត្របញ្ចូល នោះឯកសារកំណត់ហេតុថ្មីត្រូវបានផ្ទុក៖

if [[ $current_aws_log_time != $AWS_LOG_TIME  ]];
  then
    is_new_log='1'
	if ! psql -h ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -v ON_ERROR_STOP=1 -A -t -c "update database set last_aws_log_time = '$AWS_LOG_TIME' where id = $database_id "
	then
	  echo '***download_aws_piece.sh -FATAL_ERROR - update database set last_aws_log_time .'
	  exit 1
	fi
  else
    is_new_log='0'
  fi

យើងទទួលបានតម្លៃនៃស្លាកសញ្ញាបន្ទាប់ពីឯកសារដែលបានទាញយក៖

  next_token_str=`cat $LOG_FILE | grep NEXTTOKEN` 
  next_token=`echo $next_token_str | awk -F" " '{ print $2}' `

តម្លៃបន្ទាប់បន្សំទទេបម្រើជាសញ្ញានៃការបញ្ចប់នៃការទាញយក។

នៅក្នុងរង្វិលជុំ យើងរាប់ផ្នែកនៃឯកសារ ដោយភ្ជាប់បន្ទាត់នៅតាមផ្លូវ និងបង្កើនទំហំនៃផ្នែក៖
រង្វិលជុំសំខាន់

# MAIN CIRCLE
  let count=2
  while [[ $next_token != '' ]];
  do 
    echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: count='$count
	
	echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: START DOWNLOADING OF AWS LOG'
	if ! aws rds download-db-log-file-portion 
     --max-items $last_aws_max_item_size 
	 --starting-token $next_token 
     --region REGION 
     --db-instance-identifier  $db_instance 
     --log-file-name error/postgresql.log.$AWS_LOG_TIME > $LOG_FILE
	then
		echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh: FATAL_ERROR - Could not get log from AWS .'
		exit 4
	fi

	next_token_str=`cat $LOG_FILE | grep NEXTTOKEN` 
	next_token=`echo $next_token_str | awk -F" " '{ print $2}' `

	TMP_FILE=$LOG_FILE'.tmp'
	grep -v NEXTTOKEN $LOG_FILE  > $TMP_FILE  
	
	last_str=`head -1 $TMP_FILE`
  
    if [[ $next_token == '' ]];
	then
	  concat_str=$first_str$last_str
	  	  
	  echo $concat_str >> $RESULT_FILE
		 
	  line_count=`cat  $TMP_FILE | wc -l`
	  let lines=$line_count-1
	  
	  tail -$lines $TMP_FILE >> $RESULT_FILE
	  
	  echo $(date +%Y%m%d%H%M)':    download_aws_piece.sh:  NEXTTOKEN NOT FOUND - FINISH '
	  rm $LOG_FILE 
	  rm $TMP_FILE
	  rm $TMP_MIDDLE
         rm $TMP_MIDDLE2	  
	  exit 0  
	fi
	
    if [[ $next_token != '' ]];
	then
		let growth_counter=$growth_counter+1
		if [[ $growth_counter -gt $growth_counter_max ]];
		then
			let last_aws_max_item_size=$last_aws_max_item_size*$growth_factor
			let growth_counter=1
		fi
	
		if [[ $last_aws_max_item_size -gt $max_item_size ]]; 
		then
			let last_aws_max_item_size=$max_item_size
		fi 

	  psql -h MONITOR_ENDPOINT.rds.amazonaws.com -U USER -d MONITOR_DATABASE -A -t -q -c "update database set last_aws_nexttoken = '$next_token' where id = $database_id "
	  
	  concat_str=$first_str$last_str
	  	  
	  echo $concat_str >> $RESULT_FILE
		 
	  line_count=`cat  $TMP_FILE | wc -l`
	  let lines=$line_count-1
	  
	  #############################
	  #Get middle of file
	  head -$lines $TMP_FILE > $TMP_MIDDLE
	  
	  line_count=`cat  $TMP_MIDDLE | wc -l`
	  let lines=$line_count-1
	  tail -$lines $TMP_MIDDLE > $TMP_MIDDLE2
	  
	  cat $TMP_MIDDLE2 >> $RESULT_FILE	  
	  
	  first_str=`tail -1 $TMP_FILE`	  
	fi
	  
    let count=$count+1

  done

មាន​អ្វី​បន្ទាប់?

ដូច្នេះភារកិច្ចកម្រិតមធ្យមដំបូង - "ទាញយកឯកសារកំណត់ហេតុពីពពក" ត្រូវបានដោះស្រាយ។ អ្វីដែលត្រូវធ្វើជាមួយកំណត់ហេតុដែលបានទាញយក?
ដំបូងអ្នកត្រូវញែកឯកសារកំណត់ហេតុហើយស្រង់សំណើពិតប្រាកដពីវា។
ភារកិច្ចមិនពិបាកខ្លាំងទេ។ ស្គ្រីប bash សាមញ្ញបំផុតធ្វើការងារបានយ៉ាងល្អ។
upload_log_query.sh

#!/bin/bash
#########################################################
# upload_log_query.sh
# Upload table table from dowloaded aws file 
# version HABR
###########################################################  
echo 'TIMESTAMP:'$(date +%c)' Upload log_query table '
source_file=$1
echo 'source_file='$source_file
database_id=$2
echo 'database_id='$database_id

beginer=' '
first_line='1'
let "line_count=0"
sql_line=' '
sql_flag=' '    
space=' '
cat $source_file | while read line
do
  line="$space$line"

  if [[ $first_line == "1" ]]; then
    beginer=`echo $line | awk -F" " '{ print $1}' `
    first_line='0'
  fi

  current_beginer=`echo $line | awk -F" " '{ print $1}' `

  if [[ $current_beginer == $beginer ]]; then
    if [[ $sql_flag == '1' ]]; then
     sql_flag='0' 
     log_date=`echo $sql_line | awk -F" " '{ print $1}' `
     log_time=`echo $sql_line | awk -F" " '{ print $2}' `
     duration=`echo $sql_line | awk -F" " '{ print $5}' `

     #replace ' to ''
     sql_modline=`echo "$sql_line" | sed 's/'''/''''''/g'`
     sql_line=' '

	 ################
	 #PROCESSING OF THE SQL-SELECT IS HERE
     if ! psql -h ENDPOINT.rds.amazonaws.com -U USER -d DATABASE -v ON_ERROR_STOP=1 -A -t -c "select log_query('$ip_port',$database_id , '$log_date' , '$log_time' , '$duration' , '$sql_modline' )" 
     then
        echo 'FATAL_ERROR - log_query '
        exit 1
     fi
	 ################

    fi #if [[ $sql_flag == '1' ]]; then

    let "line_count=line_count+1"

    check=`echo $line | awk -F" " '{ print $8}' `
    check_sql=${check^^}    

    #echo 'check_sql='$check_sql
    
    if [[ $check_sql == 'SELECT' ]]; then
     sql_flag='1'    
     sql_line="$sql_line$line"
	 ip_port=`echo $sql_line | awk -F":" '{ print $4}' `
    fi
  else       

    if [[ $sql_flag == '1' ]]; then
      sql_line="$sql_line$line"
    fi   
    
  fi #if [[ $current_beginer == $beginer ]]; then

done

ឥឡូវនេះអ្នកអាចធ្វើការជាមួយសំណើដែលបានជ្រើសរើសពីឯកសារកំណត់ហេតុ។

ហើយឱកាសមានប្រយោជន៍ជាច្រើនបានបើកឡើង។

សំណួរដែលបានញែកត្រូវរក្សាទុកនៅកន្លែងណាមួយ។ តារាងសេវាកម្មត្រូវបានប្រើសម្រាប់ការនេះ។ log_query

CREATE TABLE log_query
(
   id SERIAL ,
   queryid bigint ,
   query_md5hash text not null ,
   database_id integer not null ,  
   timepoint timestamp without time zone not null,
   duration double precision not null ,
   query text not null ,
   explained_plan text[],
   plan_md5hash text  , 
   explained_plan_wo_costs text[],
   plan_hash_value text  ,
   baseline_id integer ,
   ip text ,
   port text 
);
ALTER TABLE log_query ADD PRIMARY KEY (id);
ALTER TABLE log_query ADD CONSTRAINT queryid_timepoint_unique_key UNIQUE (queryid, timepoint );
ALTER TABLE log_query ADD CONSTRAINT query_md5hash_timepoint_unique_key UNIQUE (query_md5hash, timepoint );

CREATE INDEX log_query_timepoint_idx ON log_query (timepoint);
CREATE INDEX log_query_queryid_idx ON log_query (queryid);
ALTER TABLE log_query ADD CONSTRAINT database_id_fk FOREIGN KEY (database_id) REFERENCES database (id) ON DELETE CASCADE ;

សំណើដែលបានញែកត្រូវបានដំណើរការនៅក្នុង plpgsql មុខងារ "log_query"។
log_query.sql

--log_query.sql
--verison HABR
CREATE OR REPLACE FUNCTION log_query( ip_port text ,log_database_id integer , log_date text , log_time text , duration text , sql_line text   ) RETURNS boolean AS $$
DECLARE
  result boolean ;
  log_timepoint timestamp without time zone ;
  log_duration double precision ; 
  pos integer ;
  log_query text ;
  activity_string text ;
  log_md5hash text ;
  log_explain_plan text[] ;
  
  log_planhash text ;
  log_plan_wo_costs text[] ; 
  
  database_rec record ;
  
  pg_stat_query text ; 
  test_log_query text ;
  log_query_rec record;
  found_flag boolean;
  
  pg_stat_history_rec record ;
  port_start integer ;
  port_end integer ;
  client_ip text ;
  client_port text ;
  log_queryid bigint ;
  log_query_text text ;
  pg_stat_query_text text ; 
BEGIN
  result = TRUE ;

  RAISE NOTICE '***log_query';
  
  port_start = position('(' in ip_port);
  port_end = position(')' in ip_port);
  client_ip = substring( ip_port from 1 for port_start-1 );
  client_port = substring( ip_port from port_start+1 for port_end-port_start-1 );

  SELECT e.host , d.name , d.owner_pwd 
  INTO database_rec
  FROM database d JOIN endpoint e ON e.id = d.endpoint_id
  WHERE d.id = log_database_id ;
  
  log_timepoint = to_timestamp(log_date||' '||log_time,'YYYY-MM-DD HH24-MI-SS');
  log_duration = duration:: double precision; 

  
  pos = position ('SELECT' in UPPER(sql_line) );
  log_query = substring( sql_line from pos for LENGTH(sql_line));
  log_query = regexp_replace(log_query,' +',' ','g');
  log_query = regexp_replace(log_query,';+','','g');
  log_query = trim(trailing ' ' from log_query);
 

  log_md5hash = md5( log_query::text );
  
  --Explain execution plan--
  EXECUTE 'SELECT dblink_connect(''LINK1'',''host='||database_rec.host||' dbname='||database_rec.name||' user=DATABASE password='||database_rec.owner_pwd||' '')'; 
  
  log_explain_plan = ARRAY ( SELECT * FROM dblink('LINK1', 'EXPLAIN '||log_query ) AS t (plan text) );
  log_plan_wo_costs = ARRAY ( SELECT * FROM dblink('LINK1', 'EXPLAIN ( COSTS FALSE ) '||log_query ) AS t (plan text) );
    
  PERFORM dblink_disconnect('LINK1');
  --------------------------
  BEGIN
	INSERT INTO log_query
	(
		query_md5hash ,
		database_id , 
		timepoint ,
		duration ,
		query ,
		explained_plan ,
		plan_md5hash , 
		explained_plan_wo_costs , 
		plan_hash_value , 
		ip , 
		port
	) 
	VALUES 
	(
		log_md5hash ,
		log_database_id , 
		log_timepoint , 
		log_duration , 
		log_query ,
		log_explain_plan , 
		md5(log_explain_plan::text) ,
		log_plan_wo_costs , 
		md5(log_plan_wo_costs::text),
		client_ip , 
		client_port		
	);
	activity_string = 	'New query has logged '||
						' database_id = '|| log_database_id ||
						' query_md5hash='||log_md5hash||
						' , timepoint = '||to_char(log_timepoint,'YYYYMMDD HH24:MI:SS');
					
	RAISE NOTICE '%',activity_string;					
					 
	PERFORM pg_log( log_database_id , 'log_query' , activity_string);  

	EXCEPTION
	  WHEN unique_violation THEN
		RAISE NOTICE '*** unique_violation *** query already has logged';
	END;

	SELECT 	queryid
	INTO   	log_queryid
	FROM 	log_query 
	WHERE 	query_md5hash = log_md5hash AND
			timepoint = log_timepoint;

	IF log_queryid IS NOT NULL 
	THEN 
	  RAISE NOTICE 'log_query with query_md5hash = % and timepoint = % has already has a QUERYID = %',log_md5hash,log_timepoint , log_queryid ;
	  RETURN result;
	END IF;
	
	------------------------------------------------
	RAISE NOTICE 'Update queryid';	
	
	SELECT * 
	INTO log_query_rec
	FROM log_query
	WHERE query_md5hash = log_md5hash AND timepoint = log_timepoint ; 
	
	log_query_rec.query=regexp_replace(log_query_rec.query,';+','','g');
	
	FOR pg_stat_history_rec IN
	 SELECT 
         queryid ,
	  query 
	 FROM 
         pg_stat_db_queries 
     WHERE  
      database_id = log_database_id AND
       queryid is not null 
	LOOP
	  pg_stat_query = pg_stat_history_rec.query ; 
	  pg_stat_query=regexp_replace(pg_stat_query,'n+',' ','g');
	  pg_stat_query=regexp_replace(pg_stat_query,'t+',' ','g');
	  pg_stat_query=regexp_replace(pg_stat_query,' +',' ','g');
	  pg_stat_query=regexp_replace(pg_stat_query,'$.','%','g');
	
	  log_query_text = trim(trailing ' ' from log_query_rec.query);
	  pg_stat_query_text = pg_stat_query; 
	
	  
	  --SELECT log_query_rec.query like pg_stat_query INTO found_flag ; 
	  IF (log_query_text LIKE pg_stat_query_text) THEN
		found_flag = TRUE ;
	  ELSE
		found_flag = FALSE ;
	  END IF;	  
	  
	  
	  IF found_flag THEN
	    
		UPDATE log_query SET queryid = pg_stat_history_rec.queryid WHERE query_md5hash = log_md5hash AND timepoint = log_timepoint ;
		activity_string = 	' updated queryid = '||pg_stat_history_rec.queryid||
		                    ' for log_query with id = '||log_query_rec.id               
		   				    ;						
	    RAISE NOTICE '%',activity_string;	
		EXIT ;
	  END IF ;
	  
	END LOOP ;
	
  RETURN result ;
END
$$ LANGUAGE plpgsql;

តារាងសេវាកម្មត្រូវបានប្រើប្រាស់កំឡុងពេលដំណើរការ pg_stat_db_queriesដែលមានរូបថតនៃសំណួរបច្ចុប្បន្នពីតារាង pg_stat_history (ការប្រើប្រាស់តារាងត្រូវបានពិពណ៌នានៅទីនេះ − ការត្រួតពិនិត្យការអនុវត្តនៃសំណួរ PostgreSQL ។ ផ្នែកទី 1 - ការរាយការណ៍)

TABLE pg_stat_db_queries
(
   database_id integer,  
   queryid bigint ,  
   query text , 
   max_time double precision 
);

TABLE pg_stat_history 
(
…
database_id integer ,
…
queryid bigint ,
…
max_time double precision	 , 	
…
);

មុខងារអនុញ្ញាតឱ្យអ្នកអនុវត្តសមត្ថភាពមានប្រយោជន៍មួយចំនួនសម្រាប់ដំណើរការសំណើពីឯកសារកំណត់ហេតុ។ ពោលគឺ៖

ឱកាសទី 1 - ប្រវត្តិនៃការប្រតិបត្តិសំណួរ

មានប្រយោជន៍ខ្លាំងណាស់សម្រាប់ការចាប់ផ្តើមដោះស្រាយឧប្បត្តិហេតុនៃការអនុវត្ត។ ជាដំបូង ស្វែងយល់ពីប្រវត្តិសាស្ត្រ - តើការយឺតយ៉ាវចាប់ផ្តើមនៅពេលណា?
បន្ទាប់មកយោងទៅតាមសៀវភៅបុរាណរកមើលហេតុផលខាងក្រៅ។ ប្រហែលជាការផ្ទុកមូលដ្ឋានទិន្នន័យបានកើនឡើងយ៉ាងខ្លាំង ហើយសំណើជាក់លាក់មិនមានអ្វីដែលត្រូវធ្វើជាមួយវាទេ។
បន្ថែមធាតុថ្មីទៅតារាង log_query

  port_start = position('(' in ip_port);
  port_end = position(')' in ip_port);
  client_ip = substring( ip_port from 1 for port_start-1 );
  client_port = substring( ip_port from port_start+1 for port_end-port_start-1 );

  SELECT e.host , d.name , d.owner_pwd 
  INTO database_rec
  FROM database d JOIN endpoint e ON e.id = d.endpoint_id
  WHERE d.id = log_database_id ;
  
  log_timepoint = to_timestamp(log_date||' '||log_time,'YYYY-MM-DD HH24-MI-SS');
  log_duration = to_number(duration,'99999999999999999999D9999999999'); 

  
  pos = position ('SELECT' in UPPER(sql_line) );
  log_query = substring( sql_line from pos for LENGTH(sql_line));
  log_query = regexp_replace(log_query,' +',' ','g');
  log_query = regexp_replace(log_query,';+','','g');
  log_query = trim(trailing ' ' from log_query);
 
  RAISE NOTICE 'log_query=%',log_query ;   

  log_md5hash = md5( log_query::text );
  
  --Explain execution plan--
  EXECUTE 'SELECT dblink_connect(''LINK1'',''host='||database_rec.host||' dbname='||database_rec.name||' user=DATABASE password='||database_rec.owner_pwd||' '')'; 
  
  log_explain_plan = ARRAY ( SELECT * FROM dblink('LINK1', 'EXPLAIN '||log_query ) AS t (plan text) );
  log_plan_wo_costs = ARRAY ( SELECT * FROM dblink('LINK1', 'EXPLAIN ( COSTS FALSE ) '||log_query ) AS t (plan text) );
    
  PERFORM dblink_disconnect('LINK1');
  --------------------------
  BEGIN
	INSERT INTO log_query
	(
		query_md5hash ,
		database_id , 
		timepoint ,
		duration ,
		query ,
		explained_plan ,
		plan_md5hash , 
		explained_plan_wo_costs , 
		plan_hash_value , 
		ip , 
		port
	) 
	VALUES 
	(
		log_md5hash ,
		log_database_id , 
		log_timepoint , 
		log_duration , 
		log_query ,
		log_explain_plan , 
		md5(log_explain_plan::text) ,
		log_plan_wo_costs , 
		md5(log_plan_wo_costs::text),
		client_ip , 
		client_port		
	);

លទ្ធភាព #2 - រក្សាទុកផែនការប្រតិបត្តិសំណួរ

នៅចំណុចនេះ ការជំទាស់-ការបំភ្លឺ-ការបញ្ចេញមតិអាចនឹងកើតឡើង៖ "ប៉ុន្តែមានការពន្យល់ដោយស្វ័យប្រវត្តិរួចហើយ" បាទ / ចាស វានៅទីនោះ ប៉ុន្តែតើមានអ្វីកើតឡើងប្រសិនបើផែនការប្រតិបត្តិត្រូវបានរក្សាទុកក្នុងឯកសារកំណត់ហេតុដូចគ្នា ហើយដើម្បីរក្សាទុកវាសម្រាប់ការវិភាគបន្ថែម អ្នកត្រូវញែកឯកសារកំណត់ហេតុ?

អ្វីដែលខ្ញុំត្រូវការគឺ៖
ទីមួយ៖ រក្សាទុកផែនការប្រតិបត្តិក្នុងតារាងសេវានៃមូលដ្ឋានទិន្នន័យត្រួតពិនិត្យ។
ទីពីរ៖ ដើម្បីអាចប្រៀបធៀបផែនការប្រតិបត្តិជាមួយគ្នា ដើម្បីមើលឃើញភ្លាមៗថាផែនការប្រតិបត្តិសំណួរបានផ្លាស់ប្តូរ។

មានសំណើជាមួយប៉ារ៉ាម៉ែត្រប្រតិបត្តិជាក់លាក់។ ការទទួលបាន និងរក្សាទុកផែនការប្រតិបត្តិរបស់វាដោយប្រើ EXPLAIN គឺជាកិច្ចការបឋម។
ជាងនេះទៅទៀត ដោយប្រើកន្សោម EXPLAIN (COSTS FALSE) អ្នកអាចទទួលបានគ្រោងនៃផែនការ ដែលនឹងត្រូវប្រើដើម្បីទទួលបានតម្លៃ hash នៃផែនការ ដែលនឹងជួយក្នុងការវិភាគជាបន្តបន្ទាប់នៃប្រវត្តិនៃការផ្លាស់ប្តូរនៅក្នុងផែនការប្រតិបត្តិ។
ទទួលបានគំរូផែនការប្រតិបត្តិ

  --Explain execution plan--
  EXECUTE 'SELECT dblink_connect(''LINK1'',''host='||database_rec.host||' dbname='||database_rec.name||' user=DATABASE password='||database_rec.owner_pwd||' '')'; 
  
  log_explain_plan = ARRAY ( SELECT * FROM dblink('LINK1', 'EXPLAIN '||log_query ) AS t (plan text) );
  log_plan_wo_costs = ARRAY ( SELECT * FROM dblink('LINK1', 'EXPLAIN ( COSTS FALSE ) '||log_query ) AS t (plan text) );
    
  PERFORM dblink_disconnect('LINK1');

លទ្ធភាពទី 3 - ការប្រើកំណត់ហេតុសំណួរសម្រាប់ការត្រួតពិនិត្យ

ដោយសារ​ម៉ែត្រ​ការ​អនុវត្ត​ត្រូវ​បាន​កំណត់​រចនាសម្ព័ន្ធ​មិន​នៅ​លើ​អត្ថបទ​សំណើ​នោះ​ទេ ប៉ុន្តែ​នៅ​លើ​លេខ​សម្គាល់​របស់​វា អ្នក​ត្រូវ​ភ្ជាប់​សំណើ​ពី​ឯកសារ​កំណត់​ហេតុ​ជាមួយ​នឹង​សំណើ​ដែល​បាន​កំណត់​រចនាសម្ព័ន្ធ​ម៉ែត្រ​ការ​អនុវត្ត។
ជាការប្រសើរណាស់ យ៉ាងហោចណាស់ដើម្បីឱ្យមានពេលវេលាពិតប្រាកដនៃការកើតឡើងនៃឧប្បត្តិហេតុនៃការសម្តែង។

វិធីនេះ នៅពេលដែលឧប្បត្តិហេតុនៃការអនុវត្តកើតឡើងសម្រាប់លេខសម្គាល់សំណើ វានឹងមានការភ្ជាប់ទៅកាន់សំណើជាក់លាក់មួយដែលមានតម្លៃប៉ារ៉ាម៉ែត្រជាក់លាក់ និងពេលវេលាប្រតិបត្តិពិតប្រាកដ និងរយៈពេលនៃសំណើ។ ទទួលបានព័ត៌មាននេះដោយប្រើតែទិដ្ឋភាពប៉ុណ្ណោះ។ pg_stat_statements - វាត្រូវបានហាមឃាត់។
ស្វែងរកសំណួរនៃសំណើ និងធ្វើបច្ចុប្បន្នភាពធាតុនៅក្នុងតារាង log_query

SELECT * 
	INTO log_query_rec
	FROM log_query
	WHERE query_md5hash = log_md5hash AND timepoint = log_timepoint ; 
	
	log_query_rec.query=regexp_replace(log_query_rec.query,';+','','g');
	
	FOR pg_stat_history_rec IN
	 SELECT 
      queryid ,
	  query 
	 FROM 
       pg_stat_db_queries 
     WHERE  
	   database_id = log_database_id AND
       queryid is not null 
	LOOP
	  pg_stat_query = pg_stat_history_rec.query ; 
	  pg_stat_query=regexp_replace(pg_stat_query,'n+',' ','g');
	  pg_stat_query=regexp_replace(pg_stat_query,'t+',' ','g');
	  pg_stat_query=regexp_replace(pg_stat_query,' +',' ','g');
	  pg_stat_query=regexp_replace(pg_stat_query,'$.','%','g');
	
	  log_query_text = trim(trailing ' ' from log_query_rec.query);
	  pg_stat_query_text = pg_stat_query; 
	  
	  --SELECT log_query_rec.query like pg_stat_query INTO found_flag ; 
	  IF (log_query_text LIKE pg_stat_query_text) THEN
		found_flag = TRUE ;
	  ELSE
		found_flag = FALSE ;
	  END IF;	  
	  
	  
	  IF found_flag THEN
	    
		UPDATE log_query SET queryid = pg_stat_history_rec.queryid WHERE query_md5hash = log_md5hash AND timepoint = log_timepoint ;
		activity_string = 	' updated queryid = '||pg_stat_history_rec.queryid||
		                    ' for log_query with id = '||log_query_rec.id		                    
		   				    ;						
					
	    RAISE NOTICE '%',activity_string;	
		EXIT ;
	  END IF ;
	  
	END LOOP ;

Afterword

បច្ចេកទេសដែលបានពិពណ៌នានៅទីបំផុតបានរកឃើញកម្មវិធីនៅក្នុង ប្រព័ន្ធត្រួតពិនិត្យការអនុវត្តសំណួរ PostgreSQL ដែលបានអភិវឌ្ឍអនុញ្ញាតឱ្យអ្នកមានព័ត៌មានបន្ថែមដើម្បីវិភាគនៅពេលដោះស្រាយឧប្បត្តិហេតុនៃការអនុវត្តសំណួរដែលកំពុងកើតឡើង។

ទោះបីជាជាការពិតក៏ដោយតាមគំនិតផ្ទាល់ខ្លួនរបស់ខ្ញុំវានឹងចាំបាច់ក្នុងការធ្វើការបន្ថែមទៀតលើក្បួនដោះស្រាយសម្រាប់ការជ្រើសរើសនិងផ្លាស់ប្តូរទំហំនៃផ្នែកដែលបានទាញយក។ បញ្ហា​នៅ​មិន​ទាន់​ត្រូវ​បាន​ដោះ​ស្រាយ​នៅ​ឡើយ​ទេ​ក្នុង​ករណី​ទូទៅ។ វាប្រហែលជាគួរឱ្យចាប់អារម្មណ៍។

ប៉ុន្តែវាជារឿងខុសគ្នាទាំងស្រុង...

ប្រភព: www.habr.com