S3 ഒബ്‌ജക്റ്റ് സ്റ്റോറേജിലെ വെബ്‌ഹുക്കുകളെ അടിസ്ഥാനമാക്കിയുള്ള ഇവന്റ്-ഡ്രൈവ് ആപ്ലിക്കേഷന്റെ ഒരു ഉദാഹരണം Mail.ru ക്ലൗഡ് സൊല്യൂഷനുകൾ

റൂബ് ഗോൾഡ്ബെർഗ് കോഫി മെഷീൻ

ഇവന്റ്-ഡ്രൈവ് ആർക്കിടെക്ചർ ഉപയോഗിക്കുന്ന വിഭവങ്ങളുടെ ചെലവ് കാര്യക്ഷമത വർദ്ധിപ്പിക്കുന്നു, കാരണം അവ ആവശ്യമുള്ള നിമിഷത്തിൽ മാത്രം ഉപയോഗിക്കുന്നു. ഇത് എങ്ങനെ നടപ്പിലാക്കാമെന്നും അധിക ക്ലൗഡ് എന്റിറ്റികൾ വർക്കർ ആപ്ലിക്കേഷനുകളായി സൃഷ്ടിക്കരുതെന്നും നിരവധി ഓപ്ഷനുകൾ ഉണ്ട്. ഇന്ന് ഞാൻ സംസാരിക്കുന്നത് FaaS നെക്കുറിച്ചല്ല, webhooks നെക്കുറിച്ചാണ്. ഒബ്‌ജക്റ്റ് സ്റ്റോറേജ് വെബ്‌ഹുക്കുകൾ ഉപയോഗിച്ച് ഇവന്റുകൾ കൈകാര്യം ചെയ്യുന്നതിനുള്ള ഒരു ട്യൂട്ടോറിയൽ ഉദാഹരണം ഞാൻ കാണിക്കും.

ഒബ്‌ജക്‌റ്റ് സംഭരണത്തെയും വെബ്‌ഹുക്കിനെയും കുറിച്ച് കുറച്ച് വാക്കുകൾ. ഒബ്‌ജക്റ്റ് സ്റ്റോറേജ് നിങ്ങളെ ക്ലൗഡിൽ ഒബ്‌ജക്റ്റുകളുടെ രൂപത്തിൽ സംഭരിക്കാൻ നിങ്ങളെ അനുവദിക്കുന്നു, S3 അല്ലെങ്കിൽ മറ്റൊരു API വഴി ആക്‌സസ് ചെയ്യാനാകും (നടപ്പാക്കലിനെ ആശ്രയിച്ച്) HTTP/HTTPS വഴി. വെബ്‌ഹുക്കുകൾ സാധാരണയായി ഇഷ്‌ടാനുസൃത HTTP കോൾബാക്കുകളാണ്. കോഡ് ഒരു ശേഖരത്തിലേക്ക് തള്ളുന്നത് അല്ലെങ്കിൽ ഒരു ബ്ലോഗിൽ പോസ്റ്റുചെയ്യുന്നത് പോലെയുള്ള ഒരു ഇവന്റ് വഴിയാണ് അവ സാധാരണയായി ട്രിഗർ ചെയ്യപ്പെടുന്നത്. ഒരു ഇവന്റ് സംഭവിക്കുമ്പോൾ, വെബ്‌ഹുക്കിനായി വ്യക്തമാക്കിയ URL-ലേക്ക് ഉത്ഭവ സൈറ്റ് ഒരു HTTP അഭ്യർത്ഥന അയയ്‌ക്കുന്നു. തൽഫലമായി, നിങ്ങൾക്ക് ഒരു സൈറ്റിലെ ഇവന്റുകൾ മറ്റൊന്നിൽ പ്രവർത്തനക്ഷമമാക്കാൻ കഴിയും (വിക്കി). ഉറവിട സൈറ്റ് ഒരു ഒബ്‌ജക്റ്റ് സ്റ്റോറേജ് ആണെങ്കിൽ, ഇവന്റുകൾ അതിന്റെ ഉള്ളടക്കത്തിൽ മാറ്റങ്ങളായി പ്രവർത്തിക്കുന്നു.

അത്തരം ഓട്ടോമേഷൻ ഉപയോഗിക്കാവുന്ന ലളിതമായ കേസുകളുടെ ഉദാഹരണങ്ങൾ:

1. മറ്റൊരു ക്ലൗഡ് സ്റ്റോറേജിൽ എല്ലാ വസ്തുക്കളുടെയും പകർപ്പുകൾ സൃഷ്ടിക്കുന്നു. ഫയലുകൾ ചേർക്കുമ്പോഴോ മാറ്റുമ്പോഴോ പകർപ്പുകൾ ഈച്ചയിൽ സൃഷ്ടിക്കണം.
2. ഗ്രാഫിക് ഫയലുകളുടെ ലഘുചിത്രങ്ങളുടെ ഒരു പരമ്പര സ്വയമേവ സൃഷ്ടിക്കൽ, ഫോട്ടോഗ്രാഫുകളിൽ വാട്ടർമാർക്കുകൾ ചേർക്കൽ, മറ്റ് ഇമേജ് പരിഷ്ക്കരണങ്ങൾ.
3. പുതിയ ഡോക്യുമെന്റുകളുടെ വരവിനെക്കുറിച്ചുള്ള അറിയിപ്പ് (ഉദാഹരണത്തിന്, വിതരണം ചെയ്ത അക്കൗണ്ടിംഗ് സേവനം ക്ലൗഡിലേക്ക് റിപ്പോർട്ടുകൾ അപ്‌ലോഡ് ചെയ്യുന്നു, കൂടാതെ സാമ്പത്തിക നിരീക്ഷണത്തിന് പുതിയ റിപ്പോർട്ടുകളെക്കുറിച്ചുള്ള അറിയിപ്പുകൾ ലഭിക്കുന്നു, അവ പരിശോധിക്കുന്നു, വിശകലനം ചെയ്യുന്നു).
4. കുറച്ചുകൂടി സങ്കീർണ്ണമായ കേസുകളിൽ ഉൾപ്പെടുന്നു, ഉദാഹരണത്തിന്, കുബർനെറ്റസിലേക്ക് ഒരു അഭ്യർത്ഥന സൃഷ്ടിക്കുന്നു, അത് ആവശ്യമായ പാത്രങ്ങളുള്ള ഒരു പോഡ് സൃഷ്ടിക്കുന്നു, അതിലേക്ക് ടാസ്‌ക് പാരാമീറ്ററുകൾ കൈമാറുന്നു, പ്രോസസ്സിംഗിന് ശേഷം കണ്ടെയ്നർ തകരുന്നു.

ഉദാഹരണമായി, Mail.ru ക്ലൗഡ് സൊല്യൂഷൻസ് (MCS) ഒബ്‌ജക്റ്റ് സ്റ്റോറേജ് ബക്കറ്റിലെ മാറ്റങ്ങൾ വെബ്‌ഹുക്കുകൾ ഉപയോഗിച്ച് AWS ഒബ്‌ജക്റ്റ് സ്റ്റോറേജിൽ സമന്വയിപ്പിക്കുമ്പോൾ ഞങ്ങൾ ടാസ്‌ക് 1-ന്റെ ഒരു വകഭേദം ഉണ്ടാക്കും. ഒരു യഥാർത്ഥ ലോഡ് ചെയ്ത കേസിൽ, ഒരു ക്യൂവിൽ വെബ്ഹൂക്കുകൾ രജിസ്റ്റർ ചെയ്തുകൊണ്ട് അസിൻക്രണസ് വർക്ക് നൽകണം, എന്നാൽ പരിശീലന ചുമതലയ്ക്കായി ഞങ്ങൾ ഇത് കൂടാതെ നടപ്പിലാക്കും.

വർക്ക് സ്കീം

ഇൻററാക്ഷൻ പ്രോട്ടോക്കോൾ വിശദമായി വിവരിച്ചിരിക്കുന്നു MCS-ലെ S3 വെബ്‌ഹുക്കുകളിലേക്കുള്ള ഗൈഡ്. വർക്ക് സ്കീമിൽ ഇനിപ്പറയുന്ന ഘടകങ്ങൾ അടങ്ങിയിരിക്കുന്നു:

• പ്രസിദ്ധീകരണ സേവനം, S3 സ്റ്റോറേജ് വശത്തുള്ളതും webnhook പ്രവർത്തനക്ഷമമാകുമ്പോൾ HTTP അഭ്യർത്ഥനകൾ പ്രസിദ്ധീകരിക്കുന്നതുമാണ്.
• Webhook സ്വീകരിക്കുന്ന സെർവർ, ഇത് HTTP പ്രസിദ്ധീകരണ സേവനത്തിൽ നിന്നുള്ള അഭ്യർത്ഥനകൾ ശ്രദ്ധിക്കുകയും ഉചിതമായ പ്രവർത്തനങ്ങൾ നടത്തുകയും ചെയ്യുന്നു. സെർവർ ഏത് ഭാഷയിലും എഴുതാം; ഞങ്ങളുടെ ഉദാഹരണത്തിൽ, ഞങ്ങൾ ഗോയിൽ സെർവർ എഴുതും.

S3 API-യിൽ വെബ്‌ഹുക്കുകൾ നടപ്പിലാക്കുന്നതിന്റെ ഒരു പ്രത്യേക സവിശേഷത പ്രസിദ്ധീകരണ സേവനത്തിൽ വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവറിന്റെ രജിസ്‌ട്രേഷനാണ്. പ്രത്യേകിച്ചും, വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവർ പ്രസിദ്ധീകരണ സേവനത്തിൽ നിന്നുള്ള സന്ദേശങ്ങളിലേക്കുള്ള സബ്‌സ്‌ക്രിപ്‌ഷൻ സ്ഥിരീകരിക്കണം (മറ്റ് വെബ്‌ഹുക്ക് നടപ്പിലാക്കലുകളിൽ, സബ്‌സ്‌ക്രിപ്‌ഷന്റെ സ്ഥിരീകരണം സാധാരണയായി ആവശ്യമില്ല).

അതനുസരിച്ച്, webhook സ്വീകരിക്കുന്ന സെർവർ രണ്ട് പ്രധാന പ്രവർത്തനങ്ങളെ പിന്തുണയ്ക്കണം:

• രജിസ്ട്രേഷൻ സ്ഥിരീകരിക്കാനുള്ള പ്രസിദ്ധീകരണ സേവനത്തിന്റെ അഭ്യർത്ഥനയോട് പ്രതികരിക്കുക,
• ഇൻകമിംഗ് ഇവന്റുകൾ പ്രോസസ്സ് ചെയ്യുക.

ഒരു webhook സ്വീകരിക്കുന്ന സെർവർ ഇൻസ്റ്റാൾ ചെയ്യുന്നു

webhook സ്വീകരിക്കുന്ന സെർവർ പ്രവർത്തിപ്പിക്കുന്നതിന്, നിങ്ങൾക്ക് ഒരു Linux സെർവർ ആവശ്യമാണ്. ഈ ലേഖനത്തിൽ, ഒരു ഉദാഹരണമായി, ഞങ്ങൾ MCS-ൽ വിന്യസിക്കുന്ന ഒരു വെർച്വൽ ഉദാഹരണം ഉപയോഗിക്കുന്നു.

നമുക്ക് ആവശ്യമായ സോഫ്‌റ്റ്‌വെയർ ഇൻസ്റ്റാൾ ചെയ്ത് വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവർ സമാരംഭിക്കാം.

ubuntu@ubuntu-basic-1-2-10gb:~$ sudo apt-get install git
Reading package lists... Done
Building dependency tree
Reading state information... Done
The following packages were automatically installed and are no longer required:
  bc dns-root-data dnsmasq-base ebtables landscape-common liblxc-common 
liblxc1 libuv1 lxcfs lxd lxd-client python3-attr python3-automat 
python3-click python3-constantly python3-hyperlink
  python3-incremental python3-pam python3-pyasn1-modules 
python3-service-identity python3-twisted python3-twisted-bin 
python3-zope.interface uidmap xdelta3
Use 'sudo apt autoremove' to remove them.
Suggested packages:
  git-daemon-run | git-daemon-sysvinit git-doc git-el git-email git-gui 
gitk gitweb git-cvs git-mediawiki git-svn
The following NEW packages will be installed:
  git
0 upgraded, 1 newly installed, 0 to remove and 46 not upgraded.
Need to get 3915 kB of archives.
After this operation, 32.3 MB of additional disk space will be used.
Get:1 http://MS1.clouds.archive.ubuntu.com/ubuntu bionic-updates/main 
amd64 git amd64 1:2.17.1-1ubuntu0.7 [3915 kB]
Fetched 3915 kB in 1s (5639 kB/s)
Selecting previously unselected package git.
(Reading database ... 53932 files and directories currently installed.)
Preparing to unpack .../git_1%3a2.17.1-1ubuntu0.7_amd64.deb ...
Unpacking git (1:2.17.1-1ubuntu0.7) ...
Setting up git (1:2.17.1-1ubuntu0.7) ...

വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവർ ഉപയോഗിച്ച് ഫോൾഡർ ക്ലോൺ ചെയ്യുക:

ubuntu@ubuntu-basic-1-2-10gb:~$ git clone
https://github.com/RomanenkoDenys/s3-webhook.git
Cloning into 's3-webhook'...
remote: Enumerating objects: 48, done.
remote: Counting objects: 100% (48/48), done.
remote: Compressing objects: 100% (27/27), done.
remote: Total 114 (delta 20), reused 45 (delta 18), pack-reused 66
Receiving objects: 100% (114/114), 23.77 MiB | 20.25 MiB/s, done.
Resolving deltas: 100% (49/49), done.

നമുക്ക് സെർവർ ആരംഭിക്കാം:

ubuntu@ubuntu-basic-1-2-10gb:~$ cd s3-webhook/
ubuntu@ubuntu-basic-1-2-10gb:~/s3-webhook$ sudo ./s3-webhook -port 80

പ്രസിദ്ധീകരണ സേവനത്തിലേക്ക് സബ്‌സ്‌ക്രൈബ് ചെയ്യുക

നിങ്ങൾക്ക് API അല്ലെങ്കിൽ വെബ് ഇന്റർഫേസ് വഴി നിങ്ങളുടെ webhook സ്വീകരിക്കുന്ന സെർവർ രജിസ്റ്റർ ചെയ്യാം. ലാളിത്യത്തിനായി, ഞങ്ങൾ വെബ് ഇന്റർഫേസ് വഴി രജിസ്റ്റർ ചെയ്യും:

1. നമുക്ക് ബക്കറ്റ് വിഭാഗത്തിലേക്ക് പോകാം കൺട്രോൾ റൂമിൽ.
2. ഞങ്ങൾ വെബ്‌ഹുക്കുകൾ കോൺഫിഗർ ചെയ്യുന്ന ബക്കറ്റിലേക്ക് പോയി ഗിയറിൽ ക്ലിക്ക് ചെയ്യുക:

Webhooks ടാബിലേക്ക് പോയി ചേർക്കുക ക്ലിക്ക് ചെയ്യുക:

ഫീൽഡുകൾ പൂരിപ്പിക്കുക:

ഐഡി - വെബ്ഹുക്കിന്റെ പേര്.

ഇവന്റ് - ഏത് ഇവന്റുകൾ കൈമാറണം. ഫയലുകളുമായി പ്രവർത്തിക്കുമ്പോൾ സംഭവിക്കുന്ന എല്ലാ ഇവന്റുകളുടെയും സംപ്രേക്ഷണം ഞങ്ങൾ സജ്ജമാക്കി (ചേർക്കുകയും ഇല്ലാതാക്കുകയും ചെയ്യുക).

URL — webhook സ്വീകരിക്കുന്ന സെർവർ വിലാസം.

ചില നിയമങ്ങളുമായി പൊരുത്തപ്പെടുന്ന ഒബ്‌ജക്റ്റുകൾക്കായി മാത്രം വെബ്‌ഹുക്കുകൾ സൃഷ്‌ടിക്കാൻ നിങ്ങളെ അനുവദിക്കുന്ന ഒരു ഫിൽട്ടറാണ് ഫിൽട്ടർ പ്രിഫിക്‌സ്/സഫിക്‌സ്. ഉദാഹരണത്തിന്, .png വിപുലീകരണത്തോടുകൂടിയ ഫയലുകൾ മാത്രം പ്രവർത്തനക്ഷമമാക്കുന്നതിന് webhook, in ഫിൽട്ടർ പ്രത്യയം നിങ്ങൾ "png" എഴുതേണ്ടതുണ്ട്.

നിലവിൽ, വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവർ ആക്‌സസ് ചെയ്യുന്നതിന് 80, 443 പോർട്ടുകൾ മാത്രമേ പിന്തുണയ്‌ക്കുന്നുള്ളൂ.

ക്ലിക്ക് ചെയ്യാം ഹുക്ക് ചേർക്കുക ഞങ്ങൾ ഇനിപ്പറയുന്നവ കാണും:

ഹുക്ക് കൂട്ടിച്ചേർത്തു.

വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവർ അതിന്റെ ലോഗുകളിൽ ഹുക്ക് രജിസ്ട്രേഷൻ പ്രക്രിയയുടെ പുരോഗതി കാണിക്കുന്നു:

ubuntu@ubuntu-basic-1-2-10gb:~/s3-webhook$ sudo ./s3-webhook -port 80
2020/06/15 12:01:14 [POST] incoming HTTP request from 
95.163.216.92:42530
2020/06/15 12:01:14 Got timestamp: 2020-06-15T15:01:13+03:00 TopicArn: 
mcs5259999770|myfiles-ash|s3:ObjectCreated:*,s3:ObjectRemoved:* Token: 
E2itMqAMUVVZc51pUhFWSp13DoxezvRxkUh5P7LEuk1dEe9y URL: 
http://89.208.199.220/webhook
2020/06/15 12:01:14 Generate responce signature: 
3754ce36636f80dfd606c5254d64ecb2fd8d555c27962b70b4f759f32c76b66d

രജിസ്ട്രേഷൻ പൂർത്തിയായി. അടുത്ത വിഭാഗത്തിൽ, വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവറിന്റെ പ്രവർത്തനത്തിന്റെ അൽഗോരിതം ഞങ്ങൾ സൂക്ഷ്മമായി പരിശോധിക്കും.

വെബ്ഹുക്ക് സ്വീകരിക്കുന്ന സെർവറിന്റെ വിവരണം

ഞങ്ങളുടെ ഉദാഹരണത്തിൽ, സെർവർ Go- ൽ എഴുതിയിരിക്കുന്നു. അതിന്റെ പ്രവർത്തനത്തിന്റെ അടിസ്ഥാന തത്വങ്ങൾ നോക്കാം.

package main

// Generate hmac_sha256_hex
func HmacSha256hex(message string, secret string) string {
}

// Generate hmac_sha256
func HmacSha256(message string, secret string) string {
}

// Send subscription confirmation
func SubscriptionConfirmation(w http.ResponseWriter, req *http.Request, body []byte) {
}

// Send subscription confirmation
func GotRecords(w http.ResponseWriter, req *http.Request, body []byte) {
}

// Liveness probe
func Ping(w http.ResponseWriter, req *http.Request) {
    // log request
    log.Printf("[%s] incoming HTTP Ping request from %sn", req.Method, req.RemoteAddr)
    fmt.Fprintf(w, "Pongn")
}

//Webhook
func Webhook(w http.ResponseWriter, req *http.Request) {
}

func main() {

    // get command line args
    bindPort := flag.Int("port", 80, "number between 1-65535")
    bindAddr := flag.String("address", "", "ip address in dot format")
    flag.StringVar(&actionScript, "script", "", "external script to execute")
    flag.Parse()

    http.HandleFunc("/ping", Ping)
    http.HandleFunc("/webhook", Webhook)

log.Fatal(http.ListenAndServe(*bindAddr+":"+strconv.Itoa(*bindPort), nil))
}

പ്രധാന പ്രവർത്തനങ്ങൾ പരിഗണിക്കുക:

• Ping() - URL/ping വഴി പ്രതികരിക്കുന്ന ഒരു റൂട്ട്, ലൈവ്നെസ് പ്രോബിന്റെ ഏറ്റവും ലളിതമായ നടപ്പാക്കൽ.
• Webhook() - പ്രധാന റൂട്ട്, URL/webhook ഹാൻഡ്‌ലർ:
  • പ്രസിദ്ധീകരണ സേവനത്തിലെ രജിസ്ട്രേഷൻ സ്ഥിരീകരിക്കുന്നു (സബ്സ്ക്രിപ്ഷൻ സ്ഥിരീകരണ പ്രവർത്തനത്തിലേക്ക് പോകുക),
  • ഇൻകമിംഗ് വെബ്ഹൂക്കുകൾ പ്രോസസ്സ് ചെയ്യുന്നു (ഗോറെക്കോർഡ്സ് ഫംഗ്ഷൻ).
• HmacSha256, HmacSha256hex എന്നീ ഫംഗ്‌ഷനുകൾ, സിഗ്നേച്ചർ കണക്കാക്കുന്നതിനുള്ള ഹെക്‌സാഡെസിമൽ സംഖ്യകളുടെ ഒരു സ്‌ട്രിംഗായി ഔട്ട്‌പുട്ട് ഉള്ള HMAC-SHA256, HMAC-SHA256 എൻക്രിപ്ഷൻ അൽഗോരിതങ്ങളുടെ നിർവ്വഹണങ്ങളാണ്.
• പ്രധാന എന്നത് പ്രധാന പ്രവർത്തനമാണ്, കമാൻഡ് ലൈൻ പാരാമീറ്ററുകൾ പ്രോസസ്സ് ചെയ്യുകയും URL ഹാൻഡ്‌ലറുകൾ രജിസ്റ്റർ ചെയ്യുകയും ചെയ്യുന്നു.

സെർവർ അംഗീകരിച്ച കമാൻഡ് ലൈൻ പാരാമീറ്ററുകൾ:

• -port എന്നത് സെർവർ കേൾക്കുന്ന പോർട്ട് ആണ്.
• -വിലാസം - സെർവർ ശ്രദ്ധിക്കുന്ന IP വിലാസം.
• ഓരോ ഇൻകമിംഗ് ഹുക്കിനും വിളിക്കപ്പെടുന്ന ഒരു ബാഹ്യ പ്രോഗ്രാമാണ് -സ്ക്രിപ്റ്റ്.

ചില ഫംഗ്‌ഷനുകൾ നമുക്ക് സൂക്ഷ്മമായി പരിശോധിക്കാം:

//Webhook
func Webhook(w http.ResponseWriter, req *http.Request) {

    // Read body
    body, err := ioutil.ReadAll(req.Body)
    defer req.Body.Close()
    if err != nil {
        http.Error(w, err.Error(), 500)
        return
    }

    // log request
    log.Printf("[%s] incoming HTTP request from %sn", req.Method, req.RemoteAddr)
    // check if we got subscription confirmation request
    if strings.Contains(string(body), 
""Type":"SubscriptionConfirmation"") {
        SubscriptionConfirmation(w, req, body)
    } else {
        GotRecords(w, req, body)
    }

}

രജിസ്ട്രേഷൻ സ്ഥിരീകരിക്കാനുള്ള അഭ്യർത്ഥനയോ വെബ്‌ഹുക്ക് വന്നോ എന്ന് ഈ ഫംഗ്‌ഷൻ നിർണ്ണയിക്കുന്നു. ഇനിപ്പറയുന്നതിൽ നിന്ന് പ്രമാണീകരണം, രജിസ്ട്രേഷൻ സ്ഥിരീകരിച്ചാൽ, പോസ്റ്റ് അഭ്യർത്ഥനയിൽ ഇനിപ്പറയുന്ന Json ഘടന ലഭിക്കും:

POST http://test.com HTTP/1.1
x-amz-sns-messages-type: SubscriptionConfirmation
content-type: application/json

{
    "Timestamp":"2019-12-26T19:29:12+03:00",
    "Type":"SubscriptionConfirmation",
    "Message":"You have chosen to subscribe to the topic $topic. To confirm the subscription you need to response with calculated signature",
    "TopicArn":"mcs2883541269|bucketA|s3:ObjectCreated:Put",
    "SignatureVersion":1,
    "Token":«RPE5UuG94rGgBH6kHXN9FUPugFxj1hs2aUQc99btJp3E49tA»
}

ഈ ചോദ്യത്തിന് ഉത്തരം നൽകേണ്ടതുണ്ട്:

content-type: application/json

{"signature":«ea3fce4bb15c6de4fec365d36bcebbc34ccddf54616d5ca12e1972f82b6d37af»}

ഒപ്പ് ഇതായി കണക്കാക്കുന്നിടത്ത്:

signature = hmac_sha256(url, hmac_sha256(TopicArn, 
hmac_sha256(Timestamp, Token)))

ഒരു വെബ്‌ഹുക്ക് വന്നാൽ, പോസ്റ്റ് അഭ്യർത്ഥനയുടെ ഘടന ഇതുപോലെ കാണപ്പെടുന്നു:

POST <url> HTTP/1.1
x-amz-sns-messages-type: SubscriptionConfirmation

{ "Records":
    [
        {
            "s3": {
                "object": {
                    "eTag":"aed563ecafb4bcc5654c597a421547b2",
                    "sequencer":1577453615,
                    "key":"some-file-to-bucket",
                    "size":100
                },
            "configurationId":"1",
            "bucket": {
                "name": "bucketA",
                "ownerIdentity": {
                    "principalId":"mcs2883541269"}
                },
                "s3SchemaVersion":"1.0"
            },
            "eventVersion":"1.0",
            "requestParameters":{
                "sourceIPAddress":"185.6.245.156"
            },
            "userIdentity": {
                "principalId":"2407013e-cbc1-415f-9102-16fb9bd6946b"
            },
            "eventName":"s3:ObjectCreated:Put",
            "awsRegion":"ru-msk",
            "eventSource":"aws:s3",
            "responseElements": {
                "x-amz-request-id":"VGJR5rtJ"
            }
        }
    ]
}

അതനുസരിച്ച്, അഭ്യർത്ഥനയെ ആശ്രയിച്ച്, ഡാറ്റ എങ്ങനെ പ്രോസസ്സ് ചെയ്യണമെന്ന് നിങ്ങൾ മനസ്സിലാക്കേണ്ടതുണ്ട്. ഞാൻ എൻട്രി ഒരു സൂചകമായി തിരഞ്ഞെടുത്തു "Type":"SubscriptionConfirmation", ഇത് സബ്‌സ്‌ക്രിപ്‌ഷൻ സ്ഥിരീകരണ അഭ്യർത്ഥനയിൽ ഉള്ളതിനാൽ വെബ്‌ഹുക്കിൽ ഇല്ല. POST അഭ്യർത്ഥനയിലെ ഈ എൻട്രിയുടെ സാന്നിധ്യം/അഭാവത്തെ അടിസ്ഥാനമാക്കി, പ്രോഗ്രാമിന്റെ തുടർന്നുള്ള നിർവ്വഹണം ഒന്നുകിൽ ഫംഗ്ഷനിലേക്ക് പോകുന്നു SubscriptionConfirmation, അല്ലെങ്കിൽ പ്രവർത്തനത്തിലേക്ക് GotRecords.

സബ്‌സ്‌ക്രിപ്‌ഷൻ സ്ഥിരീകരണ ഫംഗ്‌ഷൻ ഞങ്ങൾ വിശദമായി പരിഗണിക്കില്ല; അതിൽ പറഞ്ഞിരിക്കുന്ന തത്വങ്ങൾക്കനുസൃതമായാണ് ഇത് നടപ്പിലാക്കുന്നത് പ്രമാണീകരണം. ഈ ഫംഗ്‌ഷന്റെ സോഴ്‌സ് കോഡ് നിങ്ങൾക്ക് ഇതിൽ കാണാനാകും പ്രോജക്റ്റ് ജിറ്റ് റിപ്പോസിറ്ററികൾ.

GotRecords ഫംഗ്‌ഷൻ ഒരു ഇൻകമിംഗ് അഭ്യർത്ഥന പാഴ്‌സ് ചെയ്യുന്നു, കൂടാതെ ഓരോ റെക്കോർഡ് ഒബ്‌ജക്റ്റിനും പരാമീറ്ററുകൾ ഉപയോഗിച്ച് ഒരു ബാഹ്യ സ്‌ക്രിപ്റ്റിനെ (-സ്ക്രിപ്റ്റ് പാരാമീറ്ററിൽ അയച്ച പേര്) വിളിക്കുന്നു:

• ബക്കറ്റ് പേര്
• ഒബ്ജക്റ്റ് കീ
• നടപടി:
  • കോപ്പി - യഥാർത്ഥ അഭ്യർത്ഥനയിലാണെങ്കിൽ EventName = ObjectCreated | PutObject | PutObjectCopy
  • ഇല്ലാതാക്കുക - യഥാർത്ഥ അഭ്യർത്ഥനയിലാണെങ്കിൽ EventName = ObjectRemoved | ഒബ്ജക്റ്റ് ഇല്ലാതാക്കുക

അങ്ങനെ, വിവരിച്ചതുപോലെ, ഒരു പോസ്റ്റ് അഭ്യർത്ഥനയുമായി ഒരു ഹുക്ക് വന്നാൽ കൂടുതൽ, കൂടാതെ -script=script.sh എന്ന പാരാമീറ്റർ തുടർന്ന് സ്ക്രിപ്റ്റിനെ ഇനിപ്പറയുന്ന രീതിയിൽ വിളിക്കും:

script.sh  bucketA some-file-to-bucket copy

ഈ വെബ്‌ഹുക്ക് സ്വീകരിക്കുന്ന സെർവർ ഒരു സമ്പൂർണ്ണ ഉൽ‌പാദന പരിഹാരമല്ല, സാധ്യമായ നടപ്പാക്കലിന്റെ ലളിതമായ ഉദാഹരണമാണെന്ന് മനസ്സിലാക്കണം.

ജോലിയുടെ ഉദാഹരണം

MCS-ലെ പ്രധാന ബക്കറ്റിൽ നിന്ന് AWS-ലെ ബാക്കപ്പ് ബക്കറ്റിലേക്ക് ഫയലുകൾ സമന്വയിപ്പിക്കാം. പ്രധാന ബക്കറ്റിനെ myfiles-ash എന്നും ബാക്കപ്പിനെ myfiles-backup എന്നും വിളിക്കുന്നു (AWS-ലെ ബക്കറ്റ് കോൺഫിഗറേഷൻ ഈ ലേഖനത്തിന്റെ പരിധിക്കപ്പുറമാണ്). അതനുസരിച്ച്, ഒരു ഫയൽ പ്രധാന ബക്കറ്റിൽ സ്ഥാപിക്കുമ്പോൾ, അതിന്റെ പകർപ്പ് ബാക്കപ്പ് ഒന്നിൽ ദൃശ്യമാകണം, പ്രധാനത്തിൽ നിന്ന് അത് ഇല്ലാതാക്കുമ്പോൾ, അത് ബാക്കപ്പ് ഒന്നിൽ ഇല്ലാതാക്കണം.

MCS ക്ലൗഡ് സംഭരണത്തിനും AWS ക്ലൗഡ് സംഭരണത്തിനും അനുയോജ്യമായ awscli യൂട്ടിലിറ്റി ഉപയോഗിച്ച് ഞങ്ങൾ ബക്കറ്റുകളിൽ പ്രവർത്തിക്കും.

ubuntu@ubuntu-basic-1-2-10gb:~$ sudo apt-get install awscli
Reading package lists... Done
Building dependency tree
Reading state information... Done
After this operation, 34.4 MB of additional disk space will be used.
Unpacking awscli (1.14.44-1ubuntu1) ...
Setting up awscli (1.14.44-1ubuntu1) ...

നമുക്ക് S3 MCS API-യിലേക്കുള്ള ആക്സസ് കോൺഫിഗർ ചെയ്യാം:

ubuntu@ubuntu-basic-1-2-10gb:~$ aws configure --profile mcs
AWS Access Key ID [None]: hdywEPtuuJTExxxxxxxxxxxxxx
AWS Secret Access Key [None]: hDz3SgxKwXoxxxxxxxxxxxxxxxxxx
Default region name [None]:
Default output format [None]:

നമുക്ക് AWS S3 API-യിലേക്കുള്ള ആക്സസ് കോൺഫിഗർ ചെയ്യാം:

ubuntu@ubuntu-basic-1-2-10gb:~$ aws configure --profile aws
AWS Access Key ID [None]: AKIAJXXXXXXXXXXXX
AWS Secret Access Key [None]: dfuerphOLQwu0CreP5Z8l5fuXXXXXXXXXXXXXXXX
Default region name [None]:
Default output format [None]:

നമുക്ക് പ്രവേശനങ്ങൾ പരിശോധിക്കാം:

AWS-ലേക്ക്:

ubuntu@ubuntu-basic-1-2-10gb:~$ aws s3 ls --profile aws
2020-07-06 08:44:11 myfiles-backup

MCS-നായി, കമാൻഡ് പ്രവർത്തിപ്പിക്കുമ്പോൾ നിങ്ങൾ ചേർക്കേണ്ടതുണ്ട് —endpoint-url:

ubuntu@ubuntu-basic-1-2-10gb:~$ aws s3 ls --profile mcs --endpoint-url 
https://hb.bizmrg.com
2020-02-04 06:38:05 databasebackups-0cdaaa6402d4424e9676c75a720afa85
2020-05-27 10:08:33 myfiles-ash

ആക്സസ് ചെയ്തു.

ഇപ്പോൾ ഇൻകമിംഗ് ഹുക്ക് പ്രോസസ്സ് ചെയ്യുന്നതിനായി നമുക്ക് ഒരു സ്ക്രിപ്റ്റ് എഴുതാം, നമുക്ക് അതിനെ s3_backup_mcs_aws.sh എന്ന് വിളിക്കാം

#!/bin/bash
# Require aws cli
# if file added — copy it to backup bucket
# if file removed — remove it from backup bucket
# Variables
ENDPOINT_MCS="https://hb.bizmrg.com"
AWSCLI_MCS=`which aws`" --endpoint-url ${ENDPOINT_MCS} --profile mcs s3"
AWSCLI_AWS=`which aws`" --profile aws s3"
BACKUP_BUCKET="myfiles-backup"

SOURCE_BUCKET=""
SOURCE_FILE=""
ACTION=""

SOURCE="s3://${SOURCE_BUCKET}/${SOURCE_FILE}"
TARGET="s3://${BACKUP_BUCKET}/${SOURCE_FILE}"
TEMP="/tmp/${SOURCE_BUCKET}/${SOURCE_FILE}"

case ${ACTION} in
    "copy")
    ${AWSCLI_MCS} cp "${SOURCE}" "${TEMP}"
    ${AWSCLI_AWS} cp "${TEMP}" "${TARGET}"
    rm ${TEMP}
    ;;

    "delete")
    ${AWSCLI_AWS} rm ${TARGET}
    ;;

    *)
    echo "Usage: 
#!/bin/bash
# Require aws cli
# if file added — copy it to backup bucket
# if file removed — remove it from backup bucket
# Variables
ENDPOINT_MCS="https://hb.bizmrg.com"
AWSCLI_MCS=`which aws`" --endpoint-url ${ENDPOINT_MCS} --profile mcs s3"
AWSCLI_AWS=`which aws`" --profile aws s3"
BACKUP_BUCKET="myfiles-backup"
SOURCE_BUCKET="${1}"
SOURCE_FILE="${2}"
ACTION="${3}"
SOURCE="s3://${SOURCE_BUCKET}/${SOURCE_FILE}"
TARGET="s3://${BACKUP_BUCKET}/${SOURCE_FILE}"
TEMP="/tmp/${SOURCE_BUCKET}/${SOURCE_FILE}"
case ${ACTION} in
"copy")
${AWSCLI_MCS} cp "${SOURCE}" "${TEMP}"
${AWSCLI_AWS} cp "${TEMP}" "${TARGET}"
rm ${TEMP}
;;
"delete")
${AWSCLI_AWS} rm ${TARGET}
;;
*)
echo "Usage: ${0} sourcebucket sourcefile copy/delete"
exit 1
;;
esac
 sourcebucket sourcefile copy/delete"
    exit 1
    ;;
esac

നമുക്ക് സെർവർ ആരംഭിക്കാം:

ubuntu@ubuntu-basic-1-2-10gb:~/s3-webhook$ sudo ./s3-webhook -port 80 -
script scripts/s3_backup_mcs_aws.sh

ഇത് എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്ന് നോക്കാം. വഴി MCS വെബ് ഇന്റർഫേസ് myfiles-ash ബക്കറ്റിലേക്ക് test.txt ഫയൽ ചേർക്കുക. webhook സെർവറിലേക്ക് ഒരു അഭ്യർത്ഥന നടത്തിയതായി കൺസോൾ ലോഗുകൾ കാണിക്കുന്നു:

2020/07/06 09:43:08 [POST] incoming HTTP request from 
95.163.216.92:56612
download: s3://myfiles-ash/test.txt to ../../../tmp/myfiles-ash/test.txt
upload: ../../../tmp/myfiles-ash/test.txt to 
s3://myfiles-backup/test.txt

AWS-ലെ myfiles-ബാക്കപ്പ് ബക്കറ്റിലെ ഉള്ളടക്കങ്ങൾ പരിശോധിക്കാം:

ubuntu@ubuntu-basic-1-2-10gb:~/s3-webhook$ aws s3 --profile aws ls 
myfiles-backup
2020-07-06 09:43:10       1104 test.txt

ഇപ്പോൾ, വെബ് ഇന്റർഫേസിലൂടെ, myfiles-ash ബക്കറ്റിൽ നിന്ന് ഞങ്ങൾ ഫയൽ ഇല്ലാതാക്കും.

സെർവർ ലോഗുകൾ:

2020/07/06 09:44:46 [POST] incoming HTTP request from 
95.163.216.92:58224
delete: s3://myfiles-backup/test.txt

ബക്കറ്റ് ഉള്ളടക്കങ്ങൾ:

ubuntu@ubuntu-basic-1-2-10gb:~/s3-webhook$ aws s3 --profile aws ls 
myfiles-backup
ubuntu@ubuntu-basic-1-2-10gb:~$

ഫയൽ ഇല്ലാതാക്കി, പ്രശ്നം പരിഹരിച്ചു.

ഉപസംഹാരവും ചെയ്യേണ്ടതും

ഈ ലേഖനത്തിൽ ഉപയോഗിച്ചിരിക്കുന്ന എല്ലാ കോഡുകളും എന്റെ ശേഖരത്തിൽ. വെബ്ഹൂക്കുകൾ രജിസ്റ്റർ ചെയ്യുന്നതിനായി സ്ക്രിപ്റ്റുകളുടെ ഉദാഹരണങ്ങളും ഒപ്പുകൾ എണ്ണുന്നതിനുള്ള ഉദാഹരണങ്ങളും ഉണ്ട്.

ഈ കോഡ് നിങ്ങളുടെ പ്രവർത്തനങ്ങളിൽ S3 വെബ്‌ഹുക്കുകൾ എങ്ങനെ ഉപയോഗിക്കാമെന്നതിന്റെ ഒരു ഉദാഹരണമല്ലാതെ മറ്റൊന്നുമല്ല. ഞാൻ തുടക്കത്തിൽ പറഞ്ഞതുപോലെ, നിർമ്മാണത്തിൽ അത്തരമൊരു സെർവർ ഉപയോഗിക്കാൻ നിങ്ങൾ ആഗ്രഹിക്കുന്നുവെങ്കിൽ, അസമന്വിത പ്രവർത്തനത്തിനായി നിങ്ങൾ കുറഞ്ഞത് സെർവർ മാറ്റിയെഴുതേണ്ടതുണ്ട്: ഇൻകമിംഗ് വെബ്‌ഹൂക്കുകൾ ഒരു ക്യൂവിൽ (RabbitMQ അല്ലെങ്കിൽ NATS) രജിസ്റ്റർ ചെയ്യുക, അവിടെ നിന്ന് അവ പാഴ്‌സ് ചെയ്ത് പ്രോസസ്സ് ചെയ്യുക. തൊഴിലാളി അപേക്ഷകൾക്കൊപ്പം. അല്ലെങ്കിൽ, വെബ്‌ഹുക്കുകൾ വൻതോതിൽ എത്തുമ്പോൾ, ടാസ്‌ക്കുകൾ പൂർത്തിയാക്കുന്നതിനുള്ള സെർവർ ഉറവിടങ്ങളുടെ അഭാവം നിങ്ങൾക്ക് നേരിടാം. ക്യൂകളുടെ സാന്നിധ്യം സെർവറും തൊഴിലാളികളും വിതരണം ചെയ്യാനും പരാജയങ്ങളുടെ കാര്യത്തിൽ ആവർത്തിച്ചുള്ള ജോലികളിലെ പ്രശ്നങ്ങൾ പരിഹരിക്കാനും നിങ്ങളെ അനുവദിക്കുന്നു. ലോഗിംഗ് കൂടുതൽ വിശദമായതും കൂടുതൽ സ്റ്റാൻഡേർഡ് ആയതുമായ ഒന്നിലേക്ക് മാറ്റുന്നതും ഉചിതമാണ്.

ഗുഡ് ലക്ക്!

വിഷയത്തെക്കുറിച്ചുള്ള കൂടുതൽ വായന:

• ഒരു ഫയൽ സിസ്റ്റമായി Mail.ru ക്ലൗഡ് സൊല്യൂഷൻസ് S3 ഒബ്ജക്റ്റ് സ്റ്റോറേജിൽ പ്രവർത്തിക്കുന്നു.
• മത്സരത്തെ തോൽപ്പിക്കാൻ ഒബ്‌ജക്റ്റ് സ്റ്റോറേജ് എങ്ങനെ ഉപയോഗിക്കുന്നു.

അവലംബം: www.habr.com