
Razvoj visoko opterećenih projekata na bilo kojem jeziku zahteva poseban pristup i korišćenje specijalnih alata, ali kada je reč o aplikacijama na PHP-u, situacija može postati toliko kompleksna da je potrebno razvijati, na primer, . U ovom članku govorićemo o uobičajenoj boli sa distribuiranim skladištenjem sesija i keširanjem podataka u memcached-u i o tome kako smo rešavali te probleme u jednom "podopćinskom" projektu.
Glavni krivac je aplikacija na PHP-u, zasnovana na framework-u symfony 2.3, čiju nadogradnju poslovni planovi nisu predvideli. Pored sasvim standardnog skladištenja sesija, u ovom projektu je u potpunosti korišćena politika „keširanja svega“ u memcached-u: odgovora na zahteve za bazom podataka i API servere, raznih zastavica, zaključavanja za sinhronizaciju izvršavanja koda i još mnogo toga. U takvoj situaciji kvar memcached-a postaje fatalan za rad aplikacije. Osim toga, gubitak keša može imati ozbiljne posledice: DBMS počinje da se raspada, API servisi — blokiraju zahteve itd. Stabizacija situacije može trajati desetine minuta, a u tom vremenu servis će se drastično usporiti ili čak postati nedostupan.
Potrebno je obezbediti mogućnost horizontalnog skaliranja aplikacije uz minimalne izmene u izvoru koda i potpuno očuvanje funkcionalnosti. Napraviti keš ne samo otporan na greške, već i pokušati smanjiti gubitke podataka iz njega.Šta nije u redu sa samim memcached-om?
U principu, proširenje memcached-a za PHP "iz kutije" podržava distribuirano skladištenje podataka i sesija. Mehanizam konzistentnog heširanja ključeva omogućava ravnomerno raspoređivanje podataka na mnogim serverima, jednoznačno adresirajući svaki konkretni ključ određenom serveru u grupi, dok ugrađeni alati za failover obezbeđuju visoku dostupnost usluge keširanja (ali, nažalost,
ne i podataka S skladištenjem sesija stvari stoje malo bolje: moguće je postaviti).
memcached.sess_number_of_replicas memcached.sess_broj_replikata, tako da će podaci biti sačuvani odmah na nekoliko servera, a u slučaju kvara jednog instanca memcached-a podaci će biti vraćeni sa drugih. Međutim, ako se server vrati u rad bez podataka (što se obično dešava nakon ponovnog pokretanja), deo ključeva će biti ponovo dodeljen u njegovu korist. U suštini, to će značiti gubitak podataka sesije, pošto ne postoji mogućnost „pristupanja“ drugoj replici u slučaju promašaja.
Standardni alati biblioteke su prvenstveno usmereni na horizontalno skaliranje: oni omogućavaju povećanje keša do ogromnih veličina i omogućavaju pristup iz koda smeštenog na različitim serverima. Međutim, u našoj situaciji volumen sačuvanih podataka ne prelazi nekoliko gigabajta, a performanse jednog ili dva čvora su sasvim dovoljne. Shodno tome, od korisnih standardnih alata mogli bi samo obezbediti dostupnost memcached-a zadržavajući barem jednu instancu keša u radnom stanju. Ipak, čak ni ovu mogućnost nismo mogli iskoristiti... Trebalo bi napomenuti starost okvira korišćenog u projektu, zbog koje nije bilo moguće da aplikacija funkcioniše sa grupom servera. Takođe ne smemo zaboraviti na gubitke podataka sesija: od masovnog odjavljivanja korisnika kod naručioca, oko očiju je došlo do trzanja.
Idealno je bila potrebna replikacija zapisa u memcached i zaobilaženje replika u slučaju promašaja ili greške. Ovu strategiju nam je pomogao da realizujemo .
mcrouter
To je ruter za memcached, kojeg je razvila kompanija Facebook kako bi rešila svoje probleme. Podržava tekstualni protokol memcached koji omogućava skaliranje instalacija memcached do beskrajnih razmera. Detaljan opis mcrouter-a možete pronaći u . Pored druge može učiniti ono što nam treba:
- repliku zapisa;
- izvršiti fallback na druge servere grupe u slučaju greške.
Hajde da počnemo!
Konfiguracija mcrouter
Preći ću odmah na konfiguraciju:
{
"pools": {
"pool00": {
"servers": [
"mc-0.mc:11211",
"mc-1.mc:11211",
"mc-2.mc:11211"
},
"pool01": {
"servers": [
"mc-1.mc:11211",
"mc-2.mc:11211",
"mc-0.mc:11211"
},
"pool02": {
"servers": [
"mc-2.mc:11211",
"mc-0.mc:11211",
"mc-1.mc:11211"
},
"route": {
"type": "OperationSelectorRoute",
"default_policy": "AllMajorityRoute|Pool|pool00",
"operation_policies": {
"get": {
"type": "RandomRoute",
"children": [
"MissFailoverRoute|Pool|pool02",
"MissFailoverRoute|Pool|pool00",
"MissFailoverRoute|Pool|pool01"
]
}
}
}
}Zašto su tri puula? Zašto se serveri ponavljaju? Hajde da razjasnimo kako to funkcioniše.
- U ovoj konfiguraciji, mcrouter bira put kojim će se poslati zahtev na osnovu tipa zahteva.
OperationSelectorRoute. - GET zahtevi idu u obradu
RandomRoute, koji nasumično bira pool ili put među objektima nizachildren. Svaki element ovog niza takođe je obradaMissFailoverRoute, koji će proći kroz svaki server u pool-u dok ne dobije odgovor sa podacima, koji će biti vraćen klijentu. - Da smo koristili isključivo
MissFailoverRoutesa pool-om od tri servera, svi zahtevi bi prvo dolazili na prvi primerak memcached-a, a ostali bi dobijali zahteve po preostalom principu, kada su podaci nedostupni. Ovakav pristup bi doveo do prekomernog opterećenja prvog servera na listi, zbog čega je odlučeno da se generišu tri pool-a sa adresama u različitim redosledima i da se biraju nasumično. - Svi ostali zahtevi (to su upisi) obrađuju se pomoću
AllMajorityRoute. Ova obrada šalje zahteve na sve servere u pool-u i čeka odgovore, od najmanje, N/2 + 1 od njih. KorišćenjaAllSyncRouteza operacije upisa moralo je biti napušteno, budući da ova metoda zahteva pozitivan odgovor od sve servera grupe — inače će vratitiSERVER_ERROR. Iako će mcrouter skladištiti podatke u dostupne kešove, pozivna PHP funkcija vratiće grešku i generisati obaveštenje.AllMajorityRoutenije toliko rigorozan i dozvoljava da se do polovine čvorova izvode iz upotrebe bez gore opisani problema.
Glavni nedostatak ove sheme je u tome što, ako podaci u kešu zaista nisu prisutni, svaki zahtev od klijenta se zapravo izvršava N zahteva ka memcached-u — ka svim serverima u pool-u. Broj servera u pool-ima se može smanjiti, na primer, na dva: žrtvovanjem pouzdanosti skladištenja, dobićemo boveću brzinu i manju opterećenost od zahteva za nedostajućim ključevima.
NB: Korisne veze za proučavanje mcrouter-a mogu takođe biti i (uključujući i zatvorene), koji predstavljaju pravi kutak raznih konfiguracija.
Izgradnja i pokretanje mcrouter-a
Aplikacija (i sam memcached) radi u Kubernetes-u — shodno tome, tu je i mesto za mcrouter. Za izgradnju kontejnera koristimo , konfiguracija za koju će izgledati ovako:
NB: Spiskovi navedeni u članku objavljeni su u repozitorijumu .
configVersion: 1
project: mcrouter
deploy:
namespace: '[[ env ]]'
helmRelease: '[[ project ]]-[[ env ]]'
---
image: mcrouter
from: ubuntu:16.04
mount:
- from: tmp_dir
to: /var/lib/apt/lists
- from: build_dir
to: /var/cache/apt
ansible:
beforeInstall:
- name: Instaliraj prethodne pakete
apt:
name: [ 'apt-transport-https', 'tzdata', 'locales' ]
update_cache: yes
- name: Dodaj mcrouter APT ključ
apt_key:
url: https://facebook.github.io/mcrouter/debrepo/xenial/PUBLIC.KEY
- name: Dodaj mcrouter Repo
apt_repository:
repo: deb https://facebook.github.io/mcrouter/debrepo/xenial xenial contrib
filename: mcrouter
update_cache: yes
- name: Podesi vremensku zonu
timezone:
name: "Europe/Moscow"
- name: Osiguraj da postoji lokalitet
locale_gen:
name: en_US.UTF-8
state: present
install:
- name: Instaliraj mcrouter
apt:
name: [ 'mcrouter' ]()
… i nagovestimo Helm-chart. Od zanimljivog — ovde je samo generator konfiguracije na osnovu broja replikata (ako neko ima sažetiji i elegantniji način — podelite u komentarima):
{{- $count := (pluck .Values.global.env .Values.memcached.replicas | first | default .Values.memcached.replicas._default | int) -}}
{{- $pools := dict -}}
{{- $servers := list -}}
{{-
/* Popunjavamo niz sa dva kopije servera: "0 1 2 0 1 2" */ -}}
{{- range until 2 -}}
{{- range $i, $_ := until $count -}}
{{- $servers = append $servers (printf "mc-%d.mc:11211" $i) -}}
{{- end -}}
{{- end -}}
{{-
/* Pomjerajući se kroz niz, dobijamo N segmenata: "[0 1 2] [1 2 0] [2 0 1]" */ -}}
{{- range $i, $_ := until $count -}}
{{- $pool := dict "servers" (slice $servers $i (add $i $count)) -}}
{{- $_ := set $pools (printf "MissFailoverRoute|Pool|poold" $i) $pool -}}
{{- end -}}
---
apiVersion: v1
kind: ConfigMap
metadata:
name: mcrouter
data:
config.json: |
{
"pools": {{- $pools | toJson | replace "MissFailoverRoute|Pool|" "" -}},
"route": {
"type": "OperationSelectorRoute",
"default_policy": "AllMajorityRoute|Pool|pool00",
"operation_policies": {
"get": {
"type": "RandomRoute",
"children": {{- keys $pools | toJson }}
}
}
}
}()
Postavljamo u testno okruženje i proveravamo:
# php -a
Interactive mode enabled
php > # Проверяем запись и чтение
php > $m = new Memcached();
php > $m->addServer('mcrouter', 11211);
php > var_dump($m->set('test', 'value'));
bool(true)
php > var_dump($m->get('test'));
string(5) "value"
php > # Работает! Тестируем работу сессий:
php > ini_set('session.save_handler', 'memcached');
php > ini_set('session.save_path', 'mcrouter:11211');
php > var_dump(session_start());
PHP Warning: Uncaught Error: Failed to create session ID: memcached (path: mcrouter:11211) in php shell code:1
Stack trace:
#0 php shell code(1): session_start()
#1 {main}
thrown in php shell code on line 1
php > # Не заводится… Попробуем задать session_id:
php > session_id("zzz");
php > var_dump(session_start());
PHP Warning: session_start(): Cannot send session cookie - headers already sent by (output started at php shell code:1) in php shell code on line 1
PHP Warning: session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning: session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning: session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning: session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning: session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning: session_start(): Failed to write session lock: UNKNOWN READ FAILURE in php shell code on line 1
PHP Warning: session_start(): Unable to clear session lock record in php shell code on line 1
PHP Warning: session_start(): Failed to read session data: memcached (path: mcrouter:11211) in php shell code on line 1
bool(false)
php >Pretraga po tekstu greške nije dala rezultate, međutim pretražujući "" u prvim redovima se nalazila najstarija otvorena pritužba projekta — binarni protokol memcached.
NB: ASCII protokol u memcached je sporiji od binarnog, a takođe, standardna sredstva za dosledno heširanje ključeva rade samo sa binarnim protokolom. Ali to ne stvara probleme za konkretan slučaj.
Slučaj je jasan: potrebno je samo prebaciti se na ASCII protokol i sve će raditi... Međutim, u ovom slučaju navika da se odgovori traže u je napravila lošu šalu. Pravi odgovor tamo nećete pronaći... ako, naravno, ne skrolujete do kraja, gde u sekciji „Napomene koje su dodali korisnici“ će biti tačan i .
Da, ispravan naziv opcije je memcached.sess_binary_protocol. Treba ga isključiti, nakon čega će sesije početi da rade. Ostaje samo da se kontejner sa mcrouterom postavi u pod sa PHP-om!
Zaključak
Dakle, samo infrastrukturne promene su nam omogućile da rešimo postavljeni zadatak: pitanje otpornosti memcached-a je rešen, pouzdanost skladištenja kesha je povećana. Pored očiglednih prednosti za aplikaciju, to je omogućilo maneuverisanje tokom radova na platformi: kada svi komponenti imaju rezervu, život administratora je znatno olakšan. Da, ova metoda ima i svoje nedostatke, može izgledati kao „podupirač“, ali ako štedi novac, skriva problem i ne izaziva nove — zašto da ne?
P.S.
Takođe pročitajte na našem blogu:
- „Praksa s dapp“ (na primeru symfony-demo): i ;
- «».
Izvor: habr.com
