Avaldame taas konverentsi ettekande kokkuvõtte HighLoad++ 2016, mis toimus Moskva oblastis Skolkovo 7–8 novembril möödunud aastal. Vladimir Protassov räägib, kuidas laiendada NGINX-i funktsionaalsust OpenResty ja Lua abil.

Tere kõigile, minu nimi on Vladimir Protassov, töötan Parallelsis. Räägin natuke endast. Oma elust kolm neljandikku olen kirjutanud koodi. Olen saanud programmi kirjutajaiks luude ja lihaste, isegi unes näen koodi. Üks neljandik elust on tööstuslik arendus, koodi kirjutamine, mis läheb otse tootmisse. Kood, mida mõned teist kasutavad, aga ei kahtlegi selles.

Ette mõistaks, kui halb see kõik oli. Kui ma olin noor algaja, tulin ma siia ja mulle anti üle kaheterabaidised andmebaasid. Nüüd on siin kõigil highload. Käisin konverentsidel ja küsisin: "Kuttid, rääkige, teil on big data, kõik on lahe? Kui palju teil seal andmebaasi on?" Nad vastasid: "Meil on 100 gigabaiti!" Ma mõtlesin: "Lahe, 100 gigabaiti!" Kuid samas mõtlesin, kuidas oma nägu mitte reeta. Arvad, et jah, poisid on ägedad, ja siis tuled tagasi ning tegeled nende mitme terabaidisete andmebaasidega. Ja see oli siis, kui olin algaja. Kas suudate ette kujutada, kui suur see šokk oli?

Ma oskan rohkem kui 20 programmeerimiskeelt. See on midagi, millega pidin töös tegelema. Sulle antakse kood Erlangis, C-s, C++-s, Luas, Pythoni, Ruby või millegi muu peal, ja siis pead sa sellega kõik hakkama saama. Kokkuvõttes tuli sellega tegeleda. Täpselt arvestada ei õnnestunud, aga number kadus kuskil 20 juurde.

Kuna kõik kohal viibijad teavad, mis on Parallels ja millega me tegeleme, ei hakka ma rääkima, kui lahedad me oleme või mida teeme. Ütlen ainult, et meil on 13 kontorit ülemaailmselt, üle 300 töötaja, arendus Moskvas, Tallinnas ja Maltal. Soovi korral võib minna ja kolida Maltale, kui talvel on külm ja on vaja sooja saada.

Konkreetne meie osakond kirjutab Python 2-ga. Me tegeleme äri küsimustega ja meil ei ole aega moetehnoloogiate rakendamiseks, seega kannatame. Meil on Django, sest see sisaldab kõike vajalikku, ning kõik liigne oleme välja visanud. Samuti MySQL, Redis ja NGINX. Meil on ka palju muid huvitavaid asju. Meil on MongoDB, meil jooksevad küülikud, meil on kõik võimalik - aga see ei ole minu valdkond ja ma ei tegele sellega.

OpenResty

Oma kohta rääkisin. Vaatame, millest ma täna räägin:

Mis on OpenResty ja milleks seda kasutatakse?
Miks leiutada veel üks ratta, kui meil on Python, NodeJS, PHP, Go ja muud vinged asjad, millega kõik rahul on?
Ja natuke elulisi näiteid. Mul tuli oma ettekannet tugevalt lühendada, sest see venis 3,5 tunniseks, seega näiteid jääb väheks.

OpenResty — see NGINX. Tänu sellele on meil täielik veebiserver, mis on hästi kirjutatud ja töötab kiiresti. Arvan, et enamus meist kasutab NGINX-i tootmisrežiimis. Te kõik teate, et see on kiire ja äge. Selles on tehtud suurepärane sünkroonne sisend/väljund, seega ei pea me midagi leiutama nagu Pythonis, kus on leiutatud gevent. Gevent on äge, tõeliselt hea, kuid kui kirjutate C koodi ja midagi läheb valesti, siis saate geventi debugeerides hulluks. Mul oli selline kogemus: võttis lausa kaks päeva, et aru saada, mis tegelikult valesti läks. Kui keegi poleks eelnevalt paar nädalat uurinud, probleemile jälile jõudnud, Internetis kirjutama hakanud ning Google ei oleks seda leidnud, siis oleksime täielikult hullu läinud.

NGINX sisaldab juba vahemälu ja staatilist sisu. Te ei pea muretsema, kuidas seda õigesti teha, et see kuskil ei viivitu ja te ei kaotaks descriptor’e. Nginx'i seadistamine on väga mugav, teil ei pea olema mures, mida valida - WSGI, PHP-FPM, Gunicorn või Unicorn. Nginx on paigaldatud, adminnid saavad temaga hakkama, nad teavad, kuidas sellega töötada. Nginx töötleb päringuid struktureeritult. Räägin sellest veidi hiljem. Lühidalt, sellel on faas, kus ta võtab vastuvaate, siis töötleb ja seejärel edastab sisu kasutajale.

Nginx on suurepärane, kuid üks probleem on: see ei ole piisavalt paindlik isegi kõigi nende lahedate funktsioonide juures, mida on konfi sisse ehitatud. Sellest võimsusest jääb puudu. Seetõttu integreerisid Taobao arendajad umbes seitse aastat tagasi sinna Lua. Mis see annab?

Suurus. See on väike. LuaJIT põhjustab umbes 100-200 kilobaiti mälu ülekulu ja minimaalset jõudluse ülekulu.
Kiirus. LuaJIT interpretator on paljuski sarnane C-le, mõnel juhul kaotab Java'le ja mõnel juhul aga juba saavutab samasuguseid tulemusi. Ühe perioodi jooksul peeti seda tipptasemel lahenduseks, parimaks JIT-kompileerijaks. Nüüd on olemas paremusi, kuid need on väga rasked, näiteks V8. Mõned JavaScripti tõlgendid ja Java HotSpot on mõnes punktis kiirem, aga teistes kohtades jäävad nad endiselt alla.
Lihtsus õppimisel. Kui teil on näiteks Perl-koodibaas ja te pole Booking, siis ei leia te Perl programmeerijaid. Sest neid pole, kõik on kadunud ja nende õpetamine võtab kaua aega. Kui soovite programmeerijaid mõnel teisel platvormil, peate neid võib-olla ka ümber õpetama või leidma. Lua puhul on kõik lihtne. Lua on igale algajale kolme päevaga selge. Mul kulus umbes kaks tundi, et aru saada. Kahe tunni pärast juba kirjutasin tootmisfailidesse. Umbes nädala pärast läks see tõeliselt tootmisse.

Tulemuseks näeb see välja nii:

Siin on palju asju. OpenResty on koondanud palju mooduleid, nii Lua mooduleid kui ka nginx mooduleid. Kõik on valmis — laadi üles ja töötab.

Näited

Piisavalt luulest, liikuge koodi juurde. Siin on väike Hello World:

Mida siit leida võib? See on NGINX'i asukoht. Me ei muretse, ei kirjuta oma marsruute, ei võta mingit valmis varianti – meil on juba NGINX'is, me elame hästi ja laiskalt.

content_by_lua_block – see on plokk, mis ütleb, et anname sisu edasi Lua-skriptiga. Võtame NGINX'i muutuja remote_addr ja sisestame selle string.format. See on sama, mis sprintf, ainult Lua's, ainult korrektne. Ja anname kliendile edasi.

Tulemuseks näeb see välja nii:

Aga naaseme reaalsesse maailma. Tooteversioonile ei tõsteta üles Hello World'i. Meie rakendus käib tavaliselt andmebaasi või mujale ja veedab suure osa ajast vastust oodates.

Lihtsalt istub ja ootab. See ei ole kõige parem. Kui tuleb 100 000 kasutajat, on meil väga raske. Seega loome näitena lihtsa rakenduse. Otsime pilte, näiteks kasse. Kuid me ei otsi lihtsalt, vaid laiendame otsingusõnu ja kui kasutaja otsib 'kutsikaid', siis leiame talle kasse, karvaseid ja muud. Esiteks peame saama taotluse andmed tagaplaanil. See näeb välja nii:

Kaks rida võimaldavad sul hõlpsasti GET-parameetreid hankida, mingeid komplikatsioone pole. Edasi saame näiteks andmebaasist võtme ja laiendi põhjal selle info tavalise SQL-päringuga. Kõik on lihtne. See näeb välja selline:

Ühendame raamatukogu resty.mysql, mis meil juba komplektis on. Me ei pea midagi installima, kõik on valmis. Näitame, kuidas ühenduda, ja teeme SQL-päringu:

Siin on natuke hirmutav, kuid kõik töötab. Siin 10 – see on piirang. Me saame 10 rekordit, oleme laisad, ei taha rohkem näidata. SQL-is unustasin ma piirangust.

Edasi otsime pilte kõigi päringute jaoks. Me kogume hulga päringuid ja täidame Lua-tabeli, mis kannab nime reqs, ja teeme ngx.location.capture_multi.

Kõik need päringud saadetakse paralleelselt, ja me saame vastused tagasi. Tööaeg on võrdsustatud kõige aeglasema vastuse ajaga. Kui kõik lähevad välja 50 millisekundi jooksul ja me saatsime sada päringut, siis saab vastus meieni 50 millisekundi jooksul.

Kuna me oleme laisad ja ei taha kirjutada HTTP töötlemist ja vahemälu, paneme NGINX-i meie eest kõike tegema. Kuidas nägite, seal oli päring url/fetch, see ongi:

Teeme lihtsa proxy_pass, me seame, kuhu vahemälu salvestada, kuidas seda teha, ja meil on kõik töötab.

Aga sellest ei piisa, me peame veel andmed kasutajale edastama. Lihtsaim mõte on kõik seriseerida JSON formaati, lihtsalt, kahel real. Edastame Content-Type, edastame JSON.

Aga on üks keerukus: kasutaja ei taha JSONi lugeda. Tuleb meelitada frontend-arendajaid. Mõnikord ei taha me seda kohe teha. Ja SEO spetsialistid ütlevad, et kui me otsime pilte, siis see ei ole nende jaoks oluline. Aga kui me anname neile mingit sisu, siis nad ütlevad, et meie otsijad ei indekseeri midagi.

Mida sellega teha? Loomulikult anname kasutajale HTMLi. Käsitsi genereerimine ei ole mugav, seega tahame kasutada malli. Selleks on olemas teek lua-resty-template.

Te olete ilmselt näinud kolme kohutavat tähte OPM. OpenResty tuleb koos oma paketihalduriga, kust saab paigaldada veel hulk erinevaid mooduleid, sealhulgas lua-resty-template. See on lihtne mallimootor, mis on sarnane Django mallidele. Seal saab kirjutada koodi ja teha muutujate asendusi.

Kokkuvõttes näeb kõik välja umbes nii:

Me kogusime andmed ja genereerisime malli taas kahe reana. Kasutaja on rahul, sai kassipojad. Kuna me laiendasime päringut, sai ta kassipoegade lisaks ka merikassi. Kes teab, võib-olla otsis ta just seda, kuid ei osanud küsida.

Kõik on suurepärane, aga me oleme ju arenduses ega soovi veel kasutajatele näidata. Teeme autentimise. Selleks vaatame, kuidas NGINX käsitleb päringut OpenResty mõistes:

Esimene faas — access, kui kasutaja alles saabus ja me vaatasime teda päiste, IP-aadressi ja muude andmete järgi. Saame kohe välja lülitada, kui ta meile ei meeldi. Seda saab kasutada autentimiseks või kui me saame väga palju päringuid, saame neid kergesti selles faasis katkestada.
rewrite. Kirjutame mõningaid päringu andmeid ümber.
content. Anname kasutajale sisu.
headers filter. Asendame vastuse päiseid. Kui oleme kasutanud proxy_pass, saame mõningaid päiseid üle kirjutada enne, kui kasutajale edastame.
body filter. Saame keha asendada.
log — logimine. Saame kirjutada logisid elasticsearchi ilma täiendava kihita.

Meie autentimise protsess näeb välja umbes nii:

Lisame selle asukohta, mille me eelnevalt kirjeldasime, ja paneme sinna järgmise koodi:

Kontrollime, kas meil on cookie token. Kui ei ole, suuname autentimisele. Kasutajad on leidlikud ja võivad aimata, et tuleb seada cookie token. Seetõttu salvestame selle ka Redis-sse:

Kood Redis-i kasutamiseks on väga lihtne ja ei erine teistest keeltest. Kõik sisend/väljastus seal ja siin ei ole blokeeriv. Kui kirjutate sünkroonselt, töötab see asünkroonselt. Umbes nagu gevent, ainult et hästi teostatud.

Teeme nüüd autentimise:

Ütleme, et meil on vaja lugeda päringu keha. Saame POST-argumendid, kontrollime, et kasutajanimi ja parool on õiged. Kui need on vale, suuname autentimisele. Kui need on õiged, salvestame tokeni Redis-sse:

Ärge unustage seada cookie-it, see tehakse ka kahe reaga:

Näide on lihtne ja teoreetiline. Me ei plaani teenust, mis näitab inimestele kasside fotosid. Kuigi kes teab. Seetõttu vaatame, mida saame tootmises teha.

Minimalistlik tagaplaan. Aeg-ajalt on meil vaja backend'ile anda vaid natuke andmeid: kuskil tuleb kuupäev sisestada, kuskil peab mingi nimekiri välja tooma, öelda, kui palju kasutajaid on praegu saidil, kinnitada loendur või statistika. Midagi niisugust. Väiksemaid tükke on väga lihtne teha. Nii saab kiiresti, lihtsalt ja suurepäraselt hakkama.
Andmete eeltöötlemine. Aeg-ajalt soovime oma leheküljele reklaami lisada, ja seda reklaami me võtame API-päringutega. Sellist on siinkohal väga lihtne teha. Me ei koorma oma backend'it, mis juba niigi raskelt töötab. Saame seda lihtsalt kokku panna. Saame luua mõningaid JS-e või vastupidi, lahti võtta, midagi eeltöötleda enne, kui kasutajale edastame.
Mikroteenuse fassaad. See on samuti väga hea juhtum, mille ma ise ellu viisin. Enne seda töötasin firmas Tenzor, mis tegeleb elektroonilise arvestuse ja tagab aruandluse umbes poolele juriidilistele isikutele riigis. Meie lõime teenuse, kus selle sama mehhanismi abil on tehtud palju asju: marsruutimine, autoriseerimine ja muu.
OpenResty on ideaalne liim teie mikroteenuste jaoks, pakkudes ühtset juurdepääsu ja liidest. Kuna mikroteenused võivad olla kirjutatud erinevates keeltes, nagu Node.js, PHP, Python ja isegi Erlang, soovime vältida koodi korduvat kirjutamist erinevates kohtades. Seetõttu saab OpenResty paigutada esiküljele.
Statistika ja analüütika. Üldiselt töötab NGINX sisendisse, ja kõik päringud lähevad selle kaudu. Just siin on mugav kokku koguda. Saame kohe midagi arvutada ja saata näiteks Elasticsearchi, Logstashi või lihtsalt salvestada logisse ja hiljem mujale edastada.
Mitme kasutaja süsteemid. Näiteks online-mängude loomine on samuti väga tõhus. Täna Cape Townis räägib Alexander Gladish, kuidas kiiresti prototüüpida mitme kasutajaga mängu OpenRestyi abil.
Päringute filtreerimine (WAF). Praegu on moes kasutada erinevaid veebirakenduste tulemüüre, neid pakuvad mitmed teenused. OpenResty abil saate luua enda veebirakenduste tulemüüri, mis filtreerib päringud teie nõudmiste järgi lihtsalt ja mugavalt. Kui teil on Python, siis mõistate, et PHP ei saa kindlasti manustada, kui te seda konsoolis kuskil ei esitata. Te teate, et teil on MySQL ja Python. Tõenäoliselt võidakse siin proovida mõnda katalogiüleminekut ja midagi andmebaasi manustada. Seetõttu saab kahtlased päringud kiiresti ja odavalt filtreerida otse eesliinil.
Ühendus. Kuna OpenResty põhineb NGINX-il, siis on tal eelis — see NGINX-i kogukond. See on väga suur ning suurem osa küsimusi, mis võivad teil alguses tekkida, on juba NGINX-i kogukonna poolt lahendatud.
Lua-arendajad. Eile rääkisin kolleegidega, kes osalesid HighLoad++ õppepäeval, ja kuulsin, et ainult Tarantool on kirjutatud Lua-s. See ei ole tõsi, Lua-s on palju rohkem asju. Näiteks: OpenResty, XMPP-server Prosody, mängumootor Love2D, Lua scriptide kirjutamine Warcraftis ja mujal. Lua arendajaid on palju, nende kogukond on suur ja abivalmis. Kõik mu küsimused Lua kohta lahendati mõne tunni jooksul. Kui kirjutan postitusloendisse, saab juba mõne minutiga hulgaliselt vastuseid, kus seletatakse, mis ja kuidas. See on tõeliselt suur asi. Kahjuks ei ole igal pool nii sooja ja avatud kogukonda.
OpenResty kohta on GitHub, seal saab avada issue, kui midagi katki läheb. On olemas postitusloend Google Groups'is, kus saab arutada üldisi küsimusi, ja on ka hiinakeelne postitusloend — võib-olla ei valda te inglise keelt, aga hiina keel on tuttav.

Kokkuvõte

Loodan, et suutsin edastada, et OpenResty on väga mugav raamistik, mis on loodud veebi jaoks.
Sellel on madal sissejuhatuse künnis, kuna kood sarnaneb sellega, millega me kirjutame, keel on üsna lihtne ja minimalistik.
See pakub asünkroonset I/O ilma callback'ideta, meil ei ole hõlpu, nagu me mõnikord kirjutame NodeJS-is.
Tegutseme kiiresti, kuna vajame ainult NGINX-i koos vajaliku mooduliga ja meie koodi ning kõik töötab kohe.
Suur ja aktiivne kogukond.

Ma ei ole üksikasjalikult selgitanud, kuidas marsruutimine toimub; see osutus liiga pikaks jutuks.

Aitäh tähelepanu eest!