Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Il-konferenza Habr mhix storja ta’ debutt. Preċedentement, għamilna avvenimenti ta 'Toaster pjuttost kbar għal 300-400 persuna, iżda issa ddeċidejna li laqgħat tematiċi żgħar ikunu rilevanti, li d-direzzjoni tagħhom tista' tissettja, pereżempju, fil-kummenti. L-ewwel konferenza ta 'dan il-format saret f'Lulju u kienet iddedikata għall-iżvilupp backend. Il-parteċipanti semgħu rapporti dwar il-karatteristiċi tat-tranżizzjoni mill-backend għal ML u dwar id-disinn tas-servizz Quadrupel fuq il-portal tas-Servizzi tal-Istat, u ħadu sehem ukoll f'round table ddedikata għal Serverless. Għal dawk li ma setgħux jattendu l-avveniment personalment, f’din il-post ngħidulkom l-aktar affarijiet interessanti.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Mill-iżvilupp backend għal tagħlim bil-magni

X'jagħmlu l-inġiniera tad-dejta fl-ML? Kif huma simili u differenti l-kompiti ta' żviluppatur backend u inġinier ML? X'triq trid tieħu biex tibdel l-ewwel professjoni tiegħek għat-tieni tiegħek? Dan qalu Alexander Parinov, li daħal fit-tagħlim tal-magni wara 10 snin ta 'xogħol backend.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju
Alexander Parinov

Illum Alexander jaħdem bħala perit tas-sistemi tal-viżjoni tal-kompjuter f'X5 Retail Group u jikkontribwixxi għal proġetti Open Source relatati mal-viżjoni tal-kompjuter u t-tagħlim fil-fond (github.com/creafz). Il-ħiliet tiegħu huma kkonfermati mill-parteċipazzjoni tiegħu fl-aqwa 100 tal-klassifika dinjija ta 'Kaggle Master (kaggle.com/creafz), l-aktar pjattaforma popolari għall-kompetizzjonijiet tat-tagħlim tal-magni.

Għaliex taqleb għal tagħlim bil-magni

Sena u nofs ilu, Jeff Dean, kap ta 'Google Brain, il-proġett ta' riċerka ta 'l-intelliġenza artifiċjali bbażat fuq it-tagħlim profond ta' Google, iddeskriva kif nofs miljun linja ta 'kodiċi f'Google Translate ġew sostitwiti minn netwerk newrali Tensor Flow li jikkonsisti minn 500 linja biss. Wara li tħarreġ in-netwerk, il-kwalità tad-dejta żdiedet u l-infrastruttura saret aktar sempliċi. Jidher li dan huwa l-futur sabiħ tagħna: m'għadniex għalfejn niktbu kodiċi, huwa biżżejjed li nagħmlu newroni u nimlewhom bid-dejta. Iżda fil-prattika kollox huwa ħafna aktar ikkumplikat.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuInfrastruttura ML fuq Google

In-netwerks newrali huma biss parti żgħira mill-infrastruttura (il-kwadru iswed żgħir fl-istampa ta 'hawn fuq). Ħafna aktar sistemi awżiljarji huma meħtieġa biex jirċievu data, jipproċessawha, jaħżnuha, jiċċekkjaw il-kwalità, eċċ., Neħtieġu infrastruttura għat-taħriġ, l-iskjerament tal-kodiċi tat-tagħlim tal-magni fil-produzzjoni, u l-ittestjar ta 'dan il-kodiċi. Dawn il-kompiti kollha huma eżattament simili għal dak li jagħmlu l-iżviluppaturi backend.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuProċess ta' tagħlim bil-magni

X'inhi d-differenza bejn ML u backend?

Fl-ipprogrammar klassiku, niktbu kodiċi u dan jiddetta l-imġieba tal-programm. Fl-ML, għandna kodiċi ta 'mudell żgħir u ħafna dejta li narmi fuq il-mudell. Id-dejta fl-ML hija importanti ħafna: l-istess mudell imħarreġ fuq dejta differenti jista 'juri riżultati kompletament differenti. Il-problema hija li d-data hija kważi dejjem imxerrda u maħżuna f'sistemi differenti (databases relazzjonali, databases NoSQL, zkuk, fajls).

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuVerżjoni tad-dejta

ML jeħtieġ verżjonijiet mhux biss il-kodiċi, bħal fl-iżvilupp klassiku, iżda wkoll id-dejta: huwa meħtieġ li wieħed jifhem b'mod ċar fuq xiex ġie mħarreġ il-mudell. Biex tagħmel dan, tista' tuża l-librerija popolari tal-Kontroll tal-Verżjoni tad-Data Science (dvc.org).

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju
Markup tad-dejta

Il-kompitu li jmiss huwa l-ittikkettar tad-dejta. Pereżempju, immarka l-oġġetti kollha fl-istampa jew għid għal liema klassi jappartjeni. Dan isir minn servizzi speċjali bħal Yandex.Toloka, li x-xogħol tiegħu huwa ssimplifikat ħafna bil-preżenza ta 'API. Jqumu diffikultajiet minħabba l-"fattur uman": tista 'ttejjeb il-kwalità tad-dejta u tnaqqas l-iżbalji għall-minimu billi tafda l-istess kompitu lil diversi artisti.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuViżwalizzazzjoni fil-Bord tat-Tensor

L-illoggjar tal-esperimenti huwa meħtieġ biex jitqabblu r-riżultati u tagħżel l-aħjar mudell ibbażat fuq xi metriċi. Hemm sett kbir ta 'għodod għall-viżwalizzazzjoni - per eżempju, Tensor Board. Iżda m'hemm l-ebda modi ideali biex taħżen l-esperimenti. Kumpaniji żgħar ħafna drabi jagħmlu tajjeb ma 'spreadsheet Excel, filwaqt li dawk kbar jużaw pjattaformi speċjali biex jaħżnu r-riżultati f'database.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuHemm ħafna pjattaformi għat-tagħlim tal-magni, iżda l-ebda waħda minnhom ma tkopri 70% tal-ħtiġijiet

L-ewwel problema li wieħed irid jiffaċċja meta jqiegħed mudell imħarreġ fil-produzzjoni hija relatata mal-għodda favorita tax-xjenzati tad-dejta - Jupyter Notebook. M'hemm l-ebda modularità fiha, jiġifieri, l-output huwa tali "ċapċa" ta 'kodiċi li mhix maqsuma f'biċċiet loġiċi - moduli. Kollox huwa mħallat: klassijiet, funzjonijiet, konfigurazzjonijiet, eċċ. Dan il-kodiċi huwa diffiċli biex jiġi verżjoni u ttestjat.

Kif tittratta dan? Tista' tirriżenja lilek innifsek, bħal Netflix, u toħloq il-pjattaforma tiegħek stess li tippermettilek tniedi dawn il-laptops direttament fil-produzzjoni, tittrasferixxi d-dejta lilhom bħala input u tikseb riżultati. Tista' ġġiegħel lill-iżviluppaturi li qed imexxu l-mudell fil-produzzjoni biex jerġgħu jiktbu l-kodiċi b'mod normali, ikissruh f'moduli. Iżda b'dan l-approċċ huwa faċli li tagħmel żball, u l-mudell mhux se jaħdem kif maħsub. Għalhekk, l-għażla ideali hija li tipprojbixxi l-użu ta 'Jupyter Notebook għall-kodiċi tal-mudell. Jekk, ovvjament, ix-xjentisti tad-dejta jaqblu ma 'dan.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuMudell bħala kaxxa sewda

L-eħfef mod biex mudell jidħol fil-produzzjoni huwa li tużah bħala kaxxa sewda. Għandek xi tip ta 'klassi ta' mudell, ingħatajt il-piżijiet tal-mudell (parametri tan-newroni tan-netwerk imħarreġ), u jekk inizjalizza din il-klassi (sejħa tal-metodu ta 'tbassir, għalfha stampa), ikollok ċertu tbassir bħala output. Dak li jiġri ġewwa ma jimpurtax.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju
Proċess separat tas-server bil-mudell

Tista 'wkoll tqajjem ċertu proċess separat u tibgħatha permezz ta' kju RPC (bi stampi jew dejta sors oħra. Fl-output aħna nirċievu tbassir.

Eżempju ta' kif tuża mudell f'Flask:

@app.route("/predict", methods=["POST"])
def predict():
image = flask.request.files["image"].read()
image = preprocess_image(image)
predictions = model.predict(image)
return jsonify_prediction(predictions)

Il-problema b'dan l-approċċ hija l-limitazzjoni tal-prestazzjoni. Ejja ngħidu li għandna kodiċi Phyton miktub minn xjentisti tad-dejta li huwa bil-mod, u rridu nagħfas il-prestazzjoni massima. Biex tagħmel dan, tista 'tuża għodod li jikkonvertu l-kodiċi f'indiġeni jew jaqilbuh f'qafas ieħor imfassal għall-produzzjoni. Hemm għodod bħal dawn għal kull qafas, iżda m'hemm l-ebda waħda ideali; ikollok iżżidhom lilek innifsek.

L-infrastruttura fl-ML hija l-istess bħal f'backend regolari. Hemm Docker u Kubernetes, għal Docker biss għandek bżonn tinstalla runtime minn NVIDIA, li jippermetti proċessi ġewwa l-kontenitur biex jaċċessaw karti tal-vidjow fl-ospitant. Kubernetes jeħtieġ plugin sabiex ikun jista 'jamministra servers b'kards tal-vidjo.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

B'differenza mill-ipprogrammar klassiku, fil-każ ta 'ML hemm ħafna elementi differenti li jiċċaqilqu fl-infrastruttura li jeħtieġ li jiġu ċċekkjati u ttestjati - pereżempju, kodiċi tal-ipproċessar tad-dejta, pipeline ta' taħriġ mudell u produzzjoni (ara d-dijagramma hawn fuq). Huwa importanti li jiġi ttestjat il-kodiċi li jgħaqqad biċċiet differenti ta 'pipelines: hemm ħafna biċċiet, u ħafna drabi jinqalgħu problemi fil-konfini tal-moduli.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju
Kif jaħdem l-AutoML

Is-servizzi AutoML iwiegħdu li jagħżlu l-aħjar mudell għall-iskopijiet tiegħek u jħarrġuh. Imma trid tifhem: id-dejta hija importanti ħafna fl-ML, ir-riżultat jiddependi fuq il-preparazzjoni tagħha. Il-markup isir min-nies, li huwa mimli żbalji. Mingħajr kontroll strett, ir-riżultat jista 'jkun żibel, u għadu mhux possibbli li jiġi awtomatizzat il-proċess; verifika minn speċjalisti - xjenzati tad-dejta - hija meħtieġa. Dan huwa fejn AutoML tkisser. Iżda jista 'jkun utli għall-għażla ta' arkitettura - meta tkun diġà ppreparat id-dejta u trid tmexxi sensiela ta 'esperimenti biex issib l-aħjar mudell.

Kif tidħol fit-tagħlim tal-magni

L-eħfef mod biex tidħol fl-ML huwa jekk tiżviluppa f'Python, li jintuża fl-oqfsa kollha ta 'tagħlim profond (u oqfsa regolari). Din il-lingwa hija prattikament obbligatorja għal dan il-qasam ta' attività. C++ jintuża għal xi kompiti ta' viżjoni bil-kompjuter, pereżempju, f'sistemi ta' kontroll għal karozzi li jsuqu waħedhom. JavaScript u Shell - għall-viżwalizzazzjoni u affarijiet strambi bħal tħaddim ta 'newron fil-browser. Java u Scala jintużaw meta jaħdmu mal-Big Data u għat-tagħlim tal-magni. R u Julia huma maħbubin minn nies li jistudjaw l-istatistika matematika.

L-aktar mod konvenjenti biex tibda tikseb esperjenza prattika hija fuq Kaggle; il-parteċipazzjoni f'waħda mill-kompetizzjonijiet tal-pjattaforma tagħti aktar minn sena ta 'studju tat-teorija. Fuq din il-pjattaforma tista' tieħu l-kodiċi stazzjonat u kkummentat ta' xi ħadd ieħor u tipprova ttejjeb, ottimizzah għall-iskopijiet tiegħek. Bonus - il-grad Kaggle tiegħek jaffettwa s-salarju tiegħek.

Għażla oħra hija li tingħaqad mat-tim ML bħala żviluppatur backend. Hemm ħafna startups tat-tagħlim tal-magni fejn tista’ tikseb esperjenza billi tgħin lill-kollegi tiegħek isolvu l-problemi tagħhom. Fl-aħħarnett, tista' tingħaqad ma' waħda mill-komunitajiet ta' xjenzati tad-dejta - Open Data Science (ods.ai) u oħrajn.

Il-kelliem poġġa informazzjoni addizzjonali dwar is-suġġett fil-link https://bit.ly/backend-to-ml

"Quadrupel" - servizz ta 'notifiki mmirati tal-portal "Servizzi tal-Istat"

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuEvgeny Smirnov

Il-kelliem li jmiss kien il-kap tad-dipartiment tal-iżvilupp tal-infrastruttura tal-gvern elettroniku, Evgeny Smirnov, li tkellem dwar Quadruple. Dan huwa servizz ta' notifika mmirat għall-portal ta' Gosuslugi (gosuslugi.ru), ir-riżorsa tal-gvern l-aktar miżjura fuq ir-Runet. L-udjenza ta 'kuljum hija 2,6 miljun, b'kollox hemm 90 miljun utent reġistrat fuq is-sit, li minnhom 60 miljun huma kkonfermati. It-tagħbija fuq il-portal API hija 30 elf RPS.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuTeknoloġiji użati fil-backend tas-Servizzi tal-Istat

“Quadrupel” huwa servizz ta’ notifika mmirat, li bl-għajnuna tiegħu l-utent jirċievi offerta għal servizz fl-iktar mument adattat għalih billi jistabbilixxi regoli speċjali ta’ notifika. Ir-rekwiżiti ewlenin meta jiġi żviluppat is-servizz kienu settings flessibbli u ħin adegwat għall-posta.

Kif jaħdem Quadrupel?

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Id-dijagramma ta 'hawn fuq turi waħda mir-regoli tat-tħaddim tal-Quadrupel bl-użu ta' eżempju ta 'sitwazzjoni bil-ħtieġa li tissostitwixxi liċenzja tas-sewwieq. L-ewwel, is-servizz ifittex utenti li d-data ta 'skadenza tagħhom tiskadi f'xahar. Dawn jintwerew banner b'offerta biex jirċievu s-servizz xieraq u jintbagħat messaġġ bl-email. Għal dawk l-utenti li l-iskadenza tagħhom diġà skadiet, il-banner u l-email jinbidlu. Wara skambju ta 'drittijiet b'suċċess, l-utent jirċievi notifiki oħra - bi proposta biex taġġorna d-dejta fl-identità.

Mil-lat tekniku, dawn huma skripts groovy li fihom jinkiteb il-kodiċi. L-input huwa data, l-output huwa veru/falz, imqabbel/ma qabbilx. Hemm aktar minn 50 regola b'kollox - mid-determinazzjoni ta 'għeluq snin l-utent (id-data attwali hija ugwali għad-data tat-twelid tal-utent) sa sitwazzjonijiet kumplessi. Kuljum, dawn ir-regoli jidentifikaw madwar miljun partita—nies li għandhom bżonn jiġu notifikati.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ LuljuKanal ta' notifika Quadrupel

Taħt il-kappa ta' Quadrupel hemm database li fiha tinħażen id-dejta tal-utent, u tliet applikazzjonijiet: 

  • Ħaddiem maħsuba għall-aġġornament tad-data.
  • Rest API jiġbor u jwassal il-banners infushom lill-portal u lill-applikazzjoni mobbli.
  • skedar iniedi ħidma fuq il-kalkolu mill-ġdid ta’ banners jew mailings tal-massa.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Biex taġġorna d-dejta, il-backend huwa mmexxi mill-avvenimenti. Żewġ interfaces - mistrieħ jew JMS. Hemm ħafna avvenimenti; qabel ma jiġu salvati u pproċessati, huma aggregati sabiex ma jsirux talbiet bla bżonn. Id-database nnifisha, it-tabella li fiha tinħażen id-dejta, tidher qisha maħżen tal-valur ewlieni - iċ-ċavetta tal-utent u l-valur innifsu: bnadar li jindikaw il-preżenza jew in-nuqqas ta’ dokumenti rilevanti, il-perjodu ta’ validità tagħhom, statistika aggregata dwar l-ordni tas-servizzi minn dan l-utent, eċċ.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Wara li tissejvja d-dejta, jiġi stabbilit kompitu f'JMS sabiex il-banners jiġu kkalkulati mill-ġdid immedjatament - dan għandu jintwera immedjatament fuq il-web. Is-sistema tibda bil-lejl: il-kompiti jintefgħu f'JMS f'intervalli tal-utent, skont liema r-regoli jeħtieġ li jerġgħu jiġu kkalkulati. Dan jinġabar mill-proċessuri involuti fil-kalkolu mill-ġdid. Sussegwentement, ir-riżultati tal-ipproċessar imorru għall-kju li jmiss, li jew jiffranka l-banners fid-database jew jibgħat kompiti ta 'notifika tal-utent lis-servizz. Il-proċess jieħu 5-7 sigħat, huwa faċilment skalabbli minħabba l-fatt li inti tista 'dejjem jew iżżid handlers jew tqajjem każijiet ma handlers ġodda.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Is-servizz jaħdem pjuttost tajjeb. Iżda l-volum tad-dejta qed jikber hekk kif hemm aktar utenti. Dan iwassal għal żieda fit-tagħbija fuq id-database - anke meta jitqies il-fatt li l-API Rest iħares lejn ir-replika. It-tieni punt huwa JMS, li, kif irriżulta, mhuwiex adattat ħafna minħabba l-konsum għoli ta 'memorja tiegħu. Hemm riskju għoli ta' overflow tal-kju li jikkawża li JMS jikkraxxja u jieqaf l-ipproċessar. Huwa impossibbli li jgħollu JMS wara dan mingħajr ma jitneħħew iz-zkuk.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Huwa ppjanat li ssolvi l-problemi bl-użu ta 'sharding, li se jippermetti l-ibbilanċjar tat-tagħbija fuq id-database. Hemm ukoll pjanijiet biex tinbidel l-iskema tal-ħażna tad-dejta, u tinbidel JMS għal Kafka - soluzzjoni aktar tolleranti għall-ħsarat li se ssolvi l-problemi tal-memorja.

Backend-as-a-Service Vs. Serverless

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju
Mix-xellug għal-lemin: Alexander Borgart, Andrey Tomilenko, Nikolay Markov, Ara Israelyan

Backend bħala servizz jew soluzzjoni Serverless? Il-parteċipanti fid-diskussjoni ta’ din il-kwistjoni urġenti waqt round table kienu:

  • Ara Israelyan, CTO CTO u fundatur ta' Scorocode.
  • Nikolay Markov, Inġinier Anzjan tad-Data fil-Grupp ta’ Riċerka Allinjat.
  • Andrey Tomilenko, kap tad-dipartiment tal-iżvilupp RUVDS. 

Il-konversazzjoni kienet immexxija mill-iżviluppatur anzjan Alexander Borgart. Nippreżentaw id-dibattiti li fihom ipparteċipaw ukoll is-semmiegħa f’verżjoni mqassra.

— X'inhu Serverless fil-fehma tiegħek?

Andrew: Dan huwa mudell tal-kompjuter - funzjoni Lambda li trid tipproċessa d-dejta sabiex ir-riżultat jiddependi biss fuq id-dejta. It-terminu ġie jew minn Google jew minn Amazon u s-servizz AWS Lambda tagħha. Huwa aktar faċli għal fornitur li jimmaniġġja funzjoni bħal din billi jalloka ġabra ta' kapaċità għaliha. Utenti differenti jistgħu jiġu kkunsidrati b'mod indipendenti fuq l-istess servers.
Nicholas: Fi kliem sempliċi, qed nittrasferixxu xi parti mill-infrastruttura tal-IT tagħna u l-loġika tan-negozju għall-cloud, għall-esternalizzazzjoni.
Macaw: Min-naħa tal-iżviluppaturi - tentattiv tajjeb biex jiffrankaw ir-riżorsi, min-naħa tal-kummerċjanti - biex jaqilgħu aktar flus.

— Serverless huwa l-istess bħall-mikroservizzi?

Nicholas: Le, Serverless hija aktar organizzazzjoni ta 'arkitettura. Mikroservizz huwa unità atomika ta 'xi loġika. Serverless huwa approċċ, mhux "entità separata."
Macaw: Funzjoni Serverless tista' tiġi ppakkjata f'mikroservizz, iżda dan mhux se jibqa' Serverless, ma jibqax funzjoni Lambda. F'Serverless, funzjoni tibda taħdem biss fil-mument li tintalab.
Andrew: Huma differenti fil-ħajja tagħhom. Nedejna l-funzjoni Lambda u nsejtha. Ħadem għal ftit sekondi, u l-klijent li jmiss jista 'jipproċessa t-talba tiegħu fuq magna fiżika oħra.

— Liema tiskali aħjar?

Macaw: Meta jiġu skalati orizzontalment, il-funzjonijiet Lambda jaġixxu eżattament l-istess bħall-mikroservizzi.
Nicholas: Ikun xi jkun in-numru ta' repliki li ssettja, se jkun hemm daqstant minnhom; Serverless m'għandu l-ebda problema bl-iskala. Għamilt replika sett f'Kubernetes, nediet 20 każ "x'imkien", u 20 link anonimu ġew ritornati lilek. Quddiem!

— Huwa possibbli li tikteb backend fuq Serverless?

Andrew: Teoretikament, iżda ma jagħmilx sens. Il-funzjonijiet lambda se jiddependu fuq repożitorju wieħed - jeħtieġ li niżguraw garanzija. Pereżempju, jekk utent ikun wettaq ċerta transazzjoni, allura l-ħin li jmiss li jikkuntattja għandu jara: it-tranżazzjoni tkun saret, il-fondi ġew ikkreditati. Il-funzjonijiet kollha Lambda se jimblokkaw fuq din is-sejħa. Fil-fatt, mazz ta 'funzjonijiet Serverless se jinbidlu f'servizz wieħed b'punt ta' aċċess wieħed ta 'konġestjoni għad-database.

— F'liema sitwazzjonijiet jagħmel sens li tuża arkitettura mingħajr server?

Andrew: Kompiti li ma jeħtiġux ħażna kondiviża - l-istess minjieri, blockchain. Fejn trid tagħmel ħafna għadd. Jekk għandek ħafna qawwa tal-kompjuters, allura tista 'tiddefinixxi funzjoni bħal "ikkalkula l-hash ta' xi ħaġa hemmhekk..." Imma tista 'ssolvi l-problema bil-ħażna tad-dejta billi tieħu, pereżempju, funzjonijiet Lambda mill-Amazon u l-ħażna mqassma tagħhom . U jirriżulta li qed tikteb servizz regolari. Il-funzjonijiet lambda se jaċċessaw il-ħażna u jipprovdu xi tip ta 'rispons lill-utent.
Nicholas: Kontenituri li jaħdmu f'Serverless huma estremament limitati fir-riżorsi. Ftit hemm memorja u kull ħaġa oħra. Imma jekk l-infrastruttura kollha tiegħek hija skjerata kompletament fuq xi cloud - Google, Amazon - u għandek kuntratt permanenti magħhom, hemm baġit għal dan kollu, allura għal xi kompiti tista 'tuża kontenituri Serverless. Huwa meħtieġ li tkun ġewwa din l-infrastruttura, għaliex kollox huwa mfassal għall-użu f'ambjent speċifiku. Jiġifieri, jekk inti lest li torbot kollox mal-infrastruttura tal-cloud, tista 'tesperimenta. Il-vantaġġ huwa li m'għandekx għalfejn tmexxi din l-infrastruttura.
Macaw: Il-fatt li Serverless ma jeħtieġx li inti timmaniġġja Kubernetes, Docker, tinstalla Kafka, eċċ huwa awto-qerq. L-istess Amazon u Google qed jinstallaw dan. Ħaġa oħra hija li għandek SLA. Inti tista 'ukoll jesternalizzaw kollox aktar milli tikkodifika lilek innifsek.
Andrew: Serverless innifsu huwa rħas, iżda trid tħallas ħafna għal servizzi oħra tal-Amazon - pereżempju, id-database. In-nies diġà ħarrkuhom minħabba li ċċarġjaw ammonti ta 'flus miġnun għall-bieb tal-API.
Macaw: Jekk nitkellmu dwar il-flus, allura trid tqis dan il-punt: ser ikollok iddawwar il-metodoloġija ta 'żvilupp kollu fil-kumpanija 180 grad sabiex tittrasferixxi l-kodiċi kollu lil Serverless. Dan se jieħu ħafna ħin u flus.

— Hemm xi alternattivi denji għal Serverless imħallas minn Amazon u Google?

Nicholas: F'Kubernetes, tniedi xi tip ta 'xogħol, taħdem u tmut - dan huwa pjuttost Serverless mil-lat arkitettoniku. Jekk trid toħloq loġika tan-negozju tassew interessanti bi kjuwijiet u databases, allura trid taħseb ftit aktar dwarha. Dan kollu jista' jiġi solvut mingħajr ma jitlaq minn Kubernetes. Ma niddejjaqx inkaxkar implimentazzjoni addizzjonali.

— Kemm hu importanti li tissorvelja dak li qed jiġri f'Serverless?

Macaw: Jiddependi fuq l-arkitettura tas-sistema u r-rekwiżiti tan-negozju. Essenzjalment, il-fornitur għandu jipprovdi rappurtar li jgħin lit-tim tad-devops jifhem il-problemi possibbli.
Nicholas: Amazon għandha CloudWatch, fejn ir-zkuk kollha huma streamed, inklużi dawk minn Lambda. Integraw it-trażmissjoni ta 'log u uża għodda separata għall-wiri, twissija, eċċ. Tista' tpoġġi l-aġenti fil-kontenituri li tibda.

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

- Ejja niġbruha fil-qosor.

Andrew: Il-ħsieb dwar il-funzjonijiet Lambda huwa utli. Jekk toħloq servizz waħdek - mhux mikroservizz, iżda wieħed li jikteb talba, jaċċessa d-database u jibgħat rispons - il-funzjoni Lambda issolvi numru ta 'problemi: b'multithreading, skalabbiltà, eċċ. Jekk il-loġika tiegħek hija mibnija b'dan il-mod, allura fil-futur tkun tista 'tittrasferixxi dawn il-Lambdas għal mikroservizzi jew tuża servizzi ta' partijiet terzi bħall-Amazon. It-teknoloġija hija utli, l-idea hija interessanti. Kemm hu ġustifikat għan-negozju għadha mistoqsija miftuħa.
Nikolay: Serverless jintuża aħjar għall-kompiti ta 'operazzjoni milli għall-kalkolu ta' xi loġika tan-negozju. Jien dejjem naħseb li bħala ipproċessar ta 'avveniment. Jekk għandek fl-Amazon, jekk int f'Kubernetes, iva. Inkella, ikollok tagħmel sforz mhux ħażin biex tibda taħdem u taħdem mingħajr Serverless waħdek. Huwa meħtieġ li wieħed iħares lejn każ tan-negozju speċifiku. Pereżempju, wieħed mill-kompiti tiegħi issa huwa: meta l-fajls jidhru fuq disk f'ċertu format, għandi bżonn intellagħhom fuq Kafka. Kapaċi nuża WatchDog jew Lambda. Mil-lat loġiku, iż-żewġ għażliet huma adattati, iżda f'termini ta 'implimentazzjoni, Serverless huwa aktar ikkumplikat, u nippreferi l-mod aktar sempliċi, mingħajr Lambda.
Macaw: Serverless hija idea interessanti, applikabbli, u teknikament sabiħa ħafna. Illum jew għada, it-teknoloġija se tilħaq il-punt fejn kwalunkwe funzjoni tkun imnedija f'inqas minn 100 millisekondi. Imbagħad, fil-prinċipju, mhux se jkun hemm kwistjoni dwar jekk il-ħin ta 'stennija huwiex kritiku għall-utent. Fl-istess ħin, l-applikabilità ta 'Serverless, kif diġà qalu l-kollegi, tiddependi kompletament fuq il-problema tan-negozju.

Nirringrazzjaw lill-isponsors tagħna li għenuna ħafna:

  • Spazju tal-konferenzi tal-IT «Rebbiegħa» għas-sit tal-konferenza.
  • Kalendarju tal-avvenimenti tal-IT Runet-ID u pubblikazzjoni "Internet fin-numri»  għal appoġġ ta’ informazzjoni u aħbarijiet.
  • «Acronis"għal rigali.
  • Avito għall-ko-ħolqien.
  • "Assoċjazzjoni għall-Komunikazzjoni Elettronika" RAEC għall-involviment u l-esperjenza.
  • Sponsor ewlieni RUVDS - għal kulħadd!

Backend, machine learning u serverless - l-aktar affarijiet interessanti mill-konferenza Habr ta’ Lulju

Sors: www.habr.com