19 сари гидра. Шарҳи бузурги барнома

Рӯзҳои 11-12 июл дар Санкт-Петербург конфронс баргузор мешавад Hydra, ба инкишофи системахои параллелй ва таксимшуда бахшида шудааст. Ҳиллаи Hydra дар он аст, ки он олимони олиҷаноб (онҳоро одатан танҳо дар конфронсҳои илмии хориҷӣ пайдо кардан мумкин аст) ва муҳандисони машҳури амалкунанда дар як барномаи калон дар чорроҳаи илм ва амалия муттаҳид мекунад.

Hydra яке аз муҳимтарин конфронсҳои мо дар чанд соли охир аст. Пеш аз он тайёрии хеле чиддй, хоста гирифтани маърузачиён ва маърузачиён гузашт. Ҳафтаи гузашта дар ин бора Мусоҳибаи Khabro нашр шуд бо директори JUG.ru Group Алексей Федоров (23дерево).

Мо ҳастем аллакай гуфта шудааст тақрибан се иштирокчии муҳим, асосгузорони назарияи системаҳои тақсимшуда - Лесли Лампорт, Морис Ҳерлихи ва Майкл Скотт. Вакти он расидааст, ки дар бораи тамоми барнома муфассалтар сухан ронем!

19 сари гидра. Шарҳи бузурги барнома

Муваффақият

Агар шумо дар барномасозӣ машғул бошед, пас бо ин ё он роҳ шумо бо ҳисоббарории мултимедиявӣ ва тақсимшуда сарукор доред. Мутахассисони соҳаҳои дахлдор бо онҳо мустақиман кор мекунанд, аммо ба таври ғайримустақим, тақсимот аз ҳама ҷо ба мо менигаранд: дар ҳама гуна компютерҳои бисёрқабавӣ ё хидмати тақсимшуда чизе мавҷуд аст, ки дар баробари ҳисоб ҳисобҳоро анҷом медиҳад.

Бисёр конфронсҳо мавҷуданд, ки ҷанбаҳои гуногуни барномасозии барномаҳоро дар бар мегиранд. Дар тарафи дигари спектр, мо мактабҳои махсуси илмӣ дорем, ки миқдори зиёди назарияи мураккабро дар формати лексия ошкор мекунанд. Масалан, дар баробари Hydra дар Санкт-Петербург вуҷуд дорад Мактаби SPTDC. Дар конфронси Hydra, мо кӯшиш кардем, ки амалияи сахт, илм ва ҳама чизро дар чорроҳаи онҳо якҷоя кунем.

Дар ин бора фикр кунед: мо дар замони аҷибе зиндагӣ мекунем, ки шумо метавонед бо асосгузорони соҳаи илм ва техникае, ки мо меомӯзем, шахсан вохӯред. Физикхо на Ньютон ва на Эйнштейнро вомехуранд — поезд рафт. Аммо дар паҳлӯи мо то ҳол онҳое зиндагӣ мекунанд, ки асосҳои назарияи системаҳои тақсимшударо офаридаанд, забонҳои маъмули барномасозиро ихтироъ кардаанд ва аввалин бор ҳамаи инро дар прототипҳои корӣ таҷассум кардаанд. Ин нафарон дар ними роҳ корашонро тарк накардаанд, ҳоло дар донишгоҳҳо ва ширкатҳои маъруфи ҷаҳонӣ сари масъалаҳои доғи рӯз кор мекунанд ва имрӯз бузургтарин сарчашмаи донишу таҷриба мебошанд.

Аз тарафи дигар, имконияти вохӯрӣ бо онҳо одатан танҳо назариявӣ боқӣ мемонад: ками мо метавонем мунтазам рӯйдодҳои оммавиро дар баъзе Донишгоҳи Рочестер назорат кунем ва сипас ба ИМА шитофтем ва барои лексия бо Майкл Скотт баргардем. Боздид аз ҳама аъзои Hydra як сарвати ночизро талаб мекунад, на ба ҳисоб гирифтани вартаи вақти беҳуда (ҳарчанд ин як ҷустуҷӯи ҷолиб аст).

Аз тарафи дигар, мо бисёр муҳандисони беҳтарин дорем, ки дар айни замон бо мушкилоти ҷиддии системаҳои тақсимшуда кор мекунанд ва онҳо бешубҳа бисёр чизҳои гуфтан доранд. Аммо дар ин чо проблема — онхо кор карда истодаанд, ва вақти онҳо арзишманд аст. Бале, агар шумо корманди Microsoft, Google ё JetBrains бошед, эҳтимолияти вохӯрӣ бо яке аз баромадкунандагон дар як чорабинии дохилӣ якбора меафзояд, аммо дар маҷмӯъ, не, ин ҳар рӯз рух намедиҳад.

Ҳамин тариқ, Конфронси Hydra вазифаи муҳимеро, ки аксарияти мо мустақилона иҷро карда наметавонем, иҷро мекунад - дар як ҷо ва дар як вақт он одамонеро, ки ғояҳо ё муносибатҳои онҳо бо онҳо метавонанд ҳаёти шуморо тағир диҳанд, ҷамъ меорад. Ман эътироф мекунам, ки на ҳама ба системаҳои тақсимшуда ё баъзе чизҳои мураккаби бунёдӣ ниёз доранд. Шумо метавонед CRUD-ро дар PHP то охири умр барномарезӣ кунед ва комилан хушбахт бошед. Аммо ба касе лозим аст, ин имкони шумост.

Аз эълони аввалини конфронси Гидра оид ба Ҳабре вақти хеле зиёд гузашт. Дар ин муддат бисьёр корхо ба чо оварда шуданд- Холо мо руйхати кариб хамаи хисоботхоро дорем. Ягон алгоритмҳои сусти як ришта нест, танҳо хардкори холиси тақсимшуда! Биёед бо суханони умумӣ ба анҷом расонем ва бубинем, ки ҳоло дар дасти мо чӣ аст.

Нуқтаҳои асосӣ

Суханҳои асосӣ рӯзҳои конфронсро оғоз ва анҷом медиҳанд. Одатан, нуктаи сухани ифтитоҳӣ муайян кардани рӯҳияи умумӣ ва самти конфронс мебошад. Сухани калидии ҷамъбастӣ хатеро кашида, мефаҳмонад, ки чӣ тавр мо метавонем бо дониш ва малакаҳои дар давоми конфронс ҳосилшуда зиндагӣ кунем. Аввал ва интиҳо: он чизе, ки дар хотир беҳтар аст ва дар маҷмӯъ, аҳамияти бештар дорад.

Клик Клик Алгоритми тақсимшудаи H2O K/V

19 сари гидра. Шарҳи бузурги барнома Клифф афсона дар ҷаҳони Java аст. Дар охири солҳои 90-ум, ӯ барои рисолаи номзадии худ як мақола навишт "Муттаҳид кардани таҳлилҳо, якҷоя кардани оптимизатсияҳо", ки пас аз чанд вақт асоси HotSpot JVM Server Compiler гардид. Пас аз ду сол, ӯ аллакай дар Sun Microsystems дар JVM кор мекард ва ба тамоми ҷаҳон нишон дод, ки JIT ҳақ дорад вуҷуд дошта бошад. Ин тамоми ҳикоя дар бораи он, ки чӣ тавр Java яке аз зудтарин замонҳои муосир бо оптимизатсияи оқилона ва зудтарин аст, аз Cliff Click омадааст. Дар ибтидо, боварӣ дошт, ки агар чизе ба як компилятори статикӣ дастрас бошад, ба шумо ҳатто лозим нест, ки онро ҷил кунед. Ба шарофати кори Клифф ва даста, ҳама забонҳои нав бо ғояи тартиб додани JIT ба таври нобаёнӣ сохта шуданд. Албатта, ин кори яккаса набуд, аммо дар он Клифф нақши хеле муҳим бозид.

Дар сухани ифтитоҳӣ, Клифф дар бораи кӯшиши дигари худ сӯҳбат хоҳад кард - H20, платформаи дохили хотира барои омӯзиши мошинҳои тақсимшуда ва миқёспазир барои барномаҳои саноатӣ. Ё аниқтараш, дар бораи нигаҳдории тақсимшудаи ҷуфтҳои калид-арзиш дар дохили он. Ин як нигаҳдории хеле зуд бо бисёр хосиятҳои ҷолиб аст (рӯйхати дақиқ дар тавсиф), ки имкон медиҳад, ки ҳалли шабеҳ дар математикаи ҷараёни додаҳои калон истифода шавад.

Гузориши дигаре, ки Клифф медиҳад, ин аст - Таҷрибаи хотираи транзаксионии Azul Hardware. Қисми дигари тарҷумаи ҳоли ӯ - даҳ сол дар Azul кор мекунад, ки дар он ӯ бисёр чизҳоро дар стеки сахтафзор ва технологияи Azul навсозӣ ва такмил дод: компиляторҳои JIT, вақти кор, модели ришта, коркарди хатогиҳо, коркарди стек, қатъи сахтафзор, боркунии синф ва ғайра - хуб, шумо идея.

Қисмати ҷолибтарин вақте оғоз шуд, ки онҳо сахтафзор барои тиҷорати бузург - суперкомпютер барои идоракунии Java оғоз ёфт. Ин як чизи хеле навоваронае буд, ки махсус барои Java таҳия шудааст, ки талаботи махсус дорад - хондани монеаҳои хотира барои ҷамъоварии партовҳои кам-пауза, массивҳо бо санҷиши сарҳадҳо, зангҳои виртуалӣ ... Яке аз технологияҳои олӣ хотираи транзаксионии сахтафзор аст. Тамоми L1-и ҳама гуна ядрои 864 метавонад дар навиштани транзаксия иштирок кунад, ки махсусан барои кор бо қулфҳо дар Java муҳим аст (блокҳои ҳамоҳангшуда метавонанд дар баробари он кор кунанд, то он даме, ки ихтилофи хотираи воқеӣ вуҷуд надорад). Аммо идеяи зеборо воқеияти дағалона шикаст дод - ва дар ин сӯҳбат Клифф ба шумо мегӯяд, ки чаро HTM ва STM барои эҳтиёҷоти амалии ҳисоббарории бисёрсоҳавӣ чандон мувофиқ нестанд.

Майкл Скотт - Сохторҳои дуҷонибаи маълумот

19 сари гидра. Шарҳи бузурги барнома Майкл Скотт - Профессори илмҳои компютерии Донишгоҳи Рочестер, ки тақдир ӯро бо ӯ пайваст аллакай 34 сола, ва дар хонаи худ дар Донишгоҳи Висконсин-Мэдисон, ӯ панҷ сол декан буд. Вай ба донишҷӯён дар бораи барномасозӣ ва тарҳрезии забонҳои параллелӣ ва тақсимшуда таҳқиқ мекунад ва таълим медиҳад.

Тамоми ҷаҳон Майклро ба шарофати китоби дарсӣ мешиносад "Прагматикаи забони барномасозӣ", нашри охирини он нисбатан ба наздикӣ - соли 2015 нашр шудааст. Кори у "Алгоритмҳо барои ҳамоҳангсозии миқёспазир дар бисёрпросессорҳои хотираи муштарак" гирифта шудааст Ҷоизаи Dijkstra ҳамчун яке аз маъруфтарин дар соҳаи ҳисоббарории тақсимшуда ва ошкоро дурӯғ гуфтан дар Китобхонаи онлайни Донишгоҳи Рочестер. Шумо инчунин метавонед ӯро ҳамчун муаллифи алгоритми Майкл-Скотт аз "Алгоритмҳои оддӣ, зуд ва амалии ғайрибандӣ ва бастани навбатҳои ҳамзамон".

Дар мавриди ҷаҳони Java, ин як ҳолати махсус аст: дар якҷоягӣ бо Дуг Лиа, ӯ алгоритмҳои блокнашаванда ва навбатҳои синхронӣ, ки дар онҳо китобхонаҳои Java кор мекунанд, таҳия кардааст. Маҳз дар ин бора мақолаи асосии "Сохтори дуҷонибаи додаҳо" хоҳад буд - ҷорӣ намудани ин сохторҳо дар Java SE 6 иҷрои корро 10 маротиба беҳтар кардааст java.util.concurrent.ThreadPoolExecutor. Агар шумо пешакӣ дар ҳайрат бошед, ки ин "Сохтори дуҷонибаи маълумот" чист, пас дар бораи он маълумот мавҷуд аст кори марбут.

Морис Херлихи - Блокчейнҳо ва ояндаи компютерҳои тақсимшуда

19 сари гидра. Шарҳи бузурги барнома Морис Херлихи - дорандаи ду ҷоизаи Dijkstra. Якум барои кор аст "Синхронизатсияи бе интизорӣ" (Донишгоҳи Браун) ва дуюм, навтарин - "Хотираи транзаксионӣ: Дастгирии меъморӣ барои сохторҳои маълумотҳои бе қулф" (Донишгоҳи техникии Вирҷиния). Ҷоизаи Dijkstra кореро эътироф мекунад, ки аҳамият ва таъсири он ҳадди аққал даҳ сол намоён буд ва Морис бешубҳа яке аз маъруфтарин коршиносони ин соҳа аст. Ҳоло ӯ ба ҳайси профессор дар Донишгоҳи Браун кор мекунад ва дорои рӯйхати параграфҳои дарозмуддати дастовардҳо мебошад.

Дар ин суханронии ниҳоӣ, Морис дар бораи назария ва амалияи системаҳои тақсимшудаи blockchain аз нуқтаи назари классикони компютерҳои тақсимшуда ва чӣ гуна он бисёр мушкилоти марбутро содда мекунад, сӯҳбат хоҳад кард. Ин гузориш танҳо дар мавзӯи конфронс аст - на ҳама дар бораи истихроҷи маъдан, балки дар бораи он, ки чӣ гуна донишҳои моро дар робита бо вазифаҳои гуногун ба таври аҷиб самаранок ва мувофиқ истифода бурдан мумкин аст.

Моҳи июли соли 2017, Морис аллакай барои таҳсил дар мактаби SPTDC ба Русия омад, дар вохӯрии JUG.ru иштирок кард ва сабтро дар YouTube дидан мумкин аст:

Барномаи асосй

Минбаъд шарҳи мухтасари гузоришҳои ба барнома дохилшуда дода мешавад. Баъзе гузоришҳо дар ин ҷо ба таври муфассал шарҳ дода шудаанд, дигарон мухтасартар. Тавсифи тӯлонӣ асосан ба гузоришҳои инглисӣ, ки истинод ба мақолаҳои илмӣ, истилоҳот дар Википедия ва ғайраро талаб мекарданд, мерафт. Рӯйхати пурра дастрас аст дар вебсайти конфронс нигаред. Рӯйхат дар вебсайт нав ва пурра карда мешавад.

Лесли Лэмпорт - Саволу ҷавоб

19 сари гидра. Шарҳи бузурги барнома Лесли Лампорт муаллифи корҳои муҳим дар компютерҳои тақсимшуда мебошад. "LaTeX" маънои "Lamport TeX" -ро дорад. Маҳз ӯ аввалин маротиба дар соли 1979 ин консепсияро ҷорӣ карда буд мутобиқати доимӣ, ва мақолаи ӯ "Чӣ гуна бояд компютери бисёрпросессориро созад, ки барномаҳои бисёрпротсессиро дуруст иҷро мекунад" Мукофоти Дийкстраро гирифт.

Ин аз чихати шакл гайриоддитарини барнома аст, зеро он на хатто гузориш, балки саволу чавоб аст. Ваќте ки ќисми зиёди шунавандагон аллакай бо њама гуна асарњое, ки дар асоси «Назарияи Лэмпорт», маќолањо ва гузоришњои шахсии ў шинос шудаанд (ё шинос шуда метавонанд), муњимтар аст, ки тамоми ваќти дастрасро барои муоширати мустаќим сарф кардан лозим аст.

Идея оддӣ аст - шумо ду гузоришро дар YouTube тамошо мекунед: "Барномасозӣ бояд бештар аз рамзгузорӣ бошад" и "Агар шумо барнома нанависед, забони барномасозиро истифода набаред" ва ҳадди аққал як савол омода кунед ва Лесли ҷавоб медиҳад.

Аввалин аз ин ду видео мо аллакай дорем ба маколаи хабро табдил ёфт. Агар шумо барои тамошои видео як соат вақт надошта бошед, шумо метавонед ҳамаашро дар шакли матн зуд хонед.

Эзоҳ: Дар YouTube видеоҳои зиёди Лесли Лэмпорт мавҷуданд. Масалан, як аъло вуҷуд дорад Курси TLA+. Варианти офлайнии ин курс дар ин ҷо дастрас аст саҳифаи хонагии муаллиф, ва ӯ онро ба YouTube бор кард, то тамошои осонтар дар дастгоҳҳои мобилӣ.

Мартин Клепманн - Синхронизатсияи маълумот дар байни дастгоҳҳои корбар барои ҳамкории тақсимшуда

19 сари гидра. Шарҳи бузурги барнома Мартин Клеппманн як пажӯҳишгари Донишгоҳи Кембриҷ аст, ки дар CRDT ва санҷиши расмии алгоритмҳо кор мекунад. китоби Мартин "Тарҳрезии барномаҳои пуршиддати маълумот", ки дар соли 2017 нашр шуд, хеле муваффақ буд ва онро ба рӯйхати бестселлерҳо дар соҳаи нигоҳдорӣ ва коркарди маълумот дохил кард. Кевин Скотт, CTO дар Microsoft, боре гуфта буд: «Ин китоб бояд барои муҳандисони нармафзор бошад. Ин як манбаи нодирест, ки назария ва амалияро муттаҳид мекунад, то ба таҳиягарон дар тарҳрезӣ ва татбиқи инфрасохтор ва системаҳои додаҳо оқилонатар кӯмак расонад." Офаридгори Кафка ва CTO аз Confluent Ҷей Крепс чизе ба ин монанд гуфт.

Пеш аз гузаштан ба тадқиқоти академӣ, Мартин дар саноат кор мекард ва ду стартапи муваффақро таъсис дод:

  • Муносиб, бахшида ба намоиши профили иҷтимоии мухотибон аз почтаи электронии шумо, ки LinkedIn дар соли 2012 харидааст;
  • Go Test It, хидматест барои санҷиши худкор вебсайтҳо дар браузерҳои гуногун, ки RedGate соли 2009 харида буд.

Умуман, Мартин, гарчанде ки нисбат ба нутқҳои асосии мо камтар машҳур аст, аллакай тавонистааст дар рушди компютерҳои тақсимшуда ва саноат саҳм гузорад.

Дар ин сӯҳбат Мартин дар бораи мавзӯъе, ки ба таҳқиқоти академии худ наздиктар аст, сӯҳбат хоҳад кард. Дар Google Docs ва диванҳои якҷояи таҳриркунии ҳуҷҷатҳо, "таҳрири муштарак" ба вазифаи такрорӣ ишора мекунад: ҳар як корбар нусхаи шахсии ҳуҷҷати муштарак дорад, ки онҳо баъдан онро тағир медиҳанд ва ҳама тағиротҳо дар шабака ба қисмҳои боқимонда фиристода мешаванд. иштирокчиён. Тағйирот ба ҳуҷҷатҳои офлайнӣ боиси номувофиқии муваққатии ҳуҷҷат нисбат ба дигар иштирокчиён мегардад ва аз нав ҳамоҳангсозӣ коркарди низоъро талаб мекунад. Маҳз барои ҳамин онҳо вуҷуд доранд Намудҳои маълумотҳои такрории бидуни низоъ (CRDT), дар асл, як чизи хеле нав аст, ки моҳияти он танҳо дар соли 2011 таҳия шудааст. Ин сӯҳбат дар бораи он чизе, ки аз он вақт инҷониб дар ҷаҳони CRDT рӯй дод, чӣ гуна пешрафтҳои охирин, равиши эҷоди барномаҳои маҳаллӣ дар маҷмӯъ ва истифодаи китобхонаи кушодаасос баррасӣ мешавад. Автоматизатсия алалхусус.

Ҳафтаи оянда мо мусоҳибаи тӯлонӣ бо Мартин дар Ҳабре нашр хоҳем кард, ин ҷолиб хоҳад буд.

Педро Рамалхете - Сохторҳои маълумотҳои бидуни интизорӣ ва амалиёти бидуни интизорӣ

19 сари гидра. Шарҳи бузурги барнома Педро дар Cisco кор мекунад ва дар тӯли даҳ соли охир алгоритмҳои параллелӣ, аз ҷумла механизмҳои ҳамоҳангсозӣ, сохторҳои бидуни қулф ва интизории маълумот ва ҳама чизеро, ки шумо дар ин мавзӯъ тасаввур карда метавонед, таҳия мекунад. Тадқиқот ва манфиатҳои муҳандисии кунунии ӯ ба Сохтмонҳои универсалӣ, хотираи транзаксионии нармафзор, хотираи доимӣ ва технологияҳои шабеҳ, ки барномаҳои дуруст, миқёспазир ва ба хатоҳо тобоварро фароҳам меоранд, тамаркуз мекунанд. Вай инчунин муаллифи блоге мебошад, ки дар доираи танг маъруф аст Аҷибҳои ҳамзамон.

Аксари замимаҳои бисёрсоҳавӣ ҳоло дар сохторҳои мувозии додаҳо кор мекунанд, аз истифодаи навбатҳои паёмҳо байни фаъолон то сохторҳои индексатсияшудаи додаҳо дар мағозаҳои арзишҳои калидӣ. Онҳо солҳои зиёд дар Java JDK бомуваффақият кор мекунанд ва онҳо оҳиста ба C++ илова карда мешаванд.

Тарзи соддатарини татбиқи сохтори параллели додаҳо ин амалисозии пайдарпай (як ришта) мебошад, ки дар он усулҳо бо мутексҳо ҳифз карда мешаванд. Ин барои ҳар моҳи июн дастрас аст, аммо мушкилоти ошкоро бо миқёс ва иҷроиш дорад. Дар айни замон, сохторҳои маълумотҳои бидуни қулф ва бидуни интизорӣ на танҳо бо хатогиҳо беҳтар мубориза мебаранд, балки профили беҳтари иҷроиш доранд - аммо таҳияи онҳо таҷрибаи амиқ ва мутобиқшавӣ ба як барномаи мушаххасро талаб мекунад. Як сатри нодурусти код барои шикастани ҳама чиз кофӣ аст.

Чӣ тавр мо метавонем онро ба даст орем, ки ҳатто як шахси коршинос тавонад чунин сохторҳои додаҳоро тарҳрезӣ ва татбиқ кунад? Маълум аст, ки ҳар як алгоритми пайдарпай метавонад бо истифода аз ин ё он ришта бехатар бошад тарҳи универсалӣ, ё хотираи транзаксионӣ. Барои як чиз, онҳо метавонанд монеаи вуруд ба ҳалли ин мушкилотро коҳиш диҳанд. Аммо, ҳарду ҳалли маъмулан ба татбиқи бесамар оварда мерасонанд. Педро дар бораи он сӯҳбат хоҳад кард, ки чӣ тавр онҳо тавонистанд ин тарҳҳоро самараноктар кунанд ва чӣ гуна шумо онҳоро барои алгоритмҳои худ истифода баред.

Ҳейди Ховард - Озод кардани консенсуси тақсимшуда

19 сари гидра. Шарҳи бузурги барнома Ҳейди Ҳовард, ба монанди Мартин, пажӯҳишгари системаҳои тақсимшуда дар Донишгоҳи Кембриҷ мебошад. Хусусиятҳои вай мувофиқат, таҳаммулпазирӣ ба хатогиҳо, иҷроиш ва консенсуси тақсимшуда мебошанд. Вай барои умумӣ кардани алгоритми Paxos маъруф аст Paxos чандир.

Ёдовар мешавем, ки Paxos як оилаи протоколҳо барои ҳалли масъалаи консенсус дар шабакаи компютерҳои беэътимод аст, ки ба кори Лесли Лампорт асос ёфтааст. Хамин тавр, баъзе нотикони мо дар болои проблемахое кор мекунанд, ки дар аввал нотикони дигари мо пешниход карда буданд ва ин ачоиб аст.

Қобилияти дарёфти консенсус дар байни мизбони сершумор - барои муроҷиат, интихоби роҳбар, блок ё ҳамоҳангӣ - як масъалаи асосӣ дар системаҳои тақсимшудаи муосир мебошад. Ҳоло Paxos роҳи асосии ҳалли масъалаҳои консенсус аст ва дар атрофи он барои васеъ ва оптимизатсия кардани алгоритм барои эҳтиёҷоти гуногуни амалӣ таҳқиқоти зиёде идома дорад.

Дар ин сӯҳбат, мо асоси назариявии Paxos-ро аз нав дида бароем, талаботҳои аслиро сабук ва алгоритмро ҷамъбаст мекунем. Мо мебинем, ки Paxos аслан танҳо як вариант дар байни доираи васеи равишҳои консенсус аст ва дигар нуктаҳои спектр низ барои сохтани системаҳои хуби тақсимшуда хеле муфиданд.

Алекс Петров — Хароҷоти нигаҳдории худро бо такрори муваққатӣ ва кворумҳои арзон кам кунед

19 сари гидра. Шарҳи бузурги барнома Алекс мутахассиси пойгоҳи додаҳо ва системаҳои нигоҳдорӣ ва муҳимтар аз ҳама барои мо, як масъул дар Кассандра. Айни замон ӯ бо О'Рейли дар болои китоби "Маълумоти дохилӣ" кор мекунад.

Барои системаҳои бо мувофиқати ниҳоӣ (бо истилоҳоти русӣ - “мутобиқати ниҳоӣ”), пас аз садамаҳои гиреҳ ё тақсими шабака, шумо бояд мушкилоти зеринро ҳал кунед: ё иҷрои дархостҳоро идома диҳед, мувофиқатро аз даст диҳед ё иҷрои онҳоро рад кунед ва мавҷудиятро қурбон кунед. Дар чунин система, кворумҳо, зергурӯҳҳои ба ҳам мувофиқ омадани гиреҳҳо ва кафолат додани он, ки ҳадди аққал як гиреҳ арзиши охиринро дар бар мегирад, метавонад як ҳалли хуби канорӣ бошад. Шумо метавонед аз нокомиҳо ва аз даст додани пайвастшавӣ ба баъзе гиреҳҳо наҷот ёбед, дар ҳоле ки бо арзишҳои охирин ҷавоб диҳед.

Бо вуҷуди ин, ҳама чиз арзиши худро дорад. Нақшаи такрории кворум маънои афзоиши хароҷоти нигаҳдорӣ дорад: маълумоти зиёдатӣ бояд якбора дар гиреҳҳои сершумор нигоҳ дошта шавад, то ҳангоми рух додани мушкилот нусхаҳои кофӣ дастрас бошанд. Маълум мешавад, ки ба шумо лозим нест, ки ҳама маълумотро дар ҳама нусхаҳо нигоҳ доред. Шумо метавонед сарбории анборро кам кунед, агар шумо маълумотро танҳо дар як қисми гиреҳҳо нигоҳ доред ва барои сенарияҳои коркарди нокомӣ гиреҳҳои махсусро (Transient Replica) истифода баред.

Дар рафти гузориш мо дида мебароем Репликаҳои шоҳид, схемаи такрорӣ, ки дар Созанда и Мегастор, ва татбиқи ин консепсия дар Apache Кассандра даъват Репликатсияи муваққатӣ ва кворумҳои арзон.

Дмитрий Вюков - Горутинҳо фош карда шуданд

19 сари гидра. Шарҳи бузурги барнома Дмитрий як таҳиягар дар Google аст, ки дар санҷиши динамикӣ барои C/C++ ва Go - Address/Memory/ThreadSanitizer ва абзорҳои шабеҳи ядрои Linux кор мекунад. Ба Go як нақшакаши миқёспазири горутинӣ, пурсиши шабакавӣ ва коллектори партовҳои параллелӣ саҳм гузоштааст. Вай коршиноси мултимедиявӣ, муаллифи даҳҳо алгоритмҳои нави блокношуда ва соҳиби Камарбанди сиёҳ Intel

Акнун каме дар бораи худи гузориш. Забони Go дорои дастгирии модарии мултимедиявиро дар шакли горутинҳо (риштаҳои сабук) ва каналҳо (навбатҳои FIFO) дорад. Ин механизмҳо барои корбарон навиштани замимаҳои муосири чанд риштаро хеле осон ва лаззат мебахшанд ва он ба ҷодугарӣ монанд аст. Тавре ки мо мефаҳмем, дар ин ҷо ҷодуе нест. Дар ин сӯҳбат Дмитрий нозукиҳои нақшаи Go-ро меомӯзад ва асрори татбиқи ин «ҷодуро» нишон медиҳад. Аввалан, ӯ дар бораи ҷузъҳои асосии нақшакаш шарҳ медиҳад ва ба шумо мегӯяд, ки он чӣ гуна кор мекунад. Минбаъд, мо ба ҷанбаҳои инфиродӣ, аз қабили стратегияи таваққуф / таваққуфгоҳ ва коркарди зангҳои системаи басташавӣ, бодиққат назар хоҳем кард. Дар ниҳоят, Дмитрий дар бораи беҳбудиҳои эҳтимолӣ ба нақшакаш каме сӯҳбат хоҳад кард.

Дмитрий Бугаиченко - Тезонидани таҳлили графикии тақсимшуда бо эскизҳои эҳтимолӣ ва ғайра

19 сари гидра. Шарҳи бузурги барнома Дмитрий тақрибан 9 сол дар аутсорсинг кор кард ва робитаро бо донишгоҳ ва ҷомеаи илмӣ қатъ кард. Таҳлили бузурги додаҳо дар Одноклассники барои ӯ як имконияти беназири омезиши омӯзиши назариявӣ ва асосҳои илмӣ бо таҳияи маҳсулоти воқеии серталаб гардид.

Таҳлили графикҳои тақсимшуда як вазифаи душвор буд ва боқӣ мемонад: вақте ки барои гирифтани маълумот дар бораи пайвастҳои қуллаи ҳамсоя зарур меояд, аксар вақт маълумотро байни мошинҳо интиқол додан лозим меояд, ки ин боиси зиёд шудани вақти иҷро ва сарбории инфрасохтори шабака мегардад. Дар ин сӯҳбат, мо мебинем, ки чӣ гуна шумо метавонед бо истифода аз сохторҳои эҳтимолии маълумот ё далелҳо ба монанди симметрияи графики дӯстӣ дар шабакаи иҷтимоӣ суръати коркарди назаррасро ба даст оред. Ҳамаи ин бо мисолҳои рамзӣ дар Apache Spark тасвир шудааст.

Денис Ристсов - Хароҷоти нигаҳдории худро бо такрори муваққатӣ ва кворумҳои арзон кам кунед

19 сари гидра. Шарҳи бузурги барнома Денис - таҳиякунанда Cosmos DB, коршиноси санҷиши моделҳои мувофиқат, алгоритмҳои консенсус ва транзаксияҳои тақсимшуда. Ҳоло ӯ дар Microsoft кор мекунад ва қаблан дар системаҳои тақсимшуда дар Amazon ва Yandex кор кардааст.

Дар ин сӯҳбат, мо ба протоколҳои транзаксияҳои тақсимшуда, ки дар тӯли чанд соли охир ихтироъ шудаанд, дида мебароем, ки мумкин аст дар тарафи муштарӣ дар болои ҳама гуна мағозаи маълумот, ки навсозии шартиро дастгирӣ мекунад (муқоиса кунед ва насб кунед) татбиқ карда шавад. Хулоса ин аст, ки ҳаёт бо ӯҳдадории думарҳила хотима намеёбад, транзаксияҳоро дар болои ҳама гуна пойгоҳи додаҳо илова кардан мумкин аст - дар сатҳи барнома, аммо протоколҳои гуногун (2PC, Percolator, RAMP) дорои фарқиятҳои гуногун мебошанд ва ба мо дода намешаванд. бепул.

Алексей Зиновьев - На ҳама алгоритмҳои ML онро ба осмони тақсимшуда табдил медиҳанд

19 сари гидра. Шарҳи бузурги барнома Алексей (Залеслав)^оло дар дигар конференцияхо маърузачй ва аъзои комитетхои программавй мебошад. Тренери таҷрибавӣ дар EPAM Systems ва аз соли 2012 бо Hadoop/Spark ва дигар додаҳои калон дӯст аст.

Дар ин сӯҳбат Алексей дар бораи мушкилоти мутобиқсозии алгоритмҳои омӯзиши классикии мошинсозӣ барои иҷро дар реҷаи тақсимшуда дар асоси таҷрибаи кор бо Apache Spark ML, Apache Mahout, Apache Flink ML ва таҷрибаи эҷоди Apache Ignite ML сӯҳбат хоҳад кард. Алексей инчунин дар бораи татбиқи алгоритмҳои тақсимшудаи ML дар ин чаҳорчӯбаҳо сӯҳбат хоҳад кард.

Ва ниҳоят, ду гузориш аз Яндекс дар бораи пойгоҳи додаҳои Yandex.

Владислав Кузнецов - Пойгоҳи додаҳои Yandex - чӣ гуна мо таҳаммулпазирии хатогиҳоро таъмин мекунем

19 сари гидра. Шарҳи бузурги барнома Владислав як таҳиягари Яндекс дар гурӯҳи платформаи тақсимшуда мебошад. Пойгоҳи додаҳои Яндекс як МДМ-и ба таври уфуқӣ миқёспазир, географӣ тақсимшаванда ва ба хатоҳо тобовар аст, ки метавонад ба шикасти дискҳо, серверҳо, рафҳо ва марказҳои додаҳо бидуни аз даст додани мувофиқат тоб оварад. Барои таъмини таҳаммулпазирӣ ба хатогиҳо, як алгоритми хусусии ба даст овардани консенсуси тақсимшуда, инчунин як қатор ҳалли техникӣ, ки дар гузориш ба таври муфассал баррасӣ мешаванд, истифода мешавад. Ҳисобот метавонад ҳам барои таҳиягарони DBMS ва ҳам таҳиягарони ҳалли барномаҳо дар асоси DBMS шавқовар бошад.

Семён Чечеринда - Муомилоти тақсимшуда дар YDB

19 сари гидра. Шарҳи бузурги барнома Семён як таҳиягари гурӯҳи платформаи тақсимшуда дар Яндекс буда, дар бораи имкони истифодаи бисёриҷораи насби YDB кор мекунад.

Пойгоҳи додаҳои Yandex барои дархостҳои OLTP тарҳрезӣ шудааст ва ба талаботи ACID барои системаи транзаксионӣ мувофиқат мекунад. Дар ин гузориш, мо алгоритми банақшагирии транзаксияро баррасӣ хоҳем кард, ки дар асоси системаи транзаксияи YDB қарор дорад. Биёед бубинем, ки кадом субъектҳо дар транзаксияҳо иштирок мекунанд, кӣ ба транзаксияҳо тартиби глобалиро таъин мекунад, чӣ гуна атомӣ, эътимоднокӣ ва сатҳи қатъии ҷудошавӣ ба даст оварда мешавад. Бо истифода аз мушкилоти умумӣ ҳамчун мисол, биёед татбиқи транзаксияҳоро бо истифода аз ӯҳдадориҳои думарҳила ва муомилоти детерминистӣ дида бароем. Биёед фарқиятҳои онҳоро муҳокима кунем.

Чӣ оянда аст?

Программам конференция бо маърузахои нав пур шуда истодааст. Хусусан, мо интизори гузориш аз Никита Коваль (ндковал) аз JetBrains ва Олег Анастасьев (m0nstermind) аз ширкати Одноклассники. Никита дар гурӯҳи Котлин дар алгоритмҳои корутинҳо кор мекунад ва Олег дар платформаи Одноклассники меъморӣ ва ҳалли системаҳои серборишро таҳия мекунад. Гайр аз ин, боз 1 чойи шартан холй мавчуд аст, ки холо комитети барномавй бо номзадхо ба он кор карда истодааст.

Конфронси Hydra рӯзҳои 11-12 июл дар Санкт-Петербург баргузор мешавад. Билетҳо дастрасанд дар вебсайти расмӣ харид кунед. Лутфан ба мавҷудияти чиптаҳои онлайн диққат диҳед - агар бо ягон сабабе, ки шумо дар ин рӯзҳо ба Санкт-Петербург расида наметавонед.

Дар Hydra вохӯред!

Манбаъ: will.com

Илова Эзоҳ