{"id":40721,"date":"2020-02-03T14:41:59","date_gmt":"2020-02-03T11:41:59","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/nash-opyt-razrabotki-csi-drajvera-v-kubernetes-dlya-yandeks-oblaka"},"modified":"2020-02-03T14:41:59","modified_gmt":"2020-02-03T11:41:59","slug":"nash-opyt-razrabotki-csi-drajvera-v-kubernetes-dlya-yandeks-oblaka","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pl\/blog\/nash-opyt-razrabotki-csi-drajvera-v-kubernetes-dlya-yandeks-oblaka","title":{"rendered":"Nasze do\u015bwiadczenie w tworzeniu sterownika CSI w Kubernetes dla Yandex.Cloud","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Nasze do\u015bwiadczenie w tworzeniu sterownika CSI w Kubernetes dla Yandex.Cloud\" src=\"\/wp-content\/uploads\/2020\/02\/86adf77b2ee08c426bf79c5b9b2d3d1e.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nCieszymy si\u0119, \u017ce firma \u201eFlant\u201d zwi\u0119ksza sw\u00f3j wk\u0142ad w narz\u0119dzia Open Source dla Kubernetes, wydaj\u0105c <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/flant\/yandex-csi-driver\">wersj\u0119 alfa sterownika CSI<\/a><\/noindex> (Container Storage Interface) dla Yandex.Cloud.<\/p>\n<p>Ale zanim przejdziemy do szczeg\u00f3\u0142\u00f3w implementacji, odpowiedzmy na pytanie, dlaczego to w og\u00f3le jest potrzebne, gdy Yandex ma ju\u017c us\u0142ug\u0119 <noindex><a rel=\"nofollow\" href=\"https:\/\/cloud.yandex.ru\/docs\/managed-kubernetes\/\">Managed Service for Kubernetes<\/a><\/noindex>.<noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/p>\n<h2>Wprowadzenie<\/h2>\n<p><\/p>\n<h3>Po co to?<\/h3>\n<p>\nW naszej firmie, od samego pocz\u0105tku eksploatacji Kubernetes w \u015brodowisku produkcyjnym (tj. od kilku lat), rozwijamy w\u0142asne narz\u0119dzie (deckhouse), kt\u00f3re zreszt\u0105 r\u00f3wnie\u017c planujemy wkr\u00f3tce udost\u0119pni\u0107 jako projekt Open Source. Dzi\u0119ki niemu jednolicie konfigurujemy i ustawiamy wszystkie nasze klastry, a obecnie jest ich ju\u017c ponad 100, przy czym na bardzo r\u00f3\u017cnych konfiguracjach sprz\u0119towych i we wszystkich dost\u0119pnych us\u0142ugach chmurowych.<\/p>\n<p>Klastry wykorzystuj\u0105ce deckhouse maj\u0105 wszystkie niezb\u0119dne komponenty do pracy: load balancery, monitoring z wygodnymi wykresami, metrykami i alertami, autoryzacj\u0119 u\u017cytkownik\u00f3w przez zewn\u0119trznych dostawc\u00f3w do dost\u0119pu do wszystkich dashboard\u00f3w itd. Taki \u201eulepszony\u201d klaster nie ma sensu w rozwi\u0105zaniach zarz\u0105dzanych, poniewa\u017c cz\u0119sto jest to niemo\u017cliwe lub prowadzi do konieczno\u015bci wy\u0142\u0105czenia po\u0142owy komponent\u00f3w.<\/p>\n<p><i><b>NB<\/b>: To nasze do\u015bwiadczenie, kt\u00f3re jest do\u015b\u0107 specyficzne. Nie twierdzimy w \u017cadnym wypadku, \u017ce ka\u017cdy powinien samodzielnie zajmowa\u0107 si\u0119 uruchamianiem klastr\u00f3w Kubernetes zamiast korzysta\u0107 z gotowych rozwi\u0105za\u0144. Co wi\u0119cej, nie mamy rzeczywistego do\u015bwiadczenia w korzystaniu z Kubernetes oferowanego przez Yandex i nie zamierzamy ocenia\u0107 tej us\u0142ugi w tym artykule.<\/i><\/p>\n<h3>Czym to jest i dla kogo?<\/h3>\n<p>\nZatem, ju\u017c opowiadali\u015bmy o nowoczesnym podej\u015bciu do przechowywania w Kubernetes: <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/flant\/blog\/424211\/\">jak dzia\u0142a CSI<\/a><\/noindex> i <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/flant\/blog\/465417\/\">jak spo\u0142eczno\u015b\u0107 dosz\u0142a<\/a><\/noindex> do takiego podej\u015bcia.<\/p>\n<p>Obecnie wielu du\u017cych dostawc\u00f3w us\u0142ug chmurowych opracowa\u0142o sterowniki do u\u017cywania swoich \u201echmurowych\u201d dysk\u00f3w jako Persistent Volume w Kubernetes. Je\u017celi jednak dostawca nie ma takiego sterownika, ale wszystkie niezb\u0119dne funkcje s\u0105 dost\u0119pne przez API, nic nie stoi na przeszkodzie, by zrealizowa\u0107 sterownik samodzielnie. Tak w\u0142a\u015bnie zrobili\u015bmy z Yandex.Cloud.<\/p>\n<p>Jako baz\u0119 do rozwoju wzi\u0119li\u015bmy <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/digitalocean\/csi-digitalocean\">sterownik CSI dla chmury DigitalOcean<\/a><\/noindex> i kilka pomys\u0142\u00f3w z <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/kubernetes-sigs\/gcp-compute-persistent-disk-csi-driver\">sterownika dla GCP<\/a><\/noindex>, poniewa\u017c interakcja z API tych chmur (Google i Yandex) ma wiele podobie\u0144stw. W szczeg\u00f3lno\u015bci API zar\u00f3wno <noindex><a rel=\"nofollow\" href=\"https:\/\/cloud.google.com\/compute\/docs\/api\/how-tos\/api-requests-responses#handling_api_responses\">GCP<\/a><\/noindex>, jak i <noindex><a rel=\"nofollow\" href=\"https:\/\/cloud.yandex.ru\/docs\/api-design-guide\/concepts\/about-async\">Yandex<\/a><\/noindex> zwracaj\u0105 obiekt <code>Operacja<\/code> do \u015bledzenia statusu d\u0142ugotrwa\u0142ych operacji (np. tworzenia nowego dysku). Aby komunikowa\u0107 si\u0119 z API Yandex.Cloud, u\u017cywa si\u0119 <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/yandex-cloud\/go-sdk\">Yandex.Cloud Go SDK<\/a><\/noindex>.<\/p>\n<p>Wynik wykonanej pracy <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/flant\/yandex-csi-driver\">opublikowany na GitHubie<\/a><\/noindex> i mo\u017ce by\u0107 przydatny dla tych, kt\u00f3rzy z jakiego\u015b powodu u\u017cywaj\u0105 w\u0142asnej instalacji Kubernetes na maszynach wirtualnych Yandex.Cloud (ale nie gotowego zarz\u0105dzanego klastra) i chcieliby korzysta\u0107 z (zamawia\u0107) dysk\u00f3w przez CSI.<\/p>\n<h2>Realizacja<\/h2>\n<p><\/p>\n<h3>G\u0142\u00f3wne mo\u017cliwo\u015bci<\/h3>\n<p>\nW tej chwili sterownik wspiera nast\u0119puj\u0105ce funkcje:<\/p>\n<ul>\n<li> Zamawianie dysk\u00f3w we wszystkich strefach klastra zgodnie z topologi\u0105 dost\u0119pnych w klastrze w\u0119z\u0142\u00f3w;<\/li>\n<li> Usuwanie wcze\u015bniej zam\u00f3wionych dysk\u00f3w;<\/li>\n<li> Offline resize dla dysk\u00f3w (Yandex.Cloud <noindex><a rel=\"nofollow\" href=\"https:\/\/cloud.yandex.ru\/docs\/compute\/operations\/disk-control\/update#change-disk-size\">nie obs\u0142uguje<\/a><\/noindex> powi\u0119kszanie dysk\u00f3w, kt\u00f3re s\u0105 zamontowane na maszynie wirtualnej). O tym, jak musia\u0142em przerabia\u0107 sterownik, aby jak najmniej bole\u015bnie przeprowadza\u0107 resize, patrz poni\u017cej.<\/li>\n<\/ul>\n<p>\nW przysz\u0142o\u015bci planowane jest wprowadzenie wsparcia dla tworzenia i usuwania migawek dysk\u00f3w.<\/p>\n<h3>G\u0142\u00f3wna trudno\u015b\u0107 i jej pokonanie<\/h3>\n<p>\nBrak w API Yandex.Cloud mo\u017cliwo\u015bci zwi\u0119kszania dysk\u00f3w w czasie rzeczywistym \u2014 ograniczenie, kt\u00f3re utrudnia operacj\u0119 resize'u dla PV (Persistent Volume): w takim przypadku konieczne jest, aby pod aplikacji, kt\u00f3ry u\u017cywa dysku, by\u0142 zatrzymany, co mo\u017ce spowodowa\u0107 przest\u00f3j aplikacji.<\/p>\n<p>Zgodnie z <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/container-storage-interface\/spec\">specyfikacji CSI<\/a><\/noindex>, je\u015bli kontroler CSI informuje, \u017ce potrafi wykonywa\u0107 resize dysk\u00f3w tylko \u201ew offline\u201d (<code>VolumeExpansion.OFFLINE<\/code>), to proces zwi\u0119kszania dysku musi przebiega\u0107 w ten spos\u00f3b:<\/p>\n<blockquote><p>Je\u015bli wtyczka ma tylko <code>VolumeExpansion.OFFLINE<\/code> zdolno\u015b\u0107 rozszerzenia i wolumen jest obecnie opublikowany lub dost\u0119pny na w\u0119\u017ale, to <code>ControllerExpandVolume<\/code> MUSI by\u0107 wywo\u0142any TYLKO po tym, jak:<\/p>\n<ul>\n<li> Wtyczka ma kontroler <code>PUBLISH_UNPUBLISH_VOLUME<\/code> zdolno\u015b\u0107 i <code>ControllerUnpublishVolume<\/code> zosta\u0142 pomy\u015blnie wywo\u0142any.<\/li>\n<\/ul>\n<p>\nLUB<\/p>\n<ul>\n<li> Wtyczka NIE ma zdolno\u015bci kontrolera <code>PUBLISH_UNPUBLISH_VOLUME<\/code> , wtyczka ma w\u0119ze\u0142 <code>STAGE_UNSTAGE_VOLUME<\/code> zdolno\u015b\u0107 i <code>NodeUnstageVolume<\/code> zosta\u0142 pomy\u015blnie zako\u0144czony.<\/li>\n<\/ul>\n<p>\nLUB<\/p>\n<ul>\n<li>Wtyczka NIE ma zdolno\u015bci kontrolera <code>PUBLISH_UNPUBLISH_VOLUME<\/code> zdolno\u015b\u0107, ani w\u0119ze\u0142 <code>STAGE_UNSTAGE_VOLUME<\/code> zdolno\u015b\u0107 i <code>NodeUnpublishVolume<\/code> nie zosta\u0142 pomy\u015blnie zako\u0144czony.<\/li>\n<\/ul>\n<\/blockquote>\n<p>\nW zasadzie oznacza to konieczno\u015b\u0107 od\u0142\u0105czenia dysku od maszyny wirtualnej przed jego zwi\u0119kszeniem.<\/p>\n<p>Niestety, <b>realizacja<\/b> specyfikacje CSI poprzez sidecary nie spe\u0142niaj\u0105 tych wymaga\u0144:<\/p>\n<ul>\n<li> W kontenerze sidecar <code>csi-attacher<\/code>, kt\u00f3ry ma odpowiada\u0107 za zapewnienie odpowiedniej przerwy pomi\u0119dzy zamontowaniami, przy offline-resize po prostu nie zrealizowano tej funkcji. Dyskusj\u0119 na ten temat zainicjowano <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/kubernetes-csi\/external-attacher\/issues\/207\">tutaj<\/a><\/noindex>.<\/li>\n<li> Czym w\u0142a\u015bciwie jest kontener sidecar w tym kontek\u015bcie? Sam wtyczka CSI nie obs\u0142uguje interakcji z API Kubernetes, a jedynie reaguje na wywo\u0142ania gRPC, kt\u00f3re wysy\u0142aj\u0105 mu kontenery sidecar. Ostatnie <noindex><a rel=\"nofollow\" href=\"https:\/\/kubernetes-csi.github.io\/docs\/sidecar-containers.html\">opracowywane s\u0105<\/a><\/noindex> spo\u0142eczno\u015b\u0107 Kubernetes.<\/li>\n<\/ul>\n<p>\nW naszym przypadku (wtyczka CSI) operacja zwi\u0119kszenia dysku wygl\u0105da nast\u0119puj\u0105co:<\/p>\n<ol>\n<li> Otrzymujemy wywo\u0142anie gRPC <code>ControllerExpandVolume<\/code>;<\/li>\n<li> Pr\u00f3bujemy zwi\u0119kszy\u0107 dysk w API, ale otrzymujemy b\u0142\u0105d o niemo\u017cno\u015bci wykonania operacji, poniewa\u017c dysk jest zamontowany;<\/li>\n<li> Zapisujemy identyfikator dysku w mapie, kt\u00f3ra zawiera dyski, dla kt\u00f3rych nale\u017cy wykona\u0107 operacj\u0119 zwi\u0119kszenia. Dalej dla skr\u00f3tu b\u0119dziemy nazywa\u0107 t\u0119 map\u0119 <code>volumeResizeRequired<\/code>;<\/li>\n<li> R\u0119cznie usuwamy pod, kt\u00f3ry korzysta z dysku. Kubernetes w tym czasie go zrestartuje. Aby dysk nie zd\u0105\u017cy\u0142 si\u0119 zamontowa\u0107 (<code>ControllerPublishVolume<\/code>) przed zako\u0144czeniem operacji zwi\u0119kszenia podczas pr\u00f3by montowania, sprawdzamy, \u017ce dany dysk wci\u0105\u017c znajduje si\u0119 w <code>volumeResizeRequired<\/code> i zwracamy b\u0142\u0105d;<\/li>\n<li> Sterownik CSI pr\u00f3buje ponownie wykona\u0107 operacj\u0119 resize. Je\u015bli operacja zako\u0144czy\u0142a si\u0119 sukcesem, usuwamy dysk z <code>volumeResizeRequired<\/code>;<\/li>\n<li> Poniewa\u017c identyfikator dysku nie wyst\u0119puje w <code>volumeResizeRequired<\/code>, <code>ControllerPublishVolume<\/code> operacja przebiega pomy\u015blnie, dysk jest montowany, pod zostaje uruchomiony.<\/li>\n<\/ol>\n<p>\nWszystko wygl\u0105da do\u015b\u0107 prosto, ale jak zawsze s\u0105 pewne pu\u0142apki. Zwi\u0119kszeniem dysk\u00f3w zajmuje si\u0119 <noindex><a rel=\"nofollow\" href=\"https:\/\/kubernetes-csi.github.io\/docs\/external-resizer.html\">external-resizer<\/a><\/noindex>, kt\u00f3ry w przypadku b\u0142\u0119du podczas wykonywania operacji <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/kubernetes-csi\/external-resizer\/blob\/master\/vendor\/k8s.io\/client-go\/util\/workqueue\/default_rate_limiters.go#L41\">wykorzystuje kolejk\u0119<\/a><\/noindex> z wyk\u0142adniczym zwi\u0119kszeniem czasu oczekiwania do 1000 sekund:<\/p>\n<pre><code class=\"go\">func DefaultControllerRateLimiter() RateLimiter {\n  return NewMaxOfRateLimiter(\n  NewItemExponentialFailureRateLimiter(5*time.Millisecond, 1000*time.Second),\n  \t\/\/ 10 qps, 100 wielko\u015b\u0107 wiadra. To tylko dla pr\u0119dko\u015bci powt\u00f3rze\u0144 i to tylko og\u00f3lny czynnik (nie dla ka\u017cdego elementu)\n  &amp;BucketRateLimiter{Limiter: rate.NewLimiter(rate.Limit(10), 100)},\n  )\n}<\/code><\/pre>\n<p>\nMo\u017ce to okresowo powodowa\u0107, \u017ce operacja zwi\u0119kszenia dysku rozci\u0105ga si\u0119 na ponad 15 minut, a tym samym dysk staje si\u0119 niedost\u0119pny.<\/p>\n<p>Jedyn\u0105 opcj\u0105, kt\u00f3ra wystarczaj\u0105co \u0142atwo i bez b\u00f3lu pozwoli\u0142a nam zredukowa\u0107 potencjalny czas przestoju, by\u0142o u\u017cycie w\u0142asnej wersji external-resizer z maksymalnym ograniczeniem czasu oczekiwania <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/flant\/external-resizer\/blob\/faster-workqueue\/pkg\/controller\/controller.go#L81\">do 5 sekund<\/a><\/noindex>:<\/p>\n<pre><code class=\"go\">workqueue.NewItemExponentialFailureRateLimiter(5*time.Millisecond, 5*time.Second)<\/code><\/pre>\n<p>\nNie uznali\u015bmy za konieczne pilnie podejmowa\u0107 dyskusji i \u0142atka\u0107 external-resizer, poniewa\u017c offline resize dysk\u00f3w to relikt, kt\u00f3ry wkr\u00f3tce wyginie u wszystkich dostawc\u00f3w chmurowych.<\/p>\n<h2>Jak zacz\u0105\u0107 korzysta\u0107?<\/h2>\n<p>\nSterownik jest wspierany w wersji Kubernetes 1.15 i nowszych. Aby sterownik dzia\u0142a\u0142, musz\u0105 by\u0107 spe\u0142nione nast\u0119puj\u0105ce wymagania:<\/p>\n<ul>\n<li> Flaga <code>--allow-privileged<\/code> ustawione na warto\u015b\u0107 <code>true<\/code> dla API serwera i kubelet;<\/li>\n<li> W\u0142\u0105czone <code>--feature-gates=VolumeSnapshotDataSource=true,KubeletPluginsWatcher=true,CSINodeInfo=true,CSIDriverRegistry=true<\/code> dla API serwera i kubelet;<\/li>\n<li> Rozprzestrzenienie montowania (<noindex><a rel=\"nofollow\" href=\"https:\/\/kubernetes.io\/docs\/concepts\/storage\/volumes\/#mount-propagation\">rozprzestrzenienie montowania<\/a><\/noindex>) musi by\u0107 w\u0142\u0105czone w klastrze. Przy u\u017cyciu Dockera demon musi by\u0107 skonfigurowany tak, aby umo\u017cliwia\u0142 wsp\u00f3\u0142dzielone obiekty montowania (shared mounts).<\/li>\n<\/ul>\n<p>\nWszystkie niezb\u0119dne kroki dotycz\u0105ce samej instalacji <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/flant\/yandex-csi-driver#installing-driver\">s\u0105 opisane w README<\/a><\/noindex>. Instalacja polega na tworzeniu obiekt\u00f3w w Kubernetes z manifest\u00f3w.<\/p>\n<p>Aby u\u017cywa\u0107 sterownika, b\u0119dziesz potrzebowa\u0107 nast\u0119puj\u0105cych:<\/p>\n<ul>\n<li> Okre\u015bl w manife\u015bcie identyfikator katalogu (<code>folder-id<\/code>) Yandex.Cloud (<noindex><a rel=\"nofollow\" href=\"https:\/\/cloud.yandex.ru\/docs\/resource-manager\/operations\/folder\/get-id\">zobacz dokumentacj\u0119<\/a><\/noindex>);<\/li>\n<li> Do interakcji z API Yandex.Cloud w sterowniku CSI u\u017cywane jest konto serwisowe. W manife\u015bcie Secret nale\u017cy przekaza\u0107 <noindex><a rel=\"nofollow\" href=\"https:\/\/cloud.yandex.com\/docs\/iam\/concepts\/authorization\/key\">autoryzowane klucze<\/a><\/noindex> z konta serwisowego. W dokumentacji <noindex><a rel=\"nofollow\" href=\"https:\/\/cloud.yandex.ru\/docs\/iam\/quickstart-sa\">opisano<\/a><\/noindex>, jak utworzy\u0107 konto serwisowe i uzyska\u0107 klucze.<\/li>\n<\/ul>\n<p>\nOg\u00f3lnie \u2014 <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/flant\/yandex-csi-driver\">spr\u00f3buj<\/a><\/noindex>, a b\u0119dziemy wdzi\u0119czni za wszelkie opinie i <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/flant\/yandex-csi-driver\/issues\">nowe problemy<\/a><\/noindex>, je\u015bli napotkasz jakie\u015b trudno\u015bci!<\/p>\n<h2>Dalsze wsparcie<\/h2>\n<p>\nNa zako\u0144czenie chcieliby\u015bmy zaznaczy\u0107, \u017ce ten sterownik CSI realizowali\u015bmy nie z powodu ch\u0119ci zabawy w pisanie aplikacji w Go, ale z pilnej potrzeby wewn\u0105trz firmy. Nie uwa\u017camy, \u017ce utrzymywanie w\u0142asnej realizacji ma sens, dlatego, je\u015bli Yandex wyka\u017ce zainteresowanie i zdecyduje si\u0119 na dalsze wsparcie sterownika, z przyjemno\u015bci\u0105 przeka\u017cemy repozytorium do ich dyspozycji.<\/p>\n<p>Ponadto, by\u0107 mo\u017ce Yandex ma w\u0142asn\u0105 realizacj\u0119 sterownika CSI w zarz\u0105dzanym klastrze Kubernetes, kt\u00f3r\u0105 mo\u017cna wyda\u0107 jako Open Source. Taki rozw\u00f3j dla nas r\u00f3wnie\u017c wydaje si\u0119 korzystny \u2014 spo\u0142eczno\u015b\u0107 mog\u0142aby korzysta\u0107 z sprawdzonego sterownika od dostawcy us\u0142ug, a nie od zewn\u0119trznej firmy.<\/p>\n<h2>P.S.<\/h2>\n<p>\nPrzeczytaj tak\u017ce na naszym blogu:<\/p>\n<ul>\n<li> \u00ab<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/flant\/blog\/465417\/\">Wtyczki wolumen\u00f3w dla magazyn\u00f3w w Kubernetes: od Flexvolume do CSI<\/a><\/noindex>\u00bb;<\/li>\n<li> \u00ab<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/flant\/blog\/424211\/\">Rozumiemy Container Storage Interface (w Kubernetes i nie tylko)<\/a><\/noindex>\u00bb;<\/li>\n<li> \u00ab<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/flant\/blog\/455543\/\">Czy \u0142atwo i wygodnie konfigurowa\u0107 klaster Kubernetes? Zapowiadamy addon-operator<\/a><\/noindex>\u00bb;<\/li>\n<li> \u00ab<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/flant\/blog\/455543\/\">Rozszerzamy i uzupe\u0142niamy Kubernetes (przegl\u0105d i wideo z prezentacji).<\/a><\/noindex>\u00bb.<\/li>\n<\/ul>\n<p>\u0179r\u00f3d\u0142o: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/flant\/blog\/486190\/\">habr.com<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u0420\u0430\u0434\u044b \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c, \u0447\u0442\u043e \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f \u00ab\u0424\u043b\u0430\u043d\u0442\u00bb \u043f\u043e\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0441\u0432\u043e\u0439 \u0432\u043a\u043b\u0430\u0434 \u0432 Open Source-\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u0434\u043b\u044f Kubernetes, \u0432\u044b\u043f\u0443\u0441\u0442\u0438\u0432 \u0430\u043b\u044c\u0444\u0430-\u0432\u0435\u0440\u0441\u0438\u044e \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 CSI (Container Storage Interface) \u0434\u043b\u044f \u042f\u043d\u0434\u0435\u043a\u0441.\u041e\u0431\u043b\u0430\u043a\u0430. \u041d\u043e \u043f\u0435\u0440\u0435\u0434 \u0442\u0435\u043c, \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a \u0434\u0435\u0442\u0430\u043b\u044f\u043c \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u043e\u0442\u0432\u0435\u0442\u0438\u043c \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441, \u0437\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0443\u0436\u043d\u043e, \u043a\u043e\u0433\u0434\u0430 \u0443 \u042f\u043d\u0434\u0435\u043a\u0441\u0430 \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u0443\u0441\u043b\u0443\u0433\u0430 Managed Service for Kubernetes. \u0412\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0417\u0430\u0447\u0435\u043c \u044d\u0442\u043e? \u0412\u043d\u0443\u0442\u0440\u0438 \u043d\u0430\u0448\u0435\u0439 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438, \u0435\u0449\u0451 \u0441 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":40722,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-40721","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.2 - aioseo.com -->\n\t<meta name=\"description\" content=\"\u0420\u0430\u0434\u044b \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c, \u0447\u0442\u043e \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f.\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/pl\/blog\/nash-opyt-razrabotki-csi-drajvera-v-kubernetes-dlya-yandeks-oblaka\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.2\" \/>\n\t\t<meta property=\"og:locale\" content=\"pl_PL\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041d\u0430\u0448 \u043e\u043f\u044b\u0442 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 CSI-\u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0432 Kubernetes \u0434\u043b\u044f \u042f\u043d\u0434\u0435\u043a\u0441.\u041e\u0431\u043b\u0430\u043a\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"\u0420\u0430\u0434\u044b \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c, \u0447\u0442\u043e \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f.\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/pl\/blog\/nash-opyt-razrabotki-csi-drajvera-v-kubernetes-dlya-yandeks-oblaka\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2020-02-03T11:41:59+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2020-02-03T11:41:59+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Nasze do\u015bwiadczenie w tworzeniu sterownika CSI w Kubernetes dla Yandex.Cloud | ProHoster","description":"Z rado\u015bci\u0105 og\u0142aszamy, \u017ce firma.","canonical_url":"https:\/\/prohoster.info\/pl\/blog\/nash-opyt-razrabotki-csi-drajvera-v-kubernetes-dlya-yandeks-oblaka","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"pl_PL","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041d\u0430\u0448 \u043e\u043f\u044b\u0442 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 CSI-\u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0432 Kubernetes \u0434\u043b\u044f \u042f\u043d\u0434\u0435\u043a\u0441.\u041e\u0431\u043b\u0430\u043a\u0430 | ProHoster","og:description":"\u0420\u0430\u0434\u044b \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c, \u0447\u0442\u043e \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f.","og:url":"https:\/\/prohoster.info\/pl\/blog\/nash-opyt-razrabotki-csi-drajvera-v-kubernetes-dlya-yandeks-oblaka","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2020-02-03T11:41:59+00:00","article:modified_time":"2020-02-03T11:41:59+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"40721","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":null,"breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 00:32:40","updated":"2022-09-30 15:42:14","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/40721","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/comments?post=40721"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/40721\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media\/40722"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media?parent=40721"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/categories?post=40721"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/tags?post=40721"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}