Prvi prototip skladišta predmeta svijet je ugledao 1996. godine. Za 10 godina Amazon Web Services lansirat će Amazon S3, a svijet će početi sustavno poludjeti za ravnim adresnim prostorom. Zahvaljujući radu s metapodacima i njegovoj sposobnosti skaliranja bez popuštanja pod opterećenjem, pohrana objekata brzo je postala standard za većinu usluga pohrane podataka u oblaku, i ne samo to. Još jedna važna značajka je da je dobro prilagođen za pohranjivanje arhiva i sličnih datoteka koje se rijetko koriste. Svi koji se bave pohranjivanjem podataka radovali su se i nosili novu tehnologiju u rukama.
Ali ljudske su glasine bile pune glasina da se skladištenje objekata odnosi samo na velike oblake, a ako vam ne trebaju rješenja prokletih kapitalista, bit će vrlo teško napraviti vlastito. Već je mnogo napisano o implementaciji vlastitog oblaka, ali nema dovoljno informacija o stvaranju takozvanih S3-kompatibilnih rješenja.
Stoga ćemo danas otkriti koje opcije postoje "Da bude kao za odrasle, a ne CEPH i veću datoteku", implementirat ćemo jednu od njih i provjerit ćemo radi li sve pomoću Veeam Backup & Replication. Tvrdi da podržava rad sa S3-kompatibilnim pohranama, a mi ćemo testirati tu tvrdnju.
Što je s drugima?
Predlažem da počnete s malim pregledom tržišta i mogućnostima skladištenja predmeta. Općepriznati lider i standard je Amazon S3. Dva najbliža progonitelja su Microsoft Azure Blob Storage i IBM Cloud Object Storage.
Je li to sve? Zar stvarno nema drugih konkurenata? Naravno, postoje konkurenti, ali neki idu svojim putem, poput Google Clouda ili Oracle Cloud Object Storagea, s nepotpunom podrškom za S3 API. Neki koriste starije verzije API-ja, poput Baidu Clouda. A neki, poput Hitachi Clouda, zahtijevaju posebnu logiku, što će sigurno izazvati svoje poteškoće. U svakom slučaju, svi se uspoređuju s Amazonom, koji se može smatrati industrijskim standardom.
Ali u on-premise rješenjima postoji mnogo više izbora, pa navedimo kriterije koji su nam važni. U principu, dovoljno je samo dvoje: podrška za S3 API i korištenje v4 potpisivanja. Ruku na srce, nas kao budućeg klijenta zanimaju samo sučelja za interakciju, a ne zanima nas toliko interna kuhinja samog skladišta.
Puno rješenja odgovara ovim jednostavnim uvjetima. Na primjer, klasični korporativni teškaši:
- DellEMC ECS
- NetApp S3 StorageGrid
- Nutanix kante
- Pure Storage FlashBlade i StorReduce
- Huawei FusionStorage
Postoji niša čisto softverskih rješenja koja rade odmah:
- Crveni šešir Ceph
- SUSE Enterprise Storage
- Cloudian
Pa čak ni oni koji vole pažljivo turpijati nakon montaže nisu bili uvrijeđeni:
- CEPH u svom najčišćem obliku
- Minio (Linux verzija, jer postoji mnogo pitanja o Windows verziji)
Popis je daleko od potpunog, o njemu se može raspravljati u komentarima. Samo nemojte zaboraviti provjeriti performanse sustava uz API kompatibilnost prije implementacije. Zadnje što želite je izgubiti terabajte podataka zbog zaglavljenih upita. Stoga nemojte biti sramežljivi s testovima opterećenja. Općenito, sav softver za odrasle koji radi s velikim količinama podataka ima barem izvješća o kompatibilnosti. U slučaju Veeam tu je o međusobnom testiranju, što nam omogućuje da s pouzdanjem proglasimo potpunu kompatibilnost naših proizvoda s određenom opremom. Ovo je već dvosmjeran rad, ne uvijek brz, ali se stalno širimo provjerena rješenja.
Sastavljanje našeg stalka
Želio bih malo razgovarati o odabiru ispitnog subjekta.
Prvo sam želio pronaći opciju koja bi radila odmah po izlasku iz kutije. Pa, ili barem s maksimalnom vjerojatnošću da će raditi bez potrebe za nepotrebnim pokretima. Plesati uz tamburicu i petljati po konzoli u noći vrlo je uzbudljivo, ali ponekad želite da odmah proradi. A ukupna pouzdanost takvih rješenja obično je veća. I da, duh avanturizma je nestao u nama, prestali smo se penjati u prozore naših voljenih žena, itd. (c).
Drugo, da budem iskren, potreba za radom s pohranom objekata javlja se u prilično velikim tvrtkama, pa je to upravo slučaj kada gledanje prema rješenjima na razini poduzeća ne samo da nije sramotno, već se čak i potiče. U svakom slučaju, još ne znam za primjere da je netko dobio otkaz zbog kupnje takvih rješenja.
Na temelju svega navedenog, moj izbor je pao na Dell EMC ECS Community Edition. Ovo je vrlo zanimljiv projekt i smatram da je potrebno o njemu govoriti.
Prvo što vam padne na pamet kada vidite dodatak Izdanje zajednice - da je ovo samo kopija punog ECS-a s nekim ograničenjima koja se uklanjaju kupnjom licence. Pa ne!
Zapamtite:
!!!Community Edition je zaseban projekt stvoren za testiranje, i bez tehničke podrške tvrtke Dell!!
I ne može se pretvoriti u punopravni ECS, čak i ako to stvarno želite.
Idemo to shvatiti
Mnogi ljudi vjeruju da je Dell EMC ECS gotovo najbolje rješenje ako imate potrebu za pohranom objekata. Svi projekti pod brendom ECS, uključujući komercijalne i korporativne, temelje se na . Neka vrsta geste dobre volje iz Della. A uz softver koji radi na njihovom brendiranom hardveru, postoji verzija otvorenog koda koja se može implementirati u oblaku, na virtualnom stroju, u spremniku ili na bilo kojem vašem vlastitom hardveru. Gledajući unaprijed, postoji čak i OVA verzija, koju ćemo koristiti.
Samo DELL ECS Community Edition je mini-verzija potpunog softvera koji radi na Dell EMC ECS poslužiteljima marke.
Identificirao sam četiri glavne razlike:
- Nema podrške za šifriranje. Šteta, ali nije kritično.
- Nedostaje sloj tkanine. Ova stvar je odgovorna za izgradnju klastera, upravljanje resursima, ažuriranja, nadzor i pohranu Docker slika. Ovdje je to već vrlo uvredljivo, ali Dell se također može razumjeti.
- Najodvratnija posljedica prethodne točke: veličina čvora ne može se proširiti nakon završetka instalacije.
- Nema tehničke podrške. Ovo je proizvod za testiranje, koji nije zabranjen za korištenje u malim instalacijama, ali ja se osobno ne bih usudio tamo uploadati petabajte važnih podataka. Ali tehnički vas nitko ne može spriječiti u tome.
Što je u velikoj verziji?
Galopirajmo Europom i prođimo kroz željezna rješenja kako bismo imali potpunije razumijevanje ekosustava.
Neću nekako potvrditi ili opovrgnuti izjavu da je DELL ECS najbolja on-prem pohrana objekata, ali ako imate nešto za reći o ovoj temi, rado ću to pročitati u komentarima. Barem prema verziji Dell EMC je pouzdano među prvih pet OBS tržišnih lidera. Iako se tamo ne uzimaju u obzir rješenja temeljena na oblaku, ovo je zaseban razgovor.
S tehničkog gledišta, ECS je pohrana objekata koja omogućuje pristup podacima pomoću protokola za pohranu u oblaku. Podržava AWS S3 i OpenStack Swift. Za spremnike s omogućenom datotekom, ECS podržava NFSv3 za izvoz datoteke po datoteku.
Proces snimanja informacija prilično je neobičan, pogotovo nakon klasičnih blokovskih sustava za pohranu podataka.
- Kada stignu novi podaci, kreira se novi objekt koji ima ime, sam podatak i metapodatke.
- Objekti su podijeljeni u dijelove od 128 MB, a svaki se komad zapisuje u tri čvora odjednom.
- Indeksna datoteka se ažurira, gdje se bilježe identifikatori i mjesta pohrane.
- Datoteka dnevnika (unos dnevnika) se ažurira i također zapisuje u tri čvora.
- Klijentu se šalje poruka o uspješnom snimanju
Sve tri kopije podataka zapisuju se paralelno. Pisanje se smatra uspješnim samo ako su sve tri kopije uspješno napisane.
Čitanje je lakše:
- Klijent traži podatke.
- Indeks traži gdje su podaci pohranjeni.
- Podaci se čitaju iz jednog čvora i šalju klijentu.
Samih poslužitelja ima dosta, pa pogledajmo najmanji Dell EMC ECS EX300. Počinje od 60TB, s mogućnošću rasta do 1,5PB. A njegov stariji brat, Dell EMC ECS EX3000, omogućuje vam pohranjivanje čak 8,6PB po stalku.
Rasporedi
Tehnički gledano, Dell ECS CE može se postaviti koliko god želite. U svakom slučaju, nisam našao eksplicitna ograničenja. Međutim, prikladno je izvršiti svo skaliranje kloniranjem prvog čvora, za što nam je potrebno:
- 8 vCPU-a
- RAM 64GB
- 16GB za OS
- 1TB izravne pohrane
- Najnovije izdanje CentOS minimalno
Ovo je opcija kada želite sami instalirati sve od samog početka. Ova opcija za nas nije relevantna, jer... Koristit ću OVA sliku za implementaciju.
Ali u svakom slučaju, zahtjevi su vrlo zli čak i za jedan čvor, a ako strogo slijedite slovo zakona, onda vam trebaju četiri takva čvora.
Međutim, ECS CE programeri žive u stvarnom svijetu, a instalacija je uspješna čak i s jednim čvorom, a minimalni zahtjevi su:
- 4 vCPU-a
- 16 GB RAM-a
- 16 GB za OS
- Sama pohrana od 104 GB
Ovo su resursi potrebni za implementaciju OVA slike. Već puno humanije i realnije.
Sam instalacijski čvor može se dobiti od službenika . Postoji i detaljna dokumentacija o implementaciji sve-u-jednom, ali možete pročitati i na službenoj stranici . Stoga se nećemo detaljno zadržavati na odvijanju OVA-e, tu nema trikova. Glavna stvar je da prije pokretanja ne zaboravite proširiti disk na željeni volumen ili priložiti potrebne.
Pokrećemo stroj, otvaramo konzolu i koristimo najbolje zadane vjerodajnice:
- prijava: admin
- lozinka: ChangeMe
Zatim pokrećemo sudo nmtui i konfiguriramo mrežno sučelje - IP/masku, DNS i vrata. Imajući u vidu da CentOS minimal nema net-tools, postavke provjeravamo preko ip addr.
A budući da samo hrabri osvajaju mora, radimo yum update, nakon čega se ponovno pokrećemo. Zapravo je prilično sigurno jer... sva implementacija se vrši kroz playbooks, a svi važni docker paketi zaključani su na trenutnu verziju.
Sada je vrijeme za uređivanje instalacijske skripte. Nema otmjenih prozora ili pseudo sučelja za vas - sve se radi putem vašeg omiljenog uređivača teksta. Tehnički, postoje dva načina: svaku naredbu možete pokrenuti ručno ili odmah pokrenuti videoploy konfigurator. Jednostavno će otvoriti konfiguraciju u vim-u, a nakon izlaska počet će je provjeravati. Ali nije zanimljivo namjerno pojednostaviti svoj život, pa pokrenimo još dvije naredbe. Iako ovo nema smisla, upozorio sam vas =)
Dakle, napravimo vim ECS-CommunityEdition/deploy.xml i napravimo optimalne minimalne promjene tako da ECS bude spreman za rad. Popis parametara se može skratiti, ali ja sam to napravio ovako:
- licensed_accepted: true Ne morate ga mijenjati, tada će se od vas prilikom implementacije izričito tražiti da ga prihvatite i prikazat će vam se zgodna fraza. Možda je ovo čak i uskršnje jaje.
- Odkomentirajte retke autonames: i custom: Unesite barem jedno željeno ime za čvor - ime hosta bit će zamijenjeno njime tijekom postupka instalacije.
- install_node: 192.168.1.1 Navedite pravi IP čvora. U našem slučaju označavamo isto što i u nmtui
- dns_domain: unesite svoju domenu.
- dns_servers: unesite svoj dns.
- ntp_servers: možete navesti bilo koji. Uzeo sam prvi na koji sam naišao iz bazena 0.pool.ntp.org (postao je 91.216.168.42)
- automatsko imenovanje: prilagođeno Ako ne odkomentirate, mjesec će se zvati Luna.
- ecs_block_devices:
/ dev / sdb
Iz nekog nepoznatog razloga, možda postoji nepostojeći blok uređaj za pohranu /dev/vda - skladišni_pooli:
članovi:
192.168.1.1 Ovdje opet označavamo pravi IP čvora - ecs_block_devices:
/dev/sdb Ponavljamo operaciju izrezivanja nepostojećih uređaja.
Općenito, cijela je datoteka vrlo detaljno opisana u , ali tko će to čitati u ovako smutnom vremenu. Također piše da je minimum dovoljan da navedete IP i masku, ali u mom laboratoriju je takav skup krenuo prilično loše, pa sam ga morao proširiti na gore navedeni.
Nakon izlaska iz uređivača potrebno je pokrenuti update_deploy /home/admin/ECS-CommunityEdition/deploy.yml, a ako je sve ispravno napravljeno, to će biti eksplicitno prijavljeno.
Zatim još morate pokrenuti videoploy, pričekati da se okruženje ažurira, a samu instalaciju možete pokrenuti naredbom ova-step1, a nakon njenog uspješnog završetka naredbom ova-step2. Važno: nemojte ručno zaustavljati skripte! Za neke korake može biti potrebno dosta vremena, možda neće biti dovršeni u prvom pokušaju i može izgledati kao da je sve pokvareno. U svakom slučaju, trebate pričekati da skripta završi prirodnim putem. Na kraju biste trebali vidjeti sličnu poruku.
Sada konačno možemo otvoriti WebUI upravljačku ploču koristeći IP koji znamo. Ako konfiguracija nije promijenjena u fazi, zadani račun bit će root/ChangeMe. Čak možete odmah koristiti našu pohranu kompatibilnu sa S3. Dostupan je na portovima 9020 za HTTP i 9021 za HTTPS. Opet, ako ništa nije promijenjeno, tada access_key: object_admin1 i secret_key: ChangeMeChangeMeChangeMeChangeMeChangeMe.
Ali nemojmo previše žuriti i krenimo redom.
Kada se prvi put prijavite, bit ćete prisiljeni promijeniti lozinku u odgovarajuću, koja je apsolutno točna. Glavna nadzorna ploča iznimno je jasna, pa učinimo nešto zanimljivije od objašnjavanja očitih metrika. Na primjer, kreirajmo korisnika kojeg ćemo koristiti za pristup pohrani. U svijetu pružatelja usluga to se zove stanari. To se radi u Upravljanje > Korisnici > Novi korisnik objekta
Prilikom kreiranja korisnika, od nas se traži da navedemo imenski prostor. Tehnički, ništa nas ne sprječava da ih stvorimo onoliko koliko ima korisnika. I obrnuto. To vam omogućuje neovisno upravljanje resursima za svakog stanara.
Sukladno tome odabiremo funkcije koje su nam potrebne i generiramo korisničke ključeve. S3/Atmos će mi biti dovoljan. I ne zaboravite spremiti ključ 😉
Korisnik je kreiran, sada je vrijeme da mu dodijelimo kantu. Idite na Upravljanje > Kanta i ispunite potrebna polja. Ovdje je sve jednostavno.
Sada imamo sve spremno za sasvim borbenu upotrebu naše S3 pohrane.
Postavljanje Veeama
Dakle, kao što se sjećamo, jedna od glavnih upotreba pohrane objekata je dugoročna pohrana informacija kojima se rijetko pristupa. Idealan primjer je potreba za pohranjivanjem sigurnosnih kopija na udaljenom mjestu. U Veeam Backup & Replication ova se značajka naziva Capacity Tier.
Počnimo s postavljanjem dodavanjem našeg Dell ECS CE Veeam sučelju. Na kartici Backup Infrastructure, pokrenite Add New Repository Wizard i odaberite Object Storage.
Izaberimo zbog čega je sve počelo - S3 kompatibilan.
U prozoru koji se pojavi upišite željeno ime i idite na korak Račun. Ovdje morate navesti točku usluge u obrascu , regija se može ostaviti kakva jest i može se dodati stvoreni korisnik. Vratni poslužitelj je neophodan ako se vaša pohrana nalazi na udaljenom mjestu, ali ovo je već tema za optimizaciju infrastrukture i zaseban članak, pa je ovdje možete slobodno preskočiti.
Ako je sve ispravno navedeno i konfigurirano, pojavit će se upozorenje o certifikatu, a zatim prozor s kantom u kojoj možete kreirati mapu za naše datoteke.
Prolazimo kroz čarobnjaka do kraja i uživamo u rezultatu.
Sljedeći korak je ili stvaranje novog Scale-out repozitorija sigurnosne kopije ili dodavanje našeg S3 postojećem - koristit će se kao razina kapaciteta za arhivsku pohranu. U trenutnom izdanju ne postoji funkcija za izravno korištenje pohrane kompatibilne sa S3, poput običnog repozitorija. Previše prilično neočitih problema treba riješiti da bi se to dogodilo, ali sve je moguće.
Idite na postavke repozitorija i omogućite razinu kapaciteta. Tamo je sve transparentno, ali postoji zanimljiva nijansa: ako želite da se svi podaci pošalju u pohranu objekta što je prije moguće, samo je postavite na 0 dana.
Nakon što prođete kroz čarobnjaka, ako ne želite čekati, možete pritisnuti ctrl+RMB na repozitoriju, nasilno pokrenuti Tiering posao i gledati kako grafovi puze.
To je sve za sada. Mislim da sam uspio u zadatku da pokažem da blok pohranjivanje nije tako strašno kao što ljudi misle. Da, postoje rješenja i opcije za karavan i mala kolica, ali ne možete sve pokriti u jednom članku. Pa podijelimo svoje iskustvo u komentarima.
Izvor: www.habr.com