První vydání wZD 1.0.0, kompaktní úložný server pro malé soubory

Dostupný první vydání wZD 1.0.0 - server pro efektivní ukládání velkého množství souborů v kompaktní podobě, který zvenčí vypadá jako běžný WebDAV server. Pro uložení se používá upravená verze BoltDB. Kód projektu je napsán v Go a distribuovány pod licencí BSD.

Server umožňuje Výrazně snižte počet malých souborů na běžných nebo clusterových souborových systémech s plnou podporou zamykání. Cluster podporovaný vývojáři wZD ukládá asi 250 milionů malých souborů distribuovaných do 15 milionů adresářů v systému souborů clusteru. MooseFS.

wZD umožňuje přesouvat (archivovat) obsah adresářů do archivů ve formátu BoltDB a následně tyto soubory z těchto archivů distribuovat (nebo umisťovat soubory do archivů metodou PUT), což výrazně snižuje počet souborů v souborovém systému a snížení režie na ukládání metadat. Pro zvýšení efektivity zpracování velkých souborů lze takové soubory ukládat odděleně od archivů Bolt. Tento přístup vám umožňuje organizovat úložiště velkého množství malých souborů, aniž byste byli omezeni limitem počtu inodů v systému souborů.

První vydání wZD 1.0.0, kompaktní úložný server pro malé soubory

Server lze také použít jako NoSQL databázi pro data ve formátu klíč/hodnota (se shardováním na základě adresářové struktury) nebo pro distribuci předem vygenerovaných html nebo json dokumentů z databáze. Pokud jde o výkon, odesílání a zápis dat pomocí archivů Bolt má za následek zvýšení latence přibližně o 20–25 % při čtení a o 40–50 % při zápisu. Čím menší je velikost souboru, tím menší je rozdíl v latenci.

První vydání wZD 1.0.0, kompaktní úložný server pro malé soubory

hlavní možnosti:

  • Vícevláknové zpracování;
  • Multiserver poskytující odolnost proti chybám a vyvažování zátěže;
  • Maximální transparentnost pro uživatele nebo vývojáře;
  • Podporované metody HTTP: GET, HEAD, PUT a DELETE;
  • Řízení chování při čtení a zápisu prostřednictvím klientských hlaviček;
  • Podpora flexibilních virtuálních hostitelů;
  • Podpora integrity dat CRC při zápisu/čtení;
  • Polodynamické vyrovnávací paměti pro minimální spotřebu paměti a optimální vyladění výkonu sítě;
  • Odložené balení dat;
  • Kromě toho je nabízen vícevláknový archivátor wZA přesunout soubory do archivů Bolt bez zastavení služby.

Některá omezení aktuální verze: chybí podpora pro Multipart, metodu POST, protokol HTTPS, vazby na programovací jazyky, rekurzivní mazání adresářů, chybí podpora pro připojení struktury k systému souborů přes WebDAV nebo FUSE, soubory jsou uloženy pod jedním uživatelem systému. Formát úložiště je specifický pro architekturu a není přenosný mezi systémy Little Endian a Big Endian. Navzdory skutečnosti, že server wZD implementuje podporu pro protokol HTTP, musí být spuštěn pouze pod rouškou reverzních proxy, jako jsou nginx a haproxy.

Zdroj: opennet.ru

Přidat komentář