Prvé vydanie wZD 1.0.0, kompaktný úložný server pre malé súbory

K dispozícii prvá edícia wZD 1.0.0 - server pre efektívne ukladanie veľkého množstva súborov v kompaktnej forme, ktorá zvonku vyzerá ako bežný WebDAV server. Na skladovanie sa používa upravená verzia BoltDB. Kód projektu je napísaný v Go a distribuovaný pod licenciou BSD.

Server umožňuje výrazne znížiť počet malých súborov na bežných alebo zoskupených súborových systémoch s plnou podporou uzamykania. Vývojár spravovaný klaster wZD ukladá približne 250 miliónov malých súborov rozmiestnených v 15 miliónoch adresárov v klastrovanom FS. MooseFS.

wZD umožňuje presúvať (archivovať) obsahy adresárov do archívov vo formáte BoltDB a následne tieto súbory z týchto archívov distribuovať (alebo ukladať súbory do archívov metódou PUT), čím sa výrazne znižuje počet súborov vo FS a znižuje sa réžia uloženia metadát. Na zvýšenie efektívnosti spracovania veľkých súborov je možné takéto súbory uložiť oddelene od archívov Bolt. Tento prístup vám umožňuje organizovať ukladanie veľkého množstva malých súborov bez toho, aby ste narazili na limit počtu inódov v súborovom systéme.

Prvé vydanie wZD 1.0.0, kompaktný úložný server pre malé súbory

Server je možné použiť aj ako NoSQL databázu pre dáta vo formáte kľúč/hodnota (so shardovaním na základe adresárovej štruktúry) alebo pre distribúciu vopred vygenerovaných html alebo json dokumentov z databázy. Čo sa týka výkonu, nahrávanie a zápis dát pomocou Bolt archívov vedie k zvýšeniu latencie približne o 20-25% pri čítaní a o 40-50% pri zápise. Čím menšia je veľkosť súboru, tým menší je rozdiel v latencii.

Prvé vydanie wZD 1.0.0, kompaktný úložný server pre malé súbory

Hlavné príležitosti:

  • Multithreading;
  • Multiserver, ktorý poskytuje odolnosť voči chybám a vyrovnávanie záťaže;
  • Maximálna transparentnosť pre používateľa alebo vývojára;
  • Podporované metódy HTTP: GET, HEAD, PUT a DELETE;
  • Správa správania pri čítaní a zápise prostredníctvom hlavičiek na strane klienta;
  • Podpora vysoko konfigurovateľných virtuálnych hostiteľov;
  • Podpora integrity dát CRC pri zápise / čítaní;
  • Polodynamické vyrovnávacie pamäte pre minimálnu spotrebu pamäte a optimálne ladenie výkonu siete;
  • Oneskorené balenie dát;
  • Okrem toho je ponúkaný viacvláknový archivátor wZA na presun súborov do archívov Bolt bez zastavenia služby.

Niektoré obmedzenia aktuálneho vydania: žiadna podpora pre Multipart, metódu POST, protokol HTTPS, väzby na programovacie jazyky, rekurzívne mazanie adresárov, žiadna podpora pripájania štruktúry do súborového systému cez WebDAV alebo FUSE, súbory sú uložené pod jedným používateľom systému . Formát úložiska je špecifický pre architektúru a nie je prenosný medzi systémami Little Endian a Big Endian. Napriek tomu, že server wZD implementuje podporu protokolu HTTP, musíte ho spustiť iba pod rúškom reverzných proxy, ako sú nginx a haproxy.

Zdroj: opennet.ru

Pridať komentár