Lëshimi i parë stabil i utilitetit për shkarkimin e përmbajtjes web GNU Wget2

Pas pas tre viteve zhvillimi është prezantuar versioni i parë stabil i projektit GNU Wget2, i cili zhvillon një variant të ri të programit për automatizimin e shkarkimeve recursive të përmbajtjeve nga GNU Wget. GNU Wget2 është projektuar dhe rishkruar nga e para dhe është i njohur për nxjerrjen e funksionaliteteve bazë të klientit web në bibliotekën libwget, e cila mund të përdoret në aplikacione në mënyrë të pavarur. Nga utilitarja ofrohet nën licencën GPLv3+, ndërsa biblioteka nën LGPLv3+.

Përveç rishikimit gradual të kodit ekzistues, u vendos të riorganizohet gjithçka nga e para dhe të krijohet një degë e veçantë Wget2 për të realizuar ide për restrukturimin, zgjerimin e funksionalitetit dhe kryerjen e ndryshimeve që dëmtojnë përputhshmërisë. Përveç ndalimit të mbështetjes për protokollin FTP dhe formatin WARC, wget2 në shumicën e situatave mund të shërbejë si një zëvendësim transparent i utilitarit klasik wget.

NĂ« kĂ«tĂ« mĂ«nyrĂ« wget2 ka disa dallime tĂ« dokumentuara nĂ« sjellje, ofron rreth 30 mundĂ«si shtesĂ« dhe ndalon mbĂ«shtetje pĂ«r disa dhjetĂ«ra opsione. NĂ« mes tyre Ă«shtĂ« ndaluar pĂ«rpunimi i opsioneve si "—ask-password", "—header", "—exclude-directories", "—ftp*", "—warc*", "—limit-rate", "—relative" dhe "—unlink".

Disa nga risitë kryesore përfshijnë:

  • Nxjerrja e funksionalitetit nĂ« bibliotekĂ«n libwget.
  • Kalimi nĂ« njĂ« arkitekturĂ« multi-thread.
  • MundĂ«sia pĂ«r tĂ« instaluar disa lidhje paralelisht dhe pĂ«r tĂ« shkarkuar nĂ« disa copa. Kjo pĂ«rfshin mundĂ«sinĂ« pĂ«r tĂ« bĂ«rĂ« shkarkimin e njĂ« skedari njĂ«kohĂ«sisht duke e ndarĂ« nĂ« blloqe me opsionin "—chunk-size".
  • MbĂ«shtetje pĂ«r protokollin HTTP/2.
  • PĂ«rdorimi i header-it HTTP If-Modified-Since pĂ«r tĂ« shkarkuar vetĂ«m tĂ« dhĂ«nat qĂ« kanĂ« ndryshuar.
  • Kalimi nĂ« pĂ«rdorimin e kufizuesve tĂ« jashtĂ«m tĂ« lĂ«vizshmĂ«risĂ«, siç Ă«shtĂ« trickle.
  • MbĂ«shtetje pĂ«r headerin Accept-Encoding, transmetimin e tĂ« dhĂ«nave nĂ« formĂ« tĂ« kompresuar dhe algoritmet e kompresimit brotli, zstd, lzip, gzip, deflate, lzma dhe bzip2.
  • MbĂ«shtetje pĂ«r TLS 1.3, protokollin OCSP (Online Certificate Status Protocol) pĂ«r verifikimin e certifikatave tĂ« revokuara, mekanizmin HSTS (HTTP Strict Transport Security) pĂ«r tĂ« detyruar ridrejtimin nĂ« HTTPS dhe HPKP (HTTP Public Key Pinning) pĂ«r lidhjen e certifikatave.
  • MundĂ«sia pĂ«r tĂ« pĂ«rdorur GnuTLS, WolfSSL dhe OpenSSL si backends pĂ«r TLS.
  • MbĂ«shtetje pĂ«r mĂ«nyrĂ«n e hapjes sĂ« shpejtĂ« tĂ« lidhjeve TCP (TCP FastOpen).
  • MbĂ«shtetje tĂ« integruar pĂ«r formatin Metalink.
  • MbĂ«shtetje pĂ«r ndĂ«rkombĂ«tarizimin emrash domenesh (IDNA2008).
  • MundĂ«si pĂ«r tĂ« punuar nĂ« tĂ« njĂ«jtĂ«n kohĂ« pĂ«rmes disa proxy-ve.serverĂ«sh (njĂ« rrjedh do tĂ« ngarkohet pĂ«rmes njĂ« proxy, ndĂ«rsa tjetra pĂ«rmes njĂ« tjetĂ«r).
  • MbĂ«shtetje e ndĂ«rtuar pĂ«r kanale lajmesh nĂ« formate Atom dhe RSS (pĂ«r shembull, pĂ«r skanimin dhe shkarkimin e lidhjeve). TĂ« dhĂ«nat RSS/Atom mund tĂ« ngarkohen nga njĂ« skedar lokal ose pĂ«rmes rrjetit.
  • MbĂ«shtetje pĂ«r nxjerrjen e URL nga skedarĂ«t Sitemap. Prania e parserĂ«ve pĂ«r nxjerrjen e lidhjeve nga skedarĂ«t CSS dhe XML.
  • MbĂ«shtetje pĂ«r direktivĂ«n ‘include’ nĂ« skedarĂ«t e konfigurimit dhe shpĂ«rndarjen e cilĂ«simeve nĂ« disa skedarĂ« (/etc/wget/conf.d/*.conf).
  • MekanizĂ«m i ndĂ«rtuar pĂ«r keqkuptimin e kĂ«rkesave DNS.
  • MundĂ«sia pĂ«r tĂ« koduar pĂ«rmbajtjen me ndĂ«rrimin e kodit tĂ« dokumentit.
  • Marrja parasysh e skedarit ‘robots.txt’ gjatĂ« shkarkimeve rekurzive.
  • Rekordim i besueshĂ«m me thirrjen fsync() pas ruajtjes sĂ« tĂ« dhĂ«nave.
  • MundĂ«sia pĂ«r tĂ« rinisur seancat TLS tĂ« ndĂ«rprera, si dhe pĂ«r keqkuptimin dhe ruajtjen nĂ« njĂ« skedar tĂ« parametrave tĂ« seancĂ«s TLS.
  • Regjimi ‘—input-file —’ pĂ«r shkarkimin e URL-ve qĂ« vijnĂ« pĂ«rmes rrjedhĂ«s standarde tĂ« hyrjes.
  • Kontrolli i skopit tĂ« Cookie-ve sipas katalogut tĂ« sufikseve publik (Public Suffix List) pĂ«r izolimin e njĂ«ri-tjetrit tĂ« faqeve tĂ« ndryshme, tĂ« vendosura nĂ« tĂ« njĂ«jtin domain tĂ« nivelit tĂ« dytĂ« (p.sh., ‘a.github.io’ dhe ‘b.github.io’).
  • MbĂ«shtetje pĂ«r shkarkimin e transmetimit nĂ« formate ICEcast / SHOUTcast.

Burimi: opennet.ru

Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster