Lëshimi i parë stabil i utilitarit për shkarkimin e përmbajtjes web GNU Wget2

Pas tre tre vite zhvillimi u prezantua versioni i parë stabil i projektit GNU Wget2, duke zhvilluar një variant tërësisht të riparuar të programit për automatizimin e shkarkimit recursiv të përmbajtjes GNU Wget. GNU Wget2 është projektuar dhe shkruar nga e para dhe është i njohur për nxjerrjen e funksionalitetit themelor të klientit web në bibliotekën libwget, e cila mund të përdoret ndaras në aplikacione. Utilita ofrohet nën licencën GPLv3+, ndërsa biblioteka nën LGPLv3+.

Në vend që të riparonim gradualisht bazën ekzistuese të kodit, u vendos të rishkruhej gjithçka nga fillimi dhe të krijohej një degë e veçantë Wget2 për realizimin e ideve mbi restrukturimin, zgjerimin e funksionalitetit dhe ndryshimet që e thyejnë përputhshmërinë. Përveç ndalimit të mbështetjes për protokollin FTP dhe formatin WARC, wget2 në shumicën e situatave mund të shërbejë si një zëvendësim transparent për utilitarin klasik wget.

wget2 ka disa diferenca tĂ« dokumentuara nĂ« sjellje, ofron rreth 30 opsione shtesĂ« dhe ndalon mbĂ«shtetje pĂ«r disa dhjetĂ«ra opsione. NjĂ« nga to Ă«shtĂ« ndalimi i procesimit tĂ« opsioneve si «—ask-password», «—header», «—exclude-directories», «—ftp*», «—warc*», «—limit-rate», «—relative» dhe «—unlink».

Nga novacionet kryesore mund të përmendim:

  • Nxjerrja e funksionalitetit nĂ« bibliotekĂ«n libwget.
  • Kalimi nĂ« njĂ« arkitekturĂ« me shumĂ« thirrje.
  • MundĂ«sia pĂ«r tĂ« instaluar paralelisht disa lidhje dhe pĂ«r tĂ« shkarkuar nĂ« disa rrjedha. PĂ«rfshirĂ« ndarjen e shkarkimit tĂ« njĂ« skedari duke e ndarĂ« atĂ« nĂ« blloqe me opsionin «—chunk-size».
  • MbĂ«shtetje pĂ«r protokollin HTTP/2.
  • PĂ«rdorimi i titullit HTTP If-Modified-Since pĂ«r tĂ« shkarkuar vetĂ«m tĂ« dhĂ«nat qĂ« janĂ« ndryshuar.
  • Kalimi nĂ« pĂ«rdorimin e kufizuesve tĂ« jashtĂ«m tĂ« kapacitetit, siç janĂ« trickle.
  • MbĂ«shtetje pĂ«r titullin Accept-Encoding, transferimin e tĂ« dhĂ«nave nĂ« formĂ« tĂ« comprimit dhe algoritme kompresimi si brotli, zstd, lzip, gzip, deflate, lzma dhe bzip2.
  • MbĂ«shtetje pĂ«r TLS 1.3, protokollin OCSP (Protokolli i Statusit tĂ« CertifikatĂ«s nĂ« internet) pĂ«r verifikimin e certifikatave tĂ« anuluara, mekanizmi HSTS (Siguria Strikte e Transportit HTTP) pĂ«r ridrejtimin e detyrueshĂ«m nĂ« HTTPS dhe HPKP (Publikimi i ÇelĂ«sit nĂ« HTTP) pĂ«r lidhjen e certifikatave.
  • MundĂ«sia e pĂ«rdorimit tĂ« GnuTLS, WolfSSL dhe OpenSSL si backenda pĂ«r TLS.
  • MbĂ«shtetje pĂ«r modalitetin e hapjes sĂ« shpejtĂ« tĂ« lidhjeve TCP (TCP FastOpen).
  • MbĂ«shtetje e ndĂ«rtuar pĂ«r formatin Metalink.
  • MbĂ«shtetje pĂ«r internacionalizimin emrave tĂ« domain-eve (IDNA2008).
  • MundĂ«sia pĂ«r tĂ« punuar nĂ« tĂ« njĂ«jtĂ«n kohĂ« pĂ«rmes disa proksiveservera (njĂ« rrjedh do tĂ« ngarkohet pĂ«rmes njĂ« proksi, ndĂ«rsa e dyta pĂ«rmes njĂ« tjetĂ«r).
  • MbĂ«shtetje e ndĂ«rtuar pĂ«r burimet informuese nĂ« formate Atom dhe RSS (p.sh., pĂ«r skanimin dhe ngarkimin e lidhjeve). TĂ« dhĂ«nat RSS/Atom mund tĂ« ngarkohen nga njĂ« skedar lokal ose pĂ«rmes rrjetit.
  • MbĂ«shtetje pĂ«r nxjerrjen e URL-ve nga skedarĂ« Sitemap. Prania e parserĂ«ve pĂ«r nxjerrjen e lidhjeve nga skedarĂ« CSS dhe XML.
  • MbĂ«shtetje pĂ«r direktivĂ«n ‘include’ nĂ« skedarĂ«t e konfigurimit dhe shpĂ«rndarjen e cilĂ«simeve nĂ« disa skedarĂ« (\/etc\/wget\/conf.d\/*.conf).
  • Mekanizmi i ndĂ«rtuar pĂ«r ruajtjen e kĂ«rkesave DNS.
  • MundĂ«sia pĂ«r tĂ« rikoduar pĂ«rmbajtjen me ndryshimin e kodimit tĂ« dokumentit.
  • Konsiderimi i skedarit «robots.txt» gjatĂ« shkarkimeve rekurzive.
  • Rekordi i sigurt me thirrjen fsync() pas ruajtjes sĂ« tĂ« dhĂ«nave.
  • MundĂ«sia pĂ«r rinisjen e seancave TLS tĂ« ndĂ«rprera, si dhe ruajtjen dhe mbetje tĂ« parametrave tĂ« seancĂ«s TLS nĂ« njĂ« skedar.
  • ReĆŸimi «—input-file — » pĂ«r shkarkimin e URL-ve qĂ« vijnĂ« pĂ«rmes rrjedhĂ«s standarde tĂ« hyrjes.
  • Kontrolli i fushĂ«s sĂ« veprimit tĂ« cookie-ve sipas katalogut tĂ« sufikseve publikĂ« tĂ« domain-eve (Public Suffix List) pĂ«r tĂ« izoluar njĂ«ri-tjetrin nga disa site qĂ« janĂ« vendosur nĂ« tĂ« njĂ«jtin domain tĂ« nivelit tĂ« dytĂ« (p.sh. «a.github.io» dhe «b.github.io»).
  • MbĂ«shtetje pĂ«r ngarkimin e transmetimeve nĂ« formatin ICEcast / SHOUTcast.

Burimi: opennet.ru

Bleni hostim tĂ« besueshĂ«m pĂ«r faqe me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Bleni hostim tĂ« besueshĂ«m pĂ«r faqe me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster