Fyrsta stöðuga útgáfan af tólinu til að hlaða niður GNU vefefni Wget2

Eftir þriggja og hálfs árs þróun hefur fyrsta stöðuga útgáfan af GNU Wget2 verkefninu verið kynnt, þróa algjörlega endurhannaða útgáfu af forritinu til að gera sjálfvirkt endurtekið niðurhal á GNU Wget efni. GNU Wget2 var hannað og endurskrifað frá grunni og er áberandi fyrir að færa grunnvirkni vefbiðlara inn í libwget bókasafnið, sem hægt er að nota sérstaklega í forritum. Tækið er með leyfi samkvæmt GPLv3+ og bókasafnið er með leyfi samkvæmt LGPLv3+.

Í stað þess að endurvinna smám saman núverandi kóðagrunn var ákveðið að endurgera allt frá grunni og stofna sérstaka Wget2 útibú til að útfæra hugmyndir um endurskipulagningu, auka virkni og gera breytingar sem brjóta eindrægni. Að undanskildum afskriftinni á FTP samskiptareglunum og WARC sniðinu getur wget2 virkað sem gagnsæ skipti fyrir klassíska wget tólið í flestum aðstæðum.

Hins vegar, wget2 hefur einhvern skjalfestan mun á hegðun, býður upp á um 30 valkosti til viðbótar og hættir að styðja nokkra tugi valkosta. Þar með talið vinnsla á slíkum valkostum eins og „-spyrja-lykilorð“, „-haus“, „-útiloka-möppur“, „-ftp*“, „-warc*“, „-takmarka-hraði“, „-relative“ hefur verið stöðvaði " og "--aftengja".

Helstu nýjungar eru ma:

  • Færir virkni í libwget bókasafnið.
  • Umskipti yfir í fjölþráða arkitektúr.
  • Geta til að koma á mörgum tengingum samhliða og hlaða niður á marga þræði. Það er líka hægt að samsíða niðurhali á einni skrá sem er skipt í blokkir með því að nota „-chunk-size“ valkostinn.
  • Stuðningur við HTTP/2 samskiptareglur.
  • Notaðu If-Modified-Since HTTP hausinn til að hlaða aðeins niður breyttu gögnunum.
  • Skiptu yfir í að nota ytri bandbreiddartakmarkanir eins og trickle.
  • Stuðningur við Accept-Encoding haus, þjappað gagnaflutning og brotli, zstd, lzip, gzip, deflate, lzma og bzip2 þjöppunaralgrím.
  • Stuðningur við TLS 1.3, OCSP (Online Certificate Status Protocol) til að athuga afturkölluð skírteini, HSTS (HTTP Strict Transport Security) kerfi til að þvinga fram tilvísun til HTTPS og HPKP (HTTP Public Key Pinning) til að binda vottorð.
  • Geta til að nota GnuTLS, WolfSSL og OpenSSL sem bakenda fyrir TLS.
  • Stuðningur við hraðopnun TCP tenginga (TCP FastOpen).
  • Innbyggður Metalink sniðstuðningur.
  • Stuðningur við alþjóðavædd lén (IDNA2008).
  • Hæfni til að vinna samtímis í gegnum nokkra proxy-þjóna (einn straumur verður hlaðinn í gegnum einn proxy og hinn í gegnum annan).
  • Innbyggður stuðningur við fréttastrauma á Atom og RSS sniðum (til dæmis til að skanna og hlaða niður tenglum). Hægt er að hlaða niður RSS/Atom gögnum úr staðbundinni skrá eða yfir netið.
  • Stuðningur við að vinna vefslóðir úr vefkortum. Framboð á þáttara til að draga út tengla úr CSS og XML skrám.
  • Stuðningur við 'include' tilskipunina í stillingarskrám og dreifingu stillinga yfir nokkrar skrár (/etc/wget/conf.d/*.conf).
  • Innbyggt skyndiminniskerfi fyrir DNS fyrirspurnir.
  • Möguleiki á að endurkóða efni með því að breyta kóðun skjalsins.
  • Gera grein fyrir „robots.txt“ skránni við endurkvæmt niðurhal.
  • Áreiðanlegur skrifahamur með fsync() símtali eftir að gögn hafa verið vistuð.
  • Hæfni til að halda áfram truflunum TLS lotum, sem og skyndiminni og vista TLS lotu færibreytur í skrá.
  • "--inntaksskrá-" ham til að hlaða vefslóðum sem koma í gegnum venjulega inntaksstrauminn.
  • Athugun á umfangi vafrakökunnar gegn skránni yfir viðskeyti almennings (Public Suffix List) til að einangra frá hvor öðrum mismunandi síður sem hýstar eru á sama annars stigs léni (til dæmis „a.github.io“ og „b.github. io").
  • Styður niðurhal á ICEcast/SHOUTcast streymi.

Heimild: opennet.ru

Bæta við athugasemd