Eisiúint an ardáin do phróiseáil sonraí dáilte Apache Hadoop 3.3

Tar éis bliain go leith d'fhorbairt, an Apache Software Foundation foilsithe scaoileadh Íosluchtaigh Apache Hadoop 3.3.0, ardán saor in aisce chun próiseáil dáilte líon mór sonraí a eagrú ag baint úsáide as an paraidím léarscáil/laghdaigh, ina bhfuil an tasc roinnte ina go leor blúirí ar leithligh níos lú, agus is féidir gach ceann acu a sheoladh ar nód braisle ar leith. Is féidir le stóráil Hadoop-bhunaithe span na mílte nóid agus tá exabytes sonraí.

Áirítear le Hadoop cur i bhfeidhm Chóras Comhad Dáilte Hadoop (HDFS), a sholáthraíonn cúltaca sonraí go huathoibríoch agus atá optamaithe le haghaidh feidhmchláir MapReduce. Chun rochtain ar shonraí i stóráil Hadoop a shimpliú, forbraíodh bunachar sonraí HBase agus an Muc teanga atá cosúil le SQL, ar cineál SQL é do MapReduce, ar féidir le roinnt ardán Hadoop a gcuid ceisteanna a chomhthreomharú agus a phróiseáil. Meastar go bhfuil an tionscadal iomlán cobhsaí agus réidh le haghaidh oibriú tionsclaíoch. Úsáidtear Hadoop go gníomhach i dtionscadail mhóra thionsclaíocha, ag soláthar cumais atá cosúil leis an ardán Google Bigtable/GFS/MapReduce, agus tá Google go hoifigiúil tharmligthe Tá sé de cheart ag Hadoop agus tionscadail Apache eile teicneolaíochtaí atá clúdaithe ag paitinní a bhaineann leis an modh MapReduce a úsáid.

Tá Hadoop sa chéad áit i measc stórtha Apache i dtéarmaí líon na n-athruithe a rinneadh agus sa chúigiú háit i dtéarmaí méid an bhunachair (thart ar 4 mhilliún líne de chód). I measc na ngníomhartha móra Hadoop tá Netflix (stóráiltear níos mó ná 500 billiún imeacht in aghaidh an lae), Twitter (stórálann braisle de 10 míle nóid níos mó ná zettabyte sonraí i bhfíor-am agus próiseálann sé níos mó ná 5 billiún seisiún in aghaidh an lae), Facebook (braisle de 4 mhíle nód stórálann níos mó ná 300 petabytes agus tá méadú laethúil de 4 PB in aghaidh an lae).

An príomh- athruithe in Apache Hadoop 3.3:

  • Tacaíocht bhreise d'ardáin atá bunaithe ar ailtireacht ARM.
  • Cur i bhfeidhm na formáide Protabuf (Maoláin Prótacail), a úsáidtear chun sonraí struchtúrtha sraitheach, a nuashonrú chun 3.7.1 a scaoileadh mar gheall ar dheireadh shaolré an bhrainse protobuf-2.5.0.
  • Leathnaíodh cumais an chónascaire S3A: cuireadh tacaíocht le haghaidh fíordheimhnithe ag baint úsáide as comharthaí (Comhartha Toscaireachta), tacaíocht fheabhsaithe do fhreagraí taisceadh le cód 404, méadú ar fheidhmíocht S3guard, agus iontaofacht oibriúcháin méadaithe.
  • Réitíodh fadhbanna maidir le tiúnadh uathoibríoch i gcóras comhaid ABFS.
  • Tacaíocht dhúchasach curtha leis do chóras comhaid Tencent Cloud COS chun rochtain a fháil ar stóráil réad COS.
  • Cuireadh tacaíocht iomlán do Java 11 leis.
  • Tá cur i bhfeidhm HDFS RBF (Cónaidhm bunaithe ar Ródairí) cobhsaithe. Cuireadh rialuithe slándála leis an Ródaire HDFS.
  • Cuireadh an tseirbhís Rún DNS leis don chliant chun freastalaithe a chinneadh trí DNS de réir ainmneacha óstach, rud a ligeann duit a dhéanamh gan na hóstach go léir a liostú sna socruithe.
  • Cuireadh tacaíocht sceidealaithe seolta leis coimeádáin faille trí bhainisteoir acmhainní láraithe (ResourceManager), lena n-áirítear an cumas coimeádáin a dháileadh agus ualach gach nód á gcur san áireamh.
  • Cuireadh eolaire feidhmchlár inchuardaithe YARN (Yet Another Resource Negotiator) leis.

Foinse: oscailtenet.ru

Add a comment