Apache Bigtop epi w ap chwazi yon distribisyon Hadoop jodi a

Apache Bigtop epi w ap chwazi yon distribisyon Hadoop jodi a

Li pwobableman pa sekrè ke ane pase a te yon ane nan gwo chanjman pou Apache Hadoop. Ane pase a, Cloudera ak Hortonworks fizyone (esansyèlman, akizisyon lèt la), ak Mapr, akòz pwoblèm finansye grav, te vann bay Hewlett Packard. Men, si kèk ane anvan, nan ka enstalasyon lokal yo, chwa a souvan te dwe fèt ant Cloudera ak Hortonworks, jodi a, malè, nou pa gen chwa sa a. Yon lòt sipriz te lefèt ke Cloudera te anonse nan mwa fevriye ane sa a ke li ta sispann lage asanble binè nan distribisyon li yo nan depo piblik la, epi yo disponib kounye a sèlman atravè yon abònman peye. Natirèlman, li toujou posib pou telechaje dènye vèsyon CDH ak HDP ki te pibliye anvan fen 2019, epi yo espere sipò pou youn a de ane. Men, kisa pou w fè apre? Pou moun ki te deja peye pou yon abònman, pa gen anyen ki chanje. Ak pou moun ki pa vle chanje nan vèsyon an peye nan distribisyon an, men an menm tan an vle pou kapab resevwa dènye vèsyon yo nan eleman gwoup, osi byen ke plak ak lòt mizajou, nou te prepare atik sa a. Nan li nou pral konsidere opsyon posib pou soti nan sitiyasyon sa a.

Atik la se plis pase yon revizyon. Li pa pral genyen yon konparezon nan distribisyon ak yon analiz detaye sou yo, epi pa pral gen resèt pou enstale ak konfigirasyon yo. Kisa ki pral rive? Nou pral yon ti tan pale sou yon distribisyon tankou Arenadata Hadoop, ki jis merite atansyon nou akòz disponiblite li yo, ki trè ra jodi a. Lè sa a, nou pral pale sou Vanilla Hadoop, sitou sou ki jan li ka "kwit" lè l sèvi avèk Apache Bigtop. Pare? Lè sa a, akeyi nan chat.

Arenadata Hadoop

Apache Bigtop epi w ap chwazi yon distribisyon Hadoop jodi a

Sa a se yon twous distribisyon konplètman nouvo epi, kòm ankò, ti kras li te ye nan devlopman domestik. Malerezman, nan moman sa a sou Habré gen sèlman atik sa a.

Ou ka jwenn plis enfòmasyon sou ofisyèl la Online pwojè. Dènye vèsyon distribisyon an baze sou Hadoop 3.1.2 pou vèsyon 3, ak 2.8.5 pou vèsyon 2.

Ou ka jwenn enfòmasyon sou plan an isit la.

Apache Bigtop epi w ap chwazi yon distribisyon Hadoop jodi a
Arenadata Cluster Manadjè Entèfas

Pwodwi debaz Arenadata a se Manadjè Cluster Arenadata (ADCM), ki itilize pou enstale, konfigirasyon ak kontwole divès kalite solisyon lojisyèl konpayi. ADCM distribye gratis, epi fonksyonalite li yo elaji lè yo ajoute pakèt, ki se yon seri liv ansible. Pakèt yo divize an de kalite: antrepriz ak kominote. Dènye yo disponib pou telechaje gratis sou sit entènèt Arenadata. Li posib tou pou devlope pake pwòp ou a epi konekte li nan ADCM.

Pou deplwaman ak jesyon Hadoop 3, yo ofri yon vèsyon kominotè nan pake a ansanm ak ADCM, men pou Hadoop 2 gen sèlman Apache Ambari kòm yon altènatif. Kòm pou depo ak pakè, yo ouvè a aksè piblik, yo ka telechaje ak enstale nan fason nòmal pou tout eleman nan gwoup la. An jeneral, distribisyon an sanble trè enteresan. Mwen sèten pral gen moun ki abitye ak solisyon tankou Cloudera Manager ak Ambari, epi ki pral renmen ADCM tèt li. Pou kèk moun, li pral tou yon gwo plis ke distribisyon an enkli nan rejis lojisyèl an pou sibstitisyon enpòte.

Si nou pale sou dezavantaj yo, yo pral menm jan ak pou tout lòt distribisyon Hadoop. Savwa:

  • Sa yo rele "machann lock-in". Sèvi ak egzanp Cloudera ak Hortonworks, nou te deja reyalize ke toujou gen yon risk pou chanje politik konpayi an.
  • Siyifikatif lag dèyè Apache en.

Vaniy Hadoop

Apache Bigtop epi w ap chwazi yon distribisyon Hadoop jodi a

Kòm ou konnen, Hadoop se pa yon pwodwi monolitik, men, an reyalite, yon galaksi antye nan sèvis alantou sistèm distribiye HDFS li yo. Gen kèk moun ki pral gen ase nan yon gwoup dosye. Gen kèk bezwen Hive, lòt moun Presto, ak Lè sa a, gen HBase ak Phoenix; Spark se de pli zan pli itilize. Pou òkestrasyon ak chaj done, pafwa yo jwenn Oozie, Sqoop ak Flume. Men, si pwoblèm nan nan sekirite rive, Lè sa a, Kerberos ansanm ak Ranger imedyatman vin nan tèt ou.

Vèsyon binè nan eleman Hadoop yo disponib sou sit entènèt la nan chak nan pwojè yo ekosistèm nan fòm lan nan tarballs. Ou ka telechaje yo epi kòmanse enstalasyon, men ak yon sèl kondisyon: anplis de rasanble pakè poukont yo soti nan binè "kri", ki gen plis chans ou vle fè, ou pa pral gen okenn konfyans nan konpatibilite nan vèsyon yo telechaje nan eleman ak chak. lòt. Opsyon pi pito a se bati lè l sèvi avèk Apache Bigtop. Bigtop pral pèmèt ou bati soti nan depo Apache maven, fè tès ak bati pakè. Men, sa ki trè enpòtan pou nou, Bigtop pral rasanble vèsyon sa yo nan eleman ki pral konpatib youn ak lòt. Nou pral pale sou li an plis detay anba a.

Apache Bigtop

Apache Bigtop epi w ap chwazi yon distribisyon Hadoop jodi a

Apache Bigtop se yon zouti pou bati, anbalaj ak tès yon kantite
pwojè sous louvri, tankou Hadoop ak Greenplum. Bigtop gen anpil
degaje. Nan moman sa a nan ekri a, dènye lage ki estab la te vèsyon 1.4,
ak nan mèt te gen 1.5. Diferan vèsyon de lage itilize diferan vèsyon
konpozan. Pou egzanp, pou 1.4 eleman debaz Hadoop gen vèsyon 2.8.5, ak nan mèt
2.10.0. Konpozisyon konpozan sipòte tou ap chanje. Yon bagay demode ak
non renouvlab la ale, ak nan plas li vini yon bagay nouvo, plis nan demann, ak
li pa nesesèman yon bagay ki soti nan fanmi Apache tèt li.

Anplis de sa, Bigtop gen anpil fouchèt.

Lè nou te kòmanse fè konesans ak Bigtop, nou te premye sezi pa modès li yo, an konparezon ak lòt pwojè Apache, prévalence ak popilarite, osi byen ke yon ti kominote. Sa a soti nan sa a ke gen enfòmasyon minim sou pwodwi a, ak rechèch pou solisyon a pwoblèm ki te parèt sou fowòm ak lis adrès pa ka bay anyen ditou. Okòmansman, li te tounen yon travay difisil pou nou ranpli asanble konplè distribisyon an akòz karakteristik zouti nan tèt li, men nou pral pale sou sa a yon ti kras pita.

Kòm yon teaser, moun ki nan yon sèl fwa te enterese nan pwojè sa yo nan linivè Linux tankou Gentoo ak LFS ka jwenn li nostaljik bèl pou travay ak bagay sa a epi sonje tan "epik" sa yo lè nou menm nou t ap chèche (oswa menm ekri) ebuilds ak regilyèman rebati Mozilla ak nouvo plak.

Avantaj nan gwo nan Bigtop se ouvèti a ak adaptabilite nan zouti yo sou ki li baze. Li baze sou Gradle ak Apache Maven. Gradle se byen li te ye kòm zouti Google itilize pou konstwi Android. Li fleksib, epi, jan yo di, "batay teste." Maven se yon zouti estanda pou bati pwojè nan Apache tèt li, e depi pi fò nan pwodwi li yo lage atravè Maven, li pa t 'kapab fè san li isit la tou. Li vo peye atansyon sou POM (modèl objè pwojè) - fichye xml "fondamental" ki dekri tout bagay ki nesesè pou Maven travay ak pwojè ou a, alantou ki tout travay yo bati. Egzakteman nan
pati nan Maven e gen kèk obstak ke premye fwa itilizatè Bigtop anjeneral rankontre.

Pratike

Se konsa, ki kote ou ta dwe kòmanse? Ale nan paj download la epi telechaje dènye vèsyon ki estab la kòm yon achiv. Ou ka jwenn tou binè zafè kolekte pa Bigtop la. By wout la, nan mitan manadjè yo pake komen, YUM ak APT yo sipòte.

Altènativman, ou ka telechaje dènye lage ki estab dirèkteman nan
github:

$ git clone --branch branch-1.4 https://github.com/apache/bigtop.git

Klonaj nan "bigtop"...

remote: Enumerating objects: 46, done.
remote: Counting objects: 100% (46/46), done.
remote: Compressing objects: 100% (41/41), done.
remote: Total 40217 (delta 14), reused 10 (delta 1), pack-reused 40171
Получение объектов: 100% (40217/40217), 43.54 MiB | 1.05 MiB/s, готово.
Определение изменений: 100% (20503/20503), готово.
Updating files: 100% (1998/1998), готово.

Anyè ./bigtop ki kapab lakòz sanble yon bagay tankou sa a:

./bigtop-bigpetstore — aplikasyon demonstrasyon, egzanp sentetik
./bigtop-ci — CI toolkit, jenkins
./bigtop-data-generators — jenerasyon done, sentetik, pou tès lafimen, elatriye.
./bigtop-deploy - zouti deplwaman
./bigtop-packages — konfigirasyon, scripts, plak pou asanble, pati prensipal la nan zouti a
./bigtop-test-framework - fondasyon tès la
./bigtop-tests — tès yo tèt yo, chaj ak lafimen
./bigtop_toolchain — anviwònman pou asanble, prepare anviwònman an pou zouti a travay
./build - bati anyè k ap travay
./dl — anyè pou sous telechaje
./docker — bati nan imaj docker, tès
./gradle - gradle konfigirasyon
./output - anyè a kote bati zafè ale
./provisioner - pwovizyon

Bagay ki pi enteresan pou nou nan etap sa a se konfigirasyon prensipal la ./bigtop/bigtop.bom, nan ki nou wè tout konpozan sipòte ak vèsyon. Sa a se kote nou ka presize yon vèsyon diferan nan pwodwi a (si nou toudenkou vle eseye bati li) oswa yon vèsyon bati (si, pou egzanp, nou te ajoute yon patch enpòtan).

Sou-anyè a tou se yon gwo enterè ./bigtop/bigtop-packages, ki se dirèkteman gen rapò ak pwosesis la nan rasanble eleman ak pakè ak yo.

Se konsa, nou telechaje achiv la, depake li oswa fè yon script nan github, èske nou ka kòmanse bati?

Non, ann prepare anviwònman an an premye.

Prepare anviwònman an

E la nou bezwen en pti retret. Pou konstwi prèske nenpòt pwodwi plis oswa mwens konplèks, ou bezwen yon sèten anviwònman - nan ka nou an, sa a se JDK a, menm bibliyotèk yo pataje, dosye header, elatriye, zouti, pou egzanp, foumi, ivy2 ak plis ankò. Youn nan opsyon yo jwenn anviwònman ou bezwen pou Bigtop se enstale eleman ki nesesè yo sou lame a bati. Mwen ta ka mal nan kwonoloji a, men li sanble ke ak vèsyon 1.0 te gen tou yon opsyon yo bati nan pre-konfigirasyon ak aksesib imaj Docker, ki ka jwenn isit la.

Kòm pou prepare anviwònman an, gen yon asistan pou sa a - mannken.

Ou ka itilize kòmandman sa yo, kouri soti nan anyè rasin lan
zouti, ./bigtop:

./gradlew toolchain
./gradlew toolchain-devtools
./gradlew toolchain-puppetmodules

Oswa dirèkteman atravè mannken:

puppet apply --modulepath=<path_to_bigtop> -e "include bigtop_toolchain::installer"
puppet apply --modulepath=<path_to_bigtop> -e "include bigtop_toolchain::deployment-tools"
puppet apply --modulepath=<path_to_bigtop> -e "include bigtop_toolchain::development-tools"

Malerezman, difikilte yo ka parèt deja nan etap sa a. Konsèy jeneral isit la se sèvi ak yon distribisyon sipòte, ajou sou lame a bati, oswa eseye wout la docker.

Asanble

Kisa nou ka eseye kolekte? Repons kesyon sa a pral bay pa pwodiksyon kòmandman an

./gradlew tasks

Nan seksyon an pake travay gen yon kantite pwodwi ki se zafè final Bigtop.
Yo ka idantifye pa sifiks -rpm oswa -pkg-ind (nan ka bati
nan docker). Nan ka nou an, pi enteresan an se Hadoop.

Ann eseye bati nan anviwònman an nan sèvè bati nou an:

./gradlew hadoop-rpm

Bigtop tèt li pral telechaje sous ki nesesè yo bezwen pou yon eleman espesifik epi kòmanse asanble. Kidonk, operasyon zouti a depann sou depo Maven ak lòt sous, se sa ki, li mande pou aksè entènèt.

Pandan operasyon an, pwodiksyon estanda pwodwi. Pafwa li ak mesaj erè ka ede w konprann sa ki mal. E pafwa ou bezwen jwenn plis enfòmasyon. Nan ka sa a li vo ajoute agiman --info oswa --debug, epi li ka itil tou –stacktrace. Gen yon fason pratik jenere yon seri done pou aksè ki vin apre nan lis adrès, kle a --scan.

Avèk èd li, bigtop pral kolekte tout enfòmasyon yo epi mete l nan gradle, apre sa li pral bay yon lyen,
pa swiv sa, yon moun konpetan ap kapab konprann poukisa asanble a echwe.
Tanpri sonje ke opsyon sa a ka ekspoze enfòmasyon ou pa vle, tankou non itilizatè, nœuds, varyab anviwònman, elatriye, kidonk fè atansyon.

Souvan erè yo se yon konsekans enkapasite a jwenn nenpòt eleman ki nesesè pou asanble. Tipikman, ou ka ranje pwoblèm nan lè w kreye yon patch pou ranje yon bagay nan sous yo, pou egzanp, adrès nan pom.xml nan anyè rasin sous yo. Sa a se fè pa kreye epi mete li nan anyè ki apwopriye a ./bigtop/bigtop-packages/src/common/oozie/ patch, pou egzanp, nan fòm lan patch2-fix.diff.

--- a/pom.xml
+++ b/pom.xml
@@ -136,7 +136,7 @@
<repositories>
<repository>
<id>central</id>
- <url>http://repo1.maven.org/maven2</url>
+ <url>https://repo1.maven.org/maven2</url>
<snapshots>
<enabled>false</enabled>
</snapshots>

Gen plis chans, nan moman an nan lekti atik sa a, ou pa pral oblije fè pi wo a ranje tèt ou.

Lè w ap prezante nenpòt plak ak chanjman nan mekanis asanble a, ou ka bezwen "reset" asanble a lè l sèvi avèk lòd netwayaj la:

./gradlew hadoop-clean
> Task :hadoop_vardefines
> Task :hadoop-clean
BUILD SUCCESSFUL in 5s
2 actionable tasks: 2 executed

Operasyon sa a pral dewoule tout chanjman nan asanble eleman sa a, apre yo fin fè asanble a ankò. Fwa sa a, nou pral eseye bati pwojè a nan yon imaj docker:

./gradlew -POS=centos-7 -Pprefix=1.2.1 hadoop-pkg-ind
> Task :hadoop-pkg-ind
Building 1.2.1 hadoop-pkg on centos-7 in Docker...
+++ dirname ./bigtop-ci/build.sh
++ cd ./bigtop-ci/..
++ pwd
+ BIGTOP_HOME=/tmp/bigtop
+ '[' 6 -eq 0 ']'
+ [[ 6 -gt 0 ]]
+ key=--prefix
+ case $key in
+ PREFIX=1.2.1
+ shift
+ shift
+ [[ 4 -gt 0 ]]
+ key=--os
+ case $key in
+ OS=centos-7
+ shift
+ shift
+ [[ 2 -gt 0 ]]
+ key=--target
+ case $key in
+ TARGET=hadoop-pkg
+ shift
+ shift
+ [[ 0 -gt 0 ]]
+ '[' -z x ']'
+ '[' -z x ']'
+ '[' '' == true ']'
+ IMAGE_NAME=bigtop/slaves:1.2.1-centos-7
++ uname -m
+ ARCH=x86_64
+ '[' x86_64 '!=' x86_64 ']'
++ docker run -d bigtop/slaves:1.2.1-centos-7 /sbin/init
+
CONTAINER_ID=0ce5ac5ca955b822a3e6c5eb3f477f0a152cd27d5487680f77e33fbe66b5bed8
+ trap 'docker rm -f
0ce5ac5ca955b822a3e6c5eb3f477f0a152cd27d5487680f77e33fbe66b5bed8' EXIT
....
много вывода
....
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-hdfs-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-yarn-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-mapreduce-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-hdfs-namenode-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-hdfs-secondarynamenode-2.8.5-
1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-hdfs-zkfc-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-hdfs-journalnode-2.8.5-
1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-hdfs-datanode-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-httpfs-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-yarn-resourcemanager-2.8.5-
1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-yarn-nodemanager-2.8.5-
1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-yarn-proxyserver-2.8.5-
1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-yarn-timelineserver-2.8.5-
1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-mapreduce-historyserver-2.8.5-
1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-client-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-conf-pseudo-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-doc-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-libhdfs-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-libhdfs-devel-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-hdfs-fuse-2.8.5-1.el7.x86_64.rpm
Wrote: /bigtop/build/hadoop/rpm/RPMS/x86_64/hadoop-debuginfo-2.8.5-1.el7.x86_64.rpm
+ umask 022
+ cd /bigtop/build/hadoop/rpm//BUILD
+ cd hadoop-2.8.5-src
+ /usr/bin/rm -rf /bigtop/build/hadoop/rpm/BUILDROOT/hadoop-2.8.5-1.el7.x86_64
Executing(%clean): /bin/sh -e /var/tmp/rpm-tmp.uQ2FCn
+ exit 0
+ umask 022
Executing(--clean): /bin/sh -e /var/tmp/rpm-tmp.CwDb22
+ cd /bigtop/build/hadoop/rpm//BUILD
+ rm -rf hadoop-2.8.5-src
+ exit 0
[ant:touch] Creating /bigtop/build/hadoop/.rpm
:hadoop-rpm (Thread[Task worker for ':',5,main]) completed. Took 38 mins 1.151 secs.
:hadoop-pkg (Thread[Task worker for ':',5,main]) started.
> Task :hadoop-pkg
Task ':hadoop-pkg' is not up-to-date because:
Task has not declared any outputs despite executing actions.
:hadoop-pkg (Thread[Task worker for ':',5,main]) completed. Took 0.0 secs.
BUILD SUCCESSFUL in 40m 37s
6 actionable tasks: 6 executed
+ RESULT=0
+ mkdir -p output
+ docker cp
ac46014fd9501bdc86b6c67d08789fbdc6ee46a2645550ff6b6712f7d02ffebb:/bigtop/build .
+ docker cp
ac46014fd9501bdc86b6c67d08789fbdc6ee46a2645550ff6b6712f7d02ffebb:/bigtop/output .
+ docker rm -f ac46014fd9501bdc86b6c67d08789fbdc6ee46a2645550ff6b6712f7d02ffebb
ac46014fd9501bdc86b6c67d08789fbdc6ee46a2645550ff6b6712f7d02ffebb
+ '[' 0 -ne 0 ']'
+ docker rm -f ac46014fd9501bdc86b6c67d08789fbdc6ee46a2645550ff6b6712f7d02ffebb
Error: No such container:
ac46014fd9501bdc86b6c67d08789fbdc6ee46a2645550ff6b6712f7d02ffebb
BUILD SUCCESSFUL in 41m 24s
1 actionable task: 1 executed

Konstriksyon an te fèt anba CentOS, men yo ka fè tou anba Ubuntu:

./gradlew -POS=ubuntu-16.04 -Pprefix=1.2.1 hadoop-pkg-ind

Anplis de sa nan bati pakè pou divès distribisyon Linux, zouti a ka kreye yon depo ak pakè konpile, pou egzanp:

./gradlew yum

Ou ka sonje tou sou tès lafimen ak deplwaman nan Docker.

Kreye yon gwoup twa nœuds:

./gradlew -Pnum_instances=3 docker-provisioner

Fè tès lafimen nan yon gwoup twa nœuds:

./gradlew -Pnum_instances=3 -Prun_smoke_tests docker-provisioner

Efase yon gwoup:

./gradlew docker-provisioner-destroy

Jwenn kòmandman pou konekte andedan resipyan docker:

./gradlew docker-provisioner-ssh

Montre estati:

./gradlew docker-provisioner-status

Ou ka li plis sou travay Deplwaman nan dokiman an.

Si nou pale sou tès yo, gen yon gwo kantite yo, sitou lafimen ak entegrasyon. Analiz yo depase limit atik sa a. Kite m 'jis di ke rasanble yon twous distribisyon se pa tankou yon travay difisil jan li ta ka sanble nan premye gade. Nou jere yo rasanble ak pase tès sou tout konpozan ke nou itilize nan pwodiksyon nou an, epi tou nou pa te gen okenn pwoblèm deplwaye yo ak fè operasyon debaz nan anviwònman tès la.

Anplis de eleman ki deja egziste nan Bigtop, li posib pou ajoute nenpòt lòt bagay, menm pwòp devlopman lojisyèl ou. Tout bagay sa a se parfe otomatize ak adapte nan konsèp la CI/CD.

Konklizyon

Li evidan, distribisyon an konpile nan fason sa a pa ta dwe imedyatman voye nan pwodiksyon an. Ou bezwen konprann ke si gen yon bezwen reyèl bati ak sipòte distribisyon ou a, Lè sa a, ou bezwen envesti lajan ak tan nan sa a.

Sepandan, nan konbinezon ak apwòch la dwa ak yon ekip pwofesyonèl, li se byen posib fè san solisyon komèsyal yo.

Li enpòtan pou sonje ke pwojè Bigtop nan tèt li bezwen devlopman epi li pa parèt aktivman ap devlope jodi a. Pwospektiv pou Hadoop 3 parèt nan li tou pa klè. By wout la, si ou gen yon bezwen reyèl yo bati Hadoop 3, ou ka gade nan fouchèt soti nan Arenadata, nan ki, nan adisyon a estanda
Gen yon kantite eleman adisyonèl (Ranger, Knox, NiFi).

Kòm pou Rostelecom, pou nou Bigtop se youn nan opsyon yo konsidere jodi a. Si nou chwazi li oswa ou pa, tan ap di.

Apendis

Pou mete yon nouvo eleman nan asanble a, ou bezwen ajoute deskripsyon li nan bigtop.bom ak ./bigtop-packages. Ou ka eseye fè sa pa analoji ak eleman ki deja egziste yo. Eseye kalkile li. Li pa osi difisil ke li sanble nan premye gade.

Kisa ou panse? Nou pral kontan wè opinyon ou nan kòmantè yo epi di ou mèsi pou atansyon ou!

Atik la te prepare pa ekip jesyon done Rostelecom la

Sous: www.habr.com

Add nouvo kòmantè