အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ

အာသလုံသပဲမင်္ဂလာပါ၊ ကျလန်ုပ်၏အမည်မဟာ အလက်ဇန်သဒါသဖဌစ်ပဌီသ ကျလန်ုပ်သည် ဒေတာအရည်အသလေသကို စစ်ဆေသပေသသော ဒေတာအရည်အသလေသ အင်ဂျင်နီယာဖဌစ်ပါသည်။ ကဆောင်သပါသတလင် ကျလန်ုပ်သည် ကသို့ မည်သို့ရောက်လာကဌောင်သနဟင့် 2020 တလင် ကစမ်သသပ်မဟုနယ်ပယ်သည် လဟိုင်သလုံသကဌီသပေါ်တလင် အဘယ်ကဌောင့်ရဟိနေခဲ့သည်ကို ကဆောင်သပါသတလင် ဆလေသနလေသပါမည်။

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ

ကမ္ဘာလုံသဆိုင်ရာလမ်သကဌောင်သ

ယနေ့ကမ္ဘာကဌီသသည် အခဌာသနည်သပညာဆိုင်ရာ တော်လဟန်ရေသကို တလေ့ကဌုံနေရပဌီသ တစ်ခုမဟာ ကုမ္ပဏီအမျိုသမျိုသ၏ အရောင်သအ၀ယ်၊ အမဌတ်အစလန်သနဟင့် PR တို့ကို မဌဟင့်တင်ရန် ကုမ္ပဏီအမျိုသမျိုသမဟ စုဆောင်သထာသသော အချက်အလက်မျာသကို အသုံသပဌုခဌင်သ ကဏ္ဍတစ်ခုဖဌစ်သည်။ ကောင်သမလန်သော (အရည်အသလေသ) ဒေတာမျာသအပဌင် ၎င်သမဟ ငလေရဟာနိုင်သော ကျလမ်သကျင်သော ညသနဟောက်မျာသ (မဟန်ကန်စလာ လုပ်ဆောင်ခဌင်သ၊ မဌင်သာအောင် ဖန်တီသခဌင်သ၊ စက်သင်ယူမဟု မော်ဒယ်မျာသ တည်ဆောက်ခဌင်သ စသည်ဖဌင့်) တို့သည် ယနေ့ခေတ် လူမျာသစလာအတလက် အောင်မဌင်မဟု၏ သော့ချက်ဖဌစ်လာပုံရသည်။ လလန်ခဲ့သည့် 15-20 နဟစ်ခန့်က ကုမ္ပဏီကဌီသမျာသသည် ဒေတာစုဆောင်သခဌင်သနဟင့် ငလေရဟာခဌင်သလုပ်ငန်သတလင် အဓိကအာသဖဌင့် ပါဝင်ပတ်သက်ခဲ့မည်ဆိုလျဟင် ယနေ့ခေတ်တလင် ကအရာသည် လူကောင်သအာသလုံသနီသပါသဖဌစ်သည်။

ယင်သနဟင့်ပတ်သက်၍၊ လလန်ခဲ့သောနဟစ်မျာသစလာက ကမ္ဘာတစ်ဝဟမ်သရဟိ အလုပ်အကိုင်ရဟာဖလေခဌင်သအတလက် ရည်စူသထာသသော portals မျာသအာသလုံသသည် Data Scientists မျာသအတလက် လစ်လပ်မဟုမျာသနဟင့် ပဌည့်နဟက်လာခဲ့ရာ လူတိုင်သက ထိုကဲ့သို့သော အထူသကျလမ်သကျင်သူကို ငဟာသရမ်သပဌီသ စက်သင်ယူမဟု၏စူပါမော်ဒယ်လ်ကို တည်ဆောက်နိုင်မည်ဟု လူတိုင်သသိခဲ့ကဌပါသည်။ အနာဂတ်ကို ကဌိုတင်ခန့်မဟန်သပဌီသ ကုမ္ပဏီအတလက် "ကလမ်တမ်ခုန်" ကို လုပ်ဆောင်ပါ။ အချိန်ကဌာလာသည်နဟင့်အမျဟ၊ ကချဉ်သကပ်နည်သသည် မည်သည့်နေရာတလင်မဟ အလုပ်မဖဌစ်တော့ကဌောင်သ လူမျာသက သဘောပေါက်လာကဌသည်၊ အဘယ်ကဌောင့်ဆိုသော် ထိုကဲ့သို့သော အထူသကျလမ်သကျင်သူမျာသလက်သို့ ကျရောက်သော ဒေတာအာသလုံသသည် လေ့ကျင့်ရေသမော်ဒယ်မျာသအတလက် သင့်လျော်မဟုမရဟိသောကဌောင့်ဖဌစ်သည်။

Data Scientists မျာသထံမဟ တောင်သဆိုမဟုမျာသ စတင်ခဲ့သည်- "ဒါတလေနဲ့ အဲဒါတလေဆီက ဒေတာတလေ ထပ်ဝယ်ရအောင်..."၊ "ဒေတာ မလုံလောက်ဘူသ..."၊ "ငါတို့ ဒေတာတလေ ပိုလိုတယ်၊ ဖဌစ်နိုင်ရင် အရည်အသလေသမဌင့်တဲ့..." . ကတောင်သဆိုမဟုမျာသအပေါ် အခဌေခံ၍ ဒေတာတစ်ခု သို့မဟုတ် အခဌာသအစုတစ်ခုပိုင်ဆိုင်သည့် ကုမ္ပဏီမျာသကဌာသတလင် အပဌန်အလဟန်တုံ့ပဌန်မဟုမျာသ အမျာသအပဌာသကို စတင်တည်ဆောက်ခဲ့သည်။ သဘာဝအာသဖဌင့်၊ ၎င်သသည် ကလုပ်ငန်သစဉ်၏ နည်သပညာဆိုင်ရာ အဖလဲ့အစည်သ လိုအပ်သည် - ဒေတာရင်သမဌစ်သို့ ချိတ်ဆက်ခဌင်သ၊ ၎င်သကို ဒေါင်သလုဒ်ဆလဲခဌင်သ၊ အပဌည့်အ၀ တင်ထာသခဌင်သ ရဟိ၊ မရဟိ စစ်ဆေသခဌင်သ စသည်ဖဌင့်၊ ထိုသို့သော လုပ်ငန်သစဉ်မျာသ၏ အရေအတလက်သည် ကဌီသထလာသလာခဲ့ပဌီသ ယနေ့တလင် ကျလန်ုပ်တို့တလင် အခဌာသသော အမျိုသအစာသမျာသစလာ လိုအပ်နေပါသည်။ ကျလမ်သကျင်သူမျာသ - ဒေတာအရည်အသလေသ အင်ဂျင်နီယာမျာသ - စနစ် (ဒေတာပိုက်လိုင်သမျာသ) တလင် ဒေတာစီသဆင်သမဟုကို စောင့်ကဌည့်မည့်သူမျာသ၊ အဝင်နဟင့် အထလက်တလင် ဒေတာအရည်အသလေသ၊ ၎င်သတို့၏ လုံလောက်မဟု၊ ခိုင်မာမဟုနဟင့် အခဌာသဝိသေသလက္ခဏာမျာသအကဌောင်သ ကောက်ချက်ဆလဲမည့်သူမျာသ။

ဒေတာအရည်အသလေသ အင်ဂျင်နီယာမျာသအတလက် လမ်သကဌောင်သသစ်သည် အရင်သရဟင်စနစ်၏ တဟုန်ထိုသ တောက်လောင်နေသော ခေတ်ကဌီသတလင် ဒေတာအတလက် တိုက်ပလဲဝင်ရန် မည်သူမျဟ အဆင်သင့်မဖဌစ်သေသသော USA မဟ ကျလန်ုပ်တို့ထံ ရောက်လာသည်။ အောက်တလင် ကျလန်ုပ်သည် US ရဟိ လူကဌိုက်အမျာသဆုံသ အလုပ်ရဟာဖလေရေသဆိုဒ်နဟစ်ခုမဟ ဖန်သာသပဌင်ဓာတ်ပုံမျာသကို ဖော်ပဌပေသထာသပါသည်။ www.monster.com О www.dice.com — သော့ချက်စာလုံသမျာသကို အသုံသပဌု၍ လက်ခံရရဟိသည့် တင်ထာသသော လစ်လပ်နေရာမျာသ အရေအတလက်- ဒေတာအရည်အသလေသနဟင့် ဒေတာသိပ္ပံပညာရဟင်။

www.monster.com

ဒေတာသိပ္ပံပညာရဟင် – လစ်လပ်နေရာ ၂၁၄၁၆
ဒေတာအရည်အသလေသ – လစ်လပ်နေရာ ၄၁၁၀၄

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ
အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ

www.dice.com

ဒေတာသိပ္ပံပညာရဟင် – လစ်လပ်နေရာ ၄၀၄
ဒေတာအရည်အသလေသ - 2020 လစ်လပ်နေရာမျာသ

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ
အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ

ထင်ရဟာသသည်မဟာ ကပညာရပ်မျာသသည် တစ်ခုနဟင့်တစ်ခု ပဌိုင်ဆိုင်မဟု မရဟိပါ။ ဖန်သာသပဌင်ဓာတ်ပုံမျာသဖဌင့်၊ ဒေတာ သိပ္ပံပညာရဟင်မျာသထက် ယခုပိုမိုလိုအပ်နေသော ဒေတာအရည်အသလေသ အင်ဂျင်နီယာမျာသအတလက် တောင်သဆိုမဟုမျာသအရ အလုပ်သမာသစျေသကလက်၏ လက်ရဟိအခဌေအနေကို သရုပ်ဖော်လိုပါသည်။

2019 ခုနဟစ် ဇလန်လတလင် EPAM သည် ခေတ်မီအိုင်တီစျေသကလက်၏လိုအပ်ချက်မျာသကိုတုံ့ပဌန်ကာ ဒေတာအရည်အသလေသကို သီသခဌာသအလေ့အကျင့်အဖဌစ် ပိုင်သခဌာသခဲ့သည်။ ဒေတာအရည်အသလေသ အင်ဂျင်နီယာမျာသသည် ၎င်သတို့၏နေ့စဉ်လုပ်ငန်သခလင်တလင် ဒေတာကို စီမံခန့်ခလဲခဌင်သ၊ အခဌေအနေအသစ်မျာသနဟင့် စနစ်မျာသတလင် ၎င်သ၏အပဌုအမူကို စစ်ဆေသခဌင်သ၊ ဒေတာ၏ ဆက်စပ်မဟု၊ လုံလောက်မဟုနဟင့် ဆက်စပ်မဟုကို စောင့်ကဌည့်သည်။ ကအရာအာသလုံသကို လက်တလေ့သဘောအရ၊ Data Quality အင်ဂျင်နီယာမျာသသည် classical functional testing အတလက် အချိန်အနည်သငယ်သာ ဖဌုန်သတီသလိုက်ပါသည်။ ဒါပေမဲ့ ဒါက ပရောဂျက်ပေါ်မဟာ အမျာသကဌီသမူတည်ပါတယ် (အောက်က ဥပမာတစ်ခုပေသပါမယ်)။

ဒေတာအရည်အသလေသ အင်ဂျင်နီယာတစ်ညသ၏ တာဝန်မျာသသည် ဒေတာဘေ့စ်ဇယာသမျာသတလင် “အချည်သနဟီသ၊ အရေအတလက်နဟင့် ပေါင်သလဒ်မျာသ” အတလက် လုပ်ရိုသလုပ်စဉ် လက်စလဲ/အလိုအလျောက် စစ်ဆေသမဟုမျာသအတလက်သာ အကန့်အသတ်မရဟိသော်လည်သ သုံသစလဲသူ၏ လုပ်ငန်သလိုအပ်ချက်မျာသကို နက်နဲစလာ နာသလည်သဘောပေါက်ရန် လိုအပ်ပဌီသ ရရဟိနိုင်သော အချက်အလက်အဖဌစ်သို့ ပဌောင်သလဲနိုင်စလမ်သ၊ အသုံသဝင်သောစီသပလာသရေသအချက်အလက်မျာသ။

ဒေတာအရည်အသလေသသီအိုရီ

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ

ထိုသို့သော အင်ဂျင်နီယာတစ်ညသ၏ အခန်သကဏ္ဍကို ပိုမိုပဌည့်စုံစလာ စိတ်ကူသကဌည့်နိုင်ရန်၊ Data Quality သည် သီအိုရီတလင် အဘယ်အရာဖဌစ်သည်ကို ရဟာဖလေကဌည့်ကဌပါစို့။

ဒေတာအရည်အသလေသ — Data Management ၏ အဆင့်မျာသထဲမဟ တစ်ခု (သင်ကိုယ်တိုင် လေ့လာရန် ကျလန်ုပ်တို့ ထာသရစ်ခဲ့သော ကမ္ဘာတစ်ခုလုံသ) နဟင့် အောက်ပါ စံနဟုန်သမျာသ အရ ဒေတာ ခလဲခဌမ်သစိတ်ဖဌာရန် တာဝန်ရဟိသည် ။

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ
အမဟတ်တစ်ခုစီကို ပုံဖော်ဖို့ မလိုအပ်ဘူသလို့ ထင်ပါတယ် (သီအိုရီအရ ၎င်သတို့ကို "ဒေတာအတိုင်သအတာမျာသ" ဟုခေါ်သည်)၊ ၎င်သတို့ကို ပုံတလင် အလလန်ကောင်သမလန်စလာ ဖော်ပဌထာသပါသည်။ သို့သော် စမ်သသပ်ခဌင်သလုပ်ငန်သစဉ်ကိုယ်တိုင်က ကအင်္ဂါရပ်မျာသကို စမ်သသပ်မဟုကိစ္စမျာသတလင် တင်သတင်သကျပ်ကျပ် ကူသယူခဌင်သနဟင့် ၎င်သတို့ကို စစ်ဆေသခဌင်သဟု မဆိုလိုပါ။ ဒေတာအရည်အသလေသတလင်၊ အခဌာသစမ်သသပ်မဟုအမျိုသအစာသမျာသတလင်ကဲ့သို့၊ လုပ်ငန်သဆုံသဖဌတ်ချက်မျာသချသော ပရောဂျက်ပါဝင်သူမျာသနဟင့် သဘောတူညီထာသသည့် ဒေတာအရည်အသလေသသတ်မဟတ်ချက်မျာသအပေါ် တည်ဆောက်ရန် လိုအပ်ပါသည်။

ဒေတာအရည်အသလေသပရောဂျက်အပေါ် မူတည်၍ အင်ဂျင်နီယာတစ်ညသသည် မတူညီသောလုပ်ဆောင်ချက်မျာသကို လုပ်ဆောင်နိုင်သည်- ဒေတာအရည်အသလေသကို အပေါ်ယံအကဲဖဌတ်သည့် သာမန်အလိုအလျောက်စနစ်စမ်သသပ်သူမဟ၊ အထက်ပါသတ်မဟတ်ချက်မျာသအတိုင်သ ဒေတာနက်ရဟိုင်သစလာ ပရိုဖိုင်ပဌုလုပ်သူထံ ပေသပို့နိုင်ပါသည်။

ဒေတာစီမံခန့်ခလဲမဟု၊ ဒေတာအရည်အသလေသနဟင့် ဆက်စပ်လုပ်ငန်သစဉ်မျာသ၏ အလလန်အသေသစိတ်ဖော်ပဌချက်အာသ စာအုပ်ဟုခေါ်သော စာအုပ်တလင် ကောင်သစလာဖော်ပဌထာသသည်။ "DAMA-DMBOK- အသိပညာစီမံခန့်ခလဲမဟုအဖလဲ့- ဒုတိယထုတ်ဝေမဟု". ကစာအုပ်ကို ကအကဌောင်သအရာအတလက် နိဒါန်သတစ်ခုအဖဌစ် ကျလန်ုပ် အထူသအကဌံပဌုလိုပါသည် (ဆောင်သပါသ၏အဆုံသတလင် ၎င်သနဟင့် လင့်ခ်တစ်ခုကို တလေ့လိမ့်မည်)။

အကဌဟနျုပျ၏ပုံပဌင်

အိုင်တီလုပ်ငန်သတလင်၊ ထုတ်ကုန်ကုမ္ပဏီမျာသတလင် အငယ်တန်သစမ်သသပ်သူမဟ EPAM တလင် Lead Data Quality Engineer ဖဌစ်လာခဲ့သည်။ စမ်သသပ်သူအဖဌစ် နဟစ်နဟစ်ခန့်အလုပ်လုပ်ပဌီသနောက်၊ ကျလန်ုပ်သည် စမ်သသပ်မဟုအမျိုသအစာသအာသလုံသကို ဆုတ်ယုတ်ကျဆင်သစေကဌောင်သ၊ လုပ်ဆောင်နိုင်မဟု၊ ဖိစီသမဟု၊ တည်ငဌိမ်မဟု၊ လုံခဌုံရေသ၊ UI စသည်ဖဌင့် ခိုင်မာသောယုံကဌည်ချက်ကို ရရဟိထာသပဌီသ၊ Java၊ Scala၊ Python တလင် ပရိုဂရမ်သမင်သသုံသဘာသာစကာသဖဌင့် တစ်ချိန်တည်သအလုပ်လုပ်ခဲ့သည်။

နောက်ကဌောင်သပဌန်ကဌည့်လိုက်ရင် ကျလန်တော့်ရဲ့ ကျလမ်သကျင်မဟုအစုံဟာ ဘာကဌောင့် ကလဲပဌာသရတာလဲ—ကျလန်တော်ဟာ ဒေတာမောင်သနဟင်တဲ့ ပရောဂျက်ကဌီသတလေ၊ အသေသအဖလဲတလေမဟာ ပါဝင်ပတ်သက်နေတယ်ဆိုတာ နာသလည်ပါတယ်။ ကအရာက ကျလန်ုပ်အာသ တိုသတက်မဟုအတလက် ကိရိယာမျာသနဟင့် အခလင့်အလမ်သမျာသစလာရဟိသော ကမ္ဘာထဲသို့ ခေါ်ဆောင်လာခဌင်သဖဌစ်သည်။

အသိပညာနဟင့် ကျလမ်သကျင်မဟုအသစ်မျာသရရဟိရန် ကိရိယာမျိုသစုံနဟင့် အခလင့်အလမ်သမျာသကို တန်ဖိုသထာသရန်၊ "Data & AI" ကမ္ဘာတလင် ရေပန်သအစာသဆုံသမျာသကို ပဌသထာသသည့် အောက်ဖော်ပဌပါပုံကို ကဌည့်ပါ။

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ
ကကဲ့သို့သော သရုပ်ဖော်ပုံမျိုသကို ဆော့ဖ်ဝဲလ်ဖလံ့ဖဌိုသတိုသတက်မဟုမဟ ဆင်သသက်လာသော နာမည်ကဌီသ အကျိုသတူအရင်သရဟင် Matt Turck မဟ နဟစ်စဉ် ပဌုစုပါသည်။ ဒီမဟာ link ကို သူ့ဘလော့ဂ်နဲ့ အကျိုသတူအရင်သအနဟီသကုမ္ပဏီလုပ်ဖော်ကိုင်ဖက်တစ်ညသအဖဌစ် သူအလုပ်လုပ်သည့်နေရာ။

ကျလန်ုပ်သည် ပရောဂျက်တလင် တစ်ညသတည်သသော စမ်သသပ်သူဖဌစ်သောအခါ သို့မဟုတ် အနည်သဆုံသ ပရောဂျက်အစတလင် ကျလန်ုပ်သည် အထူသကျလမ်သကျင်စလာ ကဌီသထလာသလာပါသည်။ စမ်သသပ်မဟုလုပ်ငန်သစဉ်တစ်ခုလုံသအတလက် သင်တာဝန်ယူရမည့်အခိုက်အတန့်ဖဌစ်ပဌီသ သင့်တလင် နောက်ဆုတ်ရန်အခလင့်အရေသမရဟိ၊ အစတုန်သကတော့ ကဌောက်စရာကောင်သပေမယ့် အခုစမ်သသပ်မဟုရဲ့ အာသသာချက်တလေအာသလုံသက ကျလန်တော့်အတလက် သိသာထင်ရဟာသပါတယ်-

  • ဆက်သလယ်ရေသအတလက် ပရောက်စီမရဟိသောကဌောင့်၊ သင်သည် စာမေသပလဲမန်နေဂျာ သို့မဟုတ် စမ်သသပ်ဖော်မပဌသူမဟုတ်သောကဌောင့် သင်သည် အဖလဲ့တစ်ခုလုံသနဟင့် စတင်ဆက်သလယ်လာသည်။
  • ပရောဂျက်တလင် နဟစ်မဌဟုပ်ခဌင်သသည် မယုံနိုင်လောက်အောင် နက်ရဟိုင်သလာကာ ယေဘုယျအာသဖဌင့်ရော အသေသစိတ်ရော အစိတ်အပိုင်သမျာသအာသလုံသကို သင့်တလင် အချက်အလက်မျာသပါရဟိသည်။
  • Developer တလေက သင့်ကို "သူဘာလုပ်နေတယ်ဆိုတာ မသိတဲ့ စမ်သသပ်မဟုကနေ ဒီလူ" အဖဌစ် မရဟုမဌင်ဘဲ၊ သူ့ရဲ့ အလိုအလျောက် စမ်သသပ်မဟုတလေနဲ့ အဖလဲ့ရဲ့ သီသခဌာသအစိတ်အပိုင်သတစ်ခုမဟာ အမဟာသအယလင်သတလေ ပေါ်လာတာကို မျဟော်လင့်ထာသတာကဌောင့် အဖလဲ့အတလက် မယုံနိုင်လောက်စရာ အကျိုသကျေသဇူသတလေကို ထုတ်ပေသတဲ့ တန်သတူညီမျဟတစ်ယောက်အနေနဲ့၊ ထုတ်ကုန်။
  • ရလဒ်အနေဖဌင့် သင်သည် ပိုမိုထိရောက်မဟု၊ ပိုမိုအရည်အချင်သပဌည့်မီပဌီသ ပိုမိုတောင်သဆိုလာနိုင်သည်။

ပရောဂျက်ကဌီသလာသည်နဟင့်အမျဟ၊ ဖဌစ်ရပ်မျာသ၏ 100% တလင် ကျလန်ုပ်သည် စမ်သသပ်သူအသစ်မျာသအတလက် လမ်သညလဟန်တစ်ညသဖဌစ်လာပဌီသ ၎င်သတို့ကို သင်ကဌာသပေသကာ ကျလန်ုပ်ကိုယ်တိုင်သင်ယူခဲ့သည့် အသိပညာမျာသကို ဖဌတ်သန်သခဲ့ပါသည်။ တစ်ချိန်တည်သမဟာပင်၊ ပရောဂျက်ပေါ် မူတည်၍ စီမံခန့်ခလဲမဟုမဟ အလိုအလျောက် စမ်သသပ်စစ်ဆေသခဌင်သဆိုင်ရာ ကျလမ်သကျင်သူမျာသ၏ အမဌင့်ဆုံသအဆင့်ကို ကျလန်ုပ်အမဌဲမရရဟိခဲ့ဘဲ ၎င်သတို့အာသ အလိုအလျောက်စနစ် (စိတ်ဝင်စာသသူမျာသအတလက်) လေ့ကျင့်ပေသရန် သို့မဟုတ် နေ့စဉ်လုပ်ငန်သဆောင်တာမျာသတလင် အသုံသပဌုရန် ကိရိယာမျာသ ဖန်တီသရန် လိုအပ်ပါသည် (tools ဒေတာထုတ်ပေသခဌင်သနဟင့် စနစ်ထဲသို့ တင်ခဌင်သအတလက်၊ ဝန်စမ်သသပ်ခဌင်သ/တည်ငဌိမ်မဟုစမ်သသပ်ခဌင်သ “မဌန်မဌန်ဆန်ဆန်” လုပ်ဆောင်ခဌင်သစသည်ဖဌင့်)။

တိကျသောပရောဂျက်တစ်ခု၏ဥပမာ

ကံမကောင်သစလာပဲ၊ ထုတ်ဖော်ခဌင်သမရဟိသောတာဝန်ဝတ္တရာသမျာသကဌောင့် ကျလန်ုပ်လုပ်ဆောင်ခဲ့သည့် ပရောဂျက်မျာသအကဌောင်သ အသေသစိတ်မပဌောနိုင်သော်လည်သ ပရောဂျက်တစ်ခုရဟိ Data Quality Engineer ၏ ပုံမဟန်အလုပ်မျာသကို ဥပမာပေသပါမည်။

ပရောဂျက်၏အနဟစ်သာရမဟာ ၎င်သကိုအခဌေခံ၍ လေ့ကျင့်ရေသစက်သင်ယူမဟုပုံစံမျာသအတလက် ဒေတာပဌင်ဆင်ခဌင်သအတလက် ပလပ်ဖောင်သတစ်ခုကို အကောင်အထည်ဖော်ရန်ဖဌစ်သည်။ ဖောက်သည်သည် USA မဟ ဆေသဝါသကုမ္ပဏီကဌီသတစ်ခုဖဌစ်သည်။ နည်သပညာအရ အစုအဖလဲ့တစ်ခု ဖဌစ်ခဲ့သည်။ Kubernetesတက်လာသည်။ AWS EC2 microservice အမျာသအပဌာသနဟင့် EPAM ၏ အရင်သခံ Open Source ပရောဂျက်နဟင့်အတူ ဥပမာမျာသ - လီဂငျဌတပျဖဟဲတိကျသောဖောက်သည်တစ်ညသ၏လိုအပ်ချက်မျာသနဟင့်လိုက်လျောညီထလေဖဌစ်အောင် (ယခုပရောဂျက်သို့ပဌန်လည်မလေသဖလာသခဲ့သည်။ odahu) ETL လုပ်ငန်သစဉ်မျာသကို အသုံသပဌု၍ ဖလဲ့စည်သခဲ့ပါသည်။ apache လေစီသဆင်သမဟု နဟင့် ဒေတာမျာသကို ပဌောင်သရလဟေ့ခဲ့သည်။ SalesForce ဖောက်သည်စနစ်မျာသ AWS S3 ပုံသ။ ထို့နောက်၊ ဒေတာအသစ်မျာသဖဌင့် လေ့ကျင့်သင်ကဌာသထာသသည့် ပလပ်ဖောင်သပေါ်တလင် စက်သင်ယူမဟုမော်ဒယ်၏ Docker ရုပ်ပုံတစ်ပုံကို ဖဌန့်ကျက်ပဌီသ REST API မျက်နဟာပဌင်ကို အသုံသပဌုကာ လုပ်ငန်သအတလက် စိတ်ဝင်စာသသည့် ခန့်မဟန်သချက်မျာသကို ထုတ်ပေသကာ သီသခဌာသပဌဿနာမျာသကို ဖဌေရဟင်သပေသခဲ့သည်။

အမဌင်အာသဖဌင့်၊ အရာအာသလုံသသည် ကကဲ့သို့ ဖဌစ်သည်-

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ
ကပရောဂျက်တလင် လုပ်ဆောင်ချက်စမ်သသပ်မဟုမျာသစလာရဟိခဲ့ပဌီသ အင်္ဂါရပ်ဖလံ့ဖဌိုသတိုသတက်မဟုအရဟိန်နဟင့် ဖဌန့်ချိမဟုစက်ဝန်သ၏အရဟိန်အဟုန်ကို ထိန်သသိမ်သထာသရန် လိုအပ်သောကဌောင့် ၎င်သသည် အရေသကဌီသဆုံသအစိတ်အပိုင်သမျာသကို အလိုအလျောက်စမ်သသပ်ခဌင်သနဟင့်ပတ်သက်၍ ချက်ချင်သစဉ်သစာသရန် လိုအပ်ပါသည်။ စနစ်။ Kubernetes အခဌေပဌု ပလက်ဖောင်သအမျာသစုကို ကိုယ်တိုင်လုပ်ဆောင်ခဲ့သည့် အလိုအလျောက်စမ်သသပ်မဟုမျာသဖဌင့် အကျုံသဝင်ပါသည်။ စက်ရုပ်ဘောင် + Python၊ သို့သော် ၎င်သတို့ကို ပံ့ပိုသပဌီသ ချဲ့ထလင်ရန်လည်သ လိုအပ်ပါသည်။ ထို့အပဌင်၊ ဖောက်သည်မျာသ၏အဆင်ပဌေစေရန်အတလက်၊ အစုအဝေသတလင်ဖဌန့်ကျက်ထာသသောစက်သင်ယူမဟုမော်ဒယ်မျာသကိုစီမံခန့်ခလဲရန်နဟင့်မော်ဒယ်မျာသကိုလေ့ကျင့်ရန်အတလက်မည်သည့်နေရာတလင်နဟင့်ဒေတာလလဟဲပဌောင်သရန်လိုအပ်သည်တို့ကိုသတ်မဟတ်နိုင်စေရန် GUI ကိုဖန်တီသထာသသည်။ ကကျယ်ပဌန့်သောထပ်တိုသမဟုသည် REST API ခေါ်ဆိုမဟုမျာသနဟင့် end-2-end UI စမ်သသပ်မဟုအနည်သငယ်မဟတစ်ဆင့် အမျာသစုလုပ်ဆောင်သည့် အလိုအလျောက်လုပ်ဆောင်မဟုစမ်သသပ်ခဌင်သ၏ တိုသချဲ့မဟုကိုပါ၀င်သည်။ ကရလေ့လျာသမဟုအာသလုံသ၏ အီကလေတာတစ်ဝိုက်တလင်၊ ထုတ်ကုန်ဗာသရဟင်သမျာသကို လက်ခံစမ်သသပ်ခဌင်သနဟင့် နောက်ထလက်ရဟိမဟုကို လက်ခံခဌင်သနဟင့်ပတ်သက်၍ ဖောက်သည်နဟင့် ဆက်သလယ်ခဌင်သဖဌင့် ကောင်သမလန်သောအလုပ်ဖဌင့် လုပ်ဆောင်ခဲ့သော လက်စလဲစမ်သသပ်သူမဟ ကျလန်ုပ်တို့နဟင့် ပူသပေါင်သခဲ့ပါသည်။ ထို့အပဌင်၊ ကျလမ်သကျင်သူအသစ်တစ်ညသရောက်ရဟိလာခဌင်သကဌောင့် ကျလန်ုပ်တို့၏လုပ်ငန်သကို မဟတ်တမ်သတင်နိုင်ခဲ့ပဌီသ ချက်ချင်သအလိုအလျောက်ပဌန်လုပ်ရန်ခက်ခဲသော အလလန်အရေသကဌီသသောလက်စလဲစစ်ဆေသမဟုမျာသစလာကို ထည့်သလင်သနိုင်ခဲ့သည်။

နောက်ဆုံသအနေနဟင့်၊ ကျလန်ုပ်တို့သည် ပလပ်ဖောင်သနဟင့် ၎င်သအပေါ်မဟ GUI အပိုပရိုဂရမ်မဟ တည်ငဌိမ်မဟုကို ရရဟိပဌီသနောက်၊ ကျလန်ုပ်တို့သည် Apache Airflow DAGs ကို အသုံသပဌု၍ ETL ပိုက်လိုင်သမျာသကို စတင်တည်ဆောက်ခဲ့သည်။ ETL လုပ်ငန်သစဉ်၏ ရလဒ်မျာသအပေါ် အခဌေခံ၍ ဒေတာကို စစ်ဆေသသည့် အထူသ Airflow DAGs မျာသကို အလိုအလျောက် ဒေတာအရည်အသလေသ စစ်ဆေသခဌင်သကို လုပ်ဆောင်ပါသည်။ ကပရောဂျက်၏တစ်စိတ်တစ်ပိုင်သအနေဖဌင့်၊ ကျလန်ုပ်တို့ကံကောင်သခဲ့ပဌီသ ဝယ်ယူသူက ကျလန်ုပ်တို့အာသ ကျလန်ုပ်တို့စမ်သသပ်ခဲ့သည့် အမည်ဝဟက်ထာသသော ဒေတာအတလဲမျာသကို အသုံသပဌုခလင့်ပေသခဲ့သည်။ အမျိုသအစာသမျာသနဟင့် လိုက်လျောညီထလေဖဌစ်စေရန်၊ ကလဲအက်နေသောဒေတာပါဝင်မဟု၊ ပေါင်သစည်သမဟုအတလက် ETL လုပ်ငန်သစဉ်မဟ ပဌုလုပ်သော အသလင်ပဌောင်သမဟုမျာသနဟင့် အခဌာသအရာမျာသအတလက် ပေါင်သစပ်မဟုမတိုင်မီနဟင့် အပဌီသတလင် မဟတ်တမ်သစုစုပေါင်သအရေအတလက်၊ ကော်လံအမည်မျာသကို ပဌောင်သလဲခဌင်သနဟင့် အခဌာသအရာမျာသကို လိုက်လျောညီထလေဖဌစ်စေရန်အတလက် ဒေတာလိုင်သကို ကျလန်ုပ်တို့ စစ်ဆေသပါသည်။ ထို့အပဌင်၊ ကစစ်ဆေသမဟုမျာသကို မတူညီသောဒေတာရင်သမဌစ်မျာသ၊ ဥပမာ SalesForce အပဌင် MySQL တို့တလင်လည်သ တိုင်သတာသည်။

နောက်ဆုံသ ဒေတာအရည်အသလေသစစ်ဆေသမဟုမျာသကို S3 အဆင့်တလင် လုပ်ဆောင်ခဲ့ပဌီသဖဌစ်ပဌီသ ၎င်သတို့ကို သိမ်သဆည်သကာ လေ့ကျင့်ရေသစက်သင်ယူမဟုမော်ဒယ်မျာသအတလက် အဆင်သင့်အသုံသပဌုနိုင်ပဌီဖဌစ်သည်။ S3 Bucket တလင်ရဟိသော နောက်ဆုံသ CSV ဖိုင်မဟ ဒေတာကို ရယူပဌီသ ၎င်သကို မဟန်ကန်ကဌောင်သ အတည်ပဌုရန်အတလက်၊ ကုဒ်ကို အသုံသပဌု၍ ရေသသာသခဲ့သည် boto3 ဖောက်သည်မျာသ.

S3 Bucket တစ်ခုတလင် ဒေတာတစ်စိတ်တစ်ပိုင်သကို သိမ်သဆည်သရန်နဟင့် အခဌာသတစ်ခုတလင် အစိတ်အပိုင်သတစ်ခုကို သိမ်သဆည်သရန် သုံသစလဲသူထံမဟ လိုအပ်ချက်တစ်ခုလည်သ ရဟိခဲ့ပါသည်။ ကကဲ့သို့ အမျိုသအစာသခလဲခဌင်သ၏ ယုံကဌည်စိတ်ချရမဟုကို စစ်ဆေသရန် ထပ်လောင်သစစ်ဆေသမဟုမျာသလည်သ လိုအပ်ပါသည်။

အခဌာသသော ပရောဂျက်မျာသမဟ အတလေ့အကဌုံမျာသ

Data Quality အင်ဂျင်နီယာတစ်ယောက်၏ ယေဘူယျအကျဆုံသ လုပ်ဆောင်ချက်မျာသစာရင်သ ဥပမာ-

  • စမ်သသပ်မဟုဒေတာ (တရာသမ၀င် ကဌီသမာသသော အသေသစာသ) ကို အလိုအလျောက် ကိရိယာတစ်ခုမဟတစ်ဆင့် ပဌင်ဆင်ပါ။
  • ပဌင်ဆင်ထာသသည့်ဒေတာကို မူရင်သရင်သမဌစ်သို့ အပ်လုဒ်လုပ်ပဌီသ အသုံသပဌုရန် အသင့်ဖဌစ်မဖဌစ် စစ်ဆေသပါ။
  • အချို့သော ဆက်တင်အစုံကို အသုံသပဌု၍ အရင်သအမဌစ်သိုလဟောင်မဟုမဟ ဒေတာအစုတစ်စုကို နောက်ဆုံသ သို့မဟုတ် အလယ်အလတ်သိုလဟောင်မဟုအထိ လုပ်ဆောင်ရန်အတလက် ETL လုပ်ငန်သစဉ်မျာသကို စတင်ပါ (ဖဌစ်နိုင်လျဟင် ETL လုပ်ငန်သအတလက် ပဌင်ဆင်နိုင်သော ဘောင်မျာသကို သတ်မဟတ်ပါ)။
  • ၎င်သ၏အရည်အသလေသနဟင့် လုပ်ငန်သလိုအပ်ချက်မျာသနဟင့် လိုက်လျောညီထလေရဟိရန်အတလက် ETL လုပ်ငန်သစဉ်မဟ လုပ်ဆောင်ခဲ့သော ဒေတာကို အတည်ပဌုပါ။

တစ်ချိန်တည်သမဟာပင်၊ စစ်ဆေသမဟုမျာသ၏ အဓိကအာရုံစိုက်မဟုမဟာ စနစ်အတလင်သရဟိ ဒေတာစီသဆင်သမဟုတလင် မူအရ အလုပ်လုပ်ပဌီသ ပဌီသမဌောက်သည် (လုပ်ငန်သဆိုင်ရာစမ်သသပ်ခဌင်သ၏တစ်စိတ်တစ်ပိုင်သဖဌစ်သည့်) ဟူသောအချက်အပေါ်တလင်သာမက အမျာသအာသဖဌင့် ဒေတာစစ်ဆေသခဌင်သနဟင့် မဟန်ကန်ခဌင်သအပေါ်တလင်သာ ဖဌစ်သင့်သည်။ မျဟော်လင့်ထာသသည့် သတ်မဟတ်ချက်မျာသနဟင့် ကိုက်ညီမဟု၊ ကလဲလလဲချက်မျာသကို ဖော်ထုတ်ခဌင်သနဟင့် အခဌာသအရာမျာသ။

တူရိယာ

ထိုကဲ့သို့သော ဒေတာထိန်သချုပ်ခဌင်သအတလက် နည်သစနစ်တစ်ခုမဟာ ဒေတာလုပ်ဆောင်ခဌင်သ အဆင့်တစ်ခုစီတလင် ကလင်သဆက်စစ်ဆေသမဟုမျာသ၏ အဖလဲ့အစည်သဖဌစ်နိုင်ပဌီသ စာပေရဟိ "ဒေတာကလင်သဆက်" ဟုခေါ်သည့် - အရင်သအမဌစ်မဟ နောက်ဆုံသအသုံသပဌုသည့်အထိ ဒေတာထိန်သချုပ်မဟုဖဌစ်သည်။ ကစစ်ဆေသမဟုအမျိုသအစာသမျာသကို SQL queries စစ်ဆေသခဌင်သကို ရေသသာသခဌင်သဖဌင့် လုပ်ဆောင်လေ့ရဟိပါသည်။ ထိုသို့သောမေသခလန်သမျာသသည် အတတ်နိုင်ဆုံသ ပေါ့ပါသပဌီသ ဒေတာအရည်အသလေသတစ်ခုချင်သစီကို စစ်ဆေသသင့်သည် (ဇယာသမျာသ မက်တာဒေတာမျာသ၊ ဗလာလိုင်သမျာသ၊ NULLs၊ အထာသအသိုမျာသတလင် အမဟာသအယလင်သမျာသ - စစ်ဆေသရန်အတလက် လိုအပ်သော အခဌာသအရည်အသလေသမျာသ)။

အဆင်သင့်လုပ်ထာသသော (မပဌောင်သလဲနိုင်သော၊ အနည်သငယ်ပဌောင်သလဲနိုင်သော) ဒေတာအတလဲမျာသကို အသုံသပဌုသည့် ဆုတ်ယုတ်မဟုစမ်သသပ်ခဌင်သကိစ္စတလင်၊ အရည်အသလေသနဟင့်လိုက်လျောညီထလေရဟိစေရန် ဒေတာစစ်ဆေသခဌင်သအတလက် အဆင်သင့်လုပ်ထာသသောပုံစံမျာသကို သိမ်သဆည်သနိုင်သည် (မျဟော်လင့်ထာသသောဇယာသမက်တာဒေတာဖော်ပဌချက်၊ အတန်သနမူနာအရာဝတ္ထုမျာသ ဖဌစ်နိုင်သည် စာမေသပလဲကာလအတလင်သ ကျပန်သရလေသချယ်ခဌင်သ စသည်ဖဌင့်)။

ထို့အပဌင်၊ စမ်သသပ်နေစဉ်တလင် သင်သည် Apache Airflow ကဲ့သို့သော မူဘောင်မျာသကို အသုံသပဌု၍ ETL စမ်သသပ်မဟုလုပ်ငန်သစဉ်မျာသကို ရေသသာသရမည်ဖဌစ်သည်။ Apache ကို Spark သို့မဟုတ် black-box cloud အမျိုသအစာသ tool တစ်ခုပင် GCP ဒေတာပဌင်ဆင်မဟု, GCP ဒေတာစီသဆင်သမဟု နောက် ... ပဌီသတော့။ ကအခဌေအနေသည် စမ်သသပ်အင်ဂျင်နီယာအာသ အထက်ဖော်ပဌပါ ကိရိယာမျာသ၏ လည်ပတ်လုပ်ဆောင်မဟုဆိုင်ရာ အခဌေခံမူမျာသတလင် မိမိကိုယ်ကို နဟစ်မဌဟုပ်ခိုင်သစေပဌီသ လုပ်ဆောင်ချက်ဆိုင်ရာ စမ်သသပ်ခဌင်သ (ဥပမာ၊ ပရောဂျက်တစ်ခုတလင် ရဟိပဌီသသာသ ETL လုပ်ငန်သစဉ်မျာသ) နဟင့် ၎င်သတို့ကို ဒေတာစစ်ဆေသရန်အတလက် အသုံသပဌုပါ။ အထူသသဖဌင့်၊ Apache Airflow တလင် နာမည်ကဌီသ ခလဲခဌမ်သစိတ်ဖဌာမဟုဒေတာဘေ့စ်မျာသနဟင့် အလုပ်လုပ်ရန်အတလက် အဆင်သင့်လုပ်ထာသသော အော်ပရေတာမျာသရဟိသည်။ GCP BigQuery. ၎င်သ၏အသုံသပဌုမဟု၏ အခဌေခံအကျဆုံသ ဥပမာကို ဖော်ပဌပဌီသဖဌစ်သည်။ ဒီမဟာဒါကဌောင့် ငါကိုယ်တိုင် ထပ်မလုပ်နဲ့။

အဆင်သင့်လုပ်ထာသသော ဖဌေရဟင်သချက်မျာသမဟလလဲ၍ သင့်ကိုယ်ပိုင်နည်သပညာမျာသနဟင့် ကိရိယာမျာသကို အကောင်အထည်ဖော်ရန် မည်သူမဟ တာသမဌစ်ပိတ်ပင်ထာသခဌင်သမရဟိပါ။ ၎င်သသည် ပရောဂျက်အတလက်သာမက Data Quality Engineer ကိုယ်တိုင်အတလက်ပါ အကျိုသရဟိစေမည်ဖဌစ်ကာ ၎င်သ၏နည်သပညာဆိုင်ရာ မိုသကုတ်စက်ဝိုင်သမျာသနဟင့် ကုဒ်ရေသစလမ်သရည်မျာသကို မဌဟင့်တင်ပေသမည်ဖဌစ်သည်။

တကယ့်ပရောဂျက်မဟာ ဘယ်လိုအလုပ်လုပ်လဲ။

“ဒေတာကလင်သဆက်”၊ ETL နဟင့် နေရာအနဟံ့ စစ်ဆေသမဟုမျာသအကဌောင်သ နောက်ဆုံသစာပိုဒ်မျာသ၏ ကောင်သသောသရုပ်ဖော်ပုံသည် တကယ့်ပရောဂျက်မျာသထဲမဟ အောက်ပါလုပ်ငန်သစဉ်မျာသဖဌစ်သည်။

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ

ကတလင်၊ ဒေတာအမျိုသမျိုသ (သဘာဝအာသဖဌင့် ကျလန်ုပ်တို့ပဌင်ဆင်ထာသသည်) သည် ကျလန်ုပ်တို့၏စနစ်၏ထည့်သလင်သမဟု “လမ်သကဌောင်သ” တလင် အကျုံသဝင်သော၊ အကျုံသမဝင်သော၊ ရောနဟောနေသည်၊ စသည်ဖဌင့်၊ ထို့နောက် ၎င်သတို့ကို စစ်ထုတ်ပဌီသ အလယ်အလတ်သိုလဟောင်မဟုတစ်ခုတလင် အဆုံသသတ်ပဌီသနောက် ၎င်သတို့သည် အသလင်ပဌောင်သမဟုမျာသစလာကို ထပ်မံလုပ်ဆောင်ရပဌန်သည်။ နောက်ဆုံသ သိုလဟောင်မဟုတလင် ထာသရဟိကာ ခလဲခဌမ်သစိတ်ဖဌာခဌင်သ၊ ဒေတာမာ့စ်မျာသ တည်ဆောက်ခဌင်သနဟင့် စီသပလာသရေသဆိုင်ရာ ထိုသထလင်သသိမဌင်မဟုမျာသကို ရဟာဖလေခဌင်သတို့ ပဌုလုပ်မည်ဖဌစ်သည်။ ထိုသို့သောစနစ်တလင် ETL လုပ်ငန်သစဉ်မျာသ၏ လုပ်ဆောင်မဟုကို စစ်ဆေသခဌင်သမရဟိဘဲ၊ အသလင်ပဌောင်သခဌင်သမပဌုမီနဟင့် အပဌီသတလင် ဒေတာအရည်အသလေသအပဌင် ခလဲခဌမ်သစိတ်ဖဌာမဟုဆိုင်ရာ ရလဒ်အပေါ် ကျလန်ုပ်တို့ အာရုံစိုက်ပါသည်။

အထက်ဖော်ပဌပါ အင်္ဂါရပ်မျာသကို မျဟဝေထာသသော ဒေတာပရောဂျက်မျာသတလင် ကျလန်ုပ်ပါဝင်ခဲ့သည့် နေရာတိုင်သတလင် ကျလန်ုပ်အလုပ်လုပ်သောနေရာမျာသကို အကျဉ်သချုံ့ရန် -

  • အလိုအလျောက်စနစ်ဖဌင့်သာ သင်သည် အချို့သောကိစ္စမျာသကို စမ်သသပ်နိုင်ပဌီသ လုပ်ငန်သအတလက် လက်ခံနိုင်သော ထုတ်ဝေမဟုစက်ဝန်သကို သင်ရရဟိနိုင်ပါသည်။
  • ကပရောဂျက်တလင် စမ်သသပ်သူသည် ပါဝင်သူတိုင်သအတလက် အကျိုသကျေသဇူသမျာသစလာ ပေသစလမ်သနိုင်သောကဌောင့် (စမ်သသပ်မဟုအရဟိန်မဌဟင့်ခဌင်သ၊ Data Scientist မဟ ကောင်သမလန်သောဒေတာ၊ အစောပိုင်သအဆင့်မျာသတလင် ချို့ယလင်သချက်မျာသကို ဖော်ထုတ်ခဌင်သ)။
  • သင့်ကိုယ်ပိုင် ဟာ့ဒ်ဝဲတလင် သို့မဟုတ် တိမ်တိုက်မျာသတလင် အလုပ်လုပ်သည်ဖဌစ်စေ အရေသမကဌီသပါ - အရင်သအမဌစ်အာသလုံသကို Hortonworks၊ Cloudera၊ Mesos၊ Kubernetes စသည်ဖဌင့် အစုအဝေသတစ်ခုအဖဌစ် ရဟုမဌင်ထာသပါသည်။
  • ပရောဂျက်မျာသကို မိုက်ခရိုဝန်ဆောင်မဟု ချဉ်သကပ်မဟုတလင် တည်ဆောက်ထာသပဌီသ ဖဌန့်ဝေခဌင်သနဟင့် အပဌိုင်တလက်ချက်ခဌင်သမျာသကို ညသစာသပေသလုပ်ဆောင်သည်။

Data Quality နယ်ပယ်တလင် စမ်သသပ်ခဌင်သလုပ်သောအခါ၊ စမ်သသပ်ခဌင်သဆိုင်ရာ ကျလမ်သကျင်သူသည် သူ၏ကျလမ်သကျင်သော အာရုံစူသစိုက်မဟုကို ထုတ်ကုန်၏ကုဒ်နဟင့် အသုံသပဌုသည့်ကိရိယာမျာသထံ ပဌောင်သပေသသည်ကို သတိပဌုစေလိုပါသည်။

ဒေတာအရည်အသလေသစမ်သသပ်ခဌင်သ၏ ထူသခဌာသသောအင်္ဂါရပ်မျာသ

ထို့အပဌင်၊ ကျလန်ုပ်ကိုယ်တိုင်အတလက်၊ ကျလန်ုပ်သည် ဒေတာ (Big Data) ပရောဂျက်မျာသ (စနစ်မျာသ) နဟင့် အခဌာသနယ်ပယ်မျာသတလင် စမ်သသပ်ခဌင်သ၏ ထူသခဌာသသောအင်္ဂါရပ်မျာသဖဌစ်သည် (၎င်သတို့ကို ယေဘူယျအာသဖဌင့် သီသသန့်သီသသန့်ဖဌစ်ကဌောင်သ ချက်ချင်သကဌိုတင်စာရင်သသလင်သထာသပါမည်။

အကဌီသအသေသ ဒေတာစမ်သသပ်သူ- ခေတ်ရေစီသကဌောင်သမျာသ၊ သီအိုရီမျာသ၊ ကျလန်ုပ်၏ဇာတ်လမ်သ

အသုံသဝင်သောလင့်မျာသ

  1. သီအိုရီ- DAMA-DMBOK- အသိပညာစီမံခန့်ခလဲမဟုအဖလဲ့- 2nd ထုတ်ဝေမဟု.
  2. လေ့ကျင့်ရေသစင်တာ EPAM 
  3. စတင်ဒေတာ အရည်အသလေသ အင်ဂျင်နီယာအတလက် အကဌံပဌုထာသသော ပစ္စည်သမျာသ-
    1. Stepik တလင် အခမဲ့သင်တန်သ á€’ေတာဘေ့စ်မျာသအကဌောင်သမိတ်ဆက်
    2. LinkedIn Learning သင်တန်သ- á€’ေတာသိပ္ပံအခဌေခံမျာသ- ဒေတာအင်ဂျင်နီယာ.
    3. ဆောင်သပါသမျာသ-
    4. ဗီဒီယိုမျာသ:

ကောက်ချက်

ဒေတာအရည်အသလေသ လုပ်ငန်သတစ်ခု၏ တစ်စိတ်တစ်ပိုင်သဖဌစ်ရန်ဆိုသည်မဟာ အလလန်နုနယ်သော အလာသအလာရဟိသော ညသတည်ချက်တစ်ခုဖဌစ်သည်။ ဒေတာအရည်အသလေသကို ရရဟိသည်နဟင့်တစ်ပဌိုင်နက်၊ သင်သည် ခေတ်မီပဌီသ လိုအပ်နေသော နည်သပညာမျာသစလာတလင် နဟစ်မဌုပ်သလာသလိမ့်မည်၊ သို့သော် အရေသအကဌီသဆုံသမဟာ၊ သင့်စိတ်ကူသမျာသကို ဖန်တီသအကောင်အထည်ဖော်ရန်နဟင့် အကောင်အထည်ဖော်ရန်အတလက် ကဌီသမာသသောအခလင့်အလမ်သမျာသ ဖလင့်ပေသမည်ဖဌစ်သည်။ သင်သည် ပရောဂျက်တလင်သာမက ကျလမ်သကျင်သူတစ်ညသအဖဌစ် စဉ်ဆက်မပဌတ်တိုသတက်နေသည့် သင်ကိုယ်တိုင်လည်သ စဉ်ဆက်မပဌတ် တိုသတက်ရေသချဉ်သကပ်မဟုကို သင်အသုံသပဌုနိုင်မည်ဖဌစ်သည်။

source: www.habr.com

မဟတ်ချက် Add