NeurIPS 2019- လာမည့်ဆယ်စုနှစ်အတွက် ကျွန်ုပ်တို့နှင့်အတူရှိမည့် ML လမ်းကြောင်းများ

NeuroIPS (အာရုံကြောဆိုင်ရာ သတင်းအချက်အလက် စီမံဆောင်ရွက်ပေးသည့် စနစ်များ) သည် စက်ပိုင်းဆိုင်ရာ သင်ယူမှုနှင့် ဉာဏ်ရည်တုဆိုင်ရာ ကမ္ဘာ့အကြီးဆုံး ကွန်ဖရင့်ဖြစ်ပြီး နက်နဲသော သင်ယူမှုလောကတွင် အဓိကပွဲဖြစ်သည်။

ကျွန်ုပ်တို့၊ DS အင်ဂျင်နီယာများသည် ဆယ်စုနှစ်သစ်တွင် ဇီဝဗေဒ၊ ဘာသာဗေဒနှင့် စိတ်ပညာတို့ကို ကျွမ်းကျင်ကြမည်လား။ ကျွန်ုပ်တို့၏ သုံးသပ်ချက်တွင် သင့်အား ပြောပြပါမည်။

ယခုနှစ် ကွန်ဖရင့်သည် ကနေဒါနိုင်ငံ ဗန်ကူးဗားတွင် နိုင်ငံပေါင်း ၈၀ မှ လူပေါင်း ၁၃,၅၀၀ ကျော်ကို ခေါ်ယူခဲ့သည်။ ဤညီလာခံတွင် Sberbank သည် ရုရှားနိုင်ငံကို ကိုယ်စားပြုသည့် ပထမဆုံးနှစ်မဟုတ်ပေ။ DS အဖွဲ့သည် ဘဏ်လုပ်ငန်းလုပ်ငန်းစဉ်များတွင် ML အကောင်အထည်ဖော်မှု၊ ML ပြိုင်ဆိုင်မှုများအကြောင်းနှင့် Sberbank DS ပလပ်ဖောင်း၏စွမ်းဆောင်ရည်များအကြောင်း DS အဖွဲ့မှ ပြောကြားခဲ့ပါသည်။ ML အသိုင်းအဝိုင်းတွင် 13500 ၏ အဓိက လမ်းကြောင်းများကား အဘယ်နည်း။ ညီလာခံတက်ရောက်လာသူများက ပြောကြသည်။ Andrey Chertok и Tatyana Shavrina.

ယခုနှစ်တွင်၊ NeurIPS သည် ဒေတာအသစ်အတွက် အယ်လဂိုရီသမ်များ၊ မော်ဒယ်အသစ်များနှင့် အပလီကေးရှင်းအသစ်များ 1400 ကျော်ကို လက်ခံခဲ့သည်။ ပစ္စည်းအားလုံးကို ချိတ်ဆက်ပါ။

မာတိကာ:

• ခေတ်ရေစီးကြောင်း
• • မော်ဒယ်အဓိပ္ပာယ်ဖွင့်ဆိုမှု
  • စည်းကမ်းပေါင်းစုံ
  • ဆင်ခြင်ခြင်း
  • RL
  • GAN
• အခြေခံ ဖိတ်ကြားထားသော ဆွေးနွေးပွဲများ
• • “လူမှုထောက်လှမ်းရေး”၊ Blaise Aguera နှင့် Arcas (Google)
  • ဘင်ယု (ဘာကလေ)၊
  • “စက်သင်ယူမှုဖြင့် လူသားအပြုအမူပုံစံပြခြင်း- အခွင့်အလမ်းများနှင့် စိန်ခေါ်မှုများ”၊ Nuria M Oliver၊ Albert Ali Salah
  • “စနစ် 1 မှ စနစ် 2 အထိ နက်ရှိုင်းစွာ သင်ယူခြင်း”၊ Yoshua Bengio

ခေတ်ရေစီးကြောင်း 2019

1. မော်ဒယ်အနက်ပြန်ဆိုနိုင်မှုနှင့် ML နည်းစနစ်အသစ်

ညီလာခံ၏ အဓိက ခေါင်းစဉ်မှာ အဓိပ္ပါယ်ဖွင့်ဆိုချက်နှင့် ရလဒ်အချို့ကို ကျွန်ုပ်တို့ ဘာကြောင့်ရကြောင်း အထောက်အထားများဖြစ်သည်။ “အနက်ရောင်သေတ္တာ” ၏ အဓိပ္ပာယ်ဖွင့်ဆိုချက်၏ အတွေးအခေါ်ဆိုင်ရာ အရေးပါမှုအကြောင်းကို အချိန်အတော်ကြာ ပြောဆိုနိုင်သော်လည်း ဤနယ်ပယ်တွင် ပိုမိုမှန်ကန်သော နည်းလမ်းများနှင့် နည်းပညာပိုင်းဆိုင်ရာ တိုးတက်မှုများ ရှိခဲ့သည်။

မော်ဒယ်များကို ပုံတူကူးခြင်းနှင့် ၎င်းတို့ထံမှ အသိပညာ ထုတ်ယူခြင်းအတွက် နည်းစနစ်သည် သိပ္ပံအတွက် ကိရိယာအသစ်တစ်ခုဖြစ်သည်။ မော်ဒယ်များသည် အသိပညာအသစ်များရရှိရန်နှင့် ၎င်းကိုစမ်းသပ်ရန်အတွက် ကိရိယာတစ်ခုအဖြစ် လုပ်ဆောင်နိုင်ပြီး မော်ဒယ်၏ကြိုတင်လုပ်ဆောင်မှု၊ လေ့ကျင့်မှုနှင့် အသုံးချမှုအဆင့်တစ်ခုစီသည် ပြန်လည်ထုတ်လုပ်နိုင်ရမည်ဖြစ်သည်။
ထုတ်ဝေမှုများ၏ သိသာထင်ရှားသော အချိုးအစားသည် မော်ဒယ်များနှင့် ကိရိယာများ တည်ဆောက်ခြင်းအတွက်မဟုတ်ဘဲ ရလဒ်များ၏ လုံခြုံရေး၊ ပွင့်လင်းမြင်သာမှုနှင့် အတည်ပြုနိုင်မှုတို့ကို သေချာစေရေး ပြဿနာများအတွက် အာရုံစိုက်ထားသည်။ အထူးသဖြင့်၊ မော်ဒယ်အပေါ် တိုက်ခိုက်မှုများ (ရန်ဘက်တိုက်ခိုက်မှုများ) နှင့်ပတ်သက်ပြီး သီးခြားစီးကြောင်းတစ်ခု ပေါ်လာပြီး လေ့ကျင့်မှုနှင့် အသုံးချမှုအပေါ် တိုက်ခိုက်မှုနှစ်ခုစလုံးအတွက် ရွေးချယ်စရာများကို ထည့်သွင်းစဉ်းစားထားသည်။

ဆောင်းပါးများ-

• Veridical ဒေတာသိပ္ပံ — မော်ဒယ်စစ်ဆေးခြင်းနည်းစနစ်ဆိုင်ရာ ပရိုဂရမ်မာဆောင်းပါးတစ်ပုဒ်။ အထူးသဖြင့် မော်ဒယ်များကို ဘာသာပြန်ခြင်းအတွက် ခေတ်မီကိရိယာများ၏ ခြုံငုံသုံးသပ်ချက် ပါ၀င်သည်
• ဤအရာသည် ၎င်းနှင့်တူသည်- အဓိပ္ပါယ်ပြန်ဆိုနိုင်သော ရုပ်ပုံအသိအမှတ်ပြုခြင်းအတွက် နက်ရှိုင်းစွာ သင်ယူခြင်း။ Chaofan Chen၊ Oscar Li၊ Daniel Tao၊ Alina Barnett၊ Cynthia Rudin၊ Jonathan K. Su
• Deep Neural Networks တွင် အဓိပ္ပါယ်ပြန်ဆိုနိုင်မှုနည်းလမ်းများအတွက် စံသတ်မှတ်ချက်တစ်ခု Sara Hooker၊ Dumitru Erhan၊ Pieter-Jan Kindermans၊ Been Kim
• Attention Augmented Agents ကို အသုံးပြု၍ အဓိပ္ပာယ်ပြန်ရနိုင်သော အားဖြည့်သင်ယူမှုဆီသို့ Alexander Mott၊ Daniel Zoran၊ Mike Chrzanowski၊ Daan Wierstra၊ Danilo Jimenez Rezende
• ကျပန်းသစ်တောများအတွက် Debiased MDI အင်္ဂါရပ်အရေးကြီးမှုအတိုင်းအတာ Xiao Li၊ Yu Wang၊ Sumanta Basu၊ Karl Kumbier၊ Bin Yu
• မမြင်နိုင်သော အချက်အလက်များဖြင့် အသိပညာ ထုတ်ယူခြင်း Jaemin Yoo၊ Minyong Cho၊ Taebum Kim၊ U Kang
• အမှီအခိုကင်းစွာ ပြန်လည်ထုတ်လုပ်နိုင်သော စက်သင်ယူခြင်းဆိုင်ရာ သုတေသနကို အရေအတွက်သတ်မှတ်ခြင်းသို့ ဦးတည်သော အဆင့် Edward Raff

ExBert.net သည် စာသားလုပ်ဆောင်ခြင်းလုပ်ငန်းများအတွက် စံနမူနာအဓိပ္ပာယ်ဖွင့်ဆိုချက်ကို ပြသသည်။

2. Multidisciplinarity

ယုံကြည်စိတ်ချရသော စိစစ်အတည်ပြုပြီး အသိပညာကို ချဲ့ထွင်ရန် ယန္တရားများ ပြုစုပျိုးထောင်ရန်၊ ML နှင့် ဘာသာရပ်နယ်ပယ်တွင် တပြိုင်နက် အရည်အချင်းများရှိသည့် ဆက်စပ်နယ်ပယ်များမှ ကျွမ်းကျင်သူများ (ဆေးပညာ၊ ဘာသာဗေဒ၊ အာရုံကြောဇီဝဗေဒ၊ ပညာရေးစသည်) လိုအပ်ပါသည်။ အာရုံကြောသိပ္ပံနှင့် သိမြင်မှုဆိုင်ရာ ပညာရပ်များတွင် ပိုမိုထင်ရှားသော အလုပ်များနှင့် မိန့်ခွန်းများ ရှိနေခြင်းကို အထူးသတိပြုသင့်သည် - ကျွမ်းကျင်သူများ၏ ပေါင်းစပ်ညှိနှိုင်းမှုနှင့် အကြံဥာဏ်များ ချေးယူခြင်းလည်း ရှိပါသည်။

ဤဆက်စပ်မှုအပြင်၊ အမျိုးမျိုးသောရင်းမြစ်များမှ အချက်အလက်များကို ပူးတွဲလုပ်ဆောင်ခြင်းတွင် နယ်ပယ်ပေါင်းစုံမှ ပေါ်ထွက်လာခြင်းဖြစ်သည်- စာသားနှင့် ဓာတ်ပုံများ၊ စာသားနှင့်ဂိမ်းများ၊ ဂရပ်ဖ်ဒေတာဘေ့စ် + စာသားနှင့် ဓာတ်ပုံများ။

ဆောင်းပါးများ-

• အာရုံကြောသိပ္ပံ + ML — သဘာဝဘာသာစကားဖြင့် လုပ်ဆောင်ခြင်း (ဦးနှောက်အတွင်း) ဖြင့် သဘာဝဘာသာစကားဖြင့် စီမံဆောင်ရွက်ပေးခြင်း (စက်များတွင်) စကားပြန်ခြင်းနှင့် ပိုမိုကောင်းမွန်စေခြင်း၊
• VisualQA - Abstraction ဖြင့် သင်ယူခြင်း- Neural State Machine
• RL + NLP - သဘာဝဘာသာစကား ညွှန်ကြားချက်များကို ထုတ်လုပ်ခြင်းနှင့် လိုက်နာခြင်းဖြင့် အထက်တန်းကျကျ ဆုံးဖြတ်ချက်ချခြင်း။

RL နှင့် NLP အွန်လိုင်းဗျူဟာကို အခြေခံ၍ ဗျူဟာမှူးနှင့် အမှုဆောင် မော်ဒယ်နှစ်ခု

၅

ဉာဏ်ရည်တုကို အားကောင်းစေခြင်းသည် မိမိကိုယ်ကို သင်ယူမှုစနစ်များ၊ “သိစိတ်”၊ ကျိုးကြောင်းဆင်ခြင်ခြင်းနှင့် ဆင်ခြင်ခြင်းဆီသို့ ဦးတည်သည့် လှုပ်ရှားမှုတစ်ခုဖြစ်သည်။ အထူးသဖြင့်၊ အကြောင်းရင်း ကောက်ချက်ချမှုနှင့် သာမာန် ကျိုးကြောင်းဆင်ခြင်ခြင်းတို့သည် ဖွံ့ဖြိုးလာပါသည်။ အချို့သောအစီရင်ခံစာများသည် meta-learning (သင်ယူနည်းအကြောင်း) နှင့် DL technologies များကို 1st နှင့် 2nd order logic ဖြင့်ပေါင်းစပ်ထားပါသည် - Artificial General Intelligence (AGI) ဟူသောအသုံးအနှုန်းသည် ဟောပြောသူများ၏မိန့်ခွန်းများတွင် အသုံးများသောအသုံးအနှုန်းဖြစ်လာပါသည်။

ဆောင်းပါးများ-

• Visual Commonsense Reasoning အတွက် Heterogeneous Graph Learning Weijiang Yu၊ Jingwen Zhou၊ Weihao Yu၊ Xiaodan Liang၊ Nong Xiao
• Abductive Learning ဖြင့် စက်သင်ယူခြင်းနှင့် ယုတ္တိကျိုးကြောင်းဆင်ခြင်ခြင်းတို့ကို ပေါင်းစပ်ခြင်း။ Wang-Zhou Dai၊ Qiuling Xu၊ Yang Yu၊ Zhi-Hua Zhou
• ပထမဆင့် ယုတ္တိဗေဒတွင် ကျိုးကြောင်းဆင်ခြင်ရန် လုံးလုံးလျားလျား သင်ယူခြင်း။ Vaishak Belle၊ Brendan Juba
• PHYRE- ရုပ်ပိုင်းဆိုင်ရာ ကျိုးကြောင်းဆင်ခြင်မှုအတွက် စံသတ်မှတ်ချက်အသစ် Anton Bakhtin၊ Laurens van der Maaten၊ Justin Johnson၊ Laura Gustafson၊ Ross Girshick
• ကျိုးကြောင်းဆင်ခြင်မှုအတွက် ကွမ်တမ်အသိပညာကို မြှုပ်နှံထားသည်။ Dinesh Garg၊ Shajith Ikbal၊ Santosh K. Srivastava၊ Harit Vishwakarma၊ Hima Karanam၊ L Venkata Subramaniam

4.Reinforcement သင်ယူခြင်း။

အလုပ်အများစုသည် RL - DOTA2၊ Starcraft ၏ ရိုးရာနယ်ပယ်များကို ဆက်လက်ဖွံ့ဖြိုးဆဲ၊ ဗိသုကာလက်ရာများကို ကွန်ပျူတာအမြင်၊ NLP၊ ဂရပ်ဒေတာဘေ့စ်များနှင့် ပေါင်းစပ်ထားသည်။

ညီလာခံ၏သီးခြားနေ့ကို RL အလုပ်ရုံဆွေးနွေးပွဲတစ်ခုတွင် ရည်စူးပြီး အကောင်းမြင်သရုပ်ဆောင်ဝေဖန်ရေးမော်ဒယ်ဗိသုကာလက်ရာကို ယခင်အားလုံးထက် အထူးသဖြင့် Soft Actor Critic များထက် သာလွန်ကောင်းမွန်ပါသည်။

ဆောင်းပါးများ-

• အကောင်းမြင်စိတ်ဖြင့် သရုပ်ဆောင်ဝေဖန်သူဖြင့် ပိုမိုကောင်းမွန်သော စူးစမ်းမှု; Kamil Ciosek၊ Quan Vuong၊ Robert Loftin၊ Katja Hofmann
• ChainerRL- နက်ရှိုင်းသော အားဖြည့်သင်ကြားရေးစာကြည့်တိုက်; Yasuhiro Fujita (Preferred Networks, Inc.)*; Toshiki Kataoka (Preferred Networks, Inc.); Prabhat Nagarajan (ဦးစားပေးကွန်ရက်များ); Takahiro Ishikawa (The University of Tokyo) [ပြင်ပ pdf link]။
• ထိန်းချုပ်ရန်အိပ်မက်- ငုပ်လျှိုးနေသော စိတ်ကူးစိတ်သန်းဖြင့် အမူအကျင့်များကို သင်ယူခြင်း။; Danijar Hafner (Google)*; Timothy Lillicrap (DeepMind); ဂျင်မီဘ (တိုရွန်တိုတက္ကသိုလ်); မိုဟာမက် နိုရူဇီ (Google Brain)
• အလုပ်ရုံသုံးပစ္စည်းများ

StarCraft ကစားသမားများသည် Alphastar မော်ဒယ် (DeepMind) နှင့် တိုက်ပွဲဝင်ကြသည်

5.GAN

မျိုးဆက်ပွားကွန်ရက်များသည် မီးမောင်းထိုးပြနေဆဲဖြစ်သည်- များစွာသော အလုပ်များသည် သင်္ချာအထောက်အထားများအတွက် vanilla GAN များကို အသုံးပြုကြပြီး ၎င်းတို့ကို ပုံမှန်မဟုတ်သော နည်းလမ်းသစ်များဖြင့် (ဂရပ်ထုတ်ပေးသည့် မော်ဒယ်များ၊ စီးရီးများနှင့် လုပ်ဆောင်ခြင်း၊ ဒေတာတွင် အကြောင်းတရားနှင့် အကျိုးသက်ရောက်မှု ဆက်ဆံရေးအတွက် အပလီကေးရှင်း၊ စသည်)။

ဆောင်းပါးများ-

• အခြေအနေအရ GAN များအတွက် ရွှေနမူနာများ တူးဖော်ခြင်း။ Sangwoo Mo၊ Chiheon Kim၊ Sungwoong Kim၊ Minsu Cho၊ Jinwoo Shin
• GAN များ၏တိုးတက်မှုကိုမြှင့်တင်ခြင်း။ Dan Zhang၊ Anna Khoreva
• Conditional GAN ​​ကို အသုံးပြု၍ Tabular ဒေတာကို ပုံစံထုတ်ခြင်း။ Lei Xu၊ Maria Skoularidou၊ Alfredo Cuesta-Infante၊ Kalyan Veeramachaneni
• papers.nips.cc/paper/9377-a-domain-agnostic-measure-for-monitoring-and-evaluating-gans

အလုပ်ပိုလက်ခံလာကတည်းက 1400 အောက်တွင် အရေးကြီးဆုံး မိန့်ခွန်းများအကြောင်းကို ဆွေးနွေးပါမည်။

ဖိတ်ကြားထားသော ဆွေးနွေးပွဲများ

“လူမှုထောက်လှမ်းရေး”၊ Blaise Aguera နှင့် Arcas (Google)

link ကို
ဆလိုက်များနှင့် ဗီဒီယိုများ
ဟောပြောပွဲသည် စက်သင်ယူခြင်း၏ ယေဘူယျနည်းစနစ်နှင့် ယခုစက်မှုလုပ်ငန်းကို ပြောင်းလဲမည့်အလားအလာများကို အလေးပေးဖော်ပြသည် - ကျွန်ုပ်တို့ ရင်ဆိုင်နေရသော လမ်းဆုံလမ်းခွများ။ ဦးနှောက်နှင့် ဆင့်ကဲဖြစ်စဉ်သည် မည်သို့အလုပ်လုပ်သနည်း၊ ကျွန်ုပ်တို့သည် သဘာဝစနစ်များ ဖွံ့ဖြိုးတိုးတက်မှုနှင့် ပတ်သက်၍ ကျွန်ုပ်တို့ သိထားပြီးဖြစ်သော အရာကို အဘယ်ကြောင့် အနည်းငယ်မျှ အသုံးပြုနိုင်သနည်း။

ML ၏စက်မှုလုပ်ငန်းဖွံ့ဖြိုးတိုးတက်မှုသည် NeurIPS တွင် ၎င်း၏သုတေသနကို တစ်နှစ်ပြီးတစ်နှစ်ထုတ်ဝေသည့် Google ၏ဖွံ့ဖြိုးတိုးတက်မှုမှတ်တိုင်များနှင့် အကြီးအကျယ်တိုက်ဆိုင်နေပါသည်။

• 1997 - ရှာဖွေရေးအဆောက်အအုံများ၊ ပထမဆုံးဆာဗာများ၊ အသေးစားကွန်ပျူတာစွမ်းအားကို စတင်ခဲ့သည်။
• 2010 – Jeff Dean သည် Google Brain ပရောဂျက်ကို စတင်ခဲ့ပြီး အစပိုင်းတွင် အာရုံကြောကွန်ရက်များ ထွန်းကားလာခဲ့သည်။
• 2015 - အာရုံကြောကွန်ရက်များကိုစက်မှုလုပ်ငန်းအကောင်အထည်ဖော်ခြင်း၊ ပြည်တွင်းစက်ကိရိယာတစ်ခုပေါ်တွင် လျင်မြန်သောမျက်နှာကို တိုက်ရိုက်အသိအမှတ်ပြုခြင်း၊ tensor တွက်ချက်ခြင်းအတွက် အံဝင်ခွင်ကျရှိသော အဆင့်နိမ့်ပရိုဆက်ဆာများ - TPU။ Google သည် Coral ai ကို စမ်းသပ်တပ်ဆင်မှုတွင် အာရုံကြောကွန်ရက်များကို မိတ်ဆက်ရန်အတွက် အသေးစားကွန်ပျူတာဖြစ်သည့် Raspberry pi ၏ analogue တစ်ခုဖြစ်သော Coral ai ကို မိတ်ဆက်ခဲ့သည်
• 2017 - Google သည် ဗဟိုချုပ်ကိုင်မှုကင်းစင်သော လေ့ကျင့်သင်ကြားမှုကို စတင်လုပ်ဆောင်နေပြီး မတူညီသော စက်ပစ္စည်းများမှ အာရုံကြောကွန်ရက်လေ့ကျင့်မှု၏ ရလဒ်များကို မော်ဒယ်တစ်ခုအဖြစ် - Android တွင် ပေါင်းစပ်ထားသည်။

ယနေ့စက်မှုလုပ်ငန်းတစ်ခုလုံးသည် ဒေသဆိုင်ရာစက်ပစ္စည်းများတွင် ဒေတာလုံခြုံရေး၊ စုစည်းမှုနှင့် သင်ယူမှုရလဒ်များကို ထပ်တူပြုခြင်းအတွက် ရည်ရွယ်ပါသည်။

ပဒေသရာဇ် သင်ကြားရေး - မော်ဒယ်တစ်ဦးချင်းစီသည် တစ်ခုနှင့်တစ်ခု အမှီအခိုကင်းစွာ သင်ယူကာ တစ်ခုတည်းသောပုံစံ (အရင်းအမြစ်ဒေတာကို ဗဟိုမထားဘဲ) ပေါင်းစပ်ထားသည့် ရှားပါးဖြစ်ရပ်များ၊ ကွဲလွဲချက်များ၊ ပုဂ္ဂိုလ်ရေးသီးသန့်ပြုလုပ်ခြင်း စသည်ဖြင့် ချိန်ညှိထားသည့် ML ၏ လမ်းညွှန်ချက်။ Android စက်ပစ္စည်းများအားလုံးသည် Google အတွက် မရှိမဖြစ်လိုအပ်သော ကွန်ပျူတာစူပါကွန်ပျူတာတစ်ခုဖြစ်သည်။

ဖက်ဒရယ်သင်ယူမှုအပေါ်အခြေခံသည့် မျိုးဆက်သစ်မော်ဒယ်များသည် "ကိန်းဂဏန်းတိုးတက်မှု၏အစောပိုင်းအဆင့်များတွင်" ဖြစ်သည့် Google အရ အနာဂတ်လမ်းကြောင်းမှန်တစ်ခုဖြစ်သည်။ ကထိက၏အဆိုအရ GAN များသည် သက်ရှိများ၏ အစုလိုက်အပြုံလိုက် အပြုအမူနှင့် တွေးခေါ်မှုဆိုင်ရာ အယ်လဂိုရီသမ်များကို မျိုးပွားရန် သင်ယူနိုင်စွမ်းရှိသည်။

ရိုးရှင်းသော GAN ဗိသုကာလက်ရာနှစ်ခု၏နမူနာကိုအသုံးပြု၍ ၎င်းတို့တွင် ပိုမိုကောင်းမွန်အောင်ပြုလုပ်ခြင်းလမ်းကြောင်းကိုရှာဖွေခြင်းသည် စက်ဝိုင်းတစ်ခုအတွင်း လည်ပတ်နေသည်၊ ဆိုလိုသည်မှာ ပိုမိုကောင်းမွန်အောင်ပြုလုပ်ခြင်းမျိုးမဖြစ်ပေါ်ကြောင်းပြသထားသည်။ တစ်ချိန်တည်းမှာပင်၊ ဤမော်ဒယ်များသည် ဘက်တီးရီးယားများပေါ်ရှိ ဇီဝဗေဒပညာရှင်များ လုပ်ဆောင်သည့် စမ်းသပ်မှုများကို အတုယူကာ အစားအသောက်ရှာဖွေရာတွင် အပြုအမူဆိုင်ရာ ဗျူဟာအသစ်များကို သင်ယူရန် တွန်းအားပေးကာ အလွန်အောင်မြင်ပါသည်။ ဘဝသည် အကောင်းဆုံးဖြစ်အောင် လုပ်ဆောင်ခြင်းထက် ကွဲပြားစွာ အလုပ်လုပ်ကြောင်း ကျွန်ုပ်တို့ ကောက်ချက်ချနိုင်သည်။

GAN Optimization လမ်းလျှောက်ခြင်း။

ယခု machine learning ၏ မူဘောင်တွင် ကျွန်ုပ်တို့လုပ်ဆောင်သမျှသည် ကျဉ်းမြောင်းပြီး အလွန်အမင်း တရားဝင်လုပ်ထားသော အလုပ်များဖြစ်ပြီး၊ ဤနည်းလမ်းများသည် ယေဘုယျအားဖြင့် ကောင်းမွန်ခြင်းမရှိသည့်အပြင် အာရုံကြောဇီဝကမ္မဗေဒနှင့် ဇီဝဗေဒကဲ့သို့သော နယ်ပယ်များတွင် ကျွန်ုပ်တို့၏ဘာသာရပ်အသိပညာနှင့် မသက်ဆိုင်ပါ။

မဝေးတော့သောအနာဂတ်တွင် အာရုံကြောဇီဝကမ္မဗေဒနယ်ပယ်မှ အမှန်တကယ် ချေးငှားရကျိုးနပ်သည်မှာ နျူရွန်ဗိသုကာအသစ်များနှင့် အမှားအယွင်းများ ပြန့်ပွားခြင်း၏ယန္တရားများ၏ အနည်းငယ်ပြန်လည်ပြင်ဆင်မှုဖြစ်သည်။

လူ့ဦးနှောက်ကိုယ်တိုင်က အာရုံကြောကွန်ရက်တစ်ခုလို မသင်ယူတတ်ပါဘူး။

• သူ့တွင် အာရုံခံစားမှုများနှင့် ငယ်စဉ်ကလေးဘဝတွင် ထည့်သွင်းထားသောအရာများအပါအဝင် ကျပန်းပင်မသွင်းအားစုများ မရှိပါ။
• သူ့တွင် မွေးရာပါ ပင်ကိုယ်ဖွံ့ဖြိုးမှုဆိုင်ရာ လမ်းညွှန်ချက်များ (မွေးကင်းစကလေးမှ ဘာသာစကားသင်ယူလိုစိတ်၊ မတ်မတ်လမ်းလျှောက်ခြင်း)၊

တစ်ဦးချင်းစီ၏ ဦးနှောက်ကို လေ့ကျင့်ပေးခြင်းသည် အဆင့်နိမ့်အလုပ်ဖြစ်သည်၊ အုပ်စုဆင့်ကဲဖြစ်စဉ်၏ ယန္တရားများကို မျိုးပွားရန်အတွက် လျင်မြန်စွာပြောင်းလဲနေသော လူတစ်ဦးချင်းစီ၏ “ကိုလိုနီနယ်မြေများ” ကို ကျွန်ုပ်တို့ စဉ်းစားသင့်သည်။

ML algorithms တွင် ယခုကျွန်ုပ်တို့ထည့်သွင်းနိုင်သည့်အရာများ-

• လူဦးရေ၏ သင်ယူမှုကို သေချာစေသည့် ဆဲလ်မျိုးရိုးပုံစံများကို အသုံးပြုပါ၊ သို့သော် တစ်ဦးချင်း၏ တိုတောင်းသောသက်တမ်း ("တစ်ဦးချင်းဦးနှောက်")
• နမူနာအနည်းအကျဉ်းကို အသုံးပြု၍ သင်ယူမှုအနည်းငယ်
• ပိုမိုရှုပ်ထွေးသော နျူရွန်ဖွဲ့စည်းပုံများ၊ အနည်းငယ်ကွဲပြားသော လှုပ်ရှားလုပ်ဆောင်မှုများ
• “ဂျီနိုမ်” ကို နောက်မျိုးဆက်များသို့ လွှဲပြောင်းပေးခြင်း - backpropagation algorithm
• ကျွန်ုပ်တို့သည် အာရုံကြောဇီဝကမ္မဗေဒနှင့် အာရုံကြောကွန်ရက်များကို ချိတ်ဆက်ပြီးသည်နှင့်၊ အစိတ်အပိုင်းများစွာမှ ဘက်စုံသုံးဦးနှောက်တစ်လုံးကို တည်ဆောက်ရန် သင်ယူပါမည်။

ဤရှုထောင့်မှကြည့်လျှင် SOTA ဖြေရှင်းချက်များ၏ အလေ့အကျင့်သည် ထိခိုက်စေနိုင်ပြီး ဘုံလုပ်ငန်းတာဝန်များ (စံညွှန်းများ) ဖွံ့ဖြိုးစေရန်အတွက် ပြန်လည်ပြင်ဆင်သင့်သည်။

ဘင်ယု (ဘာကလေ)၊

ဗီဒီယိုများနှင့် ဆလိုက်များ
အစီရင်ခံစာသည် စက်သင်ယူမှုပုံစံများကို ဘာသာပြန်ခြင်းဆိုင်ရာ ပြဿနာနှင့် ၎င်းတို့၏ တိုက်ရိုက်စမ်းသပ်ခြင်းနှင့် အတည်ပြုခြင်းအတွက် နည်းစနစ်များကို အာရုံစိုက်ထားသည်။ လေ့ကျင့်သင်ကြားထားသော ML မော်ဒယ်တိုင်းသည် ၎င်းမှထုတ်ယူရန်လိုအပ်သည့် အသိပညာအရင်းအမြစ်တစ်ခုအဖြစ် ရှုမြင်နိုင်သည်။

နယ်ပယ်များစွာ၊ အထူးသဖြင့် ဆေးပညာတွင်၊ ဤလျှို့ဝှက်ထားသောအသိပညာကို ထုတ်ယူပြီး မော်ဒယ်၏ရလဒ်များကို ဘာသာပြန်ခြင်းမရှိဘဲ မော်ဒယ်ကိုအသုံးပြုခြင်းသည် မဖြစ်နိုင်ပါ - သို့မဟုတ်ပါက ကျွန်ုပ်တို့သည် ရလဒ်များသည် တည်ငြိမ်လိမ့်မည်မဟုတ်၊ ကျပန်းမဟုတ်သော၊ ယုံကြည်စိတ်ချရသော၊ သတ်ပစ်မည်မဟုတ်ကြောင်း ကျွန်ုပ်တို့သေချာမည်မဟုတ်ပါ။ လူနာ။ အလုပ်နည်းစနစ်၏ ဦးတည်ချက်တစ်ခုလုံးသည် နက်နဲသောသင်ယူမှုပါရာဒိုင်းအတွင်း ဖွံ့ဖြိုးနေပြီး ၎င်း၏နယ်နိမိတ်များကိုကျော်လွန်သွားသည် - veridical data science. ဒါဘာလဲ?

ကျွန်ုပ်တို့သည် သိပ္ပံနည်းကျ ထုတ်ဝေမှုများ၏ အရည်အသွေးနှင့် ၎င်းတို့ဖြစ်သည့် မော်ဒယ်များ၏ မျိုးပွားမှုကို ရရှိလိုပါသည်-

1. ကြိုတင်ခန့်မှန်းနိုင်သော
2. တွက်ချက်နိုင်သော
3. တည်ငြိမ်သည်။

ဤအခြေခံမူသုံးရပ်သည် နည်းစနစ်သစ်၏အခြေခံဖြစ်သည်။ ML မော်ဒယ်များကို ဤသတ်မှတ်ချက်များနှင့် ကိုက်ညီအောင် မည်သို့စစ်ဆေးနိုင်မည်နည်း။ အလွယ်ဆုံးနည်းလမ်းမှာ ချက်ချင်းဘာသာပြန်နိုင်သော ပုံစံများ (ဆုတ်ယုတ်မှုများ၊ ဆုံးဖြတ်ချက်သစ်များ) ကို တည်ဆောက်ရန်ဖြစ်သည်။ သို့သော်၊ ကျွန်ုပ်တို့သည် နက်နဲသောသင်ယူမှု၏ ချက်ခြင်းအကျိုးကျေးဇူးများကိုလည်း ရရှိလိုပါသည်။

ပြဿနာကိုဖြေရှင်းရန် ရှိပြီးသားနည်းလမ်းများစွာ-

1. မော်ဒယ်ကိုအနက်ဖွင့်;
2. အာရုံစူးစိုက်မှုအပေါ်အခြေခံသောနည်းလမ်းများကိုအသုံးပြု;
3. လေ့ကျင့်နေစဉ်တွင် အယ်လဂိုရီသမ်များ၏ အစုအဝေးများကို အသုံးပြုကာ မျဉ်းနားပြန်ဆိုနိုင်သော မော်ဒယ်လ်များသည် မျဉ်းနားကွန်ရက်ကဲ့သို့ တူညီသောအဖြေများကို ခန့်မှန်းသိရှိနိုင်စေရန်၊ မျဉ်းနရပုံစံပုံစံမှ အင်္ဂါရပ်များကို အဓိပ္ပာယ်ပြန်ဆိုရန် သေချာစေရန်၊
4. လေ့ကျင့်ရေးဒေတာကို ပြောင်းလဲခြင်းနှင့် တိုးမြှင့်ခြင်း။ ၎င်းတွင် ဆူညံသံ၊ နှောင့်ယှက်မှုနှင့် ဒေတာ တိုးမြှင့်ခြင်း ပါဝင်သည်။
5. မော်ဒယ်၏ရလဒ်များသည် ကျပန်းမဟုတ်ကြောင်းနှင့် အသေးစားမလိုလားအပ်သောဝင်ရောက်စွက်ဖက်မှု (ရန်ဘက်တိုက်ခိုက်မှုများ) ပေါ်တွင်မူတည်ခြင်းမရှိကြောင်း သေချာစေသည့် မည်သည့်နည်းလမ်းများမဆို၊
6. သင်တန်းပြီးနောက်၊
7. နည်းအမျိုးမျိုးဖြင့် အလေးများကို လေ့လာခြင်း၊
8. အယူအဆအားလုံး၊ အတန်းခွဲဝေမှု၏ ဖြစ်နိုင်ခြေများကို လေ့လာပါ။

ရန်ဘက်တိုက်ခိုက်မှု ဝက်အတွက်

မော်ဒယ်လုပ်ခြင်းအမှားများသည် လူတိုင်းအတွက် စျေးကြီးသည်- အဓိကဥပမာမှာ Reinhart နှင့် Rogov တို့၏လက်ရာဖြစ်သည်။"အကြွေးဆပ်နေတဲ့ကာလမှာ တိုးတက်မှုရှိတယ်။"ဥရောပနိုင်ငံအများအပြား၏ စီးပွားရေးမူဝါဒများကို လွှမ်းမိုးခဲ့ပြီး ခြိုးခြံချွေတာသောမူဝါဒများကို လိုက်နာရန် တွန်းအားပေးခဲ့သော်လည်း ဒေတာများကို သေချာပြန်လည်စစ်ဆေးခြင်းနှင့် ၎င်းတို့၏လုပ်ဆောင်မှုနှစ်များအကြာတွင် ဆန့်ကျင်ဘက်ရလဒ်ကို ပြသခဲ့သည်။

မည်သည့် ML နည်းပညာမဆို အကောင်အထည်ဖော်မှုမှ အကောင်အထည်ဖော်မှုအထိ ၎င်း၏ကိုယ်ပိုင်ဘဝစက်ဝန်းရှိသည်။ နည်းစနစ်အသစ်၏ ပန်းတိုင်မှာ မော်ဒယ်ဘဝ၏ အဆင့်တစ်ခုစီတွင် အခြေခံမူ (၃)ရပ်ကို စစ်ဆေးရန်ဖြစ်သည်။

ရလဒ်များကို:

• ML မော်ဒယ်ကို ပိုမိုယုံကြည်စိတ်ချရစေမည့် ပရောဂျက်များစွာကို တီထွင်လျက်ရှိသည်။ ဤသည်မှာ ဥပမာအားဖြင့်၊ deeptune (link to: github.com/ChrisCummins/paper-end2end-dl);
• နည်းစနစ်၏နောက်ထပ်ဖွံ့ဖြိုးတိုးတက်မှုအတွက်၊ ML နယ်ပယ်တွင် ပုံနှိပ်ထုတ်ဝေမှုများ၏ အရည်အသွေးကို သိသာထင်ရှားစွာ မြှင့်တင်ရန် လိုအပ်ပါသည်။
• စက်သင်ယူမှုသည် နည်းပညာနှင့် လူသားဆိုင်ရာနယ်ပယ်နှစ်ခုစလုံးတွင် ဘက်စုံလေ့ကျင့်သင်ကြားမှုနှင့် ကျွမ်းကျင်မှုရှိသော ခေါင်းဆောင်များ လိုအပ်သည်။

“စက်သင်ယူမှုဖြင့် လူသားအမူအကျင့်များကို ပုံဖော်ခြင်း- အခွင့်အလမ်းများနှင့် စိန်ခေါ်မှုများ” Nuria M Oliver၊ Albert Ali Salah

လူသားတို့၏ အပြုအမူကို စံနမူနာပြုခြင်း၊ ၎င်း၏ နည်းပညာဆိုင်ရာ အခြေခံအုတ်မြစ်များနှင့် အသုံးချမှု အလားအလာများအတွက် ရည်ရွယ်သော ဟောပြောပွဲ။

လူ့အပြုအမူပုံစံကို ခွဲခြားနိုင်သည်-

• တစ်ဦးချင်းအပြုအမူ
• လူတစ်စု၏ အပြုအမူ
• အစုလိုက်အပြုံလိုက်အပြုအမူ

ဤအမျိုးအစားတစ်ခုစီကို ML ကိုအသုံးပြု၍ စံနမူနာယူနိုင်သော်လည်း လုံးဝကွဲပြားသောထည့်သွင်းမှုအချက်အလက်နှင့် အင်္ဂါရပ်များဖြင့်။ အမျိုးအစားတစ်ခုစီတွင် ပရောဂျက်တစ်ခုစီတွင် ဖြတ်သန်းသွားသည့် ကိုယ်ပိုင်ကျင့်ဝတ်ဆိုင်ရာ ပြဿနာများလည်း ရှိပါသည်-

• တစ်ဦးချင်း အပြုအမူ - အထောက်အထား ခိုးယူမှု၊ အတုအယောင်၊
• လူအုပ်စုများ၏ အပြုအမူများ - အမည်ဝှက်ထားခြင်း၊ လှုပ်ရှားမှုများအကြောင်း သတင်းရယူခြင်း၊ တယ်လီဖုန်းခေါ်ဆိုခြင်း စသည်ဖြင့်၊

တစ်ဦးချင်းအပြုအမူ

အများစုမှာ Computer Vision ၏ အကြောင်းအရာနှင့် သက်ဆိုင်သည် - လူ့စိတ်ခံစားမှုနှင့် တုံ့ပြန်မှုများကို အသိအမှတ်ပြုခြင်း ဖြစ်သည်။ အခြေအနေအရ၊ အချိန်၊ သို့မဟုတ် သူ့ကိုယ်ပိုင် စိတ်ခံစားမှု ကွဲပြားမှု၏ နှိုင်းရစကေးဖြင့်သာ ဖြစ်နိုင်သည်။ ဆလိုက်သည် မြေထဲပင်လယ်ရှိ အမျိုးသမီးများ၏ စိတ်ခံစားမှုအပိုင်းမှ အကြောင်းအရာကို အသုံးပြု၍ Mona Lisa ၏ စိတ်ခံစားမှုများကို အသိအမှတ်ပြုကြောင်း ပြသသည်။ ရလဒ်- ရွှင်လန်းသော အပြုံး၊ သို့သော် ရှုတ်ချစက်ဆုပ်ခြင်း။ အကြောင်းပြချက်မှာ "ကြားနေ" စိတ်ခံစားချက်ကို သတ်မှတ်ရာတွင် နည်းပညာပိုင်းအရ ဖြစ်နိုင်ခြေများပါသည်။

လူတစ်စု၏ အပြုအမူ

ယခုအချိန်အထိ အဆိုးဆုံးပုံစံမှာ အချက်အလက်မလုံလောက်ခြင်းကြောင့်ဖြစ်သည်။ ဥပမာအနေဖြင့်၊ 2018 – 2019 မှ အလုပ်များကို ပြသထားသည်။ လူဒါဇင်ပေါင်းများစွာတွင် X ဒါဇင်ပေါင်းများစွာသော ဗီဒီယိုများ (cf. 100k++ ရုပ်ပုံဒေတာအတွဲများ)။ ဤလုပ်ငန်းကို အကောင်းဆုံး ပုံစံထုတ်ရန်အတွက်၊ ဘက်စုံအချက်အလက်များ လိုအပ်သည်၊ ဖြစ်နိုင်သည်မှာ ကိုယ်ထည်ပေါ်ရှိ အာရုံခံကိရိယာများ၊ သာမိုမီတာ၊ မိုက်ခရိုဖုန်း အသံသွင်းခြင်း စသည်ဖြင့် လိုအပ်ပါသည်။

အစုလိုက်အပြုံလိုက် အပြုအမူ

ဖောက်သည်သည် UN နှင့် ပြည်နယ်များစွာရှိသောကြောင့် အဖွံ့ဖြိုးဆုံးနယ်မြေဖြစ်သည်။ ပြင်ပစောင့်ကြည့်ကင်မရာများ၊ တယ်လီဖုန်းတာဝါတိုင်များမှ ဒေတာများ - ငွေတောင်းခံခြင်း၊ SMS၊ ခေါ်ဆိုမှုများ၊ ပြည်နယ်နယ်နိမိတ်များကြား ရွေ့လျားမှုဆိုင်ရာ ဒေတာများ - ဤအရာအားလုံးသည် လူများ၏ ရွေ့လျားမှုနှင့် လူမှုရေးမတည်မငြိမ်ဖြစ်မှုများကို အလွန်ယုံကြည်စိတ်ချရသော ပုံရိပ်ကိုပေးသည်။ နည်းပညာ၏ အလားအလာရှိသောအသုံးချပရိုဂရမ်များ- ကယ်ဆယ်ရေးလုပ်ငန်းများကို ပိုမိုကောင်းမွန်အောင်ပြုလုပ်ခြင်း၊ အကူအညီပေးခြင်းနှင့် အရေးပေါ်အခြေအနေများအတွင်း လူဦးရေကို အချိန်နှင့်တစ်ပြေးညီ ရွှေ့ပြောင်းပေးခြင်း။ အသုံးပြုထားသော မော်ဒယ်များသည် အဓိကအားဖြင့် အဓိပ္ပာယ်ကောက်ယူမှု အားနည်းနေသေးသည် - ၎င်းတို့သည် အမျိုးမျိုးသော LSTM များနှင့် convolutional networks များဖြစ်သည်။ ဥရောပစီးပွားရေးလုပ်ငန်းများသည် မည်သည့်သုတေသနအတွက် လိုအပ်သော အမည်ဝှက်အချက်အလက်ကိုမဆို မျှဝေရန် လိုအပ်မည့် ဥပဒေသစ်တစ်ရပ်အတွက် ကုလသမဂ္ဂမှ စည်းရုံးနေခြင်းဖြစ်ကြောင်း အတိုချုံးမှတ်ချက်တစ်ခုရှိသည်။

“စနစ် 1 မှ စနစ် 2 အထိ နက်ရှိုင်းစွာ သင်ယူခြင်း”၊ Yoshua Bengio

ဆလိုက်များ
Joshua Bengio ၏ဟောပြောပွဲတွင်၊ နက်နဲသောသင်ယူမှုသည် ပန်းတိုင်သတ်မှတ်ခြင်းအဆင့်တွင် အာရုံကြောသိပ္ပံနှင့် ကိုက်ညီသည်။
Bengio သည် နိုဘယ်ဆုရှင် Daniel Kahneman ၏ နည်းစနစ်အရ ပြဿနာနှစ်ခုကို ခွဲခြားသတ်မှတ်သည် (စာအုပ်၊နှေးနှေးတွေးပါ၊ မြန်မြန်ဆုံးဖြတ်ပါ။")
အမျိုးအစား 1 - စနစ် 1၊ ကျွန်ုပ်တို့ "အလိုအလျောက်" လုပ်ဆောင်သည့် သတိလစ်သည့် လုပ်ဆောင်ချက်များ (ရှေးဦးနှောက်)- ရင်းနှီးသောနေရာများတွင် ကားမောင်းခြင်း၊ လမ်းလျှောက်ခြင်း၊ မျက်နှာများကို မှတ်မိခြင်း။
အမျိုးအစား 2 - စနစ် 2၊ သတိရှိသော လုပ်ဆောင်ချက်များ (ဦးနှောက် cortex)၊ ပန်းတိုင်သတ်မှတ်ခြင်း၊ ခွဲခြမ်းစိတ်ဖြာခြင်း၊ စဉ်းစားတွေးခေါ်ခြင်း၊ ပေါင်းစပ်လုပ်ဆောင်မှုများ။

AI သည် ယခုအချိန်အထိ ပထမအမျိုးအစား၏ လုပ်ငန်းဆောင်တာများတွင်သာ လုံလောက်သော အမြင့်သို့ ရောက်ရှိနေပြီဖြစ်ပြီး ကျွန်ုပ်တို့၏တာဝန်မှာ ဘက်စုံစည်းကမ်းဆိုင်ရာ လုပ်ငန်းများကို လုပ်ဆောင်ရန် သင်ကြားပေးပြီး ယုတ္တိဗေဒနှင့် အဆင့်မြင့်မားသော သိမြင်မှုစွမ်းရည်များဖြင့် လည်ပတ်လုပ်ဆောင်ရန် ဖြစ်ပါသည်။

ဤရည်မှန်းချက်အောင်မြင်ရန် အဆိုပြုသည်-

1. NLP လုပ်ငန်းများတွင်၊ တွေးခေါ်မှုပုံစံအတွက် အဓိကယန္တရားအဖြစ် အာရုံစူးစိုက်မှုကို အသုံးပြုပါ။
2. အသိစိတ်နှင့် ၎င်းတို့၏ ဒေသအလိုက်ပြောင်းလဲခြင်းကို လွှမ်းမိုးသည့် ပိုမိုကောင်းမွန်သော စံပြအသွင်အပြင်များဆီသို့ မက်တာသင်ယူခြင်းနှင့် ကိုယ်စားပြုခြင်းဆိုင်ရာ သင်ယူခြင်းတို့ကို အသုံးပြုပါ - ၎င်းတို့၏အခြေခံပေါ်တွင် ပိုမိုမြင့်မားသောအဆင့် သဘောတရားများဖြင့် လည်ပတ်လုပ်ဆောင်သွားရန်။

နိဂုံးချုပ်မည့်အစား၊ ဤနေရာတွင် ဖိတ်ကြားထားသော ဟောပြောချက်တစ်ခုဖြစ်ပါသည်- Bengio သည် ပိုမိုကောင်းမွန်အောင်လုပ်ဆောင်ခြင်းပြဿနာများ၊ SOTA နှင့် ဗိသုကာအသစ်များထက် ML နယ်ပယ်ကို ချဲ့ထွင်ရန် ကြိုးစားနေသော သိပ္ပံပညာရှင်များစွာထဲမှ တစ်ဦးဖြစ်သည်။
တွေးခေါ်မှုဆိုင်ရာ၊ အာရုံကြောဇီဝဗေဒနှင့် အယ်လဂိုရီသမ်များအပေါ် ဘာသာစကား၏ လွှမ်းမိုးမှုသည် ကျွန်ုပ်တို့အား အနာဂတ်တွင် စောင့်ကြိုနေပြီး ကျွန်ုပ်တို့အား လူကဲ့သို့ "တွေး" နိုင်သော စက်များဆီသို့ ပြောင်းရွှေ့နိုင်စေမည့် ပြဿနာများ၏ ပေါင်းစပ်မှုအား မည်မျှအတိုင်းအတာအထိ မေးခွန်းထုတ်ထားဆဲဖြစ်သည်။

Thank you!

source: www.habr.com