NeurIPS 2019፡ ለሚቀጥሉት አስርት ዓመታት ከእኛ ጋር የሚሆኑ የML አዝማሚያዎች

ኒውሮአይፒኤስ (የነርቭ መረጃ ማቀነባበሪያ ስርዓቶች) በማሽን መማሪያ እና አርቴፊሻል ኢንተለጀንስ ላይ የተካሄደው የአለም ትልቁ ኮንፈረንስ እና በጥልቅ ትምህርት አለም ውስጥ ዋነኛው ክስተት ነው።

እኛ የዲኤስ መሐንዲሶች በአዲሱ አስርት ዓመታት ውስጥ ባዮሎጂን፣ ቋንቋዎችን እና ሳይኮሎጂን እንማራለን? በግምገማችን ውስጥ እንነግራችኋለን።

በዚህ ዓመት ኮንፈረንሱ ከ13500 አገሮች የተውጣጡ ከ80 በላይ ሰዎችን በቫንኮቨር ካናዳ ሰብስቧል። በኮንፈረንሱ ላይ Sberbank ሩሲያን የሚወክልበት የመጀመሪያው ዓመት አይደለም - የ DS ቡድን ስለ ML በባንክ ሂደቶች ትግበራ ፣ ስለ ML ውድድር እና ስለ Sberbank DS መድረክ ችሎታዎች ተናግሯል። በኤምኤል ማህበረሰብ ውስጥ የ2019 ዋና አዝማሚያዎች ምን ምን ነበሩ? የጉባኤው ተሳታፊዎች እንዲህ ይላሉ፡- Andrey Chertok и ታቲያና ሻቭሪና.

በዚህ አመት፣ NeurIPS ከ1400 በላይ ወረቀቶችን ተቀብሏል—አልጎሪዝም፣ አዲስ ሞዴሎች እና አዲስ አፕሊኬሽኖች ለአዲስ ዳታ። ከሁሉም ቁሳቁሶች ጋር አገናኝ

ይዘቶች

• አዝማሚያዎች
• • የሞዴል ትርጓሜ
  • ሁለገብነት
  • ማመዛዘን ፡፡
  • RL
  • GAN
• መሰረታዊ የተጋበዙ ንግግሮች
• • “ማህበራዊ ኢንተለጀንስ”፣ ብሌዝ አጌራ እና አርካስ (Google)
  • “ትክክለኛ ዳታ ሳይንስ”፣ ቢን ዩ (በርክሌይ)
  • "የሰው ልጅ ባህሪ ሞዴል ከማሽን መማር ጋር፡ እድሎች እና ተግዳሮቶች"፣ ኑሪያ ኤም ኦሊቨር፣ አልበርት አሊ ሳላህ
  • "ከስርዓት 1 ወደ ስርዓት 2 ጥልቅ ትምህርት", Yoshua Bengio

የዓመቱ የ 2019 አዝማሚያዎች

1. የሞዴል አተረጓጎም እና አዲስ የኤም.ኤል

የኮንፈረንሱ ዋና ርዕስ ትርጓሜ እና ለምን የተወሰኑ ውጤቶችን እንዳገኘን ማስረጃ ነው። አንድ ሰው ስለ "ጥቁር ሣጥን" ትርጓሜ ፍልስፍናዊ ጠቀሜታ ለረጅም ጊዜ ሊናገር ይችላል, ነገር ግን በዚህ አካባቢ የበለጠ ትክክለኛ ዘዴዎች እና ቴክኒካዊ እድገቶች ነበሩ.

ሞዴሎችን ለመድገም እና ዕውቀትን ከነሱ ለማውጣት ያለው ዘዴ ለሳይንስ አዲስ መሣሪያ ስብስብ ነው። ሞዴሎች አዳዲስ እውቀቶችን ለማግኘት እና ለመፈተሽ እንደ መሳሪያ ሆነው ሊያገለግሉ ይችላሉ, እና እያንዳንዱ የአምሳያው ቅድመ-ሂደት, ስልጠና እና አተገባበር እንደገና ሊባዛ የሚችል መሆን አለበት.
ከፍተኛ መጠን ያለው የሕትመት ክፍል ለሞዴሎች እና ለመሳሪያዎች ግንባታ ሳይሆን ለደህንነት ፣ለግልጽነት እና ለውጤቶች መረጋገጥ ችግሮች ነው። በተለይም በአምሳያው ላይ ስለ ጥቃቶች (ተጋላጭ ጥቃቶች) የተለየ ዥረት ታይቷል ፣ እና ለሁለቱም ጥቃቶች በስልጠና እና በመተግበሪያ ላይ ጥቃቶች አማራጮች ተወስደዋል።

ጽሑፎች፡-

• ትክክለኛ የውሂብ ሳይንስ - በአምሳያው የማረጋገጫ ዘዴ ላይ የፕሮግራም መጣጥፍ። ሞዴሎችን ለመተርጎም የዘመናዊ መሳሪያዎች አጠቃላይ እይታን ያካትታል ፣ በተለይም ትኩረትን መጠቀም እና የነርቭ አውታረ መረብን በመስመራዊ ሞዴሎች “በማጣራት” የባህሪ አስፈላጊነትን ማግኘት።
• ይሄ ይመስላል፡ ጥልቅ ትምህርት ለትርጓሜ ምስል እውቅና ቻኦፋን ቼን ፣ ኦስካር ሊ ፣ ዳንኤል ታኦ ፣ አሊና ባርኔት ፣ ሲንቲያ ሩዲን ፣ ጆናታን ኬ ሱ
• በጥልቅ የነርቭ አውታረ መረቦች ውስጥ የትርጓሜ ዘዴዎች መለኪያ Sara Hooker፣ Dumitru Erhan፣ Pieter-Jan Kindermans፣ Been Kim
• ትኩረትን የተጨመሩ ወኪሎችን በመጠቀም ወደሚተረጎም የማጠናከሪያ ትምህርት አሌክሳንደር ሞት፣ ዳንኤል ዞራን፣ ማይክ ቻርዛኖቭስኪ፣ ዳአን ዊየርስትራ፣ ዳኒሎ ጂሜኔዝ ረዘንዴ
• የተዘበራረቀ የኤምዲአይ ባህሪ አስፈላጊነት መለኪያ ለነሲብ ደኖች Xiao Li፣ Yu Wang፣ Sumanta Basu፣ Karl Kumbier፣ Bin Yu
• ምንም የሚታይ ውሂብ ሳይኖር የእውቀት ማውጣት ጄሚን ዮ፣ ሚንዮንግ ቾ፣ ታቡም ኪም፣ ዩ ካንግ
• በገለልተኛ ሊባዛ የሚችል የማሽን መማሪያ ምርምርን ለመለካት የሚደረግ እርምጃ ኤድዋርድ ራፍ

ExBert.net ለጽሑፍ ማቀናበሪያ ተግባራት የሞዴል ትርጓሜ ያሳያል

2. ሁለገብነት

አስተማማኝ ማረጋገጫን ለማረጋገጥ እና እውቀትን የማረጋገጥ እና የማስፋፋት ዘዴዎችን ለማዳበር በተዛማጅ ዘርፎች በአንድ ጊዜ በኤምኤል እና በርዕሰ-ጉዳዩ (መድሃኒት, የቋንቋ ጥናት, ኒውሮባዮሎጂ, ትምህርት, ወዘተ) ችሎታ ያላቸው ልዩ ባለሙያዎች ያስፈልጉናል. በተለይም በኒውሮሳይንስ እና በእውቀት (ኮግኒቲቭ) ሳይንሶች ውስጥ ስራዎች እና ንግግሮች የበለጠ ጉልህ መኖራቸውን ልብ ሊባል የሚገባው ነው - የልዩ ባለሙያዎች መቀራረብ እና ሀሳቦችን መበደር አለ።

ከዚህ መቀራረብ በተጨማሪ ከተለያዩ ምንጮች የተገኙ መረጃዎችን በጋራ በማቀናበር ሁለገብ ዲሲፕሊናዊነት እየታየ ነው፡ ጽሑፍ እና ፎቶዎች፣ ጽሁፍ እና ጨዋታዎች፣ የግራፍ ዳታቤዝ + ጽሑፍ እና ፎቶዎች።

ጽሑፎች፡-

• ኒውሮሳይንስ + ኤምኤል - በተፈጥሮ ቋንቋ ሂደት (በማሽን ውስጥ) በተፈጥሮ ቋንቋ-ማቀነባበር (በአንጎል ውስጥ) መተርጎም እና ማሻሻል
• ቪዥዋልQA - በ Abstraction መማር፡ የነርቭ ግዛት ማሽን
• RL + NLP - የተፈጥሮ ቋንቋ መመሪያዎችን በማፍለቅ እና በመከተል የተዋረድ ውሳኔ

ሁለት ሞዴሎች - ስትራቴጂስት እና አስፈፃሚ - በ RL እና NLP ላይ የተመሰረተ የመስመር ላይ ስልት መጫወት

3. ማመዛዘን

አርቴፊሻል ኢንተለጀንስን ማጠናከር ወደ እራስ-ትምህርት ስርዓቶች, "ንቃተ-ህሊና", አመክንዮ እና ምክንያታዊ እንቅስቃሴ ነው. በተለይም የምክንያት ፍንጭ እና የጋራ አስተሳሰብ እያደጉ ናቸው። አንዳንዶቹ ሪፖርቶች ለሜታ-ትምህርት (ለመማር እንዴት እንደሚማሩ) እና የዲኤል ቴክኖሎጂዎች ከ 1 ኛ እና 2 ኛ ቅደም ተከተል አመክንዮ ጋር በማጣመር ላይ ያተኮሩ ናቸው - አርቴፊሻል ጄኔራል ኢንተለጀንስ (AGI) የሚለው ቃል በተናጋሪዎች ንግግር ውስጥ የተለመደ ቃል እየሆነ መጥቷል።

ጽሑፎች፡-

• የተለያዩ የግራፍ ትምህርት ለእይታ የጋራ አስተሳሰብ ማመዛዘን ዌይጂያንግ ዩ፣ ጂንግዌን ዡ፣ ዌይሃዎ ዩ፣ ዢአኦዳን ሊያንግ፣ ኖንግ ዢያኦ
• የማሽን መማር እና አመክንዮአዊ ምክንያት በጠለፋ ትምህርት ዋንግ-ዙ ዳይ፣ Qiuling Xu፣ Yang Yu፣ Zhi-Hua Zhou
• በመጀመሪያ ደረጃ አመክንዮ ማመዛዘንን በተዘዋዋሪ መንገድ መማር ቫይሻክ ቤሌ፣ ብሬንዳን ጁባ
• PHYRE፡ ለአካላዊ ማመዛዘን አዲስ መመዘኛ አንቶን ባኽቲን፣ ሎረንስ ቫን ደር ማተን፣ ጀስቲን ጆንሰን፣ ላውራ ጉስታፍሰን፣ ሮስ ጊርሺክ
• እውቀትን ለማሰብ የኳንተም መክተት ዲኔሽ ጋርግ፣ ሻጂት ኢክባል፣ ሳንቶሽ ኬ. ስሪቫስታቫ፣ ሃሪት ቪሽዋካርማ፣ ሂማ ካራናም፣ ኤል ቬንካታ ሱብራማንያም

4.የማጠናከሪያ ትምህርት

አብዛኛው ስራ የ RL - DOTA2, Starcraft, የሕንፃ ግንባታዎችን ከኮምፒዩተር ራዕይ, NLP, የግራፍ ዳታቤዝ ጋር በማጣመር ባህላዊ አካባቢዎችን ማዳበሩን ቀጥሏል.

የኮንፈረንሱ የተለየ ቀን ለአርኤል ወርክሾፕ ተሰጥቷል፣በዚያም የኦፕቲምስቲክ ተዋናይ ሂሪቲክ ሞዴል አርክቴክቸር ቀርቧል፣ከቀደምቶቹ ሁሉ የላቀ፣በተለይ Soft Actor Critic።

ጽሑፎች፡-

• የተሻለ ዳሰሳ ከኦፕቲምስት ተዋናይ ጋር; ካሚል Ciosek, Quan Vuong, ሮበርት Loftin, Katja Hofmann
• ChainerRL፡ ጥልቅ የማጠናከሪያ ትምህርት ቤተ መጻሕፍት; ያሱሂሮ ፉጂታ (የተመረጡ አውታረ መረቦች፣ Inc.)*; Toshiki Kataoka (የተመረጡ አውታረ መረቦች, Inc.); ፕራብሃት ናጋራጃን (የተመረጡ አውታረ መረቦች); ታካሂሮ ኢሺካዋ (የቶኪዮ ዩኒቨርሲቲ) [ውጫዊ pdf link]።
• ለመቆጣጠር ህልም፡ በድብቅ ምናብ ባህሪያትን መማር; ዳኒጃር ሃፍነር (Google)*; ቲሞቲ ሊሊክራፕ (DeepMind); ጂሚ ባ (የቶሮንቶ ዩኒቨርሲቲ); መሀመድ ኖሩዚ (ጎግል አንጎል)
• ወርክሾፕ ቁሳቁሶች

የStarCraft ተጫዋቾች የአልፋስታርን ሞዴል (DeepMind) ይዋጋሉ።

5.ጋን

የጄኔሬቲቭ ኔትወርኮች አሁንም ትኩረት ላይ ናቸው፡ ብዙ ስራዎች ቫኒላ GAN ን ለሂሳብ ማረጋገጫዎች ይጠቀማሉ፡ በተጨማሪም በአዲስ ባልተለመዱ መንገዶች (የግራፍ አመንጪ ሞዴሎች፣ ከተከታታይ ጋር አብሮ መስራት፣ በመረጃ ውስጥ ግንኙነቶችን የመፍጠር እና የመጎዳት መተግበሪያ ወዘተ) ይተገበራሉ።

ጽሑፎች፡-

• ማዕድን ማውጣት GOLD ናሙናዎች ለሁኔታዊ GANs ሳንግዎዎ ሞ፣ ቺሄን ኪም፣ ሱንግዎንግ ኪም፣ ሚንሱ ቾ፣ ጂንዎ ሺን።
• የ GANs ፕሮግረሲቭ መጨመር ዳን ዣንግ ፣ አና ኮሬቫ
• ሁኔታዊ GANን በመጠቀም የሰንጠረዥ መረጃን መቅረጽ Lei Xu፣ Maria Skoularidou፣ Alfredo Cuesta-Infante፣ Kalyan Veeramachaneni
• papers.nips.cc/paper/9377-a-domain-agnostic-measure-for-monitoring-and-evaluating-gans

ተጨማሪ ሥራ ተቀባይነት ስለነበረው 1400 ከታች ስለ በጣም አስፈላጊ ንግግሮች እንነጋገራለን.

የተጋበዙ ንግግሮች

“ማህበራዊ ኢንተለጀንስ”፣ ብሌዝ አጌራ እና አርካስ (Google)

ማያያዣ
ስላይዶች እና ቪዲዮዎች
ንግግሩ በአጠቃላይ የማሽን መማሪያ ዘዴ እና ኢንደስትሪውን አሁን ሊለውጥ በሚችለው ተስፋ ላይ ያተኩራል - ምን መንታ መንገዶች እያጋጠሙን ነው? አንጎል እና ዝግመተ ለውጥ እንዴት ይሠራሉ, እና ስለ ተፈጥሯዊ ስርዓቶች እድገት የምናውቀውን ለምን ትንሽ እንጠቀማለን?

የኤምኤል ኢንደስትሪ ልማት ጎግል ከዓመት አመት በNeurIPS ላይ ምርምሩን ከሚያሳተመው የጎግል እድገት ምእራፎች ጋር ይዛመዳል፡

• 1997 - የፍለጋ መገልገያዎች ፣ የመጀመሪያ አገልጋዮች ፣ አነስተኛ የኮምፒዩተር ኃይል
• 2010 - ጄፍ ዲን የጉግል ብሬን ፕሮጄክትን ጀመረ ፣ የነርቭ አውታረ መረቦች እድገት ገና መጀመሪያ ላይ
• እ.ኤ.አ. 2015 - የነርቭ አውታረ መረቦች የኢንዱስትሪ ትግበራ ፣ ፈጣን የፊት ለይቶ ማወቂያ በአገር ውስጥ መሳሪያ ፣ ዝቅተኛ ደረጃ ማቀነባበሪያዎች ለ tensor ኮምፒውቲንግ - TPU። ጎግል Coral ai ን አስጀመረ - የ Raspberry Pi አናሎግ ፣ የነርቭ አውታረ መረቦችን ወደ የሙከራ ጭነቶች ለማስተዋወቅ ሚኒ ኮምፒዩተር
• 2017 - ጎግል ያልተማከለ ስልጠና ማዳበር እና የነርቭ አውታረ መረብ ስልጠና ውጤቶችን ከተለያዩ መሳሪያዎች ወደ አንድ ሞዴል በማጣመር ይጀምራል - በአንድሮይድ ላይ

ዛሬ፣ አንድ ሙሉ ኢንዱስትሪ ለውሂብ ደህንነት፣ ውህደት እና የመማሪያ ውጤቶችን በአካባቢያዊ መሳሪያዎች ላይ ለማባዛት ቁርጠኛ ነው።

የፌዴራል ትምህርት - የML አቅጣጫ ነጠላ ሞዴሎች እርስ በርሳቸው ራሳቸውን ችለው የሚማሩበት እና ከዚያም ወደ ነጠላ ሞዴል (የምንጩን መረጃ ማእከላዊ ሳያደርጉ) የሚዋሃዱበት፣ ለተለመዱ ክስተቶች፣ ያልተለመዱ ሁኔታዎች፣ ግላዊነት ማላበስ ወዘተ የተስተካከለ። ሁሉም የአንድሮይድ መሳሪያዎች በመሠረቱ አንድ የኮምፒውተር ሱፐር ኮምፒውተር ለGoogle ናቸው።

በፌዴራል ትምህርት ላይ የተመሰረቱ የጄነሬቲቭ ሞዴሎች ጎግል እንደሚለው የወደፊት ተስፋ ሰጪ አቅጣጫ ነው፣ እሱም “በአዋጭ እድገት የመጀመሪያ ደረጃዎች ላይ። GANs፣ እንደ መምህሩ፣ የሕያዋን ፍጥረታት እና የአስተሳሰብ ስልተ ቀመሮችን የጅምላ ባህሪ እንደገና ማባዛትን መማር ይችላሉ።

የሁለት ቀላል የ GAN አርክቴክቸር ምሳሌን በመጠቀም፣ በእነሱ ውስጥ የማመቻቸት መንገድ ፍለጋ በክበብ ውስጥ እንደሚንከራተት ያሳያል ፣ ይህ ማለት ማመቻቸት እንደዚህ አይከሰትም ማለት ነው። በተመሳሳይ ጊዜ እነዚህ ሞዴሎች ባዮሎጂስቶች በባክቴሪያ ህዝቦች ላይ የሚያደርጓቸውን ሙከራዎች በመምሰል በጣም የተሳካላቸው ናቸው, ይህም ምግብ ፍለጋ አዲስ የባህርይ ስልቶችን እንዲማሩ ያስገድዳቸዋል. ህይወት ከማመቻቸት ተግባር በተለየ መንገድ እንደሚሰራ መደምደም እንችላለን.

የእግር ጉዞ GAN ማመቻቸት

በማሽን መማሪያ ማዕቀፍ ውስጥ አሁን የምናደርጋቸው ነገሮች ሁሉ ጠባብ እና እጅግ በጣም መደበኛ ስራዎች ናቸው, እነዚህ ፎርማሊዝም በጥሩ ሁኔታ አይጠቃለሉም እና እንደ ኒውሮፊዚዮሎጂ እና ባዮሎጂ ባሉ አካባቢዎች ከርዕሰ ጉዳያችን እውቀት ጋር አይዛመዱም.

በቅርብ ጊዜ ውስጥ ከኒውሮፊዚዮሎጂ መስክ መበደር በጣም ጠቃሚ የሆነው አዲስ የነርቭ ስነ-ህንፃዎች እና ስህተቶችን የማሰራጨት ዘዴዎችን መጠነኛ ማሻሻያ ነው።

የሰው አእምሮ ራሱ እንደ ነርቭ አውታር አይማርም።

• በስሜት ህዋሳት እና በልጅነት ጊዜ የተቀመጡትን ጨምሮ በዘፈቀደ የመጀመሪያ ደረጃ ግብአቶች የሉትም።
• እሱ በደመ ነፍስ ውስጥ የእድገት አቅጣጫዎች አሉት (ቋንቋን ከጨቅላ ሕፃን የመማር ፍላጎት ፣ ቀጥ ብሎ መሄድ)

የግለሰብን አእምሮ ማሠልጠን ዝቅተኛ ደረጃ ያለው ተግባር ነው፤ ምናልባት የቡድን የዝግመተ ለውጥ ዘዴዎችን እንደገና ለማባዛት ዕውቀትን እርስ በርስ የሚያስተላልፉትን በፍጥነት የሚለዋወጡትን ግለሰቦች “ቅኝ ግዛቶች” ግምት ውስጥ ማስገባት አለብን።

አሁን ወደ ML ስልተ ቀመሮች መቀበል የምንችለው፡-

• የህዝቡን ትምህርት የሚያረጋግጡ የሕዋስ መስመር ሞዴሎችን ይተግብሩ ፣ ግን የግለሰቡ አጭር ሕይወት (“የግለሰብ አንጎል”)
• አነስተኛ ቁጥር ያላቸውን ምሳሌዎች በመጠቀም ጥቂት-በጥይት መማር
• ይበልጥ የተወሳሰቡ የነርቭ ሴሎች አወቃቀሮች፣ ትንሽ ለየት ያሉ የማግበር ተግባራት
• "ጂኖም" ወደ ቀጣዩ ትውልዶች በማስተላለፍ ላይ - backpropagation ስልተቀመር
• አንዴ ኒውሮፊዚዮሎጂን እና የነርቭ ኔትወርኮችን ካገናኘን በኋላ፣ ባለ ብዙ ተግባር አእምሮን ከብዙ አካላት መገንባት እንማራለን።

ከዚህ አንፃር, የ SOTA መፍትሄዎች ልምምድ ጎጂ ነው እና የጋራ ስራዎችን (መመዘኛዎች) ለማዘጋጀት መከለስ አለበት.

“ትክክለኛ ዳታ ሳይንስ”፣ ቢን ዩ (በርክሌይ)

ቪዲዮዎች እና ስላይዶች
ሪፖርቱ የማሽን መማሪያ ሞዴሎችን የመተርጎም ችግር እና ለቀጥታ ሙከራ እና ማረጋገጫ ዘዴው ያተኮረ ነው። ማንኛውም የሰለጠነ ኤምኤል ሞዴል ከእሱ ማውጣት የሚያስፈልገው የእውቀት ምንጭ እንደሆነ ሊታወቅ ይችላል.

በብዙ አካባቢዎች በተለይም በሕክምና ውስጥ ሞዴልን መጠቀም ይህንን የተደበቀ እውቀት ሳያወጣ እና የአምሳያው ውጤት ሳይተረጎም የማይቻል ነው - ያለበለዚያ ውጤቱ የተረጋጋ ፣ የዘፈቀደ ፣ አስተማማኝ እና የማይገድል መሆኑን እርግጠኛ አንሆንም። ታካሚ. አጠቃላይ የሥራ ዘዴ አቅጣጫ በጥልቅ የመማር ፓራዲጅም ውስጥ እየዳበረ ነው እና ከድንበሩ አልፏል - veridical data science. ምንድን ነው?

እንደዚህ ያሉ የሳይንሳዊ ህትመቶችን ጥራት እና ሞዴሎችን እንደገና ማባዛት እንፈልጋለን-

1. ሊገመት የሚችል
2. ሊሰላ የሚችል
3. የተረጋጋ

እነዚህ ሦስት መርሆች የአዲሱን ዘዴ መሠረት ይመሰርታሉ። የኤምኤል ሞዴሎችን በእነዚህ መመዘኛዎች እንዴት ማረጋገጥ ይቻላል? በጣም ቀላሉ መንገድ ወዲያውኑ ሊተረጎሙ የሚችሉ ሞዴሎችን (regressions, የውሳኔ ዛፎች) መገንባት ነው. ሆኖም፣ እኛ ደግሞ የጥልቅ ትምህርትን ፈጣን ጥቅም ማግኘት እንፈልጋለን።

ከችግሩ ጋር ለመስራት ብዙ ነባር መንገዶች

1. ሞዴሉን መተርጎም;
2. ትኩረትን መሰረት በማድረግ ዘዴዎችን መጠቀም;
3. በሚሰለጥኑበት ጊዜ የአልጎሪዝም ስብስቦችን ይጠቀሙ ፣ እና መስመራዊ ሊተረጎሙ የሚችሉ ሞዴሎች ከነርቭ አውታረመረብ ጋር ተመሳሳይ መልሶችን መተንበይ እንዲማሩ ፣ ከመስመር ሞዴል ባህሪዎችን መተርጎም ፣
4. ለውጥ እና የስልጠና ውሂብ መጨመር. ይህ ጫጫታ, ጣልቃ ገብነት እና የውሂብ መጨመርን ይጨምራል;
5. የአምሳያው ውጤቶች በዘፈቀደ እንዳይሆኑ እና በትንሽ ያልተፈለገ ጣልቃገብነት (የጠላት ጥቃቶች) ላይ የተመካ አለመሆኑን ለማረጋገጥ የሚረዱ ማናቸውም ዘዴዎች;
6. ሞዴሉን ከእውነታው በኋላ መተርጎም, ከስልጠና በኋላ;
7. የጥናት ባህሪ ክብደት በተለያዩ መንገዶች;
8. የሁሉንም መላምቶች, የክፍል ስርጭት እድሎችን አጥኑ.

የጠላት ጥቃት ለአሳማ

የሞዴሊንግ ስህተቶች ለሁሉም ሰው ውድ ናቸው፡ ዋናው ምሳሌ የሬይንሃርት እና የሮጎቭ ስራ ነው።በእዳ ጊዜ ውስጥ እድገት" በብዙ የአውሮፓ ሀገራት የኢኮኖሚ ፖሊሲ ላይ ተጽዕኖ አሳድሯል እና የቁጠባ ፖሊሲዎችን እንዲከተሉ አስገድዷቸዋል, ነገር ግን መረጃውን እንደገና መመርመር እና አሰራራቸው ከዓመታት በኋላ ተቃራኒውን ውጤት አሳይቷል!

ማንኛውም የኤምኤል ቴክኖሎጂ ከትግበራ እስከ ትግበራ የራሱ የሆነ የህይወት ዑደት አለው። የአዲሱ ዘዴ ግብ በእያንዳንዱ የአምሳያው የህይወት ደረጃ ላይ ሶስት መሰረታዊ መርሆችን ማረጋገጥ ነው.

ውጤቶች

• የኤምኤል ሞዴል ይበልጥ አስተማማኝ እንዲሆን የሚያግዙ በርካታ ፕሮጀክቶች እየተዘጋጁ ናቸው። ይህ ለምሳሌ ጥልቅነት (አገናኝ ወደ፡- github.com/ChrisCummins/paper-end2end-dl);
• ለቀጣይ የአሰራር ዘዴ በኤምኤል መስክ ውስጥ የሕትመቶችን ጥራት በከፍተኛ ሁኔታ ማሻሻል አስፈላጊ ነው;
• የማሽን መማር ሁለገብ ስልጠና እና በቴክኒክ እና በሰብአዊነት መስኮች ሁለገብ ስልጠና ያላቸው መሪዎችን ይፈልጋል።

"የሰው ልጅ ባህሪ ሞዴል ከማሽን መማር ጋር፡ እድሎች እና ተግዳሮቶች" ኑሪያ ኤም ኦሊቨር፣ አልበርት አሊ ሳላህ

የሰውን ባህሪ፣ የቴክኖሎጂ መሰረቱን እና የትግበራ ተስፋዎችን ለመቅረጽ የተዘጋጀ ንግግር።

የሰዎች ባህሪ ሞዴሊንግ በሚከተለው ሊከፈል ይችላል።

• የግለሰብ ባህሪ
• የአንድ ትንሽ የሰዎች ቡድን ባህሪ
• የጅምላ ባህሪ

እያንዳንዳቸው እነዚህ ዓይነቶች ኤምኤልን በመጠቀም ሊቀረጹ ይችላሉ, ነገር ግን ሙሉ ለሙሉ የተለየ የግቤት መረጃ እና ባህሪያት. እያንዳንዱ ዓይነት እያንዳንዱ ፕሮጀክት የሚያልፍባቸው የራሳቸው የሥነ ምግባር ጉዳዮችም አሏቸው፡-

• የግለሰብ ባህሪ - የማንነት ስርቆት, ጥልቅ ውሸት;
• የሰዎች ቡድኖች ባህሪ - ስም-አልባነት, ስለ እንቅስቃሴዎች መረጃ ማግኘት, የስልክ ጥሪዎች, ወዘተ.

የግለሰብ ባህሪ

በአብዛኛው ከኮምፒዩተር ራዕይ ጋር የተያያዘ - የሰዎች ስሜቶች እና ምላሾች እውቅና. ምናልባት በዐውደ-ጽሑፍ ፣ በጊዜ ወይም በተመጣጣኝ ሁኔታ የራሱ የስሜት መለዋወጥ። ተንሸራታቹ ከሜዲትራኒያን ሴቶች ስሜታዊ ስፔክትረም አውድ በመጠቀም የሞና ሊዛን ስሜቶች እውቅና ያሳያል። ውጤት: የደስታ ፈገግታ, ግን በንቀት እና በመጸየፍ. ምክንያቱ ብዙውን ጊዜ "ገለልተኛ" ስሜትን የሚገልጽ ቴክኒካዊ መንገድ ነው.

የአንድ ትንሽ የሰዎች ቡድን ባህሪ

እስካሁን ድረስ በጣም መጥፎው ሞዴል በቂ መረጃ ባለመኖሩ ነው. እንደ ምሳሌ ከ2018 - 2019 ስራዎች ታይተዋል። በደርዘን የሚቆጠሩ ሰዎች X በደርዘን የሚቆጠሩ ቪዲዮዎች (100k++ ምስል ዳታሴቶች)። ይህንን ተግባር በተሻለ ሁኔታ ለመቅረጽ የመልቲሞዳል መረጃ ያስፈልጋል፣ በተለይም በሰውነት አልቲሜትር ላይ ካሉ ዳሳሾች ፣ ቴርሞሜትር ፣ የማይክሮፎን ቀረጻ ፣ ወዘተ.

የጅምላ ባህሪ

ደንበኛው የተባበሩት መንግስታት እና ብዙ ግዛቶች ስለሆነ በጣም የዳበረ አካባቢ። ከቤት ውጭ የክትትል ካሜራዎች, ከስልክ ማማዎች መረጃ - የሂሳብ አከፋፈል, ኤስኤምኤስ, ጥሪዎች, በስቴት ድንበሮች መካከል እንቅስቃሴ ላይ ያለ መረጃ - ይህ ሁሉ የሰዎች እንቅስቃሴ እና ማህበራዊ አለመረጋጋት በጣም አስተማማኝ ምስል ይሰጣል. ሊሆኑ የሚችሉ የቴክኖሎጂ አተገባበር፡ የማዳን ስራዎችን ማመቻቸት፣ እርዳታ እና በአደጋ ጊዜ ህዝቡን በወቅቱ ማስወጣት። ጥቅም ላይ የዋሉት ሞዴሎች በዋነኛነት አሁንም በደንብ አልተተረጎሙም - እነዚህ የተለያዩ LSTMs እና convolutional networks ናቸው። የተባበሩት መንግስታት የአውሮፓ ንግዶች ለማንኛውም ምርምር አስፈላጊ የሆነውን ማንነታቸው ያልተገለፀ መረጃን እንዲያካፍሉ የሚያስገድድ አዲስ ህግ እንዲወጣ ጥረት እያደረገ እንደሆነ አጭር አስተያየት ነበር።

"ከስርዓት 1 ወደ ስርዓት 2 ጥልቅ ትምህርት", Yoshua Bengio

ስላይዶች
በኢያሱ ቤንጂዮ ንግግር ውስጥ፣ ጥልቅ ትምህርት በግብ መቼት ደረጃ ከኒውሮሳይንስ ጋር ይገናኛል።
ቤንጂዮ በኖቤል ተሸላሚው ዳንኤል ካህነማን ዘዴ (መፅሃፍ) መሰረት ሁለት ዋና ዋና የችግሮችን አይነት ይለያል።ቀስ ብለው ያስቡ, በፍጥነት ይወስኑ")
ዓይነት 1 - ስርዓት 1 ፣ እኛ “በራስ ሰር” የምናደርጋቸው ሳያውቁ ድርጊቶች (ጥንታዊ አንጎል): በሚታወቁ ቦታዎች መኪና መንዳት ፣ መራመድ ፣ ፊትን መለየት።
ዓይነት 2 - ስርዓት 2, የንቃተ ህሊና እርምጃዎች (ሴሬብራል ኮርቴክስ), የግብ አቀማመጥ, ትንተና, አስተሳሰብ, የተዋሃዱ ተግባራት.

AI እስካሁን ድረስ በቂ ከፍታ ላይ የደረሰው በመጀመሪያው ዓይነት ተግባራት ብቻ ሲሆን የእኛ ተግባር ደግሞ ወደ ሁለተኛው ማምጣት ሲሆን ሁለገብ ክዋኔዎችን እንዲያከናውን እና በሎጂክ እና በከፍተኛ ደረጃ የግንዛቤ ክህሎት እንዲሠራ ማስተማር ነው።

ይህንን ግብ ለማሳካት የሚከተለው ሀሳብ ቀርቧል-

1. በ NLP ተግባራት ውስጥ ፣ አስተሳሰብን ለመቅረጽ እንደ ቁልፍ ዘዴ ትኩረትን ይጠቀሙ
2. በንቃተ ህሊና እና በአካባቢያቸው ላይ ተጽእኖ የሚያሳድሩ ባህሪያትን በተሻለ ሁኔታ ሞዴል ለማድረግ የሜታ-ትምህርት እና የውክልና ትምህርትን ይጠቀሙ - እና በእነሱ መሰረት በከፍተኛ ደረጃ ጽንሰ-ሀሳቦች ወደ ሥራ ይሂዱ።

ከማጠቃለያ ይልቅ፣ እዚህ ጋ የተጋበዘ ንግግር አለ፡- ቤንጂዮ የኤምኤልን መስክ ከማመቻቸት ችግር፣ SOTA እና ከአዳዲስ አርክቴክቸር ባሻገር ለማስፋት ከሚጥሩ በርካታ ሳይንቲስቶች አንዱ ነው።
ጥያቄው ምን ያህል የንቃተ ህሊና ችግሮች ጥምረት, የቋንቋው ተፅእኖ በአስተሳሰብ, በኒውሮባዮሎጂ እና በአልጎሪዝም ላይ ያለው ተጽእኖ ወደፊት ምን እንደሚጠብቀን እና እንደ ሰዎች "ለሚያስቡ" ማሽኖች እንድንሄድ ያስችለናል.

እናመሰግናለን!

ምንጭ: hab.com