NeurIPS 2019: அடுத்த பத்தாண்டுகளுக்கு எம்எல் டிரெண்டுகள்

நியூரோஐபிஎஸ் (நரம்பியல் தகவல் செயலாக்க அமைப்புகள்) இயந்திர கற்றல் மற்றும் செயற்கை நுண்ணறிவு பற்றிய உலகின் மிகப்பெரிய மாநாடு மற்றும் ஆழ்ந்த கற்றல் உலகில் முக்கிய நிகழ்வு ஆகும்.

புதிய தசாப்தத்தில் DS இன்ஜினியர்களான நாமும் உயிரியல், மொழியியல் மற்றும் உளவியலில் தேர்ச்சி பெறுவோமா? எங்கள் மதிப்பாய்வில் நாங்கள் உங்களுக்குச் சொல்வோம்.

இந்த ஆண்டு கனடாவின் வான்கூவரில் 13500 நாடுகளைச் சேர்ந்த 80 க்கும் அதிகமானோர் ஒன்றிணைந்தனர். மாநாட்டில் Sberbank ரஷ்யாவைப் பிரதிநிதித்துவப்படுத்துவது இது முதல் வருடம் அல்ல - DS குழு வங்கி செயல்முறைகளில் ML ஐ செயல்படுத்துவது, ML போட்டி மற்றும் Sberbank DS இயங்குதளத்தின் திறன்கள் பற்றி பேசியது. ML சமூகத்தில் 2019 இன் முக்கிய போக்குகள் என்ன? மாநாட்டில் பங்கேற்றவர்கள் கூறியதாவது: ஆண்ட்ரி செர்டோக் и டாட்டியானா ஷவ்ரினா.

இந்த ஆண்டு, NeurIPS 1400 க்கும் மேற்பட்ட ஆவணங்களை ஏற்றுக்கொண்டது-அல்காரிதம்கள், புதிய மாதிரிகள் மற்றும் புதிய தரவுகளுக்கான புதிய பயன்பாடுகள். அனைத்து பொருட்களுக்கும் இணைப்பு

பொருளடக்கம்:

• போக்குகள்
• • மாதிரி விளக்கம்
  • பல்துறை
  • ரீசனிங்
  • RL
  • GAN
• அழைக்கப்பட்ட அடிப்படை பேச்சுக்கள்
• • “சமூக நுண்ணறிவு”, பிளேஸ் அகுவேரா ஒய் ஆர்காஸ் (கூகுள்)
  • “வெரிடிகல் டேட்டா சயின்ஸ்”, பின் யூ (பெர்க்லி)
  • "இயந்திர கற்றலுடன் மனித நடத்தை மாதிரியாக்கம்: வாய்ப்புகள் மற்றும் சவால்கள்", நூரியா எம் ஆலிவர், ஆல்பர்ட் அலி சாலா
  • "சிஸ்டம் 1 முதல் சிஸ்டம் 2 வரை ஆழமான கற்றல்", யோசுவா பெங்கியோ

ஆண்டின் 2019 போக்குகள்

1. மாதிரி விளக்கம் மற்றும் புதிய ML முறை

மாநாட்டின் முக்கிய தலைப்பு நாம் ஏன் சில முடிவுகளைப் பெறுகிறோம் என்பதற்கான விளக்கம் மற்றும் சான்றுகள். "கருப்பு பெட்டி" விளக்கத்தின் தத்துவ முக்கியத்துவம் பற்றி ஒருவர் நீண்ட நேரம் பேசலாம், ஆனால் இந்த பகுதியில் இன்னும் உண்மையான முறைகள் மற்றும் தொழில்நுட்ப முன்னேற்றங்கள் இருந்தன.

மாதிரிகளை நகலெடுத்து அவற்றிலிருந்து அறிவைப் பிரித்தெடுக்கும் முறை அறிவியலுக்கான புதிய கருவித்தொகுப்பாகும். மாதிரிகள் புதிய அறிவைப் பெறுவதற்கும் அதைச் சோதிப்பதற்கும் ஒரு கருவியாகச் செயல்பட முடியும், மேலும் மாதிரியின் முன் செயலாக்கம், பயிற்சி மற்றும் பயன்பாடு ஆகியவற்றின் ஒவ்வொரு கட்டமும் மீண்டும் உருவாக்கப்பட வேண்டும்.
வெளியீடுகளின் கணிசமான பகுதியானது மாதிரிகள் மற்றும் கருவிகளின் கட்டுமானத்திற்காக அல்ல, ஆனால் பாதுகாப்பு, வெளிப்படைத்தன்மை மற்றும் முடிவுகளின் சரிபார்ப்பு ஆகியவற்றை உறுதி செய்வதில் உள்ள சிக்கல்களுக்கு அர்ப்பணிக்கப்பட்டுள்ளது. குறிப்பாக, மாதிரி மீதான தாக்குதல்கள் (எதிரி தாக்குதல்கள்) பற்றி ஒரு தனி ஸ்ட்ரீம் தோன்றியது, மேலும் பயிற்சி மீதான தாக்குதல்கள் மற்றும் பயன்பாட்டின் மீதான தாக்குதல்கள் ஆகிய இரண்டிற்கும் விருப்பங்கள் கருதப்படுகின்றன.

கட்டுரைகள்:

• வெரிடிகல் தரவு அறிவியல் - மாதிரி சரிபார்ப்பு முறை பற்றிய ஒரு நிரல் கட்டுரை. மாதிரிகளை விளக்குவதற்கான நவீன கருவிகளின் கண்ணோட்டத்தை உள்ளடக்கியது, குறிப்பாக, நேரியல் மாதிரிகளுடன் நரம்பியல் நெட்வொர்க்கை "வடிகட்டுதல்" மூலம் கவனத்தைப் பயன்படுத்துதல் மற்றும் அம்ச முக்கியத்துவத்தைப் பெறுதல்.
• இது போல் தெரிகிறது: விளக்கக்கூடிய பட அங்கீகாரத்திற்கான ஆழமான கற்றல் சாஃபன் சென், ஆஸ்கார் லி, டேனியல் தாவோ, அலினா பார்னெட், சிந்தியா ரூடின், ஜொனாதன் கே. சு
• ஆழமான நரம்பியல் நெட்வொர்க்குகளில் விளக்கமளிக்கும் முறைகளுக்கான ஒரு அளவுகோல் சாரா ஹூக்கர், டுமித்ரு எர்ஹான், பீட்டர்-ஜான் கிண்டர்மேன்ஸ், பீன் கிம்
• கவனத்தை மேம்படுத்தும் முகவர்களைப் பயன்படுத்தி புரிந்துகொள்ளக்கூடிய வலுவூட்டல் கற்றலை நோக்கி அலெக்சாண்டர் மோட், டேனியல் சோரன், மைக் க்ர்சனோவ்ஸ்கி, டான் வியர்ஸ்ட்ரா, டானிலோ ஜிமெனெஸ் ரெசெண்டே
• சீரற்ற காடுகளுக்கான ஒரு debiased MDI அம்சம் முக்கியத்துவம் அளவீடு சியாவோ லி, யு வாங், சுமந்தா பாசு, கார்ல் கும்பியர், பின் யூ
• கவனிக்கக்கூடிய தரவு இல்லாத அறிவைப் பிரித்தெடுத்தல் ஜெமின் யூ, மின்யோங் சோ, டேபம் கிம், யு காங்
• சுயாதீனமாக மறுஉருவாக்கம் செய்யக்கூடிய இயந்திர கற்றல் ஆராய்ச்சியை அளவிடுவதற்கான ஒரு படி எட்வர்ட் ராஃப்

ExBert.net உரை செயலாக்கப் பணிகளுக்கான மாதிரி விளக்கத்தைக் காட்டுகிறது

2. பல்துறை

நம்பகமான சரிபார்ப்பை உறுதிசெய்யவும், அறிவைச் சரிபார்த்து விரிவுபடுத்துவதற்கான வழிமுறைகளை உருவாக்கவும், எம்எல் மற்றும் பாடப் பகுதியில் (மருத்துவம், மொழியியல், நரம்பியல், கல்வி போன்றவை) ஒரே நேரத்தில் திறன்களைக் கொண்ட தொடர்புடைய துறைகளில் நிபுணர்கள் தேவை. நரம்பியல் மற்றும் அறிவாற்றல் அறிவியலில் படைப்புகள் மற்றும் பேச்சுகளின் குறிப்பிடத்தக்க இருப்பைக் குறிப்பிடுவது குறிப்பாக மதிப்புக்குரியது - நிபுணர்களின் இணக்கம் மற்றும் யோசனைகளை கடன் வாங்குவது உள்ளது.

இந்த நல்லிணக்கத்திற்கு கூடுதலாக, பல்வேறு ஆதாரங்களில் இருந்து தகவல்களின் கூட்டு செயலாக்கத்தில் பல்துறை வெளிப்படுகிறது: உரை மற்றும் புகைப்படங்கள், உரை மற்றும் விளையாட்டுகள், வரைபட தரவுத்தளங்கள் + உரை மற்றும் புகைப்படங்கள்.

கட்டுரைகள்:

• நரம்பியல் + எம்.எல். இயற்கை மொழி-செயலாக்கத்துடன் (மூளையில்) இயற்கை மொழி செயலாக்கத்தை (இயந்திரங்களில்) விளக்கி மேம்படுத்துதல்
• VisualQA - சுருக்கம் மூலம் கற்றல்: நியூரல் ஸ்டேட் மெஷின்
• RL + NLP - இயற்கை மொழி வழிமுறைகளை உருவாக்கி பின்பற்றுவதன் மூலம் படிநிலை முடிவெடுத்தல்

இரண்டு மாதிரிகள் - மூலோபாயவாதி மற்றும் நிர்வாகி - RL மற்றும் NLP ஆன்லைன் மூலோபாயத்தை அடிப்படையாகக் கொண்டது

3. பகுத்தறிவு

செயற்கை நுண்ணறிவை வலுப்படுத்துவது என்பது சுய-கற்றல் அமைப்புகள், "உணர்வு", பகுத்தறிவு மற்றும் பகுத்தறிவு ஆகியவற்றை நோக்கிய ஒரு இயக்கமாகும். குறிப்பாக, காரண அனுமானமும், பொதுவுடைமை பகுத்தறிவும் உருவாகி வருகின்றன. சில அறிக்கைகள் மெட்டா-லேர்னிங் (கற்றுக்கொள்வது எப்படி என்பது பற்றி) மற்றும் 1வது மற்றும் 2வது வரிசை தர்க்கத்துடன் DL தொழில்நுட்பங்களின் சேர்க்கைக்கு அர்ப்பணிக்கப்பட்டுள்ளன - செயற்கை பொது நுண்ணறிவு (AGI) என்ற சொல் பேச்சாளர்களின் பேச்சுகளில் பொதுவான வார்த்தையாக மாறி வருகிறது.

கட்டுரைகள்:

• விஷுவல் காமன்சென்ஸ் ரீசனிங்கிற்கான பன்முக வரைபடக் கற்றல் வெய்ஜியாங் யூ, ஜிங்வென் சோ, வெய்ஹாவோ யூ, சியாடன் லியாங், நோங் சியாவோ
• கடத்தல் கற்றல் மூலம் பிரிட்ஜிங் மெஷின் லேர்னிங் மற்றும் லாஜிக்கல் ரீசனிங் வாங்-சூ டாய், கியுலிங் சூ, யாங் யூ, ஜி-ஹுவா சோவ்
• முதல்-வரிசை தர்க்கத்தில் பகுத்தறிவு செய்ய மறைமுகமாகக் கற்றுக்கொள்வது வைஷாக் பெல்லி, பிரெண்டன் ஜூபா
• ஃபைர்: இயற்பியல் பகுத்தறிவுக்கான புதிய அளவுகோல் அன்டன் பக்தின், லாரன்ஸ் வான் டெர் மாடன், ஜஸ்டின் ஜான்சன், லாரா குஸ்டாஃப்சன், ரோஸ் கிர்ஷிக்
• பகுத்தறிவிற்கான அறிவின் குவாண்டம் உட்பொதித்தல் தினேஷ் கர்க், ஷாஜித் இக்பால், சந்தோஷ் கே. ஸ்ரீவஸ்தவா, ஹரித் விஸ்வகர்மா, ஹிமா கரணம், எல் வெங்கட சுப்ரமணியம்

4. வலுவூட்டல் கற்றல்

பெரும்பாலான பணிகள் RL - DOTA2, Starcraft ஆகியவற்றின் பாரம்பரிய பகுதிகளை உருவாக்குவது, கணினி பார்வை, NLP, வரைபட தரவுத்தளங்களுடன் கட்டிடக்கலைகளை இணைத்தல்.

மாநாட்டின் ஒரு தனி நாள் ஒரு RL பட்டறைக்கு அர்ப்பணிக்கப்பட்டது, இதில் Optimistic Actor Critic Model கட்டிடக்கலை வழங்கப்பட்டது, இது முந்தைய எல்லாவற்றிலும், குறிப்பாக மென்மையான நடிகர் விமர்சகரை விட உயர்ந்தது.

கட்டுரைகள்:

• நம்பிக்கையான நடிகர் விமர்சகருடன் சிறந்த ஆய்வு; கமில் சியோசெக், குவான் வூங், ராபர்ட் லோஃப்டின், கட்ஜா ஹாஃப்மேன்
• ChainerRL: ஒரு ஆழமான வலுவூட்டல் கற்றல் நூலகம்; Yasuhiro Fujita (விருப்பமான நெட்வொர்க்குகள், Inc.)*; Toshiki Kataoka (விருப்பமான நெட்வொர்க்குகள், Inc.); பிரபாத் நாகராஜன் (விருப்பமான நெட்வொர்க்குகள்); தகாஹிரோ இஷிகாவா (டோக்கியோ பல்கலைக்கழகம்) [வெளிப்புற pdf இணைப்பு].
• கட்டுப்படுத்த கனவு: மறைந்த கற்பனை மூலம் நடத்தைகளை கற்றல்; Danijar Hafner (Google)*; திமோதி லில்லிக்ராப் (டீப் மைண்ட்); ஜிம்மி பா (டொராண்டோ பல்கலைக்கழகம்); முகமது நோரூசி (கூகுள் மூளை)
• பட்டறை பொருட்கள்

StarCraft வீரர்கள் Alphastar மாடலை எதிர்த்துப் போராடுகிறார்கள் (DeepMind)

5.GAN

உருவாக்கும் நெட்வொர்க்குகள் இன்னும் கவனத்தில் உள்ளன: பல படைப்புகள் கணிதச் சான்றுகளுக்கு வெண்ணிலா GANகளைப் பயன்படுத்துகின்றன, மேலும் புதிய, அசாதாரணமான வழிகளில் அவற்றைப் பயன்படுத்துகின்றன (வரைபட உருவாக்கும் மாதிரிகள், தொடருடன் பணிபுரிதல், தரவுகளில் ஏற்படும் மற்றும் விளைவு உறவுகளுக்கான பயன்பாடு போன்றவை).

கட்டுரைகள்:

• நிபந்தனைக்குட்பட்ட GANகளுக்கான தங்க மாதிரிகளை சுரங்கப்படுத்துதல் சங்வூ மோ, சிஹியோன் கிம், சுங்வூங் கிம், மின்சு சோ, ஜின்வூ ஷின்
• GAN களின் முற்போக்கான அதிகரிப்பு டான் ஜாங், அன்னா கோரேவா
• நிபந்தனை GAN ஐப் பயன்படுத்தி அட்டவணை தரவுகளை மாதிரியாக்குதல் லீ சூ, மரியா ஸ்கோலரிடோ, ஆல்ஃபிரடோ குஸ்டா-இன்ஃபான்டே, கல்யாண் வீரமச்சனேனி
• papers.nips.cc/paper/9377-a-domain-agnostic-measure-for-monitoring-and-evaluating-gans

அதிக வேலைகள் ஏற்றுக்கொள்ளப்பட்டதால் 1400 மிக முக்கியமான உரைகளைப் பற்றி கீழே பேசுவோம்.

அழைக்கப்பட்ட பேச்சுக்கள்

“சமூக நுண்ணறிவு”, பிளேஸ் அகுவேரா ஒய் ஆர்காஸ் (கூகுள்)

இணைப்பை
ஸ்லைடுகள் மற்றும் வீடியோக்கள்
பேச்சு இயந்திரக் கற்றலின் பொதுவான வழிமுறைகள் மற்றும் தற்போது தொழில்துறையை மாற்றும் வாய்ப்புகள் மீது கவனம் செலுத்துகிறது - நாம் என்ன குறுக்கு வழிகளை எதிர்கொள்கிறோம்? மூளை மற்றும் பரிணாம வளர்ச்சி எவ்வாறு செயல்படுகிறது, இயற்கை அமைப்புகளின் வளர்ச்சியைப் பற்றி நாம் ஏற்கனவே அறிந்திருப்பதை ஏன் குறைவாகப் பயன்படுத்துகிறோம்?

ML இன் தொழில்துறை வளர்ச்சியானது கூகுளின் வளர்ச்சியின் மைல்கற்களுடன் ஒத்துப்போகிறது, இது வருடா வருடம் நியூரிபிஎஸ் பற்றிய தனது ஆராய்ச்சியை வெளியிடுகிறது:

• 1997 – தேடல் வசதிகள், முதல் சேவையகங்கள், சிறிய கணினி ஆற்றல் தொடங்கப்பட்டது
• 2010 - ஜெஃப் டீன் கூகுள் பிரைன் திட்டத்தை துவக்கினார், இது ஆரம்பத்திலேயே நரம்பியல் நெட்வொர்க்குகளின் ஏற்றம்.
• 2015 – நரம்பியல் நெட்வொர்க்குகளின் தொழில்துறை செயலாக்கம், உள்ளூர் சாதனத்தில் நேரடியாக முகத்தை அடையாளம் காணுதல், டென்சர் கம்ப்யூட்டிங்கிற்காக வடிவமைக்கப்பட்ட குறைந்த-நிலை செயலிகள் - TPU. கூகுள் கோரல் ஏஐ - ராஸ்பெர்ரி பையின் அனலாக், நியூரல் நெட்வொர்க்குகளை சோதனை நிறுவல்களில் அறிமுகப்படுத்துவதற்கான மினி-கணினியை அறிமுகப்படுத்துகிறது.
• 2017 – கூகுள் பரவலாக்கப்பட்ட பயிற்சியை உருவாக்கத் தொடங்கியது மற்றும் வெவ்வேறு சாதனங்களிலிருந்து நரம்பியல் நெட்வொர்க் பயிற்சியின் முடிவுகளை ஒரே மாதிரியாக இணைக்கிறது – ஆண்ட்ராய்டில்

இன்று, ஒரு முழுத் தொழில்துறையும் தரவு பாதுகாப்பு, திரட்டுதல் மற்றும் உள்ளூர் சாதனங்களில் கற்றல் விளைவுகளைப் பிரதியெடுப்பதற்கு அர்ப்பணிக்கப்பட்டுள்ளது.

கூட்டமைப்பு கற்றல் - ML இன் திசை, இதில் தனிப்பட்ட மாதிரிகள் ஒருவருக்கொருவர் சுயாதீனமாகக் கற்றுக்கொள்கின்றன, பின்னர் அவை ஒரே மாதிரியாக இணைக்கப்படுகின்றன (மூலத் தரவை மையப்படுத்தாமல்), அரிதான நிகழ்வுகள், முரண்பாடுகள், தனிப்பயனாக்கம் போன்றவற்றுக்கு சரிசெய்யப்படுகின்றன. அனைத்து ஆண்ட்ராய்டு சாதனங்களும் கூகுளுக்கான ஒரே கம்ப்யூட்டிங் சூப்பர் கம்ப்யூட்டர் ஆகும்.

"அதிவேக வளர்ச்சியின் ஆரம்ப கட்டத்தில்" இருக்கும் கூகுளின் கூற்றுப்படி, கூட்டமைப்பு கற்றலை அடிப்படையாகக் கொண்ட உருவாக்க மாதிரிகள் ஒரு நம்பிக்கைக்குரிய எதிர்கால திசையாகும். GAN கள், விரிவுரையாளரின் கூற்றுப்படி, வாழும் உயிரினங்களின் மக்கள்தொகை மற்றும் சிந்தனை வழிமுறைகளின் வெகுஜன நடத்தையை இனப்பெருக்கம் செய்ய கற்றுக்கொள்ளும் திறன் கொண்டவை.

இரண்டு எளிய GAN கட்டமைப்புகளின் எடுத்துக்காட்டைப் பயன்படுத்தி, அவற்றில் தேர்வுமுறை பாதைக்கான தேடல் ஒரு வட்டத்தில் அலைந்து திரிகிறது, அதாவது மேம்படுத்தல் ஏற்படாது. அதே நேரத்தில், இந்த மாதிரிகள் பாக்டீரியா மக்கள் மீது உயிரியலாளர்கள் செய்யும் சோதனைகளை உருவகப்படுத்துவதில் மிகவும் வெற்றிகரமானவை, உணவைத் தேடுவதில் புதிய நடத்தை உத்திகளைக் கற்றுக்கொள்ள அவர்களை கட்டாயப்படுத்துகின்றன. தேர்வுமுறை செயல்பாட்டை விட வாழ்க்கை வித்தியாசமாக செயல்படுகிறது என்று நாம் முடிவு செய்யலாம்.

நடைபயிற்சி GAN உகப்பாக்கம்

இயந்திரக் கற்றலின் கட்டமைப்பில் இப்போது நாம் செய்யும் அனைத்தும் குறுகிய மற்றும் மிகவும் முறைப்படுத்தப்பட்ட பணிகளாகும், அதே சமயம் இந்த சம்பிரதாயங்கள் நன்கு பொதுமைப்படுத்தப்படவில்லை மற்றும் நரம்பியல் இயற்பியல் மற்றும் உயிரியல் போன்ற துறைகளில் நமது பாட அறிவுக்கு பொருந்தாது.

எதிர்காலத்தில் நியூரோபிசியாலஜி துறையில் இருந்து உண்மையில் கடன் வாங்குவது புதிய நியூரான் கட்டமைப்புகள் மற்றும் பிழைகளை மீண்டும் பரப்புவதற்கான வழிமுறைகளின் ஒரு சிறிய திருத்தம் ஆகும்.

மனித மூளை ஒரு நரம்பியல் வலையமைப்பைப் போல கற்றுக் கொள்ளாது:

• புலன்கள் மற்றும் குழந்தைப் பருவத்தில் உள்ளீடுகள் உட்பட சீரற்ற முதன்மை உள்ளீடுகள் அவரிடம் இல்லை
• அவர் உள்ளார்ந்த வளர்ச்சியின் உள்ளார்ந்த திசைகளைக் கொண்டிருக்கிறார் (ஒரு குழந்தையிலிருந்து மொழியைக் கற்க ஆசை, நிமிர்ந்து நடப்பது)

ஒரு தனிப்பட்ட மூளையைப் பயிற்றுவிப்பது ஒரு குறைந்த அளவிலான பணியாகும்; குழு பரிணாமத்தின் வழிமுறைகளை இனப்பெருக்கம் செய்வதற்காக ஒருவருக்கொருவர் அறிவைக் கடத்தும் நபர்களின் "காலனிகளை" நாம் கருத்தில் கொள்ள வேண்டும்.

இப்போது எம்எல் அல்காரிதங்களில் நாம் என்ன செய்யலாம்:

• மக்கள்தொகையின் கற்றலை உறுதி செய்யும் செல் பரம்பரை மாதிரிகளைப் பயன்படுத்துங்கள், ஆனால் தனிநபரின் குறுகிய ஆயுட்காலம் (“தனிப்பட்ட மூளை”)
• சிறிய எண்ணிக்கையிலான எடுத்துக்காட்டுகளைப் பயன்படுத்தி சில ஷாட் கற்றல்
• மிகவும் சிக்கலான நியூரான் கட்டமைப்புகள், சற்று மாறுபட்ட செயல்படுத்தும் செயல்பாடுகள்
• "மரபணுவை" அடுத்த தலைமுறைகளுக்கு மாற்றுதல் - பின் பரப்புதல் வழிமுறை
• நியூரோபிசியாலஜி மற்றும் நரம்பியல் நெட்வொர்க்குகளை இணைத்தவுடன், பல கூறுகளிலிருந்து ஒரு மல்டிஃபங்க்ஸ்னல் மூளையை உருவாக்க கற்றுக்கொள்வோம்.

இந்தக் கண்ணோட்டத்தில், SOTA தீர்வுகளின் நடைமுறை தீங்கானது மற்றும் பொதுவான பணிகளை (பென்ச்மார்க்குகள்) மேம்படுத்துவதற்காக திருத்தப்பட வேண்டும்.

“வெரிடிகல் டேட்டா சயின்ஸ்”, பின் யூ (பெர்க்லி)

வீடியோக்கள் மற்றும் ஸ்லைடுகள்
இயந்திர கற்றல் மாதிரிகள் மற்றும் அவற்றின் நேரடி சோதனை மற்றும் சரிபார்ப்புக்கான வழிமுறைகளை விளக்குவதில் உள்ள சிக்கலுக்கு இந்த அறிக்கை அர்ப்பணிக்கப்பட்டுள்ளது. எந்தவொரு பயிற்சி பெற்ற எம்.எல் மாதிரியும் அதிலிருந்து பிரித்தெடுக்கப்பட வேண்டிய அறிவின் ஆதாரமாக உணரப்படலாம்.

பல பகுதிகளில், குறிப்பாக மருத்துவத்தில், இந்த மறைக்கப்பட்ட அறிவைப் பிரித்தெடுக்காமல் மற்றும் மாதிரியின் முடிவுகளை விளக்காமல் ஒரு மாதிரியைப் பயன்படுத்துவது சாத்தியமற்றது - இல்லையெனில் முடிவுகள் நிலையானதாகவும், சீரற்றதாகவும், நம்பகமானதாகவும் இருக்கும், மேலும் அவை அழிக்கப்படாது. நோயாளி. பணி முறையின் முழு திசையும் ஆழ்ந்த கற்றல் முன்னுதாரணத்திற்குள் உருவாகி அதன் எல்லைகளுக்கு அப்பால் செல்கிறது - உண்மை தரவு அறிவியல். அது என்ன?

விஞ்ஞான வெளியீடுகளின் தரம் மற்றும் மாதிரிகளின் மறுஉருவாக்கம் ஆகியவற்றை நாங்கள் அடைய விரும்புகிறோம்:

1. கணிக்கக்கூடியது
2. கணக்கிடக்கூடியது
3. நிலையான

இந்த மூன்று கொள்கைகளும் புதிய முறையின் அடிப்படையை உருவாக்குகின்றன. இந்த அளவுகோல்களுக்கு எதிராக எம்எல் மாடல்களை எவ்வாறு சரிபார்க்கலாம்? உடனடியாக விளக்கக்கூடிய மாதிரிகளை உருவாக்குவது எளிதான வழி (பின்னடைவுகள், முடிவு மரங்கள்). இருப்பினும், ஆழ்ந்த கற்றலின் உடனடி பலன்களையும் பெற விரும்புகிறோம்.

சிக்கலைச் சமாளிக்க பல வழிகள் உள்ளன:

1. மாதிரியை விளக்குங்கள்;
2. கவனத்தை அடிப்படையாகக் கொண்ட முறைகளைப் பயன்படுத்துதல்;
3. பயிற்சியின் போது அல்காரிதம்களின் குழுமங்களைப் பயன்படுத்தவும், மற்றும் நேரியல் மாதிரியிலிருந்து அம்சங்களை விளக்கி, நரம்பியல் நெட்வொர்க்கின் அதே பதில்களைக் கணிக்க நேரியல் விளக்க மாதிரிகள் கற்றுக்கொள்வதை உறுதிப்படுத்தவும்;
4. பயிற்சி தரவை மாற்றவும் அதிகரிக்கவும். இதில் இரைச்சல், குறுக்கீடு மற்றும் தரவு பெருக்கம் ஆகியவை அடங்கும்;
5. மாதிரியின் முடிவுகள் சீரற்றதாக இல்லை மற்றும் சிறிய தேவையற்ற குறுக்கீடுகளை (எதிரி தாக்குதல்கள்) சார்ந்து இல்லை என்பதை உறுதிப்படுத்த உதவும் எந்த முறைகளும்;
6. பயிற்சிக்குப் பிறகு, உண்மைக்குப் பிறகு மாதிரியை விளக்குங்கள்;
7. ஆய்வு அம்சம் பல்வேறு வழிகளில் எடைகள்;
8. அனைத்து கருதுகோள்களின் நிகழ்தகவுகள், வர்க்க விநியோகம் ஆகியவற்றைப் படிக்கவும்.

எதிரிகளின் தாக்குதல் ஒரு பன்றிக்கு

மாடலிங் பிழைகள் அனைவருக்கும் விலை உயர்ந்தவை: ஒரு பிரதான உதாரணம் ரெய்ன்ஹார்ட் மற்றும் ரோகோவின் வேலை."கடன் காலத்தில் வளர்ச்சி"பல ஐரோப்பிய நாடுகளின் பொருளாதாரக் கொள்கைகளில் தாக்கத்தை ஏற்படுத்தியது மற்றும் சிக்கனக் கொள்கைகளைத் தொடர அவர்களை கட்டாயப்படுத்தியது, ஆனால் தரவுகளை கவனமாக மறுபரிசீலனை செய்து பல ஆண்டுகளுக்குப் பிறகு அவற்றின் செயலாக்கம் எதிர் விளைவைக் காட்டியது!

எந்தவொரு ML தொழில்நுட்பமும் அதன் சொந்த வாழ்க்கை சுழற்சியை செயல்படுத்துவது முதல் செயல்படுத்துவது வரை உள்ளது. மாதிரியின் வாழ்க்கையின் ஒவ்வொரு கட்டத்திலும் மூன்று அடிப்படைக் கொள்கைகளைச் சரிபார்ப்பதே புதிய முறையின் குறிக்கோள்.

முடிவு:

• ML மாதிரி மிகவும் நம்பகமானதாக இருக்க உதவும் பல திட்டங்கள் உருவாக்கப்படுகின்றன. இது, எடுத்துக்காட்டாக, டீப்டியூன் (இணைப்பு: github.com/ChrisCummins/paper-end2end-dl);
• முறையின் மேலும் வளர்ச்சிக்கு, ML துறையில் வெளியீடுகளின் தரத்தை கணிசமாக மேம்படுத்துவது அவசியம்;
• இயந்திரக் கற்றலுக்கு தொழில்நுட்பம் மற்றும் மனிதநேயம் ஆகிய துறைகளில் பல்துறைப் பயிற்சி மற்றும் நிபுணத்துவம் கொண்ட தலைவர்கள் தேவை.

"இயந்திர கற்றலுடன் மனித நடத்தை மாதிரியாக்கம்: வாய்ப்புகள் மற்றும் சவால்கள்" நூரியா எம் ஆலிவர், ஆல்பர்ட் அலி சாலா

மனித நடத்தை, அதன் தொழில்நுட்ப அடித்தளங்கள் மற்றும் பயன்பாட்டு வாய்ப்புகளை மாதிரியாக்க அர்ப்பணிக்கப்பட்ட விரிவுரை.

மனித நடத்தை மாதிரியை பின்வருமாறு பிரிக்கலாம்:

• தனிப்பட்ட நடத்தை
• ஒரு சிறிய குழுவின் நடத்தை
• வெகுஜன நடத்தை

இந்த வகைகளில் ஒவ்வொன்றும் ML ஐப் பயன்படுத்தி வடிவமைக்கப்படலாம், ஆனால் முற்றிலும் வேறுபட்ட உள்ளீட்டுத் தகவல் மற்றும் அம்சங்களுடன். ஒவ்வொரு வகைக்கும் அதன் சொந்த நெறிமுறை சிக்கல்கள் உள்ளன, அவை ஒவ்வொரு திட்டமும் கடந்து செல்கின்றன:

• தனிப்பட்ட நடத்தை - அடையாள திருட்டு, டீப்ஃபேக்;
• மக்கள் குழுக்களின் நடத்தை - பெயர் நீக்கம், இயக்கங்கள், தொலைபேசி அழைப்புகள் போன்றவற்றைப் பற்றிய தகவல்களைப் பெறுதல்;

தனிப்பட்ட நடத்தை

பெரும்பாலும் கணினி பார்வை என்ற தலைப்புடன் தொடர்புடையது - மனித உணர்ச்சிகள் மற்றும் எதிர்வினைகளின் அங்கீகாரம். ஒருவேளை சூழலில், நேரத்தில் அல்லது அவரது சொந்த உணர்ச்சிகளின் மாறுபாட்டின் ஒப்பீட்டு அளவோடு மட்டுமே. ஸ்லைடு மத்தியதரைக் கடல் பெண்களின் உணர்ச்சி ஸ்பெக்ட்ரம் சூழலைப் பயன்படுத்தி மோனாலிசாவின் உணர்ச்சிகளை அங்கீகரிப்பதைக் காட்டுகிறது. முடிவு: மகிழ்ச்சியின் புன்னகை, ஆனால் அவமதிப்பு மற்றும் வெறுப்புடன். காரணம் பெரும்பாலும் "நடுநிலை" உணர்ச்சியை வரையறுக்கும் தொழில்நுட்ப வழியில் உள்ளது.

ஒரு சிறிய குழுவின் நடத்தை

இதுவரை மோசமான மாதிரி போதுமான தகவல் காரணமாக உள்ளது. உதாரணமாக, 2018 - 2019 வரையிலான படைப்புகள் காட்டப்பட்டன. டஜன் கணக்கான மக்கள் X டஜன் கணக்கான வீடியோக்கள் (cf. 100k++ பட தரவுத்தொகுப்புகள்). இந்தப் பணியைச் சிறப்பாகச் செய்ய, மல்டிமாடல் தகவல் தேவை, உடல் ஆல்டிமீட்டர், தெர்மோமீட்டர், மைக்ரோஃபோன் ரெக்கார்டிங் போன்றவற்றில் உள்ள சென்சார்களிலிருந்து முன்னுரிமை.

வெகுஜன நடத்தை

மிகவும் வளர்ந்த பகுதி, வாடிக்கையாளர் ஐ.நா மற்றும் பல மாநிலங்கள் என்பதால். வெளிப்புற கண்காணிப்பு கேமராக்கள், தொலைபேசி கோபுரங்களிலிருந்து தரவு - பில்லிங், எஸ்எம்எஸ், அழைப்புகள், மாநில எல்லைகளுக்கு இடையிலான இயக்கம் பற்றிய தரவு - இவை அனைத்தும் மக்களின் இயக்கம் மற்றும் சமூக உறுதியற்ற தன்மை பற்றிய மிகவும் நம்பகமான படத்தை அளிக்கிறது. தொழில்நுட்பத்தின் சாத்தியமான பயன்பாடுகள்: மீட்பு நடவடிக்கைகளை மேம்படுத்துதல், உதவி மற்றும் அவசர காலங்களில் மக்களை சரியான நேரத்தில் வெளியேற்றுதல். பயன்படுத்தப்பட்ட மாதிரிகள் முக்கியமாக இன்னும் மோசமாக விளக்கப்பட்டுள்ளன - இவை பல்வேறு எல்எஸ்டிஎம்கள் மற்றும் மாற்றும் நெட்வொர்க்குகள். எந்தவொரு ஆராய்ச்சிக்கும் தேவையான அநாமதேயத் தரவைப் பகிர ஐரோப்பிய வணிகங்களைக் கட்டாயப்படுத்தும் புதிய சட்டத்திற்கு ஐ.நா. வற்புறுத்துகிறது என்று ஒரு சுருக்கமான கருத்து இருந்தது.

"சிஸ்டம் 1 முதல் சிஸ்டம் 2 வரை ஆழமான கற்றல்", யோசுவா பெங்கியோ

ஸ்லைடுகள்
ஜோசுவா பெங்கியோவின் விரிவுரையில், ஆழ்ந்த கற்றல் நரம்பியல் அறிவியலை இலக்கை அமைக்கும் மட்டத்தில் சந்திக்கிறது.
நோபல் பரிசு பெற்ற டேனியல் கான்மேனின் (புத்தகம் ") முறையின்படி பெங்கியோ இரண்டு முக்கிய வகையான பிரச்சனைகளை அடையாளம் காண்கிறார்.மெதுவாக சிந்தியுங்கள், வேகமாக முடிவு செய்யுங்கள்")
வகை 1 - சிஸ்டம் 1, நாம் "தானாகவே" (பண்டைய மூளை) செய்யும் சுயநினைவற்ற செயல்கள்: பழக்கமான இடங்களில் காரை ஓட்டுதல், நடைபயிற்சி, முகங்களை அடையாளம் காணுதல்.
வகை 2 - அமைப்பு 2, நனவான செயல்கள் (பெருமூளைப் புறணி), இலக்கு அமைத்தல், பகுப்பாய்வு, சிந்தனை, கூட்டுப் பணிகள்.

AI இதுவரை முதல் வகை பணிகளில் மட்டுமே போதுமான உயரத்தை எட்டியுள்ளது, அதே நேரத்தில் எங்கள் பணி அதை இரண்டாவதாகக் கொண்டுவருவது, பலதரப்பட்ட செயல்பாடுகளைச் செய்வதற்கும் தர்க்கம் மற்றும் உயர்நிலை அறிவாற்றல் திறன்களுடன் செயல்படுவதற்கும் கற்றுக்கொடுக்கிறது.

இந்த இலக்கை அடைய, இது முன்மொழியப்பட்டது:

1. NLP பணிகளில், மாடலிங் சிந்தனைக்கான முக்கிய பொறிமுறையாக கவனத்தைப் பயன்படுத்தவும்
2. மெட்டா-லேர்னிங் மற்றும் பிரதிநிதித்துவக் கற்றலை நனவு மற்றும் அவற்றின் உள்ளூர்மயமாக்கலை பாதிக்கும் சிறந்த மாதிரி அம்சங்களைப் பயன்படுத்தவும் - மேலும் அவற்றின் அடிப்படையில் உயர்-நிலை கருத்துகளுடன் செயல்படவும்.

ஒரு முடிவுக்குப் பதிலாக, அழைக்கப்பட்ட பேச்சு இங்கே: தேர்வுமுறை சிக்கல்கள், SOTA மற்றும் புதிய கட்டமைப்புகளுக்கு அப்பால் ML துறையில் விரிவாக்க முயற்சிக்கும் பல விஞ்ஞானிகளில் பெங்கியோவும் ஒருவர்.
நனவின் சிக்கல்கள், சிந்தனையில் மொழியின் தாக்கம், நரம்பியல் மற்றும் வழிமுறைகள் ஆகியவற்றின் கலவையானது எதிர்காலத்தில் நமக்குக் காத்திருக்கிறது மற்றும் மக்களைப் போல "சிந்திக்கும்" இயந்திரங்களுக்கு செல்ல அனுமதிக்கும் என்ற கேள்வி திறந்தே உள்ளது.

நன்றி!

ஆதாரம்: www.habr.com