ഹബ്രെയിലെ മെഷീൻ ലേണിംഗ് മത്സരങ്ങളുടെ തീം തുടരുന്നു, രണ്ട് പ്ലാറ്റ്‌ഫോമുകളിലേക്ക് കൂടി വായനക്കാരെ പരിചയപ്പെടുത്താൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു. അവ തീർച്ചയായും കാഗിളിനെപ്പോലെ വലുതല്ല, പക്ഷേ അവ തീർച്ചയായും ശ്രദ്ധ അർഹിക്കുന്നു.

വ്യക്തിപരമായി, പല കാരണങ്ങളാൽ എനിക്ക് കാഗിൾ അധികം ഇഷ്ടമല്ല:

• ഒന്നാമതായി, അവിടെയുള്ള മത്സരങ്ങൾ പലപ്പോഴും മാസങ്ങളോളം നീണ്ടുനിൽക്കും, സജീവമായ പങ്കാളിത്തത്തിന് വളരെയധികം പരിശ്രമം ആവശ്യമാണ്;
• രണ്ടാമതായി, പൊതു കേർണലുകൾ (പൊതു പരിഹാരങ്ങൾ). ടിബറ്റൻ സന്യാസിമാരുടെ ശാന്തതയോടെ അവരെ കൈകാര്യം ചെയ്യാൻ കഗ്ഗ്ലെ അനുയായികൾ ഉപദേശിക്കുന്നു, എന്നാൽ വാസ്തവത്തിൽ നിങ്ങൾ ഒന്നോ രണ്ടോ മാസമായി പ്രവർത്തിച്ചുകൊണ്ടിരിക്കുന്ന എന്തെങ്കിലും പെട്ടെന്ന് എല്ലാവർക്കും ഒരു വെള്ളി താലത്തിൽ വയ്ക്കുന്നത് വളരെ ലജ്ജാകരമാണ്.

ഭാഗ്യവശാൽ, മെഷീൻ ലേണിംഗ് മത്സരങ്ങൾ മറ്റ് പ്ലാറ്റ്ഫോമുകളിൽ നടക്കുന്നു, ഈ മത്സരങ്ങളിൽ ചിലത് ചർച്ച ചെയ്യപ്പെടും.

IDAO	SNA ഹാക്കത്തോൺ 2019
ഔദ്യോഗിക ഭാഷ: ഇംഗ്ലീഷ്, സംഘാടകർ: Yandex, Sberbank, HSE	ഔദ്യോഗിക റഷ്യൻ ഭാഷ, സംഘാടകർ: Mail.ru ഗ്രൂപ്പ്
ഓൺലൈൻ റൗണ്ട്: ജനുവരി 15 — ഫെബ്രുവരി 11, 2019; ഓൺ-സൈറ്റ് ഫൈനൽ: 4 ഏപ്രിൽ 6-2019	ഓൺലൈൻ - ഫെബ്രുവരി 7 മുതൽ മാർച്ച് 15 വരെ; ഓഫ്‌ലൈൻ - മാർച്ച് 30 മുതൽ ഏപ്രിൽ 1 വരെ.
ലാർജ് ഹാഡ്രോൺ കൊളൈഡറിലെ (പഥം, ആക്കം, മറ്റ് സങ്കീർണ്ണമായ ഭൗതിക പാരാമീറ്ററുകൾ) ഒരു കണത്തെക്കുറിച്ചുള്ള ഒരു നിശ്ചിത സെറ്റ് ഡാറ്റ ഉപയോഗിച്ച്, അത് ഒരു മ്യൂൺ ആണോ അല്ലയോ എന്ന് നിർണ്ണയിക്കുക ഈ പ്രസ്താവനയിൽ നിന്ന്, 2 ജോലികൾ തിരിച്ചറിഞ്ഞു: - ഒന്നിൽ നിങ്ങളുടെ പ്രവചനം അയയ്‌ക്കേണ്ടി വന്നു, - കൂടാതെ മറ്റൊന്നിൽ - പ്രവചനത്തിനായുള്ള സമ്പൂർണ്ണ കോഡും മോഡലും, കൂടാതെ നിർവ്വഹണം സമയവും മെമ്മറി ഉപയോഗവും സംബന്ധിച്ച് കർശനമായ നിയന്ത്രണങ്ങൾക്ക് വിധേയമായിരുന്നു.	എസ്എൻഎ ഹാക്കത്തോൺ മത്സരത്തിനായി, 2018 ഫെബ്രുവരി-മാർച്ച് മാസങ്ങളിലെ യൂസർ ന്യൂസ് ഫീഡുകളിലെ ഓപ്പൺ ഗ്രൂപ്പുകളിൽ നിന്നുള്ള ഉള്ളടക്ക പ്രദർശനങ്ങളുടെ ലോഗുകൾ ശേഖരിച്ചു. ടെസ്റ്റ് സെറ്റിൽ മാർച്ച് അവസാന ആഴ്ച ഒന്നര ആഴ്ച അടങ്ങിയിരിക്കുന്നു. ലോഗിലെ ഓരോ എൻട്രിയിലും എന്താണ് കാണിച്ചത്, ആരോട്, കൂടാതെ ഈ ഉള്ളടക്കത്തോട് ഉപയോക്താവ് എങ്ങനെ പ്രതികരിച്ചു എന്നതിനെക്കുറിച്ചുള്ള വിവരങ്ങൾ അടങ്ങിയിരിക്കുന്നു: ഇത് റേറ്റുചെയ്‌തു, അഭിപ്രായമിട്ടു, അവഗണിച്ചു, അല്ലെങ്കിൽ ഫീഡിൽ നിന്ന് മറച്ചു. സോഷ്യൽ നെറ്റ്‌വർക്കിലെ ഒഡ്‌നോക്ലാസ്‌നിക്കിയുടെ ഓരോ ഉപയോക്താവിനും അവന്റെ ഫീഡ് റാങ്ക് ചെയ്യുക, “ക്ലാസ്” ലഭിക്കുന്ന പോസ്റ്റുകൾ കഴിയുന്നത്ര ഉയർത്തുക എന്നതാണ് എസ്‌എൻ‌എ ഹാക്കത്തണിന്റെ ചുമതലകളുടെ സാരം. ഓൺലൈൻ ഘട്ടത്തിൽ, ചുമതല 3 ഭാഗങ്ങളായി തിരിച്ചിരിക്കുന്നു: 1. വിവിധ സഹകരണ സ്വഭാവങ്ങൾ അനുസരിച്ച് റാങ്ക് പോസ്റ്റുകൾ 2. പോസ്റ്റുകൾ അവയിൽ അടങ്ങിയിരിക്കുന്ന ചിത്രങ്ങളെ അടിസ്ഥാനമാക്കി റാങ്ക് ചെയ്യുക 3. പോസ്റ്റുകൾ ഉൾക്കൊള്ളുന്ന വാചകം അനുസരിച്ച് റാങ്ക് ചെയ്യുക
സങ്കീർണ്ണമായ ഇഷ്‌ടാനുസൃത മെട്രിക്, ROC-AUC പോലെയുള്ള ഒന്ന്	ഉപയോക്താവ് മുഖേനയുള്ള ശരാശരി ROC-AUC
ഒന്നാം ഘട്ടത്തിനായുള്ള സമ്മാനങ്ങൾ - N സ്ഥാനങ്ങൾക്കുള്ള ടി-ഷർട്ടുകൾ, രണ്ടാം ഘട്ടത്തിലേക്കുള്ള പാസേജ്, അവിടെ മത്സര സമയത്ത് താമസവും ഭക്ഷണവും നൽകി. രണ്ടാം ഘട്ടം - ??? (ചില കാരണങ്ങളാൽ, അവാർഡ് ദാന ചടങ്ങിൽ ഞാൻ പങ്കെടുത്തില്ല, ഒടുവിൽ സമ്മാനങ്ങൾ എന്താണെന്ന് കണ്ടെത്താൻ കഴിഞ്ഞില്ല). വിജയിക്കുന്ന ടീമിലെ എല്ലാ അംഗങ്ങൾക്കും അവർ ലാപ്‌ടോപ്പുകൾ വാഗ്ദാനം ചെയ്തു	ആദ്യ ഘട്ടത്തിനുള്ള സമ്മാനങ്ങൾ - 100 മികച്ച പങ്കാളികൾക്കുള്ള ടി-ഷർട്ടുകൾ, രണ്ടാം ഘട്ടത്തിലേക്കുള്ള പാസേജ്, അവിടെ മോസ്കോയിലേക്കുള്ള യാത്ര, മത്സര സമയത്ത് താമസം, ഭക്ഷണം എന്നിവ നൽകി. കൂടാതെ, ആദ്യ ഘട്ടത്തിന്റെ അവസാനത്തിൽ, സ്റ്റേജ് 3-ൽ 1 ടാസ്‌ക്കുകളിലെ മികച്ചവർക്ക് സമ്മാനങ്ങൾ പ്രഖ്യാപിച്ചു: എല്ലാവർക്കും RTX 2080 TI വീഡിയോ കാർഡ് ലഭിച്ചു! രണ്ടാം ഘട്ടം ഒരു ടീം സ്റ്റേജായിരുന്നു, ടീമുകളിൽ 2 മുതൽ 5 വരെ ആളുകൾ, സമ്മാനങ്ങൾ: ഒന്നാം സ്ഥാനം - 1 റൂബിൾസ് ഒന്നാം സ്ഥാനം - 2 റൂബിൾസ് ഒന്നാം സ്ഥാനം - 3 റൂബിൾസ് ജൂറി സമ്മാനം - 100 റൂബിൾസ്
ഔദ്യോഗിക ടെലിഗ്രാം ഗ്രൂപ്പ്, ~190 പങ്കാളികൾ, ഇംഗ്ലീഷിൽ ആശയവിനിമയം, ചോദ്യങ്ങൾക്ക് ഉത്തരത്തിനായി ദിവസങ്ങൾ കാത്തിരിക്കേണ്ടി വന്നു	ടെലിഗ്രാമിലെ ഔദ്യോഗിക ഗ്രൂപ്പ്, ~1500 പങ്കാളികൾ, പങ്കെടുക്കുന്നവരും സംഘാടകരും തമ്മിലുള്ള ടാസ്ക്കുകളുടെ സജീവ ചർച്ച
ലളിതവും നൂതനവുമായ രണ്ട് അടിസ്ഥാന പരിഹാരങ്ങൾ സംഘാടകർ നൽകി. ലളിതത്തിന് 16 GB-ൽ താഴെ റാം ആവശ്യമാണ്, കൂടാതെ വിപുലമായ മെമ്മറി 16-ലേക്ക് യോജിക്കുന്നില്ല. അതേ സമയം, അൽപ്പം മുന്നോട്ട് നോക്കുമ്പോൾ, വിപുലമായ പരിഹാരത്തെ ഗണ്യമായി മറികടക്കാൻ പങ്കാളികൾക്ക് കഴിഞ്ഞില്ല. ഈ പരിഹാരങ്ങൾ സമാരംഭിക്കുന്നതിൽ ബുദ്ധിമുട്ടുകളൊന്നും ഉണ്ടായിരുന്നില്ല. വിപുലമായ ഉദാഹരണത്തിൽ, പരിഹാരം മെച്ചപ്പെടുത്താൻ എവിടെ തുടങ്ങണം എന്നതിനെക്കുറിച്ചുള്ള ഒരു സൂചനയുള്ള ഒരു കമന്റ് ഉണ്ടായിരുന്നു എന്നത് ശ്രദ്ധിക്കേണ്ടതാണ്.	ഓരോ ടാസ്ക്കുകൾക്കും അടിസ്ഥാന പ്രാകൃത പരിഹാരങ്ങൾ നൽകിയിട്ടുണ്ട്, അവ പങ്കാളികൾക്ക് എളുപ്പത്തിൽ മറികടക്കാൻ കഴിയും. മത്സരത്തിന്റെ ആദ്യ ദിവസങ്ങളിൽ, പങ്കെടുക്കുന്നവർക്ക് നിരവധി ബുദ്ധിമുട്ടുകൾ നേരിട്ടു: ഒന്നാമതായി, ഡാറ്റ അപ്പാച്ചെ പാർക്ക്വെറ്റ് ഫോർമാറ്റിലാണ് നൽകിയത്, കൂടാതെ പൈത്തണിന്റെയും പാർക്ക്വെറ്റ് പാക്കേജിന്റെയും എല്ലാ കോമ്പിനേഷനുകളും പിശകുകളില്ലാതെ പ്രവർത്തിച്ചില്ല. മെയിൽ ക്ലൗഡിൽ നിന്ന് ചിത്രങ്ങൾ ഡൗൺലോഡ് ചെയ്യുന്നതാണ് രണ്ടാമത്തെ ബുദ്ധിമുട്ട്; ഇപ്പോൾ വലിയ അളവിൽ ഡാറ്റ ഒരേസമയം ഡൗൺലോഡ് ചെയ്യാൻ എളുപ്പവഴിയില്ല. തൽഫലമായി, ഈ പ്രശ്നങ്ങൾ പങ്കെടുക്കുന്നവരെ കുറച്ച് ദിവസത്തേക്ക് വൈകിപ്പിച്ചു.

IDAO. ആദ്യ ഘട്ടം

മ്യൂൺ/മ്യൂൺ ഇതര കണങ്ങളെ അവയുടെ സ്വഭാവമനുസരിച്ച് തരംതിരിക്കുക എന്നതായിരുന്നു ചുമതല. ഈ ടാസ്‌ക്കിന്റെ പ്രധാന സവിശേഷത പരിശീലന ഡാറ്റയിലെ ഒരു വെയ്റ്റ് കോളത്തിന്റെ സാന്നിധ്യമായിരുന്നു, ഈ വരിയുടെ ഉത്തരത്തിൽ സംഘാടകർ തന്നെ ആത്മവിശ്വാസമായി വ്യാഖ്യാനിച്ചു. കുറച്ച് വരികളിൽ നെഗറ്റീവ് വെയ്‌റ്റുകൾ അടങ്ങിയിരിക്കുന്നു എന്നതാണ് പ്രശ്നം.

സൂചനയുള്ള ലൈനിനെക്കുറിച്ച് കുറച്ച് മിനിറ്റ് ചിന്തിച്ച ശേഷം (സൂചന ഭാരം നിരയുടെ ഈ സവിശേഷതയിലേക്ക് ശ്രദ്ധ ആകർഷിച്ചു) ഈ ഗ്രാഫ് നിർമ്മിച്ച ശേഷം, ഞങ്ങൾ 3 ഓപ്ഷനുകൾ പരിശോധിക്കാൻ തീരുമാനിച്ചു:

1) നെഗറ്റീവ് വെയ്റ്റുകളുള്ള ലൈനുകളുടെ ടാർഗെറ്റ് വിപരീതമാക്കുക (അതനുസരിച്ചുള്ള ഭാരം)
2) ഭാരം കുറഞ്ഞ മൂല്യത്തിലേക്ക് മാറ്റുക, അങ്ങനെ അവ 0 മുതൽ ആരംഭിക്കുന്നു
3) സ്ട്രിംഗ് വെയ്റ്റുകൾ ഉപയോഗിക്കരുത്

മൂന്നാമത്തെ ഓപ്ഷൻ ഏറ്റവും മോശം ആയി മാറി, എന്നാൽ ആദ്യ രണ്ടെണ്ണം ഫലം മെച്ചപ്പെടുത്തി, ഏറ്റവും മികച്ചത് ഓപ്ഷൻ നമ്പർ 1 ആയിരുന്നു, അത് ഉടൻ തന്നെ ഞങ്ങളെ ആദ്യ ടാസ്ക്കിൽ നിലവിലെ രണ്ടാം സ്ഥാനത്തും രണ്ടാമത്തേതിൽ ഒന്നാമതാക്കി.

നഷ്‌ടമായ മൂല്യങ്ങൾക്കായുള്ള ഡാറ്റ അവലോകനം ചെയ്യുക എന്നതായിരുന്നു ഞങ്ങളുടെ അടുത്ത ഘട്ടം. സംഘാടകർ ഞങ്ങൾക്ക് ഇതിനകം കോമ്പഡ് ഡാറ്റ നൽകി, അവിടെ കുറച്ച് നഷ്‌ടമായ മൂല്യങ്ങൾ ഉണ്ടായിരുന്നു, അവയ്ക്ക് പകരം -9999 നൽകി.

MatchedHit_{X,Y,Z}[N], MatchedHit_D{X,Y,Z}[N] എന്നീ നിരകളിൽ ഞങ്ങൾ നഷ്‌ടമായ മൂല്യങ്ങൾ കണ്ടെത്തി, കൂടാതെ N=2 അല്ലെങ്കിൽ 3 ആയിരിക്കുമ്പോൾ മാത്രം. ഞങ്ങൾ മനസ്സിലാക്കുന്നതുപോലെ, ചില കണങ്ങൾ ഇല്ല എല്ലാ 4 ഡിറ്റക്ടറുകളും കടന്ന് 3-ാമത്തെയോ നാലാമത്തെയോ പ്ലേറ്റിൽ നിർത്തി. ഡാറ്റയിൽ Lextra_{X,Y}[N] കോളങ്ങളും അടങ്ങിയിരിക്കുന്നു, അത് MatchedHit_{X,Y,Z}[N] പോലെ തന്നെ വിവരിക്കുന്നു, എന്നാൽ ചില തരത്തിലുള്ള എക്സ്ട്രാപോളേഷൻ ഉപയോഗിക്കുന്നു. ഈ തുച്ഛമായ ഊഹങ്ങൾ, MatchedHit_{X,Y,Z}[N] (X, Y കോർഡിനേറ്റുകൾക്ക് മാത്രം) വിട്ടുപോയ മൂല്യങ്ങൾക്ക് പകരം Lextra_{X,Y}[N] നൽകാമെന്ന് നിർദ്ദേശിച്ചു. MatchedHit_Z[N] മീഡിയനിൽ നന്നായി നിറഞ്ഞു. ഈ കൃത്രിമത്വങ്ങൾ രണ്ട് ടാസ്ക്കുകളിലും 4st ഇന്റർമീഡിയറ്റ് സ്ഥലത്ത് എത്താൻ ഞങ്ങളെ അനുവദിച്ചു.

ആദ്യ ഘട്ടത്തിൽ വിജയിച്ചതിന് അവർ ഒന്നും നൽകിയില്ല എന്നത് കണക്കിലെടുത്ത്, ഞങ്ങൾക്ക് അവിടെ നിർത്താമായിരുന്നു, പക്ഷേ ഞങ്ങൾ തുടർന്നു, കുറച്ച് മനോഹരമായ ചിത്രങ്ങൾ വരച്ചു, പുതിയ സവിശേഷതകൾ കൊണ്ടുവന്നു.

ഉദാഹരണത്തിന്, ഒരു കണത്തിന്റെ വിഭജന പോയിന്റുകൾ ഓരോന്നിനും നാല് ഡിറ്റക്ടർ പ്ലേറ്റുമായി പ്ലോട്ട് ചെയ്താൽ, ഓരോ പ്ലേറ്റിലെയും പോയിന്റുകൾ 5 മുതൽ 4 വരെ വീക്ഷണാനുപാതം ഉള്ള 5 ദീർഘചതുരങ്ങളായി തരംതിരിക്കുകയും കേന്ദ്രീകരിക്കുകയും ചെയ്യുന്നത് നമുക്ക് കാണാൻ കഴിയും. പോയിന്റ് (0,0), കൂടാതെ ആദ്യത്തെ ദീർഘചതുരത്തിൽ പോയിന്റുകളൊന്നുമില്ല.

പ്ലേറ്റ് നമ്പർ / ദീർഘചതുരം അളവുകൾ	1	2	3	4	5
പ്ലേറ്റ് 1	500XXX	1000XXX	2000XXX	4000XXX	8000XXX
പ്ലേറ്റ് 2	520XXX	1040XXX	2080XXX	4160XXX	8320XXX
പ്ലേറ്റ് 3	560XXX	1120XXX	2240XXX	4480XXX	8960XXX
പ്ലേറ്റ് 4	600XXX	1200XXX	2400XXX	4800XXX	9600XXX

ഈ അളവുകൾ നിർണ്ണയിച്ച ശേഷം, ഓരോ കണത്തിനും ഞങ്ങൾ 4 പുതിയ തരം സവിശേഷതകൾ ചേർത്തു - ഓരോ പ്ലേറ്റിനെയും വിഭജിക്കുന്ന ദീർഘചതുരത്തിന്റെ എണ്ണം.

കണങ്ങൾ മധ്യഭാഗത്ത് നിന്ന് വശങ്ങളിലേക്ക് ചിതറുന്നതായി ഞങ്ങൾ ശ്രദ്ധിച്ചു, ഈ ചിതറിക്കിടക്കലിന്റെ "ഗുണനിലവാരം" എങ്ങനെയെങ്കിലും വിലയിരുത്താനുള്ള ആശയം ഉയർന്നു. എബൌട്ട്, ടേക്ക് ഓഫ് പോയിന്റിനെ ആശ്രയിച്ച് ഏതെങ്കിലും തരത്തിലുള്ള "അനുയോജ്യമായ" പരാബോളയുമായി വരാനും അതിൽ നിന്നുള്ള വ്യതിയാനം കണക്കാക്കാനും സാധ്യതയുണ്ട്, പക്ഷേ ഞങ്ങൾ സ്വയം "അനുയോജ്യമായ" നേർരേഖയിലേക്ക് പരിമിതപ്പെടുത്തി. പ്രവേശനത്തിന്റെ ഓരോ പോയിന്റിനും അത്തരം അനുയോജ്യമായ നേർരേഖകൾ നിർമ്മിച്ചതിനാൽ, ഈ നേർരേഖയിൽ നിന്ന് ഓരോ കണത്തിന്റെയും പാതയുടെ സ്റ്റാൻഡേർഡ് ഡീവിയേഷൻ കണക്കാക്കാൻ ഞങ്ങൾക്ക് കഴിഞ്ഞു. ടാർഗെറ്റ് = 1 എന്നതിന്റെ ശരാശരി വ്യതിയാനം 152 ആയതിനാൽ, ടാർഗെറ്റ് = 0 ന് അത് 390 ആയതിനാൽ, ഞങ്ങൾ ഈ സവിശേഷത നല്ലതാണെന്ന് താൽക്കാലികമായി വിലയിരുത്തി. തീർച്ചയായും, ഈ സവിശേഷത ഉടൻ തന്നെ ഏറ്റവും ഉപയോഗപ്രദമായവയുടെ മുകളിൽ എത്തിച്ചു.

ഞങ്ങൾ ആഹ്ലാദഭരിതരായി, ഓരോ കണികയ്ക്കും അനുയോജ്യമായ നേർരേഖയിൽ നിന്നുള്ള എല്ലാ 4 ഇന്റർസെക്ഷൻ പോയിന്റുകളുടെയും വ്യതിചലനം ഒരു അധിക 4 സവിശേഷതകളായി ചേർത്തു (അവയും നന്നായി പ്രവർത്തിച്ചു).

മത്സരത്തിന്റെ വിഷയത്തെക്കുറിച്ചുള്ള ശാസ്ത്രീയ ലേഖനങ്ങളിലേക്കുള്ള ലിങ്കുകൾ, സംഘാടകർ ഞങ്ങൾക്ക് നൽകിയത്, ഈ പ്രശ്നം പരിഹരിക്കുന്നതിൽ ഞങ്ങൾ ആദ്യത്തേതിൽ നിന്ന് വളരെ അകലെയാണെന്ന ആശയം പ്രേരിപ്പിച്ചു, ഒരുപക്ഷേ, ചില പ്രത്യേക സോഫ്റ്റ്വെയർ ഉണ്ട്. IsMuonSimple, IsMuon, IsMuonLoose എന്നീ രീതികൾ നടപ്പിലാക്കിയ ഗിത്തബിൽ ഒരു ശേഖരം കണ്ടെത്തിയതിനാൽ, ചെറിയ പരിഷ്കാരങ്ങളോടെ ഞങ്ങൾ അവ ഞങ്ങളുടെ സൈറ്റിലേക്ക് മാറ്റി. രീതികൾ തന്നെ വളരെ ലളിതമായിരുന്നു: ഉദാഹരണത്തിന്, ഊർജ്ജം ഒരു നിശ്ചിത പരിധിയേക്കാൾ കുറവാണെങ്കിൽ, അത് ഒരു മ്യൂൺ അല്ല, അല്ലാത്തപക്ഷം അത് ഒരു മ്യൂൺ ആണ്. അത്തരം ലളിതമായ സവിശേഷതകൾക്ക് ഗ്രേഡിയന്റ് ബൂസ്റ്റിംഗ് ഉപയോഗിക്കുന്നതിന്റെ കാര്യത്തിൽ വർദ്ധനവ് നൽകാൻ കഴിയില്ല, അതിനാൽ ഞങ്ങൾ പരിധിയിലേക്ക് മറ്റൊരു പ്രധാന "ദൂരം" ചേർത്തു. ഈ സവിശേഷതകളും ചെറുതായി മെച്ചപ്പെടുത്തിയിട്ടുണ്ട്. ഒരുപക്ഷേ, നിലവിലുള്ള രീതികൾ കൂടുതൽ വിശദമായി വിശകലനം ചെയ്യുന്നതിലൂടെ, ശക്തമായ രീതികൾ കണ്ടെത്താനും അവയെ അടയാളങ്ങളിൽ ചേർക്കാനും സാധിച്ചു.

മത്സരത്തിന്റെ അവസാനത്തിൽ, രണ്ടാമത്തെ പ്രശ്നത്തിനുള്ള "ദ്രുത" പരിഹാരം ഞങ്ങൾ ചെറുതായി ട്വീക്ക് ചെയ്തു; അവസാനം, താഴെപ്പറയുന്ന പോയിന്റുകളിൽ ഇത് അടിസ്ഥാനരേഖയിൽ നിന്ന് വ്യത്യസ്തമായി:

1. നെഗറ്റീവ് ഭാരമുള്ള വരികളിൽ ലക്ഷ്യം വിപരീതമായി
2. MatchedHit_{X,Y,Z}[N] എന്നതിൽ വിട്ടുപോയ മൂല്യങ്ങൾ പൂരിപ്പിച്ചു
3. ആഴം 7 ആയി കുറച്ചു
4. പഠന നിരക്ക് 0.1 ആയി കുറച്ചു (0.19 ആയിരുന്നു)

തൽഫലമായി, ഞങ്ങൾ കൂടുതൽ സവിശേഷതകൾ പരീക്ഷിച്ചു (വളരെ വിജയകരമല്ല), തിരഞ്ഞെടുത്ത പാരാമീറ്ററുകളും പരിശീലനം ലഭിച്ച ക്യാറ്റ്‌ബൂസ്റ്റും, lightgbm, xgboost, പ്രവചനങ്ങളുടെ വ്യത്യസ്ത മിശ്രിതങ്ങൾ പരീക്ഷിച്ചു, സ്വകാര്യം തുറക്കുന്നതിന് മുമ്പ് രണ്ടാമത്തെ ടാസ്‌ക്കിൽ ഞങ്ങൾ ആത്മവിശ്വാസത്തോടെ വിജയിച്ചു, ആദ്യത്തേതിൽ ഞങ്ങൾ ഇടം നേടി. നേതാക്കൾ.

പ്രൈവറ്റ് ഓപ്പൺ ചെയ്തതിന് ശേഷം ഞങ്ങൾ 10st ടാസ്‌ക്കിന് 1-ആം സ്ഥാനത്തും രണ്ടാമത്തേതിന് 3-ഉം ആയിരുന്നു. എല്ലാ നേതാക്കളും ഇടകലർന്നു, സ്വകാര്യതയിലെ വേഗത ലിബ്ബോർഡിനേക്കാൾ കൂടുതലായിരുന്നു. ഡാറ്റ മോശമായി തരംതിരിച്ചതായി തോന്നുന്നു (അല്ലെങ്കിൽ സ്വകാര്യതയിൽ നെഗറ്റീവ് വെയ്റ്റുകളുള്ള വരികളൊന്നും ഉണ്ടായിരുന്നില്ല) ഇത് അൽപ്പം നിരാശാജനകമായിരുന്നു.

SNA ഹാക്കത്തോൺ 2019 - ടെക്‌സ്‌റ്റുകൾ. ആദ്യ ഘട്ടം

Odnoklassniki സോഷ്യൽ നെറ്റ്‌വർക്കിലെ ഉപയോക്തൃ പോസ്റ്റുകൾ അവയിൽ അടങ്ങിയിരിക്കുന്ന വാചകത്തെ അടിസ്ഥാനമാക്കി റാങ്ക് ചെയ്യുക എന്നതായിരുന്നു ചുമതല; വാചകത്തിന് പുറമേ, പോസ്റ്റിന്റെ കുറച്ച് സവിശേഷതകൾ കൂടി (ഭാഷ, ഉടമ, സൃഷ്ടിച്ച തീയതിയും സമയവും, കണ്ട തീയതിയും സമയവും) ഉണ്ടായിരുന്നു. ).

ടെക്സ്റ്റുമായി പ്രവർത്തിക്കുന്നതിനുള്ള ക്ലാസിക്കൽ സമീപനമെന്ന നിലയിൽ, ഞാൻ രണ്ട് ഓപ്ഷനുകൾ ഹൈലൈറ്റ് ചെയ്യും:

1. ഓരോ വാക്കും ഒരു എൻ-ഡൈമൻഷണൽ വെക്റ്റർ സ്‌പെയ്‌സിലേക്ക് മാപ്പ് ചെയ്യുന്നു, അതായത് സമാന വാക്കുകൾക്ക് സമാനമായ വെക്‌ടറുകൾ ഉണ്ട് (കൂടുതൽ വായിക്കുക ഞങ്ങളുടെ ലേഖനം), തുടർന്ന് വാചകത്തിനായുള്ള ശരാശരി വാക്ക് കണ്ടെത്തുകയോ അല്ലെങ്കിൽ വാക്കുകളുടെ ആപേക്ഷിക സ്ഥാനം (CNN, LSTM/GRU) കണക്കിലെടുക്കുന്ന മെക്കാനിസങ്ങൾ ഉപയോഗിക്കുകയോ ചെയ്യുക.
2. മുഴുവൻ വാക്യങ്ങളിലും ഉടനടി പ്രവർത്തിക്കാൻ കഴിയുന്ന മോഡലുകൾ ഉപയോഗിക്കുന്നു. ഉദാഹരണത്തിന്, ബെർട്ട്. സിദ്ധാന്തത്തിൽ, ഈ സമീപനം മികച്ച രീതിയിൽ പ്രവർത്തിക്കണം.

ഇത് ടെക്‌സ്‌റ്റുകളുമായുള്ള എന്റെ ആദ്യ അനുഭവമായതിനാൽ, ആരെയെങ്കിലും പഠിപ്പിക്കുന്നത് തെറ്റാണ്, അതിനാൽ ഞാൻ സ്വയം പഠിപ്പിക്കും. മത്സരത്തിന്റെ തുടക്കത്തിൽ ഞാൻ നൽകുന്ന നുറുങ്ങുകൾ ഇവയാണ്:

1. എന്തെങ്കിലും പഠിപ്പിക്കാൻ ഓടുന്നതിന് മുമ്പ്, ഡാറ്റ നോക്കുക! ടെക്‌സ്‌റ്റിന് പുറമേ, ഡാറ്റയ്ക്ക് നിരവധി നിരകൾ ഉണ്ടായിരുന്നു, മാത്രമല്ല അവയിൽ നിന്ന് ഞാൻ ചെയ്തതിനേക്കാൾ കൂടുതൽ ചൂഷണം ചെയ്യാൻ സാധിച്ചു. ചില നിരകൾക്കായി ടാർഗെറ്റ് എൻകോഡിംഗ് ചെയ്യുക എന്നതാണ് ഏറ്റവും ലളിതമായ കാര്യം.
2. എല്ലാ ഡാറ്റയിൽ നിന്നും പഠിക്കരുത്! ധാരാളം ഡാറ്റ ഉണ്ടായിരുന്നു (ഏകദേശം 17 ദശലക്ഷം വരികൾ) കൂടാതെ അനുമാനങ്ങൾ പരീക്ഷിക്കാൻ അവയെല്ലാം ഉപയോഗിക്കേണ്ട ആവശ്യമില്ല. പരിശീലനവും പ്രീപ്രോസസിംഗും വളരെ മന്ദഗതിയിലായിരുന്നു, കൂടുതൽ രസകരമായ അനുമാനങ്ങൾ പരീക്ഷിക്കാൻ എനിക്ക് സമയമുണ്ടാകുമായിരുന്നു.
3. <വിവാദ ഉപദേശം> കൊലയാളി മോഡലിനെ അന്വേഷിക്കേണ്ടതില്ല. എൽമോയെയും ബെർട്ടിനെയും കണ്ടുപിടിക്കാൻ ഞാൻ വളരെക്കാലം ചെലവഴിച്ചു, അവർ എന്നെ ഉടൻ തന്നെ ഉയർന്ന സ്ഥലത്തേക്ക് കൊണ്ടുപോകുമെന്ന് പ്രതീക്ഷിച്ചു, അതിന്റെ ഫലമായി ഞാൻ റഷ്യൻ ഭാഷയ്‌ക്കായി ഫാസ്റ്റ്‌ടെക്‌സ്റ്റ് പ്രീ-ട്രെയിൻഡ് എംബെഡിംഗുകൾ ഉപയോഗിച്ചു. എൽമോയിലൂടെ എനിക്ക് മികച്ച വേഗത കൈവരിക്കാൻ കഴിഞ്ഞില്ല, ബെർട്ടുമായി അത് മനസ്സിലാക്കാൻ എനിക്ക് ഇപ്പോഴും സമയമില്ല.
4. <വിവാദ ഉപദേശം> ഒരു കൊലയാളി ഫീച്ചർ നോക്കേണ്ടതില്ല. ഡാറ്റ നോക്കുമ്പോൾ, ഏകദേശം 1 ശതമാനം ടെക്‌സ്‌റ്റുകളിൽ യഥാർത്ഥത്തിൽ വാചകം അടങ്ങിയിട്ടില്ലെന്ന് ഞാൻ ശ്രദ്ധിച്ചു! എന്നാൽ ചില ഉറവിടങ്ങളിലേക്ക് ലിങ്കുകൾ ഉണ്ടായിരുന്നു, കൂടാതെ ഞാൻ ഒരു ലളിതമായ പാഴ്സർ എഴുതി, അത് സൈറ്റ് തുറന്ന് ശീർഷകവും വിവരണവും പുറത്തെടുത്തു. ഇത് ഒരു നല്ല ആശയമാണെന്ന് തോന്നി, പക്ഷേ പിന്നീട് ഞാൻ ആശയക്കുഴപ്പത്തിലായി, എല്ലാ ടെക്സ്റ്റുകൾക്കുമുള്ള എല്ലാ ലിങ്കുകളും പാഴ്‌സ് ചെയ്യാൻ തീരുമാനിച്ചു, വീണ്ടും ഒരുപാട് സമയം നഷ്ടപ്പെട്ടു. ഇതെല്ലാം അന്തിമ ഫലത്തിൽ കാര്യമായ പുരോഗതി നൽകിയില്ല (ഉദാഹരണത്തിന്, സ്റ്റെമ്മിംഗ് ഞാൻ കണ്ടെത്തിയെങ്കിലും).
5. ക്ലാസിക് സവിശേഷതകൾ പ്രവർത്തിക്കുന്നു. ഞങ്ങൾ ഗൂഗിൾ, ഉദാഹരണത്തിന്, "ടെക്സ്റ്റ് ഫീച്ചറുകൾ കഗ്ഗിൽ", എല്ലാം വായിച്ച് ചേർക്കുക. ടെക്സ്റ്റ് ദൈർഘ്യം, വാക്കുകൾ, വിരാമചിഹ്നത്തിന്റെ അളവ് തുടങ്ങിയ സ്റ്റാറ്റിസ്റ്റിക്കൽ ഫീച്ചറുകൾ പോലെ തന്നെ TF-IDF ഒരു മെച്ചപ്പെടുത്തൽ നൽകി.
6. DateTime നിരകൾ ഉണ്ടെങ്കിൽ, അവയെ പല പ്രത്യേക സവിശേഷതകളിലേക്ക് (മണിക്കൂറുകൾ, ആഴ്ചയിലെ ദിവസങ്ങൾ മുതലായവ) പാഴ്‌സ് ചെയ്യുന്നത് മൂല്യവത്താണ്. ഗ്രാഫുകൾ/ചില മെട്രിക്‌സ് ഉപയോഗിച്ച് ഹൈലൈറ്റ് ചെയ്യേണ്ട ഫീച്ചറുകൾ വിശകലനം ചെയ്യണം. ഇവിടെ, ഒരു ആഗ്രഹപ്രകാരം, ഞാൻ എല്ലാം ശരിയായി ചെയ്യുകയും ആവശ്യമായ സവിശേഷതകൾ ഹൈലൈറ്റ് ചെയ്യുകയും ചെയ്തു, പക്ഷേ ഒരു സാധാരണ വിശകലനം ഉപദ്രവിക്കില്ല (ഉദാഹരണത്തിന്, ഞങ്ങൾ ഫൈനലിൽ ചെയ്തതുപോലെ).

മത്സരത്തിന്റെ ഫലമായി, ഞാൻ ഒരു കേരാസ് മോഡലിനെ വേഡ് കൺവല്യൂഷൻ ഉപയോഗിച്ച് പരിശീലിപ്പിച്ചു, മറ്റൊന്ന് LSTM, GRU എന്നിവ അടിസ്ഥാനമാക്കിയുള്ളതാണ്. ഇരുവരും റഷ്യൻ ഭാഷയ്‌ക്കായി മുൻകൂട്ടി പരിശീലിപ്പിച്ച ഫാസ്റ്റ്‌ടെക്‌സ്‌റ്റ് ഉൾച്ചേർക്കലുകൾ ഉപയോഗിച്ചു (ഞാൻ മറ്റ് നിരവധി എംബെഡിംഗുകൾ പരീക്ഷിച്ചു, പക്ഷേ ഇവയാണ് മികച്ച രീതിയിൽ പ്രവർത്തിച്ചത്). പ്രവചനങ്ങൾ ശരാശരി പരിശോധിച്ച ശേഷം, പങ്കെടുത്ത 7 പേരിൽ ഞാൻ അവസാന ഏഴാം സ്ഥാനം നേടി.

ആദ്യ ഘട്ടത്തിന് ശേഷം അത് പ്രസിദ്ധീകരിച്ചു നിക്കോളായ് അനോഖിന്റെ ലേഖനം, രണ്ടാം സ്ഥാനം (അദ്ദേഹം മത്സരത്തിൽ നിന്ന് പങ്കെടുത്തു), ചില ഘട്ടങ്ങൾ വരെയുള്ള അദ്ദേഹത്തിന്റെ പരിഹാരം എന്റെ ആവർത്തിച്ചു, പക്ഷേ അന്വേഷണ-കീ-മൂല്യ ശ്രദ്ധാ സംവിധാനം കാരണം അദ്ദേഹം മുന്നോട്ട് പോയി.

രണ്ടാം ഘട്ടം OK & IDAO

മത്സരങ്ങളുടെ രണ്ടാം ഘട്ടങ്ങൾ ഏതാണ്ട് തുടർച്ചയായി നടന്നതിനാൽ അവ ഒരുമിച്ച് നോക്കാൻ ഞാൻ തീരുമാനിച്ചു.

ആദ്യം, ഞാനും പുതുതായി ഏറ്റെടുത്ത ടീമും Mail.ru കമ്പനിയുടെ ശ്രദ്ധേയമായ ഓഫീസിൽ അവസാനിച്ചു, അവിടെ ഞങ്ങളുടെ ചുമതല ആദ്യ ഘട്ടത്തിൽ നിന്ന് മൂന്ന് ട്രാക്കുകളുടെ മോഡലുകൾ - വാചകം, ചിത്രങ്ങൾ, കൊളാബ് എന്നിവ സംയോജിപ്പിക്കുക എന്നതായിരുന്നു. ഇതിനായി 2 ദിവസത്തിൽ കൂടുതൽ സമയം അനുവദിച്ചു, അത് വളരെ കുറവായി മാറി. വാസ്‌തവത്തിൽ, ലയനത്തിൽ നിന്ന് ഒരു നേട്ടവും ലഭിക്കാതെ തന്നെ ആദ്യ ഘട്ടത്തിൽ നിന്ന് ഞങ്ങളുടെ ഫലങ്ങൾ ആവർത്തിക്കാൻ മാത്രമേ ഞങ്ങൾക്ക് കഴിഞ്ഞുള്ളൂ. അവസാനം, ഞങ്ങൾ അഞ്ചാം സ്ഥാനത്തെത്തി, പക്ഷേ ഞങ്ങൾക്ക് ടെക്സ്റ്റ് മോഡൽ ഉപയോഗിക്കാൻ കഴിഞ്ഞില്ല. മറ്റ് പങ്കാളികളുടെ പരിഹാരങ്ങൾ നോക്കിയ ശേഷം, ടെക്സ്റ്റുകൾ ക്ലസ്റ്റർ ചെയ്ത് കൊളാബ് മോഡലിലേക്ക് ചേർക്കാൻ ശ്രമിക്കുന്നത് മൂല്യവത്താണെന്ന് തോന്നുന്നു. ഈ ഘട്ടത്തിന്റെ ഒരു പാർശ്വഫലം പുതിയ ഇംപ്രഷനുകളായിരുന്നു, രസകരമായ പങ്കാളികളുമായും സംഘാടകരുമായും കൂടിക്കാഴ്ച നടത്തുകയും ആശയവിനിമയം നടത്തുകയും ചെയ്യുക, ഉറക്കക്കുറവ് എന്നിവയും IDAO യുടെ അവസാന ഘട്ടത്തിന്റെ ഫലത്തെ ബാധിച്ചിരിക്കാം.

IDAO 2019 അവസാന ഘട്ടത്തിലെ ചുമതല, വിമാനത്താവളത്തിലെ Yandex ടാക്സി ഡ്രൈവർമാർക്കുള്ള ഓർഡറിനായി കാത്തിരിക്കുന്ന സമയം പ്രവചിക്കുക എന്നതായിരുന്നു. ഘട്ടം 2 ൽ, 3 ടാസ്ക്കുകൾ = 3 വിമാനത്താവളങ്ങൾ തിരിച്ചറിഞ്ഞു. ഓരോ വിമാനത്താവളത്തിനും, ആറ് മാസത്തെ ടാക്സി ഓർഡറുകളുടെ എണ്ണത്തെക്കുറിച്ചുള്ള മിനിറ്റ്-ബൈ-മിനിറ്റ് ഡാറ്റ നൽകിയിരിക്കുന്നു. ടെസ്റ്റ് ഡാറ്റ എന്ന നിലയിൽ, കഴിഞ്ഞ 2 ആഴ്‌ചയിലെ ഓർഡറുകളുടെ അടുത്ത മാസവും മിനിറ്റ്-ബൈ-മിനിറ്റ് ഡാറ്റയും നൽകി. കുറച്ച് സമയമേ ഉണ്ടായിരുന്നുള്ളൂ (1,5 ദിവസം), ടാസ്‌ക്ക് തികച്ചും നിർദ്ദിഷ്ടമായിരുന്നു, ടീമിൽ നിന്ന് ഒരാൾ മാത്രമാണ് മത്സരത്തിന് വന്നത് - അതിന്റെ ഫലമായി, അത് അവസാനത്തിലേക്കുള്ള ഒരു സങ്കടകരമായ സ്ഥലമായിരുന്നു. രസകരമായ ആശയങ്ങളിൽ ബാഹ്യ ഡാറ്റ ഉപയോഗിക്കാനുള്ള ശ്രമങ്ങൾ ഉൾപ്പെടുന്നു: കാലാവസ്ഥ, ട്രാഫിക് ജാം, Yandex ടാക്സി ഓർഡർ സ്ഥിതിവിവരക്കണക്കുകൾ. ഈ വിമാനത്താവളങ്ങൾ എന്താണെന്ന് സംഘാടകർ പറഞ്ഞില്ലെങ്കിലും, പങ്കെടുത്ത പലരും ഷെറെമെറ്റീവോ, ഡൊമോഡെഡോവോ, വ്നുക്കോവോ എന്നിവയാണെന്ന് അനുമാനിച്ചു. മത്സരത്തിന് ശേഷം ഈ അനുമാനം നിരാകരിച്ചെങ്കിലും, സവിശേഷതകൾ, ഉദാഹരണത്തിന്, മോസ്കോ കാലാവസ്ഥാ ഡാറ്റയിൽ നിന്നുള്ള മൂല്യനിർണ്ണയത്തിലും ലീഡർബോർഡിലും ഫലങ്ങൾ മെച്ചപ്പെടുത്തി.

തീരുമാനം

1. ML മത്സരങ്ങൾ രസകരവും രസകരവുമാണ്! ഡാറ്റ വിശകലനത്തിലും തന്ത്രപരമായ മോഡലുകളിലും സാങ്കേതികതകളിലും കഴിവുകളുടെ ഉപയോഗം ഇവിടെ നിങ്ങൾ കണ്ടെത്തും, സാമാന്യബുദ്ധി സ്വാഗതം ചെയ്യുന്നു.
2. ML ഇതിനകം തന്നെ വൻതോതിൽ വളരുന്നതായി തോന്നുന്ന ഒരു വലിയ അറിവാണ്. വിവിധ മേഖലകൾ (സിഗ്നലുകൾ, ചിത്രങ്ങൾ, പട്ടികകൾ, വാചകം) പരിചയപ്പെടാൻ ഞാൻ സ്വയം ഒരു ലക്ഷ്യം വെക്കുകയും പഠിക്കാൻ എത്രത്തോളം ഉണ്ടെന്ന് ഇതിനകം മനസ്സിലാക്കുകയും ചെയ്തു. ഉദാഹരണത്തിന്, ഈ മത്സരങ്ങൾക്ക് ശേഷം ഞാൻ പഠിക്കാൻ തീരുമാനിച്ചു: ക്ലസ്റ്ററിംഗ് അൽഗോരിതങ്ങൾ, ഗ്രേഡിയന്റ് ബൂസ്റ്റിംഗ് ലൈബ്രറികളിൽ പ്രവർത്തിക്കുന്നതിനുള്ള നൂതന സാങ്കേതിക വിദ്യകൾ (പ്രത്യേകിച്ച്, ജിപിയുവിൽ CatBoost ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്നു), ക്യാപ്‌സ്യൂൾ നെറ്റ്‌വർക്കുകൾ, അന്വേഷണ-കീ-മൂല്യ ശ്രദ്ധാ സംവിധാനം.
3. കാഗിൾ കൊണ്ട് മാത്രം അല്ല! ഒരു ടി-ഷർട്ടെങ്കിലും ലഭിക്കാൻ എളുപ്പമുള്ള മറ്റ് നിരവധി മത്സരങ്ങളുണ്ട്, കൂടാതെ മറ്റ് സമ്മാനങ്ങൾക്ക് കൂടുതൽ അവസരങ്ങളുണ്ട്.
4. ആശയവിനിമയം നടത്തുക! മെഷീൻ ലേണിംഗ്, ഡാറ്റാ വിശകലനം എന്നീ മേഖലകളിൽ ഇതിനകം തന്നെ ഒരു വലിയ കമ്മ്യൂണിറ്റി ഉണ്ട്, Mail.ru, Yandex, മറ്റ് കമ്പനികൾ എന്നിവയിൽ നിന്നുള്ള ടെലിഗ്രാം, സ്ലാക്ക്, ഗുരുതരമായ ആളുകൾ എന്നിവയിൽ തീമാറ്റിക് ഗ്രൂപ്പുകൾ ഉണ്ട്, ചോദ്യങ്ങൾക്ക് ഉത്തരം നൽകുകയും തുടക്കക്കാരെയും ഈ മേഖലയിൽ അവരുടെ പാത തുടരുന്നവരെയും സഹായിക്കുകയും ചെയ്യുന്നു. അറിവിന്റെ.
5. മുമ്പത്തെ പോയിന്റിൽ നിന്ന് പ്രചോദനം ഉൾക്കൊണ്ട എല്ലാവരേയും സന്ദർശിക്കാൻ ഞാൻ ഉപദേശിക്കുന്നു ഡാറ്റഫെസ്റ്റ് - മോസ്കോയിൽ ഒരു പ്രധാന സ്വതന്ത്ര സമ്മേളനം, അത് മെയ് 10-11 തീയതികളിൽ നടക്കും.

അവലംബം: www.habr.com