2019 ഫെബ്രുവരി-മാർച്ച് മാസങ്ങളിൽ സോഷ്യൽ നെറ്റ്‌വർക്ക് ഫീഡ് റാങ്ക് ചെയ്യുന്നതിനുള്ള ഒരു മത്സരം നടന്നു SNA ഹാക്കത്തോൺ 2019, അതിൽ ഞങ്ങളുടെ ടീം ഒന്നാം സ്ഥാനം നേടി. ലേഖനത്തിൽ ഞാൻ മത്സരത്തിന്റെ ഓർഗനൈസേഷൻ, ഞങ്ങൾ പരീക്ഷിച്ച രീതികൾ, വലിയ ഡാറ്റയിൽ പരിശീലനത്തിനുള്ള ക്യാറ്റ്ബൂസ്റ്റ് ക്രമീകരണങ്ങൾ എന്നിവയെക്കുറിച്ച് സംസാരിക്കും.

എസ്എൻഎ ഹാക്കത്തോൺ

ഇത് മൂന്നാം തവണയാണ് ഈ പേരിൽ ഒരു ഹാക്കത്തോൺ നടക്കുന്നത്. ഇത് യഥാക്രമം സോഷ്യൽ നെറ്റ്‌വർക്ക് ok.ru ആണ് സംഘടിപ്പിക്കുന്നത്, ചുമതലയും ഡാറ്റയും ഈ സോഷ്യൽ നെറ്റ്‌വർക്കുമായി നേരിട്ട് ബന്ധപ്പെട്ടിരിക്കുന്നു.
ഈ സാഹചര്യത്തിൽ SNA (സോഷ്യൽ നെറ്റ്‌വർക്ക് വിശകലനം) ഒരു സോഷ്യൽ ഗ്രാഫിന്റെ വിശകലനമായിട്ടല്ല, മറിച്ച് ഒരു സോഷ്യൽ നെറ്റ്‌വർക്കിന്റെ വിശകലനമായാണ് കൂടുതൽ ശരിയായി മനസ്സിലാക്കുന്നത്.

• 2014ൽ, ഒരു പോസ്റ്റിന് എത്ര ലൈക്കുകൾ ലഭിക്കുമെന്ന് പ്രവചിക്കുക എന്നതായിരുന്നു ചുമതല.
• 2016 ൽ - VVZ ടാസ്ക് (ഒരുപക്ഷേ നിങ്ങൾക്ക് പരിചിതമായിരിക്കാം), സോഷ്യൽ ഗ്രാഫിന്റെ വിശകലനത്തോട് അടുത്ത്.
• 2019-ൽ, ഉപയോക്താവ് പോസ്റ്റ് ലൈക്ക് ചെയ്യാനുള്ള സാധ്യതയെ അടിസ്ഥാനമാക്കി ഉപയോക്താവിന്റെ ഫീഡ് റാങ്ക് ചെയ്യുന്നു.

2014-നെ കുറിച്ച് എനിക്ക് പറയാനാവില്ല, എന്നാൽ 2016-ലും 2019-ലും ഡാറ്റ വിശകലന കഴിവുകൾക്ക് പുറമേ, വലിയ ഡാറ്റയുമായി പ്രവർത്തിക്കാനുള്ള കഴിവുകളും ആവശ്യമാണ്. മെഷീൻ ലേണിംഗും വലിയ ഡാറ്റാ പ്രോസസ്സിംഗ് പ്രശ്നങ്ങളും ചേർന്നതാണ് എന്നെ ഈ മത്സരങ്ങളിലേക്ക് ആകർഷിച്ചതെന്ന് ഞാൻ കരുതുന്നു, ഈ മേഖലകളിലെ എന്റെ അനുഭവം എന്നെ വിജയിക്കാൻ സഹായിച്ചു.

mlbootcamp

2019-ൽ പ്ലാറ്റ്‌ഫോമിൽ മത്സരം സംഘടിപ്പിച്ചു https://mlbootcamp.ru.

ഫെബ്രുവരി 7 ന് ഓൺലൈനിൽ ആരംഭിച്ച മത്സരം 3 ടാസ്‌ക്കുകൾ ഉൾക്കൊള്ളുന്നു. ആർക്കും സൈറ്റിൽ രജിസ്റ്റർ ചെയ്യാം, ഡൗൺലോഡ് ചെയ്യാം അടിസ്ഥാനം കുറച്ച് മണിക്കൂറുകളോളം നിങ്ങളുടെ കാർ ലോഡ് ചെയ്യുക. മാർച്ച് 15 ന് ഓൺലൈൻ സ്റ്റേജിന്റെ അവസാനത്തിൽ, ഓരോ ഷോ ജമ്പിംഗ് ഇവന്റുകളിലെയും മികച്ച 15 പേരെ Mail.ru ഓഫീസിലേക്ക് ഓഫ്‌ലൈൻ സ്റ്റേജിലേക്ക് ക്ഷണിച്ചു, അത് മാർച്ച് 30 മുതൽ ഏപ്രിൽ 1 വരെ നടന്നു.

ലക്ഷ്യം

ഉറവിട ഡാറ്റ ഉപയോക്തൃ ഐഡികളും (യൂസർ ഐഡി) പോസ്റ്റ് ഐഡികളും (ഒബ്ജക്റ്റ് ഐഡി) നൽകുന്നു. ഉപയോക്താവിനെ ഒരു പോസ്റ്റ് കാണിച്ചുവെങ്കിൽ, ഡാറ്റയിൽ userId, objectId, ഈ പോസ്റ്റിലേക്കുള്ള ഉപയോക്തൃ പ്രതികരണങ്ങൾ (ഫീഡ്‌ബാക്ക്) എന്നിവയും ചിത്രങ്ങളിലേക്കും ടെക്‌സ്റ്റുകളിലേക്കുമുള്ള വിവിധ ഫീച്ചറുകളോ ലിങ്കുകളോ അടങ്ങുന്ന ഒരു ലൈൻ അടങ്ങിയിരിക്കുന്നു.

യൂസർ ഐഡി	ഒബ്ജക്റ്റ് ഐഡി	ഉടമസ്ഥ ഐഡി	ഫീഡ്ബാക്ക്	ചിത്രങ്ങൾ
3555	22	5677	[ഇഷ്ടപ്പെട്ടു, ക്ലിക്ക് ചെയ്തു]	[ഹാഷ്1]
12842	55	32144	[ഇഷ്‌ടപ്പെട്ടില്ല]	[hash2,hash3]
13145	35	5677	[ക്ലിക്ക് ചെയ്തു, പങ്കിട്ടു]	[ഹാഷ്2]

ടെസ്റ്റ് ഡാറ്റ സെറ്റിൽ സമാനമായ ഒരു ഘടന അടങ്ങിയിരിക്കുന്നു, എന്നാൽ ഫീഡ്ബാക്ക് ഫീൽഡ് കാണുന്നില്ല. ഫീഡ്‌ബാക്ക് ഫീൽഡിൽ 'ഇഷ്‌ടപ്പെട്ട' പ്രതികരണത്തിന്റെ സാന്നിധ്യം പ്രവചിക്കുക എന്നതാണ് ചുമതല.
സമർപ്പിക്കൽ ഫയലിന് ഇനിപ്പറയുന്ന ഘടനയുണ്ട്:

യൂസർ ഐഡി	അടുക്കിയ പട്ടിക[objectId]
123	78,13,54,22
128	35,61,55
131	35,68,129,11

ഉപയോക്താക്കൾക്കുള്ള ശരാശരി ROC AUC ആണ് മെട്രിക്.

ഡാറ്റയുടെ കൂടുതൽ വിശദമായ വിവരണം ഇവിടെ കാണാം കൗൺസിൽ വെബ്സൈറ്റ്. ടെസ്റ്റുകളും ചിത്രങ്ങളും ഉൾപ്പെടെ നിങ്ങൾക്ക് അവിടെ ഡാറ്റ ഡൗൺലോഡ് ചെയ്യാനും കഴിയും.

ഓൺലൈൻ സ്റ്റേജ്

ഓൺലൈൻ ഘട്ടത്തിൽ, ടാസ്ക് 3 ഭാഗങ്ങളായി തിരിച്ചിരിക്കുന്നു

• സഹകരണ സംവിധാനം - ചിത്രങ്ങളും വാചകങ്ങളും ഒഴികെയുള്ള എല്ലാ സവിശേഷതകളും ഉൾപ്പെടുന്നു;
• ചിത്രങ്ങൾ - ചിത്രങ്ങളെക്കുറിച്ചുള്ള വിവരങ്ങൾ മാത്രം ഉൾപ്പെടുന്നു;
• പാഠങ്ങൾ - പാഠങ്ങളെക്കുറിച്ചുള്ള വിവരങ്ങൾ മാത്രം ഉൾപ്പെടുന്നു.

ഓഫ്‌ലൈൻ ഘട്ടം

ഓഫ്‌ലൈൻ ഘട്ടത്തിൽ, ഡാറ്റയിൽ എല്ലാ സവിശേഷതകളും ഉൾപ്പെടുന്നു, അതേസമയം ടെക്‌സ്റ്റുകളും ചിത്രങ്ങളും വിരളമായിരുന്നു. ഡാറ്റാസെറ്റിൽ 1,5 മടങ്ങ് കൂടുതൽ വരികൾ ഉണ്ടായിരുന്നു, അതിൽ ഇതിനകം ധാരാളം ഉണ്ടായിരുന്നു.

പ്രശ്നത്തിന്റെ പരിഹാരം

ഞാൻ ജോലിസ്ഥലത്ത് സിവി ചെയ്യുന്നതിനാൽ, "ചിത്രങ്ങൾ" ടാസ്‌ക്കോടെയാണ് ഞാൻ ഈ മത്സരത്തിൽ എന്റെ യാത്ര ആരംഭിച്ചത്. നൽകിയ ഡാറ്റ, userId, objectId, ownerId (പോസ്‌റ്റ് പ്രസിദ്ധീകരിച്ച ഗ്രൂപ്പ്), പോസ്റ്റ് സൃഷ്‌ടിക്കുന്നതിനും പ്രദർശിപ്പിക്കുന്നതിനുമുള്ള ടൈംസ്റ്റാമ്പുകൾ, തീർച്ചയായും ഈ പോസ്റ്റിനുള്ള ചിത്രം എന്നിവയാണ്.
ടൈംസ്റ്റാമ്പുകളെ അടിസ്ഥാനമാക്കി നിരവധി ഫീച്ചറുകൾ സൃഷ്ടിച്ച ശേഷം, ഇമേജ്നെറ്റിൽ മുൻകൂട്ടി പരിശീലിപ്പിച്ച ന്യൂറോണിന്റെ അവസാനത്തെ പാളി എടുത്ത് ഈ എംബെഡിംഗുകൾ ബൂസ്റ്റിംഗിന് അയയ്ക്കുക എന്നതായിരുന്നു അടുത്ത ആശയം.

ഫലങ്ങൾ ശ്രദ്ധേയമായിരുന്നില്ല. ഇമേജ്നെറ്റ് ന്യൂറോണിൽ നിന്നുള്ള ഉൾച്ചേർക്കലുകൾ അപ്രസക്തമാണ്, എനിക്ക് സ്വന്തമായി ഒരു ഓട്ടോഎൻകോഡർ നിർമ്മിക്കണമെന്ന് ഞാൻ വിചാരിച്ചു.

ഇത് വളരെയധികം സമയമെടുത്തു, ഫലം മെച്ചപ്പെട്ടില്ല.

ഫീച്ചർ ജനറേഷൻ

ചിത്രങ്ങളുമായി പ്രവർത്തിക്കാൻ വളരെയധികം സമയമെടുക്കും, അതിനാൽ ലളിതമായ എന്തെങ്കിലും ചെയ്യാൻ ഞാൻ തീരുമാനിച്ചു.
നിങ്ങൾക്ക് ഉടനടി കാണാനാകുന്നതുപോലെ, ഡാറ്റാസെറ്റിൽ നിരവധി വർഗ്ഗീകരണ സവിശേഷതകൾ ഉണ്ട്, വളരെയധികം ബുദ്ധിമുട്ടിക്കാതിരിക്കാൻ, ഞാൻ ക്യാറ്റ്ബൂസ്റ്റ് എടുത്തു. പരിഹാരം മികച്ചതായിരുന്നു, ക്രമീകരണങ്ങളൊന്നുമില്ലാതെ ഞാൻ ഉടൻ തന്നെ ലീഡർബോർഡിന്റെ ആദ്യ വരിയിൽ എത്തി.

ധാരാളം ഡാറ്റയുണ്ട്, അത് പാർക്ക്വെറ്റ് ഫോർമാറ്റിലാണ് സ്ഥാപിച്ചിരിക്കുന്നത്, അതിനാൽ രണ്ടുതവണ ആലോചിക്കാതെ ഞാൻ സ്കാല എടുത്ത് എല്ലാം സ്പാർക്കിൽ എഴുതാൻ തുടങ്ങി.

ഇമേജ് എംബഡിംഗുകളേക്കാൾ കൂടുതൽ വളർച്ച നൽകിയ ഏറ്റവും ലളിതമായ സവിശേഷതകൾ:

• ഒബ്‌ജക്‌റ്റ് ഐഡി, യൂസർ ഐഡി, ഉടമസ്ഥ ഐഡി എന്നിവ എത്ര തവണ ഡാറ്റയിൽ പ്രത്യക്ഷപ്പെട്ടു (ജനപ്രിയതയുമായി ബന്ധപ്പെട്ടിരിക്കണം);
• ownerId-ൽ നിന്ന് userId എത്ര പോസ്റ്റുകൾ കണ്ടു (ഗ്രൂപ്പിലുള്ള ഉപയോക്താവിന്റെ താൽപ്പര്യവുമായി ബന്ധപ്പെട്ടിരിക്കണം);
• ownerId-ൽ നിന്ന് എത്ര അദ്വിതീയ യൂസർ ഐഡികൾ പോസ്റ്റുകൾ കണ്ടു (ഗ്രൂപ്പിന്റെ പ്രേക്ഷകരുടെ വലുപ്പത്തെ പ്രതിഫലിപ്പിക്കുന്നു).

ടൈംസ്റ്റാമ്പുകളിൽ നിന്ന് ഉപയോക്താവ് ഫീഡ് കണ്ട ദിവസത്തിന്റെ സമയം (രാവിലെ/ഉച്ചതിരിഞ്ഞ്/വൈകുന്നേരം/രാത്രി) ലഭ്യമാക്കാൻ സാധിച്ചു. ഈ വിഭാഗങ്ങൾ സംയോജിപ്പിക്കുന്നതിലൂടെ, നിങ്ങൾക്ക് സവിശേഷതകൾ സൃഷ്ടിക്കുന്നത് തുടരാം:

• വൈകുന്നേരം എത്ര തവണ userId ലോഗിൻ ചെയ്തു;
• ഏത് സമയത്താണ് ഈ പോസ്റ്റ് മിക്കപ്പോഴും കാണിക്കുന്നത് (objectId) തുടങ്ങിയവ.

ഇതെല്ലാം ക്രമേണ മെട്രിക്‌സ് മെച്ചപ്പെടുത്തി. എന്നാൽ പരിശീലന ഡാറ്റാസെറ്റിന്റെ വലുപ്പം ഏകദേശം 20M റെക്കോർഡുകളാണ്, അതിനാൽ സവിശേഷതകൾ ചേർക്കുന്നത് പരിശീലനത്തെ വളരെയധികം മന്ദഗതിയിലാക്കി.

ഡാറ്റ ഉപയോഗിക്കുന്നതിനുള്ള എന്റെ സമീപനത്തെക്കുറിച്ച് ഞാൻ പുനർചിന്തിച്ചു. ഡാറ്റ സമയബന്ധിതമാണെങ്കിലും, “ഭാവിയിൽ” വ്യക്തമായ വിവര ചോർച്ചകളൊന്നും ഞാൻ കണ്ടില്ല, എന്നിരുന്നാലും, ഞാൻ അത് ഇതുപോലെ പൊളിച്ചു:

ഞങ്ങൾക്ക് നൽകിയ പരിശീലന സെറ്റ് (ഫെബ്രുവരി, മാർച്ച് 2 ആഴ്ചകൾ) 2 ഭാഗങ്ങളായി തിരിച്ചിരിക്കുന്നു.
കഴിഞ്ഞ N ദിവസങ്ങളിലെ ഡാറ്റയിലാണ് മോഡൽ പരിശീലിപ്പിച്ചത്. മുകളിൽ വിവരിച്ച അഗ്രിഗേഷനുകൾ ടെസ്റ്റ് ഉൾപ്പെടെ എല്ലാ ഡാറ്റയിലും നിർമ്മിച്ചതാണ്. അതേസമയം, ടാർഗെറ്റ് വേരിയബിളിന്റെ വിവിധ എൻകോഡിംഗുകൾ നിർമ്മിക്കാൻ കഴിയുന്ന ഡാറ്റ പ്രത്യക്ഷപ്പെട്ടു. ഇതിനകം തന്നെ പുതിയ ഫീച്ചറുകൾ സൃഷ്‌ടിക്കുന്ന കോഡ് പുനരുപയോഗിക്കുക എന്നതാണ് ഏറ്റവും ലളിതമായ സമീപനം, കൂടാതെ അത് പരിശീലിപ്പിക്കപ്പെടാത്ത ഡാറ്റയും ടാർഗെറ്റ് = 1 ആയി നൽകുകയും ചെയ്യുക എന്നതാണ്.

അതിനാൽ, ഞങ്ങൾക്ക് സമാനമായ സവിശേഷതകൾ ലഭിച്ചു:

• ഗ്രൂപ്പ് ഉടമ ഐഡിയിൽ എത്ര തവണ യൂസർ ഐഡി ഒരു പോസ്റ്റ് കണ്ടു;
• ഗ്രൂപ്പ് ഓണർഐഡിയിലെ പോസ്റ്റ് യൂസർ ഐഡി എത്ര തവണ ലൈക്ക് ചെയ്തു;
• ownerId-ൽ നിന്ന് userId ലൈക്ക് ചെയ്ത പോസ്റ്റുകളുടെ ശതമാനം.

അതായത്, അത് മാറി ലക്ഷ്യം എൻകോഡിംഗ് എന്നാണ് അർത്ഥമാക്കുന്നത് വർഗ്ഗീകരണ സവിശേഷതകളുടെ വിവിധ കോമ്പിനേഷനുകൾക്കായി ഡാറ്റാസെറ്റിന്റെ ഭാഗമായി. തത്വത്തിൽ, ക്യാറ്റ്ബൂസ്റ്റ് ടാർഗെറ്റ് എൻകോഡിംഗും നിർമ്മിക്കുന്നു, ഈ കാഴ്ചപ്പാടിൽ നിന്ന് ഒരു പ്രയോജനവുമില്ല, പക്ഷേ, ഉദാഹരണത്തിന്, ഈ ഗ്രൂപ്പിലെ പോസ്റ്റുകൾ ഇഷ്ടപ്പെട്ട അദ്വിതീയ ഉപയോക്താക്കളുടെ എണ്ണം കണക്കാക്കാൻ സാധിച്ചു. അതേ സമയം, പ്രധാന ലക്ഷ്യം കൈവരിച്ചു - എന്റെ ഡാറ്റാസെറ്റ് നിരവധി തവണ കുറച്ചു, കൂടാതെ സവിശേഷതകൾ സൃഷ്ടിക്കുന്നത് തുടരാൻ സാധിച്ചു.

ഇഷ്ടപ്പെട്ട പ്രതികരണത്തെ അടിസ്ഥാനമാക്കി മാത്രമേ ക്യാറ്റ്‌ബൂസ്റ്റിന് എൻകോഡിംഗ് നിർമ്മിക്കാൻ കഴിയൂ, ഫീഡ്‌ബാക്കിന് മറ്റ് പ്രതികരണങ്ങളുണ്ട്: വീണ്ടും പങ്കിട്ടത്, ഇഷ്ടപ്പെടാത്തത്, ഇഷ്ടപ്പെടാത്തത്, ക്ലിക്ക് ചെയ്‌തത്, അവഗണിച്ചു, സ്വമേധയാ ചെയ്യാൻ കഴിയുന്ന എൻകോഡിംഗുകൾ. ഞാൻ എല്ലാത്തരം അഗ്രഗേറ്റുകളും വീണ്ടും കണക്കാക്കുകയും ഡാറ്റാസെറ്റ് വർദ്ധിപ്പിക്കാതിരിക്കാൻ കുറഞ്ഞ പ്രാധാന്യത്തോടെ ഫീച്ചറുകൾ ഒഴിവാക്കുകയും ചെയ്തു.

അപ്പോഴേക്കും വലിയ വ്യത്യാസത്തിൽ ഞാൻ ഒന്നാം സ്ഥാനത്തായിരുന്നു. ആശയക്കുഴപ്പമുണ്ടാക്കിയ ഒരേയൊരു കാര്യം ഇമേജ് എംബെഡിംഗുകൾ ഏതാണ്ട് വളർച്ച കാണിക്കുന്നില്ല എന്നതാണ്. എല്ലാം ക്യാറ്റ്ബൂസ്റ്റിന് നൽകണമെന്ന ആശയം വന്നു. ഞങ്ങൾ Kmeans ഇമേജുകൾ ക്ലസ്റ്റർ ചെയ്യുകയും ഒരു പുതിയ തരം ഫീച്ചർ ഇമേജ് ക്യാറ്റ് നേടുകയും ചെയ്യുന്നു.

KMeans-ൽ നിന്ന് ലഭിച്ച ക്ലസ്റ്ററുകളുടെ മാനുവൽ ഫിൽട്ടറിംഗിനും ലയനത്തിനും ശേഷമുള്ള ചില ക്ലാസുകൾ ഇതാ.

imageCat അടിസ്ഥാനമാക്കി ഞങ്ങൾ സൃഷ്ടിക്കുന്നു:

• പുതിയ തരം സവിശേഷതകൾ:
  • യൂസർ ഐഡി ഏറ്റവും കൂടുതൽ കണ്ട ഇമേജ് ക്യാറ്റ് ഏതാണ്;
  • ഏത് ഇമേജ് ക്യാറ്റ് ആണ് മിക്കപ്പോഴും ഉടമസ്ഥ ഐഡി കാണിക്കുന്നത്;
  • യൂസർ ഐഡി ഏറ്റവും കൂടുതൽ ഇഷ്ടപ്പെട്ട ഇമേജ് ക്യാറ്റ് ഏതാണ്;
• വിവിധ കൗണ്ടറുകൾ:
  • യൂസർ ഐഡിയിൽ എത്ര അദ്വിതീയ ഇമേജ്കാറ്റ് നോക്കി;
  • ഏകദേശം 15 സമാന സവിശേഷതകളും മുകളിൽ വിവരിച്ചതുപോലെ ടാർഗെറ്റ് എൻകോഡിംഗും.

പാഠങ്ങൾ

ചിത്ര മത്സരത്തിലെ ഫലങ്ങൾ എനിക്ക് യോജിച്ചതാണ്, ടെക്സ്റ്റുകളിൽ എന്റെ കൈ പരീക്ഷിക്കാൻ ഞാൻ തീരുമാനിച്ചു. ഞാൻ മുമ്പ് ടെക്‌സ്‌റ്റുകളുമായി കാര്യമായി പ്രവർത്തിച്ചിട്ടില്ല, വിഡ്ഢിത്തമായി, ഞാൻ tf-idf, svd എന്നിവയിൽ ആ ദിവസം കൊന്നു. അപ്പോൾ എനിക്ക് ആവശ്യമുള്ളത് കൃത്യമായി ചെയ്യുന്ന doc2vec ഉള്ള അടിസ്ഥാനരേഖ ഞാൻ കണ്ടു. doc2vec പാരാമീറ്ററുകൾ ചെറുതായി ക്രമീകരിച്ചതിനാൽ, എനിക്ക് ടെക്സ്റ്റ് എംബെഡിംഗുകൾ ലഭിച്ചു.

തുടർന്ന് ഞാൻ ഇമേജുകൾക്കുള്ള കോഡ് വീണ്ടും ഉപയോഗിച്ചു, അതിൽ ഞാൻ ഇമേജ് എംബെഡിംഗുകൾ ടെക്സ്റ്റ് എംബെഡിംഗുകൾ ഉപയോഗിച്ച് മാറ്റി. തൽഫലമായി, ഞാൻ വാചക മത്സരത്തിൽ രണ്ടാം സ്ഥാനം നേടി.

സഹകരണ സംവിധാനം

ഞാൻ ഇതുവരെ ഒരു വടി ഉപയോഗിച്ച് "കുത്തിയിട്ടില്ല" ഒരു മത്സരം അവശേഷിക്കുന്നു, ലീഡർബോർഡിലെ AUC വിലയിരുത്തുമ്പോൾ, ഈ പ്രത്യേക മത്സരത്തിന്റെ ഫലങ്ങൾ ഓഫ്‌ലൈൻ സ്റ്റേജിൽ ഏറ്റവും വലിയ സ്വാധീനം ചെലുത്തേണ്ടതായിരുന്നു.
സോഴ്സ് ഡാറ്റയിൽ ഉണ്ടായിരുന്ന എല്ലാ ഫീച്ചറുകളും ഞാൻ എടുത്തു, വിഭാഗീയമായവ തിരഞ്ഞെടുത്ത്, ചിത്രങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ള ഫീച്ചറുകൾ ഒഴികെ, ചിത്രങ്ങളുടെ അതേ അഗ്രഗേറ്റുകൾ ഞാൻ കണക്കാക്കി. ഇത് ക്യാറ്റ്‌ബൂസ്റ്റിൽ ഇട്ടത് കൊണ്ട് തന്നെ എന്നെ രണ്ടാം സ്ഥാനത്തെത്തി.

ക്യാറ്റ്ബൂസ്റ്റ് ഒപ്റ്റിമൈസേഷന്റെ ആദ്യ ഘട്ടങ്ങൾ

ഒന്നും രണ്ടും സ്ഥാനങ്ങൾ എന്നെ സന്തോഷിപ്പിച്ചു, പക്ഷേ ഞാൻ പ്രത്യേകിച്ച് ഒന്നും ചെയ്തിട്ടില്ലെന്ന് ഒരു ധാരണ ഉണ്ടായിരുന്നു, അതായത് സ്ഥാനങ്ങൾ നഷ്ടപ്പെടുമെന്ന് എനിക്ക് പ്രതീക്ഷിക്കാം.

ഉപയോക്താവിനുള്ളിലെ പോസ്റ്റുകൾ റാങ്ക് ചെയ്യുക എന്നതാണ് മത്സരത്തിന്റെ ചുമതല, ഇക്കാലമത്രയും ഞാൻ വർഗ്ഗീകരണ പ്രശ്നം പരിഹരിക്കുകയായിരുന്നു, അതായത് തെറ്റായ മെട്രിക് ഒപ്റ്റിമൈസ് ചെയ്യുക.

ഞാൻ ഒരു ലളിതമായ ഉദാഹരണം പറയാം:

യൂസർ ഐഡി	ഒബ്ജക്റ്റ് ഐഡി	പ്രവചനം	അടിസ്ഥാന സത്യം
1	10	0.9	1
1	11	0.8	1
1	12	0.7	1
1	13	0.6	1
1	14	0.5	0
2	15	0.4	0
2	16	0.3	1

നമുക്ക് ഒരു ചെറിയ പുനഃക്രമീകരണം നടത്താം

യൂസർ ഐഡി	ഒബ്ജക്റ്റ് ഐഡി	പ്രവചനം	അടിസ്ഥാന സത്യം
1	10	0.9	1
1	11	0.8	1
1	12	0.7	1
1	13	0.6	0
2	16	0.5	1
2	15	0.4	0
1	14	0.3	1

ഞങ്ങൾക്ക് ഇനിപ്പറയുന്ന ഫലങ്ങൾ ലഭിക്കും:

മാതൃക	എ.യു.സി.	ഉപയോക്താവ്1 AUC	ഉപയോക്താവ്2 AUC	AUC എന്നാണ് അർത്ഥമാക്കുന്നത്
ഓപ്ഷൻ 1	0,8	1,0	0,0	0,5
ഓപ്ഷൻ 2	0,7	0,75	1,0	0,875

നിങ്ങൾക്ക് കാണാനാകുന്നതുപോലെ, മൊത്തത്തിലുള്ള AUC മെട്രിക് മെച്ചപ്പെടുത്തുക എന്നതിനർത്ഥം ഒരു ഉപയോക്താവിനുള്ളിലെ ശരാശരി AUC മെട്രിക് മെച്ചപ്പെടുത്തുക എന്നല്ല.

ക്യാറ്റ്ബൂസ്റ്റ് റാങ്കിംഗ് മെട്രിക്‌സ് എങ്ങനെ ഒപ്റ്റിമൈസ് ചെയ്യാമെന്ന് അറിയാം പെട്ടിയിൽ നിന്ന്. റാങ്കിംഗ് മെട്രിക്കുകളെക്കുറിച്ച് ഞാൻ വായിച്ചു, വിജയ കഥകൾ ക്യാറ്റ്ബൂസ്റ്റ് ഉപയോഗിക്കുമ്പോൾ, ഒറ്റരാത്രികൊണ്ട് പരിശീലിക്കാൻ YetiRankPairwise സജ്ജമാക്കുക. ഫലം ശ്രദ്ധേയമായിരുന്നില്ല. എനിക്ക് പരിശീലനം ലഭിച്ചിട്ടില്ലെന്ന് തീരുമാനിച്ച്, ഞാൻ പിശക് ഫംഗ്‌ഷൻ QueryRMSE എന്നാക്കി മാറ്റി, അത് ക്യാറ്റ്‌ബൂസ്റ്റ് ഡോക്യുമെന്റേഷൻ അനുസരിച്ച്, വേഗത്തിൽ ഒത്തുചേരുന്നു. അവസാനം, ക്ലാസിഫിക്കേഷനായി പരിശീലിപ്പിക്കുമ്പോൾ അതേ ഫലങ്ങൾ എനിക്ക് ലഭിച്ചു, എന്നാൽ ഈ രണ്ട് മോഡലുകളുടെയും സമന്വയങ്ങൾ നല്ല വർദ്ധനവ് നൽകി, ഇത് എന്നെ മൂന്ന് മത്സരങ്ങളിലും ഒന്നാം സ്ഥാനത്തെത്തി.

"സഹകരണ സംവിധാനങ്ങൾ" മത്സരത്തിന്റെ ഓൺലൈൻ സ്റ്റേജ് അവസാനിക്കുന്നതിന് 5 മിനിറ്റ് മുമ്പ്, സെർജി ഷാൽനോവ് എന്നെ രണ്ടാം സ്ഥാനത്തേക്ക് മാറ്റി. പിന്നീടുള്ള വഴിയിലൂടെ ഞങ്ങൾ ഒരുമിച്ച് നടന്നു.

ഓഫ്‌ലൈൻ സ്റ്റേജിനായി തയ്യാറെടുക്കുന്നു

ഒരു RTX 2080 TI വീഡിയോ കാർഡ് ഉപയോഗിച്ച് ഓൺലൈൻ സ്റ്റേജിൽ ഞങ്ങൾക്ക് വിജയം ഉറപ്പായിരുന്നു, എന്നാൽ പ്രധാന സമ്മാനമായ 300 റുബിളും അവസാന ഒന്നാം സ്ഥാനവും പോലും ഈ 000 ആഴ്‌ച പ്രവർത്തിക്കാൻ ഞങ്ങളെ നിർബന്ധിതരാക്കി.

അത് മാറിയതുപോലെ, സെർജി ക്യാറ്റ്ബൂസ്റ്റും ഉപയോഗിച്ചു. ഞങ്ങൾ ആശയങ്ങളും സവിശേഷതകളും കൈമാറി, ഞാൻ പഠിച്ചു അന്ന വെറോണിക്ക ഡൊറോഗുഷിന്റെ റിപ്പോർട്ട് എന്റെ പല ചോദ്യങ്ങൾക്കുമുള്ള ഉത്തരങ്ങൾ അതിൽ അടങ്ങിയിരിക്കുന്നു, അപ്പോഴേക്കും എനിക്കില്ലാത്തവ പോലും.

റിപ്പോർട്ട് കാണുമ്പോൾ, എല്ലാ പാരാമീറ്ററുകളും ഡിഫോൾട്ട് മൂല്യത്തിലേക്ക് തിരികെ നൽകേണ്ടതുണ്ടെന്ന ആശയത്തിലേക്ക് എന്നെ നയിച്ചു, കൂടാതെ ക്രമീകരണങ്ങൾ വളരെ ശ്രദ്ധാപൂർവ്വം ചെയ്യുക, കൂടാതെ ഒരു കൂട്ടം സവിശേഷതകൾ ശരിയാക്കിയതിനുശേഷം മാത്രം. ഇപ്പോൾ ഒരു പരിശീലനത്തിന് ഏകദേശം 15 മണിക്കൂർ സമയമെടുത്തു, എന്നാൽ ഒരു മോഡലിന് റാങ്കിംഗിനൊപ്പം മേളയിൽ ലഭിച്ചതിനേക്കാൾ മികച്ച വേഗത നേടാൻ കഴിഞ്ഞു.

ഫീച്ചർ ജനറേഷൻ

കോൾബറേറ്റീവ് സിസ്റ്റംസ് മത്സരത്തിൽ, മോഡലിന് പ്രാധാന്യമുള്ള നിരവധി സവിശേഷതകൾ വിലയിരുത്തപ്പെടുന്നു. ഉദാഹരണത്തിന്, auditweights_spark_svd - ഏറ്റവും പ്രധാനപ്പെട്ട അടയാളം, എന്നാൽ അതിന്റെ അർത്ഥത്തെക്കുറിച്ച് ഒരു വിവരവുമില്ല. പ്രധാനപ്പെട്ട സവിശേഷതകളെ അടിസ്ഥാനമാക്കി വിവിധ അഗ്രഗേറ്റുകൾ കണക്കാക്കുന്നത് മൂല്യവത്തായിരിക്കുമെന്ന് ഞാൻ കരുതി. ഉദാഹരണത്തിന്, ശരാശരി auditweights_spark_svd ഉപയോക്താവ്, ഗ്രൂപ്പ് പ്രകാരം, ഒബ്‌ജക്റ്റ് പ്രകാരം. പരിശീലനമൊന്നും നടത്താത്ത ഡാറ്റയും ടാർഗെറ്റ് = 1, അതായത് ശരാശരിയും ഉപയോഗിച്ച് ഇത് കണക്കാക്കാം auditweights_spark_svd ഉപയോക്താവിന് ഇഷ്ടപ്പെട്ട വസ്തുക്കൾ പ്രകാരം. കൂടാതെ പ്രധാനപ്പെട്ട അടയാളങ്ങൾ auditweights_spark_svd, നിരവധി ഉണ്ടായിരുന്നു. അവയിൽ ചിലത് ഇതാ:

• ഓഡിറ്റ് വെയിറ്റുകൾCtrGender
• ഓഡിറ്റ് വെയിറ്റുകൾCtrHigh
• userOwnerCounterCreateLikes

ഉദാഹരണത്തിന്, ശരാശരി ഓഡിറ്റ് വെയിറ്റുകൾCtrGender userId അനുസരിച്ച്, ശരാശരി മൂല്യം പോലെ ഇത് ഒരു പ്രധാന സവിശേഷതയായി മാറി userOwnerCounterCreateLikes userId+ownerId മുഖേന. ഫീൽഡുകളുടെ അർത്ഥം നിങ്ങൾ മനസ്സിലാക്കേണ്ടതുണ്ടെന്ന് ഇത് ഇതിനകം തന്നെ നിങ്ങളെ ചിന്തിപ്പിക്കും.

പ്രധാന സവിശേഷതകളും ഉണ്ടായിരുന്നു ഓഡിറ്റ്വെയ്റ്റ്സ് ലൈക്കുകളുടെ എണ്ണം и ഓഡിറ്റ്വെയ്റ്റ്സ് ഷോകളുടെ എണ്ണം. ഒന്നൊന്നായി വിഭജിച്ചപ്പോൾ അതിലും പ്രധാനപ്പെട്ട ഒരു സവിശേഷത ലഭിച്ചു.

ഡാറ്റ ചോർച്ച

മത്സരവും പ്രൊഡക്ഷൻ മോഡലിംഗും വളരെ വ്യത്യസ്തമായ ജോലികളാണ്. ഡാറ്റ തയ്യാറാക്കുമ്പോൾ, എല്ലാ വിശദാംശങ്ങളും കണക്കിലെടുക്കുകയും ടെസ്റ്റിലെ ടാർഗെറ്റ് വേരിയബിളിനെക്കുറിച്ചുള്ള ചില നിസ്സാരമല്ലാത്ത വിവരങ്ങൾ അറിയിക്കാതിരിക്കുകയും ചെയ്യുന്നത് വളരെ ബുദ്ധിമുട്ടാണ്. ഞങ്ങൾ ഒരു പ്രൊഡക്ഷൻ സൊല്യൂഷൻ സൃഷ്ടിക്കുകയാണെങ്കിൽ, മോഡൽ പരിശീലിപ്പിക്കുമ്പോൾ ഡാറ്റ ചോർച്ച ഉപയോഗിക്കുന്നത് ഒഴിവാക്കാൻ ഞങ്ങൾ ശ്രമിക്കും. എന്നാൽ നമുക്ക് മത്സരത്തിൽ വിജയിക്കണമെങ്കിൽ, ഡാറ്റ ചോർച്ചയാണ് ഏറ്റവും മികച്ച സവിശേഷതകൾ.

ഡാറ്റ പഠിച്ചുകഴിഞ്ഞാൽ, objectId മൂല്യങ്ങൾ അനുസരിച്ച് നിങ്ങൾക്ക് അത് കാണാൻ കഴിയും ഓഡിറ്റ്വെയ്റ്റ്സ് ലൈക്കുകളുടെ എണ്ണം и ഓഡിറ്റ്വെയ്റ്റ്സ് ഷോകളുടെ എണ്ണം മാറ്റം, അതായത് ഈ ഫീച്ചറുകളുടെ പരമാവധി മൂല്യങ്ങളുടെ അനുപാതം പ്രദർശന സമയത്തെ അനുപാതത്തേക്കാൾ മികച്ച പോസ്റ്റ് പരിവർത്തനത്തെ പ്രതിഫലിപ്പിക്കും.

ഞങ്ങൾ കണ്ടെത്തിയ ആദ്യത്തെ ചോർച്ചയാണ് ഓഡിറ്റ്വെയ്റ്റ്സ്ലൈക്കുകൾകൌണ്ട്മാക്സ്/ഓഡിറ്റ്വെയിറ്റ്സ്ഷോകൾകൗണ്ട്മാക്സ്.
എന്നാൽ ഡാറ്റ കൂടുതൽ സൂക്ഷ്മമായി പരിശോധിച്ചാലോ? പ്രദർശന തീയതി പ്രകാരം അടുക്കി നമുക്ക് നേടാം:

ഒബ്ജക്റ്റ് ഐഡി	യൂസർ ഐഡി	ഓഡിറ്റ്വെയ്റ്റ്സ് ഷോകളുടെ എണ്ണം	ഓഡിറ്റ്വെയ്റ്റ്സ് ലൈക്കുകളുടെ എണ്ണം	ലക്ഷ്യം (ഇഷ്‌ടപ്പെട്ടു)
1	1	12	3	ഒരുപക്ഷേ ഇല്ല
1	2	15	3	ഒരുപക്ഷെ അതെ
1	3	16	4

അത്തരത്തിലുള്ള ആദ്യത്തെ ഉദാഹരണം ഞാൻ കണ്ടെത്തിയപ്പോൾ അത് ആശ്ചര്യകരമാണ്, എന്റെ പ്രവചനം സത്യമായില്ല. പക്ഷേ, ഒബ്‌ജക്റ്റിനുള്ളിലെ ഈ സ്വഭാവസവിശേഷതകളുടെ പരമാവധി മൂല്യങ്ങൾ വർദ്ധനവ് നൽകി എന്ന വസ്തുത കണക്കിലെടുക്കുമ്പോൾ, ഞങ്ങൾ മടിയന്മാരല്ല, കണ്ടെത്താൻ തീരുമാനിച്ചു ഓഡിറ്റ്വെയ്റ്റ്സ് ഷോകളുടെ എണ്ണം അടുത്തത് и ഓഡിറ്റ്വെയ്റ്റ്സ്ലൈക്കുകളുടെ എണ്ണം അടുത്തത്അതായത്, അടുത്ത നിമിഷത്തിലെ മൂല്യങ്ങൾ. ഒരു ഫീച്ചർ ചേർത്തുകൊണ്ട്
(ഓഡിറ്റ്‌വെയ്‌റ്റ്‌സ്‌ഷോസ്‌കൗണ്ട് നെക്‌സ്റ്റ്-ഓഡിറ്റ്‌വെയ്‌റ്റ്‌സ് ഷോസ് കൗണ്ട്)/(ഓഡിറ്റ്‌വെയ്റ്റ്‌സ് ലൈക്കുകൾ കൗണ്ട്-ഓഡിറ്റ് വെയ്‌റ്റ് ലൈക്കുകൾകൗണ്ട് നെക്സ്റ്റ്) ഞങ്ങൾ പെട്ടെന്ന് ഒരു കുതിച്ചുചാട്ടം നടത്തി.
ഇനിപ്പറയുന്ന മൂല്യങ്ങൾ കണ്ടെത്തുന്നതിലൂടെ സമാനമായ ചോർച്ചകൾ ഉപയോഗിക്കാം userOwnerCounterCreateLikes userId+ownerId-നുള്ളിൽ, ഉദാഹരണത്തിന്, ഓഡിറ്റ് വെയിറ്റുകൾCtrGender objectId+userGender ഉള്ളിൽ. ചോർച്ചയുള്ള സമാനമായ 6 ഫീൽഡുകൾ ഞങ്ങൾ കണ്ടെത്തി അവയിൽ നിന്ന് കഴിയുന്നത്ര വിവരങ്ങൾ വേർതിരിച്ചെടുത്തു.

അപ്പോഴേക്കും, ഞങ്ങൾ സഹകരണ ഫീച്ചറുകളിൽ നിന്ന് പരമാവധി വിവരങ്ങൾ പുറത്തെടുത്തിരുന്നു, എന്നാൽ ഇമേജ്, ടെക്സ്റ്റ് മത്സരങ്ങളിലേക്ക് മടങ്ങിയില്ല. പരിശോധിക്കാൻ എനിക്ക് ഒരു മികച്ച ആശയം ഉണ്ടായിരുന്നു: പ്രസക്തമായ മത്സരങ്ങളിൽ ചിത്രങ്ങളെയോ ടെക്സ്റ്റുകളെയോ നേരിട്ട് അടിസ്ഥാനമാക്കിയുള്ള സവിശേഷതകൾ എത്രത്തോളം നൽകുന്നു?

ഇമേജ്, ടെക്സ്റ്റ് മത്സരങ്ങളിൽ ചോർച്ചകളൊന്നും ഉണ്ടായില്ല, പക്ഷേ അപ്പോഴേക്കും ഞാൻ ഡിഫോൾട്ട് ക്യാറ്റ്ബൂസ്റ്റ് പാരാമീറ്ററുകൾ തിരികെ നൽകി, കോഡ് വൃത്തിയാക്കി കുറച്ച് സവിശേഷതകൾ ചേർത്തു. ആകെ ഉണ്ടായിരുന്നത്:

തീരുമാനം	ഉടൻ
ചിത്രങ്ങളുള്ള പരമാവധി	0.6411
പരമാവധി ചിത്രങ്ങളൊന്നുമില്ല	0.6297
രണ്ടാം സ്ഥാന ഫലം	0.6295

തീരുമാനം	ഉടൻ
ടെക്‌സ്‌റ്റുകൾക്കൊപ്പം പരമാവധി	0.666
ടെക്‌സ്‌റ്റുകളില്ലാതെ പരമാവധി	0.660
രണ്ടാം സ്ഥാന ഫലം	0.656

തീരുമാനം	ഉടൻ
സഹകരണത്തിൽ പരമാവധി	0.745
രണ്ടാം സ്ഥാന ഫലം	0.723

ടെക്‌സ്‌റ്റുകളിൽ നിന്നും ചിത്രങ്ങളിൽ നിന്നും വളരെയധികം ചൂഷണം ചെയ്യാൻ ഞങ്ങൾക്ക് സാധ്യതയില്ലെന്ന് വ്യക്തമായി, ഏറ്റവും രസകരമായ കുറച്ച് ആശയങ്ങൾ പരീക്ഷിച്ചതിന് ശേഷം ഞങ്ങൾ അവരുമായി പ്രവർത്തിക്കുന്നത് നിർത്തി.

സഹകരണ സംവിധാനങ്ങളിലെ ഫീച്ചറുകളുടെ കൂടുതൽ തലമുറ വർദ്ധനവ് നൽകിയില്ല, ഞങ്ങൾ റാങ്കിംഗ് ആരംഭിച്ചു. ഓൺലൈൻ ഘട്ടത്തിൽ, ക്ലാസിഫിക്കേഷനും റാങ്കിംഗ് സമന്വയവും എനിക്ക് ഒരു ചെറിയ വർദ്ധനവ് നൽകി, കാരണം ഞാൻ വർഗ്ഗീകരണത്തിന് അണ്ടർട്രെയിൻ ചെയ്തതിനാൽ ഇത് മാറി. YetiRanlPairwise ഉൾപ്പെടെയുള്ള പിശക് ഫംഗ്‌ഷനുകളൊന്നും, LogLoss ചെയ്‌ത ഫലത്തിന് സമീപം എവിടെയും നിർമ്മിച്ചിട്ടില്ല (0,745 vs. 0,725). സമാരംഭിക്കാൻ കഴിയാത്ത QueryCrossEntropy-യിൽ ഇപ്പോഴും പ്രതീക്ഷയുണ്ടായിരുന്നു.

ഓഫ്‌ലൈൻ ഘട്ടം

ഓഫ്‌ലൈൻ ഘട്ടത്തിൽ, ഡാറ്റാ ഘടന അതേപടി തുടർന്നു, പക്ഷേ ചെറിയ മാറ്റങ്ങളുണ്ടായി:

• ഐഡന്റിഫയറുകൾ userId, objectId, ownerId എന്നിവ വീണ്ടും ക്രമീകരിച്ചു;
• നിരവധി അടയാളങ്ങൾ നീക്കം ചെയ്യുകയും പലതിനും പേരുമാറ്റുകയും ചെയ്തു;
• ഡാറ്റ ഏകദേശം 1,5 മടങ്ങ് വർദ്ധിച്ചു.

ലിസ്റ്റുചെയ്ത ബുദ്ധിമുട്ടുകൾക്ക് പുറമേ, ഒരു വലിയ പ്ലസ് ഉണ്ടായിരുന്നു: ടീമിന് RTX 2080TI ഉള്ള ഒരു വലിയ സെർവർ അനുവദിച്ചു. ഞാൻ വളരെക്കാലമായി htop ആസ്വദിച്ചു.

ഒരു ആശയം മാത്രമേ ഉണ്ടായിരുന്നുള്ളൂ - നിലവിലുള്ളത് പുനർനിർമ്മിക്കുക. സെർവറിൽ പരിസ്ഥിതി സജ്ജീകരിക്കുന്നതിന് കുറച്ച് മണിക്കൂർ ചെലവഴിച്ചതിന് ശേഷം, ഫലങ്ങൾ പുനർനിർമ്മിക്കാവുന്നതാണെന്ന് ഞങ്ങൾ ക്രമേണ പരിശോധിക്കാൻ തുടങ്ങി. നമ്മൾ അഭിമുഖീകരിക്കുന്ന പ്രധാന പ്രശ്നം ഡാറ്റ വോളിയം വർദ്ധിക്കുന്നതാണ്. ലോഡ് അൽപ്പം കുറയ്ക്കാനും ക്യാറ്റ്ബൂസ്റ്റ് പാരാമീറ്റർ ctr_complexity=1 സജ്ജമാക്കാനും ഞങ്ങൾ തീരുമാനിച്ചു. ഇത് വേഗത കുറച്ച് കുറയ്ക്കുന്നു, പക്ഷേ എന്റെ മോഡൽ പ്രവർത്തിക്കാൻ തുടങ്ങി, ഫലം നല്ലതായിരുന്നു - 0,733. സെർജി, എന്നിൽ നിന്ന് വ്യത്യസ്തമായി, ഡാറ്റയെ 2 ഭാഗങ്ങളായി വിഭജിക്കുകയും എല്ലാ ഡാറ്റയിലും പരിശീലനം നൽകുകയും ചെയ്തില്ല, ഇത് ഓൺലൈൻ ഘട്ടത്തിൽ മികച്ച ഫലങ്ങൾ നൽകിയെങ്കിലും ഓഫ്‌ലൈൻ ഘട്ടത്തിൽ നിരവധി ബുദ്ധിമുട്ടുകൾ ഉണ്ടായിരുന്നു. ഞങ്ങൾ സൃഷ്‌ടിച്ച എല്ലാ സവിശേഷതകളും എടുത്ത് അവയെ ക്യാറ്റ്‌ബൂസ്റ്റിലേക്ക് മാറ്റാൻ ശ്രമിച്ചാൽ, ഓൺലൈൻ ഘട്ടത്തിൽ ഒന്നും പ്രവർത്തിക്കില്ല. സെർജി ടൈപ്പ് ഒപ്റ്റിമൈസേഷൻ നടത്തി, ഉദാഹരണത്തിന്, float64 തരങ്ങളെ float32 ആക്കി മാറ്റുന്നു. ഈ ലേഖനത്തിൽ പാണ്ടകളിൽ മെമ്മറി ഒപ്റ്റിമൈസേഷനെക്കുറിച്ചുള്ള വിവരങ്ങൾ നിങ്ങൾക്ക് കണ്ടെത്താനാകും. തൽഫലമായി, സെർജി എല്ലാ ഡാറ്റയും ഉപയോഗിച്ച് സിപിയുവിൽ പരിശീലനം നേടുകയും ഏകദേശം 0,735 ലഭിക്കുകയും ചെയ്തു.

ഈ ഫലങ്ങൾ വിജയിക്കാൻ പര്യാപ്തമായിരുന്നു, എന്നാൽ ഞങ്ങൾ ഞങ്ങളുടെ യഥാർത്ഥ വേഗത മറച്ചു, മറ്റ് ടീമുകളും ഇത് ചെയ്യുന്നില്ലെന്ന് ഉറപ്പിക്കാൻ കഴിഞ്ഞില്ല.

അവസാനം വരെ പോരാടുക

ക്യാറ്റ്ബൂസ്റ്റ് ട്യൂണിംഗ്

ഞങ്ങളുടെ പരിഹാരം പൂർണ്ണമായി പുനർനിർമ്മിച്ചു, ടെക്സ്റ്റ് ഡാറ്റയുടെയും ചിത്രങ്ങളുടെയും സവിശേഷതകൾ ഞങ്ങൾ ചേർത്തു, അതിനാൽ ക്യാറ്റ്ബൂസ്റ്റ് പാരാമീറ്ററുകൾ ട്യൂൺ ചെയ്യുക മാത്രമാണ് അവശേഷിക്കുന്നത്. സെർജി കുറച്ച് ആവർത്തനങ്ങളോടെ സിപിയുവിൽ പരിശീലിച്ചു, ctr_complexity=1 ഉള്ളതിൽ ഞാൻ പരിശീലിച്ചു. ഒരു ദിവസം ബാക്കിയുണ്ട്, നിങ്ങൾ ആവർത്തനങ്ങൾ ചേർക്കുകയോ ctr_complexity വർദ്ധിപ്പിക്കുകയോ ചെയ്താൽ, രാവിലെയോടെ നിങ്ങൾക്ക് ഇതിലും മികച്ച വേഗത നേടാനും ദിവസം മുഴുവൻ നടക്കാനും കഴിയും.

ഓഫ്‌ലൈൻ ഘട്ടത്തിൽ, സൈറ്റിലെ മികച്ച പരിഹാരമല്ല തിരഞ്ഞെടുക്കുന്നതിലൂടെ വേഗത വളരെ എളുപ്പത്തിൽ മറയ്ക്കാൻ കഴിയും. സമർപ്പണങ്ങൾ അവസാനിക്കുന്നതിന് മുമ്പുള്ള അവസാന മിനിറ്റുകളിൽ ലീഡർബോർഡിൽ കാര്യമായ മാറ്റങ്ങൾ ഞങ്ങൾ പ്രതീക്ഷിച്ചിരുന്നു, ഒപ്പം നിർത്തേണ്ടതില്ലെന്ന് തീരുമാനിക്കുകയും ചെയ്തു.

അന്നയുടെ വീഡിയോയിൽ നിന്ന്, മോഡലിന്റെ ഗുണനിലവാരം മെച്ചപ്പെടുത്തുന്നതിന്, ഇനിപ്പറയുന്ന പാരാമീറ്ററുകൾ തിരഞ്ഞെടുക്കുന്നതാണ് നല്ലതെന്ന് ഞാൻ മനസ്സിലാക്കി:

• ലേണിംഗ്_റേറ്റ് — ഡാറ്റാസെറ്റിന്റെ വലുപ്പത്തെ അടിസ്ഥാനമാക്കിയാണ് ഡിഫോൾട്ട് മൂല്യം കണക്കാക്കുന്നത്. ലേണിംഗ്_റേറ്റ് വർദ്ധിപ്പിക്കുന്നതിന് ആവർത്തനങ്ങളുടെ എണ്ണം വർദ്ധിപ്പിക്കേണ്ടതുണ്ട്.
• l2_leaf_reg - റെഗുലറൈസേഷൻ കോഫിഫിഷ്യന്റ്, ഡിഫോൾട്ട് മൂല്യം 3, വെയിലത്ത് 2 മുതൽ 30 വരെ തിരഞ്ഞെടുക്കുക. മൂല്യം കുറയുന്നത് ഓവർഫിറ്റിന്റെ വർദ്ധനവിന് കാരണമാകുന്നു.
• ബാഗിംഗ്_താപനില - സാമ്പിളിലെ ഒബ്‌ജക്‌റ്റുകളുടെ ഭാരത്തിലേക്ക് ക്രമരഹിതമാക്കൽ ചേർക്കുന്നു. ഡിഫോൾട്ട് മൂല്യം 1 ആണ്, അവിടെ ഒരു എക്‌സ്‌പോണൻഷ്യൽ ഡിസ്‌ട്രിബ്യൂഷനിൽ നിന്നാണ് വെയ്‌റ്റുകൾ എടുക്കുന്നത്. മൂല്യം കുറയുന്നത് ഓവർഫിറ്റിന്റെ വർദ്ധനവിന് കാരണമാകുന്നു.
• ക്രമരഹിതമായ_ശക്തി - ഒരു പ്രത്യേക ആവർത്തനത്തിൽ സ്പ്ലിറ്റുകളുടെ തിരഞ്ഞെടുപ്പിനെ ബാധിക്കുന്നു. റാൻഡം_സ്ട്രെങ്ത് കൂടുന്തോറും, കുറഞ്ഞ പ്രാധാന്യമുള്ള വിഭജനം തിരഞ്ഞെടുക്കപ്പെടാനുള്ള സാധ്യത കൂടുതലാണ്. തുടർന്നുള്ള ഓരോ ആവർത്തനത്തിലും, ക്രമരഹിതത കുറയുന്നു. മൂല്യം കുറയുന്നത് ഓവർഫിറ്റിന്റെ വർദ്ധനവിന് കാരണമാകുന്നു.

മറ്റ് പാരാമീറ്ററുകൾ അന്തിമ ഫലത്തിൽ വളരെ ചെറിയ സ്വാധീനം ചെലുത്തുന്നു, അതിനാൽ ഞാൻ അവ തിരഞ്ഞെടുക്കാൻ ശ്രമിച്ചില്ല. ctr_complexity=1 ഉപയോഗിച്ചുള്ള എന്റെ GPU ഡാറ്റാസെറ്റിലെ പരിശീലനത്തിന്റെ ഒരു ആവർത്തനത്തിന് 20 മിനിറ്റ് എടുത്തു, കൂടാതെ കുറച്ച ഡാറ്റാസെറ്റിലെ തിരഞ്ഞെടുത്ത പാരാമീറ്ററുകൾ പൂർണ്ണ ഡാറ്റാസെറ്റിലെ ഒപ്റ്റിമൽ പാരാമീറ്ററുകളിൽ നിന്ന് അല്പം വ്യത്യസ്തമായിരുന്നു. അവസാനം, ഞാൻ 30% ഡാറ്റയിൽ ഏകദേശം 10 ആവർത്തനങ്ങൾ നടത്തി, തുടർന്ന് എല്ലാ ഡാറ്റയിലും ഏകദേശം 10 ആവർത്തനങ്ങൾ കൂടി. ഇത് ഇതുപോലെ ഒന്ന് മാറി:

• ലേണിംഗ്_റേറ്റ് ഞാൻ സ്ഥിരസ്ഥിതിയിൽ നിന്ന് 40% വർദ്ധിച്ചു;
• l2_leaf_reg അത് അതേപടി ഉപേക്ഷിച്ചു;
• ബാഗിംഗ്_താപനില и ക്രമരഹിതമായ_ശക്തി 0,8 ആയി കുറഞ്ഞു.

സ്ഥിരസ്ഥിതി പാരാമീറ്ററുകൾ ഉപയോഗിച്ച് മോഡൽ പരിശീലനം ലഭിച്ചിട്ടില്ലെന്ന് നമുക്ക് നിഗമനം ചെയ്യാം.

ലീഡർബോർഡിൽ ഫലം കണ്ടപ്പോൾ ഞാൻ വളരെ ആശ്ചര്യപ്പെട്ടു:

മാതൃക	മോഡൽ 1	മോഡൽ 2	മോഡൽ 3	മേളം
ട്യൂണിംഗ് ഇല്ലാതെ	0.7403	0.7404	0.7404	0.7407
ട്യൂണിംഗ് ഉപയോഗിച്ച്	0.7406	0.7405	0.7406	0.7408

മോഡലിന്റെ ദ്രുത ആപ്ലിക്കേഷൻ ആവശ്യമില്ലെങ്കിൽ, ഒപ്റ്റിമൈസ് ചെയ്യാത്ത പാരാമീറ്ററുകൾ ഉപയോഗിച്ച് നിരവധി മോഡലുകളുടെ ഒരു സമന്വയം ഉപയോഗിച്ച് പാരാമീറ്ററുകളുടെ തിരഞ്ഞെടുപ്പ് മാറ്റിസ്ഥാപിക്കുന്നതാണ് നല്ലതെന്ന് ഞാൻ സ്വയം നിഗമനം ചെയ്തു.

ജിപിയുവിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി സെർജി ഡാറ്റാസെറ്റിന്റെ വലുപ്പം ഒപ്റ്റിമൈസ് ചെയ്യുകയായിരുന്നു. ഡാറ്റയുടെ ഒരു ഭാഗം മുറിക്കുക എന്നതാണ് ഏറ്റവും ലളിതമായ ഓപ്ഷൻ, എന്നാൽ ഇത് പല തരത്തിൽ ചെയ്യാം:

• ഡാറ്റാസെറ്റ് മെമ്മറിയിൽ ചേരുന്നത് വരെ പഴയ ഡാറ്റ (ഫെബ്രുവരി ആരംഭം) ക്രമേണ നീക്കം ചെയ്യുക;
• ഏറ്റവും കുറഞ്ഞ പ്രാധാന്യമുള്ള സവിശേഷതകൾ നീക്കം ചെയ്യുക;
• ഒരു എൻട്രി മാത്രമുള്ള യൂസർ ഐഡികൾ നീക്കം ചെയ്യുക;
• ടെസ്റ്റിലുള്ള യൂസർഐഡികൾ മാത്രം വിടുക.

ആത്യന്തികമായി, എല്ലാ ഓപ്ഷനുകളിൽ നിന്നും ഒരു സമന്വയം ഉണ്ടാക്കുക.

അവസാന മേള

കഴിഞ്ഞ ദിവസം വൈകുന്നേരത്തോടെ, 0,742 ലഭിച്ച ഞങ്ങളുടെ മോഡലുകളുടെ ഒരു സമന്വയം ഞങ്ങൾ നിരത്തി. ഒറ്റരാത്രികൊണ്ട് ഞാൻ എന്റെ മോഡൽ ctr_complexity=2 ഉപയോഗിച്ച് സമാരംഭിച്ചു, 30 മിനിറ്റിനുപകരം 5 മണിക്കൂർ പരിശീലനം നൽകി. പുലർച്ചെ 4 മണിക്ക് മാത്രം അത് എണ്ണപ്പെട്ടു, ഞാൻ അവസാനത്തെ സമന്വയം ഉണ്ടാക്കി, അത് പബ്ലിക് ലീഡർബോർഡിൽ 0,7433 നൽകി.

പ്രശ്നം പരിഹരിക്കുന്നതിനുള്ള വ്യത്യസ്ത സമീപനങ്ങൾ കാരണം, ഞങ്ങളുടെ പ്രവചനങ്ങൾ ശക്തമായി പരസ്പരം ബന്ധപ്പെട്ടിരുന്നില്ല, ഇത് സമന്വയത്തിൽ നല്ല വർദ്ധനവ് നൽകി. ഒരു നല്ല സമന്വയം ലഭിക്കുന്നതിന്, റോ മോഡൽ പ്രവചനങ്ങൾ പ്രഡിക്‌ഷൻ (പ്രവചനം_തരം='റോഫോർമുലവാൾ') ഉപയോഗിക്കുകയും scale_pos_weight=neg_count/pos_count സജ്ജമാക്കുകയും ചെയ്യുന്നതാണ് നല്ലത്.

വെബ്സൈറ്റിൽ കാണാം സ്വകാര്യ ലീഡർബോർഡിൽ അന്തിമ ഫലങ്ങൾ.

മറ്റ് പരിഹാരങ്ങൾ

പല ടീമുകളും ശുപാർശ ചെയ്യുന്ന സിസ്റ്റം അൽഗോരിതങ്ങളുടെ കാനോനുകൾ പിന്തുടർന്നു. ഈ മേഖലയിൽ ഒരു വിദഗ്ദ്ധനല്ലാത്ത എനിക്ക് അവരെ വിലയിരുത്താൻ കഴിയില്ല, പക്ഷേ രസകരമായ 2 പരിഹാരങ്ങൾ ഞാൻ ഓർക്കുന്നു.

• നിക്കോളായ് അനോഖിന്റെ പരിഹാരം. Mail.ru ന്റെ ജീവനക്കാരനായ നിക്കോളായ് സമ്മാനങ്ങൾക്കായി അപേക്ഷിച്ചില്ല, അതിനാൽ അവന്റെ ലക്ഷ്യം പരമാവധി വേഗത കൈവരിക്കുക എന്നതല്ല, മറിച്ച് എളുപ്പത്തിൽ അളക്കാവുന്ന പരിഹാരം നേടുക എന്നതായിരുന്നു.
• ജൂറി സമ്മാനം നേടിയ ടീമിന്റെ തീരുമാനം അടിസ്ഥാനമാക്കി ഫേസ്ബുക്കിൽ നിന്നുള്ള ഈ ലേഖനം, മാനുവൽ വർക്കില്ലാതെ വളരെ നല്ല ഇമേജ് ക്ലസ്റ്ററിങ്ങ് അനുവദിച്ചു.

തീരുമാനം

എന്റെ ഓർമ്മയിൽ ഏറ്റവും കൂടുതൽ പതിഞ്ഞത്:

• ഡാറ്റയിൽ വർഗ്ഗീകരണ സവിശേഷതകൾ ഉണ്ടെങ്കിൽ, ടാർഗെറ്റ് എൻകോഡിംഗ് എങ്ങനെ ശരിയായി ചെയ്യണമെന്ന് നിങ്ങൾക്കറിയാമെങ്കിൽ, ക്യാറ്റ്ബൂസ്റ്റ് പരീക്ഷിക്കുന്നതാണ് നല്ലത്.
• നിങ്ങൾ ഒരു മത്സരത്തിൽ പങ്കെടുക്കുകയാണെങ്കിൽ, learning_rate, ആവർത്തനങ്ങൾ എന്നിവ ഒഴികെയുള്ള പാരാമീറ്ററുകൾ തിരഞ്ഞെടുത്ത് സമയം പാഴാക്കരുത്. നിരവധി മോഡലുകളുടെ ഒരു സമന്വയം ഉണ്ടാക്കുക എന്നതാണ് വേഗത്തിലുള്ള പരിഹാരം.
• ജിപിയുവിൽ ബൂസ്റ്റിംഗുകൾ പഠിക്കാം. ക്യാറ്റ്‌ബൂസ്റ്റിന് GPU-യിൽ വളരെ വേഗത്തിൽ പഠിക്കാൻ കഴിയും, എന്നാൽ ഇത് വളരെയധികം മെമ്മറി നശിപ്പിക്കുന്നു.
• ആശയങ്ങളുടെ വികസനത്തിലും പരിശോധനയിലും, ഒരു ചെറിയ rsm~=0.2 (സിപിയു മാത്രം), ctr_complexity=1 എന്നിവ സജ്ജീകരിക്കുന്നതാണ് നല്ലത്.
• മറ്റ് ടീമുകളിൽ നിന്ന് വ്യത്യസ്തമായി, ഞങ്ങളുടെ മോഡലുകളുടെ സമന്വയം വലിയ വർദ്ധനവ് നൽകി. ഞങ്ങൾ ആശയങ്ങൾ കൈമാറുകയും വിവിധ ഭാഷകളിൽ എഴുതുകയും ചെയ്തു. ഡാറ്റ വിഭജിക്കുന്നതിന് ഞങ്ങൾക്ക് വ്യത്യസ്തമായ ഒരു സമീപനമുണ്ടായിരുന്നു, ഓരോന്നിനും അതിന്റേതായ ബഗുകൾ ഉണ്ടെന്ന് ഞാൻ കരുതുന്നു.
• റാങ്കിംഗ് ഒപ്റ്റിമൈസേഷൻ ക്ലാസിഫിക്കേഷൻ ഒപ്റ്റിമൈസേഷനേക്കാൾ മോശമായി പ്രവർത്തിച്ചത് എന്തുകൊണ്ടാണെന്ന് വ്യക്തമല്ല.
• ടെക്‌സ്‌റ്റുകളിൽ പ്രവർത്തിച്ച് കുറച്ച് അനുഭവവും ശുപാർശ ചെയ്യുന്ന സംവിധാനങ്ങൾ എങ്ങനെ നിർമ്മിക്കപ്പെടുന്നു എന്നതിനെക്കുറിച്ചുള്ള ധാരണയും എനിക്ക് ലഭിച്ചു.

ലഭിച്ച വികാരങ്ങൾക്കും അറിവിനും സമ്മാനങ്ങൾക്കും സംഘാടകർക്ക് നന്ദി.

അവലംബം: www.habr.com