ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ. ഇതെല്ലാം എങ്ങോട്ടാണ് പോകുന്നത്?

ലേഖനം രണ്ട് ഭാഗങ്ങൾ ഉൾക്കൊള്ളുന്നു:

1. ചിത്രങ്ങളിലെ ഒബ്‌ജക്‌റ്റ് കണ്ടെത്തലിനായുള്ള ചില നെറ്റ്‌വർക്ക് ആർക്കിടെക്ചറുകളുടെ ഒരു ഹ്രസ്വ വിവരണം, എനിക്കായി ഉറവിടങ്ങളിലേക്കുള്ള ഏറ്റവും മനസ്സിലാക്കാവുന്ന ലിങ്കുകളുള്ള ഇമേജ് സെഗ്‌മെന്റേഷൻ. ഞാൻ വീഡിയോ വിശദീകരണങ്ങൾ തിരഞ്ഞെടുക്കാൻ ശ്രമിച്ചു, വെയിലത്ത് റഷ്യൻ ഭാഷയിൽ.
2. ന്യൂറൽ നെറ്റ്‌വർക്ക് ആർക്കിടെക്ചറുകളുടെ വികസനത്തിന്റെ ദിശ മനസ്സിലാക്കാനുള്ള ശ്രമമാണ് രണ്ടാം ഭാഗം. അവ അടിസ്ഥാനമാക്കിയുള്ള സാങ്കേതികവിദ്യകളും.

ചിത്രം 1 - ന്യൂറൽ നെറ്റ്‌വർക്ക് ആർക്കിടെക്ചറുകൾ മനസ്സിലാക്കുന്നത് എളുപ്പമല്ല

ഒരു ആൻഡ്രോയിഡ് ഫോണിൽ ഒബ്ജക്റ്റ് വർഗ്ഗീകരണത്തിനും കണ്ടെത്തലിനും വേണ്ടി രണ്ട് ഡെമോ ആപ്ലിക്കേഷനുകൾ ഉണ്ടാക്കിക്കൊണ്ടാണ് ഇതെല്ലാം ആരംഭിച്ചത്:

• ബാക്ക്-എൻഡ് ഡെമോ, സെർവറിൽ ഡാറ്റ പ്രോസസ്സ് ചെയ്യുകയും ഫോണിലേക്ക് കൈമാറുകയും ചെയ്യുമ്പോൾ. മൂന്ന് തരം കരടികളുടെ ചിത്ര വർഗ്ഗീകരണം: തവിട്ട്, കറുപ്പ്, ടെഡി.
• ഫ്രണ്ട്-എൻഡ് ഡെമോഡാറ്റ ഫോണിൽ തന്നെ പ്രോസസ്സ് ചെയ്യുമ്പോൾ. മൂന്ന് തരത്തിലുള്ള ഒബ്ജക്റ്റ് കണ്ടെത്തൽ (ഒബ്ജക്റ്റ് ഡിറ്റക്ഷൻ): ഹസൽനട്ട്, അത്തിപ്പഴം, ഈന്തപ്പഴം.

ഇമേജ് ക്ലാസിഫിക്കേഷൻ, ഒരു ഇമേജിലെ ഒബ്ജക്റ്റ് ഡിറ്റക്ഷൻ എന്നീ ജോലികൾ തമ്മിൽ വ്യത്യാസമുണ്ട് ഇമേജ് സെഗ്മെന്റേഷൻ. അതിനാൽ, ഏത് ന്യൂറൽ നെറ്റ്‌വർക്ക് ആർക്കിടെക്ചറുകളാണ് ചിത്രങ്ങളിലെ വസ്തുക്കളെ കണ്ടെത്തുന്നതെന്നും ഏതൊക്കെ സെഗ്‌മെന്റ് ചെയ്യാമെന്നും കണ്ടെത്തേണ്ടതുണ്ട്. എനിക്കായി ഉറവിടങ്ങളിലേക്കുള്ള ഏറ്റവും മനസ്സിലാക്കാവുന്ന ലിങ്കുകളുള്ള ആർക്കിടെക്ചറുകളുടെ ഇനിപ്പറയുന്ന ഉദാഹരണങ്ങൾ ഞാൻ കണ്ടെത്തി:

• R-CNN അടിസ്ഥാനമാക്കിയുള്ള വാസ്തുവിദ്യകളുടെ ഒരു പരമ്പര (Rഉള്ള പ്രദേശങ്ങൾ Convolution Nയൂറൽ Networks സവിശേഷതകൾ): R-CNN, ഫാസ്റ്റ് R-CNN, വേഗതയേറിയ R-CNN, മാസ്ക് R-CNN. ഒരു ഇമേജിലെ ഒബ്‌ജക്‌റ്റ് കണ്ടെത്തുന്നതിന്, റീജിയൻ പ്രൊപ്പോസൽ നെറ്റ്‌വർക്ക് (ആർ‌പി‌എൻ) മെക്കാനിസം ഉപയോഗിച്ച് ബൗണ്ടിംഗ് ബോക്‌സുകൾ അനുവദിച്ചിരിക്കുന്നു. തുടക്കത്തിൽ, RPN-ന് പകരം വേഗത കുറഞ്ഞ സെലക്ടീവ് സെർച്ച് മെക്കാനിസമാണ് ഉപയോഗിച്ചിരുന്നത്. തിരഞ്ഞെടുത്ത പരിമിതമായ പ്രദേശങ്ങൾ വർഗ്ഗീകരണത്തിനായി ഒരു പരമ്പരാഗത ന്യൂറൽ നെറ്റ്‌വർക്കിന്റെ ഇൻപുട്ടിലേക്ക് നൽകുന്നു. R-CNN ആർക്കിടെക്ചറിന് പരിമിതമായ പ്രദേശങ്ങളിൽ വ്യക്തമായ "ഫോർ" ലൂപ്പുകൾ ഉണ്ട്, AlexNet ഇന്റേണൽ നെറ്റ്‌വർക്ക് വഴി മൊത്തം 2000 റൺസ് വരെ. വ്യക്തമായ "ഫോർ" ലൂപ്പുകൾ ഇമേജ് പ്രോസസ്സിംഗ് വേഗത കുറയ്ക്കുന്നു. ആർക്കിടെക്ചറിന്റെ ഓരോ പുതിയ പതിപ്പിലും ആന്തരിക ന്യൂറൽ നെറ്റ്‌വർക്കിലൂടെ പ്രവർത്തിക്കുന്ന വ്യക്തമായ ലൂപ്പുകളുടെ എണ്ണം കുറയുന്നു, കൂടാതെ വേഗത വർദ്ധിപ്പിക്കുന്നതിനും ഒബ്‌ജക്റ്റ് കണ്ടെത്തൽ ചുമതലയെ മാസ്‌ക് R-CNN-ലെ ഒബ്‌ജക്റ്റ് സെഗ്‌മെന്റേഷൻ ഉപയോഗിച്ച് മാറ്റിസ്ഥാപിക്കുന്നതിനും ഡസൻ കണക്കിന് മറ്റ് മാറ്റങ്ങൾ വരുത്തിയിട്ടുണ്ട്.
• YOLO (You Only Lഓക്ക് Once) മൊബൈൽ ഉപകരണങ്ങളിൽ തത്സമയം വസ്തുക്കളെ തിരിച്ചറിഞ്ഞ ആദ്യത്തെ ന്യൂറൽ നെറ്റ്‌വർക്ക് ആണ്. വ്യതിരിക്തമായ സവിശേഷത: ഒറ്റ ഓട്ടത്തിൽ വസ്തുക്കളെ വേർതിരിച്ചറിയുക (ഒരിക്കൽ മാത്രം നോക്കുക). അതായത്, YOLO ആർക്കിടെക്ചറിൽ വ്യക്തമായ “ഫോർ” ലൂപ്പുകളൊന്നുമില്ല, അതിനാലാണ് നെറ്റ്‌വർക്ക് വേഗത്തിൽ പ്രവർത്തിക്കുന്നത്. ഉദാഹരണത്തിന്, ഈ സാമ്യം: NumPy-യിൽ, മെട്രിക്സുകൾ ഉപയോഗിച്ച് പ്രവർത്തനങ്ങൾ നടത്തുമ്പോൾ, വ്യക്തമായ "ഫോർ" ലൂപ്പുകളൊന്നും ഇല്ല, അവ NumPy യിൽ സി പ്രോഗ്രാമിംഗ് ഭാഷയിലൂടെ ആർക്കിടെക്ചറിന്റെ താഴ്ന്ന തലങ്ങളിൽ നടപ്പിലാക്കുന്നു. YOLO മുൻകൂട്ടി നിശ്ചയിച്ച വിൻഡോകളുടെ ഒരു ഗ്രിഡ് ഉപയോഗിക്കുന്നു. ഒരേ ഒബ്ജക്റ്റ് ഒന്നിലധികം തവണ നിർവചിക്കപ്പെടുന്നത് തടയാൻ, വിൻഡോ ഓവർലാപ്പ് കോഫിഫിഷ്യന്റ് (IoU) ഉപയോഗിക്കുന്നു. Iകവല oVer Uനിയോൺ). ഈ വാസ്തുവിദ്യ വിശാലമായ ശ്രേണിയിൽ പ്രവർത്തിക്കുന്നു, ഉയർന്നതാണ് ദൃഢത: ഒരു മോഡലിന് ഫോട്ടോഗ്രാഫുകളിൽ പരിശീലനം നൽകാമെങ്കിലും കൈകൊണ്ട് വരച്ച ചിത്രങ്ങളിൽ മികച്ച പ്രകടനം കാഴ്ചവെക്കാം.
• എസ്എസ്ഡി (Sഞരമ്പ് Sചൂടുള്ള മൾട്ടിബോക്സ് Detector) - YOLO ആർക്കിടെക്ചറിന്റെ ഏറ്റവും വിജയകരമായ "ഹാക്കുകൾ" ഉപയോഗിക്കുന്നു (ഉദാഹരണത്തിന്, പരമാവധി അടിച്ചമർത്തൽ) കൂടാതെ ന്യൂറൽ നെറ്റ്‌വർക്ക് വേഗത്തിലും കൃത്യമായും പ്രവർത്തിക്കാൻ പുതിയവ ചേർക്കുന്നു. വ്യതിരിക്തമായ സവിശേഷത: ഇമേജ് പിരമിഡിൽ നൽകിയിരിക്കുന്ന വിൻഡോകളുടെ ഗ്രിഡ് (ഡിഫോൾട്ട് ബോക്സ്) ഉപയോഗിച്ച് ഒറ്റ ഓട്ടത്തിൽ ഒബ്ജക്റ്റുകൾ വേർതിരിച്ചറിയുക. ഇമേജ് പിരമിഡ് കൺവ്യൂഷൻ ടെൻസറുകളിൽ എൻകോഡ് ചെയ്തിരിക്കുന്നത് തുടർച്ചയായ കൺവല്യൂഷനിലൂടെയും പൂളിംഗ് ഓപ്പറേഷനുകളിലൂടെയും ആണ് (മാക്സ് പൂളിംഗ് ഓപ്പറേഷനിൽ, സ്പേഷ്യൽ അളവ് കുറയുന്നു). ഈ രീതിയിൽ, ഒരു നെറ്റ്‌വർക്ക് റണ്ണിൽ വലുതും ചെറുതുമായ വസ്തുക്കളെ നിർണ്ണയിക്കുന്നു.
• MobileSSD (മൊബൈൽNetV2+ എസ്എസ്ഡി) രണ്ട് ന്യൂറൽ നെറ്റ്‌വർക്ക് ആർക്കിടെക്ചറുകളുടെ സംയോജനമാണ്. ആദ്യ നെറ്റ്‌വർക്ക് MobileNetV2 വേഗത്തിൽ പ്രവർത്തിക്കുകയും തിരിച്ചറിയൽ കൃത്യത വർദ്ധിപ്പിക്കുകയും ചെയ്യുന്നു. ആദ്യം ഉപയോഗിച്ചിരുന്ന VGG-2-ന് പകരം MobileNetV16 ഉപയോഗിക്കുന്നു യഥാർത്ഥ ലേഖനം. രണ്ടാമത്തെ SSD നെറ്റ്‌വർക്ക് ചിത്രത്തിലെ ഒബ്‌ജക്റ്റുകളുടെ സ്ഥാനം നിർണ്ണയിക്കുന്നു.
• സ്ക്വീസ്നെറ്റ് - വളരെ ചെറുതും എന്നാൽ കൃത്യവുമായ ഒരു ന്യൂറൽ നെറ്റ്‌വർക്ക്. സ്വയം, അത് ഒബ്ജക്റ്റ് കണ്ടെത്തൽ പ്രശ്നം പരിഹരിക്കുന്നില്ല. എന്നിരുന്നാലും, വ്യത്യസ്ത വാസ്തുവിദ്യകളുടെ സംയോജനത്തിൽ ഇത് ഉപയോഗിക്കാം. കൂടാതെ മൊബൈൽ ഉപകരണങ്ങളിൽ ഉപയോഗിക്കുന്നു. ഡാറ്റ ആദ്യം നാല് 1×1 കൺവല്യൂഷണൽ ഫിൽട്ടറുകളായി കംപ്രസ് ചെയ്യുകയും പിന്നീട് നാല് 1×1, നാല് 3×3 കൺവ്യൂഷണൽ ഫിൽട്ടറുകളായി വികസിപ്പിക്കുകയും ചെയ്യുന്നു എന്നതാണ് പ്രത്യേകത. ഡാറ്റ കംപ്രഷൻ-വിപുലീകരണത്തിന്റെ അത്തരം ഒരു ആവർത്തനത്തെ "ഫയർ മൊഡ്യൂൾ" എന്ന് വിളിക്കുന്നു.
• ഡീപ് ലാബ് (സെമാന്റിക് ഇമേജ് സെഗ്മെന്റേഷൻ വിത്ത് ഡീപ് കൺവ്യൂഷണൽ നെറ്റ്സ്) - ചിത്രത്തിലെ വസ്തുക്കളുടെ വിഭജനം. വാസ്തുവിദ്യയുടെ ഒരു സവിശേഷമായ സവിശേഷത, സ്പേഷ്യൽ റെസല്യൂഷൻ സംരക്ഷിക്കുന്ന ഡൈലേറ്റഡ് കൺവ്യൂഷൻ ആണ്. ഒരു ഗ്രാഫിക്കൽ പ്രോബബിലിസ്റ്റിക് മോഡൽ (കണ്ടീഷണൽ റാൻഡം ഫീൽഡ്) ഉപയോഗിച്ച് ഫലങ്ങളുടെ ഒരു പോസ്റ്റ്-പ്രോസസ്സിംഗ് ഘട്ടം പിന്തുടരുന്നു, ഇത് സെഗ്മെന്റേഷനിലെ ചെറിയ ശബ്ദം നീക്കംചെയ്യാനും സെഗ്മെന്റഡ് ഇമേജിന്റെ ഗുണനിലവാരം മെച്ചപ്പെടുത്താനും നിങ്ങളെ അനുവദിക്കുന്നു. "ഗ്രാഫിക്കൽ പ്രോബബിലിസ്റ്റിക് മോഡൽ" എന്ന ഭീമാകാരമായ പേരിന് പിന്നിൽ ഒരു പരമ്പരാഗത ഗാസിയൻ ഫിൽട്ടർ മറയ്ക്കുന്നു, ഇത് ഏകദേശം അഞ്ച് പോയിന്റുകൾ കൊണ്ട് കണക്കാക്കുന്നു.
• ഉപകരണം കണ്ടുപിടിക്കാൻ ശ്രമിച്ചു RefineDet (ഒറ്റ-ഷോട്ട് ശുദ്ധീകരിക്കുകഒബ്ജക്റ്റിനായുള്ള ന്യൂറൽ നെറ്റ്‌വർക്ക് Detection), പക്ഷേ എനിക്ക് കാര്യമായി മനസ്സിലായില്ല.
• "ശ്രദ്ധ" സാങ്കേതികവിദ്യ എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്നും ഞാൻ നോക്കി: വീഡിയോ1, വീഡിയോ2, വീഡിയോ3. "ശ്രദ്ധ" ആർക്കിടെക്ചറിന്റെ സവിശേഷമായ ഒരു സവിശേഷത, ചിത്രത്തിൽ കൂടുതൽ ശ്രദ്ധയുള്ള പ്രദേശങ്ങളുടെ സ്വയമേവ തിരഞ്ഞെടുക്കുന്നതാണ് (RoI, Rസൈന്യം of Iതാൽപ്പര്യം) അറ്റൻഷൻ യൂണിറ്റ് എന്ന ന്യൂറൽ നെറ്റ്‌വർക്ക് ഉപയോഗിക്കുന്നു. വർദ്ധിച്ച ശ്രദ്ധയുടെ മേഖലകൾ ബൗണ്ടിംഗ് ബോക്സുകൾക്ക് സമാനമാണ്, എന്നാൽ അവയിൽ നിന്ന് വ്യത്യസ്തമായി, അവ ചിത്രത്തിൽ ഉറപ്പിച്ചിട്ടില്ല കൂടാതെ മങ്ങിയ അതിരുകൾ ഉണ്ടായിരിക്കാം. തുടർന്ന്, കൂടുതൽ ശ്രദ്ധയുള്ള പ്രദേശങ്ങളിൽ നിന്ന്, അടയാളങ്ങൾ (സവിശേഷതകൾ) വേർതിരിച്ചെടുക്കുന്നു, അവ ആർക്കിടെക്ചറുകളുള്ള ആവർത്തിച്ചുള്ള ന്യൂറൽ നെറ്റ്‌വർക്കുകളിലേക്ക് "ഫീഡ്" ചെയ്യുന്നു. LSDM, GRU അല്ലെങ്കിൽ വാനില RNN. ആവർത്തിച്ചുള്ള ന്യൂറൽ നെറ്റ്‌വർക്കുകൾക്ക് സവിശേഷതകളുടെ ബന്ധം ഒരു ശ്രേണിയിൽ വിശകലനം ചെയ്യാൻ കഴിയും. ആവർത്തിച്ചുള്ള ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ തുടക്കത്തിൽ മറ്റ് ഭാഷകളിലേക്ക് വാചകം വിവർത്തനം ചെയ്യുന്നതിനും ഇപ്പോൾ വിവർത്തനത്തിനും ഉപയോഗിച്ചിരുന്നു ചിത്രങ്ങൾ ടെക്‌സ്‌റ്റിലേക്ക് и ചിത്രത്തിലേക്കുള്ള വാചകം.

ഞങ്ങൾ ഈ വാസ്തുവിദ്യകൾ പര്യവേക്ഷണം ചെയ്യുമ്പോൾ എനിക്കൊന്നും മനസ്സിലാകുന്നില്ലെന്ന് മനസ്സിലായി. എന്റെ ന്യൂറൽ നെറ്റ്‌വർക്കിന് ശ്രദ്ധാ സംവിധാനത്തിൽ പ്രശ്‌നങ്ങളുണ്ടെന്നല്ല. ഈ ആർക്കിടെക്ചറുകളെല്ലാം സൃഷ്ടിക്കുന്നത് ഒരുതരം വലിയ ഹാക്കത്തോൺ പോലെയാണ്, അവിടെ രചയിതാക്കൾ ഹാക്കുകളിൽ മത്സരിക്കുന്നു. ബുദ്ധിമുട്ടുള്ള ഒരു സോഫ്റ്റ്‌വെയർ പ്രശ്‌നത്തിനുള്ള പെട്ടെന്നുള്ള പരിഹാരമാണ് ഹാക്ക്. അതായത്, ഈ എല്ലാ വാസ്തുവിദ്യകളും തമ്മിൽ ദൃശ്യവും മനസ്സിലാക്കാവുന്നതുമായ ലോജിക്കൽ കണക്ഷൻ ഇല്ല. അവർ പരസ്പരം കടമെടുക്കുന്ന ഏറ്റവും വിജയകരമായ ഹാക്കുകളുടെ ഒരു കൂട്ടമാണ് അവരെ ഒന്നിപ്പിക്കുന്നത്, കൂടാതെ എല്ലാവർക്കും പൊതുവായതും ക്ലോസ്ഡ്-ലൂപ്പ് കൺവ്യൂഷൻ ഓപ്പറേഷൻ (പിശക് backpropagation, backpropagation). ഇല്ല സിസ്റ്റങ്ങളുടെ ചിന്ത! എന്താണ് മാറ്റേണ്ടതെന്നും നിലവിലുള്ള നേട്ടങ്ങൾ എങ്ങനെ ഒപ്റ്റിമൈസ് ചെയ്യണമെന്നും വ്യക്തമല്ല.

ഹാക്കുകൾ തമ്മിലുള്ള ലോജിക്കൽ കണക്ഷന്റെ അഭാവത്തിന്റെ ഫലമായി, അവ ഓർമ്മിക്കാനും പ്രായോഗികമായി പ്രയോഗിക്കാനും വളരെ ബുദ്ധിമുട്ടാണ്. ഇത് വിഘടിച്ച അറിവാണ്. ഏറ്റവും മികച്ചത്, രസകരവും അപ്രതീക്ഷിതവുമായ കുറച്ച് നിമിഷങ്ങൾ ഓർമ്മിക്കപ്പെടുന്നു, പക്ഷേ മനസ്സിലാക്കിയതും മനസ്സിലാക്കാൻ കഴിയാത്തതുമായ മിക്കതും കുറച്ച് ദിവസങ്ങൾക്കുള്ളിൽ മെമ്മറിയിൽ നിന്ന് അപ്രത്യക്ഷമാകും. ഒരാഴ്‌ചയ്‌ക്കുള്ളിൽ നിങ്ങൾ വാസ്‌തുവിദ്യയുടെ പേരെങ്കിലും ഓർക്കുന്നത് നന്നായിരിക്കും. എന്നാൽ ലേഖനങ്ങൾ വായിക്കാനും അവലോകന വീഡിയോകൾ കാണാനും നിരവധി മണിക്കൂറുകളും ദിവസങ്ങളും ജോലി സമയം ചെലവഴിച്ചു!

ചിത്രം 2 - ന്യൂറൽ നെറ്റ്‌വർക്കുകളുടെ മൃഗശാല

ശാസ്‌ത്രീയ ലേഖനങ്ങളുടെ മിക്ക രചയിതാക്കളും, എന്റെ വ്യക്തിപരമായ അഭിപ്രായത്തിൽ, ഈ ശിഥിലമായ അറിവ് പോലും വായനക്കാരന് മനസ്സിലാകുന്നില്ലെന്ന് ഉറപ്പാക്കാൻ സാധ്യമായതെല്ലാം ചെയ്യുന്നു. എന്നാൽ "നേർത്ത വായുവിൽ നിന്ന്" എടുത്ത സൂത്രവാക്യങ്ങളുള്ള പത്ത് വരി വാക്യങ്ങളിലെ പങ്കാളിത്ത ശൈലികൾ ഒരു പ്രത്യേക ലേഖനത്തിനുള്ള വിഷയമാണ് (പ്രശ്നം പ്രസിദ്ധീകരിക്കുക അല്ലെങ്കിൽ നശിക്കുക).

ഇക്കാരണത്താൽ, ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ ഉപയോഗിച്ച് വിവരങ്ങൾ ചിട്ടപ്പെടുത്തേണ്ടതിന്റെ ആവശ്യകതയുണ്ട്, അതുവഴി മനസ്സിലാക്കലിന്റെയും ഓർമ്മപ്പെടുത്തലിന്റെയും ഗുണനിലവാരം വർദ്ധിപ്പിക്കുക. അതിനാൽ, കൃത്രിമ ന്യൂറൽ നെറ്റ്‌വർക്കുകളുടെ വ്യക്തിഗത സാങ്കേതികവിദ്യകളുടെയും ആർക്കിടെക്ചറുകളുടെയും വിശകലനത്തിന്റെ പ്രധാന വിഷയം ഇനിപ്പറയുന്ന ജോലിയായിരുന്നു: ഇതെല്ലാം എവിടേക്കാണ് പോകുന്നതെന്ന് കണ്ടെത്തുക, അല്ലാതെ ഏതെങ്കിലും പ്രത്യേക ന്യൂറൽ നെറ്റ്‌വർക്കിന്റെ ഉപകരണമല്ല.

ഇതെല്ലാം എങ്ങോട്ടാണ് പോകുന്നത്? പ്രധാന ഫലങ്ങൾ:

• കഴിഞ്ഞ രണ്ട് വർഷങ്ങളിലെ മെഷീൻ ലേണിംഗ് സ്റ്റാർട്ടപ്പുകളുടെ എണ്ണം കുത്തനെ വീണു. സാധ്യമായ കാരണം: "ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ ഇനി പുതിയതല്ല."
• ഒരു ലളിതമായ പ്രശ്നം പരിഹരിക്കാൻ ആർക്കും ഒരു ന്യൂറൽ നെറ്റ്‌വർക്ക് സൃഷ്ടിക്കാൻ കഴിയും. ഇത് ചെയ്യുന്നതിന്, "മോഡൽ മൃഗശാല" യിൽ നിന്ന് ഒരു റെഡിമെയ്ഡ് മോഡൽ എടുത്ത് ന്യൂറൽ നെറ്റ്‌വർക്കിന്റെ അവസാന പാളി പരിശീലിപ്പിക്കുക (കൈമാറ്റം പഠനം) നിന്ന് റെഡിമെയ്ഡ് ഡാറ്റയിൽ Google ഡാറ്റാസെറ്റ് തിരയൽ അല്ലെങ്കിൽ നിന്ന് 25 ആയിരം Kaggle ഡാറ്റാസെറ്റുകൾ സൗജന്യമായി ക്ലൗഡ് ജൂപ്പിറ്റർ നോട്ട്ബുക്ക്.
• ന്യൂറൽ നെറ്റ്‌വർക്കുകളുടെ വലിയ നിർമ്മാതാക്കൾ സൃഷ്ടിക്കാൻ തുടങ്ങി "മാതൃക മൃഗശാലകൾ" (മാതൃക മൃഗശാല). അവ ഉപയോഗിച്ച് നിങ്ങൾക്ക് വേഗത്തിൽ ഒരു വാണിജ്യ ആപ്ലിക്കേഷൻ സൃഷ്ടിക്കാൻ കഴിയും: ടിഎഫ് ഹബ് ടെൻസർഫ്ലോയ്‌ക്ക്, എംഎംഡിടെക്ഷൻ PyTorch-ന്, ഡിറ്റക്ട്രോൺ കഫേ2-ന്, ചെയിനർ-മോഡൽസൂ ചെയിനറിനും другие.
• ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ പ്രവർത്തിക്കുന്നു തൽസമയം (തത്സമയം) മൊബൈൽ ഉപകരണങ്ങളിൽ. സെക്കൻഡിൽ 10 മുതൽ 50 വരെ ഫ്രെയിമുകൾ.
• ഫോണുകളിലും (TF ലൈറ്റ്), ബ്രൗസറുകളിലും (TF.js) ന്യൂറൽ നെറ്റ്‌വർക്കുകളുടെ ഉപയോഗം വീട്ടുപകരണങ്ങൾ (ഐഒടി, Iഇന്റർനെറ്റ് of Tഹിംഗ്സ്). ഹാർഡ്‌വെയർ തലത്തിൽ (ന്യൂറൽ ആക്സിലറേറ്ററുകൾ) ന്യൂറൽ നെറ്റ്‌വർക്കുകളെ ഇതിനകം പിന്തുണയ്ക്കുന്ന ഫോണുകളിൽ പ്രത്യേകിച്ചും.
• “എല്ലാ ഉപകരണത്തിനും, വസ്ത്രത്തിനും, ഒരുപക്ഷേ ഭക്ഷണത്തിനും ഉണ്ടായിരിക്കും IP-v6 വിലാസം പരസ്പരം ആശയവിനിമയം നടത്തുക" - സെബാസ്റ്റ്യൻ തുരുത്തി.
• മെഷീൻ ലേണിംഗിനെക്കുറിച്ചുള്ള പ്രസിദ്ധീകരണങ്ങളുടെ എണ്ണം വളരാൻ തുടങ്ങി മൂറിന്റെ നിയമം മറികടക്കുക 2015 മുതൽ (ഓരോ രണ്ട് വർഷത്തിലും ഇരട്ടിയായി). വ്യക്തമായും, ലേഖനങ്ങൾ വിശകലനം ചെയ്യുന്നതിന് ഞങ്ങൾക്ക് ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ ആവശ്യമാണ്.
• ഇനിപ്പറയുന്ന സാങ്കേതികവിദ്യകൾ ജനപ്രീതി നേടുന്നു:
  • പൈടോർച്ച് - ജനപ്രീതി അതിവേഗം വളരുകയും ടെൻസർഫ്ലോയെ മറികടക്കുന്നതായി തോന്നുന്നു.
  • ഹൈപ്പർപാരാമീറ്ററുകളുടെ യാന്ത്രിക തിരഞ്ഞെടുപ്പ് യാന്ത്രിക - ജനപ്രീതി സുഗമമായി വളരുന്നു.
  • കൃത്യതയിൽ ക്രമാനുഗതമായ കുറവും കണക്കുകൂട്ടൽ വേഗതയിൽ വർദ്ധനവും: അവ്യക്തമായ യുക്തി, അൽഗോരിതങ്ങൾ ബൂസ്റ്റിംഗ്, കൃത്യതയില്ലാത്ത (ഏകദേശം) കണക്കുകൂട്ടലുകൾ, ക്വാണ്ടൈസേഷൻ (ന്യൂറൽ നെറ്റ്‌വർക്കിന്റെ ഭാരം പൂർണ്ണസംഖ്യകളാക്കി മാറ്റുമ്പോൾ), ന്യൂറൽ ആക്സിലറേറ്ററുകൾ.
  • വിവർത്തനം ചിത്രങ്ങൾ ടെക്‌സ്‌റ്റിലേക്ക് и ചിത്രത്തിലേക്കുള്ള വാചകം.
  • സൃഷ്ടി വീഡിയോയിൽ നിന്നുള്ള 3D വസ്തുക്കൾ, ഇപ്പോൾ തത്സമയം.
  • DL-ന്റെ പ്രധാന കാര്യം, ധാരാളം ഡാറ്റയുണ്ട്, പക്ഷേ അത് ശേഖരിക്കുന്നതും ലേബൽ ചെയ്യുന്നതും എളുപ്പമല്ല. അതിനാൽ, മാർക്ക്അപ്പ് ഓട്ടോമേഷൻ വികസിച്ചുകൊണ്ടിരിക്കുന്നു (യാന്ത്രിക വ്യാഖ്യാനം) ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ ഉപയോഗിക്കുന്ന ന്യൂറൽ നെറ്റ്‌വർക്കുകൾക്കായി.
• ന്യൂറൽ നെറ്റ്‌വർക്കുകൾക്കൊപ്പം, കമ്പ്യൂട്ടർ സയൻസ് പെട്ടെന്ന് മാറി പരീക്ഷണാത്മക ശാസ്ത്രം എഴുന്നേറ്റു പുനരുൽപാദന പ്രതിസന്ധി.
• കമ്പ്യൂട്ടിംഗ് ഒരു വിപണി മൂല്യമായി മാറിയപ്പോൾ ഐടി പണവും ന്യൂറൽ നെറ്റ്‌വർക്കുകളുടെ ജനപ്രീതിയും ഒരേസമയം ഉയർന്നുവന്നു. സമ്പദ്‌വ്യവസ്ഥ സ്വർണ്ണ, കറൻസി സമ്പദ്‌വ്യവസ്ഥയിൽ നിന്ന് മാറുകയാണ് സ്വർണ്ണ-കറൻസി-കമ്പ്യൂട്ടിംഗ്. എന്റെ ലേഖനം കാണുക സാമ്പത്തിക ഭൗതികശാസ്ത്രം ഐടി പണം പ്രത്യക്ഷപ്പെടാനുള്ള കാരണവും.

ക്രമേണ പുതിയൊരെണ്ണം പ്രത്യക്ഷപ്പെടുന്നു ML/DL പ്രോഗ്രാമിംഗ് രീതിശാസ്ത്രം (മെഷീൻ ലേണിംഗ് & ഡീപ് ലേണിംഗ്), പരിശീലനം ലഭിച്ച ന്യൂറൽ നെറ്റ്‌വർക്ക് മോഡലുകളുടെ ഒരു കൂട്ടമായി പ്രോഗ്രാമിനെ പ്രതിനിധീകരിക്കുന്നതിനെ അടിസ്ഥാനമാക്കിയുള്ളതാണ്.

ചിത്രം 3 - ഒരു പുതിയ പ്രോഗ്രാമിംഗ് രീതിയായി ML/DL

എന്നിരുന്നാലും, അത് ഒരിക്കലും പ്രത്യക്ഷപ്പെട്ടില്ല "ന്യൂറൽ നെറ്റ്‌വർക്ക് സിദ്ധാന്തം", അതിനുള്ളിൽ നിങ്ങൾക്ക് വ്യവസ്ഥാപിതമായി ചിന്തിക്കാനും പ്രവർത്തിക്കാനും കഴിയും. ഇപ്പോൾ "സിദ്ധാന്തം" എന്ന് വിളിക്കപ്പെടുന്നത് യഥാർത്ഥത്തിൽ പരീക്ഷണാത്മക, ഹ്യൂറിസ്റ്റിക് അൽഗോരിതങ്ങളാണ്.

എന്റെയും മറ്റ് ഉറവിടങ്ങളിലേക്കുള്ള ലിങ്കുകൾ:

• ഡാറ്റ സയൻസ് വാർത്താക്കുറിപ്പ്. പ്രധാനമായും ഇമേജ് പ്രോസസ്സിംഗ്. അത് സ്വീകരിക്കാൻ ആഗ്രഹിക്കുന്ന ആർക്കും ഒരു ഇ-മെയിൽ അയയ്‌ക്കുക (foobar167gmailcom). മെറ്റീരിയലുകൾ ശേഖരിക്കുന്നതിനനുസരിച്ച് ഞാൻ ലേഖനങ്ങളിലേക്കും വീഡിയോകളിലേക്കും ലിങ്കുകൾ അയയ്ക്കുന്നു.
• പൊതുവിവരങ്ങൾ കോഴ്സുകളുടെയും ലേഖനങ്ങളുടെയും പട്ടികഞാൻ പാസായതും കടന്നുപോകാൻ ആഗ്രഹിക്കുന്നതും.
• തുടക്കക്കാർക്കുള്ള കോഴ്‌സുകളും വീഡിയോകളും, എവിടെയാണ് നിങ്ങൾ ന്യൂറൽ നെറ്റ്‌വർക്കുകൾ പഠിക്കാൻ തുടങ്ങേണ്ടത്. പ്ലസ് ബ്രോഷർ "മെഷീൻ ലേണിംഗ്, ആർട്ടിഫിഷ്യൽ ന്യൂറൽ നെറ്റ്‌വർക്കുകൾക്കുള്ള ആമുഖം".
• ഉപയോഗപ്രദമായ ഉപകരണങ്ങൾ, അവിടെ ഓരോരുത്തരും തങ്ങൾക്കുവേണ്ടി രസകരമായ എന്തെങ്കിലും കണ്ടെത്തും.
• അവ വളരെ ഉപയോഗപ്രദമാണെന്ന് ഞങ്ങൾ കണ്ടെത്തി. ശാസ്ത്രീയ ലേഖനങ്ങളുടെ വിശകലനത്തിനുള്ള വീഡിയോ ചാനലുകൾ ഡാറ്റ സയൻസ് വഴി. അവ കണ്ടെത്തുക, സബ്‌സ്‌ക്രൈബ് ചെയ്യുക, നിങ്ങളുടെ സഹപ്രവർത്തകർക്കും എനിക്കും ലിങ്കുകൾ കൈമാറുക. ഉദാഹരണങ്ങൾ:
  • രണ്ട് മിനിറ്റ് പേപ്പറുകൾ
  • ഹെൻറി AI ലാബ്സ്
  • യാനിക് കിൽച്ചർ
  • കോഡ്എംപോറിയം
  • ബ്ലോഗ് Chengwei Zhang അല്ലെങ്കിൽ ടോണിഎക്സ്എൻ‌എം‌എക്സ് ഘട്ടം ഘട്ടമായുള്ള നിർദ്ദേശങ്ങളും ഓപ്പൺ സോഴ്‌സും സഹിതം.

Спасибо!

അവലംബം: www.habr.com