মেশিন লার্নিং বুদ্বুদ কি ফেটে গেছে, নাকি এটি একটি নতুন ভোরের সূচনা?

সম্প্রতি মুক্তি পেয়েছে একটি নিবন্ধ, যা সাম্প্রতিক বছরগুলিতে মেশিন লার্নিংয়ে একটি ভাল প্রবণতা দেখায়৷ সংক্ষেপে: গত দুই বছরে মেশিন লার্নিং স্টার্টআপের সংখ্যা কমে গেছে।

আমরা হব. আসুন "বুদবুদ ফেটেছে কিনা", "কীভাবে বাঁচতে হবে" দেখুন এবং এই স্কুইগলটি প্রথম স্থানে কোথা থেকে আসে সে সম্পর্কে কথা বলি।

প্রথমে, আসুন এই বক্ররেখার বুস্টার কী ছিল সে সম্পর্কে কথা বলি। সে কোথা থেকে এসেছে? তারা সম্ভবত সবকিছু মনে রাখবে বিজয় ইমেজনেট প্রতিযোগিতায় 2012 সালে মেশিন লার্নিং। সর্বোপরি, এটি প্রথম বিশ্বব্যাপী ঘটনা! কিন্তু বাস্তবে তা হয় না। এবং বক্ররেখার বৃদ্ধি একটু আগে শুরু হয়। আমি এটিকে কয়েকটি পয়েন্টে বিভক্ত করব।

1. 2008 "বিগ ডেটা" শব্দটির উত্থান দেখেছিল। আসল পণ্য শুরু হয়েছে প্রদর্শিত ২ 2010 সাল থেকে. বিগ ডেটা সরাসরি মেশিন লার্নিংয়ের সাথে সম্পর্কিত। বড় ডেটা ছাড়া, সেই সময়ে বিদ্যমান অ্যালগরিদমগুলির স্থিতিশীল অপারেশন অসম্ভব। আর এগুলো নিউরাল নেটওয়ার্ক নয়। 2012 পর্যন্ত, নিউরাল নেটওয়ার্কগুলি একটি প্রান্তিক সংখ্যালঘুদের সংরক্ষণ ছিল। কিন্তু তারপরে সম্পূর্ণ ভিন্ন অ্যালগরিদম কাজ করতে শুরু করে, যা বছরের পর বছর বা এমনকি কয়েক দশক ধরে বিদ্যমান ছিল: এসভিএম(1963,1993), এলোমেলো বন (২০১১), অ্যাডাবুস্ট (2003),... সেই বছরের স্টার্টআপগুলি প্রাথমিকভাবে স্ট্রাকচার্ড ডেটার স্বয়ংক্রিয় প্রক্রিয়াকরণের সাথে যুক্ত: নগদ নিবন্ধন, ব্যবহারকারী, বিজ্ঞাপন, আরও অনেক কিছু।

   এই প্রথম তরঙ্গের একটি ডেরিভেটিভ হল ফ্রেমওয়ার্কের একটি সেট যেমন XGBoost, CatBoost, LightGBM, ইত্যাদি।

2. 2011-2012 সালে কনভোলিউশনাল নিউরাল নেটওয়ার্ক ইমেজ স্বীকৃতি প্রতিযোগিতা একটি সংখ্যা জিতেছে. তাদের প্রকৃত ব্যবহার কিছুটা বিলম্বিত হয়েছিল। আমি বলব যে ব্যাপকভাবে অর্থবহ স্টার্টআপ এবং সমাধানগুলি 2014 সালে উপস্থিত হতে শুরু করেছিল। এটি হজম করতে দুই বছর লেগেছে যে নিউরনগুলি এখনও কাজ করে, সুবিধাজনক ফ্রেমওয়ার্ক তৈরি করতে যা যুক্তিসঙ্গত সময়ে ইনস্টল এবং চালু করা যেতে পারে, এমন পদ্ধতিগুলি বিকাশ করতে যা স্থিতিশীল করে এবং কনভারজেন্স সময়কে গতি দেয়।

   কনভোল্যুশনাল নেটওয়ার্কগুলি কম্পিউটারের দৃষ্টি সমস্যার সমাধান করা সম্ভব করেছে: চিত্রে চিত্র এবং বস্তুর শ্রেণিবিন্যাস, বস্তু সনাক্তকরণ, বস্তু এবং মানুষের স্বীকৃতি, চিত্রের উন্নতি ইত্যাদি।

3. 2015-2017। পুনরাবৃত্ত নেটওয়ার্ক বা তাদের অ্যানালগ (LSTM, GRU, TransformerNet, ইত্যাদি) এর উপর ভিত্তি করে অ্যালগরিদম এবং প্রকল্পগুলির বুম। ভাল-কার্যকর স্পিচ-টু-টেক্সট অ্যালগরিদম এবং মেশিন অনুবাদ সিস্টেম উপস্থিত হয়েছে। মৌলিক বৈশিষ্ট্যগুলি বের করার জন্য এগুলি আংশিকভাবে রূপান্তরমূলক নেটওয়ার্কগুলির উপর ভিত্তি করে। আংশিক কারণে যে আমরা সত্যিই বড় এবং ভাল ডেটাসেট সংগ্রহ করতে শিখেছি।

"বুদবুদ ফেটে গেছে? হাইপ কি অতিরিক্ত উত্তপ্ত? তারা কি ব্লকচেইন হিসাবে মারা গিয়েছিল?"
অন্যথায়! আগামীকাল সিরি আপনার ফোনে কাজ করা বন্ধ করে দেবে, এবং পরশু টেসলা পালা এবং ক্যাঙ্গারুর মধ্যে পার্থক্য জানবে না।

নিউরাল নেটওয়ার্ক ইতিমধ্যে কাজ করছে। তারা কয়েক ডজন ডিভাইস আছে. তারা সত্যিই আপনাকে অর্থ উপার্জন, বাজার এবং আপনার চারপাশের বিশ্ব পরিবর্তন করার অনুমতি দেয়। হাইপ একটু ভিন্ন দেখায়:

এটা ঠিক যে নিউরাল নেটওয়ার্ক আর নতুন কিছু নয়। হ্যাঁ, অনেক মানুষের উচ্চ প্রত্যাশা আছে। কিন্তু বিপুল সংখ্যক কোম্পানি নিউরন ব্যবহার করতে এবং তাদের উপর ভিত্তি করে পণ্য তৈরি করতে শিখেছে। নিউরনগুলি নতুন কার্যকারিতা প্রদান করে, আপনাকে চাকরি কাটাতে এবং পরিষেবার দাম কমাতে দেয়:

• উত্পাদনকারী সংস্থাগুলি উত্পাদন লাইনের ত্রুটিগুলি বিশ্লেষণ করতে অ্যালগরিদমগুলিকে একীভূত করছে।
• গবাদি পশুর খামারগুলি গরু নিয়ন্ত্রণের জন্য সিস্টেম ক্রয় করে।
• স্বয়ংক্রিয় সমন্বয়.
• স্বয়ংক্রিয় কল সেন্টার।
• স্ন্যাপচ্যাটে ফিল্টার। (ভাল, অন্তত কিছু দরকারী!)

কিন্তু প্রধান জিনিস, এবং সবচেয়ে সুস্পষ্ট নয়: "আর কোন নতুন ধারণা নেই, বা তারা তাত্ক্ষণিক মূলধন আনবে না।" নিউরাল নেটওয়ার্ক কয়েক ডজন সমস্যার সমাধান করেছে। এবং তারা আরও সিদ্ধান্ত নেবে। বিদ্যমান সমস্ত সুস্পষ্ট ধারণাগুলি অনেকগুলি স্টার্টআপের জন্ম দিয়েছে। কিন্তু যা কিছু ছিল তা ইতিমধ্যেই সংগ্রহ করা হয়েছে। গত দুই বছরে, আমি নিউরাল নেটওয়ার্ক ব্যবহারের জন্য একটি নতুন ধারণা জুড়ে আসিনি। একটি একক নতুন পদ্ধতি নয় (ভাল, ঠিক আছে, GAN এর সাথে কয়েকটি সমস্যা আছে)।

এবং প্রতিটি পরবর্তী স্টার্টআপ আরও জটিল। এটির জন্য আর দুটি লোকের প্রয়োজন নেই যারা খোলা ডেটা ব্যবহার করে একটি নিউরনকে প্রশিক্ষণ দেয়। এটির জন্য প্রোগ্রামার, একটি সার্ভার, মার্কারদের একটি দল, জটিল সমর্থন ইত্যাদি প্রয়োজন।

ফলস্বরূপ, কম স্টার্টআপ আছে। তবে উৎপাদন বেশি। লাইসেন্স প্লেট স্বীকৃতি যোগ করতে হবে? বাজারে প্রাসঙ্গিক অভিজ্ঞতা সহ শত শত বিশেষজ্ঞ আছে. আপনি কাউকে নিয়োগ দিতে পারেন এবং কয়েক মাসের মধ্যে আপনার কর্মচারী সিস্টেমটি তৈরি করবে। অথবা রেডিমেড কিনুন। কিন্তু একটা নতুন স্টার্টআপ করছেন?.. পাগল!

আপনাকে একটি ভিজিটর ট্র্যাকিং সিস্টেম তৈরি করতে হবে - কেন একগুচ্ছ লাইসেন্সের জন্য অর্থ প্রদান করবেন যখন আপনি 3-4 মাসের মধ্যে নিজের তৈরি করতে পারেন, আপনার ব্যবসার জন্য এটিকে তীক্ষ্ণ করুন।

এখন নিউরাল নেটওয়ার্কগুলি একই পথ দিয়ে যাচ্ছে যা কয়েক ডজন অন্যান্য প্রযুক্তির মধ্য দিয়ে গেছে।

আপনি কি মনে রাখবেন কিভাবে 1995 সাল থেকে "ওয়েবসাইট ডেভেলপার" ধারণা পরিবর্তিত হয়েছে? বাজার এখনও বিশেষজ্ঞদের সঙ্গে পরিপূর্ণ হয় না. খুব কম পেশাদার আছে। কিন্তু আমি বাজি ধরে বলতে পারি যে 5-10 বছরে জাভা প্রোগ্রামার এবং নিউরাল নেটওয়ার্ক ডেভেলপারের মধ্যে খুব বেশি পার্থক্য থাকবে না। বাজারে উভয় বিশেষজ্ঞ যথেষ্ট হবে.

কেবলমাত্র এক শ্রেণীর সমস্যা থাকবে যা নিউরন দ্বারা সমাধান করা যেতে পারে। একটি টাস্ক দেখা দিয়েছে - একজন বিশেষজ্ঞ নিয়োগ করুন।

"এরপর কি? প্রতিশ্রুত কৃত্রিম বুদ্ধিমত্তা কোথায়?

কিন্তু এখানে একটি ছোট কিন্তু আকর্ষণীয় ভুল বোঝাবুঝি আছে :)

বর্তমানে যে প্রযুক্তির স্তূপ বিদ্যমান, দৃশ্যত, তা আমাদের কৃত্রিম বুদ্ধিমত্তার দিকে নিয়ে যাবে না। ধারণা এবং তাদের অভিনবত্ব মূলত নিজেদের নিঃশেষ করেছে. এর উন্নয়নের বর্তমান স্তর ঝুলিতে কি সম্পর্কে কথা বলা যাক.

সীমাবদ্ধতা

স্ব-ড্রাইভিং গাড়ি দিয়ে শুরু করা যাক। এটা স্পষ্ট যে আজকের প্রযুক্তির সাহায্যে সম্পূর্ণ স্বায়ত্তশাসিত গাড়ি তৈরি করা সম্ভব। কিন্তু কত বছরে তা ঘটবে তা স্পষ্ট নয়। টেসলা বিশ্বাস করে যে এটি কয়েক বছরের মধ্যে ঘটবে -

আরও অনেকে আছে বিশেষজ্ঞ, যারা অনুমান করে এটি 5-10 বছর।

সম্ভবত, আমার মতে, 15 বছরে শহরগুলির অবকাঠামো নিজেই এমনভাবে পরিবর্তিত হবে যে স্বায়ত্তশাসিত গাড়িগুলির উত্থান অনিবার্য হয়ে উঠবে এবং এটি তার ধারাবাহিকতায় পরিণত হবে। কিন্তু এটাকে বুদ্ধিমত্তা বলা যাবে না। ডেটা ফিল্টারিং, অনুসন্ধান এবং পুনরায় প্রশিক্ষণের জন্য আধুনিক টেসলা একটি অত্যন্ত জটিল পাইপলাইন। এগুলি হল নিয়ম-বিধি-নিয়ম, ডেটা সংগ্রহ এবং সেগুলির উপর ফিল্টার (এখানে এখানে আমি এই সম্পর্কে একটু বেশি লিখেছি, বা থেকে দেখুন এই চিহ্ন).

প্রথম সমস্যা

এবং এই যেখানে আমরা দেখতে প্রথম মৌলিক সমস্যা. বড় তথ্য। ঠিক এটিই নিউরাল নেটওয়ার্ক এবং মেশিন লার্নিং এর বর্তমান তরঙ্গের জন্ম দিয়েছে। আজকাল, জটিল এবং স্বয়ংক্রিয় কিছু করতে আপনার প্রচুর ডেটা দরকার। শুধু অনেক না, কিন্তু খুব, খুব. তাদের সংগ্রহ, চিহ্নিতকরণ এবং ব্যবহারের জন্য আমাদের স্বয়ংক্রিয় অ্যালগরিদম প্রয়োজন। আমরা গাড়িটিকে সূর্যের দিকে মুখ করে ট্রাকগুলি দেখতে চাই - আমাদের প্রথমে তাদের একটি পর্যাপ্ত সংখ্যক সংগ্রহ করতে হবে। আমরা চাই যে গাড়িটি ট্রাঙ্কে ঠেলে সাইকেল নিয়ে পাগল না হোক - আরও নমুনা।

তাছাড়া একটি উদাহরণ যথেষ্ট নয়। শত শত? হাজার?

দ্বিতীয় সমস্যা

দ্বিতীয় সমস্যা — আমাদের নিউরাল নেটওয়ার্ক যা বুঝেছে তার ভিজ্যুয়ালাইজেশন। এটা খুবই তুচ্ছ একটা কাজ। এখন অবধি, খুব কম লোকই বুঝতে পারে যে এটি কীভাবে কল্পনা করা যায়। এই নিবন্ধগুলি খুব সাম্প্রতিক, এগুলি কেবল কয়েকটি উদাহরণ, এমনকি দূরবর্তী হলেও:
ভিজ্যুয়ালাইজেশন টেক্সচারের সাথে আবেশ। এটি ভালভাবে দেখায় যে নিউরন কীসের উপর স্থির থাকে + এটি শুরুর তথ্য হিসাবে কী বোঝে।

ভিজ্যুয়ালাইজেশন এ মনোযোগ অনুবাদ. প্রকৃতপক্ষে, আকর্ষণ প্রায়শই সঠিকভাবে ব্যবহার করা যেতে পারে এই ধরনের নেটওয়ার্ক প্রতিক্রিয়ার কারণ দেখানোর জন্য। আমি ডিবাগিং এবং পণ্য সমাধান উভয়ের জন্য এই ধরনের জিনিস দেখেছি। এই বিষয়ে নিবন্ধ অনেক আছে. কিন্তু ডেটা যত জটিল, শক্তিশালী ভিজ্যুয়ালাইজেশন কীভাবে অর্জন করা যায় তা বোঝা তত বেশি কঠিন।

ভাল, হ্যাঁ, ভাল পুরানো সেট "দেখুন জালের ভিতরে কি আছে ফিল্টার" এই ছবিগুলি 3-4 বছর আগে জনপ্রিয় ছিল, তবে সবাই দ্রুত বুঝতে পেরেছিল যে ছবিগুলি সুন্দর, তবে সেগুলির খুব বেশি অর্থ ছিল না।

নেটওয়ার্কের অভ্যন্তরীণ অংশগুলি কীভাবে প্রদর্শন করা যায় সে সম্পর্কে আমি কয়েক ডজন অন্যান্য গ্যাজেট, পদ্ধতি, হ্যাক, গবেষণা উল্লেখ করিনি। এই সরঞ্জামগুলি কি কাজ করে? তারা কি আপনাকে সমস্যাটি কী তা দ্রুত বুঝতে এবং নেটওয়ার্ক ডিবাগ করতে সাহায্য করে?... শেষ শতাংশ পান? ঠিক আছে, এটি প্রায় একই:

আপনি Kaggle যে কোন প্রতিযোগিতা দেখতে পারেন. এবং লোকেরা কীভাবে চূড়ান্ত সিদ্ধান্ত নেয় তার একটি বর্ণনা। আমরা মডেলের 100-500-800 ইউনিট স্ট্যাক করেছি এবং এটি কাজ করেছে!

আমি অবশ্যই অতিরঞ্জিত করছি। কিন্তু এই পদ্ধতিগুলি দ্রুত এবং সরাসরি উত্তর প্রদান করে না।

পর্যাপ্ত অভিজ্ঞতা থাকা, বিভিন্ন বিকল্পের চারপাশে খোঁচা দেওয়া, আপনার সিস্টেম কেন এমন সিদ্ধান্ত নিয়েছে সে সম্পর্কে আপনি একটি রায় দিতে পারেন। কিন্তু সিস্টেমের আচরণ সংশোধন করা কঠিন হবে। একটি ক্রাচ ইনস্টল করুন, থ্রেশহোল্ড সরান, একটি ডেটাসেট যোগ করুন, আরেকটি ব্যাকএন্ড নেটওয়ার্ক নিন।

তৃতীয় সমস্যা

তৃতীয় মৌলিক সমস্যা — গ্রিড পরিসংখ্যান শেখায়, যুক্তি নয়। পরিসংখ্যানগতভাবে এই лицо:

যৌক্তিকভাবে, এটি খুব অনুরূপ নয়। নিউরাল নেটওয়ার্ক জটিল কিছু শিখে না যদি না তারা বাধ্য হয়। তারা সবসময় সম্ভব সহজ লক্ষণ শেখান. তোমার কি চোখ, নাক, মাথা আছে? তাই এই মুখ! অথবা একটি উদাহরণ দিন যেখানে চোখ মুখ মানে না। এবং আবার - লক্ষ লক্ষ উদাহরণ।

নীচে অনেক রুম আছে

আমি বলব যে এই তিনটি বৈশ্বিক সমস্যাই বর্তমানে নিউরাল নেটওয়ার্ক এবং মেশিন লার্নিং এর বিকাশকে সীমিত করে। এবং যেখানে এই সমস্যাগুলি এটিকে সীমাবদ্ধ করেনি, এটি ইতিমধ্যে সক্রিয়ভাবে ব্যবহৃত হয়েছে।

এটাই শেষ? নিউরাল নেটওয়ার্ক আপ?

অজানা। তবে, অবশ্যই, সবাই আশা করে না।

আমি উপরে হাইলাইট করা মৌলিক সমস্যাগুলি সমাধান করার জন্য অনেক পন্থা এবং দিকনির্দেশ রয়েছে। কিন্তু এখনও পর্যন্ত, এই পন্থাগুলির কোনটিই মৌলিকভাবে নতুন কিছু করা সম্ভব করেনি, এমন কিছু সমাধান করা যা এখনও সমাধান করা হয়নি। এখনও অবধি, সমস্ত মৌলিক প্রকল্পগুলি স্থিতিশীল পদ্ধতির (টেসলা) ভিত্তিতে করা হচ্ছে, বা ইনস্টিটিউট বা কর্পোরেশনগুলির (গুগল ব্রেইন, ওপেনএআই) পরীক্ষামূলক প্রকল্প রয়েছে।

মোটামুটিভাবে বলতে গেলে, মূল দিকটি হল ইনপুট ডেটার কিছু উচ্চ-স্তরের উপস্থাপনা তৈরি করা। এক অর্থে, "স্মৃতি"। মেমরির সবচেয়ে সহজ উদাহরণ হল বিভিন্ন "এমবেডিং" - চিত্র উপস্থাপনা। ভাল, উদাহরণস্বরূপ, সমস্ত মুখের স্বীকৃতি সিস্টেম। নেটওয়ার্ক একটি মুখ থেকে কিছু স্থিতিশীল উপস্থাপনা পেতে শেখে যা ঘূর্ণন, আলো বা রেজোলিউশনের উপর নির্ভর করে না। মূলত, নেটওয়ার্ক মেট্রিককে ছোট করে "ভিন্ন মুখগুলি দূরে" এবং "অভিন্ন মুখগুলি কাছাকাছি।"

এই ধরনের প্রশিক্ষণের জন্য, দশ হাজার এবং হাজার হাজার উদাহরণ প্রয়োজন। কিন্তু ফলাফল "ওয়ান-শট লার্নিং" এর কিছু মূলনীতি বহন করে। এখন একজন মানুষকে মনে রাখার জন্য শত শত মুখের প্রয়োজন নেই। শুধু একটি মুখ এবং আমরা সব খুঁজে বের কর!
শুধু একটি সমস্যা আছে... গ্রিড শুধুমাত্র মোটামুটি সহজ বস্তু শিখতে পারে। মুখগুলিকে আলাদা করার চেষ্টা করার সময়, উদাহরণস্বরূপ, "কাপড় দ্বারা মানুষ" (কাজ পুনরায় শনাক্তকরণ) - গুণমান অনেক মাত্রায় পড়ে। এবং নেটওয়ার্ক আর কোণে মোটামুটি সুস্পষ্ট পরিবর্তন শিখতে পারে না।

এবং লক্ষ লক্ষ উদাহরণ থেকে শেখাও মজার।

উল্লেখযোগ্যভাবে নির্বাচন কমানোর কাজ আছে. উদাহরণস্বরূপ, কেউ অবিলম্বে প্রথম কাজগুলির একটিকে স্মরণ করতে পারে ওয়ানশট লার্নিং গুগল থেকে:

যেমন অনেক কাজ আছে, যেমন 1 বা 2 বা 3.

একটি বিয়োগ আছে - সাধারণত প্রশিক্ষণ কিছু সহজ, "MNIST" উদাহরণগুলিতে ভাল কাজ করে। এবং জটিল কাজগুলিতে যাওয়ার সময়, আপনার একটি বড় ডাটাবেস, বস্তুর একটি মডেল বা কিছু ধরণের জাদু প্রয়োজন।
সাধারণভাবে, ওয়ান-শট প্রশিক্ষণে কাজ একটি খুব আকর্ষণীয় বিষয়। আপনি অনেক ধারণা খুঁজে. কিন্তু বেশিরভাগ ক্ষেত্রে, আমি যে দুটি সমস্যা তালিকাভুক্ত করেছি (একটি বিশাল ডেটাসেটের উপর প্রশিক্ষণ / জটিল ডেটাতে অস্থিরতা) শেখার ক্ষেত্রে ব্যাপকভাবে হস্তক্ষেপ করে।

অন্যদিকে, GANs - জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক - এম্বেডিংয়ের বিষয়টির সাথে যোগাযোগ করে। আপনি সম্ভবত এই বিষয়ে Habré-এ একগুচ্ছ নিবন্ধ পড়েছেন। (1, 2,3)
GAN এর একটি বৈশিষ্ট্য হল কিছু অভ্যন্তরীণ স্টেট স্পেসের গঠন (মূলত একই এমবেডিং), যা আপনাকে একটি চিত্র আঁকতে দেয়। এটা হতে পারে лица, হতে পারে ক্রিয়াকলাপ.

GAN-এর সমস্যা হল যে জেনারেটর বস্তুটি যত জটিল, "জেনারেটর-বৈষম্যকারী" যুক্তিতে এটি বর্ণনা করা তত বেশি কঠিন। ফলস্বরূপ, GAN-এর একমাত্র বাস্তব অ্যাপ্লিকেশনগুলির কথা শোনা যায় ডিপফেক, যা আবার মুখের উপস্থাপনাগুলিকে কাজে লাগায় (যার জন্য একটি বিশাল ভিত্তি রয়েছে)।

আমি খুব কম অন্যান্য দরকারী ব্যবহার দেখেছি. সাধারণত ছবি আঁকার সমাপ্তি জড়িত কিছু কৌশল।

এবং আবার. এটি কীভাবে আমাদের একটি উজ্জ্বল ভবিষ্যতের দিকে যেতে দেবে তা কারও কোনও ধারণা নেই। একটি নিউরাল নেটওয়ার্কে যুক্তি/স্থানের প্রতিনিধিত্ব করা ভাল। কিন্তু আমাদের প্রচুর সংখ্যক উদাহরণের প্রয়োজন, আমরা বুঝতে পারি না কিভাবে নিউরন নিজেই এটিকে উপস্থাপন করে, আমরা বুঝতে পারি না কিভাবে নিউরনকে কিছু সত্যিই জটিল ধারণা মনে রাখা যায়।

শক্তিবৃদ্ধি শেখা - এটি সম্পূর্ণ ভিন্ন দিক থেকে একটি পদ্ধতি। নিশ্চয়ই আপনার মনে আছে কিভাবে গুগল সবাইকে গো-তে পরাজিত করেছে। স্টারক্রাফ্ট এবং ডোটা-তে সাম্প্রতিক বিজয়। কিন্তু এখানে সবকিছু এত গোলাপী এবং প্রতিশ্রুতিশীল থেকে অনেক দূরে। তিনি RL এবং এর জটিলতা সম্পর্কে সর্বোত্তম কথা বলেন এই নিবন্ধটি.

লেখক যা লিখেছেন তা সংক্ষেপে তুলে ধরতে:

• বাক্সের বাইরের মডেলগুলি বেশিরভাগ ক্ষেত্রে মাপসই হয় না / খারাপভাবে কাজ করে
• ব্যবহারিক সমস্যা অন্যান্য উপায়ে সমাধান করা সহজ। বোস্টন ডায়নামিক্স এর জটিলতা/অনির্দেশ্যতা/কম্পিউটেশনাল জটিলতার কারণে আরএল ব্যবহার করে না
• RL কাজ করার জন্য, আপনার একটি জটিল ফাংশন প্রয়োজন। এটি তৈরি/লিখতে প্রায়ই কঠিন
• মডেলদের প্রশিক্ষণ দেওয়া কঠিন। পাম্প আপ করতে এবং স্থানীয় অপটিমা থেকে বেরিয়ে আসতে আপনাকে অনেক সময় ব্যয় করতে হবে
• ফলস্বরূপ, মডেলটি পুনরাবৃত্তি করা কঠিন, মডেলটি সামান্য পরিবর্তনের সাথে অস্থির
• প্রায়শই কিছু ধরণের বামপন্থী প্যাটার্নগুলিকে ওভারফিট করে, একটি এলোমেলো সংখ্যা জেনারেটর পর্যন্ত

মূল বিষয় হল যে আরএল এখনও উৎপাদনে কাজ করে না। গুগলের কিছু পরীক্ষা আছে ( 1, 2 ) কিন্তু আমি একটি একক পণ্য সিস্টেম দেখিনি.

স্মৃতি. উপরে বর্ণিত সবকিছুর খারাপ দিক হল কাঠামোর অভাব। এই সব গুছিয়ে রাখার চেষ্টা করার একটি পন্থা হল নিউরাল নেটওয়ার্ককে আলাদা মেমরিতে অ্যাক্সেস দেওয়া। যাতে সে সেখানে তার পদক্ষেপের ফলাফল রেকর্ড এবং পুনরায় লিখতে পারে। তারপর বর্তমান মেমরি অবস্থা দ্বারা নিউরাল নেটওয়ার্ক নির্ধারণ করা যেতে পারে। এটি ক্লাসিক প্রসেসর এবং কম্পিউটারের অনুরূপ।

সবচেয়ে বিখ্যাত এবং জনপ্রিয় একটি নিবন্ধ - ডিপমাইন্ড থেকে:

মনে হয় এটাই কি বুদ্ধিমত্তা বোঝার চাবিকাঠি? কিন্তু সম্ভবত না. সিস্টেমে এখনও প্রশিক্ষণের জন্য প্রচুর পরিমাণে ডেটা প্রয়োজন। এবং এটি মূলত স্ট্রাকচার্ড ট্যাবুলার ডেটার সাথে কাজ করে। তাছাড়া যখন ফেসবুক সিদ্ধান্ত নিয়েছে একটি অনুরূপ সমস্যা, তারপর তারা পথ নিয়েছিল "স্ক্রু মেমরি, শুধু নিউরনকে আরও জটিল করে তুলবে, এবং আরও উদাহরণ আছে - এবং এটি নিজে থেকেই শিখবে।"

বিচ্ছিন্নতা. একটি অর্থপূর্ণ মেমরি তৈরি করার আরেকটি উপায় হল একই এম্বেডিংগুলি নেওয়া, তবে প্রশিক্ষণের সময়, অতিরিক্ত মানদণ্ড প্রবর্তন করুন যা আপনাকে সেগুলির মধ্যে "অর্থ" হাইলাইট করতে দেয়। উদাহরণস্বরূপ, আমরা একটি দোকানে মানুষের আচরণের মধ্যে পার্থক্য করার জন্য একটি নিউরাল নেটওয়ার্ককে প্রশিক্ষণ দিতে চাই। আমরা যদি আদর্শ পথ অনুসরণ করি তবে আমাদের এক ডজন নেটওয়ার্ক তৈরি করতে হবে। একজন একজন ব্যক্তিকে খুঁজছেন, দ্বিতীয়টি নির্ধারণ করছেন তিনি কী করছেন, তৃতীয়টি তার বয়স, চতুর্থটি তার লিঙ্গ। আলাদা লজিক স্টোরের সেই অংশের দিকে তাকায় যেখানে এটি এটি করতে/প্রশিক্ষিত হয়। তৃতীয়টি তার গতিপথ নির্ধারণ করে, ইত্যাদি।

অথবা, যদি অসীম পরিমাণ ডেটা থাকে, তবে সম্ভাব্য সমস্ত ফলাফলের জন্য একটি নেটওয়ার্ককে প্রশিক্ষণ দেওয়া সম্ভব হবে (অবশ্যই, এই ধরনের ডেটা সংগ্রহ করা যাবে না)।

ডিসট্যাঙ্গেলমেন্ট পদ্ধতি আমাদের বলে - আসুন নেটওয়ার্ককে প্রশিক্ষিত করি যাতে এটি নিজেই ধারণাগুলির মধ্যে পার্থক্য করতে পারে। যাতে এটি ভিডিওর উপর ভিত্তি করে একটি এমবেডিং তৈরি করবে, যেখানে একটি এলাকা ক্রিয়া নির্ধারণ করবে, একজন সময়মতো মেঝেতে অবস্থান নির্ধারণ করবে, একজন ব্যক্তির উচ্চতা নির্ধারণ করবে এবং একজন ব্যক্তির লিঙ্গ নির্ধারণ করবে। একই সময়ে, প্রশিক্ষণের সময়, আমি প্রায় এই জাতীয় মূল ধারণাগুলির সাথে নেটওয়ার্ককে প্রম্পট করতে চাই না, বরং এটি হাইলাইট এবং গোষ্ঠীভুক্ত অঞ্চলগুলির জন্য। এরকম বেশ কয়েকটি নিবন্ধ রয়েছে (তাদের মধ্যে কয়েকটি 1, 2, 3) এবং সাধারণভাবে তারা বেশ তাত্ত্বিক।

কিন্তু এই দিকটি, অন্তত তাত্ত্বিকভাবে, শুরুতে তালিকাভুক্ত সমস্যাগুলি কভার করা উচিত।

"দেয়ালের রঙ/মেঝের রঙ/বস্তুর আকৃতি/বস্তুর রঙ/ইত্যাদি" প্যারামিটার অনুসারে চিত্রের পচন।

"আকার, ভ্রু, অভিযোজন, ত্বকের রঙ ইত্যাদি" প্যারামিটার অনুসারে মুখের পচন।

অন্যান্য

এমন আরও অনেকগুলি রয়েছে, যা বিশ্বব্যাপী নয়, এমন ক্ষেত্র রয়েছে যা আপনাকে কোনওভাবে ডাটাবেস হ্রাস করতে, আরও ভিন্ন ভিন্ন ডেটা নিয়ে কাজ করতে দেয় ইত্যাদি।

দৃষ্টি আকর্ষণ করছি. এটি সম্ভবত একটি পৃথক পদ্ধতি হিসাবে এটি আলাদা করার কোন মানে হয় না। শুধু একটি পদ্ধতি যা অন্যদের উন্নত করে। অনেক নিবন্ধ তাকে উৎসর্গ করা হয় (1,2,3) মনোযোগের বিষয় হল প্রশিক্ষণের সময় বিশেষভাবে উল্লেখযোগ্য বস্তুর প্রতি নেটওয়ার্কের প্রতিক্রিয়া বাড়ানো। প্রায়শই কিছু ধরণের বাহ্যিক লক্ষ্য উপাধি বা একটি ছোট বাহ্যিক নেটওয়ার্ক দ্বারা।

3D সিমুলেশন. আপনি যদি একটি ভাল 3D ইঞ্জিন তৈরি করেন তবে আপনি প্রায়শই এটি দিয়ে প্রশিক্ষণের 90% ডেটা কভার করতে পারেন (আমি এমন একটি উদাহরণও দেখেছি যেখানে প্রায় 99% ডেটা একটি ভাল ইঞ্জিন দ্বারা আচ্ছাদিত ছিল)। বাস্তব ডেটা (ফাইন টিউনিং, স্টাইল ট্রান্সফার, ইত্যাদি) ব্যবহার করে কীভাবে একটি 3D ইঞ্জিনের উপর প্রশিক্ষিত নেটওয়ার্ক তৈরি করা যায় সে সম্পর্কে অনেক ধারণা এবং হ্যাক রয়েছে। কিন্তু প্রায়শই একটি ভাল ইঞ্জিন তৈরি করা ডেটা সংগ্রহের চেয়ে মাত্রার অনেকগুলি অর্ডার বেশি কঠিন। যখন ইঞ্জিন তৈরি করা হয়েছিল তার উদাহরণ:
রোবট প্রশিক্ষণ (গুগল, মগজ বাগান)
প্রশিক্ষণ সেশন স্বীকৃতি দোকানে পণ্য (তবে দুটি প্রকল্পে আমরা করেছি, আমরা এটি ছাড়া সহজেই করতে পারি)।
টেসলায় প্রশিক্ষণ (আবার, উপরের ভিডিও)।

তথ্যও

পুরো নিবন্ধটি এক অর্থে উপসংহার। সম্ভবত আমি যে প্রধান বার্তাটি করতে চেয়েছিলাম তা হল "মুক্তিগুলি শেষ হয়ে গেছে, নিউরনগুলি আর সহজ সমাধান দেয় না।" এখন জটিল সিদ্ধান্ত নিতে কঠোর পরিশ্রম করতে হবে। অথবা জটিল বৈজ্ঞানিক গবেষণা করে কঠোর পরিশ্রম করুন।

সাধারণভাবে, বিষয়টি বিতর্কিত। হয়তো পাঠকদের আরো আকর্ষণীয় উদাহরণ আছে?

উত্স: www.habr.com