Mail.ru মেলে মেশিন লার্নিং এর অপারেশন

Highload++ এবং DataFest Minsk 2019 এ আমার বক্তৃতার উপর ভিত্তি করে।

অনেকের জন্য আজ, মেল অনলাইন জীবনের একটি অবিচ্ছেদ্য অংশ। এটির সাহায্যে, আমরা ব্যবসায়িক চিঠিপত্র পরিচালনা করি, আর্থিক, হোটেল বুকিং, অর্ডার দেওয়া এবং আরও অনেক কিছু সম্পর্কিত সমস্ত ধরণের গুরুত্বপূর্ণ তথ্য সঞ্চয় করি। 2018 সালের মাঝামাঝি সময়ে, আমরা মেল ডেভেলপমেন্টের জন্য একটি পণ্য কৌশল তৈরি করেছি। আধুনিক মেল কেমন হওয়া উচিত?

মেইল হতে হবে স্মার্ট, অর্থাৎ, ব্যবহারকারীদের তথ্যের ক্রমবর্ধমান ভলিউম নেভিগেট করতে সহায়তা করে: ফিল্টার, গঠন এবং এটি সবচেয়ে সুবিধাজনক উপায়ে প্রদান করে। সে অবশ্যই দরকারী, আপনাকে সরাসরি আপনার মেলবক্সে বিভিন্ন কাজ সমাধান করার অনুমতি দেয়, উদাহরণস্বরূপ, জরিমানা প্রদান (একটি ফাংশন যা, দুর্ভাগ্যবশত, আমি ব্যবহার করি)। এবং একই সময়ে, অবশ্যই, মেলকে অবশ্যই তথ্য সুরক্ষা প্রদান করতে হবে, স্প্যাম বন্ধ করতে হবে এবং হ্যাকিংয়ের বিরুদ্ধে সুরক্ষা দিতে হবে, অর্থাৎ নিরাপদ.

এই ক্ষেত্রগুলি বেশ কয়েকটি মূল সমস্যাকে সংজ্ঞায়িত করে, যার মধ্যে অনেকগুলি মেশিন লার্নিং ব্যবহার করে কার্যকরভাবে সমাধান করা যেতে পারে। এখানে কৌশলের অংশ হিসাবে ইতিমধ্যে বিদ্যমান বৈশিষ্ট্যগুলির উদাহরণ রয়েছে - প্রতিটি দিকনির্দেশের জন্য একটি।

• স্মার্ট উত্তর. মেল একটি স্মার্ট উত্তর বৈশিষ্ট্য আছে. নিউরাল নেটওয়ার্ক চিঠিটির পাঠ্য বিশ্লেষণ করে, এর অর্থ এবং উদ্দেশ্য বোঝে এবং ফলস্বরূপ তিনটি সবচেয়ে উপযুক্ত প্রতিক্রিয়া বিকল্প অফার করে: ইতিবাচক, নেতিবাচক এবং নিরপেক্ষ। এটি চিঠির উত্তর দেওয়ার সময় উল্লেখযোগ্যভাবে সময় বাঁচাতে সাহায্য করে এবং প্রায়শই একটি অ-মানক এবং মজার উপায়ে প্রতিক্রিয়া জানায়।
• গ্রুপিং ইমেলঅনলাইন দোকানে অর্ডার সম্পর্কিত। আমরা প্রায়শই অনলাইনে কেনাকাটা করি, এবং একটি নিয়ম হিসাবে, স্টোরগুলি প্রতিটি অর্ডারের জন্য বেশ কয়েকটি ইমেল পাঠাতে পারে। উদাহরণস্বরূপ, AliExpress, বৃহত্তম পরিষেবা থেকে, একটি অর্ডারের জন্য প্রচুর অক্ষর আসে এবং আমরা গণনা করেছি যে টার্মিনাল ক্ষেত্রে তাদের সংখ্যা 29 পর্যন্ত পৌঁছতে পারে। তাই, নামযুক্ত সত্তা স্বীকৃতি মডেল ব্যবহার করে, আমরা অর্ডার নম্বরটি বের করি এবং পাঠ্য থেকে অন্যান্য তথ্য এবং সমস্ত অক্ষরকে এক থ্রেডে গোষ্ঠীবদ্ধ করুন। আমরা একটি পৃথক বাক্সে অর্ডার সম্পর্কে প্রাথমিক তথ্যও প্রদর্শন করি, যা এই ধরনের ইমেলের সাথে কাজ করা সহজ করে তোলে।

  

• অ্যান্টি-ফিশিং. ফিশিং হল একটি বিশেষভাবে বিপজ্জনক প্রতারণামূলক ইমেল, যার সাহায্যে আক্রমণকারীরা আর্থিক তথ্য (ব্যবহারকারীর ব্যাঙ্ক কার্ড সহ) এবং লগইনগুলি পাওয়ার চেষ্টা করে৷ এই ধরনের চিঠিগুলি চাক্ষুষরূপে সহ পরিষেবা দ্বারা প্রেরিত বাস্তবগুলির অনুকরণ করে৷ তাই, কম্পিউটার ভিশনের সাহায্যে, আমরা লোগো এবং বড় কোম্পানীর চিঠির ডিজাইন শৈলী (উদাহরণস্বরূপ, Mail.ru, Sber, Alfa) চিনতে পারি এবং আমাদের স্প্যাম এবং ফিশিং ক্লাসিফায়ারগুলিতে পাঠ্য এবং অন্যান্য বৈশিষ্ট্যগুলির সাথে এটিকে বিবেচনায় নিয়ে থাকি। .

মেশিন লার্নিং

সাধারণভাবে ইমেলে মেশিন লার্নিং সম্পর্কে একটু। মেল একটি অত্যন্ত লোড করা সিস্টেম: 1,5 মিলিয়ন DAU ব্যবহারকারীদের জন্য প্রতিদিন গড়ে 30 বিলিয়ন অক্ষর আমাদের সার্ভারের মধ্য দিয়ে যায়। প্রায় 30টি মেশিন লার্নিং সিস্টেম সমস্ত প্রয়োজনীয় ফাংশন এবং বৈশিষ্ট্যগুলিকে সমর্থন করে৷

প্রতিটি অক্ষর একটি সম্পূর্ণ শ্রেণিবিন্যাস পাইপলাইনের মধ্য দিয়ে যায়। প্রথমে আমরা স্প্যাম কেটে ফেলি এবং ভাল ইমেল ছেড়ে দেই। ব্যবহারকারীরা প্রায়শই অ্যান্টিস্প্যামের কাজটি লক্ষ্য করেন না, কারণ 95-99% স্প্যাম এমনকি উপযুক্ত ফোল্ডারে শেষ হয় না। স্প্যাম শনাক্তকরণ আমাদের সিস্টেমের একটি অত্যন্ত গুরুত্বপূর্ণ অংশ, এবং সবচেয়ে কঠিন, যেহেতু স্প্যাম-বিরোধী ক্ষেত্রে প্রতিরক্ষা এবং আক্রমণ সিস্টেমগুলির মধ্যে একটি ধ্রুবক অভিযোজন রয়েছে, যা আমাদের দলের জন্য একটি অবিচ্ছিন্ন ইঞ্জিনিয়ারিং চ্যালেঞ্জ প্রদান করে৷

এর পরে, আমরা মানুষ এবং রোবট থেকে চিঠিগুলি আলাদা করি। লোকেদের ইমেলগুলি সবচেয়ে গুরুত্বপূর্ণ, তাই আমরা তাদের জন্য স্মার্ট উত্তরের মতো বৈশিষ্ট্যগুলি সরবরাহ করি। রোবট থেকে চিঠিগুলি দুটি ভাগে বিভক্ত: লেনদেনমূলক - এগুলি পরিষেবাগুলি থেকে গুরুত্বপূর্ণ চিঠি, উদাহরণস্বরূপ, কেনাকাটা বা হোটেল সংরক্ষণের নিশ্চিতকরণ, আর্থিক এবং তথ্যমূলক - এগুলি হল ব্যবসার বিজ্ঞাপন, ছাড়৷

আমরা বিশ্বাস করি যে লেনদেনমূলক ইমেলগুলি ব্যক্তিগত চিঠিপত্রের গুরুত্বের সমান। তাদের হাতে থাকা উচিত, কারণ আমাদের প্রায়শই একটি অর্ডার বা এয়ার টিকেট রিজার্ভেশন সম্পর্কে দ্রুত তথ্য খুঁজে বের করতে হয় এবং আমরা এই চিঠিগুলি অনুসন্ধান করার জন্য সময় ব্যয় করি। অতএব, সুবিধার জন্য, আমরা তাদের স্বয়ংক্রিয়ভাবে ছয়টি প্রধান বিভাগে বিভক্ত করি: ভ্রমণ, আদেশ, অর্থ, টিকিট, নিবন্ধন এবং অবশেষে, জরিমানা।

তথ্য চিঠিগুলি হল বৃহত্তম এবং সম্ভবত কম গুরুত্বপূর্ণ গোষ্ঠী, যেগুলির একটি তাত্ক্ষণিক প্রতিক্রিয়ার প্রয়োজন হয় না, যেহেতু ব্যবহারকারীর জীবনে উল্লেখযোগ্য কিছুই পরিবর্তন হবে না যদি তিনি এই জাতীয় চিঠি না পড়েন। আমাদের নতুন ইন্টারফেসে, আমরা সেগুলিকে দুটি থ্রেডে সঙ্কুচিত করি: সামাজিক নেটওয়ার্ক এবং নিউজলেটার, এইভাবে দৃশ্যত ইনবক্স সাফ করে এবং শুধুমাত্র গুরুত্বপূর্ণ বার্তাগুলি দৃশ্যমান রেখে দেয়৷

শোষণ

প্রচুর সংখ্যক সিস্টেম অপারেশনে অনেক অসুবিধা সৃষ্টি করে। সর্বোপরি, মডেলগুলি সময়ের সাথে সাথে যে কোনও সফ্টওয়্যারের মতো অবনতি হয়: বৈশিষ্ট্যগুলি ভেঙে যায়, মেশিনগুলি ব্যর্থ হয়, কোডটি আঁকাবাঁকা হয়ে যায়। উপরন্তু, ডেটা ক্রমাগত পরিবর্তিত হয়: নতুন যোগ করা হয়, ব্যবহারকারীর আচরণের ধরণগুলি রূপান্তরিত হয়, ইত্যাদি, তাই সঠিক সমর্থন ছাড়া একটি মডেল সময়ের সাথে আরও খারাপ এবং খারাপ কাজ করবে।

আমাদের ভুলে যাওয়া উচিত নয় যে ব্যবহারকারীদের জীবনে গভীরতর মেশিন লার্নিং প্রবেশ করে, বাস্তুতন্ত্রের উপর তাদের প্রভাব তত বেশি হয় এবং ফলস্বরূপ, বাজারের খেলোয়াড়রা তত বেশি আর্থিক ক্ষতি বা লাভ পেতে পারে। অতএব, ক্রমবর্ধমান সংখ্যক ক্ষেত্রে, খেলোয়াড়রা এমএল অ্যালগরিদমের কাজের সাথে খাপ খাইয়ে নিচ্ছে (ক্লাসিক উদাহরণ হল বিজ্ঞাপন, অনুসন্ধান এবং ইতিমধ্যে উল্লিখিত অ্যান্টিস্প্যাম)।

এছাড়াও, মেশিন লার্নিং কাজগুলির একটি বিশেষত্ব রয়েছে: সিস্টেমে যে কোনও, এমনকি ছোটখাটো, পরিবর্তন মডেলের সাথে প্রচুর কাজ তৈরি করতে পারে: ডেটা নিয়ে কাজ করা, পুনরায় প্রশিক্ষণ দেওয়া, স্থাপন করা, যা কয়েক সপ্তাহ বা মাস নিতে পারে। অতএব, আপনার মডেলগুলি যে পরিবেশে কাজ করে তা যত দ্রুত পরিবর্তিত হয়, সেগুলি বজায় রাখার জন্য তত বেশি প্রচেষ্টার প্রয়োজন হয়। একটি দল অনেকগুলি সিস্টেম তৈরি করতে পারে এবং এটি সম্পর্কে খুশি হতে পারে, কিন্তু তারপরে নতুন কিছু করার সুযোগ ছাড়াই তাদের প্রায় সমস্ত সংস্থানগুলিকে বজায় রাখতে ব্যয় করতে পারে। আমরা একবার এন্টিস্প্যাম দলে এমন পরিস্থিতির সম্মুখীন হয়েছিলাম। এবং তারা সুস্পষ্ট সিদ্ধান্তে পৌঁছেছে যে সমর্থন স্বয়ংক্রিয় হওয়া দরকার।

স্বয়ংক্রিয়তা

কি স্বয়ংক্রিয় হতে পারে? প্রায় সবকিছু, আসলে. আমি চারটি ক্ষেত্র চিহ্নিত করেছি যা মেশিন লার্নিং অবকাঠামোকে সংজ্ঞায়িত করে:

• তথ্য সংগ্রহ;
• অতিরিক্ত প্রশিক্ষণ;
• স্থাপন করা
• পরীক্ষা এবং পর্যবেক্ষণ।

যদি পরিবেশ অস্থিতিশীল এবং ক্রমাগত পরিবর্তিত হয়, তাহলে মডেলটির চারপাশের পুরো অবকাঠামোটি মডেলটির চেয়ে অনেক বেশি গুরুত্বপূর্ণ হয়ে উঠবে। এটি একটি ভাল পুরানো লিনিয়ার ক্লাসিফায়ার হতে পারে, তবে আপনি যদি এটিকে সঠিক বৈশিষ্ট্যগুলি খাওয়ান এবং ব্যবহারকারীদের কাছ থেকে ভাল প্রতিক্রিয়া পান তবে এটি সমস্ত ঘণ্টা এবং শিস সহ স্টেট-অফ-দ্য-আর্ট মডেলগুলির তুলনায় অনেক ভাল কাজ করবে৷

ফিডব্যাক লুপ

এই চক্রটি ডেটা সংগ্রহ, অতিরিক্ত প্রশিক্ষণ এবং স্থাপনার সমন্বয় করে - প্রকৃতপক্ষে, সম্পূর্ণ মডেল আপডেট চক্র। এটা কেন গুরুত্বপূর্ণ? মেইলে নিবন্ধনের সময়সূচী দেখুন:

একজন মেশিন লার্নিং ডেভেলপার একটি অ্যান্টি-বট মডেল প্রয়োগ করেছে যা বটকে ইমেলে নিবন্ধন হতে বাধা দেয়। গ্রাফটি এমন একটি মানের দিকে নেমে যায় যেখানে শুধুমাত্র প্রকৃত ব্যবহারকারীরা থাকে। সবকিছু মহান! কিন্তু চার ঘন্টা কেটে যায়, বটগুলি তাদের স্ক্রিপ্টগুলিকে পরিবর্তন করে এবং সবকিছু স্বাভাবিক অবস্থায় ফিরে আসে। এই বাস্তবায়নে, বিকাশকারী বৈশিষ্ট্যগুলি যোগ করতে এবং মডেলটিকে পুনরায় প্রশিক্ষণ দিতে এক মাস ব্যয় করেছেন, তবে স্প্যামার চার ঘন্টার মধ্যে মানিয়ে নিতে সক্ষম হয়েছিল।

এতটা উত্তেজনাপূর্ণভাবে বেদনাদায়ক না হওয়ার জন্য এবং পরে সবকিছু আবার করতে না হলে, আমাদের প্রথমে ভাবতে হবে প্রতিক্রিয়া লুপটি কেমন হবে এবং পরিবেশ পরিবর্তন হলে আমরা কী করব। আসুন ডেটা সংগ্রহের সাথে শুরু করি - এটি আমাদের অ্যালগরিদমের জ্বালানী।

তথ্য সংগ্রহ

এটা স্পষ্ট যে আধুনিক নিউরাল নেটওয়ার্কগুলির জন্য, যত বেশি ডেটা, তত ভাল এবং সেগুলি প্রকৃতপক্ষে পণ্য ব্যবহারকারীদের দ্বারা উত্পন্ন। ব্যবহারকারীরা ডেটা চিহ্নিত করে আমাদের সাহায্য করতে পারে, কিন্তু আমরা এটির অপব্যবহার করতে পারি না, কারণ কিছু সময়ে ব্যবহারকারীরা আপনার মডেলগুলি সম্পূর্ণ করতে ক্লান্ত হয়ে পড়বে এবং অন্য পণ্যে স্যুইচ করবে৷

সবচেয়ে সাধারণ ভুলগুলির মধ্যে একটি (এখানে আমি অ্যান্ড্রু এনজির উল্লেখ করছি) পরীক্ষার ডেটাসেটের মেট্রিক্সের উপর খুব বেশি ফোকাস করা, এবং ব্যবহারকারীর প্রতিক্রিয়ার উপর নয়, যা আসলে কাজের মানের প্রধান পরিমাপ, যেহেতু আমরা তৈরি করি ব্যবহারকারীর জন্য একটি পণ্য। যদি ব্যবহারকারী বুঝতে না পারে বা মডেলের কাজ পছন্দ না করে, তাহলে সবকিছুই নষ্ট হয়ে যায়।

অতএব, ব্যবহারকারীকে সর্বদা ভোট দিতে সক্ষম হওয়া উচিত এবং প্রতিক্রিয়ার জন্য একটি সরঞ্জাম দেওয়া উচিত। যদি আমরা মনে করি যে অর্থ সংক্রান্ত একটি চিঠি মেলবক্সে এসেছে, তাহলে আমাদের এটিকে "অর্থায়ন" চিহ্নিত করতে হবে এবং একটি বোতাম আঁকতে হবে যা ব্যবহারকারী ক্লিক করতে পারে এবং বলতে পারে যে এটি অর্থ নয়।

প্রতিক্রিয়া গুণমান

আসুন ব্যবহারকারীর প্রতিক্রিয়ার গুণমান সম্পর্কে কথা বলি। প্রথমত, আপনি এবং ব্যবহারকারী একটি ধারণার মধ্যে বিভিন্ন অর্থ রাখতে পারেন। উদাহরণস্বরূপ, আপনি এবং আপনার প্রোডাক্ট ম্যানেজাররা মনে করেন যে "ফাইনান্স" মানে ব্যাঙ্কের চিঠি, এবং ব্যবহারকারী মনে করেন যে তার পেনশন সম্পর্কে ঠাকুরমার একটি চিঠিও অর্থকে বোঝায়। দ্বিতীয়ত, এমন ব্যবহারকারীরা আছেন যারা কোনো যুক্তি ছাড়াই বোতাম টিপতে ভালোবাসেন। তৃতীয়ত, ব্যবহারকারী তার সিদ্ধান্তে গভীরভাবে ভুল করতে পারে। আমাদের অনুশীলন থেকে একটি আকর্ষণীয় উদাহরণ হল একটি শ্রেণিবিন্যাসকারীর বাস্তবায়ন নাইজেরিয়ান স্প্যাম, একটি খুব মজার ধরনের স্প্যাম যেখানে ব্যবহারকারীকে আফ্রিকায় হঠাৎ পাওয়া দূরবর্তী আত্মীয়ের কাছ থেকে কয়েক মিলিয়ন ডলার নিতে বলা হয়। এই ক্লাসিফায়ারটি প্রয়োগ করার পরে, আমরা এই ইমেলগুলিতে "স্প্যাম নয়" ক্লিকগুলি পরীক্ষা করেছি, এবং এটি প্রমাণিত হয়েছে যে তাদের মধ্যে 80% সরস নাইজেরিয়ান স্প্যাম ছিল, যা পরামর্শ দেয় যে ব্যবহারকারীরা অত্যন্ত নির্দোষ হতে পারে৷

এবং আসুন ভুলে গেলে চলবে না যে বোতামগুলি কেবল লোকেরাই নয়, ব্রাউজার হওয়ার ভান করে এমন সমস্ত ধরণের বট দ্বারাও ক্লিক করা যেতে পারে। তাই কাঁচা প্রতিক্রিয়া শেখার জন্য ভাল নয়। আপনি এই তথ্য দিয়ে কি করতে পারেন?

আমরা দুটি পন্থা ব্যবহার করি:

• লিঙ্ক ML থেকে প্রতিক্রিয়া. উদাহরণস্বরূপ, আমাদের একটি অনলাইন অ্যান্টি-বট সিস্টেম রয়েছে, যা আমি উল্লেখ করেছি, সীমিত সংখ্যক লক্ষণের ভিত্তিতে দ্রুত সিদ্ধান্ত নেয়। এবং একটি দ্বিতীয়, ধীর সিস্টেম আছে যা সত্যের পরে কাজ করে। এতে ব্যবহারকারী, তার আচরণ ইত্যাদি সম্পর্কে আরও তথ্য রয়েছে। ফলস্বরূপ, সর্বাধিক জ্ঞাত সিদ্ধান্ত নেওয়া হয়; তদনুসারে, এটির উচ্চ নির্ভুলতা এবং সম্পূর্ণতা রয়েছে। আপনি প্রশিক্ষণ ডেটা হিসাবে এই সিস্টেমগুলির অপারেশনের পার্থক্যটিকে প্রথমটিতে নির্দেশ করতে পারেন। সুতরাং, একটি সহজ সিস্টেম সর্বদা একটি আরও জটিল একের কার্যকারিতার কাছে যাওয়ার চেষ্টা করবে।
• শ্রেণীবিভাগ ক্লিক করুন. আপনি কেবল প্রতিটি ব্যবহারকারীর ক্লিককে শ্রেণীবদ্ধ করতে পারেন, এর বৈধতা এবং ব্যবহারযোগ্যতা মূল্যায়ন করতে পারেন। আমরা ব্যবহারকারীর বৈশিষ্ট্য, তার ইতিহাস, প্রেরকের বৈশিষ্ট্য, পাঠ্য নিজেই এবং শ্রেণীবিভাগের ফলাফল ব্যবহার করে অ্যান্টিস্প্যাম মেলে এটি করি। ফলস্বরূপ, আমরা একটি স্বয়ংক্রিয় সিস্টেম পাই যা ব্যবহারকারীর প্রতিক্রিয়া যাচাই করে। এবং যেহেতু এটিকে অনেক কম ঘন ঘন পুনঃপ্রশিক্ষিত করতে হবে, তাই এর কাজটি অন্যান্য সমস্ত সিস্টেমের ভিত্তি হয়ে উঠতে পারে। এই মডেলের প্রধান অগ্রাধিকার হল নির্ভুলতা, কারণ ভুল তথ্যের উপর মডেলটিকে প্রশিক্ষণ দেওয়া পরিণতিতে পরিপূর্ণ।

যখন আমরা ডেটা পরিষ্কার করছি এবং আমাদের ML সিস্টেমগুলিকে আরও প্রশিক্ষণ দিচ্ছি, তখন আমাদের ব্যবহারকারীদের সম্পর্কে ভুলে যাওয়া উচিত নয়, কারণ আমাদের জন্য, গ্রাফে হাজার হাজার, লক্ষ লক্ষ ত্রুটি পরিসংখ্যান এবং ব্যবহারকারীর জন্য, প্রতিটি বাগ একটি ট্র্যাজেডি। প্রতিক্রিয়া পাওয়ার পরে ব্যবহারকারীকে অবশ্যই কোনওভাবে পণ্যটিতে আপনার ত্রুটির সাথে বাঁচতে হবে তা ছাড়াও, তিনি আশা করেন যে ভবিষ্যতে একই পরিস্থিতি দূর করা হবে। অতএব, ব্যবহারকারীদের কেবল ভোট দেওয়ার সুযোগই নয়, এমএল সিস্টেমের আচরণকে সংশোধন করার জন্যও এটি সর্বদা মূল্যবান, উদাহরণস্বরূপ, প্রতিটি প্রতিক্রিয়া ক্লিকের জন্য ব্যক্তিগত হিউরিস্টিক তৈরি করা; মেলের ক্ষেত্রে, এটি ফিল্টার করার ক্ষমতা হতে পারে। এই ব্যবহারকারীর জন্য প্রেরক এবং শিরোনাম দ্বারা এই ধরনের চিঠি।

আপনাকে কিছু রিপোর্ট বা আধা-স্বয়ংক্রিয় বা ম্যানুয়াল মোডে সমর্থন করার জন্য অনুরোধের ভিত্তিতে একটি মডেল তৈরি করতে হবে যাতে অন্যান্য ব্যবহারকারীরা একই ধরনের সমস্যায় না ভোগেন।

শেখার জন্য হিউরিস্টিকস

এই হিউরিস্টিকস এবং ক্রাচগুলির সাথে দুটি সমস্যা রয়েছে। প্রথমটি হল ক্রাচের ক্রাচের ক্রমবর্ধমান সংখ্যা বজায় রাখা কঠিন, দীর্ঘ পথ ধরে তাদের গুণমান এবং কার্যকারিতাকে ছেড়ে দিন। দ্বিতীয় সমস্যাটি হল যে ত্রুটিটি ঘন ঘন নাও হতে পারে, এবং মডেলটিকে আরও প্রশিক্ষণের জন্য কয়েকটি ক্লিক যথেষ্ট হবে না। এটা মনে হবে যে এই দুটি সম্পর্কহীন প্রভাব উল্লেখযোগ্যভাবে নিরপেক্ষ হতে পারে যদি নিম্নলিখিত পদ্ধতি প্রয়োগ করা হয়।

1. আমরা একটি অস্থায়ী ক্রাচ তৈরি করি।
2. আমরা এটি থেকে মডেলে ডেটা পাঠাই, এটি প্রাপ্ত ডেটা সহ এটি নিয়মিত আপডেট হয়। এখানে, অবশ্যই, এটি গুরুত্বপূর্ণ যে হিউরিস্টিক্সের উচ্চ নির্ভুলতা রয়েছে যাতে প্রশিক্ষণ সেটে ডেটার গুণমান হ্রাস না করে।
3. তারপরে আমরা ক্রাচটি ট্রিগার করার জন্য মনিটরিং সেট করি এবং যদি কিছু সময়ের পরে ক্রাচটি আর কাজ না করে এবং সম্পূর্ণরূপে মডেল দ্বারা আচ্ছাদিত হয় তবে আপনি নিরাপদে এটি অপসারণ করতে পারেন। এখন এই সমস্যা আর হওয়ার সম্ভাবনা নেই।

তাই ক্রাচ একটি সেনাবাহিনী খুব দরকারী. মূল বিষয় হল তাদের পরিষেবা জরুরী এবং স্থায়ী নয়।

অতিরিক্ত প্রশিক্ষণ

পুনঃপ্রশিক্ষণ হল ব্যবহারকারী বা অন্যান্য সিস্টেমের প্রতিক্রিয়ার ফলে প্রাপ্ত নতুন ডেটা যোগ করার প্রক্রিয়া এবং এটিতে একটি বিদ্যমান মডেলকে প্রশিক্ষণ দেওয়া। অতিরিক্ত প্রশিক্ষণের সাথে বিভিন্ন সমস্যা হতে পারে:

1. মডেলটি কেবল অতিরিক্ত প্রশিক্ষণ সমর্থন নাও করতে পারে, তবে শুধুমাত্র স্ক্র্যাচ থেকে শিখতে পারে।
2. প্রকৃতির বইতে কোথাও লেখা নেই যে অতিরিক্ত প্রশিক্ষণ অবশ্যই উৎপাদনে কাজের মান উন্নত করবে। প্রায়শই বিপরীত ঘটে, অর্থাৎ, শুধুমাত্র অবনতি সম্ভব।
3. পরিবর্তন অপ্রত্যাশিত হতে পারে। এটি একটি বরং সূক্ষ্ম বিন্দু যা আমরা নিজেদের জন্য চিহ্নিত করেছি। এমনকি যদি একটি A/B পরীক্ষায় একটি নতুন মডেল বর্তমানের তুলনায় অনুরূপ ফলাফল দেখায়, এর মানে এই নয় যে এটি একইভাবে কাজ করবে। তাদের কাজ মাত্র এক শতাংশের মধ্যে ভিন্ন হতে পারে, যা নতুন ত্রুটি আনতে পারে বা ইতিমধ্যে সংশোধন করা পুরানোগুলি ফিরিয়ে দিতে পারে। আমরা এবং ব্যবহারকারীরা উভয়েই ইতিমধ্যেই জানি কিভাবে বর্তমান ত্রুটির সাথে বাঁচতে হয়, এবং যখন প্রচুর পরিমাণে নতুন ত্রুটি দেখা দেয়, ব্যবহারকারীও বুঝতে পারে না কি ঘটছে, কারণ সে অনুমানযোগ্য আচরণ আশা করে।

অতএব, অতিরিক্ত প্রশিক্ষণের সবচেয়ে গুরুত্বপূর্ণ জিনিসটি নিশ্চিত করা যে মডেলটি উন্নত, বা অন্তত খারাপ না হয়।

আমরা যখন অতিরিক্ত প্রশিক্ষণের কথা বলি তখন প্রথম যে বিষয়টি মাথায় আসে তা হল সক্রিয় শিক্ষা পদ্ধতি। এটার মানে কি? উদাহরণস্বরূপ, শ্রেণীবদ্ধকারী নির্ধারণ করে যে একটি ইমেল অর্থের সাথে সম্পর্কিত কিনা এবং এর সিদ্ধান্তের সীমানার চারপাশে আমরা লেবেলযুক্ত উদাহরণগুলির একটি নমুনা যোগ করি। এটি ভাল কাজ করে, উদাহরণস্বরূপ, বিজ্ঞাপনে, যেখানে প্রচুর প্রতিক্রিয়া রয়েছে এবং আপনি মডেলটিকে অনলাইনে প্রশিক্ষণ দিতে পারেন। এবং যদি সামান্য প্রতিক্রিয়া থাকে, তবে আমরা উত্পাদন ডেটা বিতরণের সাথে সম্পর্কিত একটি অত্যন্ত পক্ষপাতদুষ্ট নমুনা পাই, যার ভিত্তিতে অপারেশন চলাকালীন মডেলের আচরণের মূল্যায়ন করা অসম্ভব।

প্রকৃতপক্ষে, আমাদের লক্ষ্য হল পুরানো নিদর্শনগুলি, ইতিমধ্যে পরিচিত মডেলগুলি সংরক্ষণ করা এবং নতুনগুলি অর্জন করা৷ ধারাবাহিকতা এখানে গুরুত্বপূর্ণ। মডেলটি, যা আমরা প্রায়শই রোল আউট করতে অনেক কষ্ট করে থাকি, ইতিমধ্যেই কাজ করছে, তাই আমরা এর কর্মক্ষমতার উপর ফোকাস করতে পারি।

মেইলে বিভিন্ন মডেল ব্যবহার করা হয়: গাছ, লিনিয়ার, নিউরাল নেটওয়ার্ক। প্রতিটির জন্য আমরা আমাদের নিজস্ব অতিরিক্ত প্রশিক্ষণ অ্যালগরিদম তৈরি করি। অতিরিক্ত প্রশিক্ষণের প্রক্রিয়ায়, আমরা কেবল নতুন ডেটাই পাই না, তবে প্রায়শই নতুন বৈশিষ্ট্যগুলিও পাই, যা আমরা নীচের সমস্ত অ্যালগরিদমে বিবেচনা করব।

লিনিয়ার মডেল

ধরা যাক আমাদের লজিস্টিক রিগ্রেশন আছে। আমরা নিম্নলিখিত উপাদানগুলি থেকে একটি ক্ষতির মডেল তৈরি করি:

• নতুন ডেটাতে লগলোস;
• আমরা নতুন বৈশিষ্ট্যগুলির ওজন নিয়মিত করি (আমরা পুরানোগুলিকে স্পর্শ করি না);
• পুরানো নিদর্শন সংরক্ষণ করার জন্য আমরা পুরানো ডেটা থেকেও শিখি;
• এবং, সম্ভবত, সবচেয়ে গুরুত্বপূর্ণ বিষয়: আমরা হারমোনিক রেগুলারাইজেশন যোগ করি, যা গ্যারান্টি দেয় যে ওজনগুলি আদর্শ অনুসারে পুরানো মডেলের তুলনায় খুব বেশি পরিবর্তন হবে না।

যেহেতু প্রতিটি ক্ষতির উপাদানের সহগ রয়েছে, তাই আমরা ক্রস-ভ্যালিডেশনের মাধ্যমে বা পণ্যের প্রয়োজনীয়তার ভিত্তিতে আমাদের কাজের জন্য সর্বোত্তম মান নির্বাচন করতে পারি।

গাছ

চলুন সিদ্ধান্ত গাছের দিকে এগিয়ে যাই। আমরা গাছের অতিরিক্ত প্রশিক্ষণের জন্য নিম্নলিখিত অ্যালগরিদমটি সংকলন করেছি:

1. উত্পাদন 100-300 গাছের একটি বন চালায়, যা একটি পুরানো ডেটা সেটের উপর প্রশিক্ষিত হয়।
2. শেষে আমরা M = 5 টুকরা মুছে ফেলি এবং 2M = 10 টি নতুন যোগ করি, পুরো ডেটা সেটে প্রশিক্ষিত, কিন্তু নতুন ডেটার জন্য একটি উচ্চ ওজন সহ, যা স্বাভাবিকভাবেই মডেলে একটি ক্রমবর্ধমান পরিবর্তনের নিশ্চয়তা দেয়।

স্পষ্টতই, সময়ের সাথে সাথে, গাছের সংখ্যা ব্যাপকভাবে বৃদ্ধি পায় এবং সময়গুলি পূরণ করার জন্য তাদের অবশ্যই পর্যায়ক্রমে হ্রাস করতে হবে। এটি করার জন্য, আমরা এখন সর্বব্যাপী নলেজ ডিস্টিলেশন (KD) ব্যবহার করি। সংক্ষেপে এর অপারেশন নীতি সম্পর্কে।

1. আমাদের বর্তমান "জটিল" মডেল আছে। আমরা এটি প্রশিক্ষণ ডেটা সেটে চালাই এবং আউটপুটে ক্লাস সম্ভাব্যতা বন্টন পাই।
2. এর পরে, আমরা ছাত্র মডেলকে প্রশিক্ষণ দিই (এই ক্ষেত্রে কম গাছের মডেল) লক্ষ্য পরিবর্তনশীল হিসাবে ক্লাস ডিস্ট্রিবিউশন ব্যবহার করে মডেলের ফলাফলের পুনরাবৃত্তি করতে।
3. এখানে উল্লেখ করা গুরুত্বপূর্ণ যে আমরা কোনোভাবেই ডেটা সেট মার্কআপ ব্যবহার করি না, এবং তাই আমরা ইচ্ছামত ডেটা ব্যবহার করতে পারি। অবশ্যই, আমরা ছাত্র মডেলের জন্য একটি প্রশিক্ষণ নমুনা হিসাবে যুদ্ধ প্রবাহ থেকে একটি ডেটা নমুনা ব্যবহার করি। এইভাবে, প্রশিক্ষণ সেট আমাদের মডেলের নির্ভুলতা নিশ্চিত করতে দেয় এবং স্ট্রীম নমুনাটি প্রশিক্ষণ সেটের পক্ষপাতের জন্য ক্ষতিপূরণ প্রদান করে উত্পাদন বিতরণে অনুরূপ কর্মক্ষমতা নিশ্চিত করে।

এই দুটি কৌশলের সংমিশ্রণ (গাছ যোগ করা এবং নলেজ ডিস্টিলেশন ব্যবহার করে পর্যায়ক্রমে তাদের সংখ্যা হ্রাস করা) নতুন প্যাটার্নের প্রবর্তন এবং সম্পূর্ণ ধারাবাহিকতা নিশ্চিত করে।

KD-এর সাহায্যে, আমরা মডেল বৈশিষ্ট্যগুলির উপর বিভিন্ন ক্রিয়াকলাপও সঞ্চালন করি, যেমন বৈশিষ্ট্যগুলি সরানো এবং ফাঁকগুলিতে কাজ করা। আমাদের ক্ষেত্রে, আমাদের কাছে অনেকগুলি গুরুত্বপূর্ণ পরিসংখ্যানগত বৈশিষ্ট্য রয়েছে (প্রেরকদের দ্বারা, পাঠ্য হ্যাশ, ইউআরএল, ইত্যাদি) যা ডাটাবেসে সংরক্ষিত থাকে, যা ব্যর্থ হওয়ার প্রবণতা রয়েছে৷ মডেল, অবশ্যই, ইভেন্টগুলির এই ধরনের বিকাশের জন্য প্রস্তুত নয়, যেহেতু ব্যর্থতার পরিস্থিতি প্রশিক্ষণ সেটে ঘটে না। এই ধরনের ক্ষেত্রে, আমরা কেডি এবং বৃদ্ধির কৌশলগুলিকে একত্রিত করি: ডেটার অংশের জন্য প্রশিক্ষণের সময়, আমরা প্রয়োজনীয় বৈশিষ্ট্যগুলি সরিয়ে ফেলি বা পুনরায় সেট করি এবং আমরা আসল লেবেলগুলি (বর্তমান মডেলের আউটপুট) নিয়ে থাকি এবং ছাত্র মডেল এই বিতরণের পুনরাবৃত্তি করতে শিখে। .

আমরা লক্ষ্য করেছি যে যত বেশি গুরুতর মডেল ম্যানিপুলেশন ঘটে, থ্রেড নমুনার প্রয়োজনীয় শতাংশ তত বেশি।

বৈশিষ্ট্য অপসারণ, সহজ অপারেশন, প্রবাহের শুধুমাত্র একটি ছোট অংশ প্রয়োজন, যেহেতু শুধুমাত্র কয়েকটি বৈশিষ্ট্য পরিবর্তন হয়, এবং বর্তমান মডেলটি একই সেটে প্রশিক্ষিত ছিল - পার্থক্যটি ন্যূনতম। মডেলটিকে সহজ করার জন্য (গাছের সংখ্যা বেশ কয়েকবার হ্রাস করা), ইতিমধ্যেই 50 থেকে 50 প্রয়োজন৷ এবং গুরুত্বপূর্ণ পরিসংখ্যানগত বৈশিষ্ট্যগুলি বাদ দেওয়ার জন্য যা মডেলটির কার্যকারিতাকে মারাত্মকভাবে প্রভাবিত করবে, এর কাজকে সমান করার জন্য আরও বেশি প্রবাহের প্রয়োজন৷ সব ধরনের অক্ষরে নতুন বাদ-প্রতিরোধী মডেল।

ফাস্টটেক্সট

চলুন FastText এ যাওয়া যাক। আমি আপনাকে মনে করিয়ে দিই যে একটি শব্দের উপস্থাপনা (এম্বেডিং) শব্দের এম্বেডিংয়ের যোগফল এবং এর সমস্ত অক্ষর N-গ্রাম, সাধারণত ট্রিগ্রামগুলি নিয়ে গঠিত। যেহেতু প্রচুর ট্রিগ্রাম থাকতে পারে, তাই বাকেট হ্যাশিং ব্যবহার করা হয়, অর্থাৎ পুরো স্থানটিকে একটি নির্দিষ্ট হ্যাশম্যাপে রূপান্তর করা হয়। ফলস্বরূপ, শব্দ + বালতিগুলির সংখ্যা প্রতি অভ্যন্তরীণ স্তরের মাত্রা সহ ওজন ম্যাট্রিক্স প্রাপ্ত হয়।

অতিরিক্ত প্রশিক্ষণের সাথে, নতুন লক্ষণগুলি উপস্থিত হয়: শব্দ এবং ট্রিগ্রাম। Facebook থেকে স্ট্যান্ডার্ড ফলো-আপ প্রশিক্ষণে উল্লেখযোগ্য কিছুই ঘটে না। শুধুমাত্র ক্রস-এনট্রপি সহ পুরানো ওজনগুলিকে নতুন ডেটাতে পুনরায় প্রশিক্ষণ দেওয়া হয়। সুতরাং, নতুন বৈশিষ্ট্যগুলি ব্যবহার করা হয় না; অবশ্যই, এই পদ্ধতির উত্পাদনে মডেলের অনির্দেশ্যতার সাথে সম্পর্কিত উপরে বর্ণিত সমস্ত অসুবিধা রয়েছে। এজন্য আমরা ফাস্ট টেক্সটকে কিছুটা পরিবর্তন করেছি। আমরা সমস্ত নতুন ওজন (শব্দ এবং ট্রিগ্রাম) যোগ করি, ক্রস-এনট্রপি সহ সমগ্র ম্যাট্রিক্স প্রসারিত করি এবং রৈখিক মডেলের সাথে সাদৃশ্য দ্বারা সুরেলা নিয়মিতকরণ যোগ করি, যা পুরানো ওজনগুলিতে একটি নগণ্য পরিবর্তনের গ্যারান্টি দেয়।

সিএনএন

কনভোল্যুশনাল নেটওয়ার্কগুলি একটু বেশি জটিল। যদি শেষ স্তরগুলি সিএনএন-এ সম্পন্ন হয়, তবে অবশ্যই, আপনি সুরেলা নিয়মিতকরণ এবং ধারাবাহিকতার গ্যারান্টি প্রয়োগ করতে পারেন। কিন্তু যদি পুরো নেটওয়ার্কের অতিরিক্ত প্রশিক্ষণের প্রয়োজন হয়, তাহলে এই ধরনের নিয়মিতকরণ আর সব স্তরে প্রয়োগ করা যাবে না। যাইহোক, ট্রিপলেট লস (মূল নিবন্ধ).

ট্রিপল লস

একটি উদাহরণ হিসাবে একটি অ্যান্টি-ফিশিং টাস্ক ব্যবহার করে, আসুন সাধারণ পরিভাষায় ট্রিপলেট লস দেখুন। আমরা আমাদের লোগো, সেইসাথে অন্যান্য কোম্পানির লোগোর ইতিবাচক এবং নেতিবাচক উদাহরণ গ্রহণ করি। আমরা প্রথমটির মধ্যে দূরত্ব কমিয়ে দেই এবং দ্বিতীয়টির মধ্যে দূরত্ব সর্বাধিক করি, ক্লাসগুলির বৃহত্তর কম্প্যাক্টনেস নিশ্চিত করতে আমরা একটি ছোট ফাঁক দিয়ে এটি করি।

যদি আমরা নেটওয়ার্ককে আরও প্রশিক্ষিত করি, তাহলে আমাদের মেট্রিক স্থান সম্পূর্ণরূপে পরিবর্তিত হয় এবং এটি পূর্ববর্তীটির সাথে সম্পূর্ণরূপে বেমানান হয়ে যায়। ভেক্টর ব্যবহার করে এমন সমস্যাগুলির মধ্যে এটি একটি গুরুতর সমস্যা। এই সমস্যাটি পেতে, আমরা প্রশিক্ষণের সময় পুরানো এম্বেডিংগুলিতে মিশ্রিত করব।

আমরা প্রশিক্ষণ সেটে নতুন ডেটা যোগ করেছি এবং স্ক্র্যাচ থেকে মডেলটির দ্বিতীয় সংস্করণকে প্রশিক্ষণ দিচ্ছি। দ্বিতীয় পর্যায়ে, আমরা আমাদের নেটওয়ার্ককে আরও প্রশিক্ষণ দিই (ফাইনটিউনিং): প্রথমে শেষ স্তরটি সম্পন্ন হয়, এবং তারপর পুরো নেটওয়ার্কটি আনফ্রোজ করা হয়। ট্রিপলেট রচনার প্রক্রিয়ায়, আমরা প্রশিক্ষিত মডেল ব্যবহার করে এমবেডিংয়ের শুধুমাত্র অংশ গণনা করি, বাকিটি - পুরানোটি ব্যবহার করে। এইভাবে, অতিরিক্ত প্রশিক্ষণের প্রক্রিয়ায়, আমরা মেট্রিক স্পেস v1 এবং v2 এর সামঞ্জস্যতা নিশ্চিত করি। সুরেলা নিয়মিতকরণের একটি অনন্য সংস্করণ।

সম্পূর্ণ স্থাপত্য

যদি আমরা একটি উদাহরণ হিসাবে অ্যান্টিস্প্যাম ব্যবহার করে পুরো সিস্টেমটিকে বিবেচনা করি, তাহলে মডেলগুলি বিচ্ছিন্ন নয়, তবে একে অপরের মধ্যে বাসা বাঁধে। আমরা ছবি, টেক্সট এবং অন্যান্য বৈশিষ্ট্য গ্রহণ করি, সিএনএন এবং ফাস্ট টেক্সট ব্যবহার করে আমরা এম্বেডিং পাই। এরপরে, এম্বেডিংয়ের উপরে শ্রেণীবিভাগ প্রয়োগ করা হয়, যা বিভিন্ন শ্রেণীর জন্য স্কোর প্রদান করে (অক্ষরের প্রকার, স্প্যাম, একটি লোগোর উপস্থিতি)। চূড়ান্ত সিদ্ধান্ত নেওয়ার জন্য ইতিমধ্যেই গাছের বনে প্রবেশ করছে সংকেত ও চিহ্ন। এই স্কিমের স্বতন্ত্র শ্রেণীবিভাগকারীরা সিস্টেমের ফলাফলগুলিকে আরও ভালভাবে ব্যাখ্যা করা এবং সমস্যার ক্ষেত্রে উপাদানগুলিকে আরও নির্দিষ্টভাবে পুনরায় প্রশিক্ষণ দেওয়া সম্ভব করে তোলে, সমস্ত ডেটা কাঁচা আকারে সিদ্ধান্ত গাছে খাওয়ানোর পরিবর্তে।

ফলস্বরূপ, আমরা প্রতিটি স্তরে ধারাবাহিকতার গ্যারান্টি দিই। CNN এবং ফাস্ট টেক্সটে নীচের স্তরে আমরা হারমোনিক নিয়মিতকরণ ব্যবহার করি, মাঝখানে শ্রেণীবিভাগের জন্য আমরা সম্ভাব্যতা বিতরণের সামঞ্জস্যের জন্য হারমোনিক নিয়মিতকরণ এবং হার ক্রমাঙ্কনও ব্যবহার করি। ভাল, গাছ বুস্টিং ক্রমবর্ধমানভাবে বা জ্ঞান পাতন ব্যবহার করে প্রশিক্ষিত হয়।

সাধারণভাবে, এই ধরনের একটি নেস্টেড মেশিন লার্নিং সিস্টেম বজায় রাখা সাধারণত একটি যন্ত্রণাদায়ক, কারণ নিম্ন স্তরের যে কোনও উপাদান উপরের পুরো সিস্টেমে আপডেটের দিকে নিয়ে যায়। কিন্তু যেহেতু আমাদের সেটআপে প্রতিটি উপাদান সামান্য পরিবর্তিত হয় এবং পূর্ববর্তীটির সাথে সামঞ্জস্যপূর্ণ, তাই সম্পূর্ণ কাঠামোকে পুনরায় প্রশিক্ষণের প্রয়োজন ছাড়াই পুরো সিস্টেমটিকে টুকরো টুকরো আপডেট করা যেতে পারে, যা এটিকে গুরুতর ওভারহেড ছাড়াই সমর্থন করার অনুমতি দেয়।

স্থাপন করুন

আমরা ডেটা সংগ্রহ এবং বিভিন্ন ধরনের মডেলের অতিরিক্ত প্রশিক্ষণ নিয়ে আলোচনা করেছি, তাই আমরা উৎপাদন পরিবেশে তাদের স্থাপনের দিকে এগিয়ে যাচ্ছি।

A/B পরীক্ষা

আমি আগেই বলেছি, তথ্য সংগ্রহের প্রক্রিয়ায়, আমরা সাধারণত একটি পক্ষপাতমূলক নমুনা পাই, যা থেকে মডেলের উত্পাদন কর্মক্ষমতা মূল্যায়ন করা অসম্ভব। অতএব, মোতায়েন করার সময়, জিনিসগুলি আসলে কীভাবে চলছে তা বোঝার জন্য মডেলটিকে পূর্ববর্তী সংস্করণের সাথে তুলনা করতে হবে, অর্থাৎ, A/B পরীক্ষাগুলি পরিচালনা করুন৷ প্রকৃতপক্ষে, চার্টগুলি রোল আউট এবং বিশ্লেষণ করার প্রক্রিয়াটি বেশ রুটিন এবং সহজেই স্বয়ংক্রিয় হতে পারে। আমরা আমাদের মডেলগুলিকে ধীরে ধীরে 5%, 30%, 50% এবং 100% ব্যবহারকারীদের মধ্যে রোল আউট করি, যখন মডেল প্রতিক্রিয়া এবং ব্যবহারকারীর প্রতিক্রিয়ার সমস্ত উপলব্ধ মেট্রিক্স সংগ্রহ করি৷ কিছু গুরুতর বহিঃপ্রকাশের ক্ষেত্রে, আমরা স্বয়ংক্রিয়ভাবে মডেলটি রোল ব্যাক করি এবং অন্যান্য ক্ষেত্রে, পর্যাপ্ত সংখ্যক ব্যবহারকারীর ক্লিক সংগ্রহ করার পরে, আমরা শতাংশ বাড়ানোর সিদ্ধান্ত নিই। ফলস্বরূপ, আমরা সম্পূর্ণ স্বয়ংক্রিয়ভাবে 50% ব্যবহারকারীর কাছে নতুন মডেল নিয়ে আসি, এবং পুরো দর্শকদের কাছে রোলআউটটি একজন ব্যক্তির দ্বারা অনুমোদিত হবে, যদিও এই পদক্ষেপটি স্বয়ংক্রিয় হতে পারে।

যাইহোক, A/B টেস্টিং প্রক্রিয়া অপ্টিমাইজেশনের জন্য জায়গা দেয়। আসল বিষয়টি হ'ল যে কোনও A/B পরীক্ষা বেশ দীর্ঘ হয় (আমাদের ক্ষেত্রে এটি প্রতিক্রিয়ার পরিমাণের উপর নির্ভর করে 6 থেকে 24 ঘন্টা সময় নেয়), যা এটিকে বেশ ব্যয়বহুল এবং সীমিত সংস্থান সহ করে তোলে। এছাড়াও, A/B পরীক্ষার সামগ্রিক সময়ের গতি বাড়ানোর জন্য পরীক্ষার জন্য যথেষ্ট উচ্চ শতাংশ প্রবাহ প্রয়োজন (একটি ছোট শতাংশে মেট্রিক্স মূল্যায়নের জন্য একটি পরিসংখ্যানগতভাবে উল্লেখযোগ্য নমুনা নিয়োগ করা খুব দীর্ঘ সময় নিতে পারে), যা তৈরি করে A/B স্লটের সংখ্যা অত্যন্ত সীমিত। স্পষ্টতই, আমাদের শুধুমাত্র সবচেয়ে প্রতিশ্রুতিশীল মডেলগুলি পরীক্ষা করতে হবে, যার মধ্যে আমরা অতিরিক্ত প্রশিক্ষণ প্রক্রিয়া চলাকালীন অনেক কিছু পেয়েছি।

এই সমস্যাটি সমাধান করার জন্য, আমরা একটি পৃথক শ্রেণিবিন্যাসকারীকে প্রশিক্ষণ দিয়েছি যা একটি A/B পরীক্ষার সাফল্যের পূর্বাভাস দেয়। এটি করার জন্য, আমরা সিদ্ধান্ত গ্রহণের পরিসংখ্যান, যথার্থতা, প্রত্যাহার এবং প্রশিক্ষণ সেটে অন্যান্য মেট্রিক্স, বিলম্বিত একটিতে এবং বৈশিষ্ট্য হিসাবে স্ট্রীম থেকে নমুনা নিয়ে থাকি। আমরা মডেলটিকে বর্তমান উৎপাদনের সাথে হিউরিস্টিকসের সাথে তুলনা করি এবং মডেলটির জটিলতা বিবেচনা করি। এই সমস্ত বৈশিষ্ট্যগুলি ব্যবহার করে, পরীক্ষার ইতিহাসে প্রশিক্ষিত একজন শ্রেণিবদ্ধকারী প্রার্থীর মডেলগুলিকে মূল্যায়ন করে, আমাদের ক্ষেত্রে এগুলি গাছের বন, এবং A/B পরীক্ষায় কোনটি ব্যবহার করতে হবে তা নির্ধারণ করে।

বাস্তবায়নের সময়, এই পদ্ধতিটি আমাদের সফল A/B পরীক্ষার সংখ্যা কয়েকবার বৃদ্ধি করার অনুমতি দেয়।

পরীক্ষা ও পর্যবেক্ষণ

পরীক্ষা এবং পর্যবেক্ষণ, অদ্ভুতভাবে যথেষ্ট, আমাদের স্বাস্থ্যের ক্ষতি করে না; বরং, তারা এটিকে উন্নত করে এবং আমাদের অপ্রয়োজনীয় চাপ থেকে মুক্তি দেয়। পরীক্ষা আপনাকে একটি ব্যর্থতা প্রতিরোধ করতে দেয়, এবং পর্যবেক্ষণ আপনাকে ব্যবহারকারীদের উপর প্রভাব কমাতে সময়মতো এটি সনাক্ত করতে দেয়।

এখানে এটি বোঝা গুরুত্বপূর্ণ যে শীঘ্র বা পরে আপনার সিস্টেম সবসময় ভুল করবে - এটি যে কোনও সফ্টওয়্যারের বিকাশ চক্রের কারণে। সিস্টেম ডেভেলপমেন্টের শুরুতে সবকিছু ঠিক না হওয়া পর্যন্ত এবং উদ্ভাবনের মূল পর্যায়টি সম্পূর্ণ না হওয়া পর্যন্ত সবসময় প্রচুর বাগ থাকে। কিন্তু সময়ের সাথে সাথে, এনট্রপি তার টোল নেয়, এবং ত্রুটিগুলি আবার প্রদর্শিত হয় - চারপাশে উপাদানগুলির অবক্ষয় এবং ডেটাতে পরিবর্তনের কারণে, যা আমি শুরুতে বলেছিলাম।

এখানে আমি উল্লেখ করতে চাই যে যেকোন মেশিন লার্নিং সিস্টেমকে তার সমগ্র জীবনচক্র জুড়ে তার লাভের দৃষ্টিকোণ থেকে বিবেচনা করা উচিত। নীচের গ্রাফটি একটি বিরল ধরণের স্প্যাম ধরতে সিস্টেমটি কীভাবে কাজ করে তার একটি উদাহরণ দেখায় (গ্রাফের লাইনটি শূন্যের কাছাকাছি)। একদিন, ভুলভাবে ক্যাশে করা বৈশিষ্ট্যের কারণে, সে পাগল হয়ে গেল। ভাগ্যের মতো, অস্বাভাবিক ট্রিগারিংয়ের জন্য কোনও পর্যবেক্ষণ ছিল না; ফলস্বরূপ, সিস্টেমটি সিদ্ধান্ত নেওয়ার সীমানায় "স্প্যাম" ফোল্ডারে প্রচুর পরিমাণে অক্ষর সংরক্ষণ করতে শুরু করে। ফলাফল সংশোধন করা সত্ত্বেও, সিস্টেমটি ইতিমধ্যেই এতবার ভুল করেছে যে এটি পাঁচ বছরেও নিজের জন্য পরিশোধ করবে না। এবং এটি মডেলের জীবনচক্রের দৃষ্টিকোণ থেকে সম্পূর্ণ ব্যর্থতা।

অতএব, নিরীক্ষণের মতো একটি সাধারণ জিনিস একটি মডেলের জীবনে মূল হয়ে উঠতে পারে। স্ট্যান্ডার্ড এবং সুস্পষ্ট মেট্রিক্স ছাড়াও, আমরা মডেল প্রতিক্রিয়া এবং স্কোর, সেইসাথে মূল বৈশিষ্ট্য মানগুলির বিতরণ বিবেচনা করি। KL ডাইভারজেন্স ব্যবহার করে, আমরা বর্তমান ডিস্ট্রিবিউশনকে ঐতিহাসিক একের সাথে বা A/B পরীক্ষার মানগুলির সাথে বাকী স্ট্রিমের সাথে তুলনা করতে পারি, যা আমাদের মডেলের অসঙ্গতিগুলি লক্ষ্য করতে এবং সময়মত পরিবর্তনগুলিকে ফিরিয়ে আনার অনুমতি দেয়।

বেশিরভাগ ক্ষেত্রে, আমরা সাধারণ হিউরিস্টিকস বা মডেলগুলি ব্যবহার করে আমাদের সিস্টেমের প্রথম সংস্করণগুলি চালু করি যা আমরা ভবিষ্যতে পর্যবেক্ষণ হিসাবে ব্যবহার করি। উদাহরণস্বরূপ, আমরা নির্দিষ্ট অনলাইন স্টোরগুলির জন্য নিয়মিতগুলির তুলনায় NER মডেলটিকে নিরীক্ষণ করি এবং যদি তাদের সাথে তুলনা করে শ্রেণীবদ্ধ কভারেজ কমে যায়, তাহলে আমরা কারণগুলি বুঝতে পারি। হিউরিস্টিক আরেকটি দরকারী ব্যবহার!

ফলাফল

আসুন আবার নিবন্ধের মূল ধারণাগুলি নিয়ে যাই।

• ফিবডেক. আমরা সর্বদা ব্যবহারকারী সম্পর্কে চিন্তা করি: তিনি কীভাবে আমাদের ভুলগুলি নিয়ে বাঁচবেন, কীভাবে তিনি সেগুলি রিপোর্ট করতে সক্ষম হবেন৷ ভুলে যাবেন না যে ব্যবহারকারীরা প্রশিক্ষণের মডেলগুলির জন্য বিশুদ্ধ প্রতিক্রিয়ার উত্স নয় এবং এটি সহায়ক ML সিস্টেমের সাহায্যে পরিষ্কার করা দরকার। যদি ব্যবহারকারীর কাছ থেকে একটি সংকেত সংগ্রহ করা সম্ভব না হয়, তবে আমরা প্রতিক্রিয়ার বিকল্প উত্সগুলি সন্ধান করি, উদাহরণস্বরূপ, সংযুক্ত সিস্টেমগুলি।
• অতিরিক্ত প্রশিক্ষণ. এখানে প্রধান জিনিসটি ধারাবাহিকতা, তাই আমরা বর্তমান উত্পাদন মডেলের উপর নির্ভর করি। আমরা নতুন মডেলগুলিকে প্রশিক্ষণ দিই যাতে তারা সুরেলা নিয়মিতকরণ এবং অনুরূপ কৌশলগুলির কারণে আগেরটির থেকে খুব বেশি আলাদা না হয়।
• স্থাপন করুন. মেট্রিক্সের উপর ভিত্তি করে স্বয়ংক্রিয় স্থাপনা মডেলগুলি বাস্তবায়নের সময়কে ব্যাপকভাবে হ্রাস করে। পরিসংখ্যান পর্যবেক্ষণ এবং সিদ্ধান্ত গ্রহণের বন্টন, ব্যবহারকারীদের থেকে হ্রাসের সংখ্যা আপনার বিশ্রামের ঘুম এবং উত্পাদনশীল সপ্তাহান্তের জন্য বাধ্যতামূলক।

ঠিক আছে, আমি আশা করি এটি আপনাকে আপনার ML সিস্টেমগুলিকে দ্রুত উন্নত করতে, সেগুলিকে দ্রুত বাজারে আনতে এবং সেগুলিকে আরও নির্ভরযোগ্য এবং কম চাপযুক্ত করতে সাহায্য করবে৷

উত্স: www.habr.com