ພວກເຮົາເຮັດວຽກແນວໃດກ່ຽວກັບຄຸນນະພາບແລະຄວາມໄວຂອງການຄັດເລືອກຄໍາແນະນໍາ

ຂ້ອຍຊື່ Pavel Parkhomenko, ຂ້ອຍເປັນຜູ້ພັດທະນາ ML. ໃນບົດຄວາມນີ້, ຂ້າພະເຈົ້າຢາກເວົ້າກ່ຽວກັບໂຄງສ້າງຂອງການບໍລິການ Yandex.Zen ແລະແບ່ງປັນການປັບປຸງດ້ານວິຊາການ, ການປະຕິບັດທີ່ເຮັດໃຫ້ມັນສາມາດເພີ່ມຄຸນນະພາບຂອງຄໍາແນະນໍາ. ຈາກບົດຂຽນນີ້, ທ່ານຈະໄດ້ຮຽນຮູ້ວິທີການຊອກຫາສິ່ງທີ່ກ່ຽວຂ້ອງທີ່ສຸດສໍາລັບຜູ້ໃຊ້ໃນບັນດາເອກະສານຫຼາຍລ້ານໃນເວລາພຽງແຕ່ສອງສາມມິນລິວິນາທີ; ວິທີການເຮັດ decomposition ຢ່າງຕໍ່ເນື່ອງຂອງ matrix ຂະຫນາດໃຫຍ່ (ປະກອບດ້ວຍລ້ານຄໍລໍາແລະສິບລ້ານແຖວ) ເພື່ອໃຫ້ເອກະສານໃຫມ່ໄດ້ຮັບ vector ຂອງເຂົາເຈົ້າໃນສິບນາທີ; ວິທີການໃຊ້ຄືນໃຫມ່ການ decomposition matrix ຂອງຜູ້ໃຊ້ເພື່ອໄດ້ຮັບການເປັນຕົວແທນ vector ທີ່ດີສໍາລັບວິດີໂອ.

ຖານຂໍ້ມູນຄໍາແນະນໍາຂອງພວກເຮົາປະກອບມີເອກະສານຫຼາຍລ້ານຮູບແບບ: ບົດຄວາມທີ່ສ້າງຂຶ້ນໃນເວທີຂອງພວກເຮົາແລະເອົາມາຈາກເວັບໄຊທ໌ພາຍນອກ, ວິດີໂອ, ການບັນຍາຍແລະຂໍ້ຄວາມສັ້ນ. ການພັດທະນາການບໍລິການດັ່ງກ່າວແມ່ນກ່ຽວຂ້ອງກັບການທ້າທາຍທາງດ້ານເຕັກນິກຈໍານວນຫລາຍ. ນີ້ແມ່ນບາງສ່ວນຂອງພວກເຂົາ:

• ແບ່ງ​ວຽກ​ງານ​ຄອມ​ພິວ​ເຕີ​: ເຮັດ​ວຽກ​ງານ​ຢ່າງ​ຮຸນ​ແຮງ​ທັງ​ຫມົດ offline​, ແລະ​ໃນ​ເວ​ລາ​ທີ່​ແທ້​ຈິງ​ພຽງ​ແຕ່​ປະ​ຕິ​ບັດ​ການ​ນໍາ​ໃຊ້​ຕົວ​ແບບ​ໄວ​ເພື່ອ​ຮັບ​ຜິດ​ຊອບ​ສໍາ​ລັບ 100-200 ms​.
• ໃຫ້ຄຳນຶງເຖິງການກະທຳຂອງຜູ້ໃຊ້ຢ່າງໄວວາ. ເພື່ອເຮັດສິ່ງນີ້, ມັນເປັນສິ່ງຈໍາເປັນທີ່ເຫດການທັງຫມົດຈະຖືກສົ່ງໃຫ້ຜູ້ແນະນໍາທັນທີແລະມີອິດທິພົນຕໍ່ຜົນໄດ້ຮັບຂອງແບບຈໍາລອງ.
• ເຮັດໃຫ້ຟີດເພື່ອໃຫ້ສໍາລັບຜູ້ໃຊ້ໃຫມ່ມັນປັບຕົວເຂົ້າກັບພຶດຕິກໍາຂອງພວກເຂົາຢ່າງໄວວາ. ຄົນທີ່ຫາກໍ່ເຂົ້າຮ່ວມລະບົບຄວນຮູ້ສຶກວ່າຄໍາຄິດເຫັນຂອງເຂົາເຈົ້າມີອິດທິພົນຕໍ່ຄໍາແນະນໍາ.
• ເຂົ້າໃຈໄວວ່າຈະແນະນຳບົດຄວາມໃໝ່ໃຫ້ໃຜ.
• ຕອບສະຫນອງຢ່າງໄວວາຕໍ່ການປະກົດຕົວຢ່າງຕໍ່ເນື່ອງຂອງເນື້ອຫາໃຫມ່. ຫລາຍສິບພັນບົດໄດ້ຖືກຕີພິມທຸກໆມື້, ແລະຫຼາຍໆຄົນຂອງພວກມັນມີອາຍຸຈໍາກັດ (ເວົ້າ, ຂ່າວ). ນີ້ແມ່ນສິ່ງທີ່ຈໍາແນກໃຫ້ເຂົາເຈົ້າຈາກຮູບເງົາ, ດົນຕີແລະເນື້ອຫາອື່ນໆທີ່ມີອາຍຸຍາວນານແລະລາຄາແພງເພື່ອສ້າງ.
• ໂອນຄວາມຮູ້ຈາກພື້ນທີ່ໂດເມນຫນຶ່ງໄປຫາອີກ. ຖ້າລະບົບການແນະນໍາໄດ້ຝຶກອົບຮົມແບບຈໍາລອງສໍາລັບບົດຄວາມຂໍ້ຄວາມແລະພວກເຮົາເພີ່ມວິດີໂອໃສ່ມັນ, ພວກເຮົາສາມາດໃຊ້ແບບຈໍາລອງທີ່ມີຢູ່ໃຫມ່ເພື່ອໃຫ້ປະເພດເນື້ອຫາໃຫມ່ຈັດອັນດັບດີກວ່າ.

ຂ້ອຍຈະບອກເຈົ້າວ່າພວກເຮົາແກ້ໄຂບັນຫາເຫຼົ່ານີ້ໄດ້ແນວໃດ.

ການຄັດເລືອກຜູ້ສະຫມັກ

ວິທີການຫຼຸດຜ່ອນຈໍານວນເອກະສານພາຍໃຕ້ການພິຈາລະນາຫລາຍພັນເທື່ອໃນສອງສາມມິນລິວິນາທີ, ເກືອບບໍ່ມີການເສື່ອມໂຊມໃນຄຸນນະພາບຂອງການຈັດອັນດັບ?

ສົມມຸດວ່າພວກເຮົາໄດ້ຝຶກອົບຮົມແບບຈໍາລອງ ML ຫຼາຍ, ສ້າງຄຸນສົມບັດໂດຍອີງໃສ່ພວກມັນ, ແລະຝຶກອົບຮົມຮູບແບບອື່ນທີ່ຈັດອັນດັບເອກະສານສໍາລັບຜູ້ໃຊ້. ທຸກສິ່ງທຸກຢ່າງຈະດີ, ແຕ່ທ່ານບໍ່ສາມາດພຽງແຕ່ໃຊ້ເວລາແລະຄິດໄລ່ອາການທັງຫມົດສໍາລັບເອກະສານທັງຫມົດໃນເວລາທີ່ແທ້ຈິງ, ຖ້າຫາກວ່າມີລ້ານເອກະສານເຫຼົ່ານີ້, ແລະຄໍາແນະນໍາຕ້ອງໄດ້ຮັບການສ້າງຂຶ້ນໃນ 100-200 ms. ວຽກງານແມ່ນເພື່ອເລືອກເອົາຊຸດຍ່ອຍທີ່ແນ່ນອນຈາກລ້ານ, ເຊິ່ງຈະຖືກຈັດອັນດັບສໍາລັບຜູ້ໃຊ້. ຂັ້ນຕອນນີ້ປົກກະຕິແລ້ວເອີ້ນວ່າການຄັດເລືອກຜູ້ສະຫມັກ. ມີຄວາມຕ້ອງການຈໍານວນຫນຶ່ງສໍາລັບມັນ. ກ່ອນອື່ນ ໝົດ, ການຄັດເລືອກຕ້ອງເກີດຂື້ນຢ່າງໄວວາ, ສະນັ້ນເວລາຫຼາຍເທົ່າທີ່ເປັນໄປໄດ້ແມ່ນປ່ອຍໃຫ້ການຈັດອັນດັບຂອງມັນເອງ. ອັນທີສອງ, ໄດ້ຫຼຸດລົງຢ່າງຫຼວງຫຼາຍຂອງເອກະສານສໍາລັບການຈັດອັນດັບ, ພວກເຮົາຕ້ອງຮັກສາເອກະສານທີ່ກ່ຽວຂ້ອງກັບຜູ້ໃຊ້ຢ່າງສົມບູນເທົ່າທີ່ເປັນໄປໄດ້.

ຫຼັກ​ການ​ຂອງ​ການ​ຄັດ​ເລືອກ​ຜູ້​ສະ​ຫມັກ​ຂອງ​ພວກ​ເຮົາ​ໄດ້​ພັດ​ທະ​ນາ​, ແລະ​ໃນ​ປັດ​ຈຸ​ບັນ​ພວກ​ເຮົາ​ໄດ້​ມາ​ເຖິງ​ໂຄງ​ການ​ຫຼາຍ​ຂັ້ນ​ຕອນ​:

ຫນ້າທໍາອິດ, ເອກະສານທັງຫມົດຖືກແບ່ງອອກເປັນກຸ່ມ, ແລະເອກະສານທີ່ນິຍົມຫຼາຍທີ່ສຸດແມ່ນເອົາມາຈາກແຕ່ລະກຸ່ມ. ກຸ່ມສາມາດເປັນສະຖານທີ່, ຫົວຂໍ້, ກຸ່ມ. ສໍາລັບຜູ້ໃຊ້ແຕ່ລະຄົນ, ອີງຕາມປະຫວັດສາດຂອງລາວ, ກຸ່ມທີ່ໃກ້ຊິດກັບລາວແມ່ນໄດ້ຖືກຄັດເລືອກແລະເອກະສານທີ່ດີທີ່ສຸດແມ່ນເອົາມາຈາກພວກເຂົາ. ພວກເຮົາຍັງໃຊ້ດັດຊະນີ kNN ເພື່ອເລືອກເອກະສານທີ່ຢູ່ໃກ້ກັບຜູ້ໃຊ້ທີ່ສຸດໃນເວລາຈິງ. ມີຫຼາຍວິທີການສ້າງດັດຊະນີ kNN; ຂອງພວກເຮົາໄດ້ຜົນດີທີ່ສຸດ HNSW (ກາຟໂລກຂະໜາດນ້ອຍນຳທາງຕາມລຳດັບ). ນີ້ແມ່ນຕົວແບບລໍາດັບຊັ້ນທີ່ຊ່ວຍໃຫ້ທ່ານຊອກຫາ vectors N ທີ່ໃກ້ຄຽງທີ່ສຸດສໍາລັບຜູ້ໃຊ້ຈາກຖານຂໍ້ມູນຂອງລ້ານໃນສອງສາມມິລິວິນາທີ. ພວກເຮົາທໍາອິດດັດສະນີຖານຂໍ້ມູນເອກະສານທັງຫມົດຂອງພວກເຮົາອອຟໄລ. ນັບຕັ້ງແຕ່ການຄົ້ນຫາໃນດັດສະນີເຮັດວຽກຂ້ອນຂ້າງໄວ, ຖ້າມີການຝັງຕົວທີ່ເຂັ້ມແຂງຫຼາຍ, ທ່ານສາມາດສ້າງດັດສະນີຫຼາຍ (ດັດສະນີຫນຶ່ງສໍາລັບແຕ່ລະການຝັງຕົວ) ແລະເຂົ້າເຖິງແຕ່ລະຄົນໃນເວລາທີ່ແທ້ຈິງ.

ພວກເຮົາຍັງມີຫຼາຍສິບພັນເອກະສານສໍາລັບຜູ້ໃຊ້ແຕ່ລະຄົນ. ນີ້ແມ່ນຍັງມີຫຼາຍທີ່ຈະນັບຄຸນສົມບັດທັງຫມົດ, ດັ່ງນັ້ນໃນຂັ້ນຕອນນີ້ພວກເຮົາໃຊ້ການຈັດອັນດັບແສງສະຫວ່າງ - ຮູບແບບການຈັດອັນດັບນ້ໍາຫນັກເບົາທີ່ມີຄຸນສົມບັດຫນ້ອຍ. ວຽກງານແມ່ນເພື່ອຄາດຄະເນວ່າເອກະສານໃດທີ່ຮູບແບບຫນັກຈະມີຢູ່ໃນດ້ານເທິງ. ເອກະສານທີ່ມີຜູ້ຄາດຄະເນສູງສຸດຈະຖືກນໍາໃຊ້ໃນແບບຢ່າງຫນັກ, ນັ້ນແມ່ນ, ໃນຂັ້ນຕອນສຸດທ້າຍຂອງການຈັດອັນດັບ. ວິທີການນີ້ຊ່ວຍໃຫ້ທ່ານສາມາດຫຼຸດຜ່ອນຖານຂໍ້ມູນຂອງເອກະສານທີ່ພິຈາລະນາສໍາລັບຜູ້ໃຊ້ຈາກລ້ານໄປຫາຫລາຍພັນຄົນໃນຫລາຍສິບ milliseconds.

ຂັ້ນຕອນ ALS ໃນ runtime

ວິທີການຄໍານຶງເຖິງຄວາມຄິດເຫັນຂອງຜູ້ໃຊ້ທັນທີຫຼັງຈາກຄລິກ?

ປັດໃຈສໍາຄັນໃນການແນະນໍາແມ່ນເວລາຕອບສະຫນອງຕໍ່ຄໍາຕິຊົມຂອງຜູ້ໃຊ້. ນີ້ແມ່ນສິ່ງສໍາຄັນໂດຍສະເພາະສໍາລັບຜູ້ໃຊ້ໃຫມ່: ໃນເວລາທີ່ບຸກຄົນໃດຫນຶ່ງພຽງແຕ່ເລີ່ມຕົ້ນການນໍາໃຊ້ລະບົບຄໍາແນະນໍາ, ລາວໄດ້ຮັບອາຫານທີ່ບໍ່ແມ່ນສ່ວນບຸກຄົນຂອງເອກະສານຂອງຫົວຂໍ້ຕ່າງໆ. ທັນທີທີ່ລາວກົດຄັ້ງທໍາອິດ, ທ່ານຈໍາເປັນຕ້ອງເອົາເລື່ອງນີ້ເຂົ້າໄປໃນບັນຊີທັນທີແລະປັບຕົວເຂົ້າກັບຜົນປະໂຫຍດຂອງລາວ. ຖ້າທ່ານຄິດໄລ່ປັດໃຈທັງ ໝົດ ແບບອອບໄລນ໌, ການຕອບສະ ໜອງ ຂອງລະບົບໄວຈະກາຍເປັນເປັນໄປບໍ່ໄດ້ເນື່ອງຈາກຄວາມລ່າຊ້າ. ດັ່ງນັ້ນ, ມັນເປັນສິ່ງຈໍາເປັນທີ່ຈະປະມວນຜົນການປະຕິບັດຂອງຜູ້ໃຊ້ໃນເວລາທີ່ແທ້ຈິງ. ສໍາລັບຈຸດປະສົງເຫຼົ່ານີ້, ພວກເຮົາໃຊ້ຂັ້ນຕອນ ALS ໃນ runtime ເພື່ອສ້າງ vector ເປັນຕົວແທນຂອງຜູ້ໃຊ້.

ໃຫ້ສົມມຸດວ່າພວກເຮົາມີຕົວສະແດງ vector ສໍາລັບເອກະສານທັງຫມົດ. ຕົວຢ່າງ, ພວກເຮົາສາມາດສ້າງການຝັງແບບອອບໄລນ໌ໂດຍອີງໃສ່ຂໍ້ຄວາມຂອງບົດຄວາມໂດຍໃຊ້ ELMo, BERT ຫຼືຮູບແບບການຮຽນຮູ້ເຄື່ອງຈັກອື່ນໆ. ພວກເຮົາສາມາດໄດ້ຮັບການເປັນຕົວແທນ vector ຂອງຜູ້ໃຊ້ໃນຊ່ອງດຽວກັນໂດຍອີງໃສ່ການໂຕ້ຕອບຂອງເຂົາເຈົ້າໃນລະບົບໄດ້ແນວໃດ?

ຫຼັກ​ການ​ທົ່ວ​ໄປ​ຂອງ​ການ​ສ້າງ​ຕັ້ງ​ແລະ decomposition ຂອງ​ມາ​ຕຣິກ​ເບື້ອງ​ຜູ້​ໃຊ້​ເອ​ກະ​ສານ​ໃຫ້ພວກເຮົາມີຜູ້ໃຊ້ m ແລະ n ເອກະສານ. ສໍາລັບຜູ້ໃຊ້ບາງຄົນ, ຄວາມສໍາພັນຂອງເຂົາເຈົ້າກັບເອກະສານສະເພາະໃດຫນຶ່ງແມ່ນເປັນທີ່ຮູ້ຈັກ. ຫຼັງຈາກນັ້ນ, ຂໍ້ມູນນີ້ສາມາດຖືກສະແດງເປັນ m x n matrix: ແຖວກົງກັບຜູ້ໃຊ້, ແລະຖັນກົງກັນກັບເອກະສານ. ເນື່ອງຈາກບຸກຄົນບໍ່ໄດ້ເຫັນເອກະສານສ່ວນໃຫຍ່, ຈຸລັງ matrix ສ່ວນໃຫຍ່ຈະຍັງຄົງຫວ່າງເປົ່າ, ໃນຂະນະທີ່ຄົນອື່ນຈະເຕັມໄປ. ສໍາລັບແຕ່ລະເຫດການ (ມັກ, ບໍ່ມັກ, ຄລິກ) ບາງຄ່າແມ່ນໃຫ້ຢູ່ໃນເມທຣິກ - ແຕ່ໃຫ້ພິຈາລະນາຮູບແບບທີ່ງ່າຍດາຍເຊິ່ງຄວາມມັກກົງກັນກັບ 1, ແລະຄວາມບໍ່ມັກກົງກັບ -1.

ໃຫ້ decompose matrix ເປັນສອງ: P (m x d) ແລະ Q (d x n), d ແມ່ນຂະຫນາດຂອງ vector ເປັນຕົວແທນ (ປົກກະຕິແລ້ວເປັນຈໍານວນນ້ອຍ). ຫຼັງຈາກນັ້ນ, ແຕ່ລະວັດຖຸຈະກົງກັນກັບ vector d-dimensional (ສໍາລັບຜູ້ໃຊ້ - ແຖວໃນ matrix P, ສໍາລັບເອກະສານ - ຖັນໃນ matrix Q). vectors ເຫຼົ່ານີ້ຈະເປັນການຝັງຂອງວັດຖຸທີ່ສອດຄ້ອງກັນ. ເພື່ອຄາດຄະເນວ່າຜູ້ໃຊ້ຈະມັກເອກະສານ, ທ່ານພຽງແຕ່ສາມາດຄູນການຝັງຂອງເຂົາເຈົ້າ.

ຫນຶ່ງໃນວິທີທີ່ເປັນໄປໄດ້ທີ່ຈະ decompose matrix ແມ່ນ ALS (ສີ່ຫລ່ຽມຫນ້ອຍສະລັບກັນ). ພວກເຮົາຈະເພີ່ມປະສິດທິພາບຫນ້າທີ່ສູນເສຍຕໍ່ໄປນີ້:

ທີ່ນີ້ rui ແມ່ນການໂຕ້ຕອບຂອງຜູ້ໃຊ້ u ກັບເອກະສານ i, qi ແມ່ນ vector ຂອງເອກະສານ i, pu ແມ່ນ vector ຂອງຜູ້ໃຊ້ u.

ຫຼັງຈາກນັ້ນ, vector ຜູ້ໃຊ້ທີ່ດີທີ່ສຸດຈາກມຸມເບິ່ງຂອງຄວາມຜິດພາດສີ່ຫລ່ຽມສະເລ່ຍ (ສໍາລັບ vectors ເອກະສານຄົງທີ່) ໄດ້ຖືກພົບເຫັນໃນການວິເຄາະໂດຍການແກ້ໄຂ regression linear ທີ່ສອດຄ້ອງກັນ.

ອັນນີ້ເອີ້ນວ່າ "ຂັ້ນຕອນ ALS". ແລະ algorithm ALS ຕົວຂອງມັນເອງແມ່ນວ່າພວກເຮົາສະລັບກັນແກ້ໄຂຫນຶ່ງຂອງ matrices (ຜູ້ໃຊ້ແລະບົດຄວາມ) ແລະປັບປຸງອື່ນໆ, ຊອກຫາການແກ້ໄຂທີ່ດີທີ່ສຸດ.

ໂຊກດີ, ການຊອກຫາຕົວສະແດງ vector ຂອງຜູ້ໃຊ້ແມ່ນການດໍາເນີນງານໄວພໍສົມຄວນທີ່ສາມາດເຮັດໄດ້ໃນເວລາແລ່ນໂດຍໃຊ້ຄໍາແນະນໍາ vector. trick ນີ້ຊ່ວຍໃຫ້ທ່ານສາມາດເອົາຄໍາຕິຊົມຂອງຜູ້ໃຊ້ເຂົ້າໃນບັນຊີໃນການຈັດອັນດັບໃນທັນທີ. ການຝັງດຽວກັນສາມາດຖືກນໍາໃຊ້ໃນດັດຊະນີ kNN ເພື່ອປັບປຸງການຄັດເລືອກຜູ້ສະຫມັກ.

ການກັ່ນຕອງການຮ່ວມມືແບບແຈກຢາຍ

ວິທີການເຮັດຕົວປະກອບ matrix ທີ່ແຈກຢາຍແບບເພີ່ມຂຶ້ນແລະຊອກຫາຕົວແທນ vector ຂອງບົດຄວາມໃຫມ່ຢ່າງໄວວາແນວໃດ?

ເນື້ອຫາບໍ່ແມ່ນແຫຼ່ງດຽວຂອງສັນຍານແນະນໍາ. ແຫຼ່ງທີ່ສໍາຄັນອີກອັນຫນຶ່ງແມ່ນຂໍ້ມູນການຮ່ວມມື. ລັກສະນະການຈັດອັນດັບທີ່ດີສາມາດໄດ້ຮັບຕາມປະເພນີຈາກການທໍາລາຍຂອງຕາຕະລາງເອກະສານຂອງຜູ້ໃຊ້. ແຕ່ເມື່ອພະຍາຍາມເຮັດການເນົ່າເປື່ອຍດັ່ງກ່າວ, ພວກເຮົາພົບບັນຫາ:

1. ພວກເຮົາມີເອກະສານຫຼາຍລ້ານຄົນແລະຜູ້ໃຊ້ຫຼາຍສິບລ້ານຄົນ. ມາຕຣິກເບື້ອງບໍ່ພໍດີກັບເຄື່ອງຈັກດຽວ, ແລະການຍ່ອຍສະຫຼາຍຈະໃຊ້ເວລາດົນຫຼາຍ.
2. ເນື້ອໃນສ່ວນໃຫຍ່ໃນລະບົບມີອາຍຸສັ້ນ: ເອກະສານຍັງຄົງກ່ຽວຂ້ອງພຽງແຕ່ສອງສາມຊົ່ວໂມງ. ດັ່ງນັ້ນ, ມັນເປັນສິ່ງຈໍາເປັນທີ່ຈະສ້າງຕົວສະແດງ vector ຂອງພວກເຂົາໄວເທົ່າທີ່ຈະໄວໄດ້.
3. ຖ້າທ່ານສ້າງການຍ່ອຍສະຫຼາຍທັນທີຫຼັງຈາກເອກະສານຖືກເຜີຍແຜ່, ຈໍານວນຜູ້ໃຊ້ທີ່ພຽງພໍຈະບໍ່ມີເວລາທີ່ຈະປະເມີນມັນ. ດັ່ງນັ້ນ, ການເປັນຕົວແທນຂອງ vector ຂອງມັນຈະບໍ່ຄ່ອຍດີຫຼາຍ.
4. ຖ້າຜູ້ໃຊ້ມັກຫຼືບໍ່ມັກ, ພວກເຮົາຈະບໍ່ສາມາດເອົາສິ່ງນີ້ເຂົ້າໄປໃນບັນຊີຂອງການຍ່ອຍສະຫຼາຍໄດ້ທັນທີ.

ເພື່ອແກ້ໄຂບັນຫາເຫຼົ່ານີ້, ພວກເຮົາໄດ້ປະຕິບັດການຍ່ອຍສະຫຼາຍທີ່ແຈກຢາຍຂອງຕາຕະລາງເອກະສານຜູ້ໃຊ້ທີ່ມີການປັບປຸງເລື້ອຍໆເລື້ອຍໆ. ມັນເຮັດວຽກແນວໃດແທ້?

ສົມມຸດວ່າພວກເຮົາມີເຄື່ອງຈັກ N (N ຢູ່ໃນຫຼາຍຮ້ອຍຄົນ) ແລະພວກເຮົາຕ້ອງການທີ່ຈະເຮັດການຍ່ອຍສະຫຼາຍຂອງ matrix ທີ່ແຈກຢາຍທີ່ບໍ່ເຫມາະສົມກັບເຄື່ອງຈັກດຽວ. ຄໍາຖາມແມ່ນວິທີການປະຕິບັດການຍ່ອຍສະຫຼາຍນີ້ເພື່ອໃຫ້, ໃນດ້ານຫນຶ່ງ, ມີຂໍ້ມູນພຽງພໍໃນແຕ່ລະເຄື່ອງແລະ, ໃນທາງກົງກັນຂ້າມ, ດັ່ງນັ້ນການຄິດໄລ່ແມ່ນເອກະລາດ?

ພວກເຮົາຈະໃຊ້ວິທີການ decomposition ALS ທີ່ອະທິບາຍໄວ້ຂ້າງເທິງ. ໃຫ້ເບິ່ງວິທີການປະຕິບັດຂັ້ນຕອນ ALS ໃນລັກສະນະທີ່ແຈກຢາຍ - ສ່ວນທີ່ເຫຼືອຂອງຂັ້ນຕອນຈະຄ້າຍຄືກັນ. ໃຫ້ເວົ້າວ່າພວກເຮົາມີ matrix ຄົງທີ່ຂອງເອກະສານແລະພວກເຮົາຕ້ອງການສ້າງ matrix ຂອງຜູ້ໃຊ້. ເພື່ອເຮັດສິ່ງນີ້, ພວກເຮົາຈະແບ່ງມັນອອກເປັນ N ສ່ວນໂດຍສາຍ, ແຕ່ລະພາກສ່ວນຈະມີປະມານຈໍານວນເສັ້ນດຽວກັນ. ພວກເຮົາຈະສົ່ງໄປຫາແຕ່ລະເຄື່ອງຈັກທີ່ບໍ່ຫວ່າງເປົ່າຂອງແຖວທີ່ສອດຄ້ອງກັນ, ເຊັ່ນດຽວກັນກັບ matrix ຂອງການຝັງເອກະສານ (ທັງຫມົດ). ເນື່ອງຈາກຂະຫນາດຂອງມັນບໍ່ໃຫຍ່ຫຼາຍ, ແລະຕາຕະລາງເອກະສານຂອງຜູ້ໃຊ້ໂດຍປົກກະຕິແມ່ນກະແຈກກະຈາຍຫຼາຍ, ຂໍ້ມູນນີ້ຈະເຫມາະກັບເຄື່ອງປົກກະຕິ.

trick ນີ້ສາມາດໄດ້ຮັບການຊ້ໍາໃນໄລຍະຫຼາຍ epochs ຈົນກ່ວາຮູບແບບ converges, alternating matrix ຄົງທີ່ຫນຶ່ງຫນຶ່ງ. ແຕ່ເຖິງແມ່ນແລ້ວ, ການເສື່ອມໂຊມຂອງ matrix ສາມາດໃຊ້ເວລາຫຼາຍຊົ່ວໂມງ. ແລະນີ້ບໍ່ໄດ້ແກ້ໄຂບັນຫາທີ່ທ່ານຈໍາເປັນຕ້ອງໄດ້ຮັບການຝັງຕົວຂອງເອກະສານໃຫມ່ຢ່າງໄວວາແລະປັບປຸງການຝັງຕົວຂອງສິ່ງທີ່ມີຂໍ້ມູນຫນ້ອຍໃນເວລາສ້າງຕົວແບບ.

ການແນະນໍາການອັບເດດຕົວແບບເພີ່ມຂຶ້ນໄວໄດ້ຊ່ວຍພວກເຮົາ. ໃຫ້ເວົ້າວ່າພວກເຮົາມີຮູບແບບການຝຶກອົບຮົມໃນປະຈຸບັນ. ນັບຕັ້ງແຕ່ການຝຶກອົບຮົມຂອງນາງ, ມີບົດຄວາມໃຫມ່ທີ່ຜູ້ໃຊ້ຂອງພວກເຮົາໄດ້ພົວພັນກັບ, ເຊັ່ນດຽວກັນກັບບົດຄວາມທີ່ມີການໂຕ້ຕອບຫນ້ອຍໃນລະຫວ່າງການຝຶກອົບຮົມ. ເພື່ອໃຫ້ໄດ້ຮັບການຝັງຕົວຂອງບົດຄວາມດັ່ງກ່າວຢ່າງໄວວາ, ພວກເຮົາໃຊ້ການຝັງຜູ້ໃຊ້ທີ່ໄດ້ຮັບໃນລະຫວ່າງການຝຶກອົບຮົມຂະຫນາດໃຫຍ່ຄັ້ງທໍາອິດຂອງຕົວແບບແລະເຮັດຂັ້ນຕອນ ALS ເພື່ອຄິດໄລ່ຕາຕະລາງເອກະສານທີ່ກໍານົດມາຕຣິກເບື້ອງຜູ້ໃຊ້ຄົງທີ່. ນີ້ອະນຸຍາດໃຫ້ທ່ານໄດ້ຮັບການຝັງຂ້ອນຂ້າງໄວ - ພາຍໃນສອງສາມນາທີຫຼັງຈາກເອກະສານໄດ້ຖືກຈັດພີມມາ - ແລະມັກຈະປັບປຸງການຝັງຂອງເອກະສານທີ່ຜ່ານມາ.

ເພື່ອເຮັດໃຫ້ການແນະນໍາທັນທີຄໍານຶງເຖິງການກະທໍາຂອງມະນຸດ, ໃນ runtime ພວກເຮົາບໍ່ໄດ້ໃຊ້ການຝັງຜູ້ໃຊ້ທີ່ໄດ້ຮັບອອຟໄລ. ແທນທີ່ຈະ, ພວກເຮົາເຮັດຂັ້ນຕອນ ALS ແລະໄດ້ຮັບ vector ຜູ້ໃຊ້ຕົວຈິງ.

ໂອນໄປຫາພື້ນທີ່ໂດເມນອື່ນ

ວິທີການໃຊ້ຄໍາຕິຊົມຂອງຜູ້ໃຊ້ກ່ຽວກັບຂໍ້ຄວາມເພື່ອສ້າງຕົວສະແດງ vector ຂອງວິດີໂອ?

ໃນເບື້ອງຕົ້ນ, ພວກເຮົາແນະນໍາພຽງແຕ່ບົດຄວາມຂໍ້ຄວາມ, ດັ່ງນັ້ນຫຼາຍ algorithms ຂອງພວກເຮົາແມ່ນເຫມາະສົມກັບປະເພດຂອງເນື້ອຫານີ້. ແຕ່ເມື່ອເພີ່ມເນື້ອຫາປະເພດອື່ນໆ, ພວກເຮົາປະເຊີນກັບຄວາມຕ້ອງການທີ່ຈະປັບຕົວແບບ. ພວກເຮົາໄດ້ແກ້ໄຂບັນຫານີ້ແນວໃດໂດຍໃຊ້ຕົວຢ່າງວິດີໂອ? ທາງ​ເລືອກ​ຫນຶ່ງ​ແມ່ນ​ເພື່ອ​ຟື້ນ​ຕົວ​ແບບ​ທັງ​ຫມົດ​ຈາກ scratch​. ແຕ່ນີ້ໃຊ້ເວລາດົນ, ແລະບາງ algorithms ຕ້ອງການກ່ຽວກັບຂະຫນາດຂອງຕົວຢ່າງການຝຶກອົບຮົມ, ເຊິ່ງຍັງບໍ່ທັນມີຢູ່ໃນປະລິມານທີ່ຕ້ອງການສໍາລັບປະເພດໃຫມ່ຂອງເນື້ອຫາໃນຊ່ວງເວລາທໍາອິດຂອງຊີວິດໃນການບໍລິການ.

ພວກ​ເຮົາ​ໄດ້​ໄປ​ທາງ​ອື່ນ​ແລະ​ນໍາ​ໃຊ້​ໃຫມ່​ຕົວ​ແບບ​ຂໍ້​ຄວາມ​ສໍາ​ລັບ​ວິ​ດີ​ໂອ​ໄດ້​. ເຄັດລັບ ALS ດຽວກັນໄດ້ຊ່ວຍພວກເຮົາສ້າງຕົວແທນ vector ຂອງວິດີໂອ. ພວກ​ເຮົາ​ໄດ້​ຮັບ​ການ​ເປັນ vector ຕົວ​ແທນ​ຂອງ​ຜູ້​ຊົມ​ໃຊ້​ໂດຍ​ອີງ​ໃສ່​ບົດ​ຄວາມ​ແລະ​ເຮັດ​ຂັ້ນ​ຕອນ ALS ໂດຍ​ນໍາ​ໃຊ້​ຂໍ້​ມູນ​ການ​ເບິ່ງ​ວິ​ດີ​ໂອ​. ດັ່ງນັ້ນພວກເຮົາໄດ້ຢ່າງງ່າຍດາຍໄດ້ຮັບການເປັນຕົວແທນ vector ຂອງວິດີໂອ. ແລະໃນເວລາແລ່ນພວກເຮົາພຽງແຕ່ຄິດໄລ່ຄວາມໃກ້ຊິດລະຫວ່າງ vector ຜູ້ໃຊ້ທີ່ໄດ້ຮັບຈາກບົດຄວາມຂໍ້ຄວາມແລະ vector ວິດີໂອ.

ສະຫລຸບ

ການພັດທະນາຫຼັກຂອງລະບົບການແນະນໍາໃນເວລາທີ່ແທ້ຈິງກ່ຽວຂ້ອງກັບສິ່ງທ້າທາຍຫຼາຍ. ທ່ານຈໍາເປັນຕ້ອງປະມວນຜົນຂໍ້ມູນຢ່າງໄວວາແລະນໍາໃຊ້ວິທີການ ML ເພື່ອນໍາໃຊ້ຂໍ້ມູນນີ້ຢ່າງມີປະສິດທິພາບ; ສ້າງລະບົບການແຈກຢາຍທີ່ຊັບຊ້ອນສາມາດປະມວນຜົນສັນຍານຂອງຜູ້ໃຊ້ແລະຫນ່ວຍງານໃຫມ່ຂອງເນື້ອຫາໃນເວລາຕໍາ່ສຸດທີ່; ແລະ​ວຽກ​ງານ​ອື່ນໆ​ຈໍາ​ນວນ​ຫຼາຍ​.

ໃນລະບົບປະຈຸບັນ, ການອອກແບບທີ່ຂ້ອຍໄດ້ອະທິບາຍ, ຄຸນນະພາບຂອງຄໍາແນະນໍາສໍາລັບຜູ້ໃຊ້ເຕີບໂຕພ້ອມກັບກິດຈະກໍາແລະຄວາມຍາວຂອງລາວໃນການບໍລິການ. ແຕ່ແນ່ນອນ, ນີ້ແມ່ນຄວາມຫຍຸ້ງຍາກຕົ້ນຕໍ: ມັນເປັນການຍາກສໍາລັບລະບົບທີ່ຈະເຂົ້າໃຈເຖິງຜົນປະໂຫຍດຂອງບຸກຄົນທີ່ມີການໂຕ້ຕອບຫນ້ອຍກັບເນື້ອຫາ. ການປັບປຸງຄໍາແນະນໍາສໍາລັບຜູ້ໃຊ້ໃຫມ່ແມ່ນເປົ້າຫມາຍສໍາຄັນຂອງພວກເຮົາ. ພວກເຮົາຈະສືບຕໍ່ປັບປຸງສູດການຄິດໄລ່ເພື່ອໃຫ້ເນື້ອຫາທີ່ກ່ຽວຂ້ອງກັບບຸກຄົນເຂົ້າໄປໃນຟີດຂອງລາວໄວຂຶ້ນ, ແລະເນື້ອຫາທີ່ບໍ່ກ່ຽວຂ້ອງຈະບໍ່ສະແດງ.

ແຫຼ່ງຂໍ້ມູນ: www.habr.com